С каждым годом нейросети становятся более совершенными, а некоторые из них начинают подавать первые признаки того, что в дальнейшем могут обзавестись сознанием. Как в таком случае относиться к уничтожению такой системы и можно ли этот процесс сравнить с убийством живого существа?
Многие ученые спорят на этот счет, но есть и те, кто считает, что в будущем человечеству придется разработать принципы, включающие в себя пресечение «жестокого обращения и страданий» ИИ.
Такой подход обязывает ученых поэтапно подходить к созданию более совершенных нейросетей, которые попытаются себя идентифицировать как личность или хотя бы будут делать вид, что таковыми являются. По мнению Патрика Батлина из Оксфордского университета и Теодороса Лаппаса из Афинского университета экономики и бизнеса, подобные рекомендации будут важны в том числе и для тех, кто не намерен разрабатывать подобные ИИ, но случайно получил именно такой результат.
По данным The Guardian, к 2035 году человечество вполне сможет изобрести такую нейросеть, которая станет более сознательной и «морально значимой». Как тогда поступать с ней, если она начнет жить обособленно от мнения человека?
Точного ответа на этот вопрос нет. Человечество не сталкивалось ни с чем подобным никогда, поэтому единого решения тем более в короткие сроки найти нашей цивилизации не удастся.
Однако ученые все чаще сходятся во мнении, что в будущем человечество создаст такой ИИ, который будет мыслить в какой-то степени как человек. Вполне возможно, что он будет обладать неким подобием сознания, но оно явно будет отличаться от человеческого, и, вероятно, будет более управляемым.
