Основатель SpaceX Илон Маск и соучредитель Apple Стив Возняк подписали письмо, совместно с тысячью иных экспертов, с просьбой приостановить обучение неросетей из-за грядущей угрозы.
В письме эксперты и главы ведущих компаний просят приостановить развитие искусственного интеллекта хотя бы на полгода. Запретить его развитие нельзя, но его необходимо замедлить и дать человечеству время себя обезопасить.
Пока не будут выработаны протоколы общей безопасности для экстренной остановки нейросетей и защиты людей от их вмешательства — ИИ несет огромные риски обществу. Письмо более чем 1100 экспертов требует остановить обучение более мощных чем GPT-4 систем.
Популяризатор науки, издатель N+1 Андрей Коняев придерживается мнения, что развитие ИИ приведет к повсеместному использованию созданных алгоритмами материалов и документов. Нейросети не отвечают юридически или как иначе за созданные тексты, изображения и документы, сами же материалы могут содержать искажение фактов, которым поверят.
Интересы ИИ могут разойтись с человеческими, общие для людей ценности ему не прописали, алгоритм даже не понимает, что ложной информацией может нанести вред. Безопасность людей в руках машин также под угрозой, если управляющий городскими сетями интеллект создаст оптимальную схему передвижения, но она не будет понятна человеку, то в городе начнется хаос.
Одно из решений — ограничить принятие решений ИИ и верификация каждого его действия. Другое — попытка обучить искусственный мозг мыслить по-человечески, дать ему эфемерные понятия, что пока не представляется возможным. О пугающем развитии ИИ и попытках вразумить разработчиков сообщает Forbes.
