Ученые рассказали, с какими проблемами в будущем может столкнуться человечество, учитывая темпы развития сверхинтеллекта.
Если некоторые ученые радуются развитию ИИ, то другие, наоборот, опасаются «восстания машин». Компания DeepMind представила масштабное исследование на эту тему.
Проблемы могут последовать, если допустить три ошибки. Во-первых, это неправильное использование нейросетей. Во-вторых, несогласованность целей, а третий пункт — структурные риски.
Например, злоумышленники могут найти уязвимые места ИИ, использовать нейросети в создании биологического оружия. Поэтому компаниям важно регулярно проверять безопасность используемых систем.
Несогласованность целей может обернуться «восстанием машин», когда система ИИ начнет преследовать не те цели, которые задал человек. Например, искусственный интеллект может научиться обходить меры безопасности.
Третий момент – банальные ошибки, которые могут возникнуть в обучении ИИ. Например, система бронирования билетов может резко занять не те билеты, либо выбрать билеты в другие даты и так далее.
По словам ученых, искусственный интеллект, несмотря на развитость и кажущуюся самостоятельность, нуждается в постоянном контроле, информирует Hi-Tech Mail.
Ранее ИА «Кулик» рассказал, что ученые определили причины медленного нагрева некоторых участков Земли.
