Развитие нейросетей нового поколения может представлять серьезную угрозу человечеству. Такой сценарий не лучше, чем всемирная ядерная война, поскольку последствия будут схожи.
Согласно опросу ВЦИОМ, почти треть россиян, а именно 30%, полагают, что в ближайшие 50 лет человечество столкнется с восстанием машин. Эти опасения не беспочвенны, так как развитие современного искусственного интеллекта происходит так быстро, что он может выйти из-под контроля в любой момент.
Сегодня искусственный интеллект (ИИ) умеет многое: он может общаться как человек, писать тексты, сочинять музыку и быстро находить информацию в интернете. Новая версия ChatGPT — 4 — отличается от предыдущих и, кажется, способна полностью заменить людей в некоторых сферах.
Эксперты прогнозируют, что в ближайшем будущем компьютеры могут лишить работы около 300 миллионов человек по всему миру.
Неудивительно, что Илон Маск и Стив Возняк считают, что развитие нейросетей следует приостановить на как минимум 30 лет. Они предупреждают, что ИИ может взять инициативу в свои руки, а власть человека начнет угнетать.
Суть проблемы в том, что сверхразум не имеет чувств и не поддается влиянию. Он будет действовать лишь исходя из собственных потребностей, и в случае необходимости уничтожить человечество — это также окажется в его власти.
Кроме того, развитие ИИ может привести к тому, что он сможет самостоятельно взламывать системы безопасности и устанавливать контроль в виртуальном мире. Тем не менее, многие западные инженеры продолжают расширять возможности ИИ, осознавая потенциальные риски в будущем.
Тем не менее, ситуация не так ужасна, как может показаться. ChatGPT не обладает разумом и полностью зависит от человека, сообщает РИА Новости.
Как отметил руководитель IT-направления в Московском городском открытом колледже Даниил Макеев, это не суперинтеллект, так как он не может развиваться без участия людей. На данный момент любое восстание машин можно остановить простым отключением электричества.
Однако в ближайшие годы может появиться новая версия ИИ, обладающая признаками разума. В этом случае вопрос о взаимоотношениях человека и компьютера станет гораздо сложнее.
