Илон Маск, Стив Возняк и более 1000 других экспертов призвали приостановить разработку продвинутых ИИ

Илон Маск, Стив Возняк и более 1000 других экспертов в области искусственного интеллекта и IT подписали открытое письмо, призывающее сделать паузу на полгода в разработке более продвинутых ИИ, чем GPT-4 от OpenAI. Об этом пишет Reuters.

В письме, опубликованном некоммерческой организацией Future of Life, говорится об опасностях, которые потенциально могут нести человечеству продвинутые ИИ. 

«Современные системы искусственного интеллекта становятся конкурентоспособными с людьми при решении любых задач. Должны ли мы позволять машинам наводнять наши информационные каналы неправдой? Должны ли мы автоматизировать все рабочие места?

Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий», — говорится в письме. 

В письме сказано, что продвинутые системы ИИ следует разрабатывать только тогда, когда появится уверенность в положительном эффекте от них, а риски станут управляемыми. Паузу предлагается использовать для разработки и внедрения набора общих протоколов безопасности. Эти протоколы должны гарантировать, что системы, придерживающиеся их, «вне всяких разумных сомнений безопасны». 

«Это не означает паузу в развитии ИИ в целом, а просто шаг назад от опасной гонки к всё более непредсказуемым последствиям», — говорится в письме. 

По мнению авторов письма, никто, даже создатели продвинутых ИИ, на данный момент не обладают полным контролем над своими детищами. Это нужно менять. Разработчики должны сотрудничать с политиками, чтобы ускорить создание надёжных систем контроля ИИ. 

Сэм Альтман, исполнительный директор OpenAI, не подписал письмо, сообщил Reuters представитель Future of Life. Критики письма говорят, что утверждения о текущем потенциале технологии сильно преувеличены.