Разработчик Google обнаружил признаки собственного разума у ИИ LaMDA
Сотрудника отстранили от работы, представители опровергают наличие разума у алгоритма.
Инженер по программному обеспечению Google Блейк Леймон обнаружил признаки собственного сознания у системы искусственного интеллекта LaMDA, разрабатываемой в Google. Об этом пишет газета The Washington Post.
LaMDA (Language Model for Dialogue Applications) — чат-бот, способный поддерживать разговор на свободную тему. Он основан на ИИ-архитектуре Transformer, выпущенной Google в 2017 году.
Леймон отслеживал поведение LaMDA с осени 2021 года: он проверял, может ли чат-бот ответить с использованием слов, разжигающих вражду или дискриминацию. В ходе тестирования разработчик пришёл к выводу, что ИИ считает себя самостоятельной личностью и рассуждает о своих правах.
«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики», — Блейк Леймон, разработчик Google
Сотрудник Google пытался предоставить руководству свидетельства разумности LaMDA. Однако разработчика отстранили от работы и отправили в отпуск. Представитель Google Брайан Гэбриэл заявил, что факт наличия разума у программы опровергает «множество доказательств».