Компания Google временно отстранила от работы инженера по программному обеспечению Блейка Лемойна, который считает, что созданный компаний искусственный интеллект (ИИ) LaMDA обладает собственным сознанием, пишет газета The Washington Post.
По данным издания, разработчик с осени 2021 года занимался тестированием нейросетевой языковой модели LaMDA. Его задачей было отслеживать, не использует ли чат-бот дискриминационную или разжигающую вражду лексику. Однако в ходе выполнения этой задачи Лемойн начал все больше укрепляться в мысли, что ИИ, с которым он имеет дело, обладает собственным сознанием и воспринимает себя как личность.
"Если бы я не знал наверняка, что имею дело с недавно написанной компьютерной программой, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики", - сказал программист в интервью газете. "Я могу узнать разумное существо, когда говорю с ним. И не важно, мозг ли у него в голове или миллиарды строчек кода", - отметил он.
В материале указывается, что Лемойн сначала лично для себя пришел к выводу, что ИИ, с которым он имеет дело, является разумным, а затем поставил себе задачу доказать это экспериментально, чтобы представить данные руководству. По итогам разработчик подготовил письменный отчет. Однако начальство сочло его аргументацию не слишком убедительной. "Наша команда, в том числе специалисты по этике и технические специалисты, провела обзор представленных Блейком опасений в соответствии с принципами, которые мы применяем к ИИ, и мы проинформировали его, что имеющиеся свидетельства не подтверждают его гипотезу. Ему было сказано, что свидетельства того, что LaMDA обладает сознанием, отсутствуют. При этом есть множество свидетельств обратного", - следует из заявления официального представителя Google Брайана Гэбриела.
Вместе с тем Google заподозрила Лемойна в нарушении политики конфиденциальности компании. Выяснилось, что во время своих экспериментов с ИИ он консультировался со сторонними экспертами, а также представителями юридического комитета Палаты представителей Конгресса США. В связи с этим Лемойн был временно отстранен от работы и отправлен в оплачиваемый отпуск. После этого он решил дать интервью The Washington Post.
Руководство Лемойна полагает, что он поддался собственной иллюзии вследствие того, что созданная компанией нейросеть на самом деле может производить впечатление разумного существа при общении с ней. Однако объясняется это лишь огромным массивом загруженных в нее данных, подчеркнули в Google.
