Компания Google приняла решение временно отстранить Блейка Лемойна, инженера по программному обеспечению, после его заявления о том, что нейросетевой искусственный интеллект LaMDA может обладать сознанием. Эта новость была опубликована в газете, вызвав волну обсуждений в сообществе, занимающемся ИИ.
🧠 Блейк Лемойн с осени прошлого года занимался тестированием языковой модели LaMDA. Его работа заключалась в том, чтобы контролировать, не использует ли чат-бот дискриминационную или провокационную лексику. Однако программист постепенно пришел к мнению, что LaMDA обладает сознанием. «Я бы подумал, что говорю с ребенком семь или восемь лет, если бы не знал, что это программа, написанная нами», — отметил он в интервью.
Лемойн попытался доказать своё предположение экспериментально и подготовил письменный отчёт для руководства. Однако компания признала его аргументы несостоятельными. Представитель Google заявил, что текущие языковые модели не обладают осознанием, несмотря на впечатление, которое они могут производить.
Отстранение и его последствия
🔥 На фоне этого Google также заподозрила инженера в нарушении политики конфиденциальности компании. Лемойн консультировался с внешними экспертами и даже связался с юридическим комитетом Конгресса США, чтобы обсудить возможные этические нарушения Google. Он также полагался на юриста, чтобы представлять интересы LaMDA как разумного существа.
В результате этих действий инженер был временно отстранен от работы и отправлен в оплачиваемый отпуск. После этого он публично высказал свои опасения в интервью. Однако Google подчеркнула, что Лемойн является инженером, а не специалистом по этике искусственного интеллекта, и что его мнение о сознании LaMDA базируется на иллюзии, вызванной огромными объемами данных, с которыми работает ИИ.
Комментарии