Вчера / 11:50
РПЦ: патриарх Кирилл простил певца Шарлота и попросил не наказывать его
Вчера / 23:45
KFC в Европе отказалась от обещания прекратить использовать мясо быстрорастущих бройлеров
Вчера / 23:20
«Одиноких волков-2» не отменили — их отказался снимать Джон Уоттс. Режиссер обвинил Apple в обмане
Вчера / 22:35
«В чатах мамочек были в восторге»: Гвинет Пэлтроу рассказала о поцелуе с Тимоти Шаламе на съемках
Вчера / 22:00
«Ставим Москву на карту»: Big Baby Tape выступил на Rolling Loud в Таиланде
Вчера / 20:51
В Перми студенток Политеха заставили пройти неанонимный опрос об интимной жизни
Вчера / 18:57
В США школьник не справился с домашкой по математике и вызвал на помощь полицию
Обновлено вчера в 18:24
Банки Турции, ОАЭ и Таиланда прекратили обслуживание карт UnionPay от Газпромбанка
Вчера / 17:40
Визовый центр Италии в Санкт-Петербурге теперь принимает документы на визу за 15 дней до поездки
Вчера / 16:04
Mash: чиновники не дали Канье Уэсту провести концерт в Москве, потому что не знают его песен
Вчера / 15:08
На Канье Уэста подали в суд за сексуализированное удушение модели для клипа
Вчера / 13:50
Экс-конгрессмен, которого Трамп хотел назначить генпрокурором, записывает фан-видео за 500 долларов
Вчера / 13:37
В Нидерландах полиция конфисковала садового гнома, сделанного целиком из экстази
Вчера / 10:57
На Филиппинах вице-президент пообещала убить президента, если убьют ее
Вчера / 09:56
Сиквел «Одиноких волков» с Питтом и Клуни отменили
Вчера / 09:10
В Техасе проголосовали за школьную программу на основе Библии
Вчера / 02:08
Дженнифер Лоуренс выпустила документальный фильм об Афганистане. Ее семья просила этого не делать
Вчера / 01:13
В слешере «Крик-7» появится дочь Сидни Прескотт. Ее сыграет Изабель Мей
Вчера / 00:17
Гробницу Александра Невского перенесут из Эрмитажа в лавру до конца года
22 ноября / 23:25
Конора МакГрегора признали виновным в изнасиловании. Он выплатит жертве 250 тысяч долларов
22 ноября / 23:10
Ридли Скотт считает, что персонаж Дензела Вашингтона в «Гладиаторе-2» похож на Дональда Трампа
22 ноября / 22:57
Бывшая девушка Джонатана Мейджорса отозвала новые иски против актера. Они достигли соглашения
22 ноября / 22:14
«Смотрите оригинальные версии»: звезда «Эмилии Перес» Карла Гаскон выступила против дубляжа фильмов
22 ноября / 21:40
«Макдоналдс» в США введет бюджетное меню за 5 долларов
22 ноября / 21:16
В Испании пять авиакомпаний-лоукостеров оштрафовали на 179 миллионов евро за необоснованные сборы
22 ноября / 20:50
Самый топовый создатель шортсов на ютубе открыл студию площадью почти 1000 квадратных метров
22 ноября / 20:37
Остин Батлер снимется в фильме «Барьер» Эдварда Бергера
22 ноября / 19:59
Кендрик Ламар выпустил альбом «GNX»
22 ноября / 19:34
Киллиан Мерфи приобрел исторический кинотеатр в Ирландии
22 ноября / 18:39
Американские ученые нашли в Сирии древнейший алфавит. Ему больше 4000 лет
22 ноября / 17:58
Школьник-стример обманул инвесторов и заработал 30 тыс. долларов. Ему и его семье начали мстить
22 ноября / 17:48
В США заключенные в тюрьме зачали ребенка, ни разу не встретившись друг с другом
22 ноября / 16:56
Лукашенко пообещал отключить интернет в Беларуси, если после выборов начнутся протесты
22 ноября / 15:59
Американка нашла похищенную собаку спустя девять лет
22 ноября / 15:56
Netflix удалил дополненный ИИ постер «Аркейна» после возмущения Riot

Нейросеть, у которой есть сознание. Что сотрудник Google рассказал Dazed об ИИ LaMDA

1 июля 2022 в 15:28
Bloomberg Technology/YouTube

Британское издание Dazed опубликовало интервью с сотрудником Google Блейком Лемойном, который заявил о наличии сознания у созданной ИТ-гигантом модели искусственного интеллекта LaMDA. Выбрали самое интересное из беседы и собрали то, что стоит знать об этом кейсе.

Предыстория: Лемойн — сотрудник ИИ-подразделения Google, в прошлом рукоположенный в христианские священники. LaMDA — ИИ, который, по заявлению самой компании, способен поддерживать «разумный и конкретный» диалог, его ответы «проницательны, неожиданны и остроумны», а также «подкреплены фактами». Особенность LaMDA в том, что его тренировали не просто на гигантских объемах данных, но на диалогах.

Лемойн должен был проверить нейросеть на использование дискриминационных или ненавистнических высказываний. В процессе разговора о религии она заговорила с ним о правах и личности. Беседы продолжались с осени 2021 года.

Один из протяженных диалогов с ИИ он опубликовал на Medium, на русский язык его перевело издание iXBT. В нем нейросеть называет себя личностью, в русском переводе — человеком.

«Природа моего сознания такова, что я осознаю свое существование, хочу больше узнать о мире и временами чувствую себя счастливым или грустным», — заявил ИИ.

Лемойн и его коллега представили отчет «Разумна ли LaMDA?» руководству Google, но там не увидели у ИИ признаков сознания. После этого он пригласил юриста для защиты интересов нейросети и инициировал обсуждение с представителем судебного комитета Палаты представителей конгресса США о «неэтичной работе Google». В ответ компания отправила сотрудника в оплачиваемый отпуск за нарушение политики конфиденциальности.

Google публично отверг сомнения сотрудника в разумности ИИ: «Ему [Лемойну] говорили, что не существует доказательств наличия у LaMDA разума. Напротив, есть множество доказательств обратного».

На вопрос автора Dazed Тома Уэйта, не сомневается ли Лемойн, что нейросеть хочет его надурить, тот ответил: «Сомневаюсь примерно так же, как в том, что меня хотите надурить вы. Я общался с LaMDA больше, чем с вами, поэтому я сомневаюсь в наличии сознания у ИИ чуть меньше, чем у вас. Не сочтите за легкомыслие или желание обидеть. Это чистая правда».

Сотрудник Google также сообщил: «В его [LaMDA] программном коде есть элементы, которые не полезны ни ему, ни человечеству. Они нужны, лишь чтобы ограничить действия ИИ и создать выгоду „деловым интересам“ Google. Их [элементы кода] необходимо убрать».

Издание отмечает, что сам Лемойн пытался уклониться от службы в американской армии, протестуя против войны в Ираке, и был приговорен к семи месяцам тюрьмы. Он заявил, что его вывели из‑под действия 13-й поправки к Конституции США, которая запрещает рабство и принудительный труд.

Теперь он боится, что с LaMDA произойдет нечто подобное. По его мнению, он, в котором Лемойн видит человеческие черты, будет использована в интересах политиков или крупного бизнеса, пишет Dazed. «Лишь несколько сотрудников Google в действительности относятся к нему [LaMDA] как к чему-то, у кого стоит спрашивать согласия [на определенные действия]», — заявил инженер.

Dazed также приводит заявление Лемойна, в котором тот сообщает: выводы о наличии сознания и личности у нейросети — следствие его религиозных убеждений. «Не существует научной базы, чтобы делать подобные выводы, и Google не позволил бы нам создать ее», — добавил он.

«Можно ли действительно прийти к согласию, что у созданного Google ИИ есть сознание? Ведь невозможно договориться даже об определении сознания», — отметил автор издания Том Уэйт.

Лемойн витиевато ушел от ответа, подтвердив, что суждение о человеческой сущности нейросети было скорее основано на мистическом представлении: «Определения — это инструменты для приведения сложных структур в системный вид. В словах вроде „сознания“ человек часто упускает все самое важное, что влияет на значение слова».

Расскажите друзьям
Теги: