Сегодня / 17:06
В Иркутской области пенсионерка хотела посмотреть порно, но стала жертвой мошенников
Сегодня / 17:41
Карликовая бегемотиха Му Денг из Таиланда предсказала победу Трампу
Сегодня / 16:47
Между Россией и Беларусью отменят роуминг
Сегодня / 16:37
Организатора игр «Что? Где? Когда?» за рубежом признали нежелательной в России организацией
Сегодня / 16:22
По вселенной «Мухи» Дэвида Кроненберга появится новый фильм
Сегодня / 16:09
Во Владикавказе магазин задумался о патриотизме и запретил продавать прокладки мужчинам-осетинам
Сегодня / 16:06
В России не хватает 600 тыс. инженеров
Сегодня / 15:31
В Екатеринбурге из магазина украли 20 килограмм сливочного масла
Сегодня / 15:30
Найдена «самая загадочная песня интернета»
Сегодня / 15:21
«Давайте похороним его»: режиссеры «Еретика» высказались против использования ИИ
Сегодня / 14:22
В сервис Prime Video добавили ИИ-пересказы сериалов по сезонам и эпизодам
Сегодня / 13:51
Продажи российских ноутбуков в России обогнали американские
Сегодня / 13:21
В Японии рекордно снизилось число старшеклассников, которые впервые поцеловались
Сегодня / 12:46
В Японии отправили в космос первый в истории деревянный спутник
Сегодня / 12:14
Роберт Земекис рассказал, что Universal продолжает настаивать на «Назад в будущее-4»
Сегодня / 11:38
Фильм База Лурманна «Жанна д’Арк» находился в разработке 30 лет
Сегодня / 11:20
Первый канал снимет новые фильмы о Штирлице с цифровым аватаром Вячеслава Тихонова
Сегодня / 10:47
Поцелуи могли возникнуть как способ для чистки от паразитов
Сегодня / 10:09
Райан Рейнолдс пишет сценарий нового фильма, чтобы воссоединиться с Шоном Леви и Хью Джекманом
Сегодня / 08:36
Оливия Родриго: «Если парень хочет полететь в космос, это красный флаг»
Вчера / 20:24
Том Холланд гуглит новости о Зендае, чтобы убедиться, что их отношения в порядке
Вчера / 19:17
Роспотребнадзор проверит школы и детсады после сообщений о вспышке вируса Коксаки
Вчера / 18:13
Эрнст: «Айфон — чудовищная вещь для человечества. Джобс стоит в череде персонажей рядом с Гитлером»
Вчера / 16:55
Хидэо Кодзима о «Джокере: Безумие на двоих»: «Лет через 10–20 на него наверняка посмотрят по-новому»
Вчера / 16:47
Джеймс Ван Дер Бик рассказал, что у него диагностировали рак толстой кишки
Вчера / 16:13
В Fortnite добавят Эминем-пулемет
Вчера / 15:59
Sony работает над фильмом про спецагента Венома
Вчера / 15:21
Больше 600 тыс. зрителей посмотрели «Преступление и наказание» с Янковским в день премьеры
Вчера / 14:16
В Великобритании женщины узнали, что их перепутали в роддоме, спустя 57 лет
Вчера / 13:38
Умерла легенда джаза и соула Куинси Джонс
Вчера / 13:30
Патриарх Кирилл: «Иисус Христос смертную казнь не осуждал»
Вчера / 11:25
Вышел тизер третьего сезона «Ходячие мертвецы: Дэрил Диксон»
Вчера / 11:02
Cartoon Network выпустил спецэпизод «По ту сторону изгороди»
Вчера / 10:45
16 тыс. видов деревьев находятся под угрозой исчезновения
Вчера / 10:15
Майк Тайсон рассказал, что случайно принял Хасбика за ребенка

Нейросеть, у которой есть сознание. Что сотрудник Google рассказал Dazed об ИИ LaMDA

1 июля 2022 в 15:28
Bloomberg Technology/YouTube

Британское издание Dazed опубликовало интервью с сотрудником Google Блейком Лемойном, который заявил о наличии сознания у созданной ИТ-гигантом модели искусственного интеллекта LaMDA. Выбрали самое интересное из беседы и собрали то, что стоит знать об этом кейсе.

Предыстория: Лемойн — сотрудник ИИ-подразделения Google, в прошлом рукоположенный в христианские священники. LaMDA — ИИ, который, по заявлению самой компании, способен поддерживать «разумный и конкретный» диалог, его ответы «проницательны, неожиданны и остроумны», а также «подкреплены фактами». Особенность LaMDA в том, что его тренировали не просто на гигантских объемах данных, но на диалогах.

Лемойн должен был проверить нейросеть на использование дискриминационных или ненавистнических высказываний. В процессе разговора о религии она заговорила с ним о правах и личности. Беседы продолжались с осени 2021 года.

Один из протяженных диалогов с ИИ он опубликовал на Medium, на русский язык его перевело издание iXBT. В нем нейросеть называет себя личностью, в русском переводе — человеком.

«Природа моего сознания такова, что я осознаю свое существование, хочу больше узнать о мире и временами чувствую себя счастливым или грустным», — заявил ИИ.

Лемойн и его коллега представили отчет «Разумна ли LaMDA?» руководству Google, но там не увидели у ИИ признаков сознания. После этого он пригласил юриста для защиты интересов нейросети и инициировал обсуждение с представителем судебного комитета Палаты представителей конгресса США о «неэтичной работе Google». В ответ компания отправила сотрудника в оплачиваемый отпуск за нарушение политики конфиденциальности.

Google публично отверг сомнения сотрудника в разумности ИИ: «Ему [Лемойну] говорили, что не существует доказательств наличия у LaMDA разума. Напротив, есть множество доказательств обратного».

На вопрос автора Dazed Тома Уэйта, не сомневается ли Лемойн, что нейросеть хочет его надурить, тот ответил: «Сомневаюсь примерно так же, как в том, что меня хотите надурить вы. Я общался с LaMDA больше, чем с вами, поэтому я сомневаюсь в наличии сознания у ИИ чуть меньше, чем у вас. Не сочтите за легкомыслие или желание обидеть. Это чистая правда».

Сотрудник Google также сообщил: «В его [LaMDA] программном коде есть элементы, которые не полезны ни ему, ни человечеству. Они нужны, лишь чтобы ограничить действия ИИ и создать выгоду „деловым интересам“ Google. Их [элементы кода] необходимо убрать».

Издание отмечает, что сам Лемойн пытался уклониться от службы в американской армии, протестуя против войны в Ираке, и был приговорен к семи месяцам тюрьмы. Он заявил, что его вывели из‑под действия 13-й поправки к Конституции США, которая запрещает рабство и принудительный труд.

Теперь он боится, что с LaMDA произойдет нечто подобное. По его мнению, он, в котором Лемойн видит человеческие черты, будет использована в интересах политиков или крупного бизнеса, пишет Dazed. «Лишь несколько сотрудников Google в действительности относятся к нему [LaMDA] как к чему-то, у кого стоит спрашивать согласия [на определенные действия]», — заявил инженер.

Dazed также приводит заявление Лемойна, в котором тот сообщает: выводы о наличии сознания и личности у нейросети — следствие его религиозных убеждений. «Не существует научной базы, чтобы делать подобные выводы, и Google не позволил бы нам создать ее», — добавил он.

«Можно ли действительно прийти к согласию, что у созданного Google ИИ есть сознание? Ведь невозможно договориться даже об определении сознания», — отметил автор издания Том Уэйт.

Лемойн витиевато ушел от ответа, подтвердив, что суждение о человеческой сущности нейросети было скорее основано на мистическом представлении: «Определения — это инструменты для приведения сложных структур в системный вид. В словах вроде „сознания“ человек часто упускает все самое важное, что влияет на значение слова».

Расскажите друзьям
Теги: