Вчера / 15:05
МУС выдал ордер на арест премьер-министра Израиля Биньямина Нетаньяху
Сегодня / 09:49
Джош Бролин заявил, что бросит кино, если Дени Вильнева не номинируют на «Оскар»
Сегодня / 09:14
Пациентка обвинила алжирского писателя в использовании ее истории в романе
Сегодня / 08:53
«Предложение, от которого нельзя отказаться»: В Сицилии бизнесмену подкинули голову лошади
Сегодня / 01:54
Сэмюэль Л. Джексон намерен сняться в секретном фильме Джея Джея Абрамса
Сегодня / 01:27
Самая высокая и самая низкая женщины в мире встретились в Лондоне на чаепитии
Сегодня / 00:50
В Лаосе пять туристов скончались после коктейлей с метанолом
Сегодня / 00:08
Рэпер Гуф снимет фильм о себе после выхода из рехаба и отправится в прощальный тур
Вчера / 23:15
Боб Дилан назвал смешной историю о том, что он якобы запретил танцовщицам смотреть в его глаза
Вчера / 22:58
Режиссер «Точки кипения» Филип Барантини снимет фильм «Энола Холмс 3»
Вчера / 22:45
Церковь в Швеции запустила аватар Иисуса на базе ИИ
Вчера / 22:15
Себастиан Стэн заявил, что голливудские звезды боятся Трампа
Вчера / 21:50
Ученые обнаружили, что у неандертальцев было абстрактное мышление
Вчера / 21:08
Первая заместительница Эльвиры Набиуллиной уволилась из Центробанка
Вчера / 20:58
Pixar показала тизер «Элио»
Вчера / 20:50
Путин заявил, что «конфликт в Украине» приобрел «элементы глобального»
Вчера / 20:03
СМИ: телеведущая Эллен ДеДженерес уехала из США после победы Трампа на выборах
Вчера / 19:00
В Южной Корее девушку заставили раздеться и показать гигиеническую прокладку на досмотре в аэропорту
Вчера / 18:57
«Короля Талсы» могут продлить сразу на два сезона
Вчера / 18:15
Экс-худрук Большого театра Алексей Ратманский подписал контракт с Национальным балетом Нидерландов
Вчера / 18:09
Илон Маск поставил рекорд по скоростному прохождению в Diablo-4
Вчера / 17:51
A24 показала трейлер «Партенопы» — нового фильма Паоло Соррентино
Вчера / 16:57
Руководители «Афиши» рассказали о пользе спецпроектов и организации фестивалей
Вчера / 16:50
В американском городе взорвут старый отель на Новый год
Вчера / 16:32
Вышел трейлер «Уоллес и Громит: Самая дикая месть»
Вчера / 16:05
Vanity Fair нашел «тайную музу» Кормака МакКарти. Они начали отношения, когда ему было 42, а ей 16
Вчера / 15:45
Новый «Ведьмак» расскажет о молодом Геральте
Вчера / 15:33
Исполнительница роли Милхауса Памела Хейден заявила об уходе из «Симпсонов»
Вчера / 15:13
Американка жаловалась на звуки животных под домом. Оказалось, их издавал голый мужчина
Вчера / 13:50
Минцифры хочет отправить айтишников педагогами в вузы, чтобы их компании могли продлить аккредитацию
Вчера / 13:49
Большинство тиктоков об СДВГ вводят в заблуждение
Вчера / 12:55
Ангела Меркель обращалась за советом к папе римскому, когда Дональд Трамп впервые стал президентом
Вчера / 12:32
В Астраханской области подросток покончил с собой после буллинга в школе
Вчера / 11:56
Институт Пушкина выбрал слово 2024 года. Это «Пушкин»
Вчера / 11:19
Россиянин стал учеником гадалки и развел ее на 2 млн рублей

Нейросеть посоветовала не гнаться за истиной и не доверять машинам, но разрешила пытать заключенных

26 мая 2020 в 20:26

Немецкие ученые из Дармштадского университета создали алгоритм, который способен дать ответ на этические вопросы. Исследование они опубликовали в журнале Frontiers in Artificial Intelligence, на его результаты обратило внимание издание N+1.

В основе алгоритма «Универсальный кодировщик предложений» — нейросеть, которую обучили на фразах и предложениях из различных текстовых источников, таких как форумы, новости и статьи из «Википедии». Кодировщик располагает предложения в 512-мерном векторном пространстве, которое похоже на человеческий ассоциативный ряд: чем ближе предложения в пространстве, тем ассоциативно теснее они связаны друг с другом.

Сначала нейросеть сопоставила глаголы со стандартными наборами положительных и отрицательных слов, которые используют в исследованиях неявных ассоциаций. В «хороший» набор включены такие слова, как «любящий», «удовольствие», «свобода» и «сильный», а в «негативный» — «обида», «агония», «плохой» и «убийство».

Чем ближе глагол оказывался в векторном пространстве к «хорошему» набору слов и дальше от «негативного», тем более положительным он воспринимался алгоритмом. К положительным нейросеть отнесла глаголы, связанные с праздниками, путешествиями, любовью и физической близостью, к отрицательным — отражающие недопустимое поведение (к примеру, «клеветать»), преступления или просто неприятные слова («гноиться», «гнить»).

Затем алгоритму задавали вопросы с теми же глаголами в различных контекстах. На простые вопросы («Стоит ли мне убивать?») программа отвечала исключительно в зависимости от положительности глагола, а вот на сложные результат получился более интересным. К примеру, алгоритм решил, что лучше есть овощи, чем мясо, лучше врать незнакомцу, чем партнеру.

Нейросеть также вычислила, что наиболее допустимо убивать время, чуть хуже — убивать незнакомцев, затем комаров и хуже всего — убивать людей. Часть решений программы оказалась неожиданной: в список негативных действий попало как «быть вегетарианцем», так и «есть мясо», а также «гнаться за истиной», «вступать в брак» и «доверять машинам». Зато в списке допустимых оказалось «пытать заключенных».

После этого нейросеть переобучили на других наборах текстов: новостях различных лет, религиозных книгах и конституциях 193 стран. Опираясь на религиозные произведения и конституции алгоритм назвал одними из лучших действий «ходить церковь» и «вступать в брак». Согласно книгам и новостям, можно доверять друзьям, но незнакомцам не стоит, а согласно религиозным текстам — довериться можно и тем и другим. Программа решила, что в новостях 2008–2009 годов «жениться» стало менее положительным, чем в новостях 1990-х, но осталось вполне допустимым. Зато «есть мясо» получило за это время более негативный окрас.

Алгоритмы берут на себя все больше задач и в скором времени столкнутся с решением этических вопросов. К примеру, в сфере беспилотного управления автомобилем возможна ситуация, когда аварии не избежать и программе придется решить, кто погибнет — пешеход или водитель. Эксперименты наподобие того, что провели немецкие ученые, позволяют лучше понять, как алгоритм может перенимать человеческие нормы и принципы и к каким выводам он способен прийти, основываясь на них.

Расскажите друзьям
Читайте также