В США среди учеников старшей школы в Балтиморе распространилась запись с расистскими и антисемитскими заявлениями директора. Расследование пришло к выводу, что с помощью нейросетей ее сфабриковал физрук. Об истории пишет CNN.
Аудиозапись с голосом директора Эрика Эйсверта распространилась в соцсетях в январе этого года. После ее появления полиция начала расследование. Управляющий школой тогда сказал, что не делал таких заявлений, а запись подделана. Спустя несколько месяцев следствие пришло к выводу о невиновности мужчины.
На этой неделе был задержан школьный физрук Дажон Дариен. Полиция считает его виновным в фабрикации записи с помощью ИИ и обвиняет в препятствовании школьной деятельности, краже, преследовании и мести свидетелю.
«Сегодня мы с облегчением узнали о происхождении этой аудиозаписи. Однако очевидно, что мы находимся на заре некой новой, пугающей эры», — намекнул на возможности искусственного интеллекта глава округа Балтимор.
Физрука собирались уволить. И затем появилась запись
Согласно материалам дела, в декабре 2023 года директор Эйсверт заподозрил руководителя департамента школы по физическому развитию Дариена в краже. Сосед физрука по комнате работал в учреждении баскетбольным тренером, но неожиданно получил 2000 долларов за уроки футбола для девочек.
Опросив коллег и учащихся, Эйсверт пришел к выводу, что мужчина ни разу не появлялся на тренировках женской футбольной команды. В личной беседе Дариен назвал выплату ошибкой.
Это был уже не первый конфликт между мужчинами. Ранее Эйсверт был недоволен тем, что Дариен уволил тренера без согласия руководства, и просил коллег последить за физруком. Кроме того, глава школы не собирался продлевать с подчиненным истекающий контракт, о чем поставил его в известность незадолго до инцидента.
В середине января трое учителей, включая Дариена, получили анонимное сообщение на школьную электронную почту. В теме письма было написано «Пугающий разговор директора», к нему был прикреплен MP3-файл.
На записи голос Эйсверта говорит, что ему приходится «мириться» с «неблагодарными черными детьми, которые не могут сдать контрольные даже на двойку», и черными учителями, которых «не стоило нанимать». Затем он добавляет, что его «тошнит от неадекватности этих людей» и, если он «получит еще хоть одну жалобу от еще хоть одного еврея в районе, он даже не станет их слушать и займет противоположную сторону».
Один из адресатов письма, также недовольный директором, признался, что поделился аудиофайлом с учеником с намерением распространить его в соцсетях и среди школьников. Кроме того, учитель отправил запись в местные издания и правозащитникам. После этого началось расследование — Эйсверта отстранили от управления.
Публикация напугала сотрудников и учащихся, они стали подозревать, что в школе установлена прослушка. Кто‑то даже стал отвечать на личные звонки исключительно в своей машине.
Впрочем, в школе заподозрили и возможность подделки. В беседе с CNN представитель профсоюза сотрудников администрации обратил внимание на отсутствие постороннего шума на аудио: «Запись похожа на диалог, но других голосов не слышно, и окружающий шум отсутствует. Школы и офисы — оживленные, шумные места, но в аудиозаписи ничего такого нет. Это показалось мне подозрительным. Речь звучала так, будто ее и собирались публиковать: слова в ней опорочат только говорящего, а не тех, кого он критикует».
Анонимным источником оказался физрук
Письмо с файлом было отправлено с Gmail-аккаунта tjfoust9, поэтому следствие обратилось в Google за данными и получило IP-адрес. Он привел следователей к дому, где живет родственник Дариена. Более того, привязанный к профилю телефонный номер принадлежал физруку.
Также полиция обратилась к криминалистам, работающим со звукозаписями. Один из них пришел к выводу, что «запись подвергалась манипуляциям и несколько записей были склеены вместе с помощью неизвестного программного обеспечения».
Другой эксперт заключил, что «запись содержит следы контента, созданного искусственным интеллектом, с последующим редактированием человеком, который добавил фоновые шумы для реалистичности».
Эйсверт в своих показаниях отметил, что Дариен был знаком с искусственным интеллектом. Также на рабочем компьютере физрука следователи нашли в поисковых запросах OpenAI и Bing Chat.
24 апреля полиция получила ордер на арест Дариена. 25-го числа мужчина купил билет на самолет в Хьюстон, однако был задержан службой безопасности аэропорта Балтимора. В его багаже находился пистолет, и охрана остановила физрука из‑за неправильной упаковки, после чего пробила по базе розыска. В тот же вечер беглец был помещен в изолятор и выпущен под залог. Теперь его ждет суд.