Порнографические дипфейки с Тейлор Свифт создали пользователи портала 4chan, которым удалось взломать механизмы безопасности и обойти ограничения по созданию непристойных изображений с помощью искусственного интеллекта. Об этом сообщает Bloomberg со ссылкой на отчет компании по анализу соцсетей Graphika.
По данным исследования, в течение нескольких недель юзеры соревновались в поиске слов и фраз, которые могли бы помочь им обойти фильтры популярных сервисов создания изображений, в том числе Microsoft Designer и DALL-E от OpenAI. Они хотели создать картинки с известными женщинами — певицами или политиками — в непристойном виде.
Впервые порнографические дипфейки появились на 4chan, а затем попали в Telegram и X. Последней даже пришлось на время ограничить доступ к результатам поиска по имени Тейлор Свифт. По данным The Verge, одно из изображений с певицей оставалось публичным в течение 17 часов и набрало более 45 млн просмотров.
Помимо Свифт в сети появились откровенные изображения с Билли Айлиш, Арианой Гранде и Эммой Уотсон.
Многие компании, занимающиеся преобразованием текста в изображение, запретили определенные слова, чтобы пользователи не могли создавать вредоносный контент. Однако некоторые пользователи 4chan и других форумов поделились советами, как обойти эти меры безопасности.
Распространение сгенерированных картинок со звездами в очередной раз подняло вопрос о регулировании ИИ. Хотя в девяти штатах США действуют законы, запрещающие создание или распространение дипфейковых фотографий, федерального закона в стране не приняли.
Член палаты представителей Джо Морелл возобновил попытку принять законопроект, который сделает распространение без согласия изображений с цифровой обработкой преступлением, влекущим за собой тюремное заключение и штрафы. «Мы, безусловно, надеемся, что новости о Тейлор Свифт помогут придать импульс и усилить поддержку нашего законопроекта», — заявил он.