Apple и Google удалили со своих платформ App Store и Google Play приложение Perky AI, через которое генерировались дипфейки с обнаженной актрисой Дженной Ортегой. Сгенерированные изображения с ней размещались в инстаграме* и фейсбуке*, сообщает NBC News.
Изображения с раздетой Ортегой публиковались для рекламы сервиса Perky AI, разработанного компанией RichAds. На примере этого дипфейка создатели демонстрировали возможности искусственного интеллекта — например, пользователь мог сменить наряд актрисы или же вообще убрать его. В качестве картинки для манипуляций была выбрана размытая фотография с 16-летней Ортегой.
В описании приложения Perky AI в App Store говорилось, что с помощью ИИ возможно «создание суперреалистичных или вымышленных людей», в том числе NSFW-контента через текстовые подсказки. В соцсетях сервиса за февраль было опубликовано 260 рекламных постов, пока Meta* их не удалила. 30 из них были заблокированы еще до прямого вмешательства владельца соцсетей из‑за несоответствия правилам о рекламе, но ролики с Ортегой в их число не входили.
«Meta строго запрещает детскую наготу, контент, сексуализирующий детей, а также услуги, предлагающие генерацию искусственным интеллектом изображений с обнаженной натурой без согласия. <…> Мы удалили эту рекламу и аккаунты, стоящие за ними», — заявил Mashable представитель компании Райан Дэниелс.
Ранее в твиттере и телеграме распространялись сгенерированные изображения с обнаженной Тейлор Свифт, с которыми принялись бороться модераторы. Выяснилось, что первые порнографические дипфейки с певицей появились на 4chan: пользователи соревновались в поиске слов и фраз, которые могли бы помочь им обойти фильтры сервисов по генерации изображений из текста, — и у них получилось.
* Instagram и Facebook принадлежат компании Meta, которая признана в РФ экстремистской. Ее деятельность на территории страны запрещена.