Несколько месяцев назад на порносайтах появилось видео с участием актрисы, похожей на Галь Гадот. Как выяснило издание Motherboard, ролик был создан с помощью алгоритма машинного обучения, который заменил лицо порноактрисы на Гадот.
Для обучения нейросети пользователь Reddit под ником Deepfakes использовал несколько открытых исходных кодов, среди них: библиотека Keras, которая работает в связке с инструментом TensorFlow от Google, и алгоритм компании Nvidia, позволяющий изменять погодные условия на кадрах. Нейросеть анализирует фрагменты лиц на исходном порно и сопоставляет их с картинками из Google и роликами из YouTube. Замена происходит подобно наложению масок в инстаграме или снэпчате.
Пока алгоритм работает неправдоподобно: подмена происходит только на статичных сценах, где хорошо видны черты лица, нередко на измененных участках видно исходное изображение. Как Deepfakes рассказал Motherboard, он не считает себя профессиональным разработчиком: «Я программист с интересом к машинному обучению». Он утверждает, что у него есть миллионы изображений, которые помогут нейросети исправить нынешние визуальные ошибки.
Помимо якобы порно с Гадот, Deepfakes опубликовал ролики со Скарлетт Йоханссон, Мейси Уилльямс, Тейлор Свифт и Обри Плазой. По словам порноактрисы Грейс Эванджелин, поддельные видео с участием знаменитостей были и раньше, однако сейчас технологии стали работать лучше. Эванджелин подчеркнула, что производство подобных видео ее беспокоит. Она считает, что разработчики должны спрашивать разрешения у знаменитостей на использование их лиц, иначе это является нарушением личной жизни.
Эксперт по изучению искусственного интеллекта Алекс Шампандар отметил, что в обществе не хватает широкого обсуждения этичности использования нейросетей. По словам Шампандара, разработка Deepfakes может использоваться для манипуляции людьми.