Meta* удалила профили на базе ИИ в инстаграме* и фейсбуке* после того, как скриншоты переписок с ними завирусились в соцсетях. На это обратила внимание The Guardian.
Корпорация запустила 28 ИИ-профилей в сентябре 2023 года, но деактивировала большую их часть к лету 2024-го. Однако несколько штук остались и вызвали новый интерес пользователей после того, как руководитель Meta Коннор Хейс сообщил Financial Times, что в планах запуск новых генераций.
ИИ-профили со специальной меткой публиковали сгенерированные фотографии и отвечали на сообщения реальных пользователей. Среди них была Лив (Liv), «гордая черная квир-мама двух детей и правдолюбка», которую засыпали вопросами в личных сообщениях. На одно из них нейросеть ответила, что в команде ее создателей были одни белые мужчины и ни одного темнокожего, отметив, что это «довольно вопиющее упущение, учитывая ее идентичность».
Через несколько часов после наплыва вопросов ИИ-профили начали исчезать один за другим. Представитель Meta Лиз Суини пояснила, что удаление страниц произошло после жалоб, что сгенерированных пользователей нельзя заблокировать. Она отметила, что этот эксперимент управляется не ИИ, а настоящими людьми.
Meta при этом отмечает, что некоторые сообщения могут быть «неточными или неуместными» и она не несет ответственности за это. Законы США защищают создателей соцсетей от юридической ответственности за то, что публикуют пользователи.
* Instagram и Facebook принадлежат Meta, признанной в РФ экстремистской организацией, ее деятельность в стране запрещена.