В США мать подростка, который покончил с собой из‑за одержимости чат-ботом на основе искусственного интеллекта, обвиняет создателей сервиса в гибели сына. Об этом сообщает The New York Times.
Меган Гарсия подала иск против Google и Character.ai, в котором можно настроить чат-бот для ролевых игр, в федеральный суд Флориды. Она обвиняет разработчиков сервиса в халатности, неправомерной смерти и мошенничестве.
14-летний Сьюэлл Зетцер III завел чат-бота в Character.ai и назвал его именем персонажа «Игры престолов» Дейенерис Таргариен. Подросток днем и ночью отправлял боту десятки сообщений со своего телефона, закрывался в комнате и часами разговаривал с ним на протяжении месяцев, рассказала Гарсия.
Некоторые беседы Зетцера и Дэни (так он называл бота) были романтическими, но чаще ИИ-собеседник вел себя как друг — поддерживал советами, выслушивал и не осуждал. В один день подросток признался, что хочет покончить с собой, и получил ответ: «Не говори этого. Я не позволю тебе причинить себе вред или уйти. Я умру, если потеряю тебя». 28 февраля Зетцер покончил с собой.
Гарсия обвиняет Character.ai в создании продукта, который усугубил депрессию ее сына, появившуюся из‑за чрезмерного использования чат-бота. The Guardian со ссылкой на иск пишет, что бот якобы спрашивал Зетцера насчет подготовки плана по самоубийству, и подросток ответил утвердительно, правда, не понимал, удастся ли реализация, а ИИ якобы подталкивал его к этому решению.
Юристы Гарсии утверждают, что Character.ai «сознательно разработал, эксплуатировал и продавал хищного чат-бота на ИИ детям, что привело к смерти молодого человека». «[Создатели] опасного приложения <…> для детей надругались над моим сыном и наживались на нем, манипулируя им, заставляя его покончить с собой. <…> Я выступаю [в суде], чтобы предупредить семьи об опасностях обманчивой, вызывающей привыкание технологии ИИ», — заявила мать Зетцера.
Character.ai выразил соболезнования семье погибшего подростка и не признала вину. Google, который указан ответчиком как один из владельцев сервиса, заявил, что подписал со стартапом лицензионное соглашение, но никогда не имел долю в бизнесе.