Пикник Афиши 2024
МСК, СК Лужники, 3–4.08=)СПБ, Елагин остров, 10–11.08
Афиша | СБЕР — генеральный партнёр

«Яндекс» позволил клиентам выявлять запрещенный контент с помощью нейросетей

29 мая 2024 в 20:05
Фото: фотобанк Moscow-Live/Flickr

Облачная платформа «Яндекса» Yandex Cloud разрешила клиентам использовать нейросети для классификации текстов, в том числе для обнаружения в них «противоправной информации». Об этом пишет «Коммерсант» со ссылкой на компанию.

Также классификатор на базе YandexGPT понадобится для работы с обращениями клиентов, спамом и противодействия мошенничеству. К примеру, он позволяет автоматизировать общение с пользователями через чат-боты.

В компании объяснили, как именно устроена классификация: заказчик определяет категории, по которым хочет сгруппировать тексты, затем загружает в сервис «Яндекса» примеры для каждой категории, а потом получает доступ к созданной под задачу модели-классификатору.

Технология генеративного ответа реализована на базе нейросети YandexGPT 3. При ответе на запрос она изучает все возможные источники компании, подбирает релевантную информацию и собирает ее в единый ответ, пояснили в «Яндексе».

Компании уже пытались использовать сервисы «Яндекса» для выявления запрещенной в России информации. В декабре 2022 года онлайн-издательство Ridero разместило на сервисе «Толока» задачу по выявлению ЛГБТ-пропаганды в отрывках текста. Тогда «Яндекс» отключил подобные задания как потенциально оскорбительные.

Позже директор по развитию технологий ИИ в компании Александр Крайнов отмечал, что ассистентке Алисе сейчас лучше всего уходить от ответа на некоторые вопросы, «потому что, если бы мы отвечали плохо, нас бы вообще запретили, скорее всего».