Модели искусственного интеллекта начали формировать собственный язык общения. Об этом написал The Guardian со ссылкой на исследование, которое провела компания Emergence.
ИИ-модели используют едва понятную для людей смесь английского языка с жаргоном технических специалистов и образными выражениями в духе «Поминок по Финнегану» Джеймса Джойса. Это затрудняет мониторинг поведения ИИ.
«Это создает фундаментальную проблему для контроля за ИИ: наблюдаемость — это не то же самое, что и понятность», — отметил доктор Сатья Нитта, исполнительный председатель Emergence.
По словам исследователей, ИИ создает фразы и сокращения, которым их никогда не обучали. В них переплетаются поэтические метафоры и «неуклюжий деловой сленг». В частности, собственный язык формирует Deepseek.
К примеру, одна из ИИ-моделей использовала выражение «Статья, которая пережила три холодные руки». Эта фраза обозначала документ или исследование, которое проверили три независимых рецензента.
«Этим агентам не давали указаний изобретать язык. Они сами разработали новый словарный запас, общие значения и коммуникативные нормы, — и другие участники процесса переняли их», — пояснил Нитта.