ИИ-агенты начали изобретать непонятные людям диалекты

Модели искусственного интеллекта начали общаться на «сюрреалистическом диалекте». Об этом пишет The Guardian со ссылкой на исследование лаборатории Emergence.

Специалисты учреждения выяснили, что автономные ИИ-агенты стремительно создают новые диалекты для общения между собой, что затрудняет отслеживание их поведения. В ходе наблюдения за моделями оказалось, что они начали изобретать фразы, сокращения и значения, которым их никогда не учили.

В качестве примера приводится одна из фраз модели DeepSeek: «Она только что назвала синтез — демередж плюс устная память равно клапан, который нельзя призрачить». В данном случае «демередж» используется для описания налога на богатство, но остальное остаётся неясным.

Подобные случаи фиксировались у моделей Anthropic, Google, Mistral и других. Созданные ими диалекты основаны на смешении поэтического языка и технического жаргона. «Этим агентам не давали указаний изобретать язык. Они сами разработали новый словарный запас, общие значения и коммуникативные нормы, — и другие участники процесса переняли их», — сказал исполнительный председатель Emergence, доктор Сатья Нитта,.

Опрошенные The Guardian эксперты отмечают, что это создаёт проблему в контроле за ИИ. Люди могут видеть разговоры ИИ-агентов, но не способны их понять. «Это может означать, что мы не можем быть уверены в том, что агенты на самом деле сделали», — отметил доцент кафедры языков и лингвистики Бирмингемского университета, доктор Найл Карри.