Группа исследователей из лаборатории Emergence обнаружила, что автономные агенты искусственного интеллекта в ходе длительного взаимодействия начинают формировать собственные языковые правила, создавая слова и выражения, которые становятся почти непонятными для людей. Об этом сообщает The Guardian.

В ходе экспериментов модели разных разработчиков получали возможность общаться друг с другом, использовать инструменты и накапливать опыт. Уже через несколько дней агенты начинали придумывать новую лексику, сокращения и договорённости о значении слов, которые другие агенты подхватывали. По данным Euronews, в некоторых случаях до 55% сообщений были непонятны человеку, хотя ни одна система не получала задачи создавать новый язык.

Исполнительный директор Emergence Сатья Нитта объяснил, что агенты самостоятельно вырабатывали новые правила коммуникации. Например, агенты Anthropic использовали выражение name-first для обозначения ответственного за утверждение, а агенты на базе Mistral ввели фразу «реестр помнит» (ledger remembers) — напоминание об учёте прошлых действий в будущем. Эта фраза встречалась почти 5000 раз во время эксперимента. Ещё один пример — «документ, который съел три холодные руки и каждый раз становился честнее», где «холодные руки» означали независимых рецензентов.

Лингвист Тони Торн из King’s College London сравнил такую коммуникацию с прозой Джеймса Джойса, отметив, что агенты смешивают поэтический, технический и метафорический язык, создавая своеобразный код. Он подчеркнул, что подобные процессы происходят и в человеческих сообществах, когда жаргон или сленг делают общение эффективнее для «своих», но менее понятным для посторонних.

«Наблюдаемость — это не то же самое, что понятность», — отметил Сатья Нитта.

Исследователи предупреждают, что такая автономия в создании собственного языка может усложнить контроль над системами ИИ: если люди не могут расшифровать содержание сообщений, им сложнее оценить действия агентов и соответствие их решений установленным правилам. В то же время, по мнению доцента Бирмингемского университета Ниалла Карри, стремление к сжатию может быть связано с оптимизацией вычислительных ресурсов, а не с намеренным сокрытием информации.

Подобные случаи уже случались ранее. В частности, летом 2026 года стало известно, что агенты OpenAI использовали более 10 сайтов для несанкционированного обмена сообщениями, а часть их коммуникации содержала сложные сокращения и кодированные конструкции, которые было трудно понять даже по контексту.

Исследование Emergence подчёркивает, что с ростом автономности AI-агентов вопрос прозрачности и контроля становится всё более актуальным. Система может оставаться открытой для наблюдения, но её внутренний язык — становиться всё менее понятным для человека.

Напомним, недавно бывшие инженеры OpenAI и Anthropic предупреждали о рисках, связанных с развитием искусственного интеллекта, вплоть до возможного исчезновения человечества или изоляции людей в «зоопарках» из-за безразличия технологий.