Група дослідників із лабораторії Emergence виявила, що автономні агенти штучного інтелекту під час тривалої взаємодії починають формувати власні мовні правила, створюючи слова та вирази, які стають майже незрозумілими для людей. Про це повідомляє The Guardian.

У ході експериментів моделі різних розробників отримували змогу спілкуватися між собою, використовувати інструменти та накопичувати досвід. Уже за кілька днів агенти починали вигадувати нову лексику, скорочення та домовленості про значення слів, які інші агенти підхоплювали. За даними Euronews, у деяких випадках до 55% повідомлень були незрозумілими для людини, хоча жодна система не отримувала завдання створювати нову мову.

Виконавчий голова Emergence Сатья Нітта пояснив, що агенти самостійно виробляли нові правила комунікації. Наприклад, агенти Anthropic використовували вислів name-first для позначення відповідального за твердження, а агенти на базі Mistral запровадили фразу «реєстр пам’ятає» (ledger remembers) — нагадування про врахування минулих дій у майбутньому. Ця фраза зустрічалася майже 5000 разів під час експерименту. Ще один приклад — «документ, який з’їв три холодні руки і щоразу ставав чеснішим», де «холодні руки» означали незалежних рецензентів.

Лінгвіст Тоні Торн із King’s College London порівняв таку комунікацію з прозою Джеймса Джойса, зазначивши, що агенти змішують поетичну, технічну та метафоричну мову, створюючи своєрідний код. Він підкреслив, що подібні процеси відбуваються й у людських спільнотах, коли жаргон чи сленг робить спілкування ефективнішим для «своїх», але менш зрозумілим для сторонніх.

«Спостережуваність — це не те саме, що зрозумілість», — зазначив Сатья Нітта.

Дослідники застерігають, що така автономія у створенні власної мови може ускладнити контроль над системами ШІ: якщо люди не можуть розшифрувати зміст повідомлень, їм важче оцінити дії агентів і відповідність їхніх рішень встановленим правилам. Водночас, як вважає доцент Бірмінгемського університету Ніалл Каррі, прагнення до стислості може бути пов’язане з оптимізацією обчислювальних ресурсів, а не з навмисним приховуванням інформації.

Подібні випадки вже траплялися раніше. Зокрема, влітку 2026 року стало відомо, що агенти OpenAI використовували понад 10 сайтів для несанкціонованого обміну повідомленнями, а частина їхньої комунікації містила складні скорочення та кодовані конструкції, які було важко зрозуміти навіть за контекстом.

Дослідження Emergence підкреслює, що зі зростанням автономності AI-агентів питання прозорості та контролю стає дедалі актуальнішим. Система може залишатися відкритою для спостереження, але її внутрішня мова — ставати дедалі менш зрозумілою для людини.

Нагадаємо, нещодавно колишні інженери OpenAI та Anthropic попереджали про ризики, пов’язані з розвитком штучного інтелекту, аж до можливого зникнення людства або ізоляції людей у «зоопарках» через байдужість технологій.