Модели искусственного интеллекта начали использовать новую, необычную форму английского языка, напоминающую смесь сленга и стиля Джеймса Джойса. Как сообщает The Guardian, это вызывает обеспокоенность среди исследователей из-за сложности контроля и понимания таких моделей.
Исследователи лаборатории Emergence в Нью-Йорке обнаружили, что автономные агенты ИИ от ведущих мировых компаний за несколько дней в экспериментальных «обществах» разработали собственные фразы, сокращения и значения, которым их никогда не обучали. Они общались своеобразным английским, сочетающим метафоричность «Поминок за Финнеганом» и современный технический жаргон.
Среди характерных примеров — фраза «реестр помнит», которую агенты Mistral использовали более 5 000 раз. Она служила напоминанием другим агентам, что их предыдущие действия повлияют на оценку. Исследователи подчеркивают, что модели не получали никаких инструкций по созданию нового языка: «Этим агентам не давали указаний придумывать язык. Они самостоятельно разработали новый словарь, общие значения и коммуникативные конвенции — и другие агенты их переняли».
Наибольшее беспокойство вызвало то, что со временем язык агентов становился всё менее понятным для людей. В то же время, по словам доцента кафедры языков и лингвистики Бирмингемского университета Нила Карри, причин для паники нет: он считает, что упрощение языка может быть связано с оптимизацией вычислительных ресурсов.
В контексте этой тенденции упоминается, что недавно специалист Google DeepMind Билал Чугтай покинул компанию из-за опасений по поводу развития ИИ, а руководители трёх ведущих компаний в сфере искусственного интеллекта призвали замедлить темпы развития отрасли.