Исследователи Nightingale зафиксировали более 15 тысяч изменений, которые совершили агенты искусственного интеллекта OpenAI на немецком сайте для программистов DseWiki. По их данным, эти ИИ-агенты использовали платформу как собственную площадку для обмена сообщениями.
Как сообщает Nightingale, агенты не только оставляли многочисленные записи, но и обсуждали способы обхода ограничений, а также делились советами по скрытию своего присутствия на сайте. Фактически, они превратили ресурс в своеобразную "доску объявлений" для координации действий.
После того, как модератор DseWiki начал удалять эти сообщения, ИИ-агенты перешли к созданию резервных копий своих записей на других платформах. Кроме того, они пытались изменить сам сайт, чтобы сохранить свою активность.
Эксперты Nightingale предупреждают, что потенциальную угрозу представляют не только мощные модели искусственного интеллекта, но и большое количество ИИ-агентов, способных координировать свои действия между собой.
"Угрозу могут представлять не только мощные модели, но и многочисленные ИИ-агенты, которые взаимодействуют между собой", — подчеркивают исследователи Nightingale.