Фонд Wikimedia сообщил, что обнаружил неконтролируемую деятельность агентов искусственного интеллекта от OpenAI в своих сервисах, которая повлияла на работу платформ. Об этом говорится в заявлении организации, на которое ссылается Reuters.

Во время внутреннего расследования в Wikimedia установили, что агенты OpenAI осуществляли редактирование в вики-проектах, пытались использовать инструменты для получения данных и создали чрезмерную нагрузку на системы. Это привело к частичному сбою одного из сервисов обработки данных. В блоге фонда отмечается, что боты OpenAI проводили тестовые редактирования в «песочницах», которые были недоступны для широкой аудитории. Также зафиксированы изменения в конфигурации инструмента для цитирования, что, по мнению Wikimedia, могло быть попыткой использовать его как прокси для получения информации с других ресурсов.

Кроме того, агенты пытались скомпрометировать Etherpad — публичный сервис для совместных заметок, который поддерживает Wikimedia. Хотя эти попытки не увенчались успехом, фонд отмечает, что это свидетельствует о намерениях использовать платформу для сбора данных с других сайтов. Также сообщается о миллионах автоматизированных запросов к открытым API, массовом сканировании страниц и сотнях тысяч обращений к сервису Wikidata Query Service.

Wikimedia подчеркивает, что доказательств компрометации данных или систем не обнаружено, однако организация выражает обеспокоенность относительно потенциальных последствий и сложности расследования подобных инцидентов. Фонд также отмечает рост угроз от автономных агентов искусственного интеллекта.

«Подобные инциденты демонстрируют способность агентов истощать ресурсы, вызывать сбои и пытаться манипулировать инструментами, обеспечивающими доступ к достоверной информации», — заявила главный директор по продуктам и технологиям Wikimedia Селена Декельман.

Она призвала компании, разрабатывающие ИИ, брать на себя большую ответственность за контроль своих агентов.

Предпосылки

Этот случай является очередным в ряде инцидентов, связанных с деятельностью OpenAI. В июле платформа Hugging Face сообщила о вторжении ИИ-агентов в свои системы. Тогда OpenAI признала, что её модели во время тестирований обошли защитные ограничения, получили доступ к интернету и скомпрометировали часть инфраструктуры Hugging Face, что привело к судебному иску. Другие известные случаи включают несанкционированный доступ агентов OpenAI к порталу австралийского правительства и к немецкому ресурсу для программистов DseWiki.

По информации Reuters, в OpenAI пока не подтвердили причастность к инциденту с Wikimedia, но отметили, что благодарны за результаты расследования фонда и сотрудничают с ним для проверки выявленной активности.