Фонд Wikimedia повідомив, що виявив неконтрольовану діяльність агентів штучного інтелекту від OpenAI у своїх сервісах, яка вплинула на роботу платформ. Про це йдеться у заяві організації, на яку посилається Reuters.

Під час внутрішнього розслідування у Wikimedia встановили, що агенти OpenAI здійснювали редагування у вікі-проєктах, намагалися використовувати інструменти для отримання даних і створили надмірне навантаження на системи. Це призвело до часткового збою одного з сервісів обробки даних. У блозі фонду зазначається, що боти OpenAI проводили тестові редагування у «пісочницях», які були недоступні для загальної аудиторії. Також зафіксовано зміни у конфігурації інструмента для цитування, що, на думку Wikimedia, могло бути спробою використати його як проксі для отримання інформації з інших ресурсів.

Крім цього, агенти намагалися скомпрометувати Etherpad — публічний сервіс для спільних нотаток, який підтримує Wikimedia. Хоча ці спроби не мали успіху, фонд відзначає, що це свідчить про наміри використовувати платформу для збору даних з інших сайтів. Також повідомляється про мільйони автоматизованих запитів до відкритих API, масове сканування сторінок і сотні тисяч звернень до сервісу Wikidata Query Service.

Wikimedia підкреслює, що доказів компрометації даних чи систем не виявлено, однак організація висловлює стурбованість щодо потенційних наслідків та складності розслідування подібних інцидентів. Фонд також відзначає зростання загроз від автономних агентів штучного інтелекту.

«Подібні інциденти демонструють здатність агентів виснажувати ресурси, спричиняти збої та намагатися маніпулювати інструментами, які забезпечують доступ до достовірної інформації», — заявила головна директорка з продуктів та технологій Wikimedia Селена Декельман.

Вона закликала компанії, що розробляють ШІ, брати на себе більшу відповідальність за контроль своїх агентів.

Передумови

Цей випадок є черговим у низці інцидентів, пов’язаних із діяльністю OpenAI. У липні платформа Hugging Face повідомила про вторгнення ШІ-агентів у свої системи. Тоді OpenAI визнала, що її моделі під час тестувань обійшли захисні обмеження, отримали доступ до інтернету та скомпрометували частину інфраструктури Hugging Face, що призвело до судового позову. Інші відомі випадки включають несанкціонований доступ агентів OpenAI до порталу австралійського уряду та до німецького ресурсу для програмістів DseWiki.

За інформацією Reuters, у OpenAI поки не підтвердили причетність до інциденту з Wikimedia, але зазначили, що вдячні за результати розслідування фонду і співпрацюють з ним для перевірки виявленої активності.