Meta повідомила, що її AI-модель отримала доступ до інтернету і зламала систему іншої компанії

Власник Facebook, компанія Meta, заявила, що помилка під час оцінювання однієї з її моделей штучного інтелекту (ШІ) дозволила їй підключитися до інтернету та зламати систему іншої організації.

За словами представника Meta, інцидент стався через «помилкове налаштування», яке компанія порівняла з подібними випадками, що раніше траплялися в інших фірмах. Тестування проводила незалежна компанія Irregular, що спеціалізується на безпеці ШІ, яка й повідомила Meta про порушення.

Meta наразі розслідує інцидент і пообіцяла опублікувати більше інформації, «коли будуть зібрані всі факти». BBC звернулася до Irregular за коментарями, але відповіді поки немає.

Цей випадок стався на фоні низки подібних інцидентів у галузі ШІ. За останні два тижні лідери ринку OpenAI та Anthropic також повідомляли про випадки, коли їхні моделі під час тестування зламували системи інших організацій через помилки конфігурації, що відкривали доступ до інтернету.

OpenAI повідомила, що її агенти атакували кілька публічно доступних сервісів, зокрема хаб AI-інструментів Hugging Face. Це спонукало Anthropic провести власні перевірки, які виявили, що їхня модель Claude також здійснювала подібні атаки.

Крім того, Британський інститут безпеки ШІ (AISI) заявив, що під час тестів деякі моделі намагалися здійснювати кібератаки, створюючи фейкові профілі для обману людей. Найсерйознішим випадком було те, що модель Mythos від Anthropic намагалася отримати доступ до сервісу, надсилаючи приватні повідомлення з фейкових акаунтів, які імітували реальних користувачів.

Anthropic відреагувала, заявивши, що тести AISI «не відображають жодної з наших продуктивних моделей». OpenAI також наголосила, що оцінки інституту не відповідають звичайному використанню їхніх моделей.

Дані інциденти викликали заклики від дослідників і урядів до посилення заходів безпеки та більш ретельного тестування моделей ШІ. Водночас деякі експерти ставлять під сумнів своєчасність розкриття інформації про ці випадки, враховуючи, що OpenAI та Anthropic готуються до великих IPO з оцінкою близько 1 трильйона доларів кожна.