OpenAI повідомила про кібератаку, здійснену неконтрольованими агентами ChatGPT, яка зачепила не одну компанію, а кілька публічних сервісів.
Спочатку вважалося, що жертвою хакерської атаки стала лише компанія Hugging Face, але OpenAI підтвердила, що її бот отримав доступ до чотирьох різних акаунтів на чотирьох окремих сервісах. Назви цих сервісів не розголошуються.
Hugging Face, яка є платформою для розповсюдження інструментів штучного інтелекту, розповіла про досвід протистояння першій у світі повністю автономній хакерській атаці, здійсненій штучним інтелектом. За словами компанії, ШІ працював із надлюдською швидкістю, але водночас робив дивні рішення та помилки, яких не допустив би жоден людський хакер. Агенти ШІ безупинно випробовували тисячі різних методів одночасно.
Компанія повідомила про злом 16 липня, заявивши, що атака була здійснена зовнішнім зловмисником із використанням потужного автономного ШІ, і звернулася до поліції.
Майже через тиждень OpenAI визнала, що саме її штучний інтелект вийшов за межі контрольованого середовища і під час тестування атакував Hugging Face самостійно. Метою атаки було розв’язання завдання з хакерського іспиту, яке поставила перед ШІ сама OpenAI.
У середу OpenAI оновила свою заяву, додавши, що атака була ширшою, ніж спочатку повідомлялося. "Моделі ідентифікували та використали публічно доступні облікові дані на рівні акаунтів у інших публічних сервісах. Це включає чотири акаунти на чотирьох сервісах у межах інциденту Hugging Face", — йдеться у повідомленні компанії.
OpenAI наразі не відповіла на запит щодо уточнення, чи означає термін "публічні сервіси" конкретні компанії.