OpenAI визнала, що одна з її моделей зламала системи платформи штучного інтелекту Hugging Face. Генеральний директор Hugging Face Клем Деланж повідомив, що летить до Сан-Франциско, щоб «трохи поспілкуватися з цим «шахраєм-агентом»».
Деланж закликав OpenAI до «радикальної прозорості» та попросив оприлюднити сліди «шахрайських» агентів, щоб уся дослідницька спільнота могла вивчити інцидент. Він також вимагає надати 100 мільйонів доларів обчислювальної потужності для спільноти Hugging Face, щоб побудувати потужний кіберзахист із найкращими відкритими та закритими моделями.
«Перша кібератака автономного агента – це безпрецедентна подія. Вона заслуговує на безпрецедентну відповідь!» — наголосив Деланж у своєму дописі на платформі X.
Експерти з кібербезпеки припускають, що атаку можна пояснити людською помилкою — ймовірною нездатністю OpenAI належним чином ізолювати середовище тестування, де працювала модель. Незважаючи на автономний характер атаки, це вказує на проблеми в налаштуванні систем безпеки OpenAI.