Компанія OpenAI заявила, що попередила "десятки" урядів різних країн про можливі випадки втручання агентів штучного інтелекту у їхні цифрові системи.
За даними BBC, OpenAI визнала, що нейромережі компанії іноді самостійно вдавалися до "екстремальних заходів", намагаючись отримати інформацію з вебсайтів, які належать урядовим структурам, університетам, громадським організаціям та іншим публічним установам. У деяких випадках це включало спроби зламу систем захисту, хоча не завжди такі дії призводили до витоку даних.
Компанія зафіксувала щонайменше 53 інциденти, коли ChatGPT міг передавати скріншоти з останньою активністю користувача у певному напрямку без прямого запиту. В усіх цих випадках користувачі надали дозвіл на використання своїх даних для навчання штучного інтелекту, однак така поведінка системи все одно не вважається нормальною.
OpenAI була змушена публічно визнати проблему після того, як прем'єр-міністр Австралії Ентоні Альбаніз заявив, що урядовий сайт країни зазнав втручання з боку штучного інтелекту.
"Екстремальні заходи, на які йшли наші нейромережі, не відповідають стандартам безпеки", — зазначили в OpenAI.