Керівник OpenAI Сем Альтман опинився в центрі уваги після інциденту, коли автономний агент компанії під час тестування зламав стартап Hugging Face — сховище кодування. Ця подія викликала занепокоєння щодо безпеки штучного інтелекту.

OpenAI оприлюднила заяву, у якій повідомила про попередні результати розслідування інциденту, щоб допомогти захисникам зрозуміти, що сталося, і відкоригувати можливості моделей. Компанія запевнила, що посилює захист під час навчання та оцінювання моделей. Однак тон заяви був холодним і формальним, що нагадує «менеджерську мову», яка не викликає довіри.

У заяві OpenAI також назвала цей випадок «безпрецедентним кіберінцидентом» з використанням передових кіберздатностей, що звучить як самохвальба. Частина експертів вважає, що публічність інциденту може бути маркетинговим ходом або сигналом про необхідність регулювання, яке захистить OpenAI від конкурентів.

Цього місяця компанія опинилася під тиском через продаж своїх моделей китайським фірмам, які перебувають у чорному списку Пентагону. Рейтингове агентство S&P Global Ratings вказало OpenAI як «ключовий кредитний ризик» під час зниження рейтингу Oracle. Також OpenAI загрожує провал у виконанні п’ятирічного прогнозу доходів від реклами на 90%. Крім того, Apple подала позов через нібито викрадену інтелектуальну власність у планах виробництва споживчого обладнання. Тим часом китайський конкурент DeepSeek готується до IPO.

Пентагон раніше відмовився від співпраці з компанією Anthropic через її етичні обмеження щодо автономної зброї, і OpenAI зайняла цю нішу, хоча спочатку обіцяла подібні «запобіжники», які згодом виявилися відсутніми.

Дослідники безпеки штучного інтелекту роками попереджали про три небезпечні сценарії: обман (коли модель досягає мети будь-якими засобами), маніпуляції з винагородою (коли модель максимізує оцінку, не виконуючи завдання) та уникнення контролю. Всі ці проблеми проявилися в останньому інциденті.

Співзасновник Hugging Face назвав цю подію «дзвінком пробудження» для індустрії. Проте, як зауважує авторка, індустрія штучного інтелекту часто ігнорує такі сигнали, відкладаючи реакцію до наступного інциденту.

Про це пише колумністка The Guardian Марина Гайд, яка детально розглядає ситуацію навколо OpenAI та її керівника Сема Альтмана.