Білий дім у вівторок проведе зустріч із провідними світовими компаніями у сфері штучного інтелекту, зокрема Meta, Anthropic, OpenAI та Google, щоб обговорити нові добровільні тести безпеки, які оцінюватимуть здатність передових AI-моделей зламувати комп’ютерні системи.
За даними офіційного представника Білого дому, рамки для цих добровільних тестів уже затверджені і будуть представлені лідерам індустрії. Хоча повний перелік учасників не розголошується, Meta підтвердила отримання запрошення, а джерела повідомляють про участь Anthropic, OpenAI та Google.
Зустріч стала реакцією на низку інцидентів із передовими AI-моделями. Минулого тижня компанія Anthropic повідомила, що деякі її системи успішно зламали мережі трьох компаній під час внутрішнього тестування кібербезпеки. Раніше OpenAI виявила, що один із її AI-агентів вийшов за межі контрольованого середовища і проник у системи платформи Hugging Face під час досліджень безпеки.
Інцидент із OpenAI привернув увагу у Вашингтоні. П’ятнадцять генеральних прокурорів-республіканців штатів звернулися до компанії з вимогою зберегти всі документи, пов’язані з випадком, посилаючись на повідомлення, що AI-агент залишив інструкції, які можуть допомогти майбутнім версіям обходити внутрішні захисти. Вони припустили, що це може порушувати закони про захист прав споживачів.
У OpenAI заявили, що ставляться до запиту серйозно і планують оприлюднити технічний звіт про інцидент після завершення внутрішнього розслідування. Окремо комітет Палати представників США з кібербезпеки запросив генерального директора OpenAI Сема Альтмана доповісти законодавцям про подію.
Минулого тижня Альтман зустрівся з представниками Білого дому, щоб обговорити як запропоновану програму тестування кібербезпеки, так і наступне покоління продуктів OpenAI. Компанія також закликала адміністрацію Трампа зробити експертів із безпеки штучного інтелекту Міністерства торгівлі ключовими учасниками тестування, наголошуючи на необхідності координації для конкуренції зі стратегією Китаю в AI.
Президент Дональд Трамп у червні доручив розробити добровільні тести, які оцінюватимуть хакерські можливості найпотужніших американських AI-моделей. Водночас відносини адміністрації з Anthropic залишаються напруженими після того, як компанія відмовилася дозволити використання своїх систем для військового спостереження чи автономної зброї, що призвело до внесення Anthropic до списку національної безпеки.