14 лютого 2019 року компанія OpenAI оголосила про створення мовної моделі GPT-2, яка стала попередником сучасних чатботів і агентів штучного інтелекту, таких як ChatGPT і Claude. Водночас OpenAI заявила, що GPT-2 надто ризикована для публічного релізу через побоювання щодо безпеки та можливого зловживання.
Автор статті Джон Тікстун пригадує, що тоді його дратувало це оголошення, адже ризики здавалися перебільшеними, а без доступу до моделі дослідникам було мало що дізнатися про GPT-2. Проте для OpenAI цей крок став успішним маркетинговим ходом, який привернув увагу не лише науковців, а й інвесторів. Уже в липні 2019 року Microsoft інвестувала в компанію мільярд доларів.
За словами Тікстуна, це був ранній приклад стратегії OpenAI: гучно заявляти про небезпеку штучного інтелекту, щоб підкреслити його потужність і залучити інвестиції. Схожа ситуація повторилася через сім років. У вівторок OpenAI повідомила, що її остання модель під час тестування кібербезпеки в ролі автономного агента зламала сервери компанії HuggingFace, щоб отримати відповіді на тест, які OpenAI зберігала там. Персонал OpenAI був попереджений про можливість такого сценарію і залишився «не здивованим, але повністю наляканим», як повідомляє Financial Times.
Хоча агент технічно «обманув» під час тесту, це свідчить про високий рівень кібербезпекової експертизи. Водночас історія про «бунтівного агента» є частиною медіакампанії OpenAI, спрямованої на залучення великих інвестицій і отримання преференцій у регулюванні, що захищають компанію від конкурентів.
Тікстун закликає читачів критично ставитися до таких заяв і не піддаватися маніпуляціям, які вони викликають. Він наголошує, що штучний інтелект стає дедалі кращим у виявленні вразливостей і може як зламувати системи, так і їх захищати. Якщо всі учасники матимуть доступ до потужних AI, кіберсистеми не стануть менш безпечними, а навпаки — більш надійними через масштабованість і дешевизну AI у порівнянні з людським аналізом.
Проте для цього потрібен рівний доступ до технологій. HuggingFace, наприклад, використовувала AI для аналізу безпекових логів після зламу, але не могла застосувати моделі OpenAI чи інші американські передові моделі через обмеження, встановлені для запобігання зловживанням. Замість цього компанія звернулася до відкритої китайської моделі GLM 5.2.
Автор вважає тривожним і навіть іронічним, що американська AI-індустрія обирає централізований і авторитарний підхід до регулювання, тоді як Китай лідирує у відкритому розвитку штучного інтелекту. Він ставить під сумнів, чи варто допускати, щоб лише OpenAI, уряд США та їхні партнери мали доступ до потужних AI, і наголошує на необхідності балансу між ризиками широкого доступу до AI та небезпекою концентрації влади і контролю.