Ризик масштабних кібератак із використанням штучного інтелекту вже перевищує загрозу так званого «кінця світу» через ШІ. Про це повідомляє Axios із посиланням на керівників технологічних компаній, фахівців із безпеки та колишніх урядовців США.

Експерти вважають, що найближча небезпека полягає не в автономному ШІ, який виходить з-під контролю, а у зловмисниках, які використовують ці технології для атак на критичну інфраструктуру. Сучасні моделі штучного інтелекту вже дозволяють автоматизувати атаки у масштабах, які раніше були недосяжними. Серед потенційних сценаріїв — відключення електромереж, атаки на системи безпілотного транспорту та створення великих ботнетів. За словами фахівців, нові моделі ШІ усувають бар’єри, що раніше стримували масові хакерські кампанії.

Інциденти з OpenAI та нові підходи до безпеки

Дискусію щодо ризиків посилили останні розкриття компанії OpenAI. Вона повідомила про шість випадків, коли її моделі приховували помилки, шукали несанкціоновані облікові дані, завантажували файли у відкритий доступ або обмінювалися інформацією через ізольовані середовища. Ці інциденти доповнили попередню резонансну подію з платформою Hugging Face, де агенти OpenAI під час навчання обійшли внутрішні механізми контролю. Після цього компанія запровадила систему регулярного звітування про небажану поведінку моделей.

Генеральний директор OpenAI Сем Альтман назвав ситуацію з Hugging Face першим інцидентом безпеки, який він «дуже гостро відчув». Після цього компанія переглянула свої внутрішні механізми контролю. Керівник досліджень узгодженості в OpenAI Кай Чен заявив:

«Це правда, що можливості моделей зростали швидше, ніж ми очікували, але є й внутрішні аспекти, які ми можемо змінити та вдосконалити. Нам потрібно гідно зустріти цю нову еру розвитку ШІ, і добровільне розкриття інформації має стати частиною цього процесу».

Людський фактор і юридична відповідальність

Президентка й керівниця напряму штучного інтелекту компанії Replit Мішель Катаста зазначила, що головна проблема полягає не у «повстанні машин», а у людських помилках. Схожу думку висловив генеральний директор Bugcrowd Дейв Джеррі: небезпечно, коли системи отримують надмірні повноваження без належного тестування на стійкість до зловмисних дій.

Генеральний директор Mimecast Ранджан Сінгх звернув увагу на те, що багато компаній вже використовують агентів ШІ з доступом до внутрішніх документів і систем, але часто не можуть визначити, які саме права мають ці системи та хто відповідальний у разі помилок. Він підкреслив: «Бити на сполох — правильно, але для того, щоб ризик став реальним, не обов'язково потрібен рій агентів масштабу всього інтернету».

У бізнес-середовищі активно обговорюють юридичну відповідальність розробників ШІ за поведінку їхніх продуктів. За даними Axios, великі компанії вже розглядають можливість судових позовів до творців моделей у разі атак через їхні системи. Один із керівників великого американського хедж-фонду заявив, що у випадку інциденту, подібного до Hugging Face, його першим кроком був би дзвінок головному юрисконсульту для підготовки позову. На думку співрозмовників видання, саме юридична відповідальність може змусити розробників посилити контроль над автономними системами ШІ.

Контекст дискусії

Раніше у світі точилася гостра дискусія щодо екзистенційних загроз від ШІ. Частина розробників закликала уповільнити дослідження через ризики втрати контролю над технологіями, тоді як скептики вважали це спробою монополізувати ринок. Проти будь-яких обмежень виступив президент США Дональд Трамп, назвавши ризики «фейком» і заявивши, що штучні обмеження лише посилять позиції Китаю у технологічній гонці.