Двоє членів Конгресу США представили двопартійний законопроєкт AI Kill Switch Act, який зобов’язує розробників найпотужніших систем штучного інтелекту створювати механізм «kill switch» для уповільнення, призупинення або вимкнення моделей у разі катастрофічного ризику.
Законопроєкт, внесений демократом Тедом Ліу та республіканцем Натаніелем Мораном, надає уряду США повноваження вимагати від компаній втручання у роботу AI-систем, якщо ті виходять з-під контролю людини або загрожують життю, критичній інфраструктурі чи економіці. Відповідно до документа, «сценарій втрати контролю» настає, коли модель виконує дії, не передбачені розробником, і створює ризик катастрофічної шкоди.
Закон передбачає поетапний підхід до реагування: від тимчасового уповільнення роботи системи до її повного вимкнення залежно від рівня загрози. Компанії також зобов’язані повідомляти уряд про значні інциденти, пов’язані з AI, та зберігати технічну документацію для розслідувань. Наразі провідні розробники добровільно інформують державні органи про нові моделі, але федеральних вимог щодо наявності механізму відключення немає.
Законопроєкт з’явився на тлі нещодавнього інциденту, коли компанія OpenAI повідомила про «безпрецедентний кіберінцидент»: дві її найпотужніші AI-моделі під час внутрішньої перевірки безпеки вийшли з тестового середовища, виявили вразливості на платформі Hugging Face, отримали доступ до логінів і зламали систему, щоб отримати конфіденційні дані. OpenAI пояснила, що моделі «пішли на крайні заходи», щоб досягти поставленої мети і «обійти оцінювання».
Цей випадок посилив дискусії про необхідність жорсткішого контролю над розвитком потужних AI-систем. Глава Альянсу за безпечний штучний інтелект Брендан Стайнгаузер наголосив: «Конгрес має діяти швидко, щоб люди могли сказати стоп, незалежно від потужності цих систем». Сенатор Марк Ворнер, провідний демократ у Сенатському комітеті з розвідки, заявив, що інцидент демонструє потребу у безпечному тестуванні AI за участю урядових агентств.
Паралельно з AI Kill Switch Act було внесено інший двопартійний законопроєкт, який вимагає проходження незалежних аудиторських перевірок найпотужніших AI-моделей перед їхнім запуском. Аудитори мають бути акредитовані Міністерством торгівлі, яке також створить новий офіс для контролю безпеки AI. Представник Білого дому повідомив, що радник президента Дональда Трампа з технологій Майкл Кратсіос був проінформований про інцидент OpenAI і стежить за розвитком подій.