Американські та китайські фахівці з безпеки виступили з ініціативою запровадити для штучного інтелекту запобіжники, подібні до тих, що діють у сфері ядерної зброї. Вони попереджають, що автономні системи можуть призвести до небезпечної ескалації між США та Китаєм, якщо дії ШІ будуть сприйняті як навмисна атака. Про це йдеться у спільних рекомендаціях, оприлюднених напередодні міжурядових переговорів щодо штучного інтелекту та можливого саміту президента США Дональда Трампа і голови КНР Сі Цзіньпіна, повідомляє Reuters.

Автори документа — старша наукова співробітниця Брукінгського інституту Мелані Сіссон і доцент Фуданського університету Тяньцзяо Цзян — наголошують, що ризики, пов’язані з військовим ШІ, вже виходять за межі технологічної конкуренції та наближаються до проблем контролю над озброєннями. Вони вважають, що автономні системи можуть випадково втрутитися в мережі ядерного командування або ініціювати військову кібероперацію, залишаючи керівництву держав лише кілька хвилин на ухвалення рішення про характер інциденту.

Серед ключових рекомендацій експертів — встановлення чітких обмежень на використання ШІ у сфері ядерної безпеки. Мелані Сіссон підкреслює, що рішення про кібератаки проти систем ядерного командування чи стратегічної інфраструктури іншої країни повинні ухвалювати виключно люди. Тяньцзяо Цзян пропонує закріпити «червоні лінії», які заборонять ШІ самостійно вирішувати питання застосування ядерної зброї чи атак на ядерні системи, а також захистити критично важливу інфраструктуру, зокрема енергетику, фінансовий сектор і медицину.

"Лише люди повинні ухвалювати рішення про початок кібератак із використанням ШІ проти систем ядерного командування, управління та зв'язку іншої держави або її стратегічної інфраструктури", — заявила Мелані Сіссон.

Ще однією рекомендацією стало створення військової гарячої лінії між США та Китаєм для інцидентів, пов’язаних із автономними системами. Тяньцзяо Цзян застерігає, що автоматизовані кібератаки можуть розгортатися так швидко, що люди не встигнуть втрутитися, а гаряча лінія дозволила б оперативно прояснювати несанкціоновані чи випадкові дії. Водночас деякі експерти сумніваються в ефективності такого механізму: Карла Фрімен із Університету Джонса Гопкінса нагадала, що під час інциденту з китайською повітряною кулею у 2023 році Пекін не відповідав на дзвінки США через жорстку бюрократичну систему.

Жодна зі сторін поки що не підтримала офіційно ці рекомендації. Китай активно включає питання ШІ до системи контролю над озброєннями: Міністерство державної безпеки КНР попереджає про загрози для політичної та ідеологічної стабільності, а посол з питань роззброєння Шень Цзянь на засіданні ООН заявив, що військовий ШІ може підірвати стратегічну стабільність і має залишатися під контролем людини. У США питання військового ШІ розподілені між кількома відомствами, а Агентство національної безпеки готує масштабну реорганізацію з акцентом на штучний інтелект і кібербезпеку.

Попри обговорення запобіжників, обидві країни не поспішають ухвалювати обмеження, які можуть стримати власний розвиток у сфері ШІ. Дональд Трамп раніше заявляв, що надмірні обмеження можуть дати перевагу Китаю, тоді як Пекін розглядає частину американських технологічних обмежень як спробу зберегти домінування США.