Американские и китайские специалисты по безопасности выступили с инициативой ввести для искусственного интеллекта предохранители, аналогичные тем, что действуют в сфере ядерного оружия. Они предупреждают, что автономные системы могут привести к опасной эскалации между США и Китаем, если действия ИИ будут восприняты как намеренная атака. Об этом говорится в совместных рекомендациях, опубликованных накануне межправительственных переговоров по искусственному интеллекту и возможного саммита президента США Дональда Трампа и председателя КНР Си Цзиньпина, сообщает Reuters.
Авторы документа — старший научный сотрудник Брукингского института Мелани Сиссон и доцент Фуданьского университета Тяньцзяо Цзян — подчеркивают, что риски, связанные с военным ИИ, уже выходят за пределы технологической конкуренции и приближаются к проблемам контроля над вооружениями. Они считают, что автономные системы могут случайно вмешаться в сети ядерного командования или инициировать военную кибероперацию, оставляя руководству государств всего несколько минут на принятие решения о характере инцидента.
Среди ключевых рекомендаций экспертов — установление четких ограничений на использование ИИ в сфере ядерной безопасности. Мелани Сиссон подчеркивает, что решения о кибератаках против систем ядерного командования или стратегической инфраструктуры другой страны должны приниматься исключительно людьми. Тяньцзяо Цзян предлагает закрепить «красные линии», которые запретят ИИ самостоятельно решать вопросы применения ядерного оружия или атак на ядерные системы, а также защитить критически важную инфраструктуру, включая энергетику, финансовый сектор и медицину.
"Только люди должны принимать решения о начале кибератак с использованием ИИ против систем ядерного командования, управления и связи другого государства или его стратегической инфраструктуры", — заявила Мелани Сиссон.
Еще одной рекомендацией стало создание военной горячей линии между США и Китаем для инцидентов, связанных с автономными системами. Тяньцзяо Цзян предупреждает, что автоматизированные кибератаки могут разворачиваться настолько быстро, что люди не успеют вмешаться, а горячая линия позволила бы оперативно прояснять несанкционированные или случайные действия. В то же время некоторые эксперты сомневаются в эффективности такого механизма: Карла Фримен из Университета Джонса Хопкинса напомнила, что во время инцидента с китайским воздушным шаром в 2023 году Пекин не отвечал на звонки США из-за жесткой бюрократической системы.
Ни одна из сторон пока официально не поддержала эти рекомендации. Китай активно включает вопросы ИИ в систему контроля над вооружениями: Министерство государственной безопасности КНР предупреждает о угрозах для политической и идеологической стабильности, а посол по вопросам разоружения Шень Цзянь на заседании ООН заявил, что военный ИИ может подорвать стратегическую стабильность и должен оставаться под контролем человека. В США вопросы военного ИИ распределены между несколькими ведомствами, а Агентство национальной безопасности готовит масштабную реорганизацию с акцентом на искусственный интеллект и кибербезопасность.
Несмотря на обсуждение предохранителей, обе страны не спешат принимать ограничения, которые могут сдержать собственное развитие в сфере ИИ. Дональд Трамп ранее заявлял, что чрезмерные ограничения могут дать преимущество Китаю, тогда как Пекин рассматривает часть американских технологических ограничений как попытку сохранить доминирование США.