Разведывательный отчет, созданный с использованием искусственного интеллекта, чуть не стал причиной вооруженного столкновения между Соединенными Штатами и Китаем. По данным CNN, американские военные готовились захватить китайское судно, подозревая на его борту компоненты ядерного оружия.
Как сообщает телеканал со ссылкой на четыре источника, знакомых с инцидентом, аналитик командования специальных операций США обратился к чат-боту с запросом о манифесте судна. Искусственный интеллект объединил открытые разведывательные данные с секретной информацией из правительственных фондов и сделал вывод о характере груза. После этого аналитик вновь использовал ИИ для подготовки стандартного разведывательного отчета, который и был распространен среди военных.
На основе этого документа военные начали готовить операцию по перехвату судна: вооружённые бойцы были готовы подняться на борт, а в воздухе уже находились военные самолёты. Лишь непосредственно перед началом операции чиновники провели дополнительную проверку и обнаружили, что отчет содержит ошибку.
Один из собеседников CNN назвал этот отчет «полностью ложным» и отметил, что ситуация «чуть не привела к войне». Потенциальная операция против китайского судна могла привести к серьёзной эскалации между Вашингтоном и Пекином.
«Чуть не привела к войне», — заявил один из источников CNN, комментируя инцидент.
Несмотря на этот случай, как отмечает телеканал, чиновники Армии и разведывательного сообщества США продолжают настаивать на внедрении искусственного интеллекта во все сферы своей деятельности — от анализа больших массивов разведывательных данных и выбора целей для ударов до управления бюджетом, логистикой и цепочками поставок.
В материале также напоминается, что всё больше представителей технологической индустрии предупреждают о рисках, связанных с развитием ИИ. В частности, речь идет не только о дезинформации или потере рабочих мест, но и о возможности появления систем, которые смогут самостоятельно совершенствоваться и действовать с минимальным участием человека.