США и Россия настаивали на удалении из проекта договора ООН требований об обязательном участии человека в проверке целей, определённых искусственным интеллектом для военных ударов, а также учёте этических аспектов при применении автономного оружия. Об этом сообщает The Washington Post со ссылкой на источники, знакомые с ходом переговоров в Женеве.
По словам анонимных собеседников издания, во время недавних переговоров в Женеве делегации США и России добились существенного смягчения текста будущего глобального договора, который должен регулировать использование автономных систем вооружения с элементами искусственного интеллекта. В частности, из документа были исключены требования, чтобы такие системы действовали «предсказуемо» и «надёжно», а также положения о необходимости учитывать этику при их применении.
Кроме того, из проекта удалили пункт, который обязывал бы человека проверять военные цели, выбранные ИИ, перед нанесением удара. Источники подчёркивают, что США и Россия выступили за смягчение международных правил в отношении автономного оружия с ИИ.
«Это может означать, что машины будут принимать решения, от которых зависят человеческие жизни, без участия человека. Последствия очевидны: рост числа жертв среди гражданского населения, снижение уровня ответственности и стремительный переход к более опасным формам автоматизированной войны», — заявила Верити Койл из организации Human Rights Watch.
В настоящее время переговоры в ООН по регулированию автономного оружия с ИИ не имеют обязательного характера, но в случае достижения согласия между государствами-членами это может открыть путь к заключению юридически обязательного международного договора. Следующий раунд переговоров запланирован на ноябрь в Женеве, где страны обсудят возможность создания такого документа.
В публикации также упоминается, что учёный Дмитрий Чумаченко демонстрирует масштабы применения ИИ Россией в военных целях, а руководители трёх ведущих компаний в сфере искусственного интеллекта недавно призвали к замедлению развития этой отрасли.