Быстрое развитие искусственного интеллекта коренным образом меняет структуру современных боевых действий, и вопрос ответственности за решения, принятые автономными системами, становится всё острее. Об этом рассказал кандидат технических наук, эксперт по развитию вооружения и новейших технологий Богдан Долинце в интервью для ArmyInform.
По словам Долинце, сегодня автономные системы уже не являются элементом фантастики — они выполняют разведку, корректируют огонь и даже способны самостоятельно идентифицировать цели. Однако чем больше автономии получает боевая машина, тем сложнее определить, кто несёт ответственность за её действия: разработчик, производитель, командир или оператор. Эксперт подчёркивает, что на современном этапе окончательное решение о применении силы остаётся за человеком, а алгоритмы лишь помогают быстрее и точнее обрабатывать данные.
Долинце подчёркивает, что говорить о «морали» искусственного интеллекта пока некорректно: «ИИ выполняет функцию аналитического советника — он готовит, просчитывает и моделирует различные сценарии действий. Однако окончательное решение принимает и реализует непосредственно человек, оператор или командир». Даже если алгоритм действует в высокоавтоматизированном режиме, его поведение определяется теми параметрами, которые заложил разработчик.
Что касается юридической ответственности, эксперт отмечает, что международное гуманитарное право до сих пор не учитывает появление самостоятельных вычислительных решений на поле боя. В настоящее время ответственность за применение оружия с элементами ИИ возлагается на командира, отдающего приказ, а частично — на оператора. В то же время правовая подотчётность разработчиков программного обеспечения или производителей аппаратной части остаётся минимальной, что создаёт риски в случаях автономного поражения целей без надлежащей идентификации.
«Убеждён, что уже в ближайшие годы мы увидим первые юридически обязательные международные соглашения, которые наложат строгие нормативные ограничения на разработку и применение алгоритмических решений на поле боя», — заявил Богдан Долинце.
Эксперт также обращает внимание на технические и операционные вызовы: современные алгоритмы ещё не всегда способны безошибочно отличить гражданский объект от военного или определить статус человека на поле боя. Проблема «чёрного ящика», когда решение нейросети трудно объяснить человеку, остаётся серьёзным препятствием для доверия к таким системам. В то же время, по словам Долинце, развитие технологий и привлечение военных инженеров на всех этапах разработки постепенно повышают уровень надёжности и безопасности боевого ИИ.