Стрімкий розвиток штучного інтелекту докорінно змінює структуру сучасних бойових дій, і питання відповідальності за рішення, ухвалені автономними системами, стає все гострішим. Про це розповів кандидат технічних наук, експерт з розвитку озброєння та новітніх технологій Богдан Долінце в інтерв’ю для ArmyInform.

За словами Долінце, сьогодні автономні системи вже не є елементом фантастики — вони виконують розвідку, коригують вогонь, і навіть здатні самостійно ідентифікувати цілі. Однак, чим більше автономії отримує бойова машина, тим складніше визначити, хто несе відповідальність за її дії: розробник, виробник, командир чи оператор. Експерт наголошує, що на сучасному етапі остаточне рішення про застосування сили залишається за людиною, а алгоритми лише допомагають швидше й точніше обробляти дані.

Долінце підкреслює, що говорити про «мораль» штучного інтелекту поки що некоректно: «ШІ виконує функцію аналітичного радника — він готує, прораховує та моделює різні сценарії дій. Проте остаточне рішення ухвалює і реалізує безпосередньо людина, оператор або командир». Навіть якщо алгоритм діє у високоавтоматизованому режимі, його поведінка визначається тими параметрами, які заклав розробник.

Щодо юридичної відповідальності, експерт зазначає, що міжнародне гуманітарне право досі не враховує появу самостійних обчислювальних рішень на полі бою. Наразі відповідальність за застосування зброї з елементами ШІ покладається на командира, який віддає наказ, а частково — на оператора. Водночас правова підзвітність розробників програмного забезпечення чи виробників апаратної частини залишається мінімальною, що створює ризики у випадках автономного ураження цілей без належної ідентифікації.

«Переконаний, що вже найближчими роками ми побачимо перші юридично зобов’язуючі міжнародні угоди, які накладуть суворі нормативні обмеження на розробку й застосування алгоритмічних рішень на полі бою», — заявив Богдан Долінце.

Експерт також звертає увагу на технічні та операційні виклики: сучасні алгоритми ще не завжди здатні безпомилково відрізнити цивільний об’єкт від військового чи визначити статус людини на полі бою. Проблема «чорної скриньки», коли рішення нейромережі важко пояснити людині, залишається серйозною перешкодою для довіри до таких систем. Водночас, за словами Долінце, розвиток технологій і залучення військових інженерів на всіх етапах розробки поступово підвищують рівень надійності та безпеки бойового ШІ.