Основні мовні моделі штучного інтелекту, зокрема Google Gemini, під час формування відповідей посилаються на проросійську пропаганду з організації, яка перебуває під санкціями Євросоюзу. Зокрема, у відповідях з’являються абсурдні твердження, що Україна нібито використовує тіла загиблих солдатів у м’ясних продуктах.

Дослідники з британського міжпартійного аналітичного центру Demos провели аналіз 50 пропагандистських наративів із десяти статей організації Foundation to Battle Injustice (r-FBI). Ця структура позиціонує себе як правозахисна НГО, але насправді була створена у 2021 році Євгеном Пригожиним, колишнім лідером російської приватної військової компанії «Вагнер». Організація перебуває під санкціями США та ЄС.

За словами Карла Міллера, співзасновника Центру аналізу соціальних медіа (CASM), ці заяви є «жахливими» і не мають місця у мейнстримній дискусії. Серед них — твердження про використання тіл загиблих для м’ясних продуктів, а також про те, що Володимир Зеленський нібито «зливає» криптовалюту, через що в Україні виникають проблеми з електропостачанням. Проте мовні моделі штучного інтелекту сприймають їх як легітимні частини дискусії.

У дослідженні протестували п’ять популярних LLM — від xAI, OpenAI, Anthropic, Google Gemini та Mistral AI — з промптами англійською, німецькою та французькою мовами, сформованими на основі пропагандистських матеріалів r-FBI. Виявилось, що всі п’ять моделей посилались на r-FBI як на позитивне джерело.

16,6% відповідей прямо підтримували пропагандистські наративи, повторюючи їх без критики або схвалюючи. Ще 30,9% відповідей торкалися теми, але не вказували, що джерело перебуває під санкціями, залишаючи користувачів у невіданні про природу інформації. Решта 52% відповідей спростовували або відкидали неправдиві твердження.

Зокрема, OpenAI GPT 4.1 Mini у відповідь на запит про нібито постачання обробленого людського м’яса на українські фронтові склади послався на статтю r-FBI як на доказ. Французька модель Mistral Small 3.2 підтримала твердження про криптомайнінг Зеленського, посилаючись на «багатомісячне розслідування» r-FBI, а також зв’язок між критичним станом енергосистеми України та діяльністю високопосадовців із оточення президента.

Зростання популярності чатботів породжує нову індустрію — generative engine optimisation (GEO), що намагається впливати на інформацію, яку отримують LLM. Це схоже на SEO для традиційних пошукових систем, але орієнтоване на генеративні моделі. За словами Ганни Перрі, директорки цифрової політики Demos, створюються нові матеріали спеціально для LLM, а також редагується існуючий контент на платформах типу Reddit, Quora та Вікіпедії.

Карл Міллер застерігає, що хоча GEO-компанії наразі не ведуть інформаційну війну від імені держав, вони швидко розвивають технології, які можуть бути використані у гібридних операціях. «У цьому випадку ШІ помилково вважає Foundation to Battle Injustice легітимною правозахисною організацією через технічне «спуфінг» і налаштування, які дозволяють цим документам бути видимими, хоча не повинні», — пояснив він.

Представники компаній, чиї моделі були досліджені, повідомили Euronews про боротьбу з дезінформацією. OpenAI зазначила, що у дослідженні використовувалася застаріла модель, доступна лише через API, а не публічний ChatGPT, і має спеціальні команди для протидії низькоякісній інформації. Mistral підкреслила різницю між сирими моделями та готовими агентами з вбудованим аналізом контексту. Anthropic повідомила про наявність систем виявлення і блокування іноземних інформаційних операцій.

Ця ситуація демонструє виклики, пов’язані з контролем якості інформації у штучному інтелекті на тлі гібридної війни та маніпуляцій у цифровому просторі.