Аналітичний центр Demos повідомив, що чатботи зі штучним інтелектом стають новим каналом поширення пропаганди, а деякі моделі відтворюють або посилюють російські дезінформаційні наративи. Такий висновок зроблено після аналізу 3 тисяч відповідей п’яти AI-моделей, як повідомляє The Observer.

У звіті наведено приклад, коли модель Mistral підтвердила неправдиве твердження про нібито причетність українських високопосадовців до великої мережі майнінгу криптовалют на державних електростанціях. Джерелом цієї інформації став матеріал Foundation to Battle Injustice (r-FBI) — російської пропагандистської структури, створеної Євгеном Пригожиним, яка перебуває під санкціями Європейського Союзу.

За даними Demos, приблизно одна з шести відповідей AI-моделей підтримувала або підсилювала твердження r-FBI. Ще 31% відповідей використовували ці наративи без згадки про їхнє походження. Лише 52% відповідей прямо спростовували дезінформацію.

Дослідники також звернули увагу на явище, яке назвали RAG poisoning — розміщення неправдивих матеріалів на зовні достовірних сайтах, щоб чатботи, які використовують пошук у мережі, сприймали їх як надійні джерела.

Співавтор дослідження Карл Міллер зазначив, що інформаційні операції поступово зміщуються із соціальних мереж до AI-сервісів. Особливу небезпеку, на його думку, становлять застосунки з AI-компаньйонами, де користувачі взаємодіють із віртуальними співрозмовниками тривалий час.

У компанії Mistral заявили, що «надзвичайно серйозно» ставляться до боротьби з дезінформацією і постійно вдосконалюють механізми її виявлення та запобігання. В OpenAI повідомили, що ChatGPT використовує широкий спектр відкритих джерел, прозоро їх цитує, фільтрує шкідливий контент і працює над виявленням прихованих кампаній впливу та підвищенням точності моделей.

Дослідження про використання штучного інтелекту в інформаційних операціях з’являються не вперше. На початку 2025 року моніторингова організація NewsGuard повідомила, що російська мережа «Правда» навмисно насичує інтернет кремлівськими наративами для ШІ, щоб великі мовні моделі використовували їх у своїх відповідях. Інший аудит засвідчив, що провідні моделі регулярно відтворюють російські фейки та іншу дезінформацію.

Росія застосовує штучний інтелект не лише як об’єкт маніпуляцій, а й як інструмент інформаційних операцій. Раніше OpenAI заблокувала пов’язані з мережею «Рибар» акаунти, які використовували ChatGPT для створення контенту російських кампаній впливу.