OpenAI повідомила про виявлення масштабних операцій впливу, організованих іранськими та російськими угрупуваннями, які використовували штучний інтелект ChatGPT для створення фейкових журналістських персон і поширення пропагандистських матеріалів у медіа США та Латинської Америки.

За даними звіту OpenAI, іранська кампанія отримала назву Bogus Bylines. У межах цієї операції було опубліковано або передруковано майже 100 статей у близько десяти виданнях по всьому світу. Основна тематика матеріалів стосувалася конфлікту між США та Іраном. Особливістю кампанії стало те, що ChatGPT використовували не лише для написання текстів, а й для їх адаптації під стандарти різних редакцій. Виконавці просили систему перевіряти англомовні чернетки, пропонувати правки та формувати електронні листи для редакторів, що спрощувало масове надсилання статей.

Для створення видимості достовірності було вигадано сім фейкових журналістських осіб, деякі з яких мали профілі у соціальних мережах. ChatGPT також генерував біографії для цих авторів, що підвищувало довіру редакцій до матеріалів. Як повідомляє OpenAI, кампанія діяла через звичайні канали для надсилання матеріалів позаштатними авторами. Зокрема, The Washington Post зазначає, що одна зі статей потрапила до газети Port St. Joe Star через організацію PeaceVoice, з якою видання співпрацювало тривалий час. Через це редактор не перевірив особу автора. Згодом частину публікацій було видалено, а PeaceVoice посилила політику щодо використання ШІ.

OpenAI заблокувала акаунти, що брали участь у операції Bogus Bylines, і передала інформацію відповідним органам.

Паралельно OpenAI припинила діяльність пов’язаної з Росією кампанії Dark Clark, яка діяла в Латинській Америці. Група створила фіктивну організацію «Центр соціальних досліджень» і за допомогою ChatGPT керувала завданнями, залучаючи місцевих працівників, які не знали про справжніх кураторів. Ця мережа поширювала сфабриковані аудіозаписи та вигадані історії в Болівії та Еквадорі, що призвело до офіційних спростувань з боку місцевих урядовців.

«Для редакцій головним висновком має стати необхідність ретельніше перевіряти не лише зміст матеріалів, які надходять, а й особу авторів та джерел, що їх надсилають», — наголосили в OpenAI.

У компанії підкреслили, що обидві операції були значно ефективнішими за звичайні спам-кампанії, і закликали медіа посилити перевірку авторства та джерел.