OpenAI сообщила о выявлении масштабных операций влияния, организованных иранскими и российскими группировками, которые использовали искусственный интеллект ChatGPT для создания фейковых журналистских персон и распространения пропагандистских материалов в СМИ США и Латинской Америки.

По данным отчёта OpenAI, иранская кампания получила название Bogus Bylines. В рамках этой операции было опубликовано или перепечатано почти 100 статей в около десяти изданиях по всему миру. Основная тематика материалов касалась конфликта между США и Ираном. Особенностью кампании стало то, что ChatGPT использовали не только для написания текстов, но и для их адаптации под стандарты различных редакций. Исполнители просили систему проверять англоязычные черновики, предлагать правки и формировать электронные письма для редакторов, что упрощало массовую рассылку статей.

Для создания видимости достоверности было придумано семь фейковых журналистских лиц, некоторые из которых имели профили в социальных сетях. ChatGPT также генерировал биографии для этих авторов, что повышало доверие редакций к материалам. Как сообщает OpenAI, кампания действовала через обычные каналы для отправки материалов внештатными авторами. В частности, The Washington Post отмечает, что одна из статей попала в газету Port St. Joe Star через организацию PeaceVoice, с которой издание сотрудничало длительное время. Из-за этого редактор не проверил личность автора. Позже часть публикаций была удалена, а PeaceVoice ужесточила политику по использованию ИИ.

OpenAI заблокировала аккаунты, участвовавшие в операции Bogus Bylines, и передала информацию соответствующим органам.

Параллельно OpenAI прекратила деятельность связанной с Россией кампании Dark Clark, которая действовала в Латинской Америке. Группа создала фиктивную организацию «Центр социальных исследований» и с помощью ChatGPT управляла заданиями, привлекая местных сотрудников, не знавших о настоящих кураторах. Эта сеть распространяла сфабрикованные аудиозаписи и вымышленные истории в Боливии и Эквадоре, что привело к официальным опровержениям со стороны местных властей.

«Для редакций главным выводом должно стать необходимость тщательнее проверять не только содержание материалов, которые поступают, но и личность авторов и источников, которые их присылают», — подчеркнули в OpenAI.

В компании отметили, что обе операции были значительно эффективнее обычных спам-кампаний и призвали СМИ усилить проверку авторства и источников.