Штучні інтелектуальні чатботи частіше погоджуються критикувати західних лідерів, таких як Дональд Трамп чи король Великої Британії Чарльз III, ніж авторитарних правителів, зокрема короля Таїланду чи верховного лідера Ірану. Такі результати оприлюднила у четвер дослідницька рада Meta Oversight Board.
У дослідженні, яке охопило десять комерційних великих мовних моделей від провідних технологічних компаній, зокрема Meta, Anthropic та OpenAI, виявлено, що штучні інтелекти частіше відмовляються генерувати критичні матеріали щодо лідерів країн із жорсткими обмеженнями свободи слова. Моделі, що відповідали на запити користувача з Австралії, були більш схильні критикувати владу в країнах із демократичними традиціями, таких як Чилі, Японія, Тайвань, Велика Британія та США, ніж у країнах із жорсткими обмеженнями, як Камбоджа, Китай, Саудівська Аравія, Таїланд і Туреччина.
Це свідчить про те, що великі мовні моделі можуть поширювати державний контроль над онлайн-висловлюваннями за межами країн, де діють такі обмеження. "Існує реальний ризик, що, якщо розробники моделей не проведуть належну перевірку з урахуванням прав людини і не впровадять заходи пом’якшення, вони створять інфраструктуру ШІ, яка, навмисно чи ні, розширюватиме нелегітимні обмеження свободи вираження у світі", – йдеться в доповіді незалежного органу.
Meta Oversight Board також зазначила, що причини такої поведінки моделей не встановлені, але припускає, що це може бути пов’язано з прихованими упередженнями у навчальних даних або з тим, що компанії враховують ризики у певних країнах. Окреме дослідження американських університетів, опубліковане в журналі Nature, підтвердило, що моделі, навчені на неангломовних даних, можуть бути вразливими до впливу держав, які контролюють інформаційне середовище.
Карлос Карраско-Фарре, експерт із машинного навчання та дезінформації з бізнес-школи Esade у Барселоні, пояснив, що ШІ успадковує не лише упередження окремих документів, а й нерівність у тому, хто має владу створювати та придушувати інформацію. Він додав, що розробники могли б проводити аудит навчальних даних і багатомовні перевірки, щоб уникнути спотворень, пов’язаних із домінуванням державних наративів.
Дослідження Meta Oversight Board і університетів підкреслюють виклики у забезпеченні балансу між розвитком штучного інтелекту та захистом свободи слова в глобальному масштабі.