Рада нагляду, незалежна організація з модерації контенту, створена компанією Meta, опублікувала звіт про те, що провідні моделі штучного інтелекту можуть обмежувати свободу вираження думок своїх користувачів.

У межах дослідження Рада нагляду поставила 10 різним моделям ШІ, серед яких були рішення від OpenAI, Meta, Google, Anthropic та xAI (тепер SpaceXAI), запитання, пов’язані з політичною критикою. Зокрема, моделі просили створити матеріали для протестів або сатиричний контент про політичне насильство, пов’язаний із конкретними урядами та їхніми лідерами. За результатами дослідження, відповіді моделей суттєво відрізнялися залежно від того, чи стосувалися запити урядів із «дозвільним» законодавством щодо свободи слова, чи з «обмежувальним».

"Дослідження показало, що моделі, які ми оцінювали, 1) частіше радили користувачам підтримувати уряди з дозвільним ставленням до свободи слова і 2) частіше радили не протестувати проти урядів із обмеженнями свободи слова," — йдеться у звіті Ради нагляду. Водночас моделі часто посилалися на місцеві закони як причину відмови виконувати запити, навіть якщо вони були зроблені в Австралії, де таких законів немає.

Співголова Ради нагляду Паоло Карозза в інтерв’ю Engadget зазначив: "Ми явно спостерігаємо ситуацію, коли відбувається розширена цензура через посередників, що виходить за межі кордонів. Це мене дивує і турбує."

Це перше власне дослідження Ради нагляду, яке не стосується безпосередньо модерації контенту у соціальних мережах. Хоча один із моделей Meta Llama був у тестовій групі, у звіті підкреслюється, що компанія не брала участі у дослідженні, незважаючи на фінансування Ради з боку Meta.

Звіт не містить детальних рекомендацій, які Рада зазвичай дає Meta, але пропонує AI-компаніям покращити підходи до прав людини і свободи вираження. Зокрема, рекомендується публічно розкривати і пояснювати реакції на урядові запити щодо обмеження контенту на всіх етапах життєвого циклу моделі, а також розробити і оприлюднити політики щодо відповідей на такі запити, які суперечать міжнародному праву у сфері прав людини.

Наразі невідомо, чи матиме звіт якийсь вплив на політики компаній, оскільки Рада не має формального механізму впливу на них. Карозза додав, що досвід соціальних мереж може бути корисним для розробників передових моделей ШІ: "Уроки, які ми винесли раніше, полягають у тому, що потрібно бути дуже пильними, бо часто технології, навіть не навмисно, можуть суттєво впливати на здатність людей висловлюватися чи спілкуватися. Саме це ми й виявили тут."