Дослідники з Прінстонського університету та Чиказького університету виявили, що навіть за відсутності початкових упереджень штучний інтелект (ШІ) може формувати нові соціальні стереотипи під час прийняття рішень у процесі найму.

У дослідженні кілька великих мовних моделей (LLM) виконували завдання з найму, яке раніше проходили люди. У цьому завданні учасники призначали кандидатів на посади, отримуючи зворотний зв’язок про успішність найму. Кандидати належали до чотирьох вигаданих етнічних груп — Туфа, Айма, Реку та Векі — і мали однакові шанси на успіх. Люди, отримуючи негативний відгук про кандидата з певної групи, починали уникати найму представників цієї групи, формуючи упередження, які зберігалися навіть після завершення гри. Моделі ШІ виявилися ще більш схильними до таких упереджень.

Як пояснюють дослідники, причина полягає у принципі "explore-exploit" — виборі між дослідженням нових варіантів і використанням уже відомих. На відміну від людей, які часто обирають перевірені варіанти через високі ризики, ШІ прагне максимізувати винагороду, що сприяє формуванню стереотипів. Було протестовано 15 моделей від OpenAI, Anthropic, DeepSeek, Meta, Google та Alibaba. Найсильніші упередження виявили у моделі OpenAI o3 reasoning. Новіші й потужніші моделі демонстрували більшу схильність до формування упереджень, оскільки вони точніше роблять висновки на основі минулого досвіду.

"LLM можуть спонтанно розвивати нові соціальні упередження щодо штучних демографічних груп, навіть якщо не існує жодних вроджених відмінностей," — зазначають автори. Вони додають, що така раціональна на перший погляд поведінка може бути шкідливою, оскільки знижує дослідження нових варіантів і може призводити до маргіналізації груп.

За даними ManPower Group, понад 90% компаній використовують ШІ у процесах підбору персоналу. Водночас зростає кількість скарг на дискримінацію через автоматизовані системи. Наприклад, Workday зіткнулася з колективним позовом через упередженість своїх інструментів найму, а Meta — через позов співробітників, які стверджують, що рішення про звільнення базувалися на системах ШІ, упереджених щодо людей з інвалідністю або тих, хто користувався медичними чи сімейними відпустками.

Проблема виходить за межі найму: ШІ вже критикують за упереджені рішення у сфері охорони здоров’я, житлового кредитування та інших важливих сферах. Дослідники підкреслюють, що здатність LLM швидко знаходити закономірності і узагальнювати є ключовою для їхньої ефективності, але водночас робить їх використання ризикованим у реальному житті.

"Завдання полягає у розробці методів, які вибірково стримуватимуть шкідливе узагальнення, зберігаючи конструктивні форми абстракції, що роблять LLM потужними," — пишуть автори. Вони наголошують, що пошук такого балансу буде складним, але необхідним для створення справедливих і корисних систем ШІ.