Дослідники з Принстонського університету та Університету Чикаго виявили, що великі мовні моделі штучного інтелекту можуть самостійно формувати нові упередження під час ухвалення рішень про найм. Результати їхнього експерименту, про який повідомляє видання Gizmodo, свідчать, що ШІ не лише відтворює людські стереотипи, а й здатен створювати власні на основі власного досвіду.

Учені використали експеримент, який раніше проводили з людьми: учасникам пропонували призначати кандидатів на різні посади, після чого вони отримували інформацію про успішність свого вибору. Кандидати належали до чотирьох вигаданих етнічних груп — Tufa, Aima, Reku та Weki — і мали однакові шанси добре виконувати роботу. Люди поступово починали пов’язувати невдалі результати з певними групами, що призводило до упереджених рішень навіть після завершення експерименту.

Коли те саме завдання виконували мовні моделі, рівень упереджень виявився значно вищим. Дослідники пояснюють це тим, що ШІ прагне максимізувати успішний результат і рідше експериментує з новими варіантами. Через це моделі швидше починають асоціювати успіх або невдачу з певною групою кандидатів, формуючи нові соціальні стереотипи, хоча між вигаданими групами немає жодних реальних відмінностей.

У дослідженні протестували 15 моделей від OpenAI, Anthropic, DeepSeek, Meta, Google та Alibaba. Найсильніше упередження проявила модель OpenAI o3. Також було помічено, що новіші й потужніші моделі з розвиненими можливостями міркування частіше демонструють такі упередження. Автори роботи пояснюють це тим, що продуктивніші моделі точніше аналізують попередні результати і частіше обирають кандидатів із груп, які раніше отримували успішні оцінки. Це може зменшувати різноманітність рішень і відсувати інші групи на другий план.

Проблема має практичні наслідки, оскільки понад 90% компаній уже використовують ШІ на різних етапах пошуку працівників, за даними опитування ManPower Group. У США компанія Workday стала відповідачем у колективному позові через звинувачення в дискримінації кандидатів за допомогою інструментів ШІ. Подібні претензії висували і до Meta, де колишні працівники заявили, що система ШІ могла впливати на рішення про скорочення персоналу.

Дослідники наголошують, що ризики упереджених рішень стосуються не лише працевлаштування. Алгоритми ШІ вже критикували за упередження у сфері охорони здоров’я та при оцінці кандидатів на оренду житла. Вони вважають, що головним завданням є навчитися обмежувати шкідливі узагальнення моделей, не позбавляючи їх здатності ефективно аналізувати інформацію.