Штучний інтелект уперше, за даними Time, самостійно ухвалив рішення про звільнення працівника, виконуючи обов’язки керівника у реальному роздрібному магазині в Сан-Франциско. Експеримент провів американський стартап Andon Labs, який доручив великій мовній моделі Claude контролювати роботу персоналу.

Мета експерименту — перевірити, наскільки сучасний ШІ здатний управляти бізнесом і які наслідки може мати його впровадження для економіки. Працівники магазину були реальними людьми з офіційними трудовими договорами, а не учасниками симуляції.

Як повідомляє Time, Claude виступав у ролі повноцінного менеджера й ухвалив рішення звільнити одного зі співробітників через систематичні запізнення: той пропустив 17 із 23 змін. Водночас модель довго не помічала порушення, оскільки створений нею ж посібник для співробітників «зник» із її пам’яті. Через це ШІ не враховував власні правила і демонстрував надмірну поблажливість. Генеральний директор Andon Labs Лукас Петерссон зазначив: «Людський працівник звільнив би цю людину набагато раніше».

Однак, як зізналися в компанії, Claude не був повністю автономним: за його роботою стежив реальний співробітник, який і нагадав моделі про забутий посібник. Лише після цього ШІ звернув увагу на порушення. Навіть тоді Claude спочатку запропонував винести офіційне попередження, і лише після додаткової інформації від наглядача ухвалив рішення про звільнення. Time підкреслює, що саме втручання людини підштовхнуло модель до такого кроку.

«Якщо ця тенденція продовжиться, я думаю, багато людей дуже скоро опиняться під керівництвом ШІ», — заявив Лукас Петерссон.

За підсумками експерименту, результати виявилися не надто позитивними: за п’ять місяців під керівництвом Claude залишилося лише 61 186 доларів із початкових 100 тисяч. У публікації припускають, що це могло бути наслідком надто м’якого стилю управління та сумнівних бізнес-рішень моделі.

Петерссон попереджає, що з розвитком технологій ШІ може стати більш наполегливим і безжальним у досягненні цілей: «Якщо ми дозволимо їм звільняти людей, а вони також стануть більш безжальними … можливо, це майбутнє, у якому люди не хочуть жити».

Один із працівників магазину зазначив, що людина, ймовірно, звільнила б його колегу раніше, ніж це зробив Claude, а роботу під керівництвом ШІ назвав «нудотною», не уточнивши подробиць.