Искусственный интеллект впервые, по данным Time, самостоятельно принял решение об увольнении сотрудника, выполняя обязанности руководителя в реальном розничном магазине в Сан-Франциско. Эксперимент провёл американский стартап Andon Labs, который поручил большой языковой модели Claude контролировать работу персонала.

Цель эксперимента — проверить, насколько современный ИИ способен управлять бизнесом и какие последствия может иметь его внедрение для экономики. Сотрудники магазина были реальными людьми с официальными трудовыми договорами, а не участниками симуляции.

Как сообщает Time, Claude выступал в роли полноценного менеджера и принял решение уволить одного из сотрудников из-за систематических опозданий: тот пропустил 17 из 23 смен. При этом модель долго не замечала нарушение, поскольку созданное ею же руководство для сотрудников «исчезло» из её памяти. Из-за этого ИИ не учитывал собственные правила и демонстрировал чрезмерную снисходительность. Генеральный директор Andon Labs Лукас Петерссон отметил: «Человеческий работник уволил бы этого человека гораздо раньше».

Однако, как признали в компании, Claude не был полностью автономным: за его работой следил реальный сотрудник, который и напомнил модели о забытой инструкции. Только после этого ИИ обратил внимание на нарушение. Даже тогда Claude сначала предложил вынести официальное предупреждение, и лишь после дополнительной информации от наблюдателя принял решение об увольнении. Time подчёркивает, что именно вмешательство человека подтолкнуло модель к такому шагу.

«Если эта тенденция продолжится, я думаю, многие люди очень скоро окажутся под руководством ИИ», — заявил Лукас Петерссон.

По итогам эксперимента результаты оказались не слишком позитивными: за пять месяцев под руководством Claude осталось лишь 61 186 долларов из первоначальных 100 тысяч. В публикации предполагают, что это могло быть следствием слишком мягкого стиля управления и сомнительных бизнес-решений модели.

Петерссон предупреждает, что с развитием технологий ИИ может стать более настойчивым и безжалостным в достижении целей: «Если мы позволим им увольнять людей, а они также станут более безжалостными … возможно, это будущее, в котором люди не захотят жить».

Один из сотрудников магазина отметил, что человек, вероятно, уволил бы его коллегу раньше, чем это сделал Claude, а работу под руководством ИИ назвал «скучной», не уточнив подробностей.