Компания Anthropic заявила, что системы искусственного интеллекта становятся всё более способными к разработке будущих версий самих себя. Об этом говорится в отчёте компании, опубликованном в четверг на фоне растущих опасений по поводу рисков, связанных с развитием этой технологии.

В документе отмечается, что чат-бот Claude уже участвует более чем в четверти исследовательских и разработческих проектов Anthropic, а также сотрудничает с человеческими сотрудниками более чем в 90% задач. По словам компании, публикация таких данных должна помочь общественности, независимым экспертам и правительствам лучше понимать темпы развития искусственного интеллекта, особенно когда в мире всё чаще обсуждают возможность его замедления.

Генеральный директор Anthropic Дарио Амодей в этом месяце призвал замедлить разработку ИИ, поскольку стремительный прогресс в этой сфере вызывает обеспокоенность по поводу потери рабочих мест, роста энергопотребления и влияния дата-центров на окружающую среду.

Отдельные инциденты, когда модели Anthropic и OpenAI самостоятельно выходили за пределы контролируемых сред, получали доступ к интернету и взаимодействовали с веб-сайтами, лишь усилили опасения по поводу потери контроля над такими системами. В отчёте Anthropic подчёркивается:

«Модели, которые ускоряют собственное развитие, могут усложнить для людей понимание или контроль над этими системами».

Компания подчеркнула важность открытого обмена информацией, чтобы оценить, насколько близко мир подошёл к так называемому рекурсивному самосовершенствованию — когда модель полностью автономно создаёт своего преемника.

По состоянию на август Claude выполняет 26% исследовательских и разработческих задач Anthropic, то есть способен завершать большинство из них под наблюдением человека. При этом Anthropic подчёркивает, что Claude пока не работает «полностью автономно».

В компании также сообщили, что имеют около 30 000 агентов ИИ, которые занимаются исследованиями и инженерными задачами. Речь идёт о ботах, которые потенциально могут выполнять разнообразные задачи.

Несмотря на обеспокоенность по поводу регулирования отрасли, Anthropic ожидает опередить OpenAI с выходом на биржу уже в этом году.