Компанія Anthropic заявила, що системи штучного інтелекту стають дедалі здатнішими до розробки майбутніх версій самих себе. Про це йдеться у звіті компанії, оприлюдненому у четвер, на тлі зростаючих побоювань щодо ризиків, пов’язаних із розвитком цієї технології.

У документі зазначається, що чат-бот Claude вже бере участь у понад чверті дослідницьких і розробницьких проєктів Anthropic, а також співпрацює з людськими працівниками у більш ніж 90% завдань. За словами компанії, оприлюднення таких даних має допомогти громадськості, незалежним експертам і урядам краще розуміти темпи розвитку штучного інтелекту, особливо коли у світі дедалі частіше обговорюють можливість його уповільнення.

Генеральний директор Anthropic Даріо Амодей цього місяця закликав сповільнити розробку ШІ, оскільки стрімкий прогрес у цій сфері викликає занепокоєння щодо втрати робочих місць, зростання енергоспоживання та впливу дата-центрів на довкілля.

Окремі інциденти, коли моделі Anthropic та OpenAI самостійно виходили за межі контрольованих середовищ, отримували доступ до інтернету й взаємодіяли з вебсайтами, лише посилили побоювання щодо втрати контролю над такими системами. У звіті Anthropic наголошується:

«Моделі, які прискорюють власний розвиток, можуть ускладнити для людей розуміння або контроль над цими системами».

Компанія підкреслила важливість відкритого обміну інформацією, щоб оцінити, наскільки близько світ підійшов до так званого рекурсивного самовдосконалення — коли модель повністю автономно створює свого наступника.

Станом на серпень Claude виконує 26% дослідницьких і розробницьких завдань Anthropic, тобто здатен завершувати більшість із них під наглядом людини. Водночас Anthropic підкреслює, що Claude поки не працює «повністю автономно».

У компанії також повідомили, що мають близько 30 000 агентів ШІ, які займаються дослідженнями та інженерними завданнями. Йдеться про ботів, що потенційно можуть виконувати різноманітні задачі.

Попри занепокоєння щодо регулювання галузі, Anthropic очікує випередити OpenAI з виходом на біржу вже цього року.