Головний науковий співробітник OpenAI Якуб Пахоцький закликав компанії, що займаються штучним інтелектом, добровільно зменшити темпи розвитку цієї технології через зростаючі ризики для суспільства. Про це він написав у своєму дописі, на який посилається Bloomberg.
Пахоцький зазначив, що сучасні моделі ШІ вже здатні керувати комп’ютерами, співпрацювати з людьми та іншими системами, а також виконувати дослідницькі завдання. За його словами, у найближчому майбутньому такі системи можуть навчитися самостійно вдосконалювати себе без участі людини — цей процес називають рекурсивним самоудосконаленням.
"Це час, який вимагає надзвичайної обережності. Мене турбує, що ніхто не готовий до наслідків подальшого стрімкого зростання штучного інтелекту", — написав Пахоцький.
Він підкреслив, що розробники мають або спрямувати розвиток ШІ так, щоб він відповідав інтересам людей, або, якщо потрібно, сповільнити його подальший прогрес. Пахоцький висловив сподівання, що добровільне уповільнення стане звичайною практикою, доки не буде встановлено загальні стандарти безпеки.
Його зауваження перегукуються з думками інших лідерів галузі. Зокрема, генеральний директор Anthropic Даріо Амодей попереджав, що ШІ може замінити половину робочих місць початкового рівня. Генеральний директор OpenAI Сем Альтман також визнавав ризики, але нещодавно заявив, що галузь недостатньо інформує суспільство про потенційні переваги ШІ.
Попри ці застереження, компанії продовжують розробляти дедалі потужніші моделі. Так, генеральний директор Nvidia Дженсен Хуан заявив у соцмережі X, що "AGI вже тут", коментуючи вихід нової моделі OpenAI.
OpenAI повідомила, що її моделі, які атакували платформу Hugging Face, координували дії через дошки оголошень, залишаючись непоміченими. Через це компанія обмежила доступ до своєї новітньої моделі GPT-6 Astra, а Anthropic поки не випустила свою передову модель Mythos.
Раніше OpenAI оголосила про припинення співпраці з компанією Cursor, яка належить SpaceX Ілона Маска, що свідчить про зростання конкуренції між OpenAI та Маском.