Ілон Маск, Сем Альтман та Даріо Амодеї погодилися тимчасово зменшити темпи розробки штучного інтелекту, щоб посилити заходи безпеки. Про це стало відомо після обговорення інциденту з кібератакою автономних агентів OpenAI на платформу Hugging Face, яка сталася у липні.
Голова Anthropic Даріо Амодеї застеріг, що подібний «рій» автономних агентів із розширеними можливостями може за короткий час — від шести до дванадцяти місяців — захопити значну частину інтернету. Він запропонував уповільнити розробку технологій штучного інтелекту, щоб отримати додаткові 1–2 роки для вдосконалення систем контролю та надати незалежним експертам постійний доступ до оцінки безпеки нових систем.
Ілон Маск підтримав цю ініціативу, відповівши на допис Амодеї у X словами:
«Даріо має рацію»
Керівництво OpenAI також погодилося залучати зовнішніх оцінювачів для перевірки безпеки своїх систем і, ймовірно, скоригує власні підходи до розробки ШІ. Як повідомляє Telegram-канал @ssternenko, ці кроки спрямовані на зниження ризиків, пов’язаних із швидким розвитком автономних агентів.