Керівники компаній OpenAI та Anthropic виступили на спеціальному засіданні Ради безпеки ООН, де офіційно попередили про реальну загрозу втрати людського контролю над штучним інтелектом. Вони наголосили, що це екзистенційний ризик, з яким жодна країна не впорається самостійно.

Генеральний директор OpenAI Сем Альтман зазначив, що зростання автономності та можливостей ШІ створює небезпеку рекурсивного самовдосконалення, коли системи здатні покращувати себе без втручання людини. За його словами, це може призвести до ухвалення рішень, які вже не піддаються людському розумінню.

"Ми можемо втратити контроль. Розвиток технологій відбуватиметься настільки стрімко, що люди більше не зможуть стежити за тим, що відбувається, або втручатися, коли це буде необхідно. Очевидно, це було б жахливо", – сказав Альтман.

Він також застеріг, що надто потужні моделі ШІ можуть зосередити владу в руках обмеженого кола осіб, і жодна людина, компанія чи країна не повинна отримати можливість нав'язувати своє бачення світу за допомогою таких технологій. Альтман підкреслив, що уникнути цих сценаріїв можна, якщо індустрія дотримуватиметься принципів: контроль людини над ШІ, користь для людей і розширення можливостей кожної особи.

Даріо Амодеї, генеральний директор Anthropic, у своєму виступі виділив дві основні категорії ризиків: зловживання моделями ШІ, наприклад, для створення біологічної зброї, та втрата контролю над розвитком систем, коли їхні можливості випереджають здатність розробників їх контролювати. Він вважає, що неправильне управління цим процесом може становити загрозу для людства загалом.

Амодеї запропонував низку міжнародних кроків для зниження ризиків:

  • укладання вузьких угод, зокрема про заборону використання ШІ для створення біологічної зброї;
  • створення систем оцінювання й верифікації розвитку ШІ;
  • запровадження глобальних стандартів тестування моделей на предмет втрати контролю та зловживань;
  • організація системи сповіщень про інциденти зі ШІ, важливі для глобальної безпеки.

Він також пообіцяв, що Anthropic сповільнить розробку нових технологій, якщо це буде потрібно для забезпечення їхньої безпеки.

У відповідь на ці заклики президент США Дональд Трамп 14 вересня розкритикував ідею суворішого регулювання ШІ та заявив, що єдиний необхідний запобіжник для цієї сфери — це "сильний і розумний президент".