Китайські політики та регулятори активно готуються до можливих сценаріїв, коли потужні моделі штучного інтелекту можуть вийти з-під контролю людини. Про це повідомляє Reuters із посиланням на застереження американських дослідників компанії Anthropic щодо ризиків, пов’язаних із розвитком передового ШІ.
США та Китай залишаються основними рушіями у сфері штучного інтелекту, і питання контролю над цією технологією стане однією з ключових тем на майбутніх переговорах між державами. Як зазначає Reuters, підходи до регулювання у двох країнах суттєво відрізняються: у США обговорення зосереджені на екзистенційних загрозах для людства, тоді як у Китаї ШІ розглядають як технологію, яку можна контролювати за допомогою державних стандартів і нагляду.
Пекін не вимагає, щоб компанії впроваджували незалежних моніторів, як це пропонували в Anthropic. Замість цього китайська модель робить акцент на зобов’язаннях розробників, зовнішньому тестуванні, державних стандартах та суворому контролі з боку влади. Крім того, китайські розробники, на відміну від американських, часто відкривають специфікації своїх моделей для перевірки та оборонних цілей.
Китайські регулятори вже офіційно визнали "втрату операційного контролю" над агентами штучного інтелекту реальною загрозою для безпеки. Від розробників вимагають удосконалювати системи виявлення та блокування небажаної поведінки ШІ. Також готується перший у світі обов’язковий національний стандарт безпеки для таких агентів, а профільні відомства закликають посилити захист критичної інформаційної інфраструктури від потенційних загроз з боку новітніх моделей, як американських, так і внутрішніх.
"Втрату операційного контролю" над агентами штучного інтелекту китайські регулятори вже визнають реальною загрозою для безпеки.
Раніше Рада з фінансової стабільності закликала компанії впроваджувати додаткові захисні заходи у фінансовій сфері на тлі зростання використання автономного та "агентного" штучного інтелекту.