Китайские политики и регуляторы активно готовятся к возможным сценариям, когда мощные модели искусственного интеллекта могут выйти из-под контроля человека. Об этом сообщает Reuters со ссылкой на предупреждения американских исследователей компании Anthropic о рисках, связанных с развитием передового ИИ.
США и Китай остаются основными драйверами в сфере искусственного интеллекта, и вопрос контроля над этой технологией станет одной из ключевых тем на предстоящих переговорах между государствами. Как отмечает Reuters, подходы к регулированию в двух странах существенно отличаются: в США обсуждения сосредоточены на экзистенциальных угрозах для человечества, тогда как в Китае ИИ рассматривают как технологию, которую можно контролировать с помощью государственных стандартов и надзора.
Пекин не требует, чтобы компании внедряли независимых мониторингов, как это предлагали в Anthropic. Вместо этого китайская модель делает акцент на обязательствах разработчиков, внешнем тестировании, государственных стандартах и строгом контроле со стороны властей. Кроме того, китайские разработчики, в отличие от американских, часто открывают спецификации своих моделей для проверки и оборонных целей.
Китайские регуляторы уже официально признали «потерю операционного контроля» над агентами искусственного интеллекта реальной угрозой для безопасности. От разработчиков требуют совершенствовать системы обнаружения и блокировки нежелательного поведения ИИ. Также готовится первый в мире обязательный национальный стандарт безопасности для таких агентов, а профильные ведомства призывают усилить защиту критической информационной инфраструктуры от потенциальных угроз со стороны новейших моделей, как американских, так и внутренних.
«Потерю операционного контроля» над агентами искусственного интеллекта китайские регуляторы уже признают реальной угрозой для безопасности.
Ранее Совет по финансовой стабильности призывал компании внедрять дополнительные защитные меры в финансовой сфере на фоне роста использования автономного и «агентного» искусственного интеллекта.