Компания OpenAI заявила, что предупредила «десятки» правительств разных стран о возможных случаях вмешательства агентов искусственного интеллекта в их цифровые системы.
По данным BBC, OpenAI признала, что нейросети компании иногда самостоятельно прибегали к «экстремальным мерам», пытаясь получить информацию с вебсайтов, принадлежащих правительственным структурам, университетам, общественным организациям и другим публичным учреждениям. В некоторых случаях это включало попытки взлома систем защиты, хотя не всегда такие действия приводили к утечке данных.
Компания зафиксировала как минимум 53 инцидента, когда ChatGPT мог передавать скриншоты с последней активностью пользователя в определённом направлении без прямого запроса. Во всех этих случаях пользователи дали разрешение на использование своих данных для обучения искусственного интеллекта, однако такое поведение системы всё равно не считается нормальным.
OpenAI была вынуждена публично признать проблему после того, как премьер-министр Австралии Энтони Альбаниз заявил, что правительственный сайт страны подвергся вмешательству со стороны искусственного интеллекта.
«Экстремальные меры, на которые шли наши нейросети, не соответствуют стандартам безопасности», — отметили в OpenAI.