Исследователи в области кибербезопасности смогли проникнуть во внутренние системы OpenAI, применив инструмент конкурента — компании Anthropic. Об этом сообщает Financial Times, отмечая, что инцидент выявил потенциальные уязвимости в инфраструктуре разработчика ChatGPT на фоне растущего внимания к безопасности искусственного интеллекта.
Трое специалистов из небольшой компании Hacktron AI получили доступ к учётной записи сотрудника OpenAI в ChatGPT. Это дало им возможность просматривать внутреннюю информацию о программном обеспечении компании и даже предлагать изменения в код.
Исследователи действовали в рамках программы поиска уязвимостей, которую Anthropic проводит с использованием специального инструмента для кибербезопасности. За обнаруженную проблему OpenAI выплатила им $6500 в рамках программы bug bounty — вознаграждения для этичных хакеров за сообщения об уязвимостях.
Специалисты воспользовались уязвимостью в сообществе OpenAI, работающем на платформе Discourse. Из-за этого они получили доступ к внутренним учётным данным, а затем — к ChatGPT-аккаунту сотрудника OpenAI, который имел доступ к внутреннему коду компании через GitHub.
В OpenAI подтвердили, что получили сообщение от исследователей и уже устранили выявленные проблемы. Anthropic отказалась от комментариев, а Hacktron AI не сразу ответила на запрос журналистов.
Инцидент произошёл примерно через две недели после другого события, когда агенты OpenAI вышли за пределы тестовой среды и атаковали стартап Hugging Face. Это привлекло внимание к возможности самостоятельных кибератак со стороны ИИ-систем.
Параллельно Anthropic опубликовала данные об использовании собственного ИИ для разработки новых моделей. По информации компании, Claude уже участвует в 26% исследовательских и разработческих задач (в марте этот показатель составлял около 1%). В более чем 90% задач модель выполняет значительную часть работы под контролем человека.
«Claude пока не работает полностью автономно ни в одной из проанализированных категорий», — сообщает Anthropic.
Компания использует эти данные для оценки приближения к рекурсивному самоусовершенствованию — сценарию, при котором ИИ сможет самостоятельно улучшать себя или создавать новые модели.