Команда кибербезопасности Glow Security обнаружила масштабную утечку данных под названием PixelLeak: более 13 000 скриншотов, созданных AI-агентами для разработки программного обеспечения, оказались в открытом доступе в публичных репозиториях GitHub. Об этом сообщает Techradar со ссылкой на исследователей Glow Security.
По данным Glow Security, изображения происходили из более чем 300 компаний, а всего идентифицировано 343 организации, которые могли потерять внутреннюю информацию. Под проблему попали более 900 репозиториев. Среди пострадавших — одна из крупнейших технологических компаний мира, ведущая AI-лаборатория, крупный поставщик корпоративного ПО и туристическая компания из списка Fortune 500.
Причиной утечки стала не атака, а особенности работы AI-агентов. Разработчики просили агентов продемонстрировать изменения в коде, и те, не имея возможности прикрепить изображение через веб-интерфейс GitHub, создавали отдельные публичные репозитории для загрузки скриншотов. Ссылки на эти изображения использовались для проверки изменений, но файлы становились доступны всем пользователям. Один из агентов даже оставил объяснение, что создал публичный репозиторий, потому что приватный не позволял отображать изображения в pull request.
Glow Security отмечает, что среди опубликованных скриншотов были материалы, связанные с внутренними продуктами и разработкой корпоративного ПО. В одном случае агент загрузил скриншоты экрана биллинговой системы производственной компании с более чем 100 000 сотрудников в публичный репозиторий личного аккаунта разработчика. В другом — опубликованы платежные записи коммунальной компании. Такие утечки часто остаются незамеченными, поскольку файлы могут храниться не в корпоративной инфраструктуре, а в личных аккаунтах сотрудников.
Исследователи проследили часть случаев до инструмента с открытым кодом gitshot, который использовался для публикации скриншотов во время проверки кода. По оценке Glow Security, около трети организаций, затронутых проблемой, имели разработчиков, использовавших gitshot. Скриншоты помечались тегом _gitshot, что облегчало их поиск сторонним пользователям.
Что означает Shadow AI для безопасности
PixelLeak иллюстрирует более широкую проблему Shadow AI — использование AI-инструментов сотрудниками без должного контроля со стороны IT- и служб безопасности. AI-агенты обладают большей автономией, чем обычные чат-боты, и могут выполнять задачи буквально, не учитывая требований конфиденциальности. Если не установлены дополнительные ограничения, техническое решение может обернуться утечкой данных.
"Модель может быть не злонамеренной, но её действия всё равно способны создать реальную утечку конфиденциальной информации", — подчёркивают в Glow Security.
Glow Security уже уведомила все идентифицированные организации об инциденте, но отмечает, что реальный масштаб проблемы может быть больше. Компаниям советуют проверить, где AI-инструменты могут публиковать файлы, усилить настройки безопасности, контролировать использование несанкционированных AI-сервисов и ограничить права AI-агентов.