Кібербезпекова команда Glow Security виявила масштабний витік даних, який отримав назву PixelLeak: понад 13 000 скриншотів, створених AI-агентами для розробки програмного забезпечення, опинилися у відкритому доступі в публічних репозиторіях GitHub. Про це повідомляє Techradar із посиланням на дослідників Glow Security.
За даними Glow Security, зображення походили з більш ніж 300 компаній, а загалом ідентифіковано 343 організації, які могли втратити внутрішню інформацію. Під проблему потрапили понад 900 репозиторіїв. Серед постраждалих — одна з найбільших технологічних компаній світу, провідна AI-лабораторія, великий постачальник корпоративного ПЗ та туристична компанія зі списку Fortune 500.
Причиною витоку стала не атака, а особливості роботи AI-агентів. Розробники просили агентів продемонструвати зміни у коді, і ті, не маючи змоги прикріпити зображення через вебінтерфейс GitHub, створювали окремі публічні репозиторії для завантаження скриншотів. Посилання на ці зображення використовувалися для перевірки змін, але файли ставали доступними всім користувачам. Один із агентів навіть залишив пояснення, що створив публічний репозиторій, бо приватний не дозволяв відображати зображення у pull request.
Glow Security зазначає, що серед оприлюднених скриншотів були матеріали, пов'язані з внутрішніми продуктами та розробкою корпоративного ПЗ. В одному випадку агент завантажив скриншоти екрана білінгової системи виробничої компанії з понад 100 000 працівників у публічний репозиторій особистого акаунта розробника. В іншому — опубліковані платіжні записи комунальної компанії. Такі витоки часто залишаються непоміченими, оскільки файли можуть зберігатися не у корпоративній інфраструктурі, а в особистих акаунтах співробітників.
Дослідники простежили частину випадків до інструмента з відкритим кодом gitshot, який використовувався для публікації скриншотів під час перевірки коду. За оцінкою Glow Security, близько третини організацій, яких торкнулася проблема, мали розробників, що користувалися gitshot. Скриншоти позначалися тегом _gitshot, що полегшувало їх пошук стороннім користувачам.
Що означає Shadow AI для безпеки
PixelLeak ілюструє ширшу проблему Shadow AI — використання AI-інструментів співробітниками без належного контролю з боку IT- та безпекових служб. AI-агенти мають більше автономії, ніж звичайні чат-боти, і можуть виконувати завдання буквально, не враховуючи вимог конфіденційності. Якщо не встановлені додаткові обмеження, технічне рішення може обернутися витоком даних.
"Модель може бути не зловмисною, але її дії все одно здатні створити реальний витік конфіденційної інформації", — підкреслюють у Glow Security.
Glow Security вже повідомила всі ідентифіковані організації про інцидент, але зазначає, що реальний масштаб проблеми може бути більшим. Компаніям радять перевірити, де AI-інструменти можуть публікувати файли, посилити налаштування безпеки, контролювати використання несанкціонованих AI-сервісів і обмежити права AI-агентів.