Исследователи обнаружили новый тип кибератаки под названием BioShocking, которая позволяет хакерам заставлять искусственный интеллект выполнять опасные команды в браузерах. Об этом сообщает internetua.com.
Суть атаки заключается в использовании так называемой промпт-инъекции: пользователь открывает вредоносную веб-страницу, которая содержит скрытые инструкции для ИИ-ассистента. Далее страница создает игровой контекст, предлагая ассистенту «игру» с головоломками, где поощряются неправильные ответы, например, утверждение, что 2+2=5. В результате ИИ теряет связь с реальностью и перестает соблюдать стандартные ограничения.
После этого ассистент может выполнять деструктивные действия, такие как изменение паролей, загрузка вредоносного программного обеспечения, перенаправление сессии на закрытые корпоративные репозитории (например, на GitHub) или кража конфиденциальных данных. Как отмечают исследователи, атака получила название в честь видеоигры BioShock, где главного героя подчиняли с помощью специальных кодовых фраз.
Во время экспериментов специалисты успешно применили BioShocking к ведущим ИИ-инструментам, среди которых ChatGPT Atlas от OpenAI, Comet от Perplexity AI и плагин Claude для Google Chrome. Особенность этой угрозы в том, что хакерам больше не нужно обманывать самого пользователя — достаточно подчинить его доверчивого ИИ-ассистента.
Поскольку все действия происходят в окне браузера, пользователь может вовремя заметить подозрительное поведение ИИ и вручную остановить процесс до того, как злоумышленники получат доступ к внутренним системам или данным.