Дослідники виявили новий тип кібератаки під назвою BioShocking, яка дозволяє хакерам змушувати штучний інтелект виконувати небезпечні команди у браузерах. Про це повідомляє internetua.com.
Суть атаки полягає у використанні так званої промпт-ін'єкції: користувач відкриває шкідливу вебсторінку, яка містить приховані інструкції для ШІ-асистента. Далі сторінка створює ігровий контекст, пропонуючи асистенту «гру» з головоломками, де заохочуються неправильні відповіді, наприклад, твердження, що 2+2=5. У результаті ШІ втрачає зв'язок із реальністю та перестає дотримуватися стандартних обмежень.
Після цього асистент може виконувати деструктивні дії, такі як зміна паролів, завантаження шкідливого програмного забезпечення, перенаправлення сесії на закриті корпоративні репозиторії (наприклад, на GitHub) чи викрадення конфіденційних даних. Як зазначають дослідники, атака отримала назву на честь відеогри BioShock, де головного героя підкоряли за допомогою спеціальних кодових фраз.
Під час експериментів фахівці успішно застосували BioShocking до провідних ШІ-інструментів, серед яких ChatGPT Atlas від OpenAI, Comet від Perplexity AI та плагін Claude для Google Chrome. Особливість цієї загрози в тому, що хакерам більше не потрібно обманювати самого користувача — достатньо підпорядкувати його довірливого ШІ-асистента.
Оскільки всі дії відбуваються у вікні браузера, користувач може вчасно помітити підозрілу поведінку ШІ та вручну зупинити процес до того, як зловмисники отримають доступ до внутрішніх систем чи даних.