У застосунку ChatGPT для Mac була знайдена вразливість, яка дозволяла зловмисникам отримати доступ до конфіденційної інформації на комп'ютері користувача. Про це повідомляє Wired із посиланням на дослідників Objective-See Foundation.
За словами аналітика програмного забезпечення Objective-See Патріка Вордла, проблема стосувалася доступу до історії чатів, інших даних у застосунку та навіть активних сеансів браузера. Дослідники звернули увагу, що деякі інструменти на базі штучного інтелекту мають надто широкий доступ до системи, що створює ризики для безпеки.
"Агентам для виконання своєї роботи потрібен широкий доступ. Вони нагадують керуючого будинком, який має ключі від усіх кімнат. Тож якщо їх можна зламати, це створює величезні проблеми. Це може означати, що код без привілеїв потенційно отримає доступ до всього", – зазначив Вордл.
Вразливість полягала у тому, що інтерпретатор скриптів у ChatGPT приймав ненадійні запити, які можна було використати для передачі скриптів у головний процес застосунку. За словами Вордла, для використання цієї вразливості потрібно було лише трохи більше 10 рядків коду. Це дозволяло не лише переглядати історію чатів, а й запускати команди від імені чатбота, зокрема отримувати доступ до браузера чи інших програм.
OpenAI публічно визнала наявність цієї проблеми та повідомила, що виправила її 25 вересня. Представник компанії у коментарі для Wired наголосив: "Ми продовжуємо розвивати наші практики безпеки, але визнаємо необхідність реагувати швидше".
Архітектура ChatGPT для macOS передбачає кілька рівнів перевірок, зокрема перевірку цифрових підписів і аналіз батьківських процесів, щоб унеможливити використання застосунку як проксі для шкідливого ПЗ. Однак дослідники виявили спосіб обійти ці захисти, запустивши інтерпретатор скриптів кілька разів поспіль.
Вордл підкреслив, що компанії, які розробляють ШІ-продукти, часто зосереджуються на впровадженні нових функцій, відкладаючи питання безпеки: "Наразі ШІ-компанії надто зосереджені на додаванні нових функцій. Але, як завжди, чим більше функцій, тим ширша поверхня атаки. Тому всі ці компанії мають повністю зосередитися на безпеці, а, судячи з того, що я бачу, це часто виходить на другий план".