В приложении ChatGPT для Mac была обнаружена уязвимость, которая позволяла злоумышленникам получить доступ к конфиденциальной информации на компьютере пользователя. Об этом сообщает Wired со ссылкой на исследователей Objective-See Foundation.

По словам аналитика программного обеспечения Objective-See Патрика Вордла, проблема касалась доступа к истории чатов, другим данным в приложении и даже активным сессиям браузера. Исследователи обратили внимание, что некоторые инструменты на базе искусственного интеллекта имеют слишком широкий доступ к системе, что создает риски для безопасности.

"Агентам для выполнения своей работы нужен широкий доступ. Они напоминают управляющего домом, у которого есть ключи от всех комнат. Так что если их можно взломать, это создает огромные проблемы. Это может означать, что код без привилегий потенциально получит доступ ко всему", – отметил Вордл.

Уязвимость заключалась в том, что интерпретатор скриптов в ChatGPT принимал ненадежные запросы, которые можно было использовать для передачи скриптов в главный процесс приложения. По словам Вордла, для использования этой уязвимости требовалось всего чуть больше 10 строк кода. Это позволяло не только просматривать историю чатов, но и запускать команды от имени чатбота, в том числе получать доступ к браузеру или другим программам.

OpenAI публично признала наличие этой проблемы и сообщила, что исправила её 25 сентября. Представитель компании в комментарии для Wired подчеркнул: "Мы продолжаем развивать наши практики безопасности, но признаём необходимость реагировать быстрее".

Архитектура ChatGPT для macOS предусматривает несколько уровней проверок, в том числе проверку цифровых подписей и анализ родительских процессов, чтобы исключить использование приложения как прокси для вредоносного ПО. Однако исследователи обнаружили способ обойти эти защиты, запустив интерпретатор скриптов несколько раз подряд.

Вордл подчеркнул, что компании, разрабатывающие ИИ-продукты, часто сосредоточены на внедрении новых функций, откладывая вопросы безопасности: "В настоящее время ИИ-компании слишком сосредоточены на добавлении новых функций. Но, как всегда, чем больше функций, тем шире поверхность атаки. Поэтому все эти компании должны полностью сосредоточиться на безопасности, а, судя по тому, что я вижу, это часто уходит на второй план".