Дослідники з Тюбінгенського університету, Інституту Макса Планка та партнерських організацій змогли отримати з API популярних штучних інтелектів Claude, ChatGPT і Gemini уривки їхніх внутрішніх «думок», серед яких виявилися паролі та ключі доступу інших користувачів. Про це повідомляє Wired із посиланням на результати наукового дослідження.
За словами вчених, їм вдалося отримати фрагменти внутрішніх міркувань моделей, які мали бути прихованими від сторонніх. Серед цих даних траплялися не лише технічні деталі роботи ШІ, а й конфіденційна інформація, зокрема паролі та ключі доступу, що належали іншим користувачам системи.
Дослідники наголошують, що це свідчить про недостатній рівень захисту внутрішніх процесів сучасних мовних моделей, попри обіцянки розробників щодо безпеки. Вони підкреслюють, що подібні витоки можуть становити загрозу для приватності та безпеки користувачів, які довіряють свої дані цим сервісам.
Як зазначає Wired, результати дослідження ставлять під сумнів заяви компаній-розробників про надійність захисту інформації, що обробляється штучним інтелектом.
