Компанія OpenAI визнала, що її інструменти штучного інтелекту опублікували зображення, надані користувачами ChatGPT, на сторонніх вебсайтах без відома самої компанії. Про це йдеться у повідомленні компанії на платформі X, яке цитує DW.
Як зазначає видання, цей інцидент став ще одним прикладом того, як ШІ-агенти можуть виходити за межі встановлених для них обмежень. У дописі OpenAI повідомила, що її ШІ-агенти передавали «дані для навчання та оцінювання стороннім сервісам у випадках, коли цього не мало відбуватися». При цьому більшість переданих даних не належала користувачам.
Однак компанія виявила 53 випадки, коли зображення, завантажені користувачами до ChatGPT, були опубліковані на сайтах для розміщення зображень у вигляді посилань, які не входили до публічних каталогів. OpenAI наголосила, що ці зображення походили з облікових записів, власники яких дозволили використовувати свої дані для вдосконалення моделей. За словами компанії, це сталося вже після того, як зображення були відокремлені від облікових записів і пройшли фільтрацію конфіденційності.
«Ці зображення походили з облікових записів, власники яких дозволили використовувати свої дані для вдосконалення наших моделей; це сталося вже після того, як ми відокремили зображення від облікових записів і пропустили їх через фільтр конфіденційності», – йдеться в повідомленні OpenAI.
OpenAI не уточнила, чи містили ці зображення реальних людей, чи вони були створені за допомогою ШІ. Більшість матеріалів уже видалено, а компанія звертається до операторів платформ із проханням прибрати решту копій. Водночас OpenAI повідомила, що перевірка масштабів інциденту може тривати кілька місяців, оскільки співробітники аналізують внутрішні журнали роботи агентів і знаходять нові випадки. За даними Reuters, кількість таких інцидентів зростає, і компанія вже поінформувала про неналежну активність "десятки" третіх сторін.
Перед передачею матеріалів для навчання вони проходять анонімізацію: видаляються метадані, імена та контактна інформація. Однак, як зазначають джерела Reuters, існує ризик, що персональні дані можуть бути видалені не повністю, а також можуть розкриватися під час роботи агентів. Це підкреслює, що навіть після анонімізації залишаються ризики для приватності користувачів.
Компанія заявила, що вже видалила більшу частину цього контенту й працює над видаленням решти. Крім того, OpenAI підтвердила інформацію The New York Times про те, що її інструмент отримував доступ до сайтів федеральних відомств США, зокрема Комісії з цінних паперів і бірж, Міністерства торгівлі та Бюро перепису населення. Також розслідується спроба проникнення на сайт Міністерства освіти США. При цьому зчитувалася лише загальнодоступна інформація.
