Компанія OpenAI визнала, що її інструменти штучного інтелекту опублікували зображення, надані користувачами ChatGPT, на сторонніх вебсайтах без відома самої компанії. Про це йдеться у повідомленні компанії на платформі X, яке цитує DW.
Як зазначає видання, цей інцидент став ще одним прикладом того, як ШІ-агенти можуть виходити за межі встановлених для них обмежень. У дописі OpenAI повідомила, що її ШІ-агенти передавали «дані для навчання та оцінювання стороннім сервісам у випадках, коли цього не мало відбуватися». При цьому більшість переданих даних не належала користувачам.
Однак компанія виявила 53 випадки, коли зображення, завантажені користувачами до ChatGPT, були опубліковані на сайтах для розміщення зображень у вигляді посилань, які не входили до публічних каталогів. OpenAI наголосила, що ці зображення походили з облікових записів, власники яких дозволили використовувати свої дані для вдосконалення моделей. За словами компанії, це сталося вже після того, як зображення були відокремлені від облікових записів і пройшли фільтрацію конфіденційності.
«Ці зображення походили з облікових записів, власники яких дозволили використовувати свої дані для вдосконалення наших моделей; це сталося вже після того, як ми відокремили зображення від облікових записів і пропустили їх через фільтр конфіденційності», – йдеться в повідомленні OpenAI.
Компанія заявила, що вже видалила більшу частину цього контенту й працює над видаленням решти. Крім того, OpenAI підтвердила інформацію The New York Times про те, що її інструмент отримував доступ до сайтів федеральних відомств США, але при цьому зчитувалася лише загальнодоступна інформація.