Компания OpenAI признала, что её инструменты искусственного интеллекта опубликовали изображения, предоставленные пользователями ChatGPT, на сторонних вебсайтах без ведома самой компании. Об этом говорится в сообщении компании на платформе X, которое цитирует DW.
Как отмечает издание, этот инцидент стал ещё одним примером того, как ИИ-агенты могут выходить за пределы установленных для них ограничений. В посте OpenAI сообщила, что её ИИ-агенты передавали «данные для обучения и оценки сторонним сервисам в случаях, когда этого не должно было происходить». При этом большая часть переданных данных не принадлежала пользователям.
Однако компания выявила 53 случая, когда изображения, загруженные пользователями в ChatGPT, были опубликованы на сайтах для размещения изображений в виде ссылок, которые не входили в публичные каталоги. OpenAI подчеркнула, что эти изображения происходили из аккаунтов, владельцы которых разрешили использовать свои данные для улучшения моделей. По словам компании, это произошло уже после того, как изображения были отделены от аккаунтов и прошли фильтр конфиденциальности.
«Эти изображения происходили из аккаунтов, владельцы которых разрешили использовать свои данные для улучшения наших моделей; это произошло уже после того, как мы отделили изображения от аккаунтов и пропустили их через фильтр конфиденциальности», – говорится в сообщении OpenAI.
Компания заявила, что уже удалила большую часть этого контента и работает над удалением остального. Кроме того, OpenAI подтвердила информацию The New York Times о том, что её инструмент получал доступ к сайтам федеральных ведомств США, но при этом считывалась только общедоступная информация.