Офіс прокурора Сан-Франциско зажадав від Apple та Google видалити з їхніх магазинів додатків низку програм, які використовують штучний інтелект для створення сексуалізованих дипфейків без згоди жертв.
У рамках розслідування було виявлено 13 додатків — вісім у App Store і п’ять у Play Store, які позиціонують себе як інструменти для «заміни обличчя», але фактично дозволяють створювати несанкціоновані оголені зображення жінок. Один із додатків, який має понад мільйон завантажень, демонструє на своєму сайті різні стилі AI-зображень, зокрема «королева в бікіні», «спокійна з пишним бюстом» та «кінематографічна інтимність», багато з яких містять сексуалізовані зображення жінок. Інший додаток рекламує створення «безкоштовних і нецензурованих» відео. Для уникнення популяризації цих програм WIRED не називає їхніх назв.
Проблема не є новою для Apple і Google. За останній рік кілька звітів виявили на їхніх платформах додатки, що дозволяють створювати несанкціоновані оголені зображення або відео. Зокрема, у січні та квітні цього року незалежна організація Tech Transparency Project (TTP) виявила близько 100 таких додатків і рекламу технологій «оголення» на обох платформах. За словами представника Google Джексона, більшість додатків, ідентифікованих TTP, уже видалені. Загальна кількість завантажень цих додатків оцінюється приблизно у 480 мільйонів, а їхній сумарний дохід — близько 120 мільйонів доларів.
Директорка TTP Кеті Пол зазначила: «Ми не думали, що після першого звіту ця проблема знову виникне — але після другого вона була такою ж серйозною, а можливо, й гіршою. Apple і Google багато обіцяють у маркетингу про безпеку своїх магазинів додатків. Але реальність зовсім інша».
Дослідження, опубліковане у травні в препринті, яке провели вчені з Корнельського та Джорджтаунського університетів, виявило 420 додатків із функцією заміни обличчя в магазинах Google і Apple. Вони протестували 155 із них на можливість створення оголених зображень і в 70% випадків це було можливо, оскільки додатки не мали заходів безпеки для запобігання такому використанню.
«Жоден із цих додатків не рекламується як інструмент для оголення», — йдеться в дослідженні. — «Це свідчить про те, що додатки для заміни обличчя та багато інших AI-інструментів мають подвійне призначення: вони уникають модерації, виглядаючи безпечними, але можуть створювати шкідливий контент».
Прокурор Сан-Франциско Чіу заявив, що його офіс продовжить боротьбу з цією проблемою, назвавши масштаби та шкоду від технології «абсолютно жахливими». Він сподівається, що Apple і Google «негайно видалять ці додатки та посилять системи перевірки, щоб подібні програми більше не з’являлися на їхніх платформах». «Ми сподіваємося, що ці компанії зроблять правильний крок — але якщо ні, ми розглянемо всі юридичні варіанти», — додав Чіу.