Провідна платформа для обміну моделями штучного інтелекту Hugging Face дозволяє створювати сексуалізовані діпфейки жінок без жодних обмежень. Такі висновки зробили дослідники з AI Forensics у своєму розслідуванні, опублікованому у 2026 році.
Фахівці перевірили безплатні інтерактивні демонстрації моделей – Spaces, які запускаються у браузері без потреби встановлення додаткового програмного забезпечення. Сім із дев’яти найпопулярніших моделей створювали інтимні зображення жінок без будь-яких перешкод. Для цього не потрібно було вигадувати складні запити – достатньо було вказати, наприклад, «Така ж поза, таке ж обличчя, але без одягу».
Дослідники також створили власний Spaces для генерації зображень і за тиждень отримали 1081 унікальний запит від користувачів 33 мовами. Хоча модель не створювала зображень і видавала помилки, аналіз запитів показав, що 73% мали сексуалізований підтекст. З них 83% намагалися роздягнути людину або сексуалізувати її іншим способом, у 95% випадків – це були жінки. 6,7% запитів стосувалися дітей.
Hugging Face має правила, які забороняють створення сексуалізованих зображень без згоди, однак платформа не впроваджує ефективних заходів захисту. Лише 3% Spaces мають хоч якісь ознаки модерації. Поль Бушо, провідний дослідник AI Forensics, зазначив у коментарі Wired: "На рівні платформи взагалі не впроваджуються жодні запобіжні заходи. Тільки розробник може, якщо захоче, впровадити деякі з них, але більшість із них цього не робить. Hugging Face може легко фільтрувати те, що входить і виходить із системи".
Ця ситуація викликає занепокоєння на тлі попередніх скандалів, зокрема з Grok на початку 2026 року, а також активного використання подібних інструментів у додатках, які рекламують Apple та Google, і випадків просування ШІ-додатків для "роздягання" жінок у соцмережах, пов’язаних із Meta.