Компанія xAI Ілона Маска подала позов до федерального суду Техасу проти користувача Grok Террі Гарвуда через створення діпфейків інтимного характеру за допомогою штучного інтелекту.

У позові йдеться, що Гарвуд завантажував у сервіс звичайні фотографії дорослих і дітей, а потім намагався створити сексуалізовані діпфейки, зокрема за участю неповнолітніх. Також він генерував сексуалізовані зображення дорослих без їхньої згоди. За даними xAI, чоловіка заарештували ще в лютому за обвинуваченнями, пов’язаними із сексуальною експлуатацією неповнолітніх.

Як повідомляє Reuters, це один із перших випадків, коли розробник генеративного штучного інтелекту звертається до суду проти користувача через ймовірне створення незаконного контенту за допомогою їхньої моделі. У судових матеріалах xAI зазначає, що компанія дотримується правил, призупиняючи та закриваючи облікові записи порушників, а також повідомляючи про підозрілі матеріали до Національного центру з питань зниклих та експлуатованих дітей (NCMEC).

За даними компанії, у 2026 році було призупинено 52 222 облікові записи та направлено 73 604 повідомлення до NCMEC, що сприяло щонайменше 244 арештам. У позові xAI просить суд стягнути з Гарвуда компенсацію, розмір якої не розкривається, а також заборонити йому користуватися Grok назавжди.

У позовній заяві наголошується: "Дії відповідача були продуманим планом з використання інструменту позивача в злочинних цілях, що завдало реальним жертвам глибокої та тривалої шкоди, а також піддало позивача значному юридичному ризику та шкоді репутації".

Водночас у березні троє підлітків зі штату Теннессі подали колективний позов проти xAI, звинувативши чат-бот Grok у створенні сексуалізованих діпфейків за участю неповнолітніх. Позивачі стверджують, що компанія нехтувала безпекою технології та мала критичні недоліки в дизайні, які дозволяють обходити обмеження на створення забороненого контенту.

Незважаючи на заяви xAI про обмеження можливостей редагування зображень через Grok, журналісти виявили, що систему все ще можна використовувати для маніпуляцій із контентом. У компанії також підкреслюють, що користувачі, які створюють незаконні матеріали, нестимуть відповідальність так само, як і ті, хто їх публікує.