TikTok запровадив нову функцію AI Cast, яка дає змогу створювати цифрові копії користувачів за допомогою штучного інтелекту. Водночас ця можливість вже спричинила хвилю занепокоєння через питання приватності та контролю над власним образом.

Американська письменниця та блогерка Брайс Грубер випадково побачила у своїй стрічці відео з власною цифровою копією, яка рекламувала автозасмагу. Вона ніколи не користувалася цим продуктом і не мала жодного стосунку до бренду. За словами Грубер, параметр доступу до її цифрового аватара був встановлений на "Для всіх" без її відома, що дозволило використовувати її образ у рекламі без згоди.

За даними TikTok, AI Cast створює цифровий аватар на основі обличчя та голосу користувача. Процес вимагає самостійного налаштування через запис відео з різних ракурсів і зачитування випадкової послідовності цифр для підтвердження особи. Після створення аватара користувач може обрати, хто бачитиме його: лише він, друзі або всі користувачі платформи.

Керівник із комунікацій TikTok Закарі Кайзер пояснив, що компанія тестує нові інструменти для захисту цифрової зовнішності, зокрема систему перевірки особи через завантаження фотографії та документи. Водночас випадок Грубер підкреслює ризики автоматичного відкриття доступу до цифрових копій.

Цифрові аватари дозволяють створювати відео без фізичної присутності користувача, а також об’єднувати в одному ролику цифрові копії різних людей. TikTok розвиває платформу Symphony, що генерує рекламні ролики за допомогою ШІ, а у 2026 році представила Symphony Agent для автоматичного створення сценаріїв і персонажів.

Проте, як зазначає професор Каліфорнійського університету в Берклі Гані Фарід, сучасним генеративним моделям достатньо мінімального набору даних — 20 секунд голосу та однієї фотографії — щоб створити переконливе відео з імітацією людини.

Грубер також розповіла про випадок, коли китайська компанія використала її обличчя, голос і навіть відтворила подвір'я її будинку для реклами джинсів без її дозволу. Подібні історії трапляються і з іншими авторами контенту, зокрема гітаристкою Софі Беррелл та музикантом Реттом Шаллом.

У США Федеральна торгова комісія забороняє неправдиві рекламні відгуки, у яких людина нібито рекомендує товар без реального досвіду. Відомство наголошує, що використання ШІ-аватарів не є порушенням, якщо не створюється оманливе враження про продукт.

Схожі проблеми виникли і в Meta, де генератор зображень Muse автоматично використовував фотографії з відкритих акаунтів Instagram, що викликало критику через відсутність явної згоди користувачів. Компанія визнала, що функція "не виправдала очікувань" і внесла зміни.

Історія з AI Self у TikTok демонструє, що розвиток генеративного штучного інтелекту ставить нові виклики для технологічних компаній у сфері захисту цифрової ідентичності та контролю над власним образом в інтернеті.