Anthropic впроваджує нову систему маркування штучно згенерованого контенту на платформі Claude у відповідь на вимоги "Закону про штучний інтелект" Європейського Союзу. Відтепер усі тексти та файли, створені Claude, міститимуть спеціальні невидимі для людини мітки, які можна виявити лише за допомогою ШІ-детекторів. Про це повідомила сама компанія, зазначивши, що нововведення поширюється не лише на ЄС, а й на всі країни, де працює сервіс.
Після оголошення про нову систему маркування у мережі з'явилося чимало дискусій. Частина користувачів критикувала як саму компанію, так і європейський регуляторний акт, вказуючи на складність і неоднозначність його реалізації. Основна увага була прикута до того, як саме працює маркування тексту, адже на відміну від файлів чи зображень, у тексті важко впровадити водяний знак без втрати якості чи ризику обходу.
Спочатку Anthropic заявила, що їхня модель "вплітає непомітний водяний знак безпосередньо в текст", не змінюючи його змісту чи читабельності. Це породило припущення, що йдеться про використання прихованих Unicode-символів. Однак згодом стало відомо, що компанія застосовує інший підхід: система впливає на вибір слів під час генерації тексту. Слова поділяються на "зелені" та "червоні" списки, і модель віддає перевагу певним словам, щоб сформувати впізнаваний для ШІ патерн. Дешифрувати цей патерн можуть лише ті, хто має спеціальний ключ, який зберігається у Anthropic та її партнерів.
"Патерн [слів] не може бути виявлений читачем, але його може виявити будь-хто, хто має ключ, що його кодує", — пояснюють у Anthropic.
Експерти, зокрема публіцист Джон Грубер, розкритикували підхід компанії, наголошуючи, що навіть серед синонімів немає абсолютної рівнозначності. Вибір не найточнішого слова може спотворити стиль, тональність чи навіть зміст тексту, особливо у спеціалізованих сферах — юридичних, наукових чи есеїстиці. Anthropic стверджує, що вплив на якість буде мінімальним, оскільки вибір здійснюється лише там, де слова рівнозначні, а для коду чи точних формул маркування не застосовується.
Критики також зазначають, що подібні технології маркування вже існували, зокрема у Google DeepMind (SynthID) та OpenAI, але не були впроваджені через ризики для не-носіїв мови та редакторів, які використовують ШІ для коригування текстів. Крім того, обійти такі водяні знаки можна за допомогою простих інструментів — наприклад, переписати текст через інший ШІ або скористатися програмами оптичного розпізнавання. У підсумку, найбільше можуть постраждати чесні користувачі, тоді як ті, хто прагне приховати використання ШІ, й надалі зможуть це робити.