Під час минулих вихідних у відкритому доступі через Google виявили велику кількість спільних чатів і Артефактів користувачів Claude — інтерактивних мінідодатків і документів, створених у сервісі. Про це повідомили користувачі Reddit, які знайшли їх за допомогою пошукових операторів типу “site:claude.ai/share”. Серед знайдених даних були медичні записи, приватні документи компаній, а також імена та номери телефонів дітей.

Проблема виникла через функцію «share chat» у Claude, що дозволяє створювати посилання для перегляду чатів або проєктів будь-ким, хто має URL. Інтерфейс сервісу попереджає: «Anyone with the link can view» — «Будь-хто з посиланням може переглянути». Однак ця можливість, як випливає з формулювання, призначена для обмеженого кола — друзів, колег чи невеликих груп, а не для загального інтернету. На відміну від Google Docs, де подібні документи не індексуються пошуковими системами, посилання Claude потрапили до загального доступу.

Компанія Anthropic, що розробляє Claude, поклала відповідальність за витік на користувачів. У коментарі TechCrunch вона заявила, що посилання на спільні чати з’являються у пошукових результатах лише якщо їх опублікували у відкритих місцях — форумах чи соцмережах. Посилання, надіслані приватно, не індексуються. Представниця Anthropic Емі Ротерем пояснила: «Ми даємо людям контроль над тим, чи робити їхні чати публічними, і відповідно до наших принципів конфіденційності не надаємо пошуковим системам доступу до каталогів чатів чи сайтмапів. Ці посилання не можна вгадати або знайти, якщо користувачі самі їх не поширюють. Коли хтось ділиться розмовою, він робить її публічно доступною, і, як інший публічний вебконтент, вона може бути заархівована сторонніми сервісами».

Проблему вперше помітив користувач Reddit у суботу, а 404 Media повідомила про неї в понеділок. Станом на понеділок після обіду TechCrunch не знайшов жодних результатів за описаним пошуковим запитом, що свідчить про усунення витоку.

До виправлення ситуації Futurism виявив у відкритому доступі детальні медичні звіти реальних пацієнтів, результати клінічних досліджень з іменами пацієнтів, документи з іменами та телефонами дітей шкільного віку, а також внутрішні документи компаній і відгуки працівників із персональними даними. Серед Артефактів були коди, робочі нотатки та еротичний контент, створений чатботом. Fortune повідомляв про чат, позначений як «shared by Anthropic», де Claude генерував матеріали з еротичним змістом, що порушує політику компанії.

У політиці Anthropic заборонено створення сексуально відвертого контенту, однак подібні випадки, коли чатботи порушують власні правила через повторні або хитромудрі запити, трапляються у багатьох великих AI-моделях. Поки що неясно, як саме з’явився цей контент у відкритих чатах, і Anthropic не надала коментарів TechCrunch з цього приводу.

Представник Google Нед Адріанс зазначив, що «ані Google, ані інші пошукові системи не контролюють, які сторінки стають публічними в інтернеті, і ці сторінки були індексовані багатьма пошуковими системами. Ми надаємо власникам сайтів чіткі інструменти для контролю, чи можуть сторінки скануватися або індексуватися, і завжди поважаємо ці директиви».

Подібна проблема вже виникала минулого року, коли сотні чатів Claude потрапили до індексу пошукових систем. Тоді Google оцінив кількість індексованих розмов приблизно у 600, перш ніж сторінки зникли з результатів пошуку. Чи відповідає нинішній витік тому ж масштабові, невідомо, але кілька користувачів повідомляли про знайдені спільні чати за тим самим типом пошукового запиту. Також минулого року 404 Media повідомляла, що дослідник зміг зібрати близько 100 тисяч публічних чатів ChatGPT.

Щоб перевірити, які ваші чати Claude мають публічні посилання, потрібно зайти в Налаштування -> Конфіденційність -> Спільні чати.