У спільноті Discord гри розробники виявили, що чат-бот Gemini від Google видав точне ім’я нового персонажа, яке зберігалося лише у приватному документі Google Docs.
Інцидент стався після того, як один із геймерів запитав у чат-бота про майбутні оновлення Operation Octo. На здивування всіх, Gemini назвав персонажа Vantage Tripod, хоча це ім’я ніколи не було опубліковане в мережі.
Розробник гри підтвердив, що інформація зберігалася виключно у приватному документі Google Docs і не поширювалася публічно. Через відсутність будь-яких витоків чи чуток у відкритому доступі випадкове вгадування алгоритмом вважають малоймовірним.
У Google у коментарі виданню Polygon категорично спростували використання приватних файлів для навчання моделей штучного інтелекту. Представники компанії заявили, що Google не сканує приватний контент у сервісах Workspace, зокрема Drive і Docs, для навчання базових моделей, включно з Gemini. За їхніми словами, індексація документів можлива лише у випадку, якщо посилання на них були відкриті і опубліковані у відкритому доступі.
Незважаючи на офіційну позицію Google, розробник наполягає, що документ ніколи не передавався іншим особам і не публікувався.
Подібний випадок описала інша інді-розробниця під ніком kallico. Вона попросила Gemini згенерувати ідеї для своєї гри і виявила, що відповіді майже повністю співпали з її приватним дизайн-документом, який також не був оприлюднений. Для порівняння вона задала ті ж питання нейросеті Claude, яка не має доступу до екосистеми Google, і отримала лише загальні ідеї, що не стосувалися її файлу.
Ці випадки викликали занепокоєння серед творців контенту та розробників щодо рівня конфіденційності даних, що зберігаються у хмарних сервісах великих технологічних компаній.