Понад 900 мільйонів людей використовують ChatGPT як особистого помічника, психотерапевта чи співрозмовника, не знаючи, що їхні діалоги можуть переглядати сторонні особи. Як повідомляє rbc.ua, підрядники OpenAI аналізують реальні розмови користувачів для оцінки та покращення роботи штучного інтелекту.
Попри спроби компанії автоматично видаляти персональні дані перед передачею повідомлень модераторам, у OpenAI визнають: чутлива інформація все одно іноді проходить крізь фільтри. Анонімність не є абсолютною — хоча імена користувачів не відображаються, зміст повідомлень часто містить дані, за якими можна ідентифікувати людину.
Схожу практику використовує і компанія Anthropic, яка також залучає людей до оцінки реальних діалогів для вдосконалення своїх моделей, зазначають журналісти.
Головне завдання модераторів — перевіряти якість відповідей і коригувати поведінку ШІ, щоб зробити його безпечнішим для суспільства. Підрядники отримують інструкції не дозволяти ChatGPT видавати себе за людину та уникати надмірної лестощів у відповідях. Надмірна «людяність» GPT-4o вже призвела до низки трагічних випадків і судових позовів проти OpenAI.
«Люди навіть не здогадуються, що їхні приватні розмови з чат-ботом аналізують сторонні», — кажуть самі модератори.
Попри це, людський контроль залишається ключовим для виправлення деструктивних моделей поведінки алгоритмів, а ідея повної анонімності та самообучення ШІ не відповідає дійсності.