Более 900 миллионов человек используют ChatGPT как личного помощника, психотерапевта или собеседника, не подозревая, что их диалоги могут просматривать сторонние лица. Как сообщает rbc.ua, подрядчики OpenAI анализируют реальные разговоры пользователей для оценки и улучшения работы искусственного интеллекта.
Несмотря на попытки компании автоматически удалять персональные данные перед передачей сообщений модераторам, в OpenAI признают: чувствительная информация всё же иногда проходит через фильтры. Анонимность не является абсолютной — хотя имена пользователей не отображаются, содержание сообщений часто содержит данные, по которым можно идентифицировать человека.
Похожую практику использует и компания Anthropic, которая также привлекает людей к оценке реальных диалогов для совершенствования своих моделей, отмечают журналисты.
Главная задача модераторов — проверять качество ответов и корректировать поведение ИИ, чтобы сделать его безопаснее для общества. Подрядчики получают инструкции не позволять ChatGPT выдавать себя за человека и избегать чрезмерной лести в ответах. Чрезмерная «человечность» GPT-4o уже привела к ряду трагических случаев и судебных исков против OpenAI.
«Люди даже не подозревают, что их приватные разговоры с чат-ботом анализируют сторонние», — говорят сами модераторы.
Несмотря на это, человеческий контроль остаётся ключевым для исправления деструктивных моделей поведения алгоритмов, а идея полной анонимности и самообучения ИИ не соответствует действительности.