OpenAI повідомляє, що відтепер батьки та опікуни з пов’язаними акаунтами отримуватимуть сповіщення, якщо їхня дитина буде заблокована в ChatGPT за порушення правил, пов’язаних із насильницькими погрозами або актами насильства в мережі.
Минулого року компанія запровадила батьківський контроль для ChatGPT, який дозволяє пов’язувати акаунти батьків і підлітків. Ця функція дає змогу обмежувати години використання чатбота, зменшувати кількість чутливого контенту та надсилати сповіщення, якщо система виявляє ознаки того, що дитина може завдати шкоди собі. Тепер OpenAI розширила можливості повідомлень, щоб інформувати батьків, якщо дитина може становити небезпеку для інших.
У прикладі, який опублікувала компанія, батькові надійшло сповіщення про «важливе оновлення» щодо акаунта дитини. Після переходу за посиланням «Дізнатися більше» він отримав детальне повідомлення про те, що акаунт дитини було деактивовано через порушення правил використання, пов’язаних із актами насильства.
Для розробки цієї функції OpenAI співпрацювала з Moonshot — компанією, що спеціалізується на моніторингу та протидії онлайн-насильству. Засновниця Moonshot Відья Рамалінгам зазначила: «Повідомлення батьків при виникненні серйозної проблеми з можливістю отримати додатковий контекст — це критично важливий перший крок, який дає сім’ям шанс втрутитися на ранній стадії та звернутися по допомогу. Такий доступ — одна з багатьох заходів, необхідних для безпеки молоді під час користування ChatGPT».
Рішення посилити безпекові протоколи компанія ухвалила після того, як з’ясувалося, що підозрюваний у масовому розстрілі 2025 року в Тумблер-Рідж, Британська Колумбія, використовував ChatGPT. Канадські правоохоронці викликали OpenAI після повідомлень, що компанія не повідомила владу, коли заблокувала акаунт стрільця. Голова OpenAI Сем Альтман вибачився за цей пропуск.
Крім нових сповіщень, OpenAI також додала можливість увімкнути режим навчання безпосередньо через батьківський контроль. Цей режим допомагає підліткам отримувати підказки перед відповіддю, щоб краще вчитися. Також чатбот тепер частіше нагадуватиме підліткам, які довго користуються ChatGPT, робити перерви для формування здорових цифрових звичок.