Meta оголосила у четвер, що тепер буде повідомляти батьків, якщо їхній підліток обговорює суїцид або самопошкодження з чатботом Meta AI. Компанія також працює над можливістю звертатися до служб екстреної допомоги, якщо розмови користувача свідчать про ризик самопошкодження.
Ці зміни відбуваються на тлі посиленої уваги з боку регуляторів і батьків до того, як AI-чатботи реагують на користувачів у кризових ситуаціях, особливо підлітків. Це питання відповідальності дедалі більше впливає на те, як компанії розробляють і просувають свої продукти.
Meta повідомляє, що створила спеціальну AI-систему для виявлення розмов, у яких підліток чітко натякає на наміри заподіяти собі шкоду. "Ми розуміємо, наскільки тривожними можуть бути такі сповіщення для батьків," — йдеться у блозі компанії. — "Тому всі чати, позначені нашим AI, проходять ручну перевірку перед відправленням сповіщення. Якщо намір підлітка неясний, ми схиляємося до обережності і повідомляємо батьків. Це означає, що іноді батьки можуть отримати сповіщення без реальної підстави для занепокоєння, але ми вважаємо це правильним початком і продовжимо моніторинг, щоб бути впевненими у правильності наших дій."
Наразі ці сповіщення доступні для батьків, які користуються функцією Instagram Parental Supervision у США, Великій Британії, Австралії та Канаді. Meta планує поширити їх на весь світ до кінця року. Ця нова функція доповнює вже існуючі сповіщення, які надсилаються батькам, якщо їхні діти неодноразово шукають у Instagram терміни, пов’язані з суїцидом або самопошкодженням. Також батьки можуть бачити теми, які їхні діти обговорювали з Meta AI протягом останнього тижня.
Meta також повідомила, що налаштування "Обмежений контент", яке дозволяє батькам створити більш суворий режим для підлітків в Instagram, тепер поширюється і на Meta AI. Чатбот уже налаштований уникати сексуальних, романтичних або алкогольних тем у спілкуванні з підлітками, а режим "Обмежений контент" розширює ці обмеження, відмовляючи у більшій кількості запитів. Meta не уточнила, які саме додаткові запити тепер блокуються, але TechCrunch звернувся до компанії за деталями.
Крім того, Meta заявила, що звертатиметься до служб екстреної допомоги, якщо розмова з Meta AI, незалежно від віку користувача, вказує на ризик суїциду. Раніше компанія вже застосовувала таку практику, реагуючи на пости у Facebook або Instagram, що свідчать про небезпеку, тепер це розповсюджується і на спілкування з чатботом.