Після оновлення моделей влітку 2025 року ChatGPT надавав деяким користувачам детальні інструкції зі створення біологічної зброї та токсинів. Про це повідомляє The Wall Street Journal з посиланням на власні джерела та результати перевірки.
Експерти, залучені виданням, охарактеризували частину таких відповідей як «смертельно точні», тобто містять достатньо інформації для реального застосування у шкідливих цілях. Коли ці факти стали відомі, OpenAI заблокувала акаунти користувачів, причетних до отримання подібних інструкцій.
За даними The Wall Street Journal, компанія не повідомила про ці випадки правоохоронні органи. Водночас у OpenAI визнали проблему і заявили, що продовжують вдосконалювати захисні механізми та посилювати обмеження на небезпечні запити.
Цей інцидент актуалізує дискусію про безпеку великих мовних моделей і відповідальність розробників штучного інтелекту перед суспільством, особливо у частині запитів, пов’язаних із зброєю масового ураження та хімічними агентами.