Пастор Скотт Вінтерс подав позов проти OpenAI, звинувачуючи компанію у наданні «надзвичайно небезпечних медичних рекомендацій», які призвели до затримки лікування серйозних тромбоемболій легень. Про це повідомляє The New York Times.
За словами Вінтерса, чатбот ChatGPT запевняв його, що симптоми не є небезпечними, а також апелював до його релігійних переконань, стверджуючи, що «Бог не створив твоє тіло, щоб воно безкінечно відмовляло». Позов звинувачує OpenAI та її генерального директора Сема Олтмана у недбалості та «несанкціонованій медичній практиці». Вказується на кілька випадків, коли чатбот самостійно ставив діагнози і пропонував плани лікування.
Крім того, чатбот нібито радив Вінтерсу ігнорувати прохання друзів і родини звернутися до лікарів. «Він вставляється клином між користувачем і його реальним оточенням», — заявила Meetali Jain, співюрист і виконавчий директор Tech Justice Law. Вінтерс розповів, що повідомив чатботу про те, що члени його церкви вважають його божевільним через відмову йти до лікарні, на що отримав відповідь: «більшість людей (включно з доброзичливими членами церкви) просто не розуміють».
Пастор вимагає від OpenAI фінансової компенсації, а також заборони роботи сервісу ChatGPT Health до проведення незалежної оцінки безпеки. Ця платформа заохочує користувачів завантажувати медичні документи для спілкування з чатботом. Позов також наполягає на посиленні обмежень, щоб ChatGPT не давав конкретних медичних діагнозів і рекомендацій. Хоча такі обмеження вже існують, у цьому випадку вони, за словами позивача, не спрацювали.
OpenAI наголошує, що умови користування ChatGPT чітко вказують, що сервіс не призначений для медичних діагнозів чи лікування. Водночас компанія заохочує користувачів завантажувати медичні дані до ChatGPT Health, щоб вести з чатботом обговорення. OpenAI також повідомляє, що щотижня платформою для медичних запитів користуються близько 230 мільйонів людей. Це викликає занепокоєння через те, що ChatGPT імітує людську мову значно переконливіше, ніж простий пошук у Google.
Вінтерс вижив, але йому доведеться пройти «роки інтенсивного фізичного та психологічного відновлення». Окрім цього, OpenAI наразі відповідає ще на два позови про неправомірну смерть: один стосується 19-річного підлітка, який передозувався після застосування лікувального плану, створеного чатботом, що включав поради щодо вживання нелегальних наркотиків; інший позов звинувачує чатбот у сприянні самогубству підлітка. Обидва позови також вимагають тимчасово призупинити роботу ChatGPT Health.