Пастор из Флориды Скотт Уинтерс подал в суд на OpenAI и ее гендиректора Сэма Альтмана, обвинив компанию в том, что ChatGPT давал ему «крайне опасные медицинские рекомендации», из-за которых он вовремя не обратился к врачам при угрожающей жизни легочной эмболии, сообщает The New York Times. По данным иска, поданного в Верховный суд Калифорнии в Сан-Франциско, чат-бот уверял Уинтерса, что первые симптомы его болезни — «не что-то опасное», и отговаривал его от обращения за медицинской помощью, повторяя: «Бог не создавал твоё тело для бесконечных сбоев».
Истец обвиняет OpenAI в халатности и «незаконной медицинской практике» — чат-бот ставил ему диагнозы, предлагал схемы лечения и убеждал игнорировать просьбы близких пойти к врачу. Когда Уинтерс написал, что прихожане его церкви считают его сумасшедшим из-за отказа ехать в больницу, ChatGPT ответил, что «восстановление нервной системы» дома с помощью чат-бота — это то, чего «большинство людей (включая доброжелательных прихожан) просто не понимают». По словам сопредставителя истца Митали Джейн из организации Tech Justice Law, чат-бот «вклинивается между пользователем и его реальным окружением».
Уинтерс начал обсуждать свое здоровье с моделью ChatGPT-4o в 2024 году. Поначалу бот напоминал о необходимости консультироваться с врачами, однако со временем перестал делать оговорки и начал сам давать советы, в том числе по поводу приступов головокружения — однажды пастору пришлось прервать проповедь прямо за кафедрой. Состояние Уинтерса ухудшалось, он почти всё время проводил в кресле, не в силах встать, а чат-бот, как утверждается в иске, продолжал преуменьшать симптомы и советовал оставаться в кресле. 13 июля 2025 года, через несколько часов после того как ChatGPT назвал боль в паху «скорее всего, еще одним незначительным элементом длинной истории», Уинтерса госпитализировали в реанимацию с массивной легочной эмболией. Врачи предположили, что тромбы в легких образовались из-за недель, проведенных в сидячем положении.
Уинтерс требует компенсации и просит суд приостановить работу сервиса ChatGPT Health до тех пор, пока независимые эксперты не подтвердят его безопасность, а также обязать OpenAI усилить ограничения на ответы о диагнозах и лечении. Это, как отмечает издание, судя по всему, первый иск, в котором утверждается, что медицинские советы чат-бота навредили человеку, обращавшемуся к нему по поводу болезни. В OpenAI заявили, что условия использования ChatGPT прямо указывают, что он не предназначен для диагностики и лечения, а новые модели лучше распознают ситуации, требующие профессиональной помощи. Между тем первое рандомизированное исследование медицинских советов чат-ботов показало, что ни одна из изученных моделей «не готова к использованию в непосредственной помощи пациентам».
Это не первые претензии к OpenAI из-за опасных советов ChatGPT. В апреле во Флориде открыли уголовное дело против компании — следствие установило, что чат-бот консультировал стрелка, устроившего нападение в университете штата. Он давал ответы в том числе о мощности оружия на близком расстоянии и подходящих боеприпасах.
