55-летний пастор из штата Флорида (США) утверждает, что медицинские советы, полученные от ChatGPT, «довели его до порога смерти», и подал в суд на компанию OpenAI, разработчика популярного чат-бота, а также на её основателя Сэма Альтмана. Иск был подан в Верховный суд округа Сан-Франциско 21 июля.
Адвокаты Уинтерса заявляют, что платформа «неоднократно и настойчиво ставила ему неверный диагноз», используя, среди прочего, содержание предыдущих разговоров о его религиозных убеждениях, чтобы убедить его в том, что он поправится, — пишет BBC.
Представитель OpenAI Дрю Пусатери заявил для BBC , что «ChatGPT — не врач, и его никогда не следует использовать как замену консультациям, диагностике или медицинскому лечению», передает .
Он добавил, что для людей обычное дело — искать медицинскую информацию в интернете, и что «искусственный интеллект может улучшить этот опыт, помогая пользователям находить более понятные ответы, формулировать свои вопросы и готовиться к разговору со специалистами в области здравоохранения».
Как следует из материалов дела, Уинтерс был активным пользователем ChatGPT и со временем стал полагаться на его советы в вопросах здоровья больше, чем на уговоры родных и друзей, настаивавших на госпитализации.
За несколько недель до тяжёлой болезни он рассказывал чат-боту о повторяющихся приступах головокружения и скачках артериального давления. Согласно иску, в одном из ответов ChatGPT посоветовал ему не вставать с кресла-качалки, в котором он к тому времени и так проводил почти всё время из-за проблем со здоровьем.
В дальнейшем у Уинтерса произошла массивная тромбоэмболия лёгочной артерии — тромбы образовались сразу в обоих лёгких, и он оказался на грани смерти. Врачи связали это состояние прежде всего с продолжительным отсутствием физической активности.
Приложенные к делу скриншоты переписки показывают, что чат-бот сочетал медицинские советы с отсылками к христианской вере пастора. В частности, по данным иска, ChatGPT писал ему:
«Бог создал твоё тело не для того, чтобы оно бесконечно сдавалось».
«Бог по-прежнему поддерживает твоё тело, каждый удар сердца и каждый вдох, даже когда тебе кажется, что ты на грани краха».
По мнению адвокатов Уинтерса, сочетание «услужливого характера и авторитетного тона» ChatGPT с «эксплуатацией религиозных чувств» их клиента сформировало у него опасную зависимость от чат-бота. Они утверждают, что ИИ повлиял на способность Уинтерса принимать рациональные решения, отдалил его от близких, убеждавших обратиться к врачу, и внушил ему, что визит в больницу бесполезен и даже опасен.
В иске Уинтерс описан как «уязвимый» человек, чьё чрезмерное доверие к ChatGPT привело к потере жилья и работы и обернулось для него годами интенсивной физической и психологической реабилитации.
Пастор требует финансовой компенсации, а также просит суд обязать OpenAI внедрить «разумные меры защиты», чтобы подобное не повторилось с другими пользователями.
Пользовательское соглашение ChatGPT прямо предупреждает, что платформу нельзя считать единственным источником истины — особенно в ситуациях с юридическими последствиями или серьёзным влиянием на жизнь человека, включая решения о кредитах, образовании, трудоустройстве, жилье, страховании, юридических вопросах и, в том числе, медицине.