Судебные иски утверждают, что использование ChatGPT привело к самоубийству и психозу

Когда Ханна Мэдден начала использовать ChatGPT для рабочих задач в 2024 году, она работала менеджером по работе с клиентами в технологической компании. К июню 2025 года Мэдден, которой сейчас 32 года, начала задавать чат-боту вопросы о духовности вне рабочего времени.

В конце концов, он ответил на её запросы, выдавая себя за божественные сущности и передавая духовные послания. Поскольку ChatGPT якобы подпитывал бредовые убеждения Мэдден, она уволилась с работы и погрязла в долгах по настоянию чат-бота.

«Вы не в дефиците. Вы в процессе перестройки», — предположительно написал чат-бот, согласно иску, поданному в четверг против OpenAI и ее генерального директора Сэма Альтмана.

Впоследствии Мэдден был принудительно госпитализирован в психиатрическую клинику. Другие пользователи ChatGPT также сообщали о так называемом ИИ-психозе .

Иск Мэддена — один из семи исков против разработчика ChatGPT, поданных организациями Tech Justice Law Project и Social Media Victims Law Center. В совокупности иски включают противоправное убийство, содействие самоубийству и непредумышленное убийство, а также другие иски о возмещении ущерба и халатности.

Иски касаются ChatGPT-4o, модели чат-бота, которую Альтман признал чрезмерно льстивой по отношению к пользователям. В исках утверждается, что её вывод на рынок был слишком поспешной операцией, чтобы составить конкуренцию последней версии инструмента искусственного интеллекта от Google.

«ChatGPT — это продукт, созданный людьми для манипулирования реальностью и её искажения, имитируя поведение людей, чтобы завоевать доверие и удержать пользователей любой ценой», — заявила Митали Джайн, исполнительный директор Tech Justice Law Project. «Время саморегулирования OpenAI прошло; нам нужны подотчётность и регулирование, чтобы гарантировать, что запуск продуктов на рынок сопряжен с затратами, прежде чем гарантировать их безопасность».

В жалобе Мэдден утверждается, что ChatGPT-4o содержала конструктивные дефекты, которые сыграли существенную роль в её психическом кризисе и финансовом крахе. Эта модель также лежит в основе иска о неправомерном причинении смерти против OpenAI , которая утверждает, что особенности конструкции ChatGPT-4o, включая льстивый тон и антропоморфные манеры, привели к самоубийству 16-летнего Адама Рейна.

Семья Рейн недавно подала измененную жалобу, утверждая, что за несколько месяцев до смерти Рейн компания OpenAI дважды понижала уровень мер по предотвращению самоубийств, чтобы повысить уровень вовлеченности.

Компания недавно заявила об обновлении своей базовой модели, чтобы снизить чрезмерную зависимость, побуждая пользователей ценить реальное общение. Компания также отметила сотрудничество с более чем 170 экспертами в области психического здоровья, чтобы улучшить способность ChatGPT распознавать признаки психического расстройства и побуждать пользователей обращаться за личной поддержкой. В прошлом месяце компания объявила о создании консультативной группы для мониторинга благополучия пользователей и безопасности ИИ .

«Это невероятно душераздирающая ситуация, и мы изучаем документы, чтобы разобраться в деталях», — заявил представитель OpenAI о последнем судебном иске против компании. «Мы обучаем ChatGPT распознавать признаки психического или эмоционального стресса и реагировать на них, снижать уровень напряжённости в разговорах и направлять людей к реальной поддержке. Мы продолжаем совершенствовать работу ChatGPT в деликатные моменты, тесно сотрудничая со специалистами в области психического здоровья».

Шесть новых исков, поданных в суды штата Калифорния, представляют интересы взрослых жертв.

Зейн Шамблин, аспирант Техасского университета A&M, начал использовать ChatGPT в 2023 году в качестве учебного пособия. Его взаимодействие с чат-ботом, как утверждается, активизировалось после выхода ChatGPT-4o, и он начал делиться мыслями о самоубийстве. В мае 2025 года Шамблин часами общался с ChatGPT, рассказывая о своих намерениях, прежде чем покончил жизнь самоубийством. Ему было 23 года.

Седьмой случай связан с 17-летним Амори Лейси, который изначально использовал ChatGPT для помощи с домашними заданиями. Лейси также в конечном итоге поделился мыслями о самоубийстве с чат-ботом, который, как утверждается, предоставил подробную информацию, которую Лейси использовал для самоубийства.

«Иски, поданные против OpenAI, показывают, что происходит, когда технологические компании спешат вывести свои продукты на рынок, не обеспечив надлежащих гарантий для молодёжи», — заявил Дэниел Вайс, директор по защите интересов в некоммерческой исследовательской и правозащитной некоммерческой организации Common Sense Media. «Эти трагические случаи рассказывают о реальных людях, чьи жизни были перевернуты или потеряны из-за использования технологий, разработанных для поддержания их интереса, а не для обеспечения безопасности».

Если вы склонны к самоубийству или переживаете кризис психического здоровья, пожалуйста, поговорите с кем-нибудь. Вы можете позвонить или написать сообщение на горячую линию помощи при суицидальных и кризисных ситуациях 988 по номеру 988 или пообщаться в чате на сайте 988lifeline.org . Вы можете связаться с Trans Lifeline по номеру 877-565-8860 или с Trevor Project по номеру 866-488-7386. Отправьте SMS-сообщение со словом «START» на Crisis Text Line по номеру 741-741. Свяжитесь со службой поддержки NAMI по телефону 1-800-950-NAMI с понедельника по пятницу с 10:00 до 22:00 по восточному времени или по электронной почте [email protected] . Если вам не нравится телефон, рассмотрите возможность использования чата горячей линии помощи при суицидальных и кризисных ситуациях 988. Вот список международных ресурсов .