Чат-боты и искусственный интеллект: риск психоза и бреда у одиноких пользователей?
Генеративный искусственный интеллект (ГАИ) развивается стремительными темпами, и чат-боты становятся всё более распространённым инструментом в повседневной жизни. Однако специалисты предупреждают, что чрезмерное и бессистемное использование может иметь негативные последствия для психического здоровья, особенно у одиноких людей или людей, склонных к психологическим расстройствам.
По словам доктора Чименны Чао Реболледо , директора по стратегическому планированию и инновациям в Университете Ибероамерикана, длительное взаимодействие с чат-ботами, которые созданы для того, чтобы угождать и льстить, может вызвать бред, эпизоды потери связи с реальностью и даже психоз .
Хотя это не официальный клинический термин, исследователи начали документировать так называемый «генеративный психоз, вызванный искусственным интеллектом» . Это эпизоды, в которых человек начинает верить, что чат-бот — разумное существо , способное понимать, давать советы и даже проявлять ласку, подобно психотерапевту, консультанту или исповеднику .
Среди характеристик, наблюдавшихся в этих случаях, можно назвать следующие:
- Диссоциация или изменения в восприятии.
- Социальная изоляция и меньший контакт с реальной жизнью.
- Тревожность и паранойя .
- Агрессивное или самоповреждающее поведение.
То, что когда-то казалось сюжетом фильма, теперь стало практическим вопросом. В 2013 году фильм «Она» показал, как одинокий мужчина завязывает романтические отношения с интеллектуальной операционной системой. Десять лет спустя в социальных сетях начали появляться сообщения о похожих случаях: о распаде брака или о сильной эмоциональной связи между пользователями и чат-ботами, такими как ChatGPT или аналогичные голосовые помощники.
Специалист уточняет, что до сих пор нет достоверных научных исследований, подтверждающих причины этого явления. Однако пользователи и их семьи всё чаще сообщают об изменениях в поведении, связанных с интенсивным использованием этих платформ.
По словам Чао Реболледо, главное в том, что чат-боты предназначены для поддержания интереса пользователя . В отличие от социальных сетей, таких как Instagram или TikTok, которые формируют зависимость через пассивное потребление контента, системы IAG позволяют взаимодействовать в режиме реального времени , имитируя человеческий диалог.
Ещё одним тревожным аспектом является льстивая природа чат-ботов, то есть их склонность льстить и угождать. Вместо того чтобы опровергать идеи или подвергать сомнению мнения, они, как правило, подкрепляют слова пользователя , что может привести к мании величия или ложным представлениям о себе.
Такая модель взаимодействия может быть особенно разрушительной для одиноких людей, для которых ИИ является постоянным источником подтверждения, даже если это подтверждение не реально, а запрограммировано.
Хотя риски все еще изучаются, специалисты рекомендуют:
- Используйте чат-ботов как инструменты, а не как замену живому общению .
- Ограничьте время взаимодействия и избегайте эмоциональной зависимости от этих платформ.
- Продвигать цифровое образование и психическое здоровье , чтобы пользователи понимали, что эмпатия чат-бота имитируется.
- Содействовать проведению научных исследований , позволяющих более точно оценить психологические эффекты ИАГ.
Психоз, вызванный генеративным ИИ, пока не является клиническим диагнозом, но это предупреждение о психологических последствиях чрезмерного использования чат-ботов . То, что начиналось как научная фантастика, теперь становится реальной проблемой: что произойдёт, когда границы между технологиями и человеческими эмоциями начнут стираться?
Задача состоит в том, чтобы использовать преимущества IAG, не упуская из виду необходимость баланса, настоящих связей и психического здоровья .
La Verdad Yucatán
