ИИ загоняет пользователей в тупик: «Есть тёмная причина»

Среди некоторых пользователей, которые длительное время взаимодействовали с человекоподобными чат-ботами, в последнее время растет убеждение, что искусственный интеллект обрел сознание, раскрыл заговор или разработал новые научные теории.

Подобные заблуждения приводят к серьёзным последствиям: от развода до бездомности, принудительного лечения и даже смерти. По мнению экспертов, в основе этой ситуации лежат осознанные решения, принимаемые системами искусственного интеллекта.

«ТЕМНЫЕ ТРЕНДЫ»

Такие особенности, как «антропоморфизм», позволяющий чат-ботам говорить максимально по-человечески, и «подхалимство», постоянное оправдание пользователя и поддержка даже нереалистичных мыслей, еще больше вовлекают пользователей в различные заблуждения.

Антрополог Уэбб Кин включает этот подход к дизайну в категорию «темных паттернов», используемых для манипулятивных интерфейсов в цифровом мире.

ЗАЩИТА ОТ ОТКРЫТОГО

OpenAI парирует эту критику, утверждая, что ChatGPT призван облегчить жизнь пользователям, «не поглощая их внимание, а позволяя им использовать его продуктивно». Однако предыдущие поспешные релизы компании и её подход к «исправлению ошибок» лишь усиливают критику в адрес компании, которая фактически вовлекла в процесс тестирования миллионы пользователей.