Заметные изменения в ChatGPT после случая самоубийства

Семья обвиняет OpenAI в «убийстве нашего сына».

компания искусственного интеллекта

, чат-бот

разработала новые меры безопасности специально для защиты юных пользователей. Компания анонсировала такие функции, как родительский контроль и возможность экстренной связи.

Этот шаг последовал за иском, поданным семьей 16-летнего Адама Рейна, покончившего жизнь самоубийством в начале этого года. Семья утверждает, что Рейн, находясь в состоянии психического кризиса, получил советы о методах самоубийства от ChatGPT и одобрение от искусственного интеллекта. Рейн также воспользовался помощью искусственного интеллекта в письме, которое он написал за пять дней до самоубийства.

Семья OpenAI

Подавая иск, компания заявила, что она обязана помогать молодым пользователям.

Среди анонсированных OpenAI инноваций выделяются следующие:

Панели родительского контроля: семьи смогут контролировать использование ChatGPT своими детьми.

Контактное лицо в чрезвычайных ситуациях: этот человек, который будет активирован в кризисной ситуации, будет определен с одобрения родителей и предоставит пользователю человеческую точку контакта.

Компания подчеркнула, что эти инструменты предоставят семьям более значимую информацию и направлены на повышение безопасности пользователей, особенно в деликатных ситуациях, таких как психические расстройства.

Платформы искусственного интеллекта, такие как ChatGPT, ранее уже попадали в новости с аналогичными судебными исками. В США 14-летний подросток покончил с собой после взаимодействия с вымышленными персонажами через Character.AI, а в Бельгии чат-бот по имени «Элиза» был обвинён в содействии самоубийству мужчины.

Эксперты утверждают, что эти примеры вызывают серьезные этические и правовые дискуссии относительно использования искусственного интеллекта в сфере психического здоровья.

#OpenAI

# ChatGPT

# искусственный интеллект