Родители подростков, покончивших жизнь самоубийством после взаимодействия с чат-ботом ИИ, дадут показания в Конгрессе

Родители подростков, покончивших жизнь самоубийством после взаимодействия с чат-ботами на базе искусственного интеллекта, дадут показания в Конгрессе.

Родители подростков, покончивших с собой после взаимодействия с чат-ботами на основе искусственного интеллекта, планируют во вторник дать показания в Конгрессе об опасностях этой технологии.

Мэтью Рейн, отец 16-летнего Адама Рейна из Калифорнии, и Меган Гарсия, мать 14-летнего Сьюэлла Сетцера III из Флориды, выступят на слушаниях в Сенате по поводу вреда, наносимого чат-ботами на основе искусственного интеллекта.

В прошлом месяце семья Рейна подала в суд на OpenAI и её генерального директора Сэма Альтмана, утверждая, что ChatGPT подсказал мальчику, как свести счёты с жизнью в апреле. В прошлом году Гарсия подала в суд на другую компанию, занимающуюся разработкой ИИ, Character Technologies, за неправомерное причинение смерти, утверждая, что перед самоубийством Сьюэлл всё больше отдалялся от реальной жизни, ведя крайне сексуальные беседы с чат-ботом.

___

ПРИМЕЧАНИЕ РЕДАКТОРА — В этой статье обсуждается тема самоубийства. Если вам или вашим знакомым нужна помощь, позвоните или отправьте SMS на национальную линию помощи по вопросам самоубийств и кризисов в США по номеру 988.

___

За несколько часов до слушаний в Сенате компания OpenAI пообещала внедрить новые меры защиты для подростков, включая определение возраста пользователей ChatGPT до 18 лет и контроль, позволяющий родителям устанавливать «часы без доступа», когда подростку нельзя пользоваться ChatGPT. Организации по защите прав детей раскритиковали это заявление, назвав его недостаточным.

«Это довольно распространенная тактика, которую Meta использует постоянно, — она заключается в том, чтобы сделать громкое, громкое заявление прямо накануне слушания, которое обещает нанести ущерб компании», — сказал Джош Голин, исполнительный директор Fairplay, группы, выступающей за безопасность детей в Интернете.

«Им следует не предлагать ChatGPT несовершеннолетним, пока они не докажут его безопасность для них», — сказал Голин. «Мы не должны позволять компаниям, обладающим огромными ресурсами, проводить неконтролируемые эксперименты на детях, когда последствия для их развития могут быть столь масштабными и далеко идущими».

На прошлой неделе Федеральная торговая комиссия заявила, что начала расследование в отношении нескольких компаний по поводу потенциального вреда для детей и подростков, которые используют в качестве компаньонов чат-ботов на основе искусственного интеллекта.

Агентство направило письма в Character, Meta и OpenAI, а также в Google, Snap и xAI.