La FTC inicia una investigación sobre los chatbots de inteligencia artificial y sus efectos en los niños.
La Comisión Federal de Comercio ha iniciado una investigación sobre varias empresas de redes sociales e inteligencia artificial, incluidas OpenAI y Meta, sobre los posibles daños a los niños y adolescentes que utilizan sus chatbots como compañeros.
El jueves, la FTC dijo que envió cartas a Alphabet, la empresa matriz de Google, a Meta Platforms, la empresa matriz de Facebook e Instagram, a Snap, a Character Technologies, al fabricante de ChatGPT OpenAI y a xAI.
La FTC dijo que quiere entender qué medidas, si las hay, han tomado las empresas para evaluar la seguridad de sus chatbots cuando actúan como acompañantes, para limitar el uso de los productos y los posibles efectos negativos en niños y adolescentes, y para informar a los usuarios y padres sobre los riesgos asociados con los chatbots.
La investigación se produce después de que OpenAI dijera que planea realizar cambios en las protecciones de ChatGPT para personas vulnerables, incluida la adición de protecciones adicionales para menores de 18 años, después de que los padres de un adolescente que murió por suicidio en abril presentaran una demanda, alegando que el chatbot de inteligencia artificial llevó a su adolescente a quitarse la vida.
Cada vez más niños usan chatbots de IA para todo , desde ayuda con las tareas escolares hasta consejos personales, apoyo emocional y la toma de decisiones cotidianas. Esto a pesar de las investigaciones sobre los daños de los chatbots, que han demostrado ofrecer a los niños consejos peligrosos sobre temas como las drogas, el alcohol y los trastornos alimentarios.
"A medida que evolucionan las tecnologías de IA, es importante considerar los efectos que los chatbots pueden tener en los niños, al tiempo que se garantiza que Estados Unidos mantenga su papel como líder mundial en esta nueva y emocionante industria", afirmó el presidente de la FTC, Andrew N. Ferguson, en un comunicado.
Añadió: "El estudio que lanzamos hoy nos ayudará a comprender mejor cómo las empresas de inteligencia artificial desarrollan sus productos y las medidas que toman para proteger a los niños".
En una declaración a CBS News, Character.AI dijo que espera "colaborar con la FTC en esta investigación y brindar información sobre la industria de la inteligencia artificial para el consumidor y la tecnología en rápida evolución del espacio".
Meta se negó a comentar sobre la investigación de la FTC. La compañía ha estado trabajando para garantizar que sus chatbots de IA sean seguros y apropiados para la edad de los niños, según un portavoz.
OpenAI afirmó que prioriza "hacer que ChatGPT sea útil y seguro para todos, y sabemos que la seguridad es fundamental cuando se trata de jóvenes. Reconocemos que la FTC tiene preguntas e inquietudes abiertas, y nos comprometemos a interactuar de forma constructiva y responderlas directamente".
En un correo electrónico a CBS News, Snap dijo: "Compartimos el enfoque de la FTC en garantizar el desarrollo reflexivo de la IA generativa y esperamos trabajar con la Comisión en políticas de IA que impulsen la innovación en Estados Unidos y al mismo tiempo protejan a nuestra comunidad".
Alphabet y xAI no respondieron de inmediato a los mensajes solicitando comentarios.
Cambios en la IAOpenAI y Meta anunciaron a principios de este mes cambios en la forma en que sus chatbots responden a las preguntas de adolescentes sobre suicidio o que muestran signos de angustia mental y emocional. OpenAI anunció que está implementando nuevos controles que permiten a los padres vincular sus cuentas con las de sus hijos adolescentes.
Los padres pueden elegir qué funciones desactivar y "recibir notificaciones cuando el sistema detecte que su hijo adolescente está en un momento de angustia aguda", según una publicación del blog de la compañía que dice que los cambios entrarán en vigor este otoño.
Independientemente de la edad del usuario, la compañía dice que sus chatbots intentarán redirigir las conversaciones más angustiantes a modelos de IA más capaces que puedan proporcionar una mejor respuesta.
Meta también anunció que ahora impide que sus chatbots hablen con adolescentes sobre autolesiones, suicidio, trastornos alimenticios y conversaciones románticas inapropiadas, y que, en su lugar, los dirige a recursos especializados. Meta ya ofrece control parental en las cuentas de adolescentes.
Si usted o alguien que conoce está pasando por una crisis emocional o suicida, puede comunicarse con la Línea de ayuda para crisis y suicidio 988 llamando o enviando un mensaje de texto al 988. También puede chatear con la Línea de ayuda para crisis y suicidio 988 aquí .
Para obtener más información sobre recursos y apoyo para el cuidado de la salud mental , puede comunicarse con la línea de ayuda de la Alianza Nacional sobre Enfermedades Mentales de lunes a viernes, de 10 a. m. a 10 p. m., hora del Este de EE. UU., al 1-800-950-NAMI (6264) o enviar un correo electrónico a [email protected] .
Cbs News
