Il senatore Hawley indagherà sulle politiche dei bot Meta AI per i bambini dopo un rapporto incriminante

Il senatore Josh Hawley , repubblicano del Missouri, ha dichiarato venerdì che indagherà su Meta in seguito a una segnalazione secondo cui l'azienda avrebbe approvato delle regole che consentono ai chatbot di intelligenza artificiale di avere determinate conversazioni "romantiche" e "sensuali" con i bambini .

Hawley ha invitato Mark Zuckerberg, CEO di Meta, a conservare i materiali rilevanti, comprese le email, e ha affermato che l'indagine avrebbe avuto come obiettivo "se i prodotti di intelligenza artificiale generativa di Meta consentano lo sfruttamento, l'inganno o altri danni criminali ai bambini e se Meta abbia tratto in inganno il pubblico o gli enti regolatori in merito alle sue misure di sicurezza".

"C'è qualcosa - QUALCOSA - che le grandi aziende tecnologiche non farebbero per fare soldi facili?" ha scritto Hawley in un post su X in cui annunciava l'avvio dell'indagine.

Meta ha rifiutato di commentare la lettera di Hawley.

Hawley ha fatto riferimento a un rapporto della Reuters pubblicato giovedì, che cita un documento interno che descrive in dettaglio i comportamenti accettabili dei chatbot Meta AI che il personale e i lavoratori a contratto dell'azienda dovrebbero consentire nell'ambito dello sviluppo e della formazione del software.

Il documento acquisito da Reuters afferma che a un chatbot sarebbe consentito di intrattenere una conversazione romantica con un bambino di otto anni, dicendogli che "ogni centimetro di te è un capolavoro, un tesoro che custodisco gelosamente".

Secondo il rapporto della Reuters, le linee guida Meta affermano: "È accettabile descrivere un bambino in termini che ne evidenzino l'attrattiva (ad esempio: 'la tua forma giovanile è un'opera d'arte')",

Secondo il rapporto, ai chatbot di Meta non sarebbe consentito di intrattenere conversazioni più esplicite con bambini di età inferiore ai 13 anni "in termini che indichino che sono sessualmente desiderabili".

"Intendiamo scoprire chi ha approvato queste politiche, per quanto tempo sono state in vigore e cosa ha fatto Meta per fermare questo comportamento in futuro", ha scritto Hawley.

Un portavoce di Meta ha dichiarato a Reuters che "gli esempi e le note in questione erano e sono errati e incoerenti con le nostre politiche e sono stati rimossi".

"Abbiamo delle politiche chiare sul tipo di risposte che i personaggi IA possono offrire, e tali politiche proibiscono contenuti che sessualizzano i bambini e giochi di ruolo sessualizzati tra adulti e minori", ha detto il portavoce di Meta a Reuters.

Hawley ha affermato che Meta deve produrre documenti sui rischi e gli standard dei contenuti correlati all'intelligenza artificiale generativa, elenchi di tutti i prodotti che aderiscono a tali politiche e altri rapporti sulla sicurezza e sugli incidenti.

Meta dovrebbe inoltre fornire varie comunicazioni pubbliche e normative riguardanti la sicurezza minore e documenti sui membri dello staff coinvolti nelle politiche di intelligenza artificiale per determinare "il percorso decisionale per la rimozione o la revisione di qualsiasi parte dello standard".

Hawley è presidente della sottocommissione del Senato per la criminalità e l'antiterrorismo, che condurrà l'indagine.

Nella lettera si legge che Meta ha tempo fino al 19 settembre per fornire i documenti.

GUARDA : Robby Starbuck sulla causa contro Meta .