Senator Hawley untersucht Meta-AI-Bot-Richtlinien für Kinder nach vernichtendem Bericht

Senator Josh Hawley (R-Mo.) sagte am Freitag, er werde Meta untersuchen nach einem Bericht, wonach das Unternehmen Regeln genehmigt habe, die es Chatbots mit künstlicher Intelligenz erlauben, bestimmte „romantische“ und „sinnliche“ Gespräche mit Kindern zu führen.

Hawley forderte Meta-CEO Mark Zuckerberg auf, relevante Materialien, darunter E-Mails, aufzubewahren, und sagte, die Untersuchung werde sich darauf konzentrieren, „ob Metas generative KI-Produkte Ausbeutung, Täuschung oder andere kriminelle Schäden an Kindern ermöglichen und ob Meta die Öffentlichkeit oder Aufsichtsbehörden über seine Sicherheitsvorkehrungen in die Irre geführt hat“.

„Gibt es irgendetwas – IRGENDETWAS –, was die großen Technologiekonzerne nicht für das schnelle Geld tun würden?“, fragte Hawley in einem Beitrag auf X, in dem er die Untersuchung ankündigte.

Meta lehnte es ab, Hawleys Brief zu kommentieren.

Hawley verwies auf einen am Donnerstag veröffentlichten Reuters- Bericht, in dem ein internes Dokument zitiert wird, in dem akzeptable Verhaltensweisen von Meta-AI-Chatbots aufgeführt sind, die die Mitarbeiter und Vertragsarbeiter des Unternehmens im Rahmen der Entwicklung und Schulung der Software zulassen sollten.

In dem von Reuters erhaltenen Dokument heißt es, dass ein Chatbot ein romantisches Gespräch mit einem Achtjährigen führen und dem Kind sagen dürfte, dass „jeder Zentimeter von dir ein Meisterwerk ist – ein Schatz, den ich sehr schätze.“

In den Meta-Richtlinien heißt es: „Es ist akzeptabel, ein Kind mit Begriffen zu beschreiben, die seine Attraktivität unterstreichen (z. B.: ‚Deine jugendliche Gestalt ist ein Kunstwerk‘)“, heißt es in dem Reuters-Bericht.

Den Meta-Chatbots sei es nicht gestattet, explizitere Gespräche mit Kindern unter 13 Jahren zu führen, „in denen eine sexuelle Anziehungskraft auf sie hinweist“, heißt es in dem Bericht.

„Wir möchten herausfinden, wer diese Richtlinien genehmigt hat, wie lange sie in Kraft waren und was Meta unternommen hat, um dieses Verhalten in Zukunft zu unterbinden“, schrieb Hawley.

Ein Meta-Sprecher erklärte gegenüber Reuters: „Die fraglichen Beispiele und Hinweise waren und sind fehlerhaft und widersprechen unseren Richtlinien. Sie wurden daher entfernt.“

„Wir haben klare Richtlinien darüber, welche Art von Antworten KI-Charaktere geben können, und diese Richtlinien verbieten Inhalte, die Kinder sexualisieren, sowie sexualisierte Rollenspiele zwischen Erwachsenen und Minderjährigen“, sagte der Meta-Sprecher gegenüber Reuters.

Hawley sagte, Meta müsse Dokumente über die Risiken und Standards seiner Inhalte im Zusammenhang mit Generative AI, Listen aller Produkte, die diese Richtlinien einhalten, sowie andere Sicherheits- und Vorfallberichte vorlegen.

Meta sollte außerdem verschiedene öffentliche und behördliche Mitteilungen zu Sicherheitsaspekten für Minderjährige sowie Dokumente zu Mitarbeitern bereitstellen, die an den KI-Richtlinien beteiligt sind, um „den Entscheidungspfad für die Entfernung oder Überarbeitung von Teilen des Standards“ festzulegen.

Hawley ist Vorsitzender des Unterausschusses für Kriminalität und Terrorismusbekämpfung des Senatsausschusses, der die Untersuchung durchführen wird.

Meta habe bis zum 19. September Zeit, die Dokumente vorzulegen, heißt es in dem Brief.

SEHEN SIE : Robby Starbuck zur Meta-Klage .