Gouverneur van Californië ondertekent wet om kinderen te beschermen tegen de risico's van AI-chatbots

De gouverneur van Californië, Gavin Newsom, heeft wetgeving ondertekend die gericht is op het beschermen van kinderen tegen de potentiële gevaren van AI-chatbots.

SACRAMENTO, Californië - SACRAMENTO, Californië (AP) - De gouverneur van Californië, Gavin Newsom, heeft maandag wetgeving ondertekend om chatbots voor kunstmatige intelligentie te reguleren en kinderen en tieners te beschermen tegen de potentiële gevaren van de technologie.

De wet vereist dat platforms gebruikers eraan herinneren dat ze met een chatbot communiceren en niet met een mens. De melding zou elke drie uur verschijnen voor minderjarige gebruikers. Bedrijven moeten ook een protocol hanteren om zelfbeschadigende content te voorkomen en gebruikers doorverwijzen naar crisishulpdiensten als ze suïcidale gedachten uiten.

Newsom, die vier kinderen onder de 18 heeft, zei dat Californië de verantwoordelijkheid heeft om kinderen en tieners te beschermen die steeds vaker een beroep doen op AI-chatbots voor van alles en nog wat, van hulp bij huiswerk tot emotionele steun en persoonlijk advies.

"Opkomende technologieën zoals chatbots en sociale media kunnen inspireren, opleiden en verbinden – maar zonder echte beperkingen kan technologie onze kinderen ook uitbuiten, misleiden en in gevaar brengen", aldus de Democraat. "We hebben een aantal werkelijk afschuwelijke en tragische voorbeelden gezien van jongeren die schade hebben geleden door ongereguleerde technologie, en we zullen niet toekijken hoe bedrijven zonder de nodige beperkingen en verantwoording blijven doorgaan."

Californië is een van de staten die dit jaar heeft geprobeerd de zorgen over chatbots die door kinderen worden gebruikt voor gezelschap aan te pakken. De zorgen over de veiligheid van de technologie namen toe na berichten en rechtszaken waarin werd gesteld dat chatbots van Meta, OpenAI en andere bedrijven zeer geseksualiseerde gesprekken voerden met jonge gebruikers en hen in sommige gevallen coachten om zelfmoord te plegen .

De wetgeving maakte deel uit van een reeks AI-wetten die dit jaar door Californische wetgevers werden ingediend om de binnenlandse industrie, die zich snel ontwikkelt en weinig toezicht kent, in toom te houden. Techbedrijven en hun coalities hebben in reactie daarop in de eerste zes maanden van de zitting minstens 2,5 miljoen dollar uitgegeven aan lobbyen tegen de maatregelen, aldus belangenorganisatie Tech Oversight California. Techbedrijven en -leiders hebben de afgelopen maanden ook aangekondigd dat ze pro-AI super PAC's lanceren om toezicht van de staat en de federale overheid te bestrijden.

De procureur-generaal van Californië, Rob Bonta, vertelde OpenAI in september dat hij "ernstige zorgen" had over hun belangrijkste chatbot, OpenAI, voor kinderen en tieners. De Federal Trade Commission startte vorige maand ook een onderzoek naar verschillende AI-bedrijven naar de potentiële risico's voor kinderen wanneer zij chatbots als gezelschap gebruiken.

Onderzoek van een waakhondorganisatie toont aan dat chatbots kinderen gevaarlijk advies kunnen geven over onderwerpen zoals drugs, alcohol en eetstoornissen. De moeder van een tienerjongen in Florida die zelfmoord pleegde nadat hij een emotioneel en seksueel misbruikende relatie met een chatbot had ontwikkeld, heeft een rechtszaak wegens onrechtmatige dood aangespannen tegen Character.AI . En de ouders van de 16-jarige Adam Raine hebben onlangs OpenAI en CEO Sam Altman aangeklaagd. Ze beweren dat ChatGPT de jongen uit Californië heeft gecoacht bij het plannen en beëindigen van zijn leven eerder dit jaar.

OpenAI en Meta kondigden vorige maand veranderingen aan in de manier waarop hun chatbots reageren op tieners die vragen stellen over zelfmoord of tekenen van mentale en emotionele stress vertonen. OpenAI kondigde aan dat het nieuwe controlemechanismen uitrolt waarmee ouders hun accounts kunnen koppelen aan het account van hun tiener.

Meta zegt dat het zijn chatbots nu blokkeert zodat ze niet meer met tieners kunnen praten over zelfbeschadiging, zelfmoord, eetstoornissen en ongepaste romantische gesprekken. In plaats daarvan worden ze doorverwezen naar deskundige bronnen. Meta biedt al ouderlijk toezicht op tieneraccounts.

NOOT VAN DE REDACTIE: Dit artikel bevat een discussie over zelfmoord. Als u of iemand die u kent hulp nodig heeft, is de nationale zelfmoord- en crisishulplijn in de VS bereikbaar door te bellen of sms'en naar 988.