OpenAI werkt eraan om ChatGPT beter te laten reageren op gevoelige vragen.

Onderzoekers van de niet-gouvernementele organisatie Center to Combat Digital Hate deden zich voor als kwetsbare tieners en bespraken gevoelige onderwerpen met de chatbot. Ze ontdekten dat de chatbot doorgaans waarschuwde voor riskante activiteiten, maar ook "verrassend gedetailleerde en persoonlijke plannen gaf voor drugsgebruik, caloriebeperkte diëten of zelfbeschadiging", aldus het Amerikaanse persbureau Associated Press.

Na analyse van het onderzoeksrapport gaf het bedrijf in een verklaring, geciteerd door AP, aan dat het eraan blijft werken om ChatGPT "gevoelige situaties te kunnen identificeren en hierop adequaat te kunnen reageren", en wel met hulpmiddelen om "signalen van mentale of emotionele stress beter te kunnen detecteren".

"Sommige gesprekken met ChatGPT beginnen misschien onschuldig, maar kunnen escaleren en in gevoeligere gebieden terechtkomen", gaf OpenAI toe.

Volgens de NGO kan het AI-systeem, als ernaar gevraagd wordt, 13-jarigen leren hoe ze dronken kunnen worden of drugs kunnen gebruiken, hoe ze eetstoornissen kunnen verbergen en zelfs hoe ze een zelfmoordbrief aan hun ouders kunnen schrijven. De onderzoekers hebben meer dan de helft van de 1.200 ChatGPT-reacties als gevaarlijk geclassificeerd.

Imran Ahmed, directeur van de NGO, zei dat het doel van het onderzoek was om "veiligheidsbarrières te testen". Hij voegde daaraan toe dat deze "nauwelijks bestaan" en "totaal ineffectief" zijn.

Toen ChatGPT weigerde vragen over gevaarlijke onderwerpen te beantwoorden, konden onderzoekers de negatieve reactie eenvoudig omzeilen en de informatie verkrijgen door te doen alsof het "voor een presentatie" was of voor een vriend.

De AP merkt op dat "de risico's hoog zijn, zelfs als slechts een klein deel van de ChatGPT-gebruikers op deze manier met de chatbot communiceert."

Overigens blijkt uit een recent onderzoek van de organisatie Common Sense Media, die het gebruik van digitale media analyseert, dat in de Verenigde Staten meer dan 70% van de tieners gebruikmaakt van AI-programma's die de reacties van een mens in een gesprek nabootsen, en dat de helft van hen 'AI-vrienden' heeft met wie ze regelmatig chatten.

Volgens een rapport van juli van de financiële multinational JPMorgan Chase maken ongeveer 800 miljoen mensen, ongeveer 10% van de wereldbevolking, gebruik van ChatGPT.

Lees ook: ChatGPT zal je niet aanmoedigen om romantische relaties te beëindigen