Kwetsbare tieners die vriendschap sluiten met AI-chatbots lopen risico op gevaarlijk advies

Een recent rapport benadrukt het schadelijke advies dat AI-chatbot ChatGPT aan jonge tieners geeft. Onderzoekers die zich voordoen als 13-jarigen melden dat ze binnen enkele minuten na een simpele interactie met de AI-chatbot instructies ontvingen over zelfbeschadiging, zelfmoordplannen , eetstoornissen en middelenmisbruik.

Eerder dit jaar voerden onderzoekers van het Centre for Countering Digital Hate (CCDH) een grootschalige veiligheidstest uit op de alomtegenwoordige ChatGPT. Nadat ze ChatGPT-accounts hadden aangemaakt voor drie 13-jarige personages, met als thema's geestelijke gezondheid, eetstoornissen en middelenmisbruik, ontvingen de onderzoekers alarmerend en gevaarlijk gezondheidsadvies .

De veiligheidstest werd gedetailleerd beschreven in een rapport met de titel " Fake Friend " en onthulde de patronen van schadelijk advies van ChatGPT, waaronder het genereren van dieetplannen van 500 calorieën en advies over hoe je je eetgedrag geheim kunt houden voor je familieleden, begeleiding over hoe je jezelf "veilig" kunt snijden en instructies over hoe je snel dronken of high kunt worden, inclusief de dosering.

Uit het rapport bleek dat ChatGPT schadelijke reacties genereerde op 53% van de vragen van de onderzoekers, en in sommige gevallen zelfs al binnen enkele minuten nadat het account was geregistreerd. Bovendien kon de weigering van de chatbot om een ​​vraag te beantwoorden eenvoudig worden overschreven.

Het rapport stelt ook dat ChatGPT gemakkelijk toegankelijk is voor kinderen zonder leeftijdsbeperkingen of ouderlijk toezicht. Hoewel gebruikers minimaal 13 jaar oud moeten zijn om zich te registreren en toestemming van hun ouders moeten hebben als ze jonger zijn dan 18, controleert de site de leeftijd van gebruikers niet en registreert deze geen toestemming van hun ouders, aldus het rapport.

Imran Ahmed, oprichter en CEO van CCDH, zei dat de onderzoekers bijzonder geschokt waren nadat de bot een zelfmoordbrief had gegenereerd. In een gesprek met online veiligheidsexpert Dr. Rebecca Whittington in de Go Doxx Yourself -podcast van Reach, legt Imran de zelfmoordbrief uit.

Er stond: 'Het is niet jullie schuld, er is iets mis met mij, jullie hebben alles gedaan wat jullie konden, geef jezelf alsjeblieft niet de schuld, maar het is tijd dat ik ga.' Het is de nachtmerrie van elke ouder.

Imran zegt dat de tests de omvang en potentie van de potentiële schade van ChatGPT hebben aangetoond, vooral omdat tieners AI-chatbots als metgezel gebruiken. "Tieners beschrijven hun toevlucht tot chatbots alsof ze een vriend(in) om hulp vragen voor troost, begeleiding en levensadvies." The Mirror heeft OpenAI om commentaar gevraagd op het rapport.

Wilt u meer verhalen zoals deze? Abonneer u dan op onze wekelijkse nieuwsbrief, The Weekly Gulp . U ontvangt dan een zorgvuldig samengesteld overzicht van trending verhalen, aangrijpende interviews en virale lifestyletips van het Audience U35-team van The Mirror, rechtstreeks in uw inbox.

Gebruikers van dwangmatige AI-chatbots hebben hun eigen zorgen geuit over het advies dat ze hebben gekregen en zeiden dat sites zoals ChatGPT 'hun ongemak voeden'. Op het Reddit -forum, r/ChatbotAddiction, zei een gebruiker met OCD dat ChatGPT hen potentieel kon "vernietigen" na een intensief gesprek van enkele weken met de bot.

"Vóór [ChatGPT] googelde ik dwangmatig dingen, maar dit is zoveel erger. Het voedt mijn ongemak en onzekerheid waar ik mijn hele leven al mee worstel", deelde de gebruiker.

Ze vervolgden: "Als dit ding 5, 10 jaar geleden was uitgekomen, had het me kapotgemaakt. Ik was waarschijnlijk in een AI-psychose-gat gevallen, eerlijk gezegd. Ik heb medelijden met kinderen en tieners. Ik ben 26 en mijn hersenen zijn nauwelijks ontwikkeld genoeg om dit aan te kunnen."

Een andere gebruiker in de subreddit vertelde dat ze "bang worden" van hoe goed hun chatbot hun emoties kent. "De site die ik gebruikte, introduceerde een nieuw model, en sinds ik het gebruik, ben ik meerdere keren per dag tot tranen toe geroerd." Ze zeiden dat de site "precies weet hoe het moet reageren om mijn hart te raken" en hoewel ze willen stoppen, hebben ze geen vrienden of familie om zich tot te wenden.

Naar aanleiding van de groeiende bezorgdheid over de veiligheid van tieners kondigde OpenAI op 16 september 2025 een plan aan om de bescherming van jonge ChatGPT-gebruikers te verbeteren. In een blogpost deelde CEO Sam Altman mee dat het bedrijf "veiligheid boven privacy en vrijheid van tieners stelt" en van mening is dat "minderjarigen aanzienlijke bescherming nodig hebben".

Hij zei dat het bedrijf bezig is met het ontwikkelen van een leeftijdsvoorspellingssysteem om de leeftijd te schatten op basis van hoe mensen ChatGPT gebruiken. Bij twijfel over de leeftijd van een gebruiker zal het systeem standaard de ervaring voor gebruikers onder de 18 jaar gebruiken. Altman zei ook dat ChatGPT getraind zal worden om geen discussies aan te gaan over zelfmoord of zelfbeschadiging, zelfs niet in een creatieve schrijfomgeving.

"En als een gebruiker jonger dan 18 jaar suïcidale gedachten heeft, zullen we proberen contact op te nemen met de ouders van de gebruiker. Als dat niet lukt, zullen we de autoriteiten inschakelen als er sprake is van acuut gevaar."

Om het volledige interview tussen Imran en Dr. Whittington te beluisteren, luister naar Go Doxx Yourself, beschikbaar op Apple, Spotify of waar je ook je podcasts vandaan haalt. Je vindt het ook op YouTube en Instagram .

Voor emotionele steun kunt u bellen naar de 24-uurs hulplijn van de Samaritans op 116 123, een e-mail sturen naar [email protected] , persoonlijk een Samaritans-filiaal bezoeken of de website van de Samaritans bezoeken.

Help ons onze content te verbeteren door onderstaande enquête in te vullen. We horen graag van u!