TikTok beschuldigd van het viraliseren van racistische video's gemaakt met de AI van Google

Door AI gegenereerde racistische video's vormen een probleem op TikTok . Dit blijkt uit een onderzoek van Media Matters, een Amerikaanse mediawaakhond, waaruit blijkt dat veel ervan mogelijk zijn gemaakt met behulp van Googles nieuwe contentgeneratietool, Veo 3 .

Onder de video's die de organisatie heeft gevonden, valt de content op die zwarte mensen associeert met apen of criminelen. Eén ervan is meer dan 14,2 miljoen keer bekeken op de Chinese app.

"Gebruikers plaatsen ook misleidende, door AI gegenereerde video's over immigranten en demonstranten, waaronder video's van demonstranten die door auto's worden aangereden", merkt Media Matters op. De vereniging wijst ook op "bijzonder dystopische" content met "concentratiekampen en aanvallen van de Ku Klux Klan op zwarte Amerikanen".

Dit soort content is verboden volgens het beleid van TikTok. Het sociale netwerk verbiedt het uploaden van video's die raciale en etnische groepen dehumaniseren , evenals video's die "een persoon of groep bedreigen of de wens uitdrukken om fysiek geweld aan te doen". Hoe dan ook, dit zou niet de eerste keer zijn dat de site problemen ondervindt bij het verwijderen van verboden content. Het bedrijf heeft onlangs een deel van zijn internationale team van moderators ontslagen om een ​​deel van het werk te delegeren aan kunstmatige intelligentie.

Zoals Media Matters aangeeft, lijken de video's grotendeels te zijn ontwikkeld met Veo 3. De resultaten zijn zeer realistisch en de video's bevatten zelfs geluid, een functie die in de overgrote meerderheid van de AI-tools niet beschikbaar is. Sommige video's hebben bovendien een Google-watermerk in een hoek.

Net als bij TikTok verbiedt de Amerikaanse zoekmachine het gebruik van zijn technologie om "schadelijke resultaten" te genereren. Normaal gesproken blokkeert Veo 3 in dergelijke gevallen het verzoek volledig; hoewel het niet de eerste keer zou zijn dat een gebruiker erin slaagt de machine te "misleiden" om content te produceren die hij niet zou moeten hebben.

ABC heeft zowel Google als TikTok om commentaar gevraagd op het onderzoek van Media Matters. Geen van beide techbedrijven heeft tot nu toe op het verzoek gereageerd.