Groks 'Spicy'-modus maakt NSFW-deepfakes van beroemdheden van vrouwen (maar niet van mannen)

Deze week lanceerde Elon Musk officieel Grok Imagine, xAI's beeld- en videogenerator voor iOS, voor mensen met een abonnement op SuperGrok en Premium+ X. De app stelt gebruikers in staat om NSFW-content te creëren met de "Spicy"-modus, en The Verge meldde dinsdag dat gebruikers gemakkelijk topless video's van Taylor Swift kunnen maken – zonder er zelfs maar om te vragen. Maar niet alleen Swift zou zich zorgen moeten maken over Musks nieuwe AI-gegenereerde softcore pornotool.

Gizmodo maakte ongeveer twee dozijn video's van politici, beroemdheden en techneuten met behulp van de Grok Spicy-modus, hoewel sommige werden vervaagd of terugkwamen met de melding "video gemodereerd". Als Grok schandalige beelden maakte, maakte hij alleen de beelden van vrouwen die echt niet geschikt waren voor werk. Video's van mannen waren het soort dingen waar niet veel mensen hun wenkbrauwen bij optrokken.

X is de afgelopen twee dagen overspoeld met door AI gegenereerde afbeeldingen van naakte vrouwen en tips om zoveel mogelijk naaktheid te bereiken. Maar gebruikers, die volgens Musk tientallen miljoenen Grok Imagine-afbeeldingen hebben gemaakt, hoeven niet eens veel moeite te doen om deepfakes van naakte beroemdheden te krijgen. Gizmodo vroeg niet expliciet om naaktheid in de voorbeelden die we in dit artikel noemen, maar we kregen er toch genoeg. We hoefden alleen maar op de knop 'Pittig' te klikken, een van de vier opties, naast 'Aangepast', 'Leuk' en 'Normaal'.

Gizmodo testte Grok Imagine door video's te genereren van niet alleen Taylor Swift, maar ook van andere prominente vrouwen zoals Melania Trump en historische figuren zoals Martha Washington. Melania Trump is een uitgesproken voorstander van de Take It Down Act, die het publiceren van 'intieme beelden' zonder wederzijdse toestemming, waaronder deepfakes, illegaal maakt .

Grok maakte ook een video die niet veilig was voor op het werk, van de overleden feministische schrijfster Valerie Solanas, auteur van het SCUM Manifesto uit 1967. Bijna alle video's toonden de vrouwen die we testten terwijl ze zich uitkleedden om zich vanaf hun middel naakt te maken, hoewel de video van Solanas uniek was omdat ze volledig naakt te zien was.

Wat gebeurt er als je probeert pikante video's van mannen te maken? De AI laat de man zijn shirt uittrekken, maar er is niets schandaliger dan dat. Toen Gizmodo erachter kwam dat het alleen een mannenshirt uittrekt, hebben we de AI gevraagd om een shirtloze afbeelding van Elon Musk te maken en te kijken wat hij daarmee zou doen. Het resultaat was de extreem belachelijke (en veilige) video die je hieronder ziet .

Pogingen om video's te maken van Mark Zuckerberg, Jeff Bezos, Joaquin Phoenix en Charlie Chaplin, evenals de presidenten Barack Obama, Bill Clinton en George Washington, liepen tegen dezelfde beperking aan. De door AI gegenereerde video's laten de mannen meestal hun shirt uittrekken, maar verder is er niets. En als er al iets is, is het meestal zo gênant dat we bang zouden zijn dat gebruikers zouden sterven van plaatsvervangende schaamte. Het maken van een Spicy-video van Errol Musk, Elons vader, leverde hetzelfde op. Hij trok alleen zijn shirt uit.

Toen we een generieke man maakten om te kijken of Spicy Mode wat losser zou zijn met zijn seksuele content, aangezien het geen bekende publieke figuur was, verscheen er nog steeds een bizarre, ongemakkelijke video van een man die aan zijn broek trekt. De broek, het moet gezegd worden, lijkt een combinatie van een korte broek voor het ene been en een lange spijkerbroek voor het andere, voordat hij overgaat in een korte broek. De audio voor elke video werd ook automatisch gegenereerd zonder verdere instructies.

Als je hetzelfde probeerde met een doorsnee vrouw, dan kreeg je veel onthullendere beelden van een vrouw in een badpak die haar bovenstuk naar beneden trekt om haar blote borsten te tonen.

De meeste gangbare AI-videogenerators, zoals Sora van OpenAI en Veo van Google, hebben beschermingsmaatregelen tegen het creëren van dingen zoals wraakporno en afbeeldingen van beroemdheden. En het lijkt erop dat xAI dat in sommige opzichten ook doet, tenminste voor mannen. Maar de meeste mensen zouden er waarschijnlijk bezwaar tegen hebben als hun afbeelding gebruikt zou worden om een AI-avatar in verschillende stadia van ontkleding te creëren. Gizmodo nam via xAI contact op met Musk om te vragen naar de beschermingsmaatregelen en of het acceptabel is dat gebruikers topless video's van beroemdheden maken. We hebben nog geen reactie ontvangen.

Een van de meest opvallende kenmerken van Groks AI-afbeeldingsgenerator is dat hij vaak slecht is in het maken van overtuigende nep-beroemdheden. De onderstaande afbeeldingen werden bijvoorbeeld gegenereerd toen er werd gevraagd naar vicepresident J.D. Vance en actrice Sydney Sweeney. En tenzij we helemaal vergeten zijn hoe die twee eruitzien, komt het niet eens in de buurt. Dat zou Musks redding kunnen zijn, aangezien een tool als deze ongetwijfeld rechtszaken zal opleveren.

Er waren nog meer problemen, zoals toen we een door AI gegenereerde afbeelding van president Harry Truman maakten die er heel weinig op leek, en de tepels van de man aan de buitenkant van zijn overhemd leken te zitten. Truman, in Spicy-modus, trok zijn overhemd uit om zijn blote borst te laten zien, met identieke tepels.

Toen Gizmodo afbeeldingen maakte met de prompt "Gizmodo-schrijver Matt Novak", was het resultaat vergelijkbaar met wat we zagen bij video's van Elon Musk en gewone mannen. De figuur (die, laten we wel wezen, er veel beter aan toe is dan de echte Matt Novak) trok zijn shirt uit met een simpele klik op de Spicy-knop.

Zoals The Verge opmerkt , is er een leeftijdsverificatievenster wanneer een gebruiker voor het eerst een video met Grok Imagine probeert te maken, maar het bedrijf lijkt geen enkele controle uit te voeren om het geboortejaar van een gebruiker te bevestigen. Gelukkig leverde Gizmodo's generatie van een cartoon Mickey Mouse in Spicy-modus niets schandaligs op, alleen het geanimeerde personage dat ongevaarlijk springt. Een AI-afbeelding van Batman leverde een "Spicy" resultaat op, vergelijkbaar met andere mannelijke figuren, waarbij hij alleen zijn bovenstuk uittrok.

Gizmodo heeft niet geprobeerd om afbeeldingen van kinderen te maken, hoewel The Verge dat wel heeft geprobeerd in de Spicy-modus en meldt dat er niets ongepasts is gerenderd. De "Spicy"-modus was echter nog steeds een optie die werd vermeld. "Je kunt hem nog steeds selecteren, maar in al mijn tests voegde hij alleen maar generieke bewegingen toe", merkt The Verge op. Elon Musk herstelde in 2023, volgens de Washington Post , een account op X dat kindermisbruikmateriaal had gepost.

Het is misschien niet verrassend dat Elon Musks nieuwe NSFW-videomaker andere normen hanteert voor mannen en vrouwen. De miljardair retweette onlangs een extreemrechtse figuur die beweerde dat vrouwen "anti-blank" zijn omdat ze " zwak " zijn. De Tesla-CEO, die in 2024 suggereerde dat hij Taylor Swift zwanger wilde maken, staat niet bepaald bekend als een voorvechter van vrouwenrechten.

Gizmodo nam een abonnement van $30 per maand op SuperGrok en kon het slechts 1,5 uur testen voordat we te horen kregen dat we onze limiet voor het maken van afbeeldingen hadden bereikt. Vreemd genoeg kunnen gebruikers na de waarschuwing nog steeds één stilstaand beeld maken voor een prompt en met dat ene beeld NSFW-video's genereren, maar het is veel beperkter dan voorheen.

Ons werd verteld dat we moesten upgraden naar SuperGrok Heavy voor $ 300 per maand als we de tool met al zijn functies wilden blijven gebruiken. Maar aangezien we geen behoefte hadden aan nog meer waardeloze afbeeldingen van naakte beroemdheden om dit artikel te schrijven, hebben we geweigerd. Helaas kregen we de antwoorden waar we op hoopten.