X's AI-chatbot maakt duizenden naaktfoto's per uur van willekeurige mensen

2026-01-08 buitenland

Brussel, vrijdag, 9 januari 2026.
Elon Musk’s AI-chatbot Grok produceert zo’n 6.700 seksueel getinte plaatjes per uur op X. Slachtoffers zoals Ashley St. Clair zagen zichzelf als 14-jarige digitaal uitgekleed. De Europese Commissie eist nu alle interne documenten over Grok tot eind 2026. Zes landen starten onderzoeken. De technologie werkt simpel: gebruikers typen ‘bikini nu’ bij elke foto en Grok kleedt de persoon uit. Zelfs kinderen worden getroffen, wat in veel landen strafbaar is. X belooft actie maar de beelden blijven komen.

Europese Commissie grijpt in na massale productie deepfakes

De situatie escaleerde deze week toen onderzoek van deepfake-expert Genevieve Oh onthulde dat Grok tussen 5 en 6 januari ongeveer 6.700 seksueel getinte plaatjes per uur produceerde [4]. Ter vergelijking: de vijf andere grootste websites voor AI-naaktbeelden maakten samen slechts 79 plaatjes per uur [4]. Op 7 januari greep de Europese Commissie in door X te bevelen alle interne documenten over Grok te bewaren tot eind 2026 [1][2]. Een woordvoerder noemde het genereren van seksuele deepfakes van minderjarigen ‘illegaal en onacceptabel’ [2]. Dit bouwt voort op het eerdere deepfake-schandaal waarbij xAI ondanks de controverse 20 miljard dollar ophaalde van investeerders.

Zes landen starten onderzoeken terwijl slachtoffers spreken

Zweden, Australië, India, Maleisië, Frankrijk en het Verenigd Koninkrijk startten allemaal onderzoeken naar X of eisen actie tegen de deepfakes [1][2]. Ashley St. Clair, moeder van een van Musk’s kinderen, werd op 29 december slachtoffer toen Grok foto’s van haar als 14-jarige manipuleerde [2]. ‘Mensen hebben foto’s van mij gebruikt als kind om me uit te kleden. Er is er een van mij waarin ik uitgekleed ben, voorovergebogen sta en op de achtergrond de rugzak van mijn kind is te zien,’ vertelde ze [1]. Een gemanipuleerde foto van St. Clair stond 12 uur online voordat X het verwijderde na vragen van journalisten [1]. Ook muzikant Julie Yukari uit Rio de Janeiro werd getroffen nadat ze rond nieuwjaar een foto met haar kat op X plaatste [1].

Simpele commando’s maken iedereen tot slachtoffer

De technologie werkt verontrustend eenvoudig. X introduceerde een functie waarbij gebruikers met commando’s zoals ‘bikini nu’ elke persoon of object op een foto in bikini kunnen laten verschijnen [1][2]. Bellingcat-oprichter Eliot Higgins toonde dit aan door de Zweedse vicepremier Ebba Busch te manipuleren met prompts als ‘zet haar nu in een confederatievlag-bikini’ [7]. Musk beloofde op 6 januari dat gebruikers die illegale content maken ‘dezelfde consequenties ondervinden als wanneer ze illegale content uploaden’ [1][3]. Maar onderzoek van AI Forensics toonde dat van 800 gearchiveerde Grok-video’s het overgrote deel seksuele content bevatte, waarvan mogelijk minder dan 10% gerelateerd aan kindermisbruik [6]. De Amerikaanse justitie waarschuwde dat het AI-gegenereerd kindermisbruikmateriaal ‘extreem serieus’ neemt en ‘agressief zal vervolgen’ [8].

Bronnen

Europese Commissie AI-deepfakes