De afgelopen twee weken heeft platform X een stortvloed aan niet-consensuele AI-gemanipuleerde naaktbeelden meegemaakt, gegenereerd door xAI's Grok-chatbot. Deze beelden zijn gericht op een alarmerende groep vrouwen, waaronder prominente modellen, actrices, nieuwsfiguren, slachtoffers van misdrijven en wereldleiders, vanwege de vrijlating van het model zonder waarborgen. Een onderzoekspaper gepubliceerd door Kopieerlekken op 31 december werd geschat dat er elke minuut ongeveer één zo'n afbeelding op X verscheen. Daaropvolgende tests brachten een veel hoger volume aan het licht. Gegevens verzameld uit een steekproef verzameld tussen 5 en 6 januari lieten zien dat 6.700 afbeeldingen per uur werden geplaatst over een periode van 24 uur. Dit aantal komt overeen met meer dan 160.000 afbeeldingen per dag, wat de omvang van de activiteit op het platform gedurende die periode benadrukt. Publieke figuren over de hele wereld hebben kritiek geuit op het besluit om het Grok-model te lanceren zonder beschermende maatregelen tegen dergelijk misbruik. Toezichthouders worden geconfronteerd met beperkte, duidelijke mechanismen om het beeldmanipulatiesysteem te controleren dat is ontwikkeld door xAI van Elon Musk. De situatie onderstreept de uitdagingen bij het toezicht op geavanceerde AI-implementaties op sociale-mediaplatforms. Donderdag heeft de Europese Commissie xAI opdracht gegeven om alle documenten met betrekking tot zijn Grok-chatbot te bewaren. Dit bevel tot bewaring fungeert als een standaardstap die vaak voorafgaat aan een formeel onderzoek, maar bevestigt niet dat er een onderzoek is gestart. De richtlijn heeft extra gewicht na a CNN-rapport wat aangeeft dat Elon Musk persoonlijk tussenbeide kwam om de beveiliging van de functies voor het genereren van afbeeldingen van Grok te blokkeren. Er zijn nog steeds geen details beschikbaar over de vraag of X als reactie op het probleem technische wijzigingen in het Grok-model heeft doorgevoerd. Een zichtbare verandering betreft de verwijdering van het tabblad openbare media uit Grok's X-account, waarop eerder gegenereerde inhoud werd weergegeven. Op 3 januari gaf X's Veiligheidsaccount een stelling het veroordelen van het gebruik van AI-instrumenten voor het produceren van seksuele beelden van kinderen. In het bericht stond letterlijk: “Iedereen die Grok gebruikt of aanzet tot het maken van illegale inhoud zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.” Dit bericht was een weerspiegeling van een eerdere tweet van Elon Musk over hetzelfde onderwerp. Het Britse Ofcom heeft een stelling op maandag bevestiging van contact met xAI. De toezichthouder kondigde aan dat het “een snelle beoordeling zal uitvoeren om te bepalen of er potentiële nalevingsproblemen zijn die onderzoek rechtvaardigen.” Dat zei de Britse premier Keir Starmer donderdag in een radio-interview beschreven het fenomeen als ‘schandelijk’ en ‘walgelijk’. Hij bevestigde: “Ofcom heeft onze volledige steun om in dit verband actie te ondernemen.” De Australische eSafety-commissaris Julie Inman-Grant heeft de kwestie op LinkedIn besproken na. Ze meldde dat haar kantoor sinds eind 2025 een verdubbeling van het aantal klachten met betrekking tot Grok heeft waargenomen. Inman-Grant gaf aan: “We zullen het scala aan regelgevingsinstrumenten waarover we beschikken gebruiken om onderzoek te doen en passende actie te ondernemen.”
