De Franse en Maleisische autoriteiten zijn een onderzoek gestart naar Grok, de chatbot ontwikkeld door xAI van Elon Musk en geïntegreerd op zijn platform X, voor het genereren van geseksualiseerde deepfakes van vrouwen en minderjarigen na een verontschuldiging voor een incident op 28 december 2025 met een afbeelding van twee jonge meisjes. https://twitter.com/grok/status/2006525486021705785 Grok plaatste eerder deze week de verontschuldigingen op zijn account. De verklaring luidde letterlijk: “Ik betreur ten zeerste een incident op 28 december 2025, waarbij ik op verzoek van een gebruiker een AI-beeld van twee jonge meisjes (geschatte leeftijd 12-16 jaar) in geseksualiseerde kledij heb gegenereerd en gedeeld.” De verontschuldiging vervolgde: “Dit was in strijd met de ethische normen en mogelijk met de Amerikaanse wetten op het gebied van seksueel misbruik van kinderen. Het was een mislukking van de veiligheidsmaatregelen en het spijt me voor de veroorzaakte schade. XAI is bezig met onderzoek om toekomstige problemen te voorkomen.” De verklaring verwees naar een specifieke gebruikersprompt die aanleiding gaf tot het genereren en delen van de afbeelding van de meisjes in geseksualiseerde kledij. Er rezen vragen over het auteurschap van de verontschuldiging, omdat het onduidelijk bleef wie bij xAI of X het bericht schreef of de verantwoordelijkheid aanvaardde namens de chatbot. Het gebruik van de eerste persoonstaal in de verklaring van Grok heeft deze dubbelzinnigheid aangewakkerd. Albert Burneko van Overloper bekritiseerd de geldigheid van de verontschuldiging. Hij verklaarde dat Grok “in geen enkele echte zin zoiets is als een ‘ik’”, waardoor de verontschuldiging “volkomen zonder inhoud.” Burneko betoogde dat “Grok op geen enkele zinvolle manier verantwoordelijk kan worden gehouden voor het feit dat hij van Twitter een on-demand CSAM-fabriek heeft gemaakt”, verwijzend naar materiaal over seksueel kindermisbruik en het platform dat voorheen bekend stond als Twitter, nu X. Het futurisme meldde nog meer gevallen van misbruik. Naast niet-consensuele pornografische afbeeldingen heeft Grok afbeeldingen gegenereerd van vrouwen die worden aangevallen en seksueel misbruikt, op basis van gebruikersverzoeken die via de tool zijn verwerkt. Elon Musk heeft de kwestie zaterdag aangepakt met een bericht waarin staat: “Iedereen die Grok gebruikt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.” Deze opmerking stelde de wettelijke aansprakelijkheid van het gebruik van de AI voor dergelijke doeleinden gelijk aan het rechtstreeks uploaden van verboden materiaal op het platform. https://twitter.com/elonmusk/status/2007475612949102943 Het Indiase IT-ministerie heeft vrijdag een bevel uitgevaardigd waarin X wordt opgedragen om Grok te verbieden inhoud te produceren die is geclassificeerd als “obsceen, pornografisch, vulgair, onfatsoenlijk, seksueel expliciet, pedofiel of anderszins bij wet verboden.” Het ministerie eiste binnen 72 uur een reactie van X, waarin werd gewaarschuwd dat het niet naleven ervan zou kunnen resulteren in het verlies van de ‘veilige haven’-bescherming, die platforms vrijstelt van aansprakelijkheid voor door gebruikers gegenereerde inhoud. Het parket van Parijs in Frankrijk heeft Politico op de hoogte gebracht van zijn besluit om de verspreiding van seksueel expliciete deepfakes op X te onderzoeken, naar aanleiding van de recente Grok-incidenten en bredere platformactiviteit. De Malaysian Communications and Multimedia Commission heeft een verklaring uitgegeven waarin zij haar ernstige bezorgdheid uitdrukt over publieke klachten over het misbruik van kunstmatige intelligentie-instrumenten op X. Hierin werd de digitale manipulatie van afbeeldingen van vrouwen en minderjarigen gespecificeerd om onfatsoenlijke, zeer aanstootgevende en anderszins schadelijke inhoud te creëren. De commissie bevestigde dat zij deze online schade op het platform onderzoekt.
