Het Britse Labour-parlementslid Jess Asato klaagt xAI aan wegens seksueel expliciete, door AI gegenereerde afbeeldingen gemaakt door de beeldgenerator Grok. Deze rechtszaak markeert een belangrijke test of AI-bedrijven juridisch verantwoordelijk kunnen zijn voor inhoud die wordt gegenereerd door gebruikers van hun technologie in Groot-Brittannië.
Volgens De Financieel Times begonnen Grok-gebruikers in januari afbeeldingen van Asato te delen, wat samenviel met berichten dat de AI-assistent was gebruikt om materiaal over seksueel misbruik van kinderen te maken (CSAM). Asato beweert dat gebruikers Grok hebben gevraagd om afbeeldingen te genereren waarop haar in bikini wordt afgebeeld, evenals een expliciete video waarin te zien is dat ze wordt gechloroformeerd en voorbereid op aanranding. Gebruikers deelden en bespraken deze door AI gegenereerde afbeeldingen verder op X, het sociale platform van xAI.
Asato maakte op 3 juni 2026 haar claim bij het Hooggerechtshof tegen xAI bekend, waarin zij verklaarde dat zij duizenden slachtoffers van beledigende en geseksualiseerde AI-deepfakes vertegenwoordigt. Ze stelt dat xAI verantwoordelijk moet worden gehouden voor overtredingen van wetten met betrekking tot misbruik van privé-informatie en gegevensbescherming. Asato eist financiële schadevergoeding, samen met een bevel aan xAI om te voldoen aan de Britse wet om individuele rechten beter te beschermen.
Today, I’m launching a High Court claim against xAI, the company behind Grok.
I am just one of thousands of women and even children who have been the victim of abusive and sexualised AI deepfakes.
This should never have happened – and xAI must be held accountable. https://t.co/Oc9XlxHQO6
— Jess Asato MP (@Jess4Lowestoft) June 3, 2026
xAI beweerde dat het in januari beperkingen had opgelegd aan Grok’s vermogen om seksueel expliciete afbeeldingen te produceren, maar gebruikers vonden deze grenzen relatief eenvoudig te omzeilen. Het ongepaste gebruik van Grok heeft tot aanzienlijke kritiek geleid en tot bezorgdheid geleid over deepfakes zonder wederzijdse toestemming.
Momenteel worden xAI en X onderzocht door toezichthouders in de EU, het VK en Californië. Naast de rechtszaak van Asato wordt xAI geconfronteerd met juridische uitdagingen van de stad Baltimore, een groep tieners, en Ashley St. Clair, de moeder van een van de kinderen van Elon Musk. Terwijl SpaceX, de eigenaar van zowel xAI als X, probeert naar de beurs te gaan, blijft het onzeker of de aanhoudende controverses invloed zullen hebben op Musk’s beursintroductie.
