Overheidsfunctionarissen uit Groot-Brittannië, Canada, en Australië zijn gecoördineerde discussies gestart over regelgevende maatregelen tegen X (voorheen Twitter) nadat de Grok AI-chatbot was gebruikt om expliciete diep nep afbeeldingen van vrouwen en kinderen. De Britse premier Keir Starmer heeft de mediaregulator Ofcom opgedragen alle mogelijke straffen te overwegen. inclusief een totaalverbod, Het beschrijft het onvermogen van het platform om dergelijke inhoud te voorkomen als “schandelijk”.“Terwijl Canadese functionarissen bevestigden dat er intergouvernementele gesprekken op hoog niveau gaande zijn, zij verduidelijkten dat Canada momenteel geen volledig verbod overweegt. Ook de Australische premier Anthony Albanese veroordeelde het platform. de gegenereerde inhoud bestempelen als “volledig weerzinwekkend” en verwijzen naar een gebrek aan sociale verantwoordelijkheid.
Regelgevingsreacties hebben al geresulteerd in servicebeperkingen in andere regio's. Indonesië werd het eerste land dat de toegang tot Grok blokkeerde, gevolgd door een tijdelijk verbod in Maleisië, waarbij beide regeringen de noodzaak aanvoeren om burgers te beschermen tegen pornografische inhoud zonder wederzijdse toestemming. Er wordt steeds meer druk uitgeoefend vanuit Europa, waarbij de Europese Commissie X heeft opgedragen interne documenten te bewaren voor een mogelijk onderzoek op grond van de Digital Services Act. Aanvullend, De Britse Internet Watch Foundation meldde dat ze criminele beelden van minderjarigen op het dark web hadden ontdekt waarvan gebruikers beweerden dat ze met behulp van Grok waren gegenereerd.
Als reactie op de crisis heeft X beperkte de tools voor het genereren van afbeeldingen van Grok tot betalende abonnees, Een stap die Britse functionarissen afdeden als een ‘beledigende’ poging om het probleem in geld uit te drukken in plaats van het op te lossen. De impasse op het gebied van de regelgeving is geëscaleerd in een politiek geschil. waarbij Elon Musk de Britse regering beschuldigt van ‘fascisme’ en censuur. In de tussentijd, U.S. Vertegenwoordiger Anna Paulina Luna heeft gedreigd met sancties tegen Groot-Brittannië aan te dringen als het land doorgaat met het verbieden van het platform.
