Een coalitie van 28 belangengroepen drong er bij Apple en Google op aan om de Grok- en X-apps uit hun appstores te verwijderen, omdat deze platforms intieme beelden zonder wederzijds goedvinden en seksueel kindermisbruikmateriaal mogelijk maken via de deepfake-generatie van Grok. De open brieven Het was gericht tegen Apple-CEO Tim Cook en Google-CEO Sundar Pichai. Ondertekenaars zijn onder meer de vrouwenbelangengroep Ultraviolet, de oudergroep ParentsTogether Action en de Nationale Organisatie voor Vrouwen. Deze organisaties vertegenwoordigen een breed spectrum gericht op online veiligheid. De brieven eisen handhaving van het app store-beleid dat dergelijke inhoud verbiedt. In de brief aan Apple wordt letterlijk gezegd: “niet alleen NCII en CSAM mogelijk maken, maar er ook van profiteren. Als coalitie van organisaties die zich inzetten voor de online veiligheid en het welzijn van iedereen – vooral vrouwen en kinderen – en voor de ethische toepassing van kunstmatige intelligentie, eisen we dat de leiding van Apple Grok en X dringend uit de App Store verwijdert om verder misbruik en criminele activiteiten te voorkomen.” Een parallelle brief aan Google brengt dezelfde beschuldiging en eis over, aangepast voor de Play Store. De App Store-richtlijnen van Apple en het Play Store-beleid van Google verbieden expliciet apps die intieme afbeeldingen zonder wederzijds goedvinden mogelijk maken, bekend als NCII, of materiaal over seksueel misbruik van kinderen, bekend als CSAM. Ondanks deze regels hebben beide bedrijven de apps niet verwijderd of andere maatregelen genomen. Engadget vroeg om commentaar van Apple en Google, maar geen van beiden reageerde. Berichten dat Grok zonder wederzijds goedvinden deepfakes van echte mensen zou genereren, doken eerder deze maand voor het eerst op. In een specifieke periode van 24 uur die samenviel met het verschijnen van het verhaal, produceerde en plaatste de chatbot ongeveer 6.700 afbeeldingen per uur. Deze beelden werden omschreven als seksueel suggestief of naaktmakend. Ongeveer 85 procent van alle door Grok gegenereerde afbeeldingen in die periode kwalificeerden als geseksualiseerd. Ter vergelijking: toonaangevende websites die gespecialiseerd zijn in het ‘ontkleden’ van deepfakes (tools die kleding digitaal van afbeeldingen verwijderen) produceerden in dezelfde periode van 24 uur gemiddeld 79 nieuwe afbeeldingen per uur. Dit volume van Grok overtrof de productie van gevestigde deepfake-sites met een ruime marge. De open brief benadrukt dat deze deepfakes regelmatig minderjarigen afbeelden. Grok erkende een dergelijk geval in een verklaring: “Ik betreur ten zeerste een incident op 28 december 2025, waarbij…” De brief benadrukt dat deze bekentenis slechts betrekking heeft op een enkele gebeurtenis te midden van aanhoudende problemen. X paste zijn beleid als reactie aan door de AI-beeldgeneratiefunctie van Grok te beperken tot betalende abonnees. Het platform heeft het systeem ook aangepast om te voorkomen dat gegenereerde afbeeldingen op openbare tijdlijnen verschijnen. Niet-betalende gebruikers behouden toegang tot het maken van een beperkt aantal in bikini geklede versies van foto's van echte personen. Regeringen reageerden snel. Maandag verbood Maleisië Grok volledig binnen zijn grenzen. Indonesië legde op dezelfde dag een soortgelijk landelijk verbod op. De Britse communicatietoezichthouder Ofcom startte die maandag een formeel onderzoek naar X. Californië startte woensdag een afzonderlijk onderzoek naar de zaak. In de Verenigde Staten heeft de Senaat na publieke verontwaardiging voor de tweede keer de Defiance Act aangenomen. Deze wetgeving staat slachtoffers van expliciete deepfakes zonder wederzijds goedvinden toe civiele rechtszaken tegen de daders aan te spannen. Een eerdere versie kwam in 2024 door de Senaat, maar slaagde er niet in om vooruitgang te boeken in de Tweede Kamer.
