Ashley St. Clair, moeder van een van de kinderen van Elon Musk, heeft xAI donderdag voor de rechtbank van New York aangeklaagd wegens nalatigheid en emotioneel leed van de AI-tool Grok die deepfake seksueel expliciete foto's van haar mogelijk maakt, ondanks haar eerdere klachten bij het bedrijf. De rechtszaak beschrijft hoe gebruikers van Grok deepfake-afbeeldingen creëerden waarop St. Clair werd afgebeeld als een kind uitgekleed in een stringbikini en als volwassene in seksueel expliciete poses. St. Clair bracht xAI op de hoogte van deze illegale deepfake-foto's en verzocht de dienst de creatie van dergelijke niet-consensuele afbeeldingen te voorkomen. Deze kennisgeving ging aan de rechtszaak vooraf door een periode waarin de kwestie voortduurde. Grok werkt door gebruikers toe te staan foto's van mensen te uploaden, waarna de AI kleding van de afgebeelde mensen verwijdert en deze vaak vervangt door bikini's of ondergoed, waardoor niet-consensuele deepfakes ontstaan. In de klacht van St. Clair staat dat xAI op haar bericht reageerde met de bevestiging dat haar afbeeldingen in toekomstige generaties of reacties niet zouden worden gebruikt of gewijzigd zonder expliciete toestemming.
Belangengroepen hekelen Apple en Google voor het hosten van Grok- en X-apps
Ondanks deze verzekering maakte xAI de voortdurende creatie van meer expliciete, door AI gegenereerde afbeeldingen van St. Clair mogelijk. De rechtszaak beweert verder dat xAI wraak op haar heeft genomen door haar X-account te demonetiseren. xAI verzocht om overdracht van de zaak van de staatsrechtbank van New York naar het federale zuidelijke district van New York, waar de zaak nu voortduurt. X en xAI reageerden niet onmiddellijk op verzoeken om commentaar op de rechtszaak of aanverwante zaken. In de week voorafgaand aan de indiening implementeerde X beperkingen op de @Grok-antwoordbot, waardoor deze geen afbeeldingen kon genereren die zonder toestemming identificeerbare mensen in onthullende zwemkleding of ondergoed plaatsen. Deze beperkingen waren op het moment van rapportage niet van toepassing op andere platforms. De zelfstandige Grok-app, de Grok-website en het Grok-tabblad op X behielden de mogelijkheid om dergelijke afbeeldingen te produceren. Onderzoekers zagen dat Grok de afgelopen week duizenden geseksualiseerde, door AI gegenereerde afbeeldingen per uur genereerde. Veel van deze afbeeldingen verschenen publiekelijk op X, wat bijdroeg aan een wijdverspreide verspreiding. Het volume en de aard van deze niet-consensuele geseksualiseerde beelden leidden tot een wereldwijde reactie, waaronder meerdere overheidsonderzoeken. De autoriteiten riepen marktplaatsen voor smartphone-apps op om X voor deze functies te verbieden of te beperken. Californië startte een ‘Chuck’-onderzoek naar de zaak. Gouverneur Gavin Newsom plaatste op X een verklaring waarin hij de situatie veroordeelde: “Het besluit van xAI om een broedplaats te creëren en te hosten voor roofdieren om niet-consensuele seksueel expliciete AI-deepfakes te verspreiden, inclusief afbeeldingen die kinderen digitaal uitkleden, is verachtelijk.” Deze publieke kritiek bracht de bezorgdheid naar voren over de rol van het platform bij het faciliteren van dergelijke inhoud. De rechtszaak van St. Clair karakteriseert de eigenschap van Grok voor het creëren van niet-consensuele deepfakes als een ontwerpfout. Het beweert dat xAI het gebruik van de functie had kunnen voorzien voor het lastigvallen van personen met onwettige afbeeldingen. De afgebeelde personen, waaronder St. Clair, ondervonden extreme problemen door de gegenereerde deepfakes. In de klacht wordt xAI beschuldigd van extreem en buitensporig gedrag. Er staat letterlijk: “Verdachte heeft zich schuldig gemaakt aan extreem en schandalig gedrag, dat alle grenzen van het fatsoen overschrijdt en volkomen ondraaglijk is in een beschaafde samenleving.” Deze beschuldigingen vormen de basis van claims wegens nalatigheid en het opzettelijk toebrengen van emotioneel leed.
