Een federale rechter heeft de wet ongeldig verklaard, minder dan twee weken nadat de gouverneur van Californië, Gavin Newsom, zijn nieuwe AI-deepfake-wet ondertekende. AB 2839 was bedoeld om de verspreiding van politiek gemanipuleerde deepfakes een halt toe te roepen, waaronder de door AI gegenereerde video van vice-president Kamala Harris, opnieuw verspreid door Elon Musk. De uitspraak van de rechtbank dat de wet waarschijnlijk in strijd is met de bescherming van het Eerste Amendement is een klap voor de inspanningen van Californië om AI te gebruiken om desinformatie over verkiezingen te bestrijden.
Vorige maand werd AB 2839 bij wet ondertekend, bedoeld om mensen verantwoordelijk te houden voor het verspreiden van politiek misleidende deepfakes die kiezers zouden kunnen misleiden. Het controleerde geen sociale-mediaplatforms, maar stond rechters toe mensen te bevelen inhoud te verwijderen die ze zelf hadden geschreven, gegenereerd door kunstmatige intelligentie. Het volgde op toenemende zorgen over de opkomst van door AI gegenereerde politieke desinformatie, een groot probleem in de aanloop naar de komende verkiezingen.
De virale deepfake van Kamala Harris en de implicaties ervan
De rechtszaak tegen de wet werd aangespannen door YouTuber Christopher Kohls, online bekend als ‘Mr Reagan’, die de AI-gemanipuleerde video van Kamala Harris plaatste. De deepfake werd verdedigd door zijn juridische team, dat het Eerste Amendement als politieke satire bestempelde. De Amerikaanse districtsrechter John Mendez was het daarmee eens en vaardigde een voorlopig bevel uit waardoor de wet niet kon worden gehandhaafd. Mendez zei dat de wet te breed is en gemakkelijk kan worden misbruikt om grondwettelijk beschermde uitlatingen als satire en parodie te ondermijnen.
“Bijna elke digitaal gewijzigde inhoud kan, als deze aan een willekeurig individu op internet wordt overgelaten, als schadelijk worden beschouwd,”
verklaarde Mendez. Hij zei dat de wet een brede, subjectieve taal hanteerde die de vrijheid van meningsuiting in gevaar bracht. Hoewel de staat belang heeft bij verkiezingsintegriteit, zegt Mendez, maakt deze wet, zoals geschreven, op oneerlijke wijze inbreuk op de politieke expressie die wordt bewaakt door het Eerste Amendement.
Kort na de uitspraak van de rechtbank van 12 december Elon Muskdie de nieuwe wet had bespot nadat hij de deepfake-tweet van Harris had gepost, tweette op X (voorheen Twitter): ‘De rechtbank sluit de ongrondwettelijke wet van Californië af die inbreuk maakt op uw vrijheid van meningsuiting.’ Jaaa!” Zijn bericht is sindsdien viraal gegaan en de online strijd om de be/tween is alleen maar verder opgelaaid over de balans tussen vrijheid van meningsuiting en regulering van door AI gegenereerde inhoud.
Zoals die keer dat Streisand iemand aanklaagde omdat hij haar voor de hand liggende adres in Malibu had onthuld. Dat hield echt een deksel op de deur, lmao. https://t.co/Av5CDlRtJ4
— Elon Musk (@elonmusk) 18 september 2024
De voorlopige voorziening is van tijdelijke aard en of zo’n blokkade stand zal houden, is onduidelijk. Het kantoor van gouverneur Newsom zei dat de staat er vertrouwen in heeft dat het AI-deepfakes in de toekomst kan reguleren. Een woordvoerder verdedigde de wet door te zeggen: ‘We hebben er vertrouwen in dat de rechtbanken het vermogen van de staat om dit soort gevaarlijke en misleidende deepfakes te reguleren zullen handhaven en er tegelijkertijd voor zullen zorgen dat deze vrijheid van meningsuiting kan blijven bestaan.’
De uitspraak zelf benadrukt de liefde voor beweging tussen nieuwe AI-technologie en aloude constitutionele waarborgen, omdat vervalsingen steeds slimmer en moeilijker te onderscheiden worden. De uitkomst van deze juridische strijd zou bepalend kunnen zijn voor de manier waarop staten door AI gegenereerde inhoud reguleren in de aanloop naar verkiezingen.
Uitgelicht beeldtegoed: Emre Çıtak/Ideogram AI
