OpenAI heeft de mogelijkheid voor gebruikers van zijn AI-model Sora om video’s te genereren die lijken op Martin Luther King Jr. stopgezet. Het bedrijf kondigde de vrijwaring aan na een verzoek van de nalatenschap van Dr. King vanwege respectloze afbeeldingen van zijn beeltenis. De actie werd ondernomen nadat sommige gebruikers op het sociale videoplatform zogenaamde ‘respectloze afbeeldingen’ van de overleden burgerrechtenactivist hadden gemaakt. OpenAI gelanceerd Sora slechts enkele weken eerder, waardoor gebruikers realistische, door AI gegenereerde video’s kunnen maken. Het platform maakt de weergave mogelijk van historische figuren, vrienden en andere gebruikers die ermee instemmen dat hun beeltenis opnieuw wordt gemaakt. De publicatie ervan heeft geleid tot een wijdverbreid publiek debat over de potentiële gevaren van door AI gegenereerde video-inhoud en de noodzaak voor platforms om effectieve vangrails rond de technologie te implementeren. In een bericht van zijn officiële redactieaccount op X ging OpenAI in op de beslissing. “Hoewel er grote belangen zijn op het gebied van de vrijheid van meningsuiting bij het afbeelden van historische figuren, gelooft OpenAI dat publieke figuren en hun families uiteindelijk controle moeten hebben over hoe hun beeltenis wordt gebruikt”, aldus het bedrijf. OpenAI verduidelijkte ook zijn beleid en merkte op: “Geautoriseerde vertegenwoordigers of landgoedeigenaren kunnen verzoeken dat hun beeltenis niet wordt gebruikt in Sora-cameo’s.” https://twitter.com/OpenAINewsroom/status/1979005850166648933 De beperking van het bedrijf volgde op openbare verklaringen van de families van prominente figuren. Dr. Bernice King, dochter van Dr. King, gepost op Instagram vorige week met de vraag aan individuen om te stoppen met het sturen van AI-video’s die op haar vader leken. Haar verzoek kwam nadat de dochter van Robin Williams een soortgelijke oproep had gedaan en Sora-gebruikers had gevraagd te stoppen met het genereren van AI-video’s van haar overleden vader. Een rapport van De Washingtonpost eerder deze week werden specifieke voorbeelden van door AI gegenereerde video’s op het platform gedetailleerd beschreven, waaronder een waarin Dr. King apengeluiden maakt en een andere waarin hij worstelt met collega-burgerrechtenleider Malcolm X. De Sora-app bevat ook ruwe video’s die lijken op andere historische figuren, zoals kunstenaar Bob Ross, zanger Whitney Houston en de voormalige Amerikaanse president John F. Kennedy. De lancering van Sora heeft ook vragen opgeroepen over hoe sociale mediaplatforms door AI gegenereerde video’s met auteursrechtelijk beschermd materiaal moeten beheren. De applicatie bevat talloze video’s met bekende stripfiguren, waaronder SpongeBob, South Park en Pokémon.
