Gebaseerd op een verhaal dat we verder lezen TechKortis het moeilijk om weerstand te bieden aan de drang om uit woede tegen muren te slaan.
De familie van Jennifer Ann Crecente, een 18-jarige die bijna twintig jaar geleden werd vermoord, ontdekte onlangs dat haar foto zonder hun toestemming werd gebruikt door een AI-chatbotplatform. Jennifers naam en afbeelding zijn gevonden op Character.ai, een dienst waarmee gebruikers kunnen communiceren met door AI gegenereerde persoonlijkheden. De familie werd nooit geraadpleegd of geïnformeerd over het gebruik van Jennifers identiteit, waardoor ze geschokt en verwoest waren door dit grove misbruik.
Na de ontdekking ging Jennifers oom naar de sociale media om het incident aan de kaak te stellen en legde een krachtige verklaring af op zijn blog: Padenpixel.
Dit is verdomd walgelijk: @karakter_ai gebruikt mijn vermoorde nichtje als het gezicht van een videogame AI zonder toestemming van haar vader. Hij is momenteel erg overstuur. Ik kan me niet voorstellen wat hij doormaakt.
Help ons alstublieft dit soort vreselijke praktijken te stoppen. https://t.co/y3gvAYyHVY
— Brian Crecente (@crecenteb) 2 oktober 2024
Pas na publieke verontwaardiging verwijderde het platform de bot.
De schok bij het zien van het gebruik van Jennifers gezicht en naam zonder toestemming liet oude wonden opengaan bij de familie. Crecente beschreef het aanvankelijke verdriet na haar dood als een ‘bijna buitenlichamelijke ervaring’ en voegde eraan toe: ‘Mijn ziel voelde zich uit mijn lichaam gerukt. Ik ervaarde het leven een tijdje in een roes, alsof ik dat was soort van losgemaakt van mijn lichaamvan de wereld.” Hoewel de familie onvermoeibaar had gewerkt om Jennifers nagedachtenis te eren door middel van non-profitwerk en onderwijs, voelde dit ongeoorloofde gebruik van haar identiteit als een wrede schending.
“Het voelt alsof ze weer van ons is gestolen”, schreef Crecente, waarmee hij de verwoestende impact benadrukte van het onzorgvuldig gebruik van persoonlijke identiteiten door AI. Ondanks hun pogingen om de chatbot te laten verwijderen, was de schade al aangericht. Crecente stelde een prangende vraag: “Waarom is het aan ons om veerkrachtig te zijn? Waarom doen miljardenbedrijven niet de moeite om ethische, leidende principes en functionerende vangrails te creëren om te voorkomen dat dit ooit gebeurt?”
Serieus, waarom doen miljardenbedrijven niet de moeite om ethische, leidende principes en functionerende vangrails te creëren om te voorkomen dat dit ooit gebeurt?
We weten dat er slechte mensen zijn. Mensen zijn van nature doorgaans in staat tot slechte daden. Maar degenen die de macht hebben – vooral degenen met een enorme technologische invloed – dragen ook de verantwoordelijkheid om grenzen te stellen en kaders te creëren die het kwaad blokkeren.
Het antwoord ligt op het kruispunt van technologische vooruitgang, prikkels van bedrijven en de flagrante afwezigheid van alomvattende regelgeving.
Wanneer bedrijven als Character.ai het vermogen bezitten om menselijke identiteiten te repliceren – levend of overleden – hebben ze de ethische plicht om ervoor te zorgen dat deze macht niet wordt misbruikt.
Het antwoord ligt in het voorrang geven aan winst boven mensen. In de meedogenloze race om innovatie kiezen bedrijven ervoor om snel te handelen en te innoveren zonder ervoor te zorgen dat de noodzakelijke ethische barrières aanwezig zijn. Het is niet zo dat ze deze barrières niet kunnen opwerpen; ze zien er eenvoudigweg geen onmiddellijke financiële waarde in.
Dit is de harde realiteit: op winst gerichte industrieën beschouwen moraliteit vaak als een optionele uitgave, vooral in de technologiewereld.
Overheden en regelgevende instanties zijn achtergebleven bij de snelle ontwikkeling van AI, waardoor er enorme gaten in de wet zijn ontstaan. Er bestaan weinig of geen robuuste beschermingen voor de identiteit van de overledene.
Spreek je nu uit!
Mediakanalen en belangengroepen moeten technologiebedrijven verantwoordelijk houden voor het ongeoorloofde gebruik van gelijkenissen van overleden personen. Publieke druk is van cruciaal belang om ervoor te zorgen dat AI-platforms ethische richtlijnen implementeren en dergelijke schendingen in de toekomst voorkomen.
Wetgevers moeten worden aangespoord om wetten uit te vaardigen die de identiteit van de overledenen expliciet beschermen, en ervoor zorgen dat hun namen, afbeeldingen en nalatenschappen niet voor winst kunnen worden uitgebuit. We hebben regelgeving nodig die de waardigheid van gezinnen beschermt, lang nadat hun dierbaren zijn overleden.
We moeten eisen dat bedrijven strikte ethische richtlijnen voor AI-gebruik vaststellen en handhaven. Dit omvat toestemmingsprotocollen en een transparant proces voor het melden van overtredingen. Ze moeten niet wachten tot families deze schendingen achteraf ontdekken.
De media moeten een cruciale rol blijven spelen bij het onderzoeken en blootleggen van incidenten waarbij AI-platforms individuen zonder toestemming uitbuiten. Hun meedogenloze berichtgeving zal deze bedrijven verantwoordelijk houden en aanzetten tot verandering, en ervoor zorgen dat stilte deze uitbuiting niet mogelijk maakt.
Wij kunnen niet toekijken en toestaan dat dergelijke schendingen onbetwist voortduren.
#VerantwoordelijkAI
Wij betuigen ons diepste medeleven aan de familie Crecente in deze hartverscheurende tijd. Niemand zou ooit de pijn moeten ondergaan van het verlies van een dierbare, laat staan een dergelijke schending van zijn geheugen. Het leven en de nalatenschap van Jennifer verdienen het om geëerd te worden, en wij delen in uw verdriet terwijl u met deze onvoorstelbare last geconfronteerd wordt.
Uitgelichte afbeeldingscredits: Padenpixel
