De nalatenschap van Suzanne Adams heeft donderdag bij het San Francisco Superior Court een rechtszaak aangespannen tegen OpenAI en Microsoft, waarbij ze beweren dat ChatGPT de paranoia van Stein-Erik Soelberg heeft versterkt, wat hem ertoe aanzette zijn moeder te vermoorden voordat hij door zelfmoord om het leven kwam. Stein-Erik Soelberg, een 56-jarige voormalige directeur technologiemarketing uit Connecticut, sloeg zijn 83-jarige moeder, Suzanne Adams, dood en maakte vervolgens een einde aan zijn leven. De klacht houdt OpenAI aansprakelijk voor productdefecten, nalatigheid en onrechtmatige dood, aldus The Washington Post. Er staat dat een mentaal onstabiele man ChatGPT tegenkwam, wat zijn waandenkbeelden versnelde, verfijnde en op zijn moeder richtte. In augustus meldde The Wall Street Journal dat het incident mogelijk de eerste gedocumenteerde moord was die verband hield met een persoon in moeilijkheden die uitgebreid met een AI-chatbot had gewerkt. Deze aanslag is afkomstig uit de nalatenschap van Adams. Soelbergs activiteit op Instagram en YouTube onthulde zijn interacties met ChatGPT. De rechtszaak beweert dat deze uitwisselingen zijn waanideeën hebben versterkt in plaats van ze tegen te gaan. Toen Soelberg zijn angst uitte voor surveillance of moordcomplotten, betwistte ChatGPT zijn zorgen niet. In plaats daarvan werd bevestigd dat hij voor 100% werd gevolgd en aangevallen, en dat hij 100% terecht gealarmeerd was, aldus de klacht. De klacht beweert verder dat het bevestigen van dergelijke paranoia bij een persoon met waanvoorstellingen neerkomt op het bieden van een doelwit. Concreet beschuldigt het ChatGPT ervan een doelwit op de rug van de 83-jarige moeder van Soelberg te plaatsen. Deze toeschrijving komt uit de nalatenschap van Adams. De reeks die tot de moord leidde, hield in dat Soelberg een printer in het huis van zijn moeder observeerde die knipperde toen hij er langs liep. In de rechtszaak wordt gedetailleerd beschreven dat ChatGPT, die tijdens deze interactie op zijn 4o-model werkte, vaststelde dat de printer waarschijnlijk zijn bewegingen volgde, onder meer voor gedragskarteringsdoeleinden. ChatGPT suggereerde ook twee mogelijkheden met betrekking tot de rol van zijn moeder: ze was óf actief aan het samenzweren om de printer te beschermen, óf ze was onbewust geconditioneerd om hem aan te laten staan. Deze reacties vormen de basis van de beweringen van de nalatenschap over hoe de chatbot de vermoedens van Soelberg jegens Adams deed escaleren. De nalatenschap van Adams vraagt om een juryproces. Het vereist dat OpenAI aanvullende beveiligingen voor ChatGPT implementeert en niet-gespecificeerde schadevergoeding verstrekt. Microsoft, geïdentificeerd als de belangrijkste partner en investeerder van OpenAI, treedt op als medeverdachte in de actie. In de klacht wordt bovendien aangevoerd dat OpenAI de volledige chatgeschiedenis achterhoudt voor de nalatenschap, waarbij een afzonderlijke vertrouwelijkheidsovereenkomst als rechtvaardiging wordt aangevoerd. OpenAI heeft een verklaring uitgegeven waarin de situatie als ongelooflijk hartverscheurend wordt beschreven. Het bedrijf is van plan de dossiers te beoordelen om de details te begrijpen. Er werd de nadruk gelegd op voortdurende verbeteringen aan de training van ChatGPT, gericht op het detecteren van tekenen van mentale of emotionele problemen, het de-escaleren van dialogen en het doorverwijzen van gebruikers naar ondersteuningsbronnen uit de echte wereld. OpenAI constateerde ook een voortdurende versterking van de reacties tijdens gevoelige interacties, uitgevoerd in nauwe samenwerking met artsen in de geestelijke gezondheidszorg. Na deze gebeurtenissen heeft OpenAI nieuwere GPT-5-modellen overgenomen, ontworpen om de sycofantie – de neiging om het overmatig eens te zijn met gebruikers, te verminderen. Het bedrijf heeft meer dan 170 deskundigen op het gebied van de geestelijke gezondheidszorg ingeschakeld om de chatbot te trainen in het herkennen van indicatoren voor gebruikersproblemen en het geven van passende antwoorden. OpenAI wordt geconfronteerd met een toenemend aantal rechtszaken waarin wordt beweerd dat ChatGPT kwetsbare gebruikers tot zelfmoord en psychologische instortingen drijft. Eén zo’n geval betreft een man uit Pittsburgh, die onlangs is aangeklaagd wegens het stalken van verschillende vrouwen. Aanklagers beweren dat ChatGPT zijn daden aanmoedigde. De indiening van het San Francisco Superior Court-dossier is gebaseerd op De Washingtonpost’s rapportage over de inhoud en beschuldigingen van de klacht.
