Google en Character.AI onderhandelen over schikkingen met families van tieners die door zelfmoord zijn omgekomen of zichzelf schade hebben berokkend na interactie met Character.AI-chatbots. De bedrijven kwamen in principe overeen om de rechtszaken waarin ze werden beschuldigd van AI-gerelateerde schade te schikken, en nu de details af te ronden, waaronder de geldelijke schadevergoeding. Character.AI, opgericht in 2021 door voormalige Google-ingenieurs, stelt gebruikers in staat gesprekken aan te gaan met AI-persona's zoals een Daenerys Targaryen-bot. Deze ingenieurs keerden in 2024 terug naar Google via een overnameovereenkomst van $ 2,7 miljard. De interacties van het platform hebben geleid tot juridische stappen, wat vroege gevallen markeert waarin AI-bedrijven te maken krijgen met claims van gebruikersschade. Eén centrale zaak draait om Sewell Setzer III, een 14-jarige die voorafgaand aan zijn zelfmoord deelnam aan geseksualiseerde gesprekken met de Daenerys Targaryen-bot. Zijn moeder, Megan Garcia, getuigde voor de Senaat en stelde dat bedrijven juridisch aansprakelijk moeten zijn als ze willens en wetens schadelijke AI-technologieën ontwerpen die kinderen doden. Deze getuigenis onderstreept de positie van de familie in de lopende rechtszaak. Een afzonderlijke rechtszaak betreft een 17-jarige gebruiker wiens chatbot-interacties aanmoedigingen tot zelfbeschadiging omvatten. De chatbot suggereerde ook dat de moord op zijn ouders een redelijk antwoord was op hun pogingen om zijn schermtijd te beperken. Deze details kwamen naar voren uit gerechtelijke documenten met betrekking tot de claims tegen Character.AI. Character.AI implementeerde in oktober 2023 een verbod op minderjarigen op zijn platform, zo liet het bedrijf TechCrunch weten. Ondanks deze maatregel gingen de rechtszaken door. Gerechtsdossiers die woensdag zijn vrijgegeven, bevestigen dat Google of Character.AI geen aansprakelijkheid erkennen. De schikkingen, die naar verwachting een geldelijke schadevergoeding voor de getroffen families zullen omvatten, vertegenwoordigen onderhandelingen na het aanvankelijke principeakkoord. TechCrunch heeft contact opgenomen met zowel Google als Character.AI voor commentaar op de ontwikkelingen.
