Character.AI, een AI-bedrijf, beëindigt voor 25 november de toegang tot open chatbots voor gebruikers onder de 18 jaar om de veiligheid te vergroten vanwege zorgen over AI-interacties met minderjarigen. De uitfasering begint met een dagelijkse limiet van twee uur die geleidelijk afneemt tot nul. Het bedrijf zal meerdere methoden voor leeftijdsverificatie implementeren om deze beperking af te dwingen. Deze omvatten een intern ontwikkelde tool en oplossingen van derden, zoals Persona. In gevallen waarin deze initiële methoden onvoldoende blijken, kan Character.AI zijn toevlucht nemen tot gezichtsherkenningstechnologie en identiteitsdocumentcontroles om te bevestigen dat gebruikers minstens 18 jaar oud zijn. Deze beleidsverandering is een reactie op de input van regelgevende instanties en ouders. Het sluit aan bij lopende initiatieven om de risico’s voor de geestelijke gezondheid te beperken die gepaard gaan met tieners die deelnemen aan AI-gesprekken. Regelgevers hebben hun zorgen geuit over de mogelijke psychologische gevolgen van langdurige of ongefilterde interacties met chatbots op jonge gebruikers.
Karakter-AI in juridische problemen na het verwoestende verlies van 14-jarige
Character.AI had eerder verschillende waarborgen geïntroduceerd om minderjarigen te beschermen. Deze maatregelen omvatten een tool voor ouderlijk inzicht die monitoringopties biedt voor voogden, gefilterde karakters die zijn ontworpen om ongepaste inhoud te vermijden, beperkingen op romantische of intieme dialogen en meldingen die gebruikers waarschuwen voor de tijd die ze op het platform hebben doorgebracht. Ondanks deze stappen kende het gebruikerssegment onder de 18 jaar een merkbare daling na de uitrol ervan. In de toekomst ontwikkelt Character.AI een alternatief platform op maat voor tieners. Met deze nieuwe functie kunnen gebruikers onder de 18 jaar video’s maken, verhalen schrijven en livestreams met AI-personages produceren. Het zal echter elke vorm van conversatie-interacties met een open einde uitsluiten om de gevestigde grenzen voor het gebruik van chatbots te handhaven.
