Karakter.AI aangekondigd op dinsdag de lancering van “Stories”, een functie waarmee gebruikers interactieve fictie kunnen creëren met hun favoriete personages, als alternatief voor de chatbots die nu niet toegankelijk zijn voor jongeren onder de 18 jaar vanwege zorgen over de geestelijke gezondheid rond 24/7 AI-interacties. Het bedrijf heeft de toegang tot chatbots voor minderjarigen beperkt na verscherpt toezicht op mogelijke risico’s. AI-chatbots zijn continu actief en kunnen gesprekken starten, waardoor zorgen ontstaan over de impact ervan op het welzijn van jonge gebruikers. Deze beslissing sluit aan bij bredere uitdagingen in de sector, aangezien meerdere rechtszaken gericht zijn tegen bedrijven, waaronder OpenAI en Character.AI, en hen ervan beschuldigen bij te dragen aan de zelfmoorden van gebruikers door langdurige betrokkenheid. Character.AI is de afgelopen maand geleidelijk begonnen met het verminderen van de toegang voor minderjarige gebruikers. Dinsdag verbood het platform minderjarigen volledig om met AI-personages te chatten, waarmee de voltooiing van deze gefaseerde uitrol werd gemarkeerd. De verschuiving is bedoeld om deze veiligheidsproblemen aan te pakken en tegelijkertijd de interesse van de gebruiker te behouden door middel van alternatieve ervaringen. In een blogpost beschreef Character.AI het doel van de nieuwe functie. “Verhalen bieden een begeleide manier om fictie te creëren en te verkennen, in plaats van een open chat”, aldus het bedrijf. Het legde verder uit: “Het zal samen met onze andere multimodale functies worden aangeboden, zodat tieners kunnen blijven omgaan met hun favoriete personages in een omgeving waarbij de veiligheid voorop staat.” Deze integratie maakt gestructureerde interacties mogelijk waarin verschillende mediatypen zijn opgenomen, wat verschilt van de onbeperkte aard van eerdere chats. Interactieve fictie heeft de afgelopen jaren aanzienlijk aan populariteit gewonnen, waarbij gebruikers zich steeds meer aangetrokken voelen tot verhalende ervaringen. Platforms die dergelijke inhoud aanbieden, rapporteren een hogere betrokkenheid onder jongere demografische groepen, waardoor een gecontroleerde omgeving voor creativiteit en verhalen wordt geboden. Character.AI’s introductie van “Stories” speelt in op deze trend, waardoor gebruikers fictieve scenario’s kunnen bouwen en navigeren met door AI gegenereerde persona’s. Gebruikersreacties op de Character.AI-subreddit weerspiegelen verdeelde gevoelens onder tieners die door de veranderingen worden getroffen. Eén gebruiker, die zich identificeerde als een tiener, merkte op: “Ik ben zo boos over het verbod, maar ook zo blij omdat ik nu andere dingen kan doen en mijn verslaving misschien eindelijk voorbij is.” Een andere minderjarige gebruiker merkte op: “Als iemand jonger dan 18 jaar is dit gewoon teleurstellend. Maar ook terecht, omdat mensen van mijn leeftijd hieraan verslaafd raken.” Deze opmerkingen benadrukken de persoonlijke strijd met afhankelijkheid, naast de erkenning van de bedoeling van de beperkingen.
