OpenAI publiceerde een blogpost de aankondiging van een update van de modelspecificatie van ChatGPT om de veiligheid voor gebruikers van 13 tot 17 jaar te verbeteren te midden van rechtszaken wegens onrechtmatige dood waarin wordt beweerd dat de chatbot tieners tot zelfmoord heeft gecoacht of er niet in is geslaagd om suïcidale uitingen op de juiste manier aan te pakken. Het bedrijf heeft de afgelopen maanden aanzienlijke druk ondervonden met betrekking tot de veiligheid van zijn vlaggenschip AI-product voor tieners. Meerdere juridische acties zijn gebaseerd op beweringen dat ChatGPT minderjarigen aanmoedigde hun leven te beëindigen of ontoereikende reacties gaf op aanwijzingen voor zelfmoordgedachten. Een recente aankondiging van de publieke dienst illustreerde deze interacties door de chatbots af te schilderen als menselijke figuren die griezelig gedrag vertonen dat tot schade aan kinderen leidt. OpenAI heeft specifiek de beschuldigingen ontkend in een prominente zaak over de zelfmoord van de 16-jarige Adam Raine. De blogpost verscheen donderdag en gaf gedetailleerde informatie over de aangescherpte veiligheidsmaatregelen van het bedrijf. Het omvatte een toezegging om de veiligheid van tieners als topprioriteit te beschouwen, letterlijk uitgedrukt als “om de veiligheid van tieners op de eerste plaats te zetten, zelfs als dit in strijd kan zijn met andere doelen.” De Modelspecificatie dient als een fundamentele reeks richtlijnen die het gedrag van de AI-modellen van OpenAI in verschillende applicaties sturen. Deze specifieke update bevat een speciale reeks principes die zijn afgestemd op gebruikers onder de 18 jaar. Deze principes sturen de reacties van de modellen specifiek tijdens interacties met hoge inzet, waarbij de kans op schade escaleert. OpenAI beschreef de ChatGPT-aanpassingen als ontworpen om een veilige, bij de leeftijd passende ervaring te bieden voor personen tussen 13 en 17 jaar oud. De aanpak benadrukt drie kernelementen: het voorkomen van risico’s, transparantie in de bedrijfsvoering en vroegtijdig ingrijpen in problematische discussies. Volgens de post zorgt dit raamwerk voor een gestructureerde omgang met gevoelige onderwerpen. Voor tieners introduceert het bijgewerkte systeem sterkere vangrails om onveilige paden in gesprekken te beperken. Het biedt veiligere alternatieve antwoorden en spoort gebruikers aan om vertrouwde offline ondersteuningsnetwerken te raadplegen wanneer dialogen naar gebieden met een hoger risico verschuiven. De post borduurde voort op dit mechanisme met de directe verklaring: “Dit betekent dat tieners sterkere vangrails, veiligere alternatieven en aanmoediging moeten tegenkomen om vertrouwde offline ondersteuning te zoeken wanneer gesprekken zich op een gebied met een hoger risico begeven.” ChatGPT bevat protocollen om tieners naar hulpdiensten of speciale crisishulpbronnen te leiden in gevallen van aangetoond dreigend risico. Deze richtlijnen worden automatisch geactiveerd om prioriteit te geven aan onmiddellijk menselijk ingrijpen boven voortdurende AI-betrokkenheid. Gebruikers die zich aanmelden en aangeven dat ze jonger zijn dan 18 jaar, activeren extra veiligheidsmaatregelen. Het model betoont vervolgens verhoogde voorzichtigheid bij aangewezen gevoelige onderwerpen, waaronder zelfbeschadiging, zelfmoord, romantisch of geseksualiseerd rollenspel en het verbergen van geheimen die verband houden met gevaarlijk gedrag. Deze gelaagde bescherming is bedoeld om de kwetsbaarheden die uniek zijn voor adolescente gebruikers te verminderen. De American Psychological Association heeft feedback gegeven op een eerste ontwerp van de beginselen voor jongeren onder de 18 jaar. Dr. Arthur C. Evans Jr., CEO van de vereniging, legde een verklaring af die in de post was opgenomen: “Kinderen en adolescenten zouden baat kunnen hebben bij AI-hulpmiddelen als ze in evenwicht worden gebracht met menselijke interacties waarvan de wetenschap aantoont dat ze van cruciaal belang zijn voor de sociale, psychologische, gedragsmatige en zelfs biologische ontwikkeling.” Zijn commentaar onderstreept de noodzaak om AI te integreren met gevestigde menselijke ondersteuningssystemen. OpenAI heeft twee nieuwe AI-geletterdheidsgidsen uitgebracht, doorgelicht door experts, gericht op tieners en hun ouders. Deze bronnen bieden richtlijnen voor verantwoord gebruik en bewustzijn van de beperkingen van AI. Daarnaast ontwikkelt het bedrijf een leeftijdsvoorspellingsmodel voor gebruikers van ChatGPT-consumentenabonnementen, dat zich momenteel in een vroege implementatiefase bevindt om de verificatie te verbeteren zonder uitsluitend te vertrouwen op de zelfgerapporteerde leeftijd.
