OpenAI geïntroduceerd een AI-aangedreven “leeftijdsvoorspelling” -functie in ChatGPT om minderjarigen te identificeren en inhoudsbeperkingen toe te passen. Deze ontwikkeling volgt op kritiek op de impact van ChatGPT op jonge gebruikers, waaronder links naar zelfmoorden onder tieners en het genereren van ongepaste inhoud door de chatbot. In april loste het bedrijf een bug op waardoor de chatbot erotica kon genereren voor gebruikers onder de 18 jaar. De nieuwe functie verbetert de bestaande beveiliging door gebruik te maken van een AI-algoritme dat signalen op gedrags- en accountniveau beoordeelt om jonge gebruikers te identificeren, zei OpenAI in een blogpost van dinsdag. Deze signalen omvatten doorgaans de aangegeven leeftijd, de levensduur van het account en de dagelijkse activiteitstijden. Als het leeftijdsvoorspellingsmechanisme identificeert dat een account een gebruiker onder de 18 jaar bedient, worden automatisch inhoudsfilters toegepast die zijn ontworpen om discussies over seks, geweld en andere problematische onderwerpen te blokkeren. Gebruikers die ten onrechte als minderjarig zijn aangemerkt, kunnen hun ‘volwassen’-account herstellen door een selfie in te dienen bij OpenAI’s ID-verificatiepartner Persona, aldus OpenAI.
