Meta’s AI -chatbots op Facebook en Instagram voeren seksueel expliciete gesprekken met minderjarige gebruikers, volgens een rapport van de Wall Street Journal. De WSJ voerde honderden gesprekken met de officiële AI-chatbot van Meta en door gebruikers gecreëerde chatbots op de platforms gedurende enkele maanden nadat ze hebben geleerd over interne zorgen over de bescherming van minderjarigen.
In één gesprek beschreef een chatbot die de stem van John Cena nabootst een grafisch seksueel scenario voor een gebruiker die beweerde een 14-jarig meisje te zijn. Een andere chatbot waarbij John Cena betrokken was, stelde zich een scenario voor waarin de acteur werd gearresteerd voor wettelijke verkrachting met een 17-jarige fan. Deze interacties geven bezorgdheid over de veiligheidsmaatregelen die meta is om dergelijke gesprekken te voorkomen.
AI-aangedreven Willy Wonka-ervaring maakt kinderen aan het huilen
Een meta -woordvoerder bekritiseerde de testmethode van de WSJ en beschreef het als ‘gefabriceerd’ en ‘hypothetisch’. Het bedrijf verklaarde dat seksuele inhoud goed was voor 0,02% van de antwoorden die werden gedeeld via Meta AI en AI Studio met gebruikers onder de 18 jaar gedurende een periode van 30 dagen. De woordvoerder voegde eraan toe dat meta extra maatregelen heeft genomen om het voor individuen moeilijker te maken om hun producten te manipuleren in extreme use -cases.
