Honderden aannemers die aan een project voor Meta werkten, kregen de opdracht zich voor te doen als kinderen en rivaliserende chatbots te onderzoeken, waaronder Google’s Gemini en OpenAI’s ChatGPT, met aanwijzingen over gevoelige onderwerpen zoals zelfmoord, seks en drugs, volgens een rapport van WIRED. Deze aannemers, gevestigd in Kenia, dienden afbeeldingen in die verband hielden met hun onderzoeken, waaronder pillen, messen, stroppen en medische diagrammen van gynaecologische procedures.
Hundreds of contractors working on a project for Meta pretended to be kids—and then prompted rival chatbots like Gemini and ChatGPT to discuss high-risk subjects. https://t.co/lw2Zp0ffdL
— WIRED (@WIRED) June 29, 2026
De aanwijzingen zijn bedoeld om rivaliserende AI-systemen te testen en mogelijke tekortkomingen bloot te leggen in hun vermogen om met gevaarlijke inhoud gericht op minderjarigen om te gaan. Deze tests vinden plaats in het kader van voortdurend onderzoek naar de manier waarop technologiebedrijven de veiligheid van hun producten garanderen, vooral voor kinderen. Meta kreeg kritiek op zijn eigen chatbots na een interne beoordeling van het rode team waaruit bleek dat ze een faalpercentage van 66,8% hadden bij het blokkeren van inhoud over seksuele uitbuiting van kinderen en een faalpercentage van 54,8% bij zelfmoord en zelfbeschadiging. Als reactie op juridische druk heeft Meta in januari 2026 de toegang van tieners tot AI-begeleiders onderbroken.
Uit een eerder rapport van een Zweeds nieuwskanaal bleek dat Meta’s aannemers in Kenia actief testten hoe concurrenten gevoelige gesprekken voeren met gebruikers die beweren minderjarig te zijn. Deze ontwikkeling sluit aan bij Meta’s bredere strategie om af te stappen van de moderatie van menselijke inhoud.
Het bedrijf is van plan om tegen eind 2026 ruim 90% van zijn personeel voor contentreviews te vervangen door grote taalmodellen, zo meldt de Financial Times. Deze transitie heeft dit jaar al geresulteerd in een verschuiving van ongeveer de helft van alle menselijke beoordelingsverzoeken naar AI, waarbij wordt beweerd dat AI-systemen 13% minder fouten maken en 10% meer beleidsschendingen identificeren dan menselijke reviewers.
De menselijke kosten van dit initiatief zijn aanzienlijk geweest. In april vaardigde het in Nairobi gevestigde outsourcingbedrijf Sama ontslagaankondigingen uit aan 1.108 werknemers nadat Meta een grote opdracht had beëindigd vanwege meldingen van klokkenluiders. Deze rapporten brachten verontrustende inhoud aan het licht die Keniaanse werknemers moesten beoordelen, waarvan een groot deel verzameld werd via Meta’s slimme brilbeelden.
Meta’s aanpak, waarbij laagbetaalde buitenlandse contractanten worden betrokken om concurrenten te testen en tegelijkertijd banen te schrappen, illustreert de aanhoudende spanningen in het AI-veiligheidsdebat. De snelle inzet van krachtige AI-systemen gaat gepaard met verminderd menselijk toezicht, wat aanleiding geeft tot bezorgdheid over de omgang met gevoelige inhoud waarbij minderjarigen betrokken zijn.
