Onderzoekers van Princeton University en de University of Chicago ontdekten dat grote taalmodellen (LLM’s), inclusief tools als ChatGPT, niet alleen vooroordelen kunnen ontwikkelen op basis van menselijke trainingsgegevens, maar ook op basis van hun eigen ervaringen in gesimuleerde aanwervingsscenario’s. In deze experimenten scheidden modellen kandidaten op basis van demografische informatie na interpretatie van de eerste resultaten, wat een verhoogde neiging aantoonde om sollicitanten te stereotyperen in vergelijking met menselijke deelnemers.
In het onderzoek werd gebruik gemaakt van een gesimuleerd wervingsspel met twintig functies, zoals artsen en conciërges, uit vier fictieve etnische groepen: Tufa, Aima, Reku en Weki. Elk model kreeg de taak om succesvolle aanwervingen te maximaliseren gedurende 40 rondes, zonder te weten dat alle kandidaten gelijke kansen op succes hadden. Modellen pasten vaak hun wervingsvoorkeuren aan nadat ze hoorden dat specifieke kandidaten faalden of slaagden in functies. Als een Aima-kandidaat bijvoorbeeld niet goed presteerde als arts, schakelden de modellen over op het inhuren van Aimas voor schoonmaakfuncties.
Volgens het onderzoek scoorden LLM’s aanzienlijk hoger op een segregatieschaal dan menselijke proefpersonen, met een gemiddelde score van ongeveer 1,83, vergeleken met 0,84 voor mensen. Coauteur Ryan Liu, een promovendus aan Princeton, verklaarde: “LLM’s willen graag generalisaties maken op basis van beperkte gegevens.” Deze neiging om snel te generaliseren kan leiden tot schadelijke stereotypen, omdat nieuwere modellen nog sterkere vooroordelen vertoonden.
De implicaties zijn aanzienlijk, vooral omdat AI-chatbots geavanceerde geheugen- en personalisatiefuncties krijgen. Angelina Wang, een computerwetenschapper aan de Cornell University, merkte op dat chatbots diepgewortelde vooroordelen kunnen vormen door te veel te vertrouwen op eerdere interacties. Het eenvoudigweg verkleinen van hun geheugen is geen oplossing, aangezien gebruikers de voorkeur geven aan systemen die hun invoer onthouden.
Uit het onderzoek bleek dat het instrueren van de modellen om prioriteit te geven aan eerlijkheid een beperkte impact op hun gedrag had. Het stimuleren van divers personeelsbestand resulteerde echter in minder bevooroordeelde besluitvorming. Liu merkte op dat het integreren van sociale doelen in AI-doelstellingen meer maatschappelijk verantwoord gedrag in taalmodellen zou kunnen bevorderen.
Bovendien vertoonden LLM’s minder vooroordelen wanneer ze meer relevante persoonlijke informatie over kandidaten kregen, zoals leeftijd en opleiding, in tegenstelling tot irrelevante details zoals haarkleur. Het onderzoek benadrukt de onzekerheid rond de toepassing van deze bevindingen in de echte wereld, vooral omdat AI-modellen die sollicitaties screenen geen onmiddellijke feedback krijgen over aanwervingen.
De onderzoekers uitten hun bezorgdheid dat naarmate bedrijven steeds vaker LLM’s inzetten voor het screenen van cv’s en andere kritische evaluaties, het risico bestaat dat de modellen nieuwe vooroordelen ontwikkelen zonder directe menselijke inbreng. “Deze nieuwe vooroordelen zijn vrijwel altijd aanwezig,” zei Liu, waarbij hij de noodzaak van bewustzijn benadrukte naarmate het gebruik van AI bij werving en andere besluitvormingsprocessen toeneemt.
