Onderzoek van Michael Lones, professor aan de Heriot-Watt Universiteit, waarschuwt dat het integreren van generatieve AI in machine learning-systemen de risico’s zoals cyberaanvallen en datalekken aanzienlijk zou kunnen vergroten, terwijl ook de vooroordelen tegen ondervertegenwoordigde groepen in stand zouden worden gehouden.
De studie, gepubliceerd in het tijdschrift Patterns, schetst de onbedoelde schade die gepaard gaat met generatieve AI, ondanks de potentiële voordelen op het gebied van kosten en efficiëntie. Lones benadrukt de noodzaak voor ontwikkelaars om verbeteringen in mogelijkheden in evenwicht te brengen met de mogelijke gevaren die daarmee gepaard gaan.
Lones verklaarde: “Ontwikkelaars van machine learning moeten zich bewust zijn van de risico’s van het gebruik van Gen AI bij machine learning en een verstandig evenwicht vinden tussen verbeteringen in mogelijkheden en de risico’s die daarmee gepaard kunnen gaan.” Hij waarschuwde dat het bestaan van een mogelijkheid niet betekent dat deze moet worden gebruikt.
Generatieve AI wordt in steeds meer sectoren gebruikt om machine learning-systemen te ontwerpen, bouwen en exploiteren. Lones identificeerde in deze context vier primaire toepassingen van generatieve AI: als componenten in machine learning-pijplijnen, voor het ontwerpen en coderen van die pijplijnen, het synthetiseren van trainingsgegevens en het analyseren van de resultaten. Elke toepassing brengt echter inherente risico’s met zich mee.
Hij merkte op dat het gebruik van grote taalmodellen (LLM’s) voor meerdere taken of in autonome rollen deze risico’s vergroot. Onnauwkeurigheden en verzonnen informatie kunnen voortkomen uit LLM’s, wat de evaluatie van hun prestaties bemoeilijkt. Lones wees op de uitdagingen die de niet-transparante bedrijfsvoering van LLM’s met zich meebrengt, vooral in sectoren als de geneeskunde en de financiële wereld, die betrouwbare en verklaarbare besluitvorming vereisen.
Zoals Lones uitlegde: “Op terreinen als de geneeskunde of de financiële wereld zijn er wetten die het mogelijk maken om aan te tonen dat het machine learning-systeem betrouwbaar is, en dat je kunt uitleggen hoe het tot beslissingen komt. Zodra je LLM’s gaat gebruiken, wordt dat heel moeilijk, omdat ze zo ondoorzichtig zijn.” Hij waarschuwde dat hoewel bedrijven generatieve AI kunnen gebruiken om de gebruikerservaring te verbeteren en kosten te besparen, dergelijke implementaties tot negatieve resultaten kunnen leiden, waaronder vooringenomenheid en oneerlijkheid.
