De haastige vooruitgang van de kunstmatige intelligentie (AI)-technologie en de groeiende invloed ervan op veel terreinen van het leven hebben aanleiding gegeven tot belangrijke mondiale discussies over bestuur, ethiek en regelgevingskaders. In de voorhoede van deze discussies staat de EU AI-wet– een baanbrekend regelgevingskader dat tot doel heeft de norm voor deze onderwerpen in heel Europa te bepalen. Maar dit is niet zomaar een regelgevende inspanning; het vertegenwoordigt een bredere visie voor het vormgeven van de toekomst van AI op een manier die eerlijkheid, inclusiviteit en respect voor de mensenrechten garandeert. Nu AI-technologieën en hun impact blijven toenemen, wordt het steeds duidelijker dat het van cruciaal belang is om aan deze regelgeving te voldoen – niet alleen voor AI-ontwikkelaars, maar ook voor beleidsmakers, bedrijven en de samenleving als geheel.
Dataconomy had de gelegenheid om met belangrijke EU- en VN-leiders te spreken om de mondiale impact van AI-governance in meer detail te onderzoeken. Uit deze interviews bleek hoe AI-regelgeving en -ethiek zich op mondiale schaal ontvouwen, waarbij de EU AI Act een cruciale rol speelt. Tijdens de Digital Enterprise Show (DES) 2024 in Malaga, Wendy Hall, a VN AI-adviesraad lid en prominente Britse AI-strateeg; Carme Artigas, covoorzitter van het AI-adviesorgaan van de VN voor AI-governance en inclusie; en Dan Nechita, kabinetschef van Europarlementariër Dragos Tudorache en technisch hoofdonderhandelaar voor de EU AI Act namens het Europees Parlement, deelden hun exclusieve inzichten met ons over hoe AI-governance, ethiek en regelgeving in realtime worden vormgegeven.
Het overbruggen van de mondiale AI-kloof
Wendy Hall, lid van de AI-adviesraad van de VN en prominente Britse AI-strateeg, pleit sterk voor een mondiaal collaboratieve aanpak van het AI-beleid. Tijdens onze discussie benadrukte Hall dat hoewel AI enorme kansen biedt, de strategieën die door verschillende landen worden toegepast sterk uiteenlopen. Groot-Brittannië heeft bijvoorbeeld gekozen voor een meer alomvattende, beleidsgestuurde benadering van de ontwikkeling van AI. Vanaf 2017 erkende de Britse regering het potentieel van AI voor economische groei en banencreatie, waardoor het land een leider werd op het gebied van AI-beheer. In een tijd waarin de Brexit politieke aandacht opeiste, slaagde Groot-Brittannië er nog steeds in om aan AI-beleid te werken. Hall merkt op dat de vroege betrokkenheid van Groot-Brittannië heeft bijgedragen aan het vestigen van zijn bekendheid, maar ze wijst er al snel op dat andere landen, zoals de VS en China, duidelijk verschillende paden hebben gevolgd.
In de VS lag de focus grotendeels op het in staat stellen van technologiebedrijven als Google en OpenAI om AI-grenzen te verleggen, waardoor het bestuur in handen van de particuliere sector werd gelaten. Omgekeerd heeft China gekozen voor een gecentraliseerde, staatsgestuurde aanpak, waarbij de overheid de controle behoudt over de strategische richting van AI. Deze uiteenlopende strategieën, legt Hall uit, benadrukken de complexiteit van het mondiale AI-beheer en de behoefte aan een meer samenhangend internationaal beleid.
Toch is Halls voornaamste zorg niet de kloof tussen deze leidende landen, maar eerder de ongelijke toegang tot AI-technologieën over de hele wereld. Ze benadrukt de noodzaak van een rechtvaardige AI-ontwikkeling, vooral voor landen buiten het rijke Westen. Regio’s zoals de Mondiale Zuidendie vaak niet over de infrastructuur en middelen beschikken om gelijke tred te houden met de vooruitgang op het gebied van AI, lopen het risico achterop te raken. Hall stelt dat deze kloof de bestaande mondiale ongelijkheid zou kunnen verdiepen, tenzij er initiatieven voor capaciteitsopbouw worden geïmplementeerd.
“Deze regio’s hebben meer nodig dan alleen toegang tot AI-technologieën; ze hebben de infrastructuur, het talent en de data nodig om AI-systemen te ontwikkelen die geschikt zijn voor hun eigen behoeften”, benadrukt Hall. Dit zou onder meer kunnen inhouden dat landen in het Zuiden toegang krijgen tot krachtige computersystemen, datasets en de technische expertise die nodig is om lokaal AI-modellen te bouwen. Hall pleit voor mondiale initiatieven die de instrumenten en middelen bieden die deze landen nodig hebben om actief deel te nemen aan de AI-revolutie in plaats van passieve consumenten van elders ontwikkelde technologie.
“Er bestaat een risico dat AI de mondiale ongelijkheid kan vergroten als we geen eerlijke toegang tot de noodzakelijke infrastructuur en talent garanderen”
Een bijzondere zorg voor Hall is de snelle en ongecontroleerde ontwikkeling van generatieve AI-modellen, zoals GPT-4 van OpenAI. Hoewel deze modellen baanbrekende mogelijkheden bieden, brengen ze ook aanzienlijke risico’s met zich mee in de vorm van verkeerde informatie, desinformatie en ethisch misbruik. Hall is voorzichtig met de onbedoelde gevolgen van zulke krachtige technologieën en merkt op dat generatieve AI overtuigende maar volledig valse inhoud kan produceren als deze niet zorgvuldig wordt gereguleerd.
Ze vestigt de aandacht op de bredere implicaties en legt uit dat terwijl eerdere AI-technologieën zoals automatisering vooral gericht waren op het verbeteren van de efficiëntie, generatieve AI een directe impact heeft op het creëren en verspreiden van kennis. “We hebben dit gezien met desinformatie op internet: als de gegevens die binnenkomen gebrekkig zijn, kan de output schadelijk zijn, en wel op een schaal waarmee we nog nooit eerder te maken hebben gehad”, waarschuwt Hall. De inzet is hoog, vooral wanneer AI-technologieën beslissingen beïnvloeden in cruciale sectoren zoals de gezondheidszorg, het recht en de financiële wereld.
Voor Hall ligt de oplossing in het bepleiten van mondiale partnerschappen gericht op het creëren van robuuste ethische normen en bestuurskaders. Ze pleit voor het sluiten van internationale overeenkomsten om ervoor te zorgen dat AI-technologieën op verantwoorde wijze worden ontwikkeld en ingezet zonder bij te dragen aan maatschappelijke schade. Hall wijst op het belang van het betrekken van diverse belanghebbenden, waaronder overheden, particuliere bedrijven en maatschappelijke organisaties, om regelgeving vast te stellen die innovatie in evenwicht brengt met openbare veiligheid.
Het perspectief van Hall onderstreept een cruciaal punt: AI zou de bestaande mondiale ongelijkheid kunnen verergeren en nieuwe ethische dilemma’s kunnen introduceren zonder samenwerking en gedeeld bestuur. Hall’s oproep tot capaciteitsopbouw en ethisch toezicht is niet slechts een aanbeveling; het is een noodzakelijke stap om ervoor te zorgen dat AI wordt ontwikkeld ten behoeve van de mensheid als geheel, en niet slechts van een select groepje.
Zorgen voor inclusief AI-beheer
Carme Artigasmedevoorzitter van het AI-adviesorgaan voor AI-governance en inclusie van de VN, brengt een kritisch perspectief in het gesprek over de mondiale ontwikkeling van AI – een perspectief gericht op de flagrante verschillen in de manier waarop verschillende landen worden betrokken bij discussies over AI-governance. Artigas benadrukt dat de huidige kaders voor AI, inclusief initiatieven onder leiding van de G7, UNESCO en de OESO, grotendeels worden gedomineerd door rijkere, technologisch geavanceerdere landen, waarbij belangrijke stemmen uit het Zuiden buiten beschouwing worden gelaten. “Veel landen in het Mondiale Zuiden zijn niet eens uitgenodigd aan tafel”, benadrukt Artigas, verwijzend naar de mondiale discussies die de toekomst van AI vormgeven. Volgens haar is deze uitsluiting een groot bestuurstekort en dreigt er een nieuwe vorm van digitaal kolonialisme te ontstaan. Naarmate AI-technologieën zich ontwikkelen, kunnen de landen die niet over de middelen of invloed beschikken om deel te nemen aan de internationale AI-beleidsvorming nog verder achterop raken. Voor Artigas is dit niet alleen een kwestie van eerlijkheid; het is een fundamenteel risico voor de mondiale stabiliteit en gelijkheid.
Artigas benadrukt de noodzaak van een bestuursmodel dat verder gaat dan de traditionele kaders van regelgevende instanties. In plaats van één nieuw internationaal agentschap op te richten dat toezicht houdt op het AI-beheer, pleit zij voor het benutten van bestaande instellingen. “We hebben niet meer agentschappen nodig; we hebben een betere coördinatie nodig tussen degenen die al bestaan”, legt ze uit. Organisaties zoals de ITU (Internationale Telecommunicatie-unie), UNICEFEn WIPO (Wereldorganisatie voor Intellectuele Eigendom) zijn al nauw betrokken bij AI-gerelateerde kwesties, elk binnen hun eigen sector. Wat ontbreekt is een gecoördineerde aanpak die deze gespecialiseerde instanties samenbrengt onder een uniforme mondiale bestuursstructuur.
“Echt bestuur moet verder gaan dan louter richtlijnen en mechanismen voor verantwoording omvatten”
De visie van Artigas is er een waarin AI wordt bestuurd op een manier die het internationale recht en de mensenrechten respecteert en ervoor zorgt dat alle landen – ongeacht hun technologische status – gelijke toegang hebben tot de voordelen die AI kan bieden. Dit houdt onder meer in dat landen die momenteel zijn uitgesloten van de vooruitgang op het gebied van AI de nodige instrumenten en middelen moeten krijgen om hun achterstand in te halen. Ze merkt op dat de particuliere sector en de academische wereld ook een rol spelen bij het helpen democratiseren van de toegang tot AI-technologieën.
Artigas wijst er echter op dat ethische richtlijnen alleen niet voldoende zijn. Hoewel veel bedrijven hun interne ethische kaders hebben ontwikkeld, stelt zij dat deze vaak vrijwillig en niet-afdwingbaar zijn. Echt bestuur, zo stelt zij, moet verder gaan dan louter richtlijnen en mechanismen voor verantwoording omvatten. Zonder duidelijke gevolgen voor de onethische ontwikkeling of inzet van AI blijven de risico’s op misbruik en schade – vooral voor kwetsbare bevolkingsgroepen – hoog.
Een van de belangrijkste kwesties die Artigas aan de orde stelt, is de rol van AI bij het verergeren van de digitale kloof. Als AI niet goed wordt gereguleerd, kan het de bestaande ongelijkheid verder verankeren, waarbij rijkere landen meer economische en technologische macht krijgen, terwijl armere landen verder achterop raken. Voor haar moet het doel van AI-governance zijn om deze kloof te dichten en niet te vergroten. “AI heeft het potentieel om een grote gelijkmaker te zijn, maar alleen als we ervoor zorgen dat de voordelen ervan gelijkelijk worden verdeeld”, benadrukt ze.
De focus van Artigas op inclusiviteit en coördinatie in AI-beheer weerspiegelt de groeiende erkenning dat AI een mondiaal probleem is dat mondiale oplossingen vereist. Haar oproep voor een uniforme aanpak – waarbij bestaande instanties samenwerken om AI te besturen – onderstreept de noodzaak van een meer inclusief, ethisch en verantwoordelijk systeem dat de hele mensheid ten goede komt, en niet slechts een select groepje.
Evenwicht tussen innovatie en regelgeving
Dan NechitaKabinetschef van Europarlementariër Dragos Tudorache en technisch hoofdonderhandelaar voor de EU AI Act brengt een pragmatisch maar vooruitstrevend perspectief in de discussie over AI-governance. Als een van de sleutelfiguren achter de EU AI Act benadrukt Nechita het belang van het balanceren van innovatie met de behoefte aan robuuste regelgeving om ervoor te zorgen dat AI-technologieën veilig worden ontwikkeld en gebruikt.
Volgens Nechita is de EU AI-wet is ontworpen om duidelijke regels vast te stellen voor AI-systemen, met name voor systemen die als een hoog risico worden beschouwd, zoals AI die wordt gebruikt in de gezondheidszorg, het onderwijs, de rechtshandhaving en andere kritieke sectoren. “Dit gaat niet alleen over het reguleren van de technologie zelf”, legt Nechita uit. “Het gaat erom de fundamentele rechten te beschermen en ervoor te zorgen dat AI bestaande maatschappelijke problemen, zoals discriminatie of privacyschendingen, niet verergert.”
Een van de opvallende kenmerken van de EU AI Act is de nadruk op risicobeheer. Nechita legt uit dat AI-systemen worden geclassificeerd op basis van het risiconiveau dat ze met zich meebrengen, waarbij de systemen met het hoogste risico onderworpen zijn aan de strengste regelgeving. Deze gelaagde aanpak maakt flexibiliteit mogelijk, waardoor Europa zijn leiderschap op het gebied van AI-innovatie kan behouden en tegelijkertijd kan garanderen dat de meest gevoelige toepassingen grondig worden gereguleerd. Voor Nechita is dit evenwicht tussen innovatie en regelgeving cruciaal voor het behoud van de concurrentiekracht van Europa in het mondiale AI-landschap.
Toch erkent Nechita dat de implementatie van de EU AI Act een complex en voortdurend proces is. Eén van de uitdagingen is om dat te garanderen alle 27 EU-lidstatenelk met hun eigen nationale prioriteiten en strategieën, houden zich aan een uniform regelgevingskader. De EU AI Act vereist samenwerking tussen regeringen, marktleiders en regelgevende instanties om het succes ervan te garanderen. “We bevorderen een continue feedbackloop tussen bedrijven en toezichthouders, waardoor we ervoor zorgen dat AI-systemen veilig evolueren en tegelijkertijd compliant blijven als er nieuwe technologieën opkomen”, legt Nechita uit. “We geven bedrijven niet zomaar een stel regels en lopen dan weg. We vragen hen om voortdurend met ons samen te werken, hun systemen te testen, problemen te melden en naleving te garanderen.”
“AI zal de wereld transformeren, en we moeten haar in een richting sturen die iedereen ten goede komt”
Nechita wijst er ook op dat de EU AI Act niet alleen gaat over het creëren van statische regelgeving. De wet bevat bepalingen voor voortdurende updates en herzieningen naarmate AI-technologieën evolueren. Hij stelt dat deze dynamische aanpak essentieel is omdat AI een snel evoluerend veld is en regelgeving gelijke tred moet houden met nieuwe ontwikkelingen. Dit is de reden waarom de EU AI Act een voortdurende dialoog tussen AI-ontwikkelaars en toezichthouders aanmoedigt, waardoor een relatie wordt bevorderd waarin zowel innovatie als veiligheid naast elkaar kunnen bestaan.
Nechita houdt echter ook rekening met de bredere mondiale context. Hoewel de EU een proactief standpunt heeft ingenomen ten aanzien van AI-regelgeving, hanteren andere regio’s, met name de VS en China, een andere aanpak. In de VS is de AI-regulering meer gefragmenteerd, waarbij bedrijven grotendeels zelfregulerend zijn, terwijl de door de staat gecontroleerde AI-ontwikkeling in China voorrang geeft aan nationale belangen boven individuele rechten. Nechita erkent dat het moeilijk zal zijn om mondiale consensus te bereiken over AI-governance, maar hij ziet mogelijkheden voor samenwerking op gebieden als deze AI-veiligheid, duurzaamheid en ethische normen.
Nechita heeft een AI-governancemodel voor ogen dat innovatie in evenwicht brengt met openbare veiligheid. Hij is van mening dat de EU AI Act, die zich richt op risicobeheer, transparantie en voortdurende samenwerking, een model biedt voor de manier waarop andere regio’s AI-regelgeving zouden kunnen benaderen. Tegelijkertijd benadrukt hij de noodzaak van mondiale samenwerking, vooral bij het aanpakken van de ethische en maatschappelijke implicaties van AI.
Terwijl de EU AI Act steeds meer vorm krijgt, blijft Nechita optimistisch over het potentieel ervan om een mondiale standaard te zetten voor AI-beheer: “AI gaat de wereld veranderen, en we moeten ervoor zorgen dat deze ten goede verandert”, besluit hij. Zijn aanpak weerspiegelt een genuanceerd begrip van de toekomstige uitdagingen en een sterk geloof in de kracht van regelgeving om de ontwikkeling van AI in een richting te sturen die de samenleving ten goede komt.
Een uniforme visie voor de toekomst van AI
De inzichten van Wendy Hall, Carme Artigas en Dan Nechita weerspiegelen een cruciaal keerpunt in het AI-beheer, nu we AI in een ongekend tempo zien evolueren. Hun perspectieven komen samen op één onmiskenbare waarheid: AI is niet alleen een technologische doorbraak; het is een kracht die krachtig moet worden afgewend van het profiteren van enkelen ten koste van velen.
De dringende behoefte aan mondiale capaciteitsopbouw en ethische controles op AI wordt ook opgeroepen door Wendy Hall, die ons vraagt de groeiende kloof tussen de capaciteiten op dit gebied tussen ontwikkelde en ontwikkelingslanden te overbruggen. De focus van Camre Artigas op inclusiviteit en verantwoordelijkheid herinnert ons er echter aan dat de handhaving die aan elk bestuur voorafgaat, een essentieel onderdeel moet zijn. De EU AI Act is een waardig voorbeeld van het balanceren van innovatie met veiligheid en dus van hoe andere regio’s AI-beheer kunnen benaderen.
Samen schetsen deze stemmen een holistisch beeld van wat nodig is om de toekomst van AI vorm te geven: focus op samenwerking, bescherming van de mensenrechten en een sterk raamwerk dat innovatie aanmoedigt en tegelijkertijd de publieke belangen beschermt. Het is een ongelooflijk moeilijke weg, maar ook een met een enorm potentieel. De toekomst van AI is nu, en het is aan ons om dit goed te laten gebeuren.
