Een onderzoeksinitiatief onder leiding van Microsoft, bekend als de Parafraseerprojectheeft aangetoond dat kunstmatige intelligentie kan worden gebruikt om biologische toxines opnieuw te ontwerpen op manieren die de huidige bioveiligheidsscreeningsoftware omzeilen. Het project, gedetailleerd in een artikel gepubliceerd in het tijdschrift Wetenschapidentificeerde een ‘biologische zero-day’ – een voorheen onbekende kwetsbaarheid – en ontwikkelde er een verdediging voor door principes uit cybersecurity toe te passen. De aanvankelijke zorg, geuit door Eric Horvitz van Microsoft, was dat open-source AI-tools theoretisch zouden kunnen worden gebruikt om gifstoffen opnieuw te ontwikkelen die onzichtbaar zouden zijn voor bestaande bioveiligheidssystemen.
Hoe synthetische biologie en haar beveiligingen werken
Op het gebied van de synthetische biologie kunnen wetenschappers op maat gemaakte DNA-strengen bestellen bij synthesebedrijven. Voordat een bedrijf het genetische materiaal verzendt, voert het de gevraagde DNA-sequentie uit via software voor bioveiligheidsscreening. Deze software vergelijkt de volgorde met gereguleerde databases van bekende bedreigingen, zoals toxines of ziekteverwekkers, om misbruik te voorkomen. Het International Gene Synthesis Consortium (IGSC) helpt bij het beheer van deze databases. Naarmate AI-tools echter krachtiger worden, neemt het risico toe dat iemand een nieuw eiwit zou kunnen ontwerpen dat voor de software onschadelijk lijkt, maar zich gedraagt als een gif dat eenmaal is aangemaakt.
Het systeem testen met een biologische zero-day
Om dit risico te onderzoeken werkte Horvitz samen met senior toegepast wetenschapper Bruce Wittmann van Microsoft. Ze gebruikten een AI-model genaamd EvoDiff om duizenden synthetische varianten van het krachtige toxine ricine te genereren. Het doel was niet om het gif gevaarlijker te maken, maar om de grenzen van de huidige screeningsystemen te testen. Het proces leek op het parafraseren van een zin: de betekenis (de functie van het eiwit en de actieve plaatsen) blijft hetzelfde, maar de woorden (de aminozuursequentie) veranderen. Toen deze opnieuw geformuleerde sequenties werden getest aan de hand van de screeningsystemen van twee toonaangevende DNA-synthesebedrijven, Twist Bioscience en Integrated DNA Technologies, kwamen ze er onopgemerkt doorheen.
“Ik denk niet dat we per se verbaasd waren dat het zo doorging. Alles wat ten goede kan worden gebruikt, kan ten kwade worden gebruikt. Maar het bieden van een oplossing helpt een reflexmatige reactie te voorkomen die het gebruik van deze hulpmiddelen ten goede verhindert.”
Wittmann vertelde het Microsoft Research-blog.
Een verdediging ontwikkelen met behulp van een cyberbeveiligingsframework
Nadat de kwetsbaarheid was bewezen, werkte het team aan een oplossing. Jake Beal, een wetenschapper bij RTX BBN Technologies, kreeg de opdracht om digitale beveiligingen te ontwikkelen die deze opnieuw geformuleerde gifstoffen konden opvangen. Het project nam een raamwerk over uit het cybersecurity-playbook, behandelde de biologische kwetsbaarheid als een software-zero-day en organiseerde een reactie vergelijkbaar met een Computer Emergency Response Team (CERT). De oplossing was het ontwikkelen van bijgewerkte detectiealgoritmen. De belangrijkste verschuiving was om verder te gaan dan alleen maar te controleren hoe een DNA-sequentie eruit ziet, en naar een dieper, semantisch begrip van wat het eiwit waarvoor het codeert feitelijk doet. Door de screeningsystemen te trainen om de functionele kenmerken van een dreiging te herkennen, konden ze de door AI gegenereerde varianten detecteren.
De weg voorwaarts en verantwoorde openbaarmaking
Het project heeft met succes zowel het bestaan van de kwetsbaarheid aangetoond als een haalbaar pad om deze te patchen. De uitkomst was een opluchting voor de betrokken DNA-synthesebedrijven.
“Het grote publiek wil erop kunnen vertrouwen dat bedrijven die deze verbazingwekkende technologieën gebruiken om nieuwe producten en diensten te bouwen, veilig en effectief zijn en hun belang voor ogen hebben. Een belangrijk onderdeel hiervan is ervoor zorgen dat je een verantwoordelijke rentmeester bent van de technologie die je ontwikkelt.”
zei James Diggans, vice-president beleid en bioveiligheid bij Twist Bioscience. Het Paraphrase Project heeft een protocol opgesteld voor het samenbrengen van bioveiligheidsinstrumenten en beheerde een mondiale reactie op een door AI mogelijk gemaakte bioveiligheidsdreiging. Het dient ook als model voor het publiceren van gevoelig onderzoek op een manier die openheid en voorzichtigheid in evenwicht brengt. Onderzoekers zijn er duidelijk van dat dit nog maar het begin is. Naarmate de technologie vordert, moeten beschermende maatregelen mee evolueren. Het project benadrukt de noodzaak van een continue, adaptieve benadering van bioveiligheid.
“Dit gaat over wat de reeks doet, niet alleen hoe het eruit ziet. Zelfs als twee reeksen er verschillend uitzien, kunnen ze nog steeds hetzelfde doen, zoals ziekte veroorzaken of dezelfde taak uitvoeren in een cel.”
zei Horvitz.
