Onderzoekers van de Universiteit van Toronto hebben een prototype van een door AI aangedreven worm ontwikkeld die in staat is bekende computerkwetsbaarheden te misbruiken en mogelijk nieuwe bedreigingen voor de internetveiligheid kan vormen. Deze worm past zijn aanvalsstrategieën autonoom aan omdat hij machines infecteert en geen menselijke tussenkomst vereist, een aanzienlijke vooruitgang ten opzichte van traditionele wormen die handmatig zijn geprogrammeerd om specifieke netwerkfouten aan te pakken.
De AI-worm kan zich verspreiden over verschillende platforms, waaronder Linux-, Windows- en IoT-apparaten. Terwijl het het netwerk doorkruist, verzamelt het gevoelige gegevens zoals wachtwoorden en identificeert het aanvullende kwetsbaarheden. Als de worm een gerepareerde fout tegenkomt, kan hij nog steeds andere bestaande zwakke punten op dezelfde machine misbruiken om zijn aanval voort te zetten.
De worm hevelt de verwerkingskracht van geïnfecteerde machines over en gebruikt deze hulpbron om zijn aanvalsstrategieën te verbeteren. Hoofdauteur Nicolas Papernot stelde dat de lancering van een dergelijke worm de operationele kosten voor hackers aanzienlijk zou verlagen. “Hackers moesten doorgaans prioriteit geven aan de meest waardevolle doelen, omdat de tijd en de computerbronnen beperkt waren”, aldus Papernot. “Maar nu, zodra een worm wordt gelanceerd, zouden de kosten tot bijna nul dalen”, voegde hij eraan toe.
De urgentie rond AI-aangedreven cyberbedreigingen is toegenomen na de release van het AI-model van Anthropic, Mythos, dat voorheen onbekende cyberveiligheidsrisico’s kan identificeren en naar verluidt meer dan 10.000 tekortkomingen heeft ontdekt. Hoewel het prototype van de Universiteit van Toronto alleen bekende kwetsbaarheden kan misbruiken, bestaat er bezorgdheid dat kwaadwillende actoren deze technologie kunnen aanpassen om nieuwe zwakke punten te vinden en te exploiteren, waardoor een formidabele dreiging ontstaat.
“Deze dreiging onderstreept de noodzaak van gecoördineerde actie”, benadrukte Papernot. Hij riep op tot een collectieve reactie van onderzoekers, marktleiders en beleidsmakers om de potentiële risico’s van deze zich ontwikkelende technologieën aan te pakken.
