Anthropic en AE Studio publiceerden een methode genaamd Gradient-Routed Auxiliary Modules (GRAM) voor het isoleren van gevaarlijke kennis binnen AI-modellen in verwijderbare modules. Deze techniek maakt de scheiding van gevoelige kennis mogelijk zonder de algehele prestaties van het model te beïnvloeden.
GRAM integreert kleine neurale compartimenten in een taalmodel, elk gericht op specifieke gevoelige categorieën zoals virologie, cyberveiligheid of kernfysica. Wanneer een module wordt verwijderd, functioneert het model alsof het nooit op die gegevens is getraind. Omgekeerd, wanneer een module wordt geactiveerd, wordt de kennis volledig beschikbaar.
De methode wijzigt de standaard transformatorarchitectuur door de breedte van MLP-lagen uit te breiden met deze hulpmodules. Tijdens de training is alleen de module die overeenkomt met een categorie voor tweeërlei gebruik actief wanneer het model gerelateerde gegevens tegenkomt.
De onderzoekers testten GRAM op modellen variërend van 50 miljoen tot 5 miljard parameters. Ze trainden een model met 800 miljoen parameters op diverse tekstgegevens naast vier domeinen voor tweeërlei gebruik. De gegevens over tweeërlei gebruik vormden ongeveer 0,25% van de trainingsgegevens voor elk respectief domein.
De resultaten gaven aan dat het verwijderen van GRAM-modules specifieke mogelijkheden bijna net zo effectief elimineerde alsof het model nooit op die gegevens was getraind, terwijl de algemene prestaties dicht bij het basisniveau bleven. De GRAM-aanpak bleek robuust tegen vijandige verfijning, in tegenstelling tot post-hoc-afleermethoden die kennis alleen maar onderdrukken in plaats van deze permanent te verwijderen.
Dit onderzoek komt naar voren te midden van recente uitdagingen op het gebied van AI-beheer, met name wat betreft exportcontroles op de modellen van Anthropic die in juni door de Trump-regering zijn geïmplementeerd vanwege bezorgdheid over de nationale veiligheid. Deze beperkingen werden op 30 juni opgeheven nadat Anthropic met het ministerie van Handel had samengewerkt om de daarmee samenhangende risico’s te beperken.
GRAM presenteert een potentieel compromis in het AI-beleid, waardoor selectieve toegangscontrole mogelijk wordt in plaats van brede modelbeperkingen of gedragsmatige vangrails. Een doorgelicht bioveiligheidslaboratorium zou een model kunnen krijgen met intacte virologische kennis, terwijl een algemene inzet die module volledig zou uitsluiten.
De onderzoekers merkten echter op dat dit werk voorlopig is en niet is toegepast op productiemodellen bij Anthropic. Er blijven uitdagingen bestaan met betrekking tot de schaalbaarheid van de techniek naar grotere modellen en problemen bij het scheiden van verstrengelde capaciteiten, waarbij algemene biologiekennis overlapt met gevaarlijke virologische kennis. Het werk werd geleid door AE Studio-onderzoekers in samenwerking met Cem Anil en Alex Cloud van Anthropic.
