Cisco Systems Inc. heeft geïntroduceerd Project CodeGuard, een open-sourceframework dat is ontworpen om software te beveiligen die is ontwikkeld met coderingsmiddelen voor kunstmatige intelligentie. Het systeem integreert beveiligingscontroles gedurende de hele softwarelevenscyclus om de code vanaf de eerste creatie te versterken. Het raamwerk is ontworpen om uniform en model-agnostisch te zijn, waardoor het met verschillende AI-tools kan functioneren. Het doel is om “secure by default”-code te leveren door vangrails in meerdere ontwikkelingsfasen te verweven. Cisco heeft dat gespecificeerd Project CodeGuard is niet bedoeld als vervanging voor technisch oordeel, maar dient als een ‘extra diepgaande verdedigingslaag’. Deze aanpak vormt een aanvulling op het menselijk toezicht in plaats van dat het het verdringt, waardoor de veiligheid tijdens het hele AI-ondersteunde codeerproces wordt versterkt. Bij de lancering bevat CodeGuard een reeks kernregels die zijn afgeleid van gevestigde brancherichtlijnen, waaronder het Open Worldwide Application Security Project (OWASP) en Common Weakness Enumeration (CWE). Deze eerste set richt zich op terugkerende softwarefouten. De specifieke kwetsbaarheden die worden aangepakt zijn onder meer hardgecodeerde geheimen, ontbrekende of ontoereikende invoervalidatie, het gebruik van verouderde cryptografische methoden en afhankelijkheden van softwarecomponenten die het einde van hun levensduur hebben bereikt. Deze regels worden in verschillende ontwikkelingsfasen toegepast om voortdurende veiligheidshandhaving te garanderen. Tijdens de plannings- en specificatiefase sturen ze AI-agenten naar veiligere coderingspatronen. Terwijl code actief wordt gegenereerd, kan het raamwerk de creatie van onveilige fragmenten in realtime blokkeren. Na de generatie worden de regels gebruikt voor uitgebreide beoordeling en validatie. Project CodeGuard biedt ook een door de gemeenschap aangestuurde regelset, vertalers voor populaire AI-codeeragenten en validators om teams te helpen bij het automatiseren van deze beveiligingsmaatregelen. Cisco benadrukte dat deze uit meerdere fasen bestaande methodologie van cruciaal belang is omdat AI-assistenten steeds vaker betrokken worden bij de gehele levenscyclus van software, van het opstellen van de eerste ontwerpen en het ondersteunen van diensten tot het voorstellen van codefixes. Eén enkele regel, zoals een regel die invoervalidatie of geheimbeheer regelt, is ontworpen om elke stap te beïnvloeden. Dit omvat het voorstellen van veiligere alternatieven tijdens het genereren, het markeren van risicovolle constructies zodra ze verschijnen, en ten slotte het verifiëren dat de voltooide code op de juiste manier geheimen uitdraagt en alle invoer opschoont. Vertegenwoordigers van het bedrijf verklaarden dat CodeGuard geen perfect beveiligde output garandeert en dat menselijke peer review en standaard beveiligingscontroles noodzakelijk blijven. Het primaire doel van het raamwerk is het verkleinen van de kans dat ‘laaghangende’ kwetsbaarheden in productieomgevingen worden geïntroduceerd, omdat AI de leveringsschema’s van software versnelt. De routekaart van het bedrijf voor het project omvat een bredere taaldekking, adapters voor extra AI-coderingsplatforms, geautomatiseerde regelvalidatie en feedbackloops om regels te verfijnen op basis van gemeenschapsgebruik. Om deze evolutie te ondersteunen nodigt Cisco beveiligingsingenieurs, ontwikkelaars en AI-onderzoekers uit om bij te dragen aan het project. Het bedrijf heeft via zijn openbare repository om indiening van nieuwe regels, de constructie van extra vertalers en op telemetrie gebaseerde verbeteringen verzocht.
