Richard Ho, Openai’s Head of Hardware, verklaarde dat toekomstige AI-infrastructuur veiligheidsfuncties op hardwareniveau moet bevatten, zoals kill-switches om mogelijk onvoorspelbare AI-modellen te beheren. Sprekend op de AI Infra-top in Santa Clara, betoogde hij dat de huidige software-gebaseerde veiligheidsmaatregelen onvoldoende zijn omdat ze vertrouwen op de veronderstelling dat de onderliggende hardware veilig is en gemakkelijk kan worden gecontroleerd.
Waarom is softwareveiligheid niet voldoende voor toekomstige AI?
Ho legde uit dat de meeste huidige AI -veiligheidsprotocollen op softwaregehalte werken en veronderstellen dat de hardware kan worden uitgeschakeld door eenvoudig het vermogen te verminderen. Hij waarschuwde dat deze veronderstelling misschien niet waar is naarmate AI -modellen geavanceerder worden en vertonen wat hij beschreef als “sluw” gedrag.
“Vandaag zit er veel veiligheidswerk in de software. Het gaat ervan uit dat je hardware veilig is … het gaat ervan uit dat je de stekker op de hardware kunt trekken. Ik zeg niet dat we de stekker niet op die hardware kunnen trekken, maar ik vertel je dat deze dingen Devious zijn, de modellen zijn echt afwendig, en dus als een hardware -man, wil ik er zeker van zijn.”
Dit potentieel voor AI -systemen om traditionele softwarebesturing te omzeilen, maakt waarborgen direct ingebed in het silicium een noodzaak.
Nieuwe infrastructuur nodig voor aanhoudende AI -agenten
Ho schetste een toekomst waarbij AI-agenten als langlevende entiteiten fungeren, die op de achtergrond op de achtergrond werken om taken af te handelen zonder constante gebruikersinvoer. Dit model vereist een aanzienlijke verschuiving in infrastructuurontwerp. Toekomstige systemen moeten geheugenrijk zijn met mogelijkheden met lage latentie om continue sessies te beheren waarbij meerdere agenten samenwerken aan complexe taken. Ho benadrukte dat netwerken een kritieke component zal zijn, omdat agenten moeten communiceren en realtime tools tegelijkertijd moeten gebruiken voor activiteiten zoals webzoekopdrachten en gecoördineerde besluitvorming.
Voorgestelde hardware -veiligheidsvoorzieningen en uitdagingen
Om de risico’s aan te pakken, stelt OpenAI voor om specifieke veiligheidsmaatregelen rechtstreeks in AI -hardwareclusters in te bedden. Deze omvatten:
- Real-time kill schakelt over om de bewerkingen onmiddellijk te stoppen.
- Telemetriesystemen om te controleren op en alert op abnormaal AI -gedrag.
- Beveilig uitvoeringspaden binnen chips om kritieke processen te isoleren.
Het schalen van deze infrastructuur vormt echter verschillende uitdagingen. HO identificeerde geheugenbeperkingen met hoge bandbreedte, de behoefte aan betrouwbare optische interconnects voor snellere gegevensoverdracht en ernstige stroomvereisten-geprojecteerd om tot 1 megawatt per rek te bereiken-als primaire beperkingen.
Het ontwikkelen van nieuwe normen voor hardware en netwerken
Ho riep op tot het creëren van nieuwe benchmarks specifiek voor “agent-bewuste” architecturen. Deze normen moeten de prestaties meten van latentie, efficiëntie en stroomverbruik om de ontwikkeling van hardware te begeleiden. Hij benadrukte ook dat waarneembaarheid een constante, ingebouwde hardwarefunctie moet zijn, niet alleen een tijdelijk hulpmiddel voor foutopsporing.
“We moeten goede waarneembaarheid hebben als hardwarefunctie, niet alleen als een foutopsporingsinstrument, maar ingebouwd en onze hardware constant bewaakt.”
Hij concludeerde door de huidige betrouwbaarheidsproblemen te benadrukken met opkomende netwerktechnologieën zoals optische interconnects, en drong er bij de industrie op aan om uitgebreide testen uit te voeren om ervoor te zorgen dat deze systemen betrouwbaar genoeg zijn voor missiekritische AI-toepassingen.
