NVIDIA heeft zijn AI-supercomputer van de volgende generatie onthuld, de NVIDIA DGX SuperPODspecifiek ontworpen om aan de enorme rekenvereisten van generatieve AI te voldoen.
Dit krachtige systeem maakt gebruik van de verwerkingskracht van NVIDIA GB200 Grace Blackwell Superchips. Elk DGX GB200-systeem herbergt 36 van deze Superchips, die 36 NVIDIA Grace CPU’s en maar liefst 72 NVIDIA Blackwell GPU’s integreren.
Dankzij de NVIDIA NVLink-technologie van de vijfde generatie functioneren deze superchips samenhangend als één enkele, krachtige supercomputer.
Het hart van de DGX SuperPOD
De door Grace Blackwell aangedreven DGX SuperPOD biedt enorme schaalbaarheid. Het begint met ten minste acht DGX GB200-systemen en kan eenvoudig worden geschaald om tienduizenden GB200 Superchips te integreren die met elkaar zijn verbonden via NVIDIA Quantum InfiniBand.
Klanten die AI-modellen van de volgende generatie met enorme gedeelde geheugenvereisten willen aandrijven, kunnen een acht DGX GB200-systeemcluster configureren, waarbij 576 Blackwell GPU’s via NVLink met elkaar worden verbonden.
- Elk DGX GB200-systeem beschikt over: 36 NVIDIA GB200 Grace Blackwell-superchips
- Deze superchips zijn met elkaar verbonden en functioneren als één supercomputer
- GB200 Superchips leveren een indrukwekkende prestatieverbetering van 30x vergeleken met de NVIDIA H100 Tensor Core-GPU
Maak kennis met GB200
De GB200 Superchipmet een krachtige combinatie van Grace CPU’s en Blackwell GPU’s, is specifiek ontworpen om te voldoen aan de veeleisende computerbehoeften van grootschalige generatieve AI-modellen. In deze complexe modellen is de nauwe integratie van zowel CPU- als GPU-elementen cruciaal voor optimale prestaties.
Generatieve AI-modellen worden snel groter. GB200 is op maat gemaakt om de ingewikkelde trainings- en inferentiewerklasten aan te kunnen voor modellen die werken op de schaal van biljoenen parameters en daarbuiten.
GB200 Superchips leveren een verbazingwekkende prestatieverbetering van 30x vergeleken met de NVIDIA H100 Tensor Core GPU in grote taalmodellen. Dit soort prestatiesprongen zijn essentieel om gelijke tred te houden met de snelle evolutie van generatieve AI.
De rack-schaalarchitectuur van de DGX SuperPOD is geoptimaliseerd voor maximale prestaties door gebruik te maken van de mogelijkheden van de GB200 Superchip. Dit zorgt ervoor dat generatieve AI-workflows naadloos op schaal worden afgehandeld.
Schalen om aan ongekende eisen te voldoen
NVIDIA heeft een nieuwe, vloeistofgekoelde architectuur op rackschaal geïntroduceerd die is geoptimaliseerd voor de eisen van generatieve AI. Naast NVIDIA BlueField-3 DPU’s en NVIDIA Quantum-X800 InfiniBand-netwerken creëert dit een uniforme computerstructuur.
Het platform levert een verbluffende prestatie 1.800 gigabytes per seconde bandbreedte voor elke GPU. Bovendien beschikt NVIDIA Scalable Hiërarchical Aggregation and Reduction Protocol (SHARP) van de vierde generatie biedt 14,4 teraflops aan computergebruik binnen het netwerk – een viervoudige prestatieverbetering ten opzichte van de vorige architectuur.
Complete AI-supercomputeroplossing
De DGX SuperPOD levert een uitgebreide AI-supercomputeroplossing.
Om de complexiteit van generatieve AI-workloads aan te kunnen, kan het naadloos worden geïntegreerd met krachtige opslagoplossingen van NVIDIA-gecertificeerde partners. Om de implementatie te stroomlijnen, wordt elk systeem in de fabriek geassembleerd, bedraad en getest.
Intelligente mogelijkheden voor voorspellend beheer monitoren voortdurend duizenden hardware- en softwaredatapunten, waardoor de uptime wordt gemaximaliseerd en de downtime wordt geminimaliseerd.
Beschikbaarheid en meer
NVIDIA kondigde ook het NVIDIA DGX B200-systeem aan, een fundamenteel verenigd AI-supercomputerplatform dat wereldwijd in alle sectoren wordt gebruikt.
NVIDIA’s DGX SuperPOD met GB200 Superchips belooft de vooruitgang in generatieve AI te versnellen. Van de ontwikkeling van geneesmiddelen tot wetenschappelijke simulaties en het creëren van inhoud: de potentiële toepassingen van deze technologie beloven industrieën opnieuw vorm te geven.
NVIDIA’s AI-reis
NVIDIA’s DGX SuperPOD met GB200 Superchips vertegenwoordigt een belangrijke mijlpaal in de de voortdurende AI-reis van het bedrijf.
NVIDIA heeft consequent de grenzen getest van wat mogelijk is op het gebied van supercomputing, het stimuleren van innovatie in een breed spectrum van industrieën. De mogelijkheden die dit nieuwste systeem biedt, maken de weg vrij voor nog meer transformatieve doorbraken op het opwindende gebied van generatieve AI.
NVIDIA DGX SuperPOD met DGX GB200- en DGX B200-systemen zijn dat wel zal naar verwachting later dit jaar beschikbaar zijn bij de wereldwijde partners van NVIDIA.
Uitgelicht beeldtegoed: Kerem Gülen/DALL-E 3.
