NVIDIA Blackwell Platform introduceert B200 en GB200 AI GPU’s

Grote veranderingen komen vaak voort uit grote ideeën. Dat is waar het NVIDIA Blackwell-platform met B200 en GB200 AI GPU’s in beeld komt: een baanbrekende innovatie op het gebied van AI-computing die de manier waarop dingen werken zal transformeren.

AI GPU’s, of grafische verwerkingseenheden voor kunstmatige intelligentie, zijn speciale chips die computers helpen dingen sneller te leren en te beslissen. Ze zijn als supercharged hersenen voor AI-taken. In tegenstelling tot reguliere GPU’s (grafische verwerkingseenheden) die algemene taken uitvoeren zoals gamen en video’s, richten AI GPU’s zich alleen op AI-zaken. Ze zijn gebouwd om de complexe wiskunde uit te voeren die nodig is voor het trainen en uitvoeren van AI-modellen.

Het doel van het Blackwell-platform? Zoals u kunt raden, om AI-taken te versnellen en tegelijkertijd energie en geld te besparen. Volgens de verklaring van het bedrijf is deze chipset 30 keer krachtiger dan de H100 en even efficiënt.

Maak kennis met het NVIDIA Blackwell Platform, de noodzakelijke krachtpatser voor AI

Het Blackwell Platform is een baanbrekende vooruitgang op het gebied van kunstmatige intelligentie (AI), ontwikkeld door NVIDIA. Het omvat een reeks geavanceerde technologieën en hardware-innovaties die gericht zijn op het versnellen van AI-training en inferentietaken, terwijl tegelijkertijd de energie-efficiëntie wordt verbeterd en de kosten worden verlaagd. Genoemd ter ere van wiskundige DavidHarold Blackwellis het Blackwell-platform ontworpen om de creatie en implementatie van AI-modellen op biljoenen parameters in realtime te vergemakkelijken.

Amazon Web Services, Dell Technologies, Google, Meta, Microsoft, OpenAI, Oracle, Tesla en xAI zijn slechts enkele van de technologiegiganten die naar verwachting binnenkort Blackwell zullen adopteren.

“Blackwell biedt enorme prestatieverbeteringen en zal ons vermogen om toonaangevende modellen te leveren versnellen. We zijn verheugd om met NVIDIA te blijven samenwerken om de AI-computing te verbeteren.”

-Sam Altman, CEO van OpenAI

Maar wat maakt het speciaal? Dit zijn de belangrijkste componenten van het Blackwell-platform:

• Blackwell GPU-architectuur: Met zes transformatieve technologieën, waaronder ’s werelds krachtigste chip, transformatormotor van de tweede generatie, NVLink van de vijfde generatie, RAS-engine, veilige AI-mogelijkheden en een speciale decompressie-engine.
• B200 Blackwell-GPU: De B200 Blackwell GPU is een fundamenteel onderdeel van het Blackwell-platform en biedt uitzonderlijke AI-inferentieprestaties. Met maar liefst 208 miljard transistors en gebouwd op het geavanceerde TSMC N4P-gieterijknooppunt, levert de B200 GPU ongeëvenaarde rekenkracht. Het beschikt over een aangepaste interconnect voor snelle communicatie en ondersteunt geavanceerde AI-inferentiemogelijkheden, waaronder 4-bit floating-point-bewerkingen.
• GB200 Grace Blackwell-superchip: Deze superchip combineert twee Blackwell GPU’s met een NVIDIA Grace CPU en biedt superieure seriële verwerkingsprestaties die zijn geoptimaliseerd voor AI-workloads. Het biedt interconnectiviteit met hoge bandbreedte tussen GPU’s en CPU’s, waardoor naadloze communicatie en efficiënte gegevensverwerking mogelijk is.

• NVIDIA Quantum-X800 InfiniBand- en Spectrum-X800 Ethernet-platforms: Geavanceerde netwerkoplossingen die de Blackwell GPU’s aanvullen en snelle connectiviteit en schaalbaarheid bieden voor grootschalige AI-implementaties.
• Software-ondersteuning: Het Blackwell-platform wordt ondersteund door NVIDIA AI Enterprise, een end-to-end besturingssysteem voor AI op productieniveau. Het omvat NVIDIA NIM-inferentiemicroservices, AI-frameworks, bibliotheken en tools voor de implementatie van AI-oplossingen in cloud-, datacenter- en werkstationomgevingen.

Over het geheel genomen vertegenwoordigt het Blackwell Platform een ​​aanzienlijke sprong voorwaarts in AI-computing en biedt het ongekende prestaties, energie-efficiëntie en schaalbaarheid. Het staat klaar om een ​​revolutie teweeg te brengen in verschillende industrieën door organisaties in staat te stellen geavanceerde AI-modellen op schaal te bouwen en in te zetten, innovatie te stimuleren en nieuwe mogelijkheden voor transformatieve doorbraken te ontsluiten. Maar om de kracht ervan te begrijpen, moet je de AI GPU’s beter begrijpen.

Wat is de B200 Blackwell GPU?

De B200 Blackwell GPU is een geavanceerd onderdeel van NVIDIA’s Blackwell Platform, speciaal ontworpen om uit te blinken in kunstmatige intelligentie (AI) inferentietaken. Het vertegenwoordigt een sprong voorwaarts in AI-computertechnologie en biedt opmerkelijke prestaties en efficiëntie zonder concessies te doen aan de kwaliteit.

Dit is wat u moet weten over de B200 Blackwell GPU:

• Indrukwekkende rekenkracht: Uitgerust met maar liefst 208 miljard transistors beschikt de B200 GPU over een enorme rekenkracht, waardoor een snelle en nauwkeurige verwerking van complexe AI-workloads wordt gegarandeerd.
• Geavanceerd productieproces: Gebouwd met behulp van het geavanceerde TSMC N4P-gieterijknooppunt, maakt de B200 GPU gebruik van de nieuwste halfgeleiderproductietechnieken om de prestaties en energie-efficiëntie te optimaliseren.
• Efficiënte interconnectiviteit: De B200 GPU beschikt over een speciaal ontworpen verbindingsmechanisme, dat snelle gegevensoverdracht tussen GPU’s en andere systeemcomponenten mogelijk maakt. Dit efficiënte communicatiesysteem verbetert de algehele systeemprestaties.
• Optimalisatie van AI-inferentie: De B200 GPU is gemaakt om uit te blinken in AI-inferentietaken en ondersteunt geavanceerde mogelijkheden zoals 4-bit drijvende-kommabewerkingen. Deze optimalisatie zorgt voor een efficiënte verwerking van AI-modellen, minimaliseert het energieverbruik en levert uitzonderlijke resultaten op.
• Integratie met Blackwell-platform: Als integraal onderdeel van het Blackwell Platform kan de B200 GPU naadloos worden geïntegreerd met andere componenten zoals de GB200 Grace Blackwell Superchip en geavanceerde netwerkoplossingen. Deze samenhangende integratie maximaliseert de prestaties en schaalbaarheid op het hele platform.

Wat is de GB200 Blackwell GPU?

De GB200 Blackwell GPU vormt een hoeksteen binnen NVIDIA’s Blackwell Platform, ontworpen om het gebied van kunstmatige intelligentie (AI) aanzienlijk vooruit te helpen. Deze GPU vertegenwoordigt een opmerkelijke evolutie in de AI-verwerkingsmogelijkheden, vooral op het gebied van training en gevolgtrekkingstaken, vanwege de verschillende kenmerken en functionaliteiten:

• Uitzonderlijke verwerkingskracht: Met een indrukwekkend aantal transistors van 208 miljard levert de GB200 GPU aanzienlijke rekenkracht, waardoor een snelle uitvoering van complexe AI-workloads mogelijk wordt.
• Innovatieve architectuur: De GB200 GPU is vervaardigd met behulp van het TSMC N4P-gieterijknooppunt en profiteert van de allernieuwste halfgeleiderproductietechnieken. Dit zorgt voor een optimaal evenwicht tussen prestaties en energie-efficiëntie, een cruciale overweging bij AI-computing.
• Efficiënte interconnectiviteit: De GB200 GPU is uitgerust met interconnectiviteitsmogelijkheden met hoge bandbreedte, waardoor naadloze communicatie tussen GPU’s en andere systeemcomponenten mogelijk wordt. Dit gestroomlijnde gegevensoverdrachtproces verbetert de algehele systeemprestaties en schaalbaarheid.
• Geavanceerde AI-mogelijkheden: Met ondersteuning voor drijvende-kommabewerkingen met dubbele precisie en andere geavanceerde AI-functionaliteiten is de GB200 GPU goed uitgerust om veeleisende AI-workloads effectief aan te kunnen. De flexibele architectuur stelt organisaties in staat om complexe AI-modellen efficiënt te trainen en in te zetten.ü
• Integratie binnen het Blackwell Platform: Als integraal onderdeel van het Blackwell Platform kan de GB200 GPU naadloos worden geïntegreerd met andere componenten, waardoor samenhangende prestaties en schaalbaarheid in het hele AI-ecosysteem worden gegarandeerd.

B200 versus GB200: wacht, wat is het verschil tussen beide?

GB200 en B200 behoren beide tot Nvidia’s nieuwe Blackwell-serie AI GPU’s, onthuld op GTC 2024, maar met een belangrijk verschil:

• B200: Dit is een standalone GPU, de grootste chip die momenteel mogelijk is met bestaande technologie. Het beschikt over 208 miljard transistors verdeeld over twee chiplets, 192 GB HBM3E-geheugen en 8 TB/s geheugenbandbreedte. De B200 is ideaal voor hoogwaardige AI-inferentie en training in datacenters.
• GB200: Dit is geen enkele GPU, maar een superchip die de B200 GPU combineert met een NVIDIA Grace CPU. De Grace CPU biedt superieure seriële verwerking vergeleken met traditionele x86 CPU’s en is geoptimaliseerd om te werken met Nvidia’s AI GPU’s. Deze combinatie is ontworpen voor scenario’s die zowel krachtige AI-verwerking als sterke centrale verwerkingsmogelijkheden vereisen.

Hier zijn alle details over de vergelijking van B200 en GB200:

Nu weet u alles wat u moet weten over de nieuwe AI GPU’s van NVIDIA! Blijf op de hoogte voor meer NVIDIA GTC 2024-nieuws.

Uitgelichte afbeelding: Kerem Gülen/DALL-E 3