Supermicro introduceert de nieuwe SuperCluster: een end-to-end AI-datacenteroplossing gebaseerd op het NVIDIA Blackwell-platform, ontworpen voor generative AI op een schaal van biljoenen parameters.
De SuperCluster vergroot het aantal NVIDIA HGX B200 8-GPU-systemen aanzienlijk binnen een vloeistofgekoeld rack, wat zorgt voor een hogere GPU-rekenkrachtdichtheid in vergelijking met de huidige vloeistofgekoelde NVIDIA HGX H100- en H200-gebaseerde SuperClusters van Supermicro. Tegelijkertijd breidt Supermicro zijn NVIDIA Hopper-portfolio uit om te voldoen aan de toenemende vraag naar versneld computergebruik voor zowel HPC-toepassingen als AI-oplossingen voor het bedrijfsleven.
“Supermicro heeft de expertise, de leveringssnelheid en de capaciteit om de grootste vloeistofgekoelde AI-datacenterprojecten ter wereld te implementeren. Onlangs zijn er 100.000 GPU’s geïmplementeerd, met medewerking van Supermicro en NVIDIA,” aldus Charles Liang, president en CEO van Supermicro. “Deze Supermicro SuperClusters verlagen de stroombehoefte dankzij DLC-efficiëntie. We hebben nu oplossingen die gebruik maken van het NVIDIA Blackwell-platform. Met onze Building Block-benadering kunnen we snel servers ontwerpen met NVIDIA HGX B200 8-GPU, die zowel vloeistofgekoeld als luchtgekoeld kunnen zijn. Onze SuperClusters bieden ongekende dichtheid, prestaties en efficiëntie en effenen het pad naar nog dichtere AI-computingoplossingen in de toekomst. De Supermicro clusters maken gebruik van directe vloeistofkoeling, wat resulteert in hogere prestaties, lager stroomverbruik voor het hele datacenter en lagere operationele kosten.”
Bewezen AI-prestaties op schaal: Supermicro NVIDIA HGX B200-systemen
De verbeterde schaalbare SuperCluster unit is gebaseerd op een rack-scale ontwerp met innovatieve verticale coolant distribution manifolds (CDM’s), die het mogelijk maken om meer computenodes in één rack te plaatsen. Nieuw ontwikkelde en efficiënte koudplaten en een geavanceerd slangontwerp verbeteren de efficiëntie van het vloeistofkoelsysteem verder. Voor grote implementaties is er ook een nieuwe in-row CDU-optie beschikbaar. Traditionele luchtgekoelde datacenters kunnen eveneens profiteren van de nieuwe NVIDIA HGX B200 8-GPU-systemen dankzij een nieuw luchtgekoeld systeemchassis.
De nieuwe Supermicro NVIDIA HGX B200 8-GPU-systemen bieden een reeks verbeteringen ten opzichte van de vorige generatie. Het nieuwe systeem bevat verbeteringen op het gebied van thermisch beheer en energievoorziening en biedt ondersteuning voor dual 500W Intel® Xeon® 6-processors (met DDR5 MRDIMMs op 8800 MT/s) of AMD EPYC™ 9005-serie processors. Een nieuw luchtgekoeld Supermicro NVIDIA HGX B200-systeem met een 10U-formaat heeft een opnieuw ontworpen chassis met meer thermische capaciteit om acht 1000W TDP Blackwell GPU’s te ondersteunen. Deze systemen zijn ontworpen met een 1:1 GPU-tot-NIC-verhouding en ondersteunen NVIDIA BlueField®-3 SuperNICs of NVIDIA ConnectX®-7 NICs voor schaalvergroting binnen een high-performance compute-fabric. Daarnaast stroomlijnen twee NVIDIA BlueField-3 data processing units (DPUs) per systeem de verwerking van data naar en van aangesloten high-performance AI-opslag.
Supermicro-oplossingen met NVIDIA GB200 Grace Blackwell Superchips
Supermicro biedt ook oplossingen voor alle NVIDIA GB200 Grace Blackwell Superchips, inclusief de onlangs aangekondigde NVIDIA GB200 NVL4 Superchip en de NVIDIA GB200 NVL72 single-rack exascale computer.
De serie NVIDIA MGX-ontwerpen van Supermicro ondersteunt de NVIDIA GB200 Grace Blackwell NVL4 Superchip. Deze superchip ontsluit de toekomst van geconvergeerde HPC en AI en levert revolutionaire prestaties door vier NVIDIA NVLink™-verbonden Blackwell GPU’s te combineren met twee NVIDIA Grace™ CPU’s via NVLink-C2C. De Superchip is compatibel met de vloeistofgekoelde NVIDIA MGX modulaire systemen van Supermicro. De prestaties voor wetenschappelijk rekenwerk, training van grafische neurale netwerken (GNN) en inferentietoepassingen zijn verdubbeld.
De NVIDIA GB200 NVL72 SuperCluster met Supermicro end-to-end vloeistofkoelingsoplossing levert een exascale supercomputer in één rack met SuperCloud Composer (SCC) software, met uitgebreide monitoring- en managementmogelijkheden voor vloeistofgekoelde datacenters. 72 NVIDIA Blackwell GPU’s en 36 NVIDIA Grace CPU’s zijn allemaal verbonden via NVIDIA NVLink van de vijfde generatie en NVLink Switch. Hierdoor werken ze effectief als één krachtige GPU met een enorme HBM3e-geheugenpool. Zo wordt 130TB/s aan totale GPU-communicatiebandbreedte met lage latency mogelijk gemaakt.
Versnelde computersystemen met NVIDIA H200 NVL
Supermicro’s 5U PCIe versnelde computersystemen zijn nu beschikbaar met NVIDIA H200 NVL. Dit is ideaal voor minder krachtige, luchtgekoelde enterprise rack-ontwerpen die flexibele configuraties vereisen en die versnelling leveren voor veel AI- en HPC-workloads, ongeacht de grootte. Met maximaal vier GPU’s verbonden via NVIDIA NVLink, een geheugencapaciteit van 1,5x en een bandbreedteverhoging van 1,2x met HBM3e, kan de NVIDIA H200 NVL LLM’s in een paar uur nauwkeurig afstellen. Dit levert 1,7 snellere LLM-inferentieprestaties op dan bij de vorige generatie. NVIDIA H200 NVL bevat ook een vijfjarig abonnement op NVIDIA AI Enterprise, een cloud-native softwareplatform voor het ontwikkelen en inzetten van productie-AI.
De 5U PCIe-versnelde computersystemen X14 en H14 van Supermicro ondersteunen maximaal twee 4-weg NVIDIA H200 NVL-systemen via NVLink-technologie, wat in totaal 8 GPU’s per systeem mogelijk maakt. Dit levert een GPU-tot-GPU-interconnectie van maximaal 900 GB/s op, met een gecombineerde pool van 564 GB HBM3e-geheugen per 4-GPU NVLink-domein. Het nieuwe PCIe-versnelde computersysteem kan tot 10 PCIe GPU’s ondersteunen en is nu ook uitgerust met de nieuwste Intel Xeon 6- of AMD EPYC 9005-serie processors, wat flexibele en veelzijdige opties biedt voor HPC- en AI-toepassingen.
Meer lezen
