Supermicro heeft aangekondigd dat het zijn productie- en vloeistofkoelingscapaciteiten uitbreidt, in samenwerking met NVIDIA. Het doel is om als eerste op de markt geoptimaliseerde oplossingen op datacenterschaal te leveren voor de NVIDIA Vera Rubin- en Rubin-platforms.
Door gebruik te maken van de versnelde ontwikkeling en samenwerking met NVIDIA, bevindt Supermicro zich in een unieke positie voor een snelle implementatie van de vlaggenschipmodellen NVIDIA Vera Rubin NVL72 en NVIDIA HGX™ Rubin NVL8. De bewezen Data Center Building Block Solutions (DCBBS)-aanpak van Supermicro zorgt voor een gestroomlijnde productie, uitgebreide aanpassingsmogelijkheden en een snellere implementatie, wat klanten een doorslaggevend concurrentievoordeel geeft in de AI-infrastructuur van de volgende generatie.
“Dankzij de langdurige samenwerking tussen Supermicro en NVIDIA en onze flexibele building block oplossingen kunnen we de meest geavanceerde AI-platforms sneller dan anderen op de markt brengen,” aldus Charles Liang, president en CEO van Supermicro. “Met onze uitgebreide productie en toonaangevende expertise op het gebied van vloeistofkoeling kunnen hyperscalers en ondernemingen nu de infrastructuur van NVIDIA Vera Rubin- en Rubin-platforms met een ongeëvenaarde snelheid, efficiëntie en betrouwbaarheid op schaal inzetten.”
Belangrijkste producten:
– NVIDIA Vera Rubin NVL72 SuperCluster: het toonaangevende rack-scale systeem verenigt 72 NVIDIA Rubin GPU’s en 36 NVIDIA Vera CPU’s, NVIDIA ConnectX®-9 SuperNIC’s en NVIDIA BlueField®-4 DPU’s in een coherent platform met NVIDIA NVLink 6. De toevoeging van NVIDIA Quantum-X800 InfiniBand en NVIDIA Spectrum-X Ethernet geeft een nieuwe boost aan de industriële revolutie met AI. Het systeem levert 3,6 exaflops NVFP4-prestaties, 1,4 PB/s HBM4-bandbreedte en 75 TB snel geheugen. Supermicro’s implementatie is gebaseerd op de 3e generatie NVIDIA MGX-rackarchitectuur voor superieure bruikbaarheid, betrouwbaarheid en beschikbaarheid en omvat een verbeterde technologie voor vloeistofkoeling op datacenterniveau met in-row Coolant Distribution Units (CDU’s). De hiermee verkregen schaalbare warmwaterkoeling zorgt voor minimaal energie-en waterverbruik en een maximale dichtheid en efficiëntie.
– 2U-vloeistofgekoelde NVIDIA HGX Rubin NVL8-systemen: dit compacte 8-GPU-systeem is geoptimaliseerd voor AI- en HPC-workloads en levert ondernemingen baanbrekende prestaties en efficiëntie voor intelligentie op schaal. Het biedt 400 petaflops NVFP4, 176 TB/s HBM4-bandbreedte, 28,8 TB/s NVLink bandbreedte en 1600 Gb/s NVIDIA ConnectX-9 networking SuperNICs. Supermicro levert ontwerp op rackschaal met een maximale inzetflexibiliteit en configuratie-opties die vlaggenschip x86 CPU’s ondersteunen, zoals de volgende generatie Intel® Xeon® of AMD EPYC™ processoren. Beschikbare opties zijn onder andere een 2U busbar-ontwerp met hoge dichtheid voor optimale rackintegratie met de toonaangevende geavanceerde Direct Liquid Cooling (DLC)-technologie van Supermicro.
De belangrijkste functies van het NVIDIA Vera Rubin-platform zijn onder andere:
– NVIDIA NVLink™ 6: Snelle interconnecties die ongekende GPU-naar-GPU en CPU-naar-GPU-communicatie mogelijk maken voor het trainen en infereren van omvangrijke mixture-of-experts modellen.
– NVIDIA Vera CPU: Door NVIDIA ontworpen aangepaste Arm-kernen leveren 2x betere
prestaties dan de vorige generatie, met ruimtelijke multithreading (88 kernen/176 threads), 1,2 TB/s LPDDR5X-geheugenbandbreedte met 3x meer capaciteit en 1,8 TB/s NVLink-C2C-bandbreedte naar GPU’s (2x meer dan voorheen).
– Transformer engine van de 3e generatie: Geoptimaliseerde versnelling voor het verwerken van long-context workloads, narrow-precision berekeningen die cruciaal zijn voor het schalen van moderne AI workloads.
– Confidential computing van de 3e generatie: Levert vertrouwelijk gegevensverwerking op rackschaal met een uniforme vertrouwde uitvoeringsomgeving op GPU-niveau die modellen, gegevens en prompts beschermt en isoleert.
– RAS engine van de 2e generatie: Geavanceerde functies voor betrouwbaarheid, beschikbaarheid en onderhoud, waaronder realtime gezondheidscontroles zonder downtime.
Bovendien profiteert het NVIDIA Vera Rubin-platform van het onlangs aangekondigde NVIDIA Spectrum-X Ethernet Photonics-netwerk. Dit is gebaseerd op de Spectrum-6 Ethernet ASIC (102,4 Tb/s switching op TSMC 3nm met 200G SerDes co-packaged optics en volledig gedeelde buffers). Het netwerk levert 5x energie-efficiëntie, 10x betrouwbaarheid en 5x applicatie-uptime in vergelijking met traditionele insteekbare optiek. Tot de beschikbare modellen behoren de vloeistofgekoelde SN6800 (409,6 Tb/s CPO, 512x 800G-poorten), SN6810 (102,4 Tb/s CPO, 128x 800G-poorten) en SN6600 (insteekbaar, 128x 800G-poorten, lucht-/vloeistofgekoeld). Dit wordt aangevuld door op Supermicro gebaseerde opslagoplossingen die gebruik maken van de Petascale all-flash opslagserver en het JBOF-systeem dat de NVIDIA BlueField -4 DPU ondersteunt en verschillende gegevensbeheeroplossingen levert.
De strategische investeringen van Supermicro in uitgebreide productiefaciliteiten en een uitgebreide end-to-end vloeistofkoelingstechnologiestack zijn speciaal ontworpen om de productie en inzet van volledig vloeistofgekoelde NVIDIA Vera Rubin- en Rubin-platforms te stroomlijnen. In combinatie met de modulaire DCBBS-architectuur versnellen deze mogelijkheden de implementatie en time-to-online door het leveren van snelle configuratie, grondige validatie en naadloze schaalbaarheid van platforms met hoge dichtheid, zodat klanten als eerste op de markt kunnen komen.
Meer lezen
