De opmars van generatieve artificiële intelligentie (gen-ai) heeft veel impact op de datacentermarkt. De grote hyperscalers investeren miljarden in hoogcapaciteit datacenters en binnenkort stappen kleinere partijen in. Zij willen de boot niet missen. Analisten zijn verrast door deze plotse ‘fear of missing out’ (fomo) en zien modulaire datacenters als oplossing, hoort Computable tijdens een event van datacenterinrichter Vertiv in Zagreb.
Vertiv organiseerde kortgeleden in de Kroatische hoofdstad een bijeenkomst over de toekomst van datacenters. Een van de sprekers was Vlad Galabov van marktonderzoeksbureau Omdia, het vroegere Informa en Ovum. Ook hij zegt verrast te zijn door de enorme vlucht die artificiële intelligence (ai)-investeringen de afgelopen tijd hebben genomen.
Een typisch gevalletje van fomo, noemt Galabov de drang in de markt om te investeren in ai-toepassingen. Sinds de introductie van ChatGPT, eind 2022, storten bedrijven zich massaal op de generatieve kunstmatige intelligentie om maar niet de boot te missen. Zó plots en zó massaal, dat zagen zelfs de marktanalisten niet aankomen.
Aanbieders van datacenters en clouddiensten moeten de laatste tijd enorm schakelen om de opmars van ai te faciliteren. Grote namen als Microsoft, Meta, Google en Amazon zijn er het verst mee. Het geld dat zij besteden aan zulke ‘high density-infrastructuur’, in 2023 zo’n dertig miljard dollar, neemt toe ten koste van investeringen in reguliere cloudinfrastructuur. Leveranciers van gangbare datacenterhardware, zoals HP en Dell, zouden hierdoor miljarden mislopen.
Rekenkracht
Vooral de rekenkracht is de uitdaging bij generatieve ai, legt Galabov uit. Ai en het daaraan ten grondslag liggende large language modelling (llm) is volgens hem alleen mogelijk met behulp van servers met superkrachtige processoren. Daarvan is Nvidia momenteel de belangrijkste fabrikant. De fysieke datacenterruimte is bovendien beperkt en dus zullen meer en krachtigere servers per rack de standaard worden. Dit heeft gevolgen voor de stroomvoorziening, de koeling en de daarmee samenhangende investeringen.
Komend jaar stappen ook kleinere datacenteraanbieders en clouddienstverleners in deze nieuwe infrastructuur, verwacht de analist. Veel van hen beginnen met een periode waarin ze nieuwe technieken uitproberen voor het dichtbij elkaar in hetzelfde rack plaatsen van meerdere krachtige servers. Voor de aankomende generatie ai-modellen voorspelt Galabov dat servers per rack een gezamenlijk vermogen tot 100kW vergen. De afgelopen paar jaar, waarin vooral hyperscalers grote stappen zetten, ging het om maximaal 30kW per rack. Over het algemeen hebben racks een vermogen tussen de 5 en 20kW.
Server racks met een hoge dichtheid vereisen andere stroom- en koelvoorzieningen dan conventionele racks. Zo zal de gangbare luchtkoeling niet afdoende zijn en moet worden uitgeweken naar een combinatie met op water gebaseerde koeltechnieken (liquid cooling). Dat is een ingrijpende en tamelijk kostbare aanpassing op huidige datacenterlocaties. En dat terwijl haast is geboden. In de ai-markt is het belangrijk om snel marktaandeel te verwerven, vertelt Galabov.
Om snel te kunnen schakelen, kiezen datacenteraanbieders voor modulaire uitbreidingen die in de fabriek worden ingericht
Modulair
Om snel te kunnen schakelen, kiezen datacenteraanbieders vaker voor modulaire uitbreidingen die in de fabriek worden ingericht. Deze zogeheten prefab modulaire datacentertechnologie bestaat al langer, maar wordt volgens de analist de komende jaren relevanter, nu meer organisaties hun infrastructuur klaarstomen voor generatieve ai. In 2027 zou ongeveer zeven procent van de datacenterinvesteringen in prefab modules gaan zitten. Het gaat dan om een slordige zeven miljard dollar, waar dat over 2023 nog vier miljard bedraagt, vertelt hij.
Modulaire datacenters lijken op groot uitgevallen zeecontainers, meestal een stalen frame met isolerende en brandwerende wanden. Niet elke wand hoeft te worden geplaatst, waardoor je meerdere modules naast of achter elkaar kunt zetten en een grote ruimte ontstaat. Ze worden onder meer aangeboden door leveranciers als Huawei, Johnson Controls, Schneider Electric, Vertiv en ZTE. Computable bezocht in Zagreb een fabriek waar prefab modulaire datacenters worden vervaardigd.
Er bestaan diverse soorten modules, zoals voor rijen server racks en gangpaden, stroomvoorziening, koeltechniek (lucht/water) en brandvertraging. Meestal gaat het om combinaties daarvan. Je kunt modules zelfs op elkaar plaatsen, om datacentercapaciteit uit te breiden op een klein grondoppervlak. De gecombineerde modules worden in de fabriek ingericht en getest, vervolgens per module slim losgekoppeld en op vrachtwagens geladen voor transport naar de locatie van de klant: meestal naast of in een bestaand datacenter of als losstaand edge datacenter nabij de eindgebruiker.
Voordelen
Aan prefab modulaire datacenters zijn meer voordelen verbonden dan enkel de snelheid van plaatsing en de schaalbaarheid. Zo kun je de datacentercapaciteit vergroten zonder onderbreking van de bestaande dienstverlening en minimaliseer je kwaliteits- en leveringsrisico’s. De modules worden immers in een gecontroleerde fabrieksomgeving samengesteld. Bovendien maakt de technologie het voor kleinere aanbieders mogelijk om relatief snel gebruik te maken van datacenter-innovatie van de hyperscalers. Fabrikanten experimenteren ook met duurzame constructies. Zo ontwikkelde Vertiv een module met houten frames en wanden. Deze zou net zo stevig en brandveilig zijn als de huidige modules.
Generatieve ai zet de wereld op zijn kop. Er zijn weinig ondernemingen die er niets mee gaan doen. De angst om de boot te missen is zo groot, dat vrijwel iedereen de komende jaren instapt, is de verwachting. Om dit mogelijk te maken moet de markt volgens analisten nieuwe datacentertechnologie omarmen. Er is een rol weggelegd voor modulaire componenten die je relatief snel en gecontroleerd toevoegt aan bestaande datacentercapaciteit of aan de edge. Maar de ai-ontwikkelingen gaan zo snel, dat we ons graag laten verrassen door de fomo in de markt.
Consortium
Ook in Nederland zien partijen de voordelen van modulair opgebouwde datacenters. Een consortium van zeven Nederlandse organisaties, waaronder Eurofiber, TNO en Universiteit Twente, gaat met deze nieuwe techniek experimenteren voor edge computing. Door de rekenkracht dicht bij eindgebruikers te zetten verkorten de responstijden en verlopen de processen duurzamer, is het idee. Het project loopt van 2024 tot 2029 en ontvangt subsidie van de overheid.
