Straks tot 250.000 gpu’s in de haven
De Rotterdamse AI Gigafabriek, een grote rekencapaciteit voor ai in bedrijfskritische toepassingen, krijgt steeds duidelijker contouren. Zo maakte initiatiefnemer Volt bekend dat Dell Technologies en NorthC Datacenters belangrijke, nieuwe partners zijn geworden. Eneco was dat al.
Ondernemer Han de Groot maakt belangrijke stappen om zijn droom te realiseren: een Europese infrastructuur uit de grond te stampen, een alternatief waarbij data, ai-modellen en bedrijfskritische ai-workloads onder strikte eigen controle blijven en alles voldoet aan Europese wet- en regelgeving. Zijn bedrijf Volt, dat de status heeft van ‘official AI Gigafactory partner’ van Nvidia, gaat voortvarend te werk. De Groot doet dat vooralsnog zonder financiële steun van het kabinet.
Hij geeft een nadere toelichting op zijn plannen: eerst komt er een Amsterdamse AI Factory, verdeeld over AMS1 (tot 2,4 MW IT) en AMS2 (tot 5 MW IT) van NorthC. Daarna begint het grotere werk; de Rotterdamse AI Gigafactory (tot 600 MW IT) in de buurt van het hoogspanningsstation in de Prinses Amaliahaven op de Maasvlakte. Het totale investeringsvolume voor deze gigafabriek is niet misselijk.
Campussen
Met 6 ai-datacentergebouwen van ieder 100 MW IT op de AI Gigafactory campus, bedragen de kosten van ieder ai-datacentergebouw ongeveer 1,2 miljard euro, dus 7,2 miljard euro voor de gehele campus. Hierbij komt de ai-infrastructuur, die ongeveer 2,5 miljard euro per gebouw bedraagt. Volts AI Factory AMS1 in Amsterdam gaat live per 1 oktober aanstaande. Dell zet daar servers neer op basis van gpu-architectuur alsmede networking en opslag, terwijl NorthC de hosting doet. Begonnen wordt met ruim duizend gpu’s (Nvidia B300 equivalenten). In de eerste fase heeft Volt capaciteit voor 2500 gpu’s. In de AI Gigafabriek in de Rotterdamse haven kan het bedrijf straks bij succes opschalen naar maximaal 250.000 gpu’s.
Volt verhuurt de eerste 64 B300 gpu’s via online gpu-marktplaatsen op spot- en op maandcontractbasis. De Groot: ‘We zijn in gesprek met Nederlandse klanten, zoals CM.com, twee financiële instellingen en een ai scale-up.’
Ambitieus
De Groot heeft hoge verwachtingen qua uptime, latency en performance. Vergeleken met hyperscalers worden zelfs betere prestaties voorzien. Daar moet de laatste generatie B300-chips voor zorgen; vanuit baremetal, VM (virtual machine) of managed Kubernetes gecombineerd met 800GB/s gpu-cluster connectivity and full flash NVME scratch en RDMA connected storage. Om de latency (response-tijd) te bekorten is AMS1 verbonden via dedicated links met AMS-IX, NL-IX en verschillende transit providers.
De Groot acht de ambitie van 250.000 gpu’s in Rotterdam zeker haalbaar. De Europese enterprise-vraag zal naar verwachting de komende jaren fors toenemen. Marktvorser Gartner voorspelt dat de ai-cloudmarkt groeit naar driehonderd miljard euro in 2029. De Groot: ‘Wij zien ruimte voor een Europese aanbieder, die zowel eigen datacenter-infrastructuur als de ai-compute-stack in eigendom en beheer heeft. Daarin zijn we vooralsnog uniek.’
Soevereiniteit
De initiatiefnemer achter dit soevereine project legt ook uit wat ‘onder Nederlandse regie’ moet worden verstaan: onder Nederlandse/Europese governance valt alles, van de datacenter-laag tot en met de volledige ‘ai-infra’ en ‘model as a service’. Volt exploiteert en beheert en is eigenaar van het datacenter, de ai-infra, de orchestratie-laag en de api’s die de modellen serveren.
En dan de vraag hoe Volt garandeert dat data en workloads juridisch binnen de EU blijven. Hiervoor zorgt een combinatie van locatie-garantie, eigenaarschap, beheer en contractuele afspraken. De omgeving wordt zo ingericht dat klanten controle houden over waar data wordt opgeslagen, aldus De Groot.
Ai‑modellen en datasets worden ook beschermd tegen extraterritoriale wetgeving zoals de Amerikaanse Cloud Act. Volgens De Groot is Volt als Nederlandse BV volledig in controle over de gehele stack, inclusief netwerk. Hij zegt: ‘Daarmee controleren we en blokkeren we call home functionaliteit van apparaten, servers, storage, software en dergelijke. We volgen een opensource-tenzij-beleid. Daarmee is er geen bereik naar data en modellen die op de Volt-infra staan en draaien. De volledige operatie draait vanuit Nederland. Voor de Volt-ai-diensten wordt geen gebruik gemaakt van saas buiten Volt om.’
De Noordzee
De Groot wil de prijzen voor gpu-as-a-service onder die van concurrenten als AWS, Google Cloud, Azure en Europese alternatieven brengen. Meerdere consumptiemodellen worden geboden. Commercieel is het plaatje vrij helder. Volt wil zich onderscheiden door ai-rekenkracht aan te bieden tegen voorspelbare kosten en met maximale controle over data, modellen en ai-workloads. Voor de realisatie van dit ambitieuze project is echter nog zeer veel financiering nodig.
Cruciaal voor een competitieve Nederlandse ai-infrastructuur is duurzame energie uit de Noordzee. De Groot spreekt van power-to-compute, het omzetten van vooral windenergie in ai-rekenkracht. Netcongestie in Rotterdam valt te voorkomen.
De Groot: ‘Door de energie direct te consumeren van wind-op-zee stroom die in de haven van Rotterdam aanlandt, voorkomen we dat landinwaarts congestie ontstaat. Als het niet waait, maken we gebruik van het hoogspanningsnetwerk van TenneT waar we niemand in de weg zitten.’
Aanbod
Het verdienmodel bestaat uit ‘betaling‑per‑gpu‑uur’, gereserveerde capaciteit en beheerde ai-infra:
● Volt levert zowel private als gedeelde ai-clusters. Gedeelde clusters kunnen desgewenst volledig worden geïsoleerd op netwerk-, opslag- en gpu-niveau. Organisaties beschikken zo over een logisch gescheiden en beveiligde ai-omgeving;
● Klanten kunnen kiezen uit verschillende implementatiemodellen, waaronder bare metal, virtuele machines en volledig beheerde Kubernetes-omgevingen. Ze kunnen ook eigenaar worden van hun ai-infrastructuur;
● Ai-rekenkracht is beschikbaar als gpu-as-a-service (afrekening per gpu-uur), als gereserveerde gpu-capaciteit tegen een vast maandbedrag of als model-as-a-service via onder meer Hugging Face, Nvidia NIM of een eigen model (‘Bring Your Own Model’),
waarbij afrekening ook op basis van tokens mogelijk is;
● Daarnaast levert Volt volledig beheerde ai-infrastructuur- en beheerdiensten, inclusief installatie, beheer, monitoring, beveiliging, software-updates en ondersteuning.
Zonder geld van het kabinet/overheid is dat van Han de Groot om überhaupt al zo ver te komen een fantastisch mooie prestatie. Dan moet er straks ook gewoon geld verdiend gaan worden en stijgt de slagingskans dramatisch. Maar hopen dat het door de overheid niet alsnog jaren gaat duren.