Nieuwe implementatiegids op basis van onderzoek van Vertiv en STL Partners helpt organisaties hun AI-archetypen te bepalen en vast te stellen waar de ondersteunende infrastructuur het beste kan worden ingezet
Workloadgerichte aanpak koppelt bedrijfsdoelstellingen aan passende infrastructuurmodellen en referentieontwerpen om implementatierisico’s te beperken
Vertiv (NYSE: VRT), een wereldwijde leverancier van kritieke digitale infrastructuur, en het Deloitte Center for Integrated Research kondigen een samenwerking aan. Die helpt organisaties een belangrijke uitdaging aan te pakken wanneer zij AI van experiment naar productie brengen. Het gaat om de vraag waar AI-workloads het beste draaien en of de beschikbare fysieke infrastructuur ze kan ondersteunen.
De nieuwe Vertiv Designing Infrastructure for Enterprise AI Guide, ontwikkeld door Vertiv en STL Partners, een onderzoeksbureau voor digitale infrastructuur, biedt leidinggevenden in business, IT en facilities een workloadgebaseerd raamwerk om deze beslissingen te nemen voordat zij een infrastructuurplan vastleggen. Vanuit de beoogde bedrijfsdoelstelling en AI-workload kunnen organisaties de implementatielocatie, infrastructuurvereisten en de gereedheid van hun faciliteiten beoordelen. Vervolgens kunnen zij elke workload koppelen aan een passend fysiek infrastructuurmodel en referentieontwerp voor verdere planning en technische validatie.
Het onderzoek achter de gids wijst op een cruciaal aandachtspunt nu organisaties AI-workloads langdurig in productie nemen. De gereedheid van de infrastructuur kan bepalen waar workloads kunnen worden ingezet en hoe snel ze in productie kunnen gaan. Beschikbare stroom, koeling, connectiviteit en operationele capaciteit kunnen bepalen of een bestaande faciliteit een workload kan ondersteunen of dat daarvoor een ander implementatiemodel nodig is.
De gids vertaalt deze overwegingen naar een proces in vier stappen: (1) het definiëren van het beoogde bedrijfsresultaat en de AI-workload, (2) het beoordelen van de schaal, prestaties en operationele vereisten van de workload, (3) het bepalen van de meest geschikte implementatielocatie en (4) het koppelen van de workload en locatie aan een passend fysiek infrastructuurmodel en referentieontwerp.
”De volgende fase van enterprise AI wordt niet alleen bepaald door modellen en rekenkracht, maar ook door de vraag of organisaties kunnen voorzien in de stroom, koeling, connectiviteit en operationele omgeving die elke workload nodig heeft”, zegt Giordano Albertazzi, CEO van Vertiv. ”Door bij de workload te beginnen, kunnen organisaties infrastructuurbeslissingen eerder nemen, beperkingen sneller signaleren en een geloofwaardiger pad uitstippelen van AI-ambitie naar productie.”
”De economische en operationele vereisten van AI veranderen zodra workloads de stap naar productie maken”, zegt Nicholas Merizzi, Principal en Silicon2Service U.S. Lead bij Deloitte Consulting LLP. ”Organisaties moeten bedrijfswaarde, governance, operationele eigenaarschap en infrastructuur in samenhang beoordelen. Door deze vragen al vroeg in het planningsproces mee te nemen, kunnen besluitvormers beter bepalen waar AI-workloads het beste passen en hoe zij deze op lange termijn ondersteunen.”
Het proces erkent dat enterprise AI bestaat uit een portfolio van verschillende workloads en niet uit één enkele infrastructuurkeuze. Verkennende workloads kunnen in de cloud blijven, terwijl langdurige of bedrijfskritische workloads de voorkeur kunnen geven aan hybride infrastructuur of capaciteit die de organisatie zelf beheert. Workloads die snellere responstijden, meer controle, nabijheid van data of specifieke modelprestaties vereisen, kunnen mogelijk op de edge of in een andere gecontroleerde omgeving moeten draaien.
Met deze workloadgerichte aanpak biedt de gids ruimte voor verschillende implementatiemodellen, waaronder publieke cloud, colocatie, eigen infrastructuur, hybride omgevingen en edge-infrastructuur. In plaats van een generiek advies voor of tegen cloudgebruik, biedt de gids een consistente manier om voor iedere AI-workload de meest geschikte operationele omgeving te bepalen.
Het onderzoek verdeelt AI-workloads in zes archetypen, die betrekking hebben op modelontwikkeling, modelhertraining en vier categorieën van productiegebruik. Deze archetypen helpen organisaties workloads met vergelijkbare prestatie-, operationele en infrastructuurvereisten te identificeren, waardoor zij consistenter kunnen plannen. Vervolgens kunnen workloads worden gekoppeld aan een van vier fysieke infrastructuurmodellen: Edge AI Cluster, Small AI Cluster, Large AI Cluster en High-Density AI Cluster.
De vier modellen bieden een uitgangspunt voor beslissingen over stroom, koeling, regelsystemen, connectiviteit, veerkracht, operationele ondersteuning en toekomstige groei. De bijbehorende referentieontwerpen kunnen vervolgens worden aangepast op basis van locatiebeoordeling, workloadvereisten en gedetailleerde engineering.
Gereedheid van de faciliteit is cruciaal voor alle vier de modellen. De gids helpt organisaties beoordelen of een beoogde locatie beschikt over voldoende stroomcapaciteit, koeling, connectiviteit, operationele capaciteit en ruimte voor groei. Een vroege beoordeling kan helpen infrastructurele knelpunten te signaleren voordat deze de implementatie belemmeren.
De volledige gids, Designing Infrastructure for Enterprise AI, beschrijft de zes workloadarchetypen, de vier fysieke infrastructuurmodellen en een routekaart in vier fasen voor het plannen, implementeren en doorontwikkelen van enterprise AI-infrastructuur. De gids is beschikbaar op Vertiv.com.
Meer lezen
