Hoewel kunstmatige intelligentie (ai) een relatief nieuw vakgebied is, heeft de huidige mondiale situatie een vergrootglas gelegd op het rendement ervan. Modellen voor machine learning (ml) moeten hun waarde gaan tonen. Om dat te bereiken is een solide machine learning operations (ml-ops)-basis noodzakelijk.
Dit faciliteert een optimale samenwerking tussen data-, ontwikkel- en productieteams om machine learning (ml)-services op schaal te implementeren en te beheren.
Ml-modellen zijn statistische en wiskundige modellen om (voorspellende en beschrijvende) inzichten uit gegevens te halen, om die vervolgens te gebruiken om betere zakelijke beslissingen te nemen. Ml operations (ml-ops) voorziet vervolgens in een schaalbare en gecontroleerde manier om die ml-modellen in productieomgevingen te implementeren en te beheren. Of anders gezegd: ml-ops zorgt ervoor dat machine learning rendeert.
Sprong naar ai
Veel organisaties die de sprong naar ai hebben gemaakt, moeten de tastbare zakelijke vruchten daarvan nog plukken. Ze zien zich geconfronteerd met uitdagingen bij het implementeren van effectieve ml-modellen. Zo hebben ze te maken met:
- Een gebrek aan datawetenschappers;
- Gebrekkige communicatie tussen operationele teams en datawetenschap-teams, en onvoldoende bewustzijn in de organisatie dat deze samenwerking belangrijk is om waarde uit ai te halen;
- Ml-modellen die niet presteren zoals verwacht vanwege veranderende patronen in de data, bijvoorbeeld bij gebruikers- of consumentengegevens;
- Slecht begrip van de kenmerken en gevoeligheden van ml, resulterend in terechte bezorgdheid en vertragingen;
- Algehele onderschatting van wat er nodig is om een gestroomlijnde en risicovrije implementatie van modellen te garanderen.
Ml-ops helpt organisaties deze problemen op te lossen en de weg vrij te maken naar renderende ai- en ml-processen.
De vier pijlers van mlops
Een goed ontworpen ml-ops-systeem brengt datawetenschappers en devops (development operations)-experts samen en stroomlijnt alle stappen van een ml-model. Van training, implementatie, evaluatie en aanpassing, tot her-implementatie, buitengebruikstelling en gecontroleerde opslag.
Ml-ops overbrugt in feite de kloof tussen de datateams – die ml-modellen bouwen en trainen – en de operationele teams die verantwoordelijk zijn voor de operationele inzet van de services, waaronder steeds meer ml-services. De verbeterde samenwerking tussen deze teams verhoogt de kans dat ai succesvol ingezet wordt en ml tastbare bedrijfsresultaten oplevert.
Het ml-ops-proces kent vier kritieke pijlers om het niveau te bereiken dat nodig is voor impact:
- Implementatie van modellen
- Monitoring van modellen
- Beheer van de levenscyclus van een model
- Modelbeheer en regelgeving
Belang van implementatie
Om een nieuw ml-model operationeel te maken, moet het worden geïntegreerd in een it-omgeving die misschien voor iets heel anders is ontworpen. Vaak leidt dit tot verlies van stabiliteit en het vermogen om het model te schalen, waardoor de effectiviteit afneemt.
Ml-ops vereenvoudigt de integratie van ml-modellen met bestaande bedrijfssystemen door de overgang tussen modelontwikkeling en -implementatie te stroomlijnen. Het elimineert de wrijving die verschillende platforms of talen kunnen veroorzaken en stelt datawetenschappers in staat hun modellen in te pluggen en snel schone, consistente en herhaalbare resultaten te zien.
Modellen monitoren
Het is essentieel dat een organisatie de prestaties van al haar modellen tijdens de operationele levensduur nauwlettend in de gaten houdt. Zo kunnen eventuele wijzigingen of verslechteringen van de prestaties zo vroeg mogelijk worden geïdentificeerd en geprioriteerd, zodat zakelijke of bedrijfskritische risico’s worden vermeden.
Effectieve monitoring is essentieel voor het waarborgen van bedrijfscontinuïteit. Daarvoor worden geavanceerde controlemogelijkheden gebruikt die verder gaan dan het bijhouden van de gebruikelijke prestaties. Het omvat bijvoorbeeld ook principes zoals een ‘ingebouwde bescheidenheid’ in ai, waarbij de modellen zelf de data scientists informeren wanneer ze verslechteren of wanneer ze geen vertrouwen meer hebben in hun eigen voorspellingen.
Levenscyclus beheren in ml-ops
Het is enorm arbeidsintensief om de mogelijkheden van een model handmatig te vergelijken met nieuwere modellen, om de problemen met modellen die niet goed presteren op te lossen en om modellen bij te werken zonder de bedrijfscontinuïteit te onderbreken. Wanneer het aantal ml-modellen in productie exponentieel groeit, wordt het beheer ervan een hoofdpijndossier.
Ml-ops lost deze uitdaging op door het beheren van de ml-pijplijn en het automatiseren van belangrijke taken, zoals het observeren van afwijkingen, het bijhouden van audit trails voor modellen en het gecontroleerd toevoegen van nieuwe modellen via zogeheten ‘champion/challenge’-mechanismen. Dit zorgt voor een veilige workflow en een beter beheer van modellen tijdens het schalen.
Effectief modelbeheer bij compliance
Ml-modellen kunnen mijnenvelden creëren, op het gebied van regelgeving, compliance en bedrijfsrisico’s. Vooral na de introductie van nieuwe regelgeving zoals GDPR/AVG. Dit is zelfs een groter probleem voor wereldwijde organisaties, waar het labyrint van regels en wetten ondoordringbaar wordt.
Ml-ops helpt bedrijven om risico’s met regelgeving te minimaliseren door enerzijds modellen regelmatig te controleren op snelheid, nauwkeurigheid en afwijking, en anderzijds de goedkeurings-workflow en het proces van interferentie met de leeromgeving van productiemachines te regelen en te documenteren. Het resultaat is een transparante modelpijplijn, verminderde modelvooringenomenheid en het voldoen aan wettelijke nalevingsvereisten.
Ml-ops kan zo de teams binnen een bedrijf, waaronder datawetenschappers , softwareontwikkelaars en it, helpen, om op die manier de waarde te genereren die ze van ai verwachten. Dankzij ml-ops kunnen bedrijven daadwerkelijk alle voordelen van ai en ml benutten en eindelijk een effectieve, door ai gedreven organisatie creëren.
