BLOG – De hype rond artificiële intelligentie (ai) lijkt langzaamaan te gaan liggen. Wat overblijft, is een nuchtere blik op wat ai vandaag de dag kan. Grote taalmodellen (llm’s) blijken voor bedrijven nog steeds moeilijk te hosten, te trainen en te onderhouden. Swarm ai, de combinatie van kleinere modellen, biedt een veelbelovende uitweg.
Een vaak gezien patroon: wanneer nieuwe technologieën het licht zien, domineren vaak de grote spelers. Daarna volgt een tegentrend met kleinere, gespecialiseerde aanbieders, om uiteindelijk te eindigen met een markt in evenwicht. Hetzelfde zien we nu gebeuren in de wereld van ai. Kleinere modellen, gericht op specifieke toepassingen zoals zoekopdrachten, chatbots en samenvattingen, maken ai eenvoudiger, goedkoper en toegankelijker.
Kleine modellen later beter zien hoe ze werken
De beperkingen van ‘big ai’-taalmodellen worden duidelijk. Ze kosten veel tijd en geld om te trainen en hun brede opzet maakt het lastig om gespecialiseerde antwoorden te geven. Hallucinaties blijven vaak ook een uitdaging. Hier komt swarm ai in beeld: een netwerk van kleine modellen die samen complexe taken aankunnen. Elk model is gericht op één specifieke vraag of taak, waardoor de antwoorden nauwkeuriger en betrouwbaarder worden.
Kleinere modellen
Kleine modellen hebben niet alleen een technologische, maar ook een economische meerwaarde. Ze zijn sneller te trainen, eenvoudiger te beheren en goedkoper in gebruik. Dit maakt het eenvoudiger voor bedrijven om met ai te werken, zonder afhankelijk te zijn van grote techbedrijven. Bovendien laten kleine modellen beter zien hoe ze werken en waar hun antwoorden op gebaseerd zijn, goed voor de algehele transparantie dus.
Daarnaast helpt swarm ai bedrijven om aan de regelgeving te voldoen. Vooral in Europa, waar de GDPR en de aankomende Ai Act van kracht zijn, is dat een groot voordeel. Openheid en ethiek worden steeds belangrijker, en kleine modellen sluiten hier naadloos bij aan. Europa kan op deze manier een voortrekkersrol spelen in de wereld van verantwoorde ai.
Ten slotte kan swarm ai een oplossing bieden voor het tekort aan ai-talent en de complexiteit om grote taalmodellen effectief uit te rollen. Kleine modellen zijn eenvoudiger te trainen, te optimaliseren en in te zetten. Hierdoor worden ontwikkelcycli korter en wordt experimenteren eenvoudiger.
Data, infrastructuur en ecosysteem als bouwstenen
Net als bij llm’s geldt ook hier: geen goed model zonder goede data. Veel organisaties of overheden beschikken al over grote hoeveelheden data, zoals verkoopcijfers, verkeersgegevens of klantinformatie. De data zijn vaak gestructureerd en zijn, met een klein model, direct om te zetten in waardevolle inzichten.
Naast data is infrastructuur een cruciale pijler. Een flexibel platform, liefst gebaseerd op opensource, geeft bedrijven de vrijheid om zelf te bepalen hoe en waar ze hun modellen inzetten. Training kan bijvoorbeeld in de cloud gebeuren, terwijl de uiteindelijke toepassing lokaal of aan de rand van het netwerk draait. Dit voorkomt afhankelijkheid van een enkele leverancier en biedt ruimte voor maatwerk.
De grote beloften rond generatieve ai hebben plaatsgemaakt voor een realistischere aanpak
Voor de meeste bedrijven is het niet nodig om zelf dure gpu’s aan te schaffen. Open hybride platforms bieden hier uitkomst. Ze maken gebruik van gedeelde gpu-capaciteit en bieden tegelijkertijd de mogelijkheid tot beveiligde, gescheiden werkomgevingen. Hierdoor kunnen bedrijven profiteren van de nieuwste technologie, zonder de hoge kosten en complexiteit van eigen infrastructuur.
Ten laatste is een sterk ecosysteem van partners cruciaal. Bedrijven kunnen samenwerken met gecertificeerde ai/ml-specialisten die hen ondersteunen bij het ontwikkelen, testen en implementeren van modellen. Dit versnelt innovatie en biedt toegang tot de nieuwste tools en technieken. Zo wordt ai toegankelijk voor meer bedrijven en toepassingen.
Realistische aanpak
De grote beloften rond generatieve ai hebben plaatsgemaakt voor een realistischere aanpak. Maar dat is niet per se een nadeel. Het biedt de kans om een nieuw hoofdstuk te schrijven, gebaseerd op eenvoud, efficiëntie en betrouwbaarheid. Swarm ai en kleine modellen vormen hierbij de toekomst. Vooral Europa kan hiervan profiteren. Door in te zetten op swarm ai kunnen Europese bedrijven en overheden hun concurrentiepositie versterken en innovatie stimuleren. Ofwel, welkom in het tijdperk van kleine ai-modellen.
Jan Wildeboer is EMEA-evangelist bij Red Hat
