BLOG – Dankzij de snelle adoptie van kunstmatige intelligentie (ai) wordt nu ook schaduw–ai in rap tempo gemeengoed. Aan de slag gaan met ChatGPT, Midjourney, Dall-E of andere generatieve-ai-tools is immers zo makkelijk dat it-professionals er nauwelijks nog aan te pas komen. Toch hebben gebruikers er baat bij dat hun ai niet langer onder de radar blijft.
Niks nieuws onder de zon, zo lijkt het. Schaduw-ai is niet meer dan een nieuwe variant van schaduw-it. Gartner becijferde eerder al dat ongeveer een derde van de it-huishouding uit schaduw-it bestaat. Aangezien dat vaak gepaard gaat met relatief dure individuele softwarelicenties lopen de kosten van schaduw-it bij grote organisaties op tot veertig procent van de totale it-bestedingen. Met schaduw-ai is dat niet veel anders. Maar dit nieuwe fenomeen is complexer en gevaarlijker. Zo is het risico op het lekken van gevoelige informatie groter. Vooral omdat Jan en alleman aan de slag kan met tools die handig zijn of op zijn minst handig lijken. Bovendien is met de ai-toepassing doorgaans meer tekstdata gemoeid dan met een traditionele applicatie. Het wordt nog pijnlijker als vertrouwelijke ip bijvoorbeeld opgaat in een publiek beschikbaar ai-systeem. Onlangs kwam een broncode van Samsung in handen van OpenAI omdat medewerkers ChatGPT hadden gebruikt om bugs in gevoelige broncode te vinden. De kans op onbedoelde inbreuk op auteursrecht is eveneens groter omdat veel ai-modellen getraind zijn op auteursrechtelijk beschermde data. De consequenties voor de toekomst zijn nauwelijks nog te overzien.
De kunst is kaders te scheppen waarbinnen iedereen op een verantwoorde en veilige manier aan de gang kan
Aangezien veel generatieve-ai-tools zoals ChatGPT gratis zijn, is het voor iedereen appeltje-eitje om aan de slag te gaan. Wat ai in drie minuten kan, had je tot voor kort minstens een week voor nodig. Maar datzelfde gratis ai-gereedschap is niet altijd even betrouwbaar want veel tools zijn met verouderde data getraind. Waar generatieve ai vooral een redenatie-machine is, is het voor velen een kennisbron waar je allesbehalve blind op kan vertrouwen. Daarmee steken hallucinaties en onnauwkeurigheden snel de kop op. Dat leren inmiddels verschillende incidenten bij niet de minste bedrijven zoals Microsoft, Google en Air Canada.
Ethische aspecten
Boycotten dan maar? Dat is geen optie. Een verbod werkt niet en belangrijker nog, dat is vooral een manier om talentontwikkeling en innovatie uit te sluiten. De kunst is kaders te scheppen waarbinnen iedereen op een verantwoorde en veilige manier aan de gang kan. Dat is makkelijker gezegd dan gedaan want ai-architecten staan nog niet in de rij. Het komt maar al te vaak voor dat een ai-applicatie op een Google-cloudplatform is ontwikkeld waarbij later blijkt dat operationaliseren alleen kan in een Azure-omgeving omwille van het bestaande it-landschap.
Ook de ethische aspecten zorgen ervoor, dat doorgaans veel meer beleidsmakers betrokken moeten worden vooraf aan de productie van de ai-tool. Zonder ai-architecten is het zaak een groep specialisten – ,noem het een stuurgroep – op te tuigen die verantwoordelijk is voor het inbedden van de nieuwe ai-tool in de bestaande architectuur.
Nu al worden veel ai-poc’s ontwikkeld zonder dat een heldere gen-ai-architectuur aanwezig is. Op deze manier worden de technical debts opgebouwd om achteraf te bepalen hoe de ai-toepassingen op te nemen in de it-huishouding. Koester deze initiatieven. De ai-poc’s zijn ideaal om te leren van alle (on)mogelijkheden. Dat helpt uiteindelijk ook bij het vaststellen van een ai-strategie. Maar wacht niet te lang zodat het aantal technical debts binnen de perken blijft. Zo’n strategie hoeft niet eens een meerjarenaanpak te zijn. Een goede basis leggen, is van groot belang. Daar kan dan voortdurend aan bijgespijkerd worden. Zo waarborg je in ieder geval de privacy en veiligheid bij het gebruik van ai-tools. Ook valt beter te monitoren waar, welke en hoeveel gegevens de organisatie in- en uitstromen. Als de basis wordt gelegd, is dat voor gebruikers bovendien veel aantrekkelijker om ai uit de schaduw te halen en zo alle innovaties te koesteren.
Mathijs van Bree is ai-expert bij Sogeti
