Ai-gebruik is ingeburgerd, maar ai-governance blijft vaak nog achterwege. Volgens onderzoeksbureau Barc heeft 97 procent van de ondervraagde organisaties minstens één ai-toepassing in productie. Opvallend: twee derde kreeg de afgelopen twaalf maanden met een ai-gerelateerd incident te maken.
De cijfers staan in ‘The State of Data and AI Governance’, een wereldwijd onderzoek van Barc onder 234 data-, ai-, it- en businessleiders. Barc is een onderzoeksbureau met focus op data en ai, ook wel omschreven als een ‘Gartner voor data’.
Gebrek aan governance kan de nodige gevolgen hebben, aldus Kevin Petrie, vice-president research bij Barc US. Als mogelijk meest schadelijke gevolg noemt 44 procent verlies van klantvertrouwen en reputatie. Boetes of sancties volgen met 40 procent, directe financiële verliezen met 37 procent.
‘Deze bevindingen laten zien waarom governance nu afdwingbare controles vereist over data, modellen, applicaties, agents en infrastructuur’, stelt Kevin Petrie van Barc.
Menselijk toezicht blijft alvast nodig: 59 procent eist goedkeuring van een mens voor gevoelige acties van ai-agents.
Op datalaag is de basis redelijk op orde: 58 procent beheert datakwaliteit en 62 procent past governancecontroles toe. ‘Maar de meeste ai-adopters slagen er niet in modellen en agents goed te beheren’, stelt Petrie. Slechts 26 procent gebruikt monitoring en observability voor modellen, 23 procent heeft modelregisters of inventarissen, 20 procent een speciaal ai-governanceplatform en 10 procent een oplossing voor agentgovernance.
Wat koplopers anders doen
Barc rekent 29 procent van de respondenten tot de ‘ai leaders’, tegenover 20 procent begin 2024. Dat zijn organisaties met een volwassen ai-programma op zeven dimensies, waaronder security, leiderschap op directieniveau en projecttoezicht. Zij melden in de meeste categorieën minder incidenten en gebruiken vaker ai-specifieke governancetechnologie.
Barc ziet in hun voortgang vier prioriteiten: duidelijke verantwoordelijkheid voor ai-risico’s, controles over de hele keten, continue monitoring en governance van de ongestructureerde informatie die genai-toepassingen en agents als context gebruiken.
Waarschuwen voor overmoed
De incidenten zijn zelfgerapporteerd. Volgens Barc melden it-respondenten bij verschillende incidenttypen meer problemen dan businessrespondenten, die volgens het onderzoeksbureau onbewust kunnen bijdragen aan ai-fouten.
Barc waarschuwt ook voor overmoed: 60 procent van de respondenten vindt de eigen governance beter dan die van sectorgenoten, terwijl 29 procent als ai-voorloper of leader geldt.
De kwaliteit van de content holt achteruit want zelfs AI kan er geen chocolade van maken. De hallucinatie van Gartner voor data lijkt me een te grote broek als je wereldwijde onderzoek uiteindelijk maar 234 respondenten kent. Eerste alinea is nietszeggend en de opvolgende alinea’s brengen ook geen verbetering. Open deur over gebrek aan governance kan om AI of slecht management gaan, een laissez faire model van toezicht gaat nu eenmaal om het opportunisme van wonderen verkopen als we kijken naar de overmoed.
Sommigen proberen de valsheidsscore van een AI model te verkopen, de architectuur van een betekenis die eigenlijk om gebakken lucht gaat als we kijken naar alle fouten die mensen maken. Journalistieke fout is dat er niet gekeken is naar een sponsoring voor het onderzoek want wij van WC-eend, adviseren WC-eend lijkt de roep om meer governance vooral om het verkopen van een oplossing te gaan. Never waste a good crisis in de probleemstelling wijs ik op human intelligence ook al is zelf blijven nadenken vermoeiend.