Nederlandse bedrijven adopteren in hoog tempo generatieve-ai-technologie, maar slechts tien procent hanteert een formeel ethisch kader waarmee het gebruik van de ai-toepassing wordt onderbouwd. Dat strookt niet met nieuwe regelgeving, zoals de ai-verordening die organisaties verplicht om verantwoord met ai om te gaan.
De cijfers komen uit een onderzoek van Info Support dat 414 Nederlandse ict-managers ondervroeg in de zorg, overheid, maakindustrie, detailhandel, logistiek en de levensmiddelenindustrie. Hoewel ai steeds breder wordt toegepast, bevinden veel bedrijven zich nog in een verkennende fase (36 procent). Bijna een kwart (23 procent) zit in de experimentele fase. Slechts drie procent heeft ai grootschalig geïmplementeerd.
De meest voorkomende toepassingen zijn data-analyse (20 procent), creatieve en inspirerende taken (20 procent) en klantenservice (15 procent). Toch blijkt uit de studie dat de transformatie naar volledig ai-gedreven organisaties nog in de kinderschoenen staat. Meer dan een derde (36 procent) van de bedrijven gebruikt ai nog helemaal niet binnen de bedrijfsprocessen.
Gebrek aan transparantie
Privacy, ethiek en naleving van regelgeving zijn struikelblokken voor bedrijven die ai inzetten. Zo noemt 29 procent van de organisaties privacy en ethische bezwaren als grootste uitdaging. Dit komt mede door een gebrek aan duidelijke kaders: 67 procent van de bedrijven heeft geen formeel ethisch kader voor ai en 23 procent overweegt een ethisch beleid te ontwikkelen. Slechts tien procent heeft al een ethisch kader geïmplementeerd.
Ook transparantie en uitlegbaarheid blijven problematisch. Slechts twaalf procent van de bedrijven beschikt over volledig uitlegbare ai-modellen, terwijl een derde moeite heeft om ai-beslissingen te verantwoorden. Een op de tien organisaties heeft helemaal geen vorm van uitlegbare ai, wat het vertrouwen in deze technologie onder druk zet, concludeert Info Support.
Datakwaliteit en expertise zijn struikelblokken
Naast ethische overwegingen ervaren bedrijven ook technische en organisatorische uitdagingen. Lage datakwaliteit en een gebrek aan expertise bemoeilijken een succesvolle implementatie: een kwart beoordeelt de interne datakwaliteit als zeer laag. 22 procent noemt een tekort aan ai-expertise als grootste obstakel. Veertig procent heeft geen maatregelen getroffen voor veilig ai-gebruik. Het ontbreken van hoogwaardige data beperkt de effectiviteit van ai-oplossingen en bemoeilijkt het behalen van betrouwbare inzichten. Zelfs na ai-implementatie blijft achttien procent van de bedrijven kampen met datakwaliteitsproblemen.
Kloof tussen verwachtingen en realiteit
Ondanks de groeiende adoptie van ai, blijven de beloofde voordelen vaak uit. Zo heeft 29 procent van de bedrijven nog geen financiële voordelen gerealiseerd met ai-gebruik. Toch blijft de verwachting hoog: een krappe derde van de bedrijven denkt op korte termijn voordelen zoals kostenbesparing en omzetgroei te behalen. De kloof tussen de belofte van ai en de realiteit is daarmee nog groot, stellen de onderzoekers.
Volgens Niels Naglé, regionaal verantwoordelijk voor data en ai bij Info Support, is er een noodzaak voor een bewuste en verantwoordelijke ai-aanpak: ‘We zien dat bedrijven ai steeds breder inzetten, maar dat uitdagingen zoals ethiek, datakwaliteit en expertise de vooruitgang belemmeren. Zonder een ethisch kader lopen organisaties het risico om ai niet alleen inefficiënt, maar ook onverantwoord in te zetten.’ Hij benadrukt dat bedrijven proactief moeten inspelen op wet- en regelgeving door ethische richtlijnen op te stellen en ai transparant en uitlegbaar te maken. ‘Een sterke, verantwoorde ai-strategie helpt niet alleen bij compliance, maar draagt ook bij aan vertrouwen en duurzame bedrijfsresultaten.’
Meerd an 80% van bedrijven en organisaties hebben tal van governances, op het vlak van hun automatiseren, helemaal niet eens op orde. Dan hebben we het over verschillende vlakken zoals borging van hun data, security, AVG, risk management laat staan dat je het nu ineens over AI’s zou moeten hebben.
Dat het bedrijfsleven in rap tempo AI’s adopteren? Lijkt mij een hele grote vraag. Ik zie/hoor dat nog lang niet zo.
414 Nederlandse ICT-managers klinken als de kalkoen die je vraagt naar het kerstdiner en wij van WC-eend adviseren daarom WC-eend als het gaat om de nieuwe wet- en regelgeving waarin de ethiek van AI vooral om het compliant automatiseren van de beslissingsprocessen gaat. Crap in, crap out door een lage datakwaliteit gaat vooral om een classificatie van alle ongestructureerde data waar meer dan 80% van de organisaties wat achterstallig onderhoud in heeft als ik kijk naar een inbreuk op de privacy of het lekken van andere gevoelige informatie. Saillant detail, de meeste ICT-managers hebben geen idee hoe groot het fenomeen van Shadow IT in de cloud is want veel AI voedt zich met data in gratis diensten.
Verder lijken uitlegbare ai-modellen me commercieel niet erg handig als ik overweeg dat je de slimme algoritmen alleen te gelde kunt maken door het kunstje geheim te houden. Onverantwoorde AI waarmee je gillend rijk wordt in een bedot.com economie gaat vooral om verkoopbare inzichten waarmee je de consultancy kunt schalen. Wat betreft een uitlegbaarheid van algoritmen zie ik een herhaling van zetten met alle leesbare code die ook niet begrepen wordt maar wel gratis is.