Artificial intelligence (ai) en machine learning (ml) veranderen de manier waarop we werken ingrijpend. De toepassing van ai leidt er bijvoorbeeld toe dat we het proces van het nemen van beslissingen kunnen automatiseren. De grote valkuil hierbij is dat we ai zien als een black box waar beslissingen uit voortkomen die medewerkers niet kunnen verklaren.
Hiermee dreigt de legitimiteit onder ai weg te vallen en lopen organisaties het risico dat gebruikers ai gaan omzeilen. In het FD van 21 februari jl. werd dit aan de kaak gesteld: computers zijn snel geneigd om te gaan discrimineren en dat is nu ook weer niet de bedoeling.
De angst dat medewerkers ai als een black box zien die onverklaarbare acties voorstelt of beslissingen neemt, is reëel. Deze angst bestaat uit verschillende componenten:
- Hoe kan ik verifiëren dat beslissingen op een eerlijke manier tot stand komen?
- Hoe weet ik zeker dat mijn ai-applicatie geen bevooroordeelde blik heeft op de wereld?
- Kan ik op mijn ai-applicatie vertrouwen zonder dat ik een verklaring krijg voor de beslissing die is genomen en de conclusie die is getrokken?
Verklaarbare ai
Deze drie vragen leiden tot een zoektocht naar een ai-omgeving die output genereert die je als mens moet kunnen uitleggen en verklaren. We hebben het in dit geval over ‘verklaarbare ai’. Er zijn verschillende redenen om toe te werken naar verklaarbare ai, zoals wet- en regelgeving, het ethisch gebruik van data, transparantie, compliance en risicobeheer.
Kijk naar het gebruik van ethische data, zoals gegevens waarbij etnische achtergrond een rol speelt. Als je de output van ai kan uitleggen, dan roept het gebruik van dit soort gevoelige data minder weerstand op. Je verschaft je als organisatie als het ware bewijslast: de beslissingen die je neemt zijn ethisch verantwoord. Kijk ook naar de rol van verklaarbare ai voor compliance-doeleinden. Het wordt inzichtelijk aan welke voorwaarden en vereisten, die ten grondslag liggen aan de ai-output, de business moet voldoen. Dit biedt intern houvast; medewerkers weten wat er van hen verlangd wordt. Maar ook externe toezichthouders kunnen op deze manier inzicht krijgen in de beslissingen die zijn genomen.
Augmented analytics
Waar je naar toe wilt, is een vorm van ai die verklaarbare output produceert zonder dat er concessies worden gedaan aan de kwaliteit van de voorspelling of beslissing. Medewerkers zijn zo in staat hun ai-applicaties te begrijpen, vertrouwen en beheren. Augmented analytics is de benaming voor een nieuwe generatie analytische oplossingen die een antwoord geeft op de vraag naar verklaarbare ai.
Augmented analytics combineert de kracht van het menselijke brein en ai. Op basis van historische data en rapportages in combinatie met de specifieke eigenschappen van de organisatie automatiseert augmented analytics vervolgacties. Dit gaat verder dan alleen het presenteren van data; er komt direct een oplossing voor het probleem dat wordt geadresseerd. Neem bijvoorbeeld voorraadbeheer, dat wordt gebaseerd op vele soorten data en inputbronnen. Op basis van historische en realtime-data en businessregels wordt het voor de business direct duidelijk of en hoe de voorraad moet worden aangevuld.
Zakelijke inzichten
Augmented analytics automatiseert verschillende stappen die je als organisatie moet zetten om van ai een succes te maken. Van het verzamelen van data uit talloze bronnen tot het opschonen, analyseren en valideren. Ruwe, ongestructureerde data is zo in een oogwenk om te zetten in zakelijke inzichten, zonder dat je als gebruiker ingewikkelde queries moet maken. Analytics komen op een natuurlijke manier tot de eindgebruiker, op het juiste moment in een proces.
Ai wordt meer menselijk
Juist doordat de mate van automatisering zo hoog is, kun je met augmented analytics een omgeving creëren waarin elke beslissing is te onderbouwen en verklaren. Dit helpt de gebruiker de bewuste beslissing of voorspelling te begrijpen. En het geeft hem tegelijkertijd de gelegenheid beslissingen naar de eigen organisatie of juist naar het ‘publiek’ uit te leggen. Juist als het gaat om ethische kwesties of om activiteiten die de corebusiness raken is dit een vooruitgang. De black box, wat ai dreigt te worden, wordt transparant en levert begrijpelijke output. Ai wordt zo meer menselijk.
