IBM Research heeft de ‘AI Explainability 360 Toolkit’ geïntroduceerd, een open source-bibliotheek voor datawetenschappers en developers. De bibliotheek geeft uitleg over algoritmes en coding middels tutorials, demo’s, handleidingen en meer. Hierdoor kan er op een eenvoudige en transparante manier kennis over artificial intelligence (ai) worden gedeeld.
De toolkit, die bestaat uit acht algoritmes, geeft gebruikers vertrouwen en inzicht waarom een ai-systeem tot een bepaald resultaat komt. Dit is uiterst belangrijk bij het creëren van vertrouwen onder de verschillende gebruikers van een ai-systeem. Een datawetenschapper kan de toolkit bijvoorbeeld gebruiken om een model of onderliggende trainingsdata te verbeteren. Voor ontwikkelaars kan de toolkit handig zijn om een ai-toepassing te debuggen.
Daarnaast kan de toolkit ook gebruikt worden als hulpmiddel om eindgebruikers uitleg en vertrouwen te geven over een bepaalde voorspelling of aanbeveling, die middels een bepaalde ai-toepassing tot stand is gekomen. Denk hierbij aan een financieel adviseur die een aanvraag beoordeelt voor een lening of een huiseigenaar die een beslissing over een hypotheek probeert te begrijpen.
