BLOG – Van slimme zoekmachines tot virtuele assistenten: kunstmatige intelligentie (ai) is diep verweven met ons dagelijks leven. Voor techliefhebbers is dat gesneden koek, terwijl ook niet-techneuten weleens met Gemini of ChatGPT hebben gespeeld. Wat velen níét weten, is dat ai achter de schermen een grote rol speelt in een minder zichtbaar, maar cruciaal domein: kredietscores.
Ook in de financiële sector is er grote wil om de mogelijkheden van ai te benutten. Maar tussen innovatie en regelgeving wacht een spanningsveld: hoe haal je het maximale uit nieuwe kredietscoringtechnieken zónder de wet te overtreden? Welke rol speelt ai bij kredietbeoordelingen, welke ethische afwegingen komen daarbij kijken en wat zijn de geldende juridische kaders, waarbinnen de operaties plaatsvinden?
Bedrijfskredieten
Kredietscores, zoals we die nu kennen, werden in de vorige eeuw ontwikkeld in de Verenigde Staten om beslissingen over bedrijfskredieten eenvoudiger te maken. Waar beslissingen voorheen uitsluitend werden gebaseerd op handmatige kredietwaardigheidsbeoordelingen, ondersteunen scorekaarten nu dit proces met numerieke beoordelingen die de kredietwaardigheid van een potentiële klant weergeven. Zo weet je of je met een financieel betrouwbare partij in zee gaat.
De EU AI Act is de eerste bindende wetgeving voor ai ter wereld
Een scorekaart is een statistisch model dat numerieke scores toekent op basis van factoren zoals betalingsgeschiedenis, schulden, inkomsten en andere financiële gegevens. Voor de ontwikkeling van scorekaarten wordt al tientallen jaren gebruikgemaakt van machine learning-technieken. De laatste jaren wordt hier ook ai voor ingezet, waardoor betrouwbaardere kredietadviezen zijn te geven en financiële risico’s te verminderen. Daarnaast verlaagt het de werkdruk van kredietbeoordelaars, omdat aanvragen (bijna) volledig geautomatiseerd zijn af te handelen. Dankzij ai kunnen complexe voorspellingsmodellen sneller en nauwkeuriger worden gebouwd, waardoor het voorspellend vermogen van kredietscores verder toeneemt.
Ethisch
Hoewel ai voordelen biedt, brengt het ook uitdagingen met zich mee, vooral op ethisch gebied. Niet voor niets moeten bedrijven zich strikt houden aan strenge privacywetgeving en hun protocollen hierop aanpassen. Daarnaast is ai, net als een mens, vatbaar voor vooroordelen door menselijke vooringenomenheid. Voor de ontwikkeling van nieuwe ai-tools geldt daarom strengere wetgeving.
Een aspect bij de ontwikkeling en toepassing is de uitlegbaarheid van ai-modellen, ofwel explainable ai of xai genoemd. Bij een uitlegbaar ai-model is het voor gebruikers transparant hoe het model voorspellingen doet en beslissingen maakt. Het is zaak ai-algoritmen grondig te analyseren en verfijnen, zodat er gelijke behandeling plaatsvindt bij kredietaanvragen en er sprake is van honderd procent objectieve besluitvorming.
EU AI Act
Om de veiligheid en betrouwbaarheid van ai-toepassingen te waarborgen, heeft de Europese Commissie de EU AI Act geïntroduceerd, de eerste bindende wetgeving voor ai ter wereld. De wet is op 1 augustus 2024 ingevoerd en zal op 1 augustus volgend jaar volledig van kracht zijn. Onder de nieuwe wetgeving vallen transparantieverplichtingen voor ai-systemen, afhankelijk van hoe risicovol een systeem wordt geacht.
Deze wetgeving is een stap voorwaarts in de regulering van ai, waar ik voorstander van ben. Tegelijkertijd zijn er aandachtspunten bij de uitvoering. Een van de grootste uitdagingen is het behoud van toegang tot data voor ai-ontwikkeling. Het zou zonde zijn als beperkte toegang tot data de innovatiekracht beperkt en de realisatie van de Digitale Agenda bemoeilijken.
Als we inzoomen op de wettekst, dan had deze vooruitstrevender kunnen zijn door een ‘CE AI Data’-certificering in te voeren. Hiermee zouden bedrijven onder strikte voorwaarden toegang kunnen krijgen tot data die anders door de GDPR wordt uitgesloten. Een toezichthouder zou dan vervolgens toe kunnen zien op de dataverzameling, -verwerking, -opslag en het datagebruik.
Balanceren
Is ai in de financiële sector nu een zegen of een risico? Uiteindelijk draait het om balanceren: tussen efficiëntie winnen en wettelijke en ethische grenzen bewaken. Met de AI Act zet Europa een grote stap naar veilige en verantwoorde inzet van ai. Deze technologie is een troef om onze welvaart te behouden, vooral om de productiviteit in bepaalde sectoren en beroepen te verhogen. Een juridisch kader is daarom onmisbaar, voor de financiële sector maar natuurlijk ook daarbuiten. Deze wet helpt ons de balans te vinden tussen technologische vooruitgang en ethische normen, voor een financiële sector waar ai bijdraagt aan betrouwbaarheid, inclusiviteit en transparantie van systemen.
Joris Peeters, chief data scientist & strategic consultant Altares Dun & Bradstreet
