Deze opinie is van een externe deskundige. De inhoud vertegenwoordigt dus niet noodzakelijk het gedachtegoed van de redactie.

Artificial Intelligence? De politiek pakt het op

Data Revival

Dit artikel delen:

We leven in een interessante tijd. Zin en onzin over door ict-aangedreven revoluties buitelen over elkaar heen. Kunstmatige intelligentie (artificial intelligence - ai) neemt daarbij een voorname plaats in. Ik denk terecht, maar zie dat onze politici er nog niet rijp voor zijn.

Recent werd ik door een ai-ondernemer gepolst of ik interesse had om in zijn bedrijf te investeren. Ik twijfelde. Het bedrijf in kwestie is succesvol en groeit als kool en de ondernemer is gedreven, slim, betrouwbaar en sympathiek. En om niet te vergeten: ik geloof in de potentie van ai.

Wat mij weerhield is het over-hypete karakter van ai en de onderschatte maatschappelijke risico’s. Ik wil niet zwijgen over ict-misstanden omdat ik er een belang in heb. Kijk bijvoorbeeld eens naar de recente ‘D66 techvisie’. Dat is bepaald geen slecht document en in elk geval vooralsnog uniek. Zo is duidelijk dat ze bij D66 door hebben dat blockchain ‘m niet gaat worden. De term valt weliswaar driemaal, maar op 75 pagina’s is dat niks, ook omdat D66, behalve juristen, veel blockchainminnende consultants in de gelederen heeft rondlopen.

Wat D66 betreft ligt het anders als het gaat om ai. Dat gaat ‘m duidelijk wel worden en ook dat zien ze goed. Men heeft ook duidelijk oog voor het grote probleem met ai namelijk het gebrek aan transparantie en de invloed van biased (big) data daarop. Mooi.

Containerbegrip

"Kunstmatige intelligentie is bijna van nature intransparant"

Wat men niet lijkt te beseffen is dat ai, en dan met name de lerende versie (‘machine learning’) bijna van nature intransparant is. Het is een zorgwekkende gedachte dat ai-oplossingen steeds beter worden en breder worden toegepast terwijl we niet weten waarop de werking is gebaseerd. Daar waar het gaat om beslissingen die mensen raken is daar een woord voor dat elke D66-jurist doet rillen: ‘willekeur’. Niet alleen ‘onrecht’ en ‘ongelijkheid’ maar ook willekeur is het tegengestelde van het begrip ‘rechtsstaat’.

Vervelend daarbij is dat big data- annex ai-toepassingen in de D66-techvisie worden afgedekt met het containerbegrip ‘algoritme’ en die algoritmes - wat dat ook mogen zijn - vervolgens transparant moeten zijn. Ik vind dat gevaarlijk. Enerzijds gooien we allerlei ict-concepten op één hoop, maar anderzijds dreigen we transparantie teveel te koppelen aan hi-tech ict.

Rechtsstaat

En we zijn al ver heen. Neem de situatie van de Groningers in aardbevingenland. Die krijgen eindelijk een schadevergoeding, die bepaald wordt op basis van een algoritme dat niet bekend is. Op basis van data die niet bekend zijn. Eigendom van, godbetert, de NAM. De negentiende-eeuwse liberalen, die de vaders van onze rechtsstaat zijn, zouden gruwen van zoveel intransparantie en (volgens mijn Groningse connecties) willekeur.

Of neem het recente, nog lopende schandaal van de Belastingdienst die zomaar de kinderopvangtoeslagen intrekt van allochtone medeburgers. Dat is mede gebeurd op basis van door ambtenaren aangevraagde queries. Die queries kunnen bewijzen of er sprake is van biased data, van fout werkende programmatuur (sorry, algoritmes) of van hufterige belastingcontroleurs. Niemand die het uitzoekt.

Of kijk naar de politici zelf. Die moeten beslissen over subsidies voor elektrisch rijden die zijn gebaseerd op een rekenmodel, gebaseerd op een geheim gehouden ‘algoritme’ (Excel), gemaakt door een commercieel bedrijf (RevNext) waaraan de geur van corruptie kleeft.

Thorbecke

Data Revival

Een rubriek van René Veldwijk over de wondere wereld van data. Veldwijk is managing partner van software-ontwikkelaar Ockham Groep en opiniemaker bij Computable.

Modern burgerschap, behoorlijk bestuur en transparantie moeten door politici niet worden vereenzelvigd met ict, zelfs al zet ict allerlei zaken op scherp. Alles wat echt belangrijk is, moet techniek-onafhankelijk worden gedefinieerd en bekeken. Dat aardbevingsmodel en de onderliggende data moeten openbaar. De rol van de ict in het toeslagenschandaal moet glashelder worden. En de Tweede Kamer moet gewoon dat e-subsidie-Excelletje krijgen. Thorbecke zou dat zo willen.

Dan terug naar de rol van ai gebaseerd op big data en zelflerende systemen. Welbeschouwd zet deze ai alles op scherp. We kunnen morgen besluiten om de rechtsstaat naar de 21ste eeuw te helpen door echt in te gaan zetten op open data, ook big data. Veel overheidssoftware kan morgen geheel of grotendeels als open source worden vrijgegeven. Voordat het zover is zullen we nog jaren verder zijn. In de tussentijd rolt een golf van nieuwe, echt nuttige technologie over ons heen waarvan de werking zelfs voor de ontwikkelaars grotendeels intransparant is. Dat behoort elke politicus en elke betrokken ict’er zorgen te baren. Immers, als we intransparante ai accepteren en alles een ‘algoritme’ noemen dan is het eindresultaat dat alles, tot een stom Excelletje aan toe, geheim mag blijven als het de bestuurders zo uitkomt.

Dat machine learning ai, gebaseerd op big data, een enorme impact gaat hebben op ons leven is onomstreden. Ik gun mijn ai-ondernemer vriend het beste en adviseer verder iedere belegger die geen politicus is om er in te investeren.

(Dit artikel staat ook in Computable-magazine #05/2019.)

x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Reacties

De auteur verwart rekenmodellen met de cognitieve mogelijkheden van AI, Don Quichot ziet windmolens voor draken aan. Er zijn tenslotte zeer succesvolle (en maatschappelijk gewaardeerde) toepassingen van AI in bijvoorbeeld allerlei vertaaldiensten, chatbots en andere neurale netwerk technologieën zoals SIRI. De belastingtelefoon zou met deze technologie trouwens een stuk klantvriendelijker worden. De Excel-on-steroïds waar René het over heeft gaat dan ook om hele andere algoritmen, de autistische AI van de boekhouder.

Verder gaat René wederom de mist in met zijn stelling over open source, deze software-ontwikkelaar bij Ockham Groep vergeet even dat het openbaar maken van de broncode niet per definitie leidt tot een community gedreven ontwikkeling ervan. De maatschappelijk vraag aangaande liberale idealen van Thorbecke gaan om een veranderende industrie welke meer vanuit de vraag dan het aanbod gedreven wordt. Modern burgerschap, behoorlijk bestuur en transparantie in een datagedreven maatschappij gaat uiteindelijk om een verdienmodel waarin 'algoritmen' minder transparant zijn omdat de investeerders een rendement willen behalen.

Dat maakt niet per definitie kunstmatige intelligentie ontransparant, de inzichtelijkheid in de 'blackbox' kan onder voorwaarden gegeven worden om zodoende de commerciële belangen hierin te respecteren. De golf van nieuwe en nuttige technologie die momenteel over ons heen rolt is Amerikaans of Chinees waardoor adoptie hiervan niet tot meer Europese welvaart leidt.

Uw reactie

LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren

Vul uw naam in
Vult u een geldig e-mailadres in
Vult u een reactie in
Jaarbeurs b.v. gaat zorgvuldig en veilig om met uw persoonsgegevens. Meer informatie over hoe we omgaan met je data lees je in het privacybeleid
Als u een reactie wilt plaatsen moet u akkoord gaan met de voorwaarden

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2019-10-15T09:52:00.000Z René Veldwijk
Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.