Noord-Holland maakt algoritmen openbaar

Volgens de nota begint verantwoord werken met data met drie vragen. Stigter legt uit dat de eerste vraag (kan het?) zich richt op randvoorwaarden zoals financiën, capaciteit en kennis. De tweede (mag het?) heeft betrekking op juridische vraagstukken. Sommige risico’s zoals privacy en cybersecurity worden ondervangen door wetten en regels. De derde vraag (moeten we het willen?) is het ethische vraagstuk. ‘Daarbij toetsen we of een innovatie gedeelde waarden in gevaar brengt. We controleren onszelf op onbedoelde ‘bias’. Bias staat voor vooringenomenheid. Denk aan algoritmen. Ook wanneer het ‘kan’ en ‘mag’ kunnen er risico's en daarmee vragen overblijven’, aldus Stigter.

Tada-waarden

In het rapport ‘Aandacht voor algoritmes’ noemt de Algemene Rekenkamer verschillende bedreigingen. ‘Willen we werken met een algoritme dat we niet kunnen uitleggen aan inwoners? Willen we werken met een algoritme dat door correlaties in data kan discrimineren? Willen we werken met algoritmen waar we geen inzicht over zeggenschap hebben? Bijvoorbeeld omdat het afkomstig is van een derde. Wanneer het antwoord op een van deze vragen ‘nee’ is, betekent dit niet dat we het project beëindigen. We gaan op zoek naar een verantwoord alternatief.’

Of we het moeten willen, is volgens de gedeputeerde een brede vraag die niet met een simpel ‘ja’ of ‘nee’ is te beantwoorden. Wel met een gesprek. De Tada-waarden (een verwijzing naar het manifest ‘Tada – Duidelijk over data’ van de Amsterdam Economic Board) geven hier kaders voor. Op dit moment is er geen methode om dit gesprek structureel en consequent te voeren binnen een project. ‘Wij gaan experimenteren om een algemeen toepasbare methode te vinden. Hiermee kunnen vervolgens structureel ethische afwegingen worden gemaakt bij datagedreven projecten.’

Transparantie

We kunnen bijna dagelijks lezen hoe de Belastingdienst met data en vooringenomenheid omgaat. Noord-Holland wil dat anders aanpakken. De nota meldt dat de maatschappelijke discussies over algoritmen niet aan ons voorbijgaan. Wij zullen hier onze verantwoordelijkheid nemen. Onze stip is een open provincie. Een provincie waarin inwoners en bedrijven niet verrast worden door uitkomsten van geautomatiseerde besluitvorming. Binnen onze mogelijkheden willen wij de ‘black box’ van technologie openbreken. Eventuele wetgeving op dit punt wachten wij niet af, stelt de nota.

Stigter: ‘Dat is niet meer weg te denken uit ons leven. Data helpen ons om resultaten te realiseren bij de maatschappelijke opgaven waar wij voor staan, zoals het verbeteren van biodiversiteit en de energietransitie. Dat biedt bij al onze opgaven kansen voor technologische, sociale en economische innovatie.’ Maar het moet wel duidelijk zijn over welke data Noord-Holland beschikt en hoe de provincie die inzet.

Registers

Noord-Holland gaat een open-data-register inrichten, waarin iedereen kan zien over welke data de provincie beschikt en aan welke instanties deze wordt aangeboden. ‘Het is een verwijsportaal, een soort telefoonboek’, licht Stigter toe. Een voorbeeld hiervan is data.overheid.nl.

‘Begin dit jaar is het open-data-register technisch neergezet; binnenkort zullen de eerste open-datasets via dit register worden ontsloten. Dat gaat stapsgewijs. Het functioneel beheer ligt bij de provincie Noord-Holland. Het open-data-register zelf wordt afgenomen als een saas-oplossing, op basis van CKAN, een opensourcemodel voor dataopslag en –distributie. Het technisch beheer is extern belegd.’

Er is nog een register in de maak: het algoritmeregister. Dit moet nog worden gebouwd. ‘Op dit moment verkennen wij hoe we een algoritmeregister het beste kunnen inrichten’, aldus Stigter. Hij noemt het algoritmeregister van de gemeente Amsterdam als voorbeeld. Deze is op dit moment als bèta gepubliceerd. Ook onderzoekt Noord-Holland de mogelijkheid om aan te sluiten bij bestaande initiatieven, zoals het project ‘Publieke controle op algoritmes’ dat zich ook richt op het maken van een register.

Als onmisbare uitgangpunten noemt het provinciebestuur ‘menselijke maat, zeggenschap over je eigen data en legitiem en gecontroleerd gebruik van data’.