Is Amerikaanse ai straks nog bruikbaar?

De Amerikaanse regering lijkt ver te willen gaan bij het inzetten van (ai-)technologie in dienst van een politieke agenda. Alertheid is geboden, ook voor het omzien naar alternatieven.

Wanneer ik als Amsterdammer op de website AmsterdamBereikbaar zoek of ik vandaag naar de A4 kan rijden kom ik terecht bij een ai-agent: ‘Stel een vraag’. Daarboven staat: ‘Ai kan fouten maken. Overweeg het controleren van belangrijke informatie.’ Zelfs deze eenvoudige toepassing illustreert het fundamentele probleem van ai (artificiële intelligentie): we weten niet zeker of uitspraken valide zijn. De ai-prompt Grok van X ontspoorde recentelijk met de verheerlijking van Hitler.

Maar dat is nog wat anders dan bewuste manipulatie. De Amerikaanse regering lijkt ver te willen gaan bij het inzetten van technologie in dienst van een politieke agenda, het manipuleren van kennisproductie en het emanciperen van dubieuze content en uitkomsten. Enkele voorbeelden verduidelijken dit.

Gezuiverd

De regering Trump presenteerde op 23 juli een plan gericht op Amerikaanse ai-dominantie wereldwijd via een ecosysteem dat ai-normen volgens haar wensen implementeert. Het plan roept Amerikaanse overheden op om alleen contracten te gunnen aan bedrijven die verzekeren dat ‘ai-modellen objectief zijn’. Daarbij gelden richtlijnen voor de ontwikkeling van ai waaruit begrippen als diversiteit, gelijkheid, inclusiviteit, klimaatverandering en desinformatie verwijderd zijn. In de woorden van Trump: ‘het Amerikaanse volk wil geen woke marxistische idiotie in ai-modellen, en andere landen ook niet.’

Begin dit jaar werd al bekend dat Amerikaanse overheidsinformatie werd gezuiverd van het gebruik van woorden die als woke werden beschouwd zoals ‘klimaatwetenschap’, ‘minderbedeeld’, ‘slachtoffer’, ‘identiteit’, en ‘vervuiling’.

Orwelliaanse term

In mei van dit jaar presenteerde de Amerikaanse regering de Golden Standard of Science. Dit instrument institutionaliseert de diskwalificatie van de wetenschap tot heden en opent de weg naar hierarchische gelijkstelling met wetenschappelijke consensus van fringe- en complottheorieen op het gebied van bijvoorbeeld klimaatverandering, de werking van vaccins, platte aarde, en christelijk creationisme. De Orwelliaanse term die hiervoor wordt gebruikt is ‘informed dissent‘. Dit sluit aan bij een in ai-context gehoord standpunt dat men voor objectiviteit van uitkomsten standpunten gelijkelijk moet weergeven.

Als klap op de vuurpijl regelt deze ‘golden’ standaard bestraffing van wat wordt genoemd ‘wetenschappelijk wangedrag’ door de overheid. Dit alles gaat samen met gerichte vermindering van de financiering van wetenschappelijk onderzoek en het geven van een stem aan wetenschappelijk marginale ideeen tot op op beleidsniveau.

Begin van dit jaar tenslotte begon het Parijse parket een onderzoek naar politieke manipulatie door xAI, de startup van Elon Musk, op basis van het Franse wetboek van strafrecht. De Amerikaanse regering, die de ambitie heeft om te komen tot een politieke reset in Europa, heeft de Franse justitie hierop kort geleden aangevallen. xAI, waarvoor bewijzen van manipulatie zich aandienen, weigert om algoritmen vrij te geven.

Neutrale ai

Worden de maatregelen voor datacenters en hun energievoorziening toegejuicht door de ai-industrie, voor het meedoen aan een dergelijke cultuuroorlog geldt dat zeker niet onverdeeld. Technologiebedrijven hebben ook een commercieel belang bij neutrale ai. En hoe moeilijk het is om de uitkomsten van ai actief te beinvloeden bleek toen een maatregel ter voorkoming van het voortrekken van blanken en mannen door Googles Gemini leidde tot beelden van een vrouwelijke paus en zwarte nazi’s.

Voor technische zaken, zoals bijvoorbeeld juridisch-technische informatie, rekenmodellen, procesoptimalisatie of it-beheer is ai wellicht het meest ‘veilig’. Maar we kunnen niet voorspellen waar nog grenzen worden getrokken, en we kunnen inmiddels wel voorspellen wie dat wil gaan doen. De Amerikaanse regering zoekt het in het uitoefenen van druk op de bedrijven via gunning van contracten. Alertheid is geboden, ook voor het omzien naar alternatieven. Het wordt interessant om te zien hoe technologiebedrijven zich gaan opstellen, En hoe universiteiten, organisaties en overheden maar ook de toezichthouders Algemene Rekenkamer en Autoriteit Persoonsgegegevens hiermee zullen omgaan.

Marcel van Kooten is management consultant Sourcing and IT Governance bij Highberg.