Diepe verdeeldheid over generatieve ai in de wetenschap

Nederlandse experts zijn sterk verdeeld over welke rol generatieve ai zoals ChatGPT moet spelen in de toekomst van de wetenschap. Dat blijkt uit het rapport ‘Regie over ai in de wetenschap’ van het Rathenau Instituut. De onderzoekers roepen betrokkenen op om snel met elkaar keuzes te maken, want anders valt er straks niets meer te kiezen.

De snelle ontwikkelingen van ai brengen veel mogelijkheden mee voor het doen van wetenschappelijk onderzoek. Waar ai tot voor kort vooral kansen bood voor onderzoekers die grote datasets gebruiken, kan generatieve ai toepasbaar zijn binnen ieder vakgebied.

Op dit moment worden veel wetenschappers aangemoedigd om generatieve ai te gebruiken. Deze technologie, afgekort als gen-ai en bekend van ChatGPT, Gemini en Claude, kan veel impact hebben op wetenschappelijk onderzoek, stelt het Rathenau Instituut in zijn onderzoek ‘Regie over ai in de wetenschap‘.

Schaduwzijde van ChatGPT

Gen-ai kost echter veel energie, versterkt technologische afhankelijkheden en schept methodologische en ethische problemen. De discussie over generatieve ai in de wetenschap gaat over veel meer dan technologie alleen. Volgens het Rathenau Instituut dwingt de opkomst van generatieve ai wetenschappers, bestuurders en beleidsmakers om fundamentele keuzes te maken over de toekomst van het wetenschapssysteem.

Grote uitdagingen voor publicatiesysteem

Het rapport stelt dat het gebruik van generatieve ai nu al grote uitdagingen veroorzaakt. Zo staat het wetenschappelijke publicatiesysteem verder onder druk. Bovendien zijn er vragen over de beschikbare digitale infrastructuur en groeit de zorg over duurzaamheid. Tegelijkertijd kan de technologie in de toekomst een veel grotere invloed krijgen op onderzoeksprocessen, de organisatie van de wetenschap, de relatie met de samenleving en de internationale positie van de Nederlandse wetenschap.

Het Rathenau Instituut verwelkomt de lopende initiatieven om richtlijnen en kaders voor ai-gebruik op te stellen. Dergelijke afspraken moeten duidelijk maken welke toepassingen van generatieve ai toelaatbaar zijn en aan welke eisen ai-modellen moeten voldoen.

Ai vergroot spanningen in wetenschap

Maar alleen regels voor ai zijn volgens de onderzoekers niet voldoende. De komst van gen-ai vergroot bestaande problemen binnen de wetenschap. Systemen rond academische loopbanen, onderzoeksfinanciering en wetenschappelijke publicaties waren volgens het rapport al overbelast en omstreden. Door de snelle verspreiding van ai worden deze spanningen verder vergroot.

Als bestuurders en beleidsmakers knopen doorhakken, dreigt volgens het instituut verlies van regie over belangrijke onderdelen van het wetenschapssysteem. Dat kan leiden tot schade voor onderzoekers, kennisinstellingen en uiteindelijk de samenleving.

Zeven thema’s waarop keuzes nodig zijn

Het rapport benoemt zeven thema’s (zie ook kader onderaan) waarop keuzes noodzakelijk zijn: wetenschappelijke integriteit, scholing van onderzoekers, het publicatiesysteem, financieringsinstrumenten, het stelsel van erkennen en waarderen, de relatie tussen wetenschap, samenleving en bedrijfsleven, en de technologische infrastructuur.

Daarbij spelen vragen als: moet de wetenschap verder versnellen of juist vertragen? Hoe intensief moet de samenwerking met bedrijven zijn? En wil Nederland vooral nationaal of Europees investeren in digitale infrastructuur?

Toekomstscenario’s

Volgens het Rathenau Instituut bestaan er verschillende toekomstscenario’s voor 2040, variërend van een wetenschap waarin ai slechts beperkt wordt ingezet – met een wettelijk verbod op onverantwoord gebruik van gen-ai – tot een model waarin technologie een centrale rol speelt. Bij het laatste wordt de wetenschap fundamenteel anders ingericht om zo efficiënt mogelijk wetenschappelijke inzichten te produceren met behulp van gen-ai. Het eerste scenario leidt tot vertraging, het tweede tot versnelling.

Daar tussen zit het scenario van de gedeelde wetenschap. In dat wensbeeld gebruiken wetenschappers gen-ai om wetenschap en samenleving met elkaar te verbinden, in lijn met de idealen van open science. Dankzij opensource ai-systemen die voor iedereen gratis toegankelijk zijn, kunnen gewone mensen, wetenschappers en verschillende experts veel makkelijker samenwerken.

Nachtmerrie van pseudowetenschap

Geen enkele actie in het heden kan alle toekomstbeelden tegelijk vooruit helpen. Daarvoor bleken de toekomstbeelden voor 2040 te ver uiteen te lopen. ‘Aan de ene kant is dat natuurlijk slecht nieuws,’ zegt projectleider Laurens Hessels, ‘want er zijn dus nu geen kant-en-klare acties waarbij je nog iedereen te vriend houdt.’

Hij vindt het hoog tijd om met elkaar in gesprek te gaan over welke toekomst we echt willen. ‘Want anders hebben we niets meer te kiezen en eindigen we bij een vierde toekomstbeeld, de nachtmerrie van gecommercialiseerde pseudowetenschap.’