Organisaties brengen de risico’s van generatieve kunstmatige intelligentie (gen-ai) gemakkelijker in kaart met behulp van het AI Cybersecurity Kwadrant van de AIVD en de Rijksinspectie Digitale Infrastructuur (RDI). Het model voor risicoanalyse is donderdag gepresenteerd.
Het AI Cybersecurity Kwadrant biedt organisaties praktische handvatten bij de herkenning van zowel mogelijke dreigingen als potentiële beschermingsmechanismen. Het model benadert generatieve ai vanuit vier perspectieven: aanvallen óp gen-ai, aanvallen mét gen-ai, verdediging ván gen-ai en verdediging mét gen-ai.
Op deze manier biedt het model een raamwerk voor de evaluatie van aanvallen die ai proberen te misleiden en aanvallen waarbij gen-ai actief wordt ingezet. Aan de andere kant helpt het bij de ontwikkeling van effectieve verdediging met behulp van ai.
Meer dan plaatjes en video
Met generatieve ai is tegenwoordig meer mogelijk dan alleen plaatjes en video’s genereren, schrijven de AIVD en de RDI. Ze wijzen als voorbeeld op het gemak waarmee regimes en criminelen ai inzetten om snel kwaadaardige programmeercodes te genereren. Het vergt ‘aanvullende expertise en investeringen’ om voldoende weerbaar te blijven, aldus de twee samenwerkende instanties. Volgens hen kan het nieuwe model daarbij helpen.
Artificial intelligence heeft de bijzondere aandacht van de RDI, vertelde inspecteur-generaal Angeline van Dijk eerder aan Computable. Haar organisatie staat op het punt een ai-lab te openen om kennis en expertise op dit gebied op te bouwen. ‘De ontwikkelingen gaan razendsnel. Om de impact te beoordelen en er op te kunnen acteren, openen we dat ai-lab. We nemen de werking van algoritmes onder de loep en bekijken hoe we veiligheidsniveaus kunnen inbouwen.’
