Razendsnelle technologische ontwikkelingen, zoals de opkomst van generatieve ai, vormen een risico voor de samenleving. Zeker nu die maatschappij digitaliseert. Dat stelt de Nationaal Coördinator Terrorismebestrijding en Veiligheid (NCTV) in het Cybersecuritybeeld 2023.
In het jaarlijkse dreigingsbeeld is er dit jaar naast onderwerpen als ransomware en spionage door statelijke actoren, specifiek aandacht voor generatieve ai. De NCTV wijst op ‘contentgenerator ChatGPT’, die op basis van opdrachten of vragen zelfstandig content creëert uit bestaande data. Het veiligheidsorgaan benadrukt dat het gebruik en de mogelijkheden van generatieve ai zich nog volop aan het ontwikkelen zijn en de impact op de samenleving nog ‘veel onduidelijkheden kent’ en deelt verschillende ‘invalshoeken’ rondom de opkomst van ai (zie kader).
Het gevaar van generatieve ai schuilt er volgens de organisatie vooral in dat bij grootschalig gebruik van die technieken het steeds lastiger wordt om de authenticiteit en autoriteit van tekstuele informatie, afbeeldingen, video’s en audio vast te stellen. ‘Generatieve ai kan, zelfs zonder dat sprake is van kwade bedoelingen, feitelijk onjuiste informatie produceren en verspreiden’, staat in het jaarrapport.
Overigens wil de NCTV allerminst een eenzijdig doembeeld schetsen van generatieve ai. Het schrijft dat de technologie ook is in te zetten ter verdediging tegen cyberaanvallen. Bijvoorbeeld door cybersecurity-adviezen te genereren.
Cyberbeveiligingsrisico’s van ai volgens NCTV
- De algoritmen en de data waarmee de algoritmen worden gevoed, kunnen doelbewust worden gemanipuleerd. Dat kan bijvoorbeeld (maar niet alleen) door middel van cyberaanvallen;
- Gebruikers kunnen (onbedoeld en onbewust) toegang geven tot zoekvragen en/of gevoelige informatie door de vragen die ze stellen, de informatie die ze invoeren of de informatie waarmee ze de applicaties voeden;
- Generatieve ai kan worden gebruikt voor cyberaanvallen. Zo kunnen met behulp van ai meer op een ontvanger toegesneden phishing-mails worden gemaakt. Dit geeft een grotere kans dat de ontvanger die als betrouwbaar beoordeelt. Ook kan laagdrempelig malware worden ontwikkeld.
NCSC
Het Cybersecuritybeeld Nederland wordt jaarlijks vastgesteld door de NCTV. Daarbij is nauw samengewerkt met het Nationaal Cyber Security Centrum (NCSC).
Bekijk hier het Cybersecuritybeeld Nederland 2023 in vogelvlucht of het gehele rapport.
