Dit zijn (soms ook zorgwekkende) gevolgen van ai voor cyberbeveiliging

BLOG – Artificial intelligence (ai) en de potentie ervan zijn hot topic waarover met gemengde gevoelens gediscussieerd wordt. Organisaties zien weliswaar het potentieel ervan en als een mogelijkheid om te innoveren, maar maken zich tegelijk zorgen. Ongeacht de hype rond dit onderwerp, wat zijn de gevolgen van ai voor cybersecurity?

Op de korte termijn zullen grote wereldwijde gebeurtenissen zoals verkiezingen de dupe zijn van ai in desinformatiecampagnes op sociale media. Doordat ai nu eenvoudig toegankelijk is, kan iedereen het aanwenden om nepvideo’s en geluidsopnames te maken die er echt uitzien.

Hoewel het niet direct gerelateerd is aan traditionele it-beveiliging, worden ‘deepfakes’ ook steeds vaker gecombineerd met sociale-engineering-aanvallen. Deze combinatie van technologie en manipulatie is een grote zorg voor beveiligingsmedewerkers, vooral omdat algoritmen steeds beter worden in het omzeilen van traditionele verdedigingsmechanismen. Hierdoor zijn geavanceerde technologieën niet meer tegen te houden.

Krachtiger

Op middellange termijn zullen bedreigingsactoren ai gebruiken om hun tools nog krachtiger te maken. Ze zullen generatieve ai aanwenden om hun vaardigheden te verfijnen en geavanceerdere bedreigingen te creëren. Zo zal ai kwaadwillende actoren in staat stellen hun (op een specifieke ontvanger gerichte) spear phishing-e-mails nog overtuigender te maken met juiste geografische verwijzingen, jargon en grammaticaal correcte en in moedertaal gespelde teksten. Ze zullen ook in staat zijn om ai-modellen te instrueren om aan internet blootgestelde bedrijfsmiddelen van organisaties te identificeren, inclusief de diensten die daarop draaien zodat kwetsbaarheden in deze diensten zijn op te sporen.

Daarnaast kunnen we verwachten dat generatieve ai opgeld gaat doen voor het verkennen van mogelijkheden, zoals aanvaller-specifieke slachtofferinformatie en pre-compromise zoals netblock ranges en open diensten/poorten. Het zal mogelijk zelfs opduiken bij het scannen op kwetsbaarheden.

Co-pilots

Als we verder in de toekomst kijken, is er een kans dat bedreigingsactoren ai-gedreven security-co-pilots creëren om te helpen bij aanvallen, te assisteren bij taken als zijwaartse beweging en het escaleren van rechten. Hoewel dit concept nog niet volledig is gerealiseerd, krijgt is er op ondergrondse fora en sociale netwerken steeds meer aandacht voor hoe aanvallers ai-technologie als wapen kunnen hanteren. Deze co-pilots zouden aanvalsprocessen gestroomlijnder maken en eventuele reacties op incidenten versnellen door minder handmatige analyses van waarschuwingen, met name degenen met een hoge prioriteit. Co-pilots zouden van invloed kunnen zijn op workflows en uiteindelijk de reactietijd van het security operations center op incidenten kunnen verkorten, simpelweg omdat het handmatig werk vermindert dat nodig is voor het analyseren van waarschuwingen.

Onmiskenbaar

De groeiende rol van ai in cyberbeveiliging is onmiskenbaar. Terwijl dit gebied zich ontwikkelt, is het cruciaal voor organisaties om op de hoogte te blijven, verdedigingen aan te passen en ai-gedreven bedreigingen effectief te bestrijden. Maar om te zorgen voor een goede ai-gedreven toekomst, moeten ze ook profiteren van ai om hun beveiliging te verbeteren.

Ai zal het cybersecuritylandschap de komende jaren transformeren en zal waardevoller zijn dan dat we ons nu kunnen indenken. Het zal een onmisbaar hulpmiddel worden in het beveiligingsarsenaal en de efficiëntie en effectiviteit exponentieel verbeteren. In de toekomst zal ai voor ontwikkelaars fungeren als een co-pilot, die realtime-begeleiding biedt bij veilige programmeerwerkzaamheden. Dit zal aanzienlijk helpen bij het verminderen van ‘alertmoeheid’ bij security operations teams, waardoor ze meer tijd zullen hebben om zich te richten op de meest kritieke bedreigingen. Bovendien zal de taak van de aanvaller aanzienlijk moeilijker worden dankzij door ai ondersteunde beveiliging. Kortom, een toekomst vol mogelijkheden ligt in het verschiet.

Ai is veel meer dan een modewoord. Het is een krachtig middel dat bepalend is voor de toekomst van cybersecurity. Als organisaties ai-gedreven beveiligingsoplossingen in de strijd werpen, zullen ze een significante verbetering zien in hun cybersecurity. Naarmate de technologie zich verder ontwikkelt, moeten beveiligers en organisaties zich snel aanpassen om de steeds geavanceerdere tegenstanders voor te blijven.

Kyle Wilhoit is director for threat research bij Unit 42 Threat Intelligence