BLOG – Stel je voor, een ai die voortdurend meedenkt binnen je besturingssysteem. Niet als vervanger, maar als slimme bewaker die afwijkend gedrag herkent, syscalls traceert, intenties inschat en verdachte processen tijdelijk in een sandbox plaatst. Zo’n ai zou proactief ingrijpen voordat malware zich kan nestelen. Maar hoe voorkom je dat zo’n ai ontspoort?
De eerste gedachte gaat al snel naar rekenkracht. Veel van deze taken kunnen op moderne apparaten al deels draaien op een neural processing unit (npu), aanwezig in recente smartphones en laptops. Deze chips zijn geoptimaliseerd voor ai-taken zoals beeldherkenning en spraakverwerking, maar lenen zich ook perfect voor gedragspatronen, trust scores en realtime-analyse van processen.
Maar alleen rekenkracht is niet genoeg. Een ai die de integriteit van een systeem bewaakt, moet zelf onaantastbaar zijn. Enter: de rom-gebaseerde logica. Denk aan een onveranderlijke set basisregels, vastgelegd in hardware, die ervoor waakt dat de ai:
- Zichzelf niet kan wijzigen;
- Nooit zonder expliciete toestemming gegevens deelt;
- Altijd zijn eigen acties logt en verklaart;
- Altijd een hardwired kill switch bevat.
Deze rom-gedreven fundamenten vormen als het ware het kompas van de ai. Zelfs als het systeem zelf gecompromitteerd is, blijft de ai handelen binnen de veilige marges van zijn ontwerp. Zo ontstaat er een balans tussen adaptiviteit (via de npu) en betrouwbaarheid (via de rom).
In een ideale wereld zouden deze modules modulair zijn: lokaal actief, met optionele ondersteuning van een krachtige, externe ai die trends en bedreigingen over miljarden apparaten heen herkent, maar zonder jouw gegevens ooit te zien. Denk aan een ai-wachter die getraind is op de wereld, maar loyaal blijft aan jouw device.
Het lijkt sciencefiction, maar het is technisch haalbaar. De echte vraag is: durven we deze stap te zetten, met de risico’s die erbij horen? Want wie zo’n wachter goed inbouwt, wapent zijn systeem niet alleen tegen indringers van buitenaf, maar ook tegen ontsporing van binnenuit – waaronder ontsporing van de wachter zelf.
Misschien wel het belangrijkste onderdeel: vertrouwen moet niet binair zijn, maar contextueel, uitlegbaar en vooral hard verankerd in silicium. Samen met een in hardware gebakken, periodieke interrupt naar de rom in de central processing unit of chipset.
Rob Koelmans is directeur bij MetaMicro Automatisering
![Artist's impresson malware [Afbeelding GrandeDuc/Shutterstock]](https://www.computable.nl/wp-content/uploads/2024/07/Shutterstock_2129049335-375x250.jpg)