Cisco introduceert AI Defense, een oplossing die de veiligheid van ai-toepassingen moet waarborgen. De nieuwe software belooft zichtbaarheid, detectie en bescherming voor ai-workloads, modellen en applicaties in complexe cloud-omgevingen.
Het technologiebedrijf, bekend om zijn netwerk- en cybersecurity-oplossingen, zegt bescherming te bieden tegen uiteenlopende soorten dreigingen. Te denken valt aan prompt-injecties, datalekken en denial-of-service-aanvallen. Ook tegen misbruik van ai-tools en geavanceerde bedreigingen die bestaande beveiligingsoplossingen nog niet kunnen aanpakken, zou AI Defense soelaas bieden.
Cisco ziet het product als een stap vooruit in de beveiliging van kunstmatige intelligentie. AI Defense richt zich op zowel de ontwikkeling als het gebruik van ai-toepassingen. Bedrijven kunnen veilig met ai werken omdat de software ook tegen nieuwe veiligheidsproblemen en dreigingen bestand is, zo claimt Cisco. AI Defense geeft ook inzicht in het gebruik van ai binnen organisaties en biedt toegangscontrole om misbruik van ai-tools te voorkomen. De oplossing maakt gebruik van Cisco’s machine learning-modellen en is ingebouwd in de Security Cloud, Cisco’s uniforme beveiligingsplatform.
Jan Heijdra, securitytopman bij Cisco Nederland, stelt vast dat organisaties die met een soort gold rush-ambitie ai implementeren zonder gepaste cyberbeveiliging, kunnen kampen met hallucinaties, irrelevante antwoorden en security-kwetsbaarheden. ‘Dat kan leiden tot financiële en reputatieschade. Om die kwetsbaarheden bloot te leggen, is inzicht nodig in het ai-gebruik door medewerkers en applicaties. De geautomatiseerde pentests door AI Defense geven organisaties de mogelijkheid om large language models doorlopend te testen. Zo kunnen ze de kwaliteit en betrouwbaarheid van ai in hun eigen processen waarborgen.’
