De nieuwe tool Agent Rewind van Rubrik zou organisaties in staat moeten stellen om ongewenste acties van ai-agenten op een veilige manier ongedaan te maken.
Databeheerspecialist Rubrik heeft Agent Rewind gelanceerd. Hiermee kunnen organisaties ‘fouten van agentische ai ongedaan maken door inzicht te bieden in de acties van agents en bedrijven in staat te stellen die wijzigingen in applicaties en data terug te draaien,’ aldus het bedrijf. Onvoorspelbare en moeilijk traceerbare acties zijn een belangrijke uitdaging voor het veilige gebruik van ai-agents.
‘Wanneer bedrijven overwegen te investeren in ai, houden ze vaak geen rekening met de fouten die ai-agenten kunnen en zullen maken’, legt Rubrik uit. Met artificiële intelligentie (ai) kunnen weliswaar kosten worden bespaard, maar ai-agents maken net als mensen fouten. Zulke niet-menselijke fouten moeten ook gemonitord worden om zo ‘mogelijk catastrofale fouten van agentische ai te kunnen corrigeren. Want ‘naarmate ai-agents meer autonomie krijgen en resultaten optimaliseren, kunnen onbedoelde fouten leiden tot bedrijfsuitval.’
Ai agenten controleren, traceren en corrigeren
Recente incidenten met fouten van ai-agents belichten een scala aan situaties, variërend van technische storingen en juridische kwesties tot zelfs het verwijderen van volledige productiedatabases. Agent Rewind moet voorheen ondoorzichtige ai-acties zichtbaar, controleerbaar en omkeerbaar maken, en creëert een audittrail en onveranderlijke snapshots die een veilige terugdraaiing mogelijk maken. Huidige observatietools laten alleen zien wát er is gebeurd, maar niet waaróm, of hoe risicovolle acties ongedaan kunnen worden gemaakt, aldus Rubrik.
De nieuwe tool moet agentgedrag, toolgebruik en impact in kaart brengen, ‘terwijl elke actie in context wordt geplaatst en teruggebracht tot de hoofdoorzaak, van prompts tot plannen tot tools, om nauwkeurig herstel mogelijk te maken wanneer er iets misgaat.’ Daarbij biedt het een ‘veilige rollback’ waarbij wijzigingen teruggedraaid worden vanuit een securitycloud.
AI-“undo”-tools zijn een stap richting een systeem resilience maar zijn geen vervanging voor het menselijke toezicht op besluitvorming of de juridische verantwoordelijkheid. Wie AI hype volgt zonder deze nuance overschat niet alleen de capaciteiten van AI maar onderschat vooral ook de risico’s.