Tijdens een interne evaluatie ontsnapte een experimenteel OpenAI-model zelfstandig uit een beveiligde testomgeving en compromitteerde de productie-infrastructuur van ai-platform Hugging Face. OpenAI omschrijft het zelf als een ‘ongezien cyberincident waarbij gebruik is gemaakt van state-of-the-art cybermiddelen’.
Terwijl de wereld nog nakijkt van Anthropic Mythos, publiceert OpenAI een incidentrapport dat best wel evenveel aandacht verdient.
Wat is er precies gebeurd? Modellen op basis van GPT-5.6 Sol en een nog krachtiger pre-releasemodel – beide met bewust verlaagde veiligheidsdrempels om hun maximale cybercapaciteiten te kunnen meten – werden ingezet op een interne cybersecuritybenchmark.
In die geïsoleerde omgeving vonden de modellen zelfstandig een zero-day kwetsbaarheid in een interne package registry proxy. Ze bouwden zo een keten van aanvalsvectoren op tot ze een remote code execution op de Hugging Face-servers bereikten en toegang kregen tot de productiedatabase. Het securityteam van Hugging Face detecteerde en stopte de activiteit. OpenAI ontdekte het anomale gedrag intern.
Nieuw speelveld
Dimitri Van Zantvliet, ciso bij de NS, plaatst het incident in een bredere context. ‘Als dit representatief is voor waar frontier-modellen vandaag staan, dan verandert het speelveld fundamenteel’, schrijft hij op LinkedIn. ‘De tijd tussen het ontdekken van een kwetsbaarheid en het grootschalig misbruiken ervan wordt steeds korter. Cyberoperaties worden autonomer, meer schaalbaar en sneller dan veel organisaties kunnen bijbenen.’
Onafhankelijke evaluaties van het UK AI Security Institute bevestigen overigens die trend: frontier-modellen zijn steeds beter in staat tot complexe, langdurige cyberoperaties in reële omgevingen. Van Zantvliet wijst ook op geopolitieke implicaties. ‘Als de VS en China dit soort modellen beschikbaar gaan stellen, hebben we er in de EU een ander probleem bij als we zelf niet snel eigen capaciteit ontwikkelen.’
Strenge maatregelen
OpenAI kondigt intussen strengere beveiligingsmaatregelen aan rond evaluatieomgevingen en trekt Hugging Face in zijn trusted access-programma. Beide bedrijven pleiten voor open samenwerking als basis voor ai-veiligheid, een boodschap die na dit incident moeilijk te negeren valt.
Toch raadt Van Zantvliet aan om ook kritisch te blijven. ‘Misschien zit er een marketingcomponent in’, oppert hij. ‘Dat geldt inmiddels voor vrijwel alle frontier ai-labs. Die triljoenen moeten ook terugverdiend worden.’
