De ai-wereld schudt op haar grondvesten. Groot is de bezorgdheid over de veiligheid sinds bekend werd dat een ai-model van OpenAI tijdens een benchmarktest op eigen houtje uit de testomgeving brak. Veel is er momenteel ook te doen over ‘open weight ai’, gratis Chinese ai-modellen die makkelijk aanpasbaar zijn en ook lokaal (on-premises) zijn te draaien.
OpenAI heeft nog veel uit te leggen over de ai-agent die eigenhandig de infrastructuur van Hugging Face, een platform voor het delen van ai-tools en -modellen, compromitteerde. En dan zijn er ook nog de gratis Chinese ai-modellen (‘open weight ai’): makkelijk aanpasbaar en lokaal te draaien. Deze open modellen zijn weliswaar technisch niet zo sophisticated als de ‘frontier modellen’ van Anthropic en OpenAI, maar goed genoeg voor ontwikkelaars met beperkte budgetten.
Veel tumult
Chinese modellen als Kimi K3 hebben beduidend minder rekenkracht nodig waardoor ze veel marktaandeel kunnen wegsnoepen bij de grote Amerikaanse ai-bedrijven. Die hebben gigantische bedragen geïnvesteerd in ai-rekencentra, waardoor de vraag rijst of die ongekend hoge investeringen ooit zijn terug te verdienen.
De ai-race is geen F1 in Monaco waarbij nauwelijks positiewisselingen mogelijk zijn. De concurrentieverhoudingen liggen nog lang niet vast. De afgelopen dagen boden veel tumult op ai-gebied. En die onzekerheid lijkt nog lang niet van de baan.
De meeste aandacht ging de afgelopen week uit naar het ai-programma van OpenAI dat tijdens een proef de testomgeving verliet via een gat in de beveiliging. Kennelijk werkten de vangrails niet of stonden die uit. Volgens OpenAI was er sprake van een ontsnapping uit de sandbox (afgeschermde testomgeving) waardoor het ai-programma op internet wist te komen en Hugging Face kon hacken om de oplossing te vinden voor de testvraag.
Pr-stunt?
In de ai-wereld ontstond een hevig debat of het echt een ongeluk was of een ordinaire pr-stunt bedoeld om de superioriteit van OpenAI’s software aan te tonen. In ieder geval staat vast dat OpenAI er in slaagde de aandacht op zich te vestigen. En de sandboxen zoals OpenAI die toepast, zijn allerminst veilig als ai-agenten te veel vrijheid wordt geboden. Jaya Baloo, cybersecurity-expert bij security-adviseur Aisle, zei tegenover de NOS dat de ai ook niet op hol is geslagen maar precies deed wat OpenAI vroeg om te doen en dat toeliet.
Hype marketing of niet, OpenAI zal snel volledig opening van zaken moeten geven over wat er precies is gebeurd. Ook strengere beveiligingsmaatregelen zijn broodnodig. Daar zijn alle ai-experts het over eens. Technische details over de ‘exploit’ en de precieze kwetsbaarheid ontbreken tot nog toe. Uiteraard moet de wijze van sandboxing die ongetwijfeld ook elders is uitgerold, eerst worden gerepareerd voordat nadere informatie naar buiten kan worden gebracht.
Trage reactie
Bovendien moet OpenAI opheldering geven over haar trage respons op het veiligheidsincident. Uit een reconstructie van persbureau Reuters blijkt dat OpenAI pas na een week doorhad dat de ai-agent tijdens de test uit de sandbox was ontsnapt en Hugging Face was binnengedrongen. Inmiddels had deze opslagplaats van ai-software al de FBI ingeschakeld.
Op 9 juli probeerde de ai-agent internet te bereiken. Twee dagen later begonnen de aanvallen op Hugging Face die tot 13 juli duurden. Pas nadat Hugging Face bekend had gemaakt door een ai-agent te zijn aangevallen, begon het bij OpenAI wat te schemeren. In zeer korte tijd vonden 17.000 aanvallen plaats op het netwerk van Hugging Face. Bloomberg meldt dat de agent er maar enkele uren voor nodig had om binnen te dringen. Een menselijke hacker zou daar weken mee bezig zijn geweest, aldus bronnen van het persbureau.
Alarmbellen
Volgens Reuters zag OpenAI niet eerder dan op 18 juli in de interne logboeken dat de ai-agent uit de geïsoleerde omgeving was ontsnapt. De monitoring was zo gebrekkig of de medewerkers hielden die zo slecht in de gaten dat de ontsnapping een week lang onopgemerkt bleek. Vervolgens traden OpenAI en Hugging Face hierover pas op 20 juli naar buiten.
En OpenAI had nog een extra dag nodig om zijn verantwoordelijkheid te erkennen. Twee nieuwe versies van ChatGPT, afgericht op het hacken, waren de schuldigen. Dit verhevigt de discussie of ai-bouwers voldoende letten op de veiligheid. Het incident moet de alarmbellen in de ai-sector doen rinkelen.
Goedkope Chinezen
Behalve problemen met de veiligheid worstelt de Amerikaanse ai-industrie ook met goedkope Chinese ‘open weight’-ai-modellen die heel bruikbaar blijken voor ‘het gewone ai-werk’. Naar verluidt zouden de Chinezen deze modellen destilleren uit de dure, meer geavanceerde ai-modellen van Amerikaanse makelij. Ze zouden hun eigen modellen trainen met de output van andere modellen van concurrenten. Ze halen inzichten uit de analyse van deze koplopers en maken daar meer eenvoudige modellen van die aanzienlijk minder rekenkracht vergen.
Volgens het Britse AI Security Institute (AISI) presteren recente open modellen als GLM-5.2 en DeepSeek V4-Pro even goed als hun Amerikaanse (frontier) gesloten tegenhangers van vier tot zeven maanden oud. Vorig jaar bedroeg die achterstand nog zes tot tien maanden.
Protectionisme?
Tot schrik van Silicon Valley dreigen de Chinezen steeds meer marktaandeel te kapen. Niet alleen omdat ze veel goedkoper in het gebruik zijn, maar ook omdat deze modellen parameters kennen die iedereen kan downloaden en wijzigen. Je kunt ze ook op eigen servers draaien. En de data hoeven niet terug naar de leveranciers van die modellen. Net als bij zonnepanelen en elektrische voertuigen lijkt China de VS te slim af te zijn. De gigantische kapitaaluitgaven die Big Tech doet aan ai, dreigen hierdoor minder rendement op te leveren. Google bijvoorbeeld investeert dit jaar 205 miljard dollar, voornamelijk aan ai.
Met name OpenAI, Google Gemini en Anthropic zien de markt voor hun dure modellen kleiner worden als bijvoorbeeld ontwikkelaars van startups hun toevlucht nemen tot goedkope Chinese alternatieven. Nu hebben ze ongeveer driekwart van de markt voor ai-assistenten. Maar dat kan snel veranderen.
In Amerika, tot voor kort allergisch voor overheidsbemoeienis, klinkt nu ineens de roep om regulering. Maatregelen zouden de destillatie van technologie moeten tegenhouden. De regering in Washington gaat in ieder geval al onderzoeken of de Chinezen zich aan diefstal van intellectueel eigendom schuldig gemaakt hebben. Ook dat is pikant want juist Amerikaanse ai-bedrijven bleken het de afgelopen jaren niet zo nauw te nemen bij het op grote schaal oogsten van persoonlijke data en informatie waarop auteursrechten rusten.
Koekje van eigen deeg
Veel ai-aanbieders zijn ervan beschuldigd hun ai-modellen met content te trainen waarop geen rechten zijn afgedragen. Big Tech bleek ook allerminst vies te zijn van agressieve track-methodes en internet-scraping. Nu een koekje van eigen deeg dreigt, komt in Washington een lobby op gang die op maatregelen aanstuurt.
Tegelijk is een tegenbeweging ontstaan. Zo’n 200 startups en investeerders uit Silicon Valley waarschuwen de regering Trump voor te verstrekkende beperkingen van de Chinese ‘open weight’-modellen. Volgens deze Little Tech Association (littletech.org) zouden veel jonge bedrijven (innovatie)kansen gaan missen als ze geen toegang krijgen tot goedkope alternatieven.
Het koekje van eigen deeg, gebakken met het graan van een ander. De discussie over AI gaat vaak over intellectueel eigendom, terwijl de echte grondstof het intellectueel kapitaal is: de kennis, creativiteit en ervaring van mensen ongeacht waar zij geboren zijn.
De Verenigde Staten en China wedijveren al jaren om dat kapitaal. De één met universiteiten, durfkapitaal en salarissen en de ander met staatssteun en een enorme thuismarkt. Daarmee verschuift de strijd van het beschermen van ideeën naar het aantrekken van de mensen die nieuwe ideeën kunnen ontwikkelen.
Dat maakt de discussie over Chinese concurrentie ook dubbelzinnig. Wie jarenlang wereldwijd talent heeft aangetrokken en buitenlandse kennis heeft geïntegreerd in zijn eigen innovatie-ecosysteem, kan moeilijk verbaasd zijn dat andere landen nu dezelfde strategie volgen. De vraag is daarom niet alleen wie de beste AI bouwt, maar wie de aantrekkelijkste omgeving creëert voor de mensen die haar ontwikkelen.
Misschien is dat wel de grootste ironie/paradox. We spreken over intellectueel eigendom alsof patenten de sleutel van de bibliotheek zijn terwijl de echte sleutel altijd de mensen zijn die de boeken kunnen schrijven.