De nieuwe ‘open weight’ taalmodellen van OpenAi zijn gratis beschikbaar, aanpasbaar en lokaal te gebruiken. Ze werken al met slechts 16 gb geheugen en kunnen beter beveiligd worden dankzij een extra evaluatielaag. De nieuwe modellen zijn direct geïntroduceerd door verschillende platforms.
‘Open weight‘ taalmodellen zijn taalmodellen waarvan de gewichten (weights) – dat zijn de getrainde parameters van het model – vrij beschikbaar zijn. Dit betekent dat ontwikkelaars, onderzoekers of bedrijven het model kunnen downloaden, analyseren, aanpassen en zelf draaien (hosten), zonder afhankelijk te zijn van een externe API of gesloten dienst.
OpenAI heeft nu gpt-oss-120b en gpt-oss-20b uitgebracht. ‘Deze modellen zijn beschikbaar onder de flexibele Apache 2.0-licentie en presteren beter dan vergelijkbare open modellen op het gebied van redeneertaken, beschikken over sterke vaardigheden op het gebied van toolgebruik, en zijn geoptimaliseerd voor efficiënte implementatie op consumenten-hardware,’ zegt het bedrijf. De modellen zijn beschikbaar via Github.
Het 120b model benadert o4-mini wat kernredeneringen betreft en draait efficiënt op een enkele gpu van 80 gb, aldus OpenAI. Het 20b model is te vergelijken met o3‑mini en is te gebruiken op edge-apparaten met slechts 16 gb geheugen, ‘ideaal voor on-device usecases, lokale inferentie of snelle iteratie zonder dure infrastructuur’.
De nieuwe modellen zijn compatibel met OpenAI’s responses API en bedoeld voor onder andere gebruik binnen agentic workflows, het uitvoeren van Python-code, en redeneervermogen. De ‘reasoning_effort’ kan ingesteld worden op laag, gemiddeld en hoog. Ontwikkelaars kunnen dit eenvoudig doen met één zin. Bovendien bieden ze volledige chain of thought (CoT) voor complexe redeneringen. Om de veiligheid te vergroten is een extra evaluatielaag toegevoegd, waardoor ze aan ‘ontwikkelaars dezelfde veiligheidsnormen bieden als onze recente eigen modellen.’
Direct geïmplementeerd op platforms
De nieuwe modellen van OpenAI zijn direct opgepikt door de verschillende platforms. Onder andere de ai-vraagbaak voor publieke en maatschappelijke organisaties Postbus42 maakte vandaag bekend ze direct toe te passen.
Ook Databricks meldde ze op het eigen Intelligence Platform in te zetten. ‘Deze nieuwe open modellen bieden een krachtig alternatief voor propriëtaire LLM’s,’ aldus dat bedrijf. ‘Gebruikers kunnen hiermee hun eigen domeinspecifieke ai-agents bouwen, die veilig met hun bedrijfsgegevens kunnen werken. Bovendien zijn de gpt-oss-modellen eenvoudig aan te passen, waardoor organisaties deze kunnen finetunen met hun eigen data om de kwaliteit voor specifieke use cases te optimaliseren.’
