KRITIKOS is een AI-chatbot die studenten géén antwoorden geeft, maar kritische vragen stelt. Deze open-source browserextensie zorgt dat AI het denken verrijkt in plaats van vervangt: dieper leren, minder afhankelijkheid, just-in-time reflectie. Ontwikkeld door en voor studenten.
Algemene beschrijving (incl. samenvatting van onderstaande vier punten)
Generatieve AI dreigt het leerproces te veranderen in een leerillusie: output zonder beheersing, een succeservaring zonder de worsteling waar studenten echt van leren. De meest gebruikte AI-tools zijn gebouwd als humble servants gericht op gebruiksgemak en het wegnemen van frictie. Terwijl leren juist productieve frictie vereist. KRITIKOS is het antwoord van de Hogeschool Utrecht op dit dilemma.
KRITIKOS is een digitale partner die studenten dwingt om zelf na te denken en bewuste, ethische keuzes te maken over hun AI-gebruik. Het is een browser-extensie, geschreven in Javascript, die fungeert als Socratische gesprekspartner. Zodra een student een AI-tool als ChatGPT of Perplexity opent, komt KRITIKOS just-in-time het scherm in met een kritische vraag: "Waarom gebruik je nu AI?". Via een LLM-aangedreven dialoog wordt de student aangespoord tot metacognitie op het moment dat het ertoe doet: tijdens het werk en niet achteraf.
Technisch onderscheidend is de local-first architectuur. Reflectiedata wordt opgeslagen op de eigen laptop van de student. Er is geen centrale database. De student kiest zelf of deze een reflectieverslag exporteert en deelt met de docent. Het project is ontwikkeld binnen de HU-onderzoeksgroep CARE (Critical AI in Research and Education) volgens Value Sensitive Design principes. Het project is ontwikkeld in co-creatie met studenten, docenten, onderzoekers, bilbliotheken en ethici en draait momenteel in pilots bij 5 studentengroepen.
Beschrijf welke uitdagingen en risico's er met dit ict-project zijn overwonnen
De grootste uitdaging voor het onderwijs is hoe je studenten kunt begeleiden richting kritisch AI-gebruik, zonder in de valkuil van een surveillance cultuur te trappen. Hoe begeleid je kritisch AI-gebruik in de browser op een manier die ethisch verdedigbaar is? Drie concrete problemen moesten worden opgelost.
Ten eerste kan een tool die je workflow onderbreekt en vragen stelt, kan snel aanvoelen als een digitale politieagent. Het risico was dat studenten de extensie simpelweg zouden uitschakelen. De oplossing was student-led development: studenten bepaalden zelf de UX, de toon en de frequentie van de interventies. Het resultaat is een tool die voelt als een coach, niet als een bewaker.
Ten tweede kon het initiële ontwerp meelezen van scherminhoud voor betere contextherkenning. Uit Value Sensitive Design-sessies met studenten, docenten en ethici bleek dit onwenselijk, ook los van de technische privacyrisico's. Door VSD methodes te gebruiken konden we de onderliggende waarden, zoals privacy, autonomie en transparantie, identificeren en meenemen in het (her)ontwerp. De herontworpen architectuur is bewust simpeler: de extensie detecteert AI-URL's, maar de inhoud van de interactie is volledig wat de student zelf invoert. Er is geen koppeling naar een docenten-dashboard. Data blijft lokaal.
Ten derde bleken lokale taalmodellen waren onvoldoende krachtig voor de beoogde Socratische dialoogkwaliteit. De gekozen oplossing is een hybride aanpak: een lichtgewichte extensie die via een beveiligde API communiceert met een extern model. De architectuur is zo opgezet dat toekomstige migratie naar on-device modellen mogelijk is, zodra de kwaliteit dat toelaat, wat zowel kosten als het resterende privacyrisico verder minimaliseert.
Beschrijf de gerealiseerde toegevoegde waarde voor de interne of externe klant
Voor studenten: KRITIKOS doorbreekt de automatische piloot. Uit ons onderzoek aan de HU blijkt dat studenten AI vaak gebruiken zonder bewuste afweging. AI-gebruik is dan geen keuze, maar een automatisme. KRITIKOS maakt dat automatisme zichtbaar op het moment zelf. Kwalitatieve feedback uit de pilots laat zien dat studenten zich bewuster worden van hun leerstrategie en vaker kiezen voor AI-gebruik dat hun begrip verdiept in plaats van vervangt. Ze leren de tool te sturen in plaats van door de tool gestuurd te worden. De exportfunctie geeft hen bovendien aantoonbaar bewijs van hun eigen denkproces, bruikbaar als portfolio-onderdeel of reflectiegesprek.
Voor de docent: AI-gebruik tijdens thuiswerk was voorheen een black box. De piloits tonen dat KRITIKOS die ondoorzichtigheid doorbreekt. Niet via surveillance, maar via vrijwillig gedeelde reflectieverslagen. Docenten krijgen hierdoor zicht op het proces achter een antwoord of product. Ze geven aan dat dit gesprekken over leerstrategieën en integer AI-gebruik concreet en hanteerbaar maken. Zoals een docentopleider het samenvatte: "KRITIKOS is een concrete oplossing van een bekend probleem."
Maatschappelijk: Met KRITIKOS leiden we professionals op die kritisch en autonoom blijven denken in een beroepspraktijk vol AI. De tool is open source, ontwikkeld door en voor het onderwijs, en zonder zonder commerciële lock-in beschikbaar voor het hele Nederlandse onderwijs.
Beschrijf de originaliteit en/of innovatieve kracht van/in het ict-project
Terwijl de hele IT-sector lijkt te concurreren op snelheid, efficiëntie en het wegnemen van drempels, innoveert KRITIKOS door bewust het tegenovergestelde te doen: het ontwerpen van educatieve AI die frictie juist centraal stelt. De kern van de innovatie zit in reverse prompting als alternatief voor de gebruikelijke AI-chatbots. Hierbij bevraagt de mens de AI niet, maar nodigt de AI de mens juist uit na te denken. Dit is een fundamenteel ander interactiemodel dan wat de EdTech-markt nu biedt. Bestaande tools zijn veelal in te delen in twee kampen: AI-assistenten die denkwerk overnemen, of detectie- en proctoringsoftware die studenten wantrouwt en aantoonbaar slecht werkt. KRITIKOS is geen van beide. Het is een just-in-time interventie die op het moment van handelen, niet achteraf in een invuloefening, de student confronteert met de vraag waarom ze doen wat ze doen. Het is een gereedschap dat studenten helpt AI beter te gebruiken: bewuster, doelgerichter, in lijn met hun eigen leerdoelen.
Beschrijf de kracht van de interne of externe leverancier
KRITIKOS wordt ontwikkeld door CARE (Kritische AI-geletterdheid in Onderzoek en Onderwijs), de HU-onderzoeksgroep die is verkozen tot Onderzoeksteam van het Jaar 2025. Hun aanpak kenmerkt zich door co-creatie, multidisciplinair, en waardegedreven ontwerp van onderwijsinnovaties.
Wat KRITIKOS onderscheidt is dat het in directe co-creatie met studenten. Studenten van de opleidingen Open-ICT en Software Development en Data-Driven Design waren lead developers: zij schreven de Javascript-code, bepaalden de UX en stelden de ethische grenzen van het ontwerp mede vast. KRITIKOS is hiermee geen product van een externe leverancier, maar een tool gemaakt voor én door studenten.
Het team werkt multidisciplinair samen.
KRITIKOS brengt ICT-ontwikkeling, onderwijskundig onderzoek, ethiek, bibliotheekexperts, privacy officers en docenten samen in één proces. Dit leidt tot een AI-tool die technisch sterk is én didactisch verantwoord.
Waardegedreven ontwerp vormt de basis van hun werkwijze. Via Value Sensitive Design worden waarden van stakeholders zichtbaar gemaakt en ingebouwd in de ontwerpkeuzes. Een concreet resultaat: de local-first architectuur maakt van privacy geen disclaimer maar een ontwerpkeuze.
Door te kiezen voor open source plaatst het project zichzelf buiten de logica van commerciële lock-in: een ethische AI-tool, gebouwd met publiek geld, beschikbaar voor het hele onderwijs.