Achtergrondkennis kan vaak in de weg komen te zitten van data, waardoor artificial intelligence (ai) vreemde conclusies trekt en verkeerde informatie geeft. Deze conclusie trekt Emile van Krieken na onderzoek dat erop is gericht om ai betrouwbaarder te maken. Zijn doel is dat iedereen die met ai in contact komt, erop kan vertrouwen dat die uitsluitend correcte informatie en redeneerstappen gebruikt om tot antwoorden te komen.
Van Krieken hoopt op 15 januari aanstaande op dit onderwerp te promoveren aan de VU Amsterdam. Centraal in zijn proefschrift staat de vraag hoe je kunt voorkomen dat ai-modellen zoals die van ChatGPT in de fout gaan. Deze modellen maken gebruik van deep Learning, machine learning algoritmes die gebruik maken van enorme hoeveelheden data. Ze maken alleen wel veel fouten in het redeneren, en herkennen en produceren van feiten. Dit wordt traditioneel opgelost met symbolische methoden in ai, die zijn gebaseerd op logica en formeel redeneren.
Emile van Krieken deed onderzoek in de zogenoemde neuro-symbolische ai. Dit vakgebied probeert te begrijpen hoe een ai-model tot een conclusie komt en welke informatie het daarvoor heeft gebruikt. Hij onderzocht de vraag hoe we de achtergrondkennis die we van een probleem hebben effectief kunnen communiceren aan ai-modellen. De jonge promovendus analyseerde bestaande methodes voor het communiceren van achtergrondkennis en ontwierp nieuwe methodes.
Al zijn vier onderzoeksvragen hebben betrekking op optimalisatieproblemen. Binnen neuro-symbolisch leren omvat optimalisatie met populaire methoden zoals gradiëntafdaling een vorm van redeneren. Er zijn volop mogelijkheden om te bestuderen hoe dit optimalisatie-perspectief de neuro-symbolische leermethoden verbetert. Van Krieken hoopt met zijn proefschrift antwoorden te bieden die nodig zijn om praktisch neuro-symbolisch leren werkelijkheid te maken: waar beoefenaars zowel gegevens als kennis aanleveren die de neuro-symbolische leermethoden zo efficiënt mogelijk gebruiken om de volgende generatie neurale netwerken te trainen.
