De explosieve groei van ai dreigt de vraag naar datacenterrekenkracht en energie verder op te jagen. Onderzoekers van de Technische Universiteit Eindhoven (TU/e) werken daarom aan een alternatief: een energiezuinige chip waarmee complexe ai-berekeningen lokaal op smartphones, laptops en andere apparaten zijn uit te voeren.
De zogenoemde Chimera-chip (zie foto) is ontwikkeld binnen het Europese onderzoeksproject Convolve, geleid door de TU/e. De chip combineert verschillende ai-accelerators, die elk zijn afgestemd op specifieke soorten berekeningen. Door die gespecialiseerde onderdelen samen te brengen, moet ai efficiënter aan de rand van het netwerk, oftewel op het apparaat zelf, kunnen draaien.
Dat kan de afhankelijkheid van datacenters verminderen. Veel ai-toepassingen sturen gegevens nu naar een centraal datacenter voor verwerking. Dat kost niet alleen rekenkracht en energie, maar betekent ook dat data heen en weer moeten worden getransporteerd. Lokale verwerking kan die datastroom beperken en resulteert tegelijkertijd in een snellere respons en meer privacy.
Traditioneel
Volgens de TU/e zit de innovatie niet alleen in de chip zelf, maar ook in de manier waarop die is ontworpen. Onderzoekers hebben ai-algoritmes, processorarchitectuur, geheugen en elektronische schakelingen gelijktijdig geoptimaliseerd. Traditioneel worden deze onderdelen meer afzonderlijk ontworpen. Het onderzoeksteam bouwde vervolgens prototypechips en testte die met echte ai-workloads. De metingen wijzen volgens de onderzoekers uit dat de gekozen aanpak daadwerkelijk tot een energiezuiniger ontwerp leidt.
De resultaten worden deze week gepresenteerd tijdens de European Solid-State Electronics Research Conference in Spanje. Aan het project werken naast de TU/e onderzoekspartners uit onder meer Leuven, Delft en Zürich en verschillende industriële partijen mee.
De ontwikkeling komt op een moment dat de groei van ai steeds nadrukkelijker botst met beperkingen op het gebied van energie, datacentercapaciteit en watergebruik. Met efficiëntere edge-chips is een deel van die belasting mogelijk te verplaatsen van het datacenter naar het apparaat waar een beroep op de ai-toepassing wordt gedaan.
