ThinKIsense - Ressourceneffiziente Thin-Edge-Systeme durch integrierte KI und neuromorphe Elektronik in Sensoren

Abstract

Das Verbundprojekt ThinKIsense betrachtete die Möglichkeiten der Verlagerung der Inferenz von neuronalen Netzen aus der Cloud in smarte Multisensoren. Das Ziel ist hierbei die Verlängerung der Batterielebensdauer in einem Multisensor, der sonst seine Rohdaten in die Cloud übertragen würde, in der dann die Inferenz eines industriellen KI Modells erfolgt. Dabei verbraucht der Sensor einen signifikanten Anteil des durch zwei AA-Batterien bereitgestellten Energiebudgets für die reine Datenübertragung. Das Ziel des Verbundvorhabens war es, die Batterielebensdauer von drei Jahren auf acht Jahre zu steigern. Im Rahmen des Teilvorhabens des Partners Technische Universität Darmstadt (TUDa) sollten die Möglichkeiten der Effizienzsteigerung von lokalen ML-Berechnungen durch spezialisierte Instruktionssatzerweiterungen (engl. instruction set architecture extensions, kurz ISA-Xes) in einem existierenden RISC-V Prozessor untersucht werden. Dabei war zum einen ein entsprechender Hardware-Entwurf der Instruktionen, zum anderen aber auch eine Anpassung eines Machine Learning (ML)-(Compiler-) Frameworks und eines C/C++-Compilers nötig.