NeuSPIN - Entwurf eines zuverlässigen neuromorphen Edge-Systems basierend auf Spintronik für Green AI

Abstract

Bayesianische Neuronale Netzwerke (BayNNs) besitzen die inhärente Fähigkeit, Unsicherheiten in ihren Vorhersagen abzuschätzen – ein entscheidender Vorteil gegenüber konventionellen neuronalen Netzen. Gleichzeitig sind BayNNs jedoch sehr ressourcenintensiv: Sie erfordern hohen Energieverbrauch, große Speicherkapazitäten, geringe Latenzen und eine Vielzahl an Zufallszahlengeneratoren (RNGs) pro Modellinstanz. Ein vielversprechender Ansatz zur Reduktion dieser Kosten besteht in der Implementierung innerhalb einer spintronikbasierten Computing-in-Memory (CIM)-Architektur. Diese Umsetzung ist jedoch technisch anspruchsvoll und mit mehreren Herausforderungen verbunden. Das NeuSPIN-Projekt, ein gemeinsames deutsch-französisches Vorhaben, verfolgte das Ziel einer durchgängigen Optimierung entlang des gesamten Technologie-Stacks – von der Algorithmusebene über die BayNN-Topologie bis hin zum Schaltungsdesign. Dabei stand insbesondere die Implementierung und Optimierung bayesianischer Trainings- und Inferenzprozesse in CIM-Architekturen mit nichtflüchtiger Spintronik-Technologie im Fokus. Durch diesen integrierten Ansatz sollte sowohl der Hardware-Footprint signifikant reduziert als auch energieeffiziente Unsicherheitsabschätzungen für sicherheitskritische Edge-AI-Anwendungen ermöglicht werden.

Zu den wichtigsten Projekterfolgen zählen: - Die Fähigkeit zur Erkennung von bis zu 100 % Out-of-Distribution-Daten (OOD), - Eine kontinuierliche Steigerung der Inferenzgenauigkeit, insbesondere bei fehlerhaften oder verrauschten Eingaben, - Eine erhöhte Robustheit gegenüber Nichtidealitäten und Prozessvariationen in spintronischen Bauelementen.

Ein zentraler Durchbruch wurde durch die enge Verzahnung von algorithmischen Innovationen mit fortschrittlichen Hardwaretechnologien wie Spintronik und CIM erzielt. Dies führte zu einer drastischen Reduktion des Energieverbrauchs (bis zu 100×) und des Speicherbedarfs (bis zu 158,7×). Somit wurde ein wesentlicher Grundstein für die skalierbare, zuverlässige und ressourceneffiziente Implementierung von BayNNs in realen und sicherheitskritischen Anwendungen gelegt. Die Zusammenarbeit zwischen den Projektpartnern, dem Karlsruher Institut für Technologie (KIT) und der Université Grenoble Alpes (UGA), erwies sich als überaus erfolgreich – nicht nur aufgrund der sich ergänzenden Kompetenzen beider Teams, sondern auch durch den Zugang zu realitätsnahen Gerätedaten und Prozessparametern aus der SPINTEC-Fertigung und -Charakterisierung. Abschließend lässt sich festhalten, dass das Projekt NeuSPIN ein wertvolles Know-how an der Schnittstelle von Chipdesign, neuartigen Speichertechnologien und Edge-KI aufgebaut hat. Diese deutsch-französische Zusammenarbeit – zwischen den beiden führenden europäischen Nationen im Bereich Künstliche Intelligenz und Mikroelektronik – hat bereits zu weiterführenden Aktivitäten und Kooperationen im Kontext des EU Chip Acts, des AI Acts sowie der „Chipdesign Germany“ geführt.