Flexibles KI-Deployment und KI-Plattformen für eingebettete, automotive Anwendungen (Akronym: MANNHEIM-FlexKI

Abstract

FlexKI ist ein Verbundprojekt zahlreicher Partner zu Bereitstellung einer flexiblen Hardware Plattform für KI Beschleuniger und neuronale Netzwerk Modelle. Neumonda GmbH hat an dem Teilprojekt Speicher DDR-4 PHY gearbeitet und entsprechendes Hardware IP entwickelt. Bestehende KI-Plattformen zur Realisierung von hochkomplexen, Kl-basierten Fahrfunktionen besitzen eine elektrische Leistungsaufnahme von mehreren Kilowatt, so dass die Energieeffizienz bei einem Maximum an Verlässlichkeit und Vertrauenswürdigkeit beim Entwurf solcher Systeme für "mission critical" Anwendungsszenarien eine entscheidende Rolle spielt. Dieser Markt wird vielfältig besetzt, von klassischen GPU-Herstellern, wie Nvidia mit der Xavier-, der Orin- und künftig der Atlan-Architektur über spezialisierte HW-Anbieter wie z.B. Intel Mobileye mit Q5/Q6 sowie Smartphone System-on-Chip (SoC)-Anbieter wie Qualcomm mit Snapdragon Ride und Huawei HiSilicon Ascend bis hin zu Automotive OEMs, wie Tesla mit dem Full-Self Driving Computer-Chip. Inzwischen werden Al Server Farmen diskutiert, bei denen die Leistungsaufnahme eines Gestells (Rack mit mehreren Kl Server Einschüben) 1 Mio Watt erreicht! FlexKl verfolgt hierbei hier das flexible Deployment von KI-Applikationen mit Hilfe eines HW/SW-Co-Design-Ansatz auf eine neue maßgeschneiderte, energieeffiziente KI-HW-Plattform. Heutige KI-Applikationen benötigen einen massiven DRAM Anteil, um das gesamte neuronale Netzmodell im Arbeitsspeicher zu halten. Aufgabe der Neumonda GmbH war es, in Zusammenarbeit mit TUDa und TUK eine leistungsstarke DDR-4 DRAM Speicherkanal-Anbindung zu generieren.