KI4KMU - Verbundprojekt SCAMP: Scale-out Machine-Learning Platform

Abstract

Ziel des Projektes SCAMP ist die Forschung an Basistechnologien für die Entwicklung von anspruchsvollen KI-Anwendungen. Als konkreter Anwendungsfall wird dabei ein datenschutzkonformer digitaler Sprachassistent für Business-Anwendungen betrachtet werden. Im Gegensatz zu den im Consumer-Bereich verbreiteten Sprachassistenten werden in SCAMP keine fremd-betriebenen Cloud-Ressourcen genutzt werden, da deren Vertrauenswürdigkeit nicht immer garantiert werden kann. Stattdessen wird die erforderliche Rechenleistung wirtschaftlich und vertrauenswürdig am eigenen Firmenstandort ("on-premise") oder in einer eigenen Unternehmens-Cloud erbracht werden können. In SCAMP wird unter anderem die fundamentale Forschungsfrage adressiert werden, wie durch geschickte Kombination von verschiedenen Recheneinheiten eine kostengünstige, energiesparende und vertrauenswürdige Plattform speziell für latenzkritische KI-Aufgaben wie den digitalen Sprachassistenten aufgebaut werden kann. Dabei müssen zum einen Aspekte der Plattformarchitektur betrachtet werden: Welche Arten von Recheneinheiten müssen auf welche Weise miteinander kombiniert werden, um die Sprachassistentenfunktionen in der gewünschten Form bereitzustellen? Wie verteilt man die vielen Teilaufgaben des Sprachassistenten auf die unterschiedlichen Komponenten? Und wie tauschen die verschiedenen Recheneinheiten Daten zwischen den Teilaufgaben aus. Ähnlich wie bei den Recheneinheiten gibt es auch bei den Kommunikationsverbindungen verschiedenste Mechanismen, die für unterschiedliche Anwendungsszenarien optimiert sind. Hier soll erforscht werden, welche der Mechanismen für die konkret benötigten Anwendungsfälle am besten geeignet sind und welche Auswirkungen ihre Nutzung auf die Qualitätsziele des Gesamtsystems haben. In SCAMP werden diese Mechanismen nicht nur erforscht, sondern ihre Komplexität wird auch in geeigneten Programmierabstraktionen gekapselt.