NeuroSys Phase I, Projekt D2: "Sprachübersetzung"

Abstract

Das Ziel des Teilprojekts D2 „Sprachübersetzung“ war die Entwicklung eines prototypischen mobilen Spracherkennungs- und Übersetzungssystems auf Basis von Edge Computing unter Berücksichtigung der Eigenschaften und Einschränkungen neuromorpher Hardware. Die durchgeführten Arbeiten umfassen die Umsetzung stark neuronal ausgelegter sog. End-to-End Sequence-to-Sequence Dekodierer-Architekturen in der automatischen Sprachverarbeitung, insb. Spracherkennung und maschinelle Übersetzung im Hinblick auf die Berechnung auf neuromorpher Hardware, speziell auf Memristor Crossbar Arrays. Diese umfassten die Untersuchung von Modelleigenschaften in der Sequenzmodellierung und entsprechende effektive Trainingsverfahren, den effizienter Einsatz solcher Modelle unter Streaming-Bedingungen, ökonomische neuronale Modellierung sowie Anwendung von Wissensdestillation und starker Quantisierung, effiziente und eine Architektur-generische Implementierung entsprechender Suchverfahren. Hervorzuheben ist dabei die Umsetzung von dem Stand der Technik entsprechenden Sprachverarbeitungssystemen auf Basis realistischer Simulationsmodelle und entsprechende Anpassungen in den zugrundeliegenden neuronalen Architekturen, insb. statischen Attention-Varianten. Teilprojekt D.2 stand in engem Kontakt zu Projektpartnern aus anderen NeuroSys-Projekten, insbesondere Dirk Wouters (IWE, Projekt A), Tobias Gemmeke (IDS, Projekt C), John Paul Strachan (PGI-14, Projekt C) und Emre Neftci (PGI-15, Projekt C), die sich in gemeinsamen Arbeitstreffen, gemeinsam betreuten Abschlussarbeiten, gemeinsamen Arbeiten sowie weiterführenden Projekten äußern. Die in den Arbeitspaketen D2.1-3 gesetzten Ziele wurden erfolgreich erfüllt und schlagen sich in insgesamt 22 Veröffentlichungen in renommierten wissenschaftlichen Zeitschriften und Konferenzen im Bereich der automatischen Sprachverarbeitung nieder.