Ressourcenoptimiertes Training für große Sprachmodelle in 6G-Netzen für Al on Device: Anwendung im Bereich sensibler medizinischer Daten - 6G ROTAM

Abstract

Das Vorhaben 6G-ROTAM adressierte die Herausforderung, große KI-Modelle, insbesondere große Sprachmodelle, auch in sicherheitskritischen Anwendungsfeldern wie dem Gesundheitswesen effizient, datenschutzkonform und ressourcenschonend einzusetzen. Während moderne KI-Systeme meist auf zentralisierte Cloud-Architekturen angewiesen sind, bestehen im medizinischen Kontext hohe Anforderungen an Datenschutz, Datensouveränität, Verfügbarkeit und geringe Latenzen. Gleichzeitig verursachen große KI-Modelle einen erheblichen Bedarf an Rechenleistung, Kommunikationsbandbreite und Energie.