DLR Foundation Models

Die rasante Entwicklung von generativer Künstlicher Intelligenz (KI) verändert die Arbeitswelt und Informationsverarbeitung grundlegend, automatisiert Routineaufgaben und wird auch für komplexe Aufgaben in der Softwareentwicklung und wissenschaftlichen Forschung relevant. Auch für das DLR ergeben sich vielfältige Anwendungspotentiale. Jedoch sind gegenwärtig generelle Foundation Models (FMs) aufgrund ihrer Begrenzung auf unspezifische Trainingsdaten nicht gut für domänenspezifische Szenarien geeignet. Um große FMs auch für Anwendungen im DLR nutzbar zu machen, werden in diesem Projekt Methoden zur Anpassung von großen KI Modellen an spezifische Aufgaben entwickelt und als Framework in Form einer Servicearchitektur und der notwendigen Infrastruktur zur Verfügung gestellt. Dies ermöglicht die synergetische Entwicklung von spezialisierten Anwendungen. Teil dieses Synergieprojekts ist daher auch die Auswahl und Begleitung vielversprechender Anwendungsfälle aus Luftfahrt, Raumfahrt und Verkehr, die dann in Anwendungsprojekten erprobt werden. Durch die Etablierung von Schulungskonzepten und Workshops für Mitarbeitende in verschiedenen Bereichen des DLR soll zudem die Kompetenz im DLR im Umgang mit generativer KI insgesamt erhöht werden.

DLR Foundation Models
Projektstruktur DLR Foundation Models

Das DLR Institut für Datenwissenschaften beschäftigt sich in diesem Projekt mit Fragestellungen zur Adaption von Foundation Models für spezielle Anwendungen. Hier sollen leichtgewichtige Modelle bereitgestellt werden, die nur auf spezifische Fähigkeiten von generellen Foundation Models spezialisiert sind und somit weniger Rechenressourcen benötigen und einen geringeren CO2-Fußabdruck haben. Hierzu werden Ansätze zur Quantisierung, Knowledge Distillation und Model-Pruning verfolgt.

Spezielle Anwendungen hierbei sind zum Beispiel:

  • KI Assistenten in der Raumfahrt
  • Digitale Assistenten im Cockpit und im Luftverkehr
  • Robuste Interaktion mit virtuellen Bausteinen zukünftiger Verkehrsinfrastruktur
  • Informationsgewinnung aus multimodalen Erdbeobachtungsdaten

Laufzeit: 07/2024 - 12/2026