Vor dem Hintergrund der DLR-Forschungsbereiche Luftfahrt, Raumfahrt, Energie, Verkehr, Sicherheit und der bereichsübergreifenden Digitalisierung leistet das DLR-Institut interdisziplinäre Forschung und Entwicklung zur KI-Sicherheit. Der Fokus liegt dabei auf sicherheitskritischen Systemen mit Fragestellungen zur Betriebs- und Angriffssicherheit. Das Institut beschäftigt sich gleichermaßen mit querschnittsrelevanter Grundlagenforschung zur künstlichen Intelligenz als auch mit anwendungsorientierten und praxisnahen Entwicklungen. Fragestellungen zur Ethik, Recht und Gesellschaft werden berücksichtigt. Das DLR-Institut für KI-Sicherheit erbringt damit einen konkreten Beitrag zur Umsetzung der nationalen KI-Strategie und macht sich zur Aufgabe, die KI-Entwicklungen in den Dienst der Wirtschaft und Gesellschaft zu stellen.
Abteilungen und Forschungsthemen
- KI Engineering
Integration von Methoden und Technologien der KI in Vorgehensmodelle der Ingenieurswissenschaften, die dem Aufbau sicherheitskritischer Systeme dienen. Hierbei spielen zuverlässige Bewertungs- und Testverfahren ebenso eine große Rolle wie die Interaktion von Menschen und KI-Systemen.
- Algorithmen & Hybride Lösungen
Systematische Weiterentwicklung von Methoden und Technologien der KI, um sie für sicherheitsbezogene Nachweismethoden zugänglich zu machen, beziehungsweise nachweissicher zu synthetisieren.
- Sicherheitskritische Daten
Entwicklung sicherer Dateninfrastrukturen. Im Fokus stehen Methoden- und Technologiebündel, die sowohl Schutz als auch Nutzung sensibler Daten in verteilten Dateninfrastrukturen ermöglichen.
- Ausführungsumgebungen
Erarbeitung von Prinzipien für KI-Ausführungsumgebungen (Soft- und Hardware), die sich leicht auf konkrete Umsetzungen mit unterschiedlichen Leistungsanforderungen projizieren lassen und dabei stets ein hohes Maß an Zuverlässigkeit ermöglichen. In diesem Zusammenhang werden auch innovative Rechenansätze, wie zum Beispiel das Quantencomputing, und deren Möglichkeiten und Auswirkungen im Kontext der KI betrachtet.
- Geschäftsfeldentwicklung & Netzwerke
Kontinuierliche Analyse des Forschungsfelds KI, inklusive entsprechender Roadmapping-Aktivitäten. Hierzu gehören die interdisziplinäre Diskussion der ELSA-Themen (ELSA = Ethical, Legal and Social Aspects) im Kontext der KI sowie wissenschaftliche Beiträge in inter- und transdisziplinären Forschungs- und Entwicklungsprojekten.
Leistungen
Das querschnittlich arbeitende Institut für KI-Sicherheit leistet DLR-intern wie DLR-extern grundlagenorientierte KI-Forschung. Dabei geht es maßgeblich um die Sicherstellung zuverlässiger Daten und nachweisbar sicherer KI-Verfahren und -Methoden. Die Arbeit erfolgt im engen Dialog mit allen DLR-Forschungsschwerpunkten Luftfahrt, Raumfahrt, Verkehr und Energie sowie den Querschnittsbereichen Sicherheit und Digitalisierung, sodass die zentralen Forschungsfelder des DLR gestärkt werden. Über den grundlagenorientierten Ansatz können dann spezifische, sichere KI-Anwendungen in den einzelnen Instituten aufgesetzt werden.
