DLR Portal
Home|Sitemap|Kontakt Impressum und Nutzungsbedingungen Datenschutz Cookies & Tracking |English
Erweiterte Suche
Institut für KI-Sicherheit
Aktuelles
Unsere Projekte
Forschungsfelder
Stellenangebote
Standorte
Drucken

Willkommen beim Institut für KI-Sicherheit



Bild: © DLR/tampatra – stock.adobe.com

Künstliche Intelligenz begegnet uns an vielen Stellen, sie ist eine Schlüsseltechnologie, die im Zuge der voranschreitenden Digitalisierung immer wichtiger wird. Der Aspekt der KI-Sicherheit – sowohl im Sinne des Schutzes vor äußeren Angriffen (Security) als auch der Fehlerfreiheit bzw. Betriebssicherheit (Safety) – gewinnt entsprechend an Relevanz. Nur eine tiefergehende Betrachtung der Sicherheit von KI-basierten Technologien und Anwendungen kann ihren umfassenden Einsatz im Sinne von Wirtschaft und Gesellschaft ermöglichen.

Im Institut für KI-Sicherheit erforschen und entwickeln wir KI-bezogene Methoden, Prozesse, Algorithmen, Technologien und System- bzw. Ausführungsumgebungen. Unser Schwerpunkt ist die Gewährleistung von Betriebs- und Angriffssicherheit für KI-basierte Lösungen in ambitionierten Anwendungsklassen. Wir betrachten also vor allem Technologiefelder, die in besonderem Maße sicherheitskritisch sind. Das betrifft Anwendungen in Luft- und Raumfahrt, dem bodengebunden Verkehr, den Bereich der Energie und viele Aspekte unserer alltagsrelevanten Infrastruktur. Je smarter unsere Umwelt wird, desto relevanter wird KI-Sicherheit. Nicht zuletzt geht es auch um die Organisation, Speicherung und den Austausch sensibler Daten in mehr und mehr verteilten Dateninfrastrukturen, d.h. um Fragen von Datensouveränität, Transparenz und geteilter Nutzung – und damit um die Grundlagen einer vernetzten Industrie 4.0 und neuer digitaler Dienste.

Unsere Forschungsfelder im Überblick:

  • KI Engineering: Bewertungs- und Testmethoden für sicherheitskritische Systeme, Forschung zur Interaktion von Mensch und KI (Human-in-the-Loop)
  • Algorithmen & Hybride Lösungen: Entwicklung von KI-Methoden und Technologien, die nachweisbar sicher sind, inklusive des Themenfeldes der starken KI.
  • Sicherheitskritische Daten: Datenqualität und die Entwicklung sicherer verteilter Dateninfrastrukturen, unter Berücksichtigung von z.B. Cognitive Bias in Daten & Prozessen, Verschlüsselungsverfahren und weiterer Privacy Preserving Technologies
  • Ausführungsumgebungen: Zuverlässige Ausführungsumgebungen und innovative Rechenansätze, u.a. Quanten Computing
  • Geschäftsfeldentwicklung und Netzwerke: Kontinuierliche Analyse des Forschungsfeldes und interdisziplinäre Bearbeitung der ELSA-Themen. (ELSA = Ethical, Legal and Social Aspects)
     

Das DLR bietet optimale Rahmenbedingungen

Die durch Luftfahrt, Raumfahrt, Energie und Verkehr geprägten Forschungs- und Entwicklungsaktivitäten des DLR und die damit zusammenhängenden Forschungsinfrastrukturen bieten einen optimalen Rahmen für inter- und transdisziplinäre Forschung. Unsere Forschenden können zum Beispiel auf große Datenbestände aus DLR-Großforschungsanlagen zugreifen, um diese mittels KI zu analysieren oder KI-Systeme damit aufzubauen.

Das KI-Institut arbeitet bereichsübergreifend und trägt damit aktiv zu einer einmaligen Konstellation im DLR bei. Breit gefächerte Kompetenzen verschiedener Wissenschaftsdisziplinen und tiefes Anwendungswissen werden mit grundlagenorientierter KI-Forschung zusammengeführt. So können wir eine fachspezifische Weiterentwicklung des Themas KI und gleichzeitig hohe Praxis- und Anwendungsrelevanz gewährleisten. Flankiert werden unsere Forschungs- und Entwicklungsaktivitäten durch KI-bezogene Netzwerkaktivitäten zu den Themen Ethik, Recht und Gesellschaft.

Unser Ziel

Im Institut für KI-Sicherheit wollen wir über Grundlagenforschung und mit neuen Methoden eine zuverlässige KI ermöglichen und so Erfolgsbarrieren neuer Technologien überwinden. Konkret geht es uns um neue Beiträge zur verantwortungsvollen Einführung von KI in praxisrelevanten Anwendungen mit hohen Sicherheitsanforderungen.


Kontakt
Prof. Dr. Frank Köster
Gründungsdirektor

Deutsches Zentrum für Luft- und Raumfahrt (DLR)

Institut für KI-Sicherheit

Sankt Augustin und Ulm

Tel.: +49 531 295-3523

Helen Schilcher
Referentin KI-Sicherheit & Öffentlichkeitsarbeit

Deutsches Zentrum für Luft- und Raumfahrt (DLR)

Institut für KI-Sicherheit

Sankt Augustin und Ulm

Tel.: +49 2203 601-4443

Karoline Bischof
Referentin KI-Sicherheit & Öffentlichkeitsarbeit

Deutsches Zentrum für Luft- und Raumfahrt (DLR)

Institut für KI-Sicherheit

Sankt Augustin und Ulm

Tel.: +49 2241 20148-910

Aktuelles
Virtuelle Kick-Off Veranstaltung der Projektfamilie GAIA-X 4 Future Mobility am 25. Januar 2022
Aktiv im Netzwerk Catena-X
Projektstart GAIA-X 4 KI
Stellenangebote
Wir freuen uns jederzeit über Ihre Initiativbewerbung.
Social Media
LinkedIn Kanal DLR-Institut für KI-Sicherheit
Weitere Links
Digitalisierungsforschung im DLR
Forschungsschwerpunkte im DLR
Copyright © 2022 Deutsches Zentrum für Luft- und Raumfahrt e.V. (DLR). Alle Rechte vorbehalten.