Drucken

Willkommen beim Institut für KI-Sicherheit

Bild: © DLR/tampatra – stock.adobe.com

Künstliche Intelligenz begegnet uns an vielen Stellen, sie ist eine Schlüsseltechnologie, die im Zuge der voranschreitenden Digitalisierung immer wichtiger wird. Der Aspekt der KI-Sicherheit – sowohl im Sinne des Schutzes vor äußeren Angriffen (Security) als auch der Fehlerfreiheit bzw. Betriebssicherheit (Safety) – gewinnt entsprechend an Relevanz. Nur eine tiefergehende Betrachtung der Sicherheit von KI-basierten Technologien und Anwendungen kann ihren umfassenden Einsatz im Sinne von Wirtschaft und Gesellschaft ermöglichen.

Im Institut für KI-Sicherheit erforschen und entwickeln wir KI-bezogene Methoden, Prozesse, Algorithmen, Technologien und System- bzw. Ausführungsumgebungen. Unser Schwerpunkt ist die Gewährleistung von Betriebs- und Angriffssicherheit für KI-basierte Lösungen in ambitionierten Anwendungsklassen. Wir betrachten also vor allem Technologiefelder, die in besonderem Maße sicherheitskritisch sind. Das betrifft Anwendungen in Luft- und Raumfahrt, dem bodengebunden Verkehr, den Bereich der Energie und viele Aspekte unserer alltagsrelevanten Infrastruktur. Je smarter unsere Umwelt wird, desto relevanter wird KI-Sicherheit. Nicht zuletzt geht es auch um die Organisation, Speicherung und den Austausch sensibler Daten in mehr und mehr verteilten Dateninfrastrukturen, d.h. um Fragen von Datensouveränität, Transparenz und geteilter Nutzung – und damit um die Grundlagen einer vernetzten Industrie 4.0 und neuer digitaler Dienste.

Unsere Forschungsfelder im Überblick:

• KI Engineering: Bewertungs- und Testmethoden für sicherheitskritische Systeme, Forschung zur Interaktion von Mensch und KI (Human-in-the-Loop)
• Algorithmen & Hybride Lösungen: Entwicklung von KI-Methoden und Technologien, die nachweisbar sicher sind, inklusive des Themenfeldes der starken KI.
• Sicherheitskritische Daten: Datenqualität und die Entwicklung sicherer verteilter Dateninfrastrukturen, unter Berücksichtigung von z.B. Cognitive Bias in Daten & Prozessen, Verschlüsselungsverfahren und weiterer Privacy Preserving Technologies
• Ausführungsumgebungen: Zuverlässige Ausführungsumgebungen und innovative Rechenansätze, u.a. Quanten Computing
• Geschäftsfeldentwicklung und Netzwerke: Kontinuierliche Analyse des Forschungsfeldes und interdisziplinäre Bearbeitung der ELSA-Themen. (ELSA = Ethical, Legal and Social Aspects)
   

Das DLR bietet optimale Rahmenbedingungen

Die durch Luftfahrt, Raumfahrt, Energie und Verkehr geprägten Forschungs- und Entwicklungsaktivitäten des DLR und die damit zusammenhängenden Forschungsinfrastrukturen bieten einen optimalen Rahmen für inter- und transdisziplinäre Forschung. Unsere Forschenden können zum Beispiel auf große Datenbestände aus DLR-Großforschungsanlagen zugreifen, um diese mittels KI zu analysieren oder KI-Systeme damit aufzubauen.

Das KI-Institut arbeitet bereichsübergreifend und trägt damit aktiv zu einer einmaligen Konstellation im DLR bei. Breit gefächerte Kompetenzen verschiedener Wissenschaftsdisziplinen und tiefes Anwendungswissen werden mit grundlagenorientierter KI-Forschung zusammengeführt. So können wir eine fachspezifische Weiterentwicklung des Themas KI und gleichzeitig hohe Praxis- und Anwendungsrelevanz gewährleisten. Flankiert werden unsere Forschungs- und Entwicklungsaktivitäten durch KI-bezogene Netzwerkaktivitäten zu den Themen Ethik, Recht und Gesellschaft.

Unser Ziel

Im Institut für KI-Sicherheit wollen wir über Grundlagenforschung und mit neuen Methoden eine zuverlässige KI ermöglichen und so Erfolgsbarrieren neuer Technologien überwinden. Konkret geht es uns um neue Beiträge zur verantwortungsvollen Einführung von KI in praxisrelevanten Anwendungen mit hohen Sicherheitsanforderungen.