Das Institut für KI-Sicherheit
Künstliche Intelligenz (KI) ist eine Schlüsseltechnologie. Im Zuge der voranschreitenden Digitalisierung werden wir ihr in einer wachsenden Anzahl von Lebensbereichen immer häufiger begegnen. Dazu zählen auch Situationen mit hohen Sicherheitsanforderungen oder hohen Anforderungen an den Schutz der zugrundeliegenden Daten, in denen sich zum Beispiel personenbezogene Informationen oder Intellectual Properties (IP) widerspiegeln. KI-Sicherheit – sowohl im Sinne des Schutzes vor äußeren Angriffen (Security) als auch der Fehlerfreiheit beziehungsweise Betriebssicherheit (Safety) – gewinnt entsprechend an Relevanz.
Nur eine umfassende Betrachtung der Sicherheit KI-basierter Technologiebausteine und Anwendungen kann den praktischen Einsatz von KI im Sinne von Wirtschaft und Gesellschaft ermöglichen.
Im Institut für KI-Sicherheit erforschen und entwickeln wir KI-bezogene Methoden, Prozesse, Algorithmen, Technologien und Ausführungs- bzw. Systemumgebungen. Hierbei betrachten wir auch die Möglichkeiten innovativer Rechenmethoden, wie sie im Bereich des Quanten-Computing entstehen. Die Organisation, Speicherung und der Austausch sicherheitsrelevanter und sensibler Daten in verteilten Dateninfrastrukturen sind dafür eine wichtige Grundlage und gehören entsprechend in unser Arbeitsfeld. Datensouveränität, Transparenz und die vertrauensvolle verteilte Nutzung von Daten sind in diesem Zusammenhang wichtige Forschungs- und Handlungsfelder.
Wir leisten mit unserer Arbeit Beiträge zur Gewährleistung von Betriebs- und Angriffssicherheit für KI-basierte Lösungen in ambitionierten Anwendungsklassen. Dazu zählen die Luft- und Raumfahrt, Verkehr, Energie sowie weitere für den Wirtschafts- und Wissenschaftsstandort Deutschland wichtige Anwendungsbereiche, wie Industrie 4.0 und weitere digitalisierungsgeprägte Innovationsfelder, die auf verteilten Daten- und Dienste-Ökosystemen bzw. einer zukünftigen Plattform- und Datenökonomie beruhen.
Unsere Forschungsfelder im Überblick:
- KI Engineering - Steigerung der Anschlussfähigkeit, Resilienz und Wirtschaftlichkeit von KI; Verbesserung der Interaktionsfähigkeit von Mensch und KI.
- Algorithmen & Hybride Lösungen - Forschung und Weiterentwicklung von sicherer KI unter Berücksichtigung von Gesellschaft, Mensch und Technologie.
- Sicherheitskritische Dateninfrastrukturen - Voraussetzungen für einen sicheren Datenaustausch und robuste KI-Anwendungen in Industrie und Forschung.
- Ausführungsumgebungen & innovative Rechenmethoden - Angriffssichere und robuste KI durch die Absicherung des gesamten Ausführungssystems.
- Geschäftsfeldentwicklung und Strategie - Interdisziplinäre Grundlagen für vertrauenswürdige KI, gesellschaftliche Akzeptanz und Technologie-Transfer.
Das DLR bietet optimale Rahmenbedingungen
Die durch Luftfahrt, Raumfahrt, Energie und Verkehr geprägten Forschungs- und Entwicklungsaktivitäten des DLR und die damit zusammenhängenden Forschungsinfrastrukturen bieten einen optimalen Rahmen für inter- und transdisziplinäre Forschung. Unsere Forschenden können zum Beispiel auf große Datenbestände aus DLR-Großforschungsanlagen zugreifen, um diese mittels KI zu analysieren oder KI-Systeme damit aufzubauen.
Das KI-Institut arbeitet bereichsübergreifend und trägt damit aktiv zu einer einmaligen Konstellation im DLR bei. Breit gefächerte Kompetenzen verschiedener Wissenschaftsdisziplinen und tiefes Anwendungswissen werden mit grundlagenorientierter KI-Forschung zusammengeführt. So können wir eine fachspezifische Weiterentwicklung des Themas KI und gleichzeitig hohe Praxis- und Anwendungsrelevanz gewährleisten. Flankiert werden unsere Forschungs- und Entwicklungsaktivitäten durch KI-bezogene Netzwerkaktivitäten zu den Themen Ethik, Recht und Gesellschaft.
Unser Ziel
Im Institut für KI-Sicherheit wollen wir über Grundlagenforschung und mit neuen Methoden eine zuverlässige KI ermöglichen und so Erfolgsbarrieren neuer Technologien überwinden. Konkret geht es uns um neue Beiträge zur verantwortungsvollen Einführung von KI in praxisrelevanten Anwendungen mit hohen Sicherheitsanforderungen.