IntelPlaMo

Häfen, Bahnstrecken, Flughäfen, kritische Infrastrukturen müssen rund um die Uhr zuverlässig funktionieren. Schäden an Gleisen, Zäunen oder Landebahnen, die zu spät erkannt werden, können zu Unfällen, Betriebsausfällen oder sogar zu gezielten Sicherheitsvorfällen führen. Bisherige Überwachungssysteme setzen ausschließlich auf stationäre Sensoren und bieten keinen ausreichenden Schutz gegen Cyberangriffe auf die eingesetzten KI-Komponenten. Zudem fehlen Lösungen, die menschliche Operateure effektiv in automatisierte Entscheidungsprozesse einbinden.

Drohnen und KI als sicheres Überwachungsgespann

Im Projekt IntelPlaMo (Intelligente Zustandsanalyse für Missionsplanung und Monitoring von sicherheitskritischer Infrastruktur) entwickelt das DLR neuartige Methoden zur automatisierten Überwachung kritischer Infrastruktur. Dafür werden Daten bodengebundener Sensoren mit denen mobiler, autonom agierender Systeme kombiniert, insbesondere Uncrewed Aerial Vehicles (UAVs). Die so gewonnenen multimodalen Sensordaten fließen in ein Datenökosystem im Backend zusammen, werden mithilfe KI-basierter Algorithmen verarbeitet und in einer digitalen Leitstelle visualisiert.
Ein zentrales Merkmal des Ansatzes: Die KI-Systeme werden von Grund auf gegen potenzielle Angriffe abgesichert. Adversarial Attacks, gezielte Manipulationen von KI-Entscheidungen, werden systematisch analysiert, Gegenmaßnahmen entwickelt und die Vertrauenswürdigkeit der Ergebnisse transparent dargestellt. So können menschliche Operateure jederzeit nachvollziehen, wie verlässlich eine Einschätzung der KI tatsächlich ist.

Von der Simulation zur Praxis

Die entwickelten Methoden werden in zwei realen Anwendungsszenarien erprobt. Am Digitalen Zwilling der Hafenbahn des Braunschweiger Hafens werden die Verfahren zunächst simulativ getestet und validiert. Als Abschlussdemonstration im Sommer 2028 folgt ein Live-Einsatz am Nationalen Erprobungszentrum für Unbemannte Luftfahrtsysteme am Verkehrsflughafen Magdeburg-Cochstedt.

Beitrag des Instituts für KI-Sicherheit

Das Institut verantwortet die Absicherung der eingesetzten KI-Systeme gegen Angriffe und Fehlfunktionen. Im Fokus stehen die kontinuierliche Überwachung der KI-Wirkketten, die Entwicklung von Softwareartefakten zur Angriffsdetektion sowie die Erarbeitung einer strukturierten Sicherheitsargumentation für den Einsatz von KI in sicherheitskritischen Anwendungen.