9/2024 - Projektexplanation und Research Updates des LOKI Projekts
Weil Sicherheit in der Luftfahrt oberste Priorität hat, ist die vertrauenswürdige Zusammenarbeit von Menschen und KI-Systemen von zentraler Bedeutung. Die europäischen Behörden der Luftfahrt EASA (European Union Aviation Safety Agency) und EUROCONTROL arbeiten an einem Fahrplan für die Einführung von KI-Systemen.
Demnach müssen bei der Anwendung von KI-Systemen sowohl die Ergebnisse der KI-Systeme als auch die Kollaboration zwischen KI-Systemen und NutzerInnen sicher, zuverlässig, berechenbar und durchschaubar sein. Im Projekt LOKI werden daher die Grundlagen für die Einführung von KI-Systemen zur Flugführung und Kontrolle des Flugverkehrs erforscht. Die Ergebnisse des vierjährigen DLR-Projekts LOKI (04/2022–03/2026) werden Leitlinien, prototypische Systeme und Erkenntnisse zur menschzentrierten Gestaltung einer vertrauenswürdigen Kollaboration zwischen NutzerInnen und KI-Systemen sein.
Wir, als DLR Institut für Datenwissenschaften sind dabei in zwei Bereichen vertreten. Gemeinsam mit dem Institut für Luft- und Raumfahrtmedizin…
- betrachten wir KI-gestützte Systeme, die in der Lage sein sollen, intentionale Zustände wie Müdigkeit und Aufmerksamkeit von Luftfahrtoperateuren zu erkennen. Um das Vertrauen in KI-Systeme zu stärken, müssen die Bewertungen und Entscheidungen des Systems für den Menschen erklärbar und verständlich gestaltet werden. Daher ist ein Ziel die Entwicklung eines prototypischen erklärbaren Klassifizierungsalgorithmus, der auf der Grundlage von Verhaltens- und Blickdaten der Operateure intentionale Zustände klassifiziert.
- schaffen wir die Grundlagen, um für den Entscheidungsprozess wer z.B. als Pilot oder Fluglots geeignet ist, KI-basierte Konzepte und Werkzeuge etablieren zu können. Ziel dessen ist es, die Entscheidungsfindung in der Eignungsdiagnostik zu (teil‑)automatisieren und zu optimieren.
Im LOKI-Team arbeiten WissenschaftlerInnen aus sechs DLR-Instituten interdisziplinär zusammen. Darüber hinaus wird LOKI von folgenden DLR-externen Partnern aus Anwendung und Forschung unterstützt:
Der aktuelle Stand unserer Arbeit bei LOKI ist:
- Prototypische Implementierung verschiedener ML-Ansätze zur Klassifizierung der Aufmerksamkeit aus Blickdaten (verfügbar auf verschiedenen Aggregationsstufen) durch Vorhersage der Leistung des Benutzers, d.h. ob der Benutzer die beobachtete Situation richtig identifizieren wird oder nicht
- Verwendung von XAI-Methoden zur Modellverbesserung
- Prototypische Implementierung verschiedener ML-Ansätze zur Klassifizierung von Müdigkeit anhand von Blickdaten (verfügbar auf verschiedenen Aggregationsstufen)
- Entwickeln eines gegenseitiges Verständnisses von den Anforderungen an eignungsdiagnostische Daten und KI-Methoden
Weitere Informationen zum Projekt LOKI finden Sie auf den Homepages einiger Projektpartner: