LOKI: Schwerpunkte der Forschung zur Mensch-KI-Kollaboration

Ansprechpersonen: Carmen Bruder & Thomas Stefani

Für eine gelungene Einführung von KI-Systemen zur Flugführung und Kontrolle des Flugverkehrs ist es entscheidend, die Erwartungen und Bedürfnisse von Fluglots/innen und Pilot/innen frühzeitig zu erfassen. Außerdem sollten mögliche Veränderungen für die Nutzenden in den Entwicklungsprozess einbezogen werden. Dafür führen wir folgende Maßnahmen durch:

• Analyse bestehender Anwendungsfälle für Mensch-KI-Kollaboration
• Workshops mit Nutzenden, um direkte Erwartungen und Bedenken zu kennen
• Workshops mit Human-Factors Expert/innen, um Fachwissen zu berücksichtigen 

Ergebnis dieser Aktivitäten sind erste Anforderungen an KI-Systeme in sicherheitsrelevanten, operativen Bereichen der Luftfahrt. Ebenso werden Forschungsthemen identifiziert, die in LOKI untersucht werden.

Entwicklung von KI-Algorithmen zur Erkennung des Nutzerzustands

Ansprechpersonen: Julia Fligge-Niebling & Katja Gayraud

In LOKI werden bekannte KI-Methoden auf den Kontext der Mensch-Maschine-Interaktion in der Luftfahrt angewendet. Um sich flexibel an den Menschen anpassen zu können, muss das KI-System den aktuellen Zustand des Nutzenden erkennen. In LOKI entwickeln wir Machine Learning-Ansätze, wie Müdigkeit und Aufmerksamkeitszustände zuverlässig auf Basis großer Mengen von Nutzendendaten, wie Blick- und Leistungsdaten erfasst werden können. Auch wird in LOKI erforscht, wie die erfassten Zustände den Nutzenden verständlich zurückgemeldet werden können.

Entwicklung nutzerzentrierter prototypischer Mensch-KI-Systeme

Ansprechpersonen: Mohsan Jameel & Robert Hunger

In LOKI werden Demonstratoren und Prototypen eines digitalen Lotsen und eines digitalen Co-Piloten entwickelt, die ihre menschlichen Partner/innen bei der Ausführung verschiedener Aufgaben unterstützen. Diese Systeme integrieren Methoden der künstlichen Intelligenz und des maschinellen Lernens. Der Schwerpunkt der Entwicklung liegt auf der Zusammenarbeit zwischen Mensch und digitalem Partner, bei der der Mensch die Kontrolle über die KI-Systeme behält, angemessen unterstützt und transparent über die Arbeitsweise der Systeme informiert wird.

Dafür entwickeln Expert/innen aus verschiedenen Disziplinen und Domänen gemeinsam Ansätze und Demonstratoren für die Mensch-KI-Kollaboration. Sie beziehen dabei KI-Konzepte aus unterschiedlichen Bereichen mittels bewährter Methoden wie Aufgaben- und Schnittstellen-Analyse sowie integrative Workshops und Studien mit Anwender/innen ein.

Erforschung der Mensch-KI-Kollaboration mit empirischen Studien

Ansprechpersonen: Christian Mühl & Dirk Schulze Kissing

In LOKI werden empirische Studien zur Mensch-KI-Kollaboration durchgeführt. Dafür werden anwendungsbezogene empirische Studien und Experimente mit Laborcharakter kombiniert. So können wir konkrete Fragestellungen zur Kollaboration zwischen KI-Systemen und menschlichen Operateuren unter kontrollierten Bedingungen im Experiment systematisch untersuchen. Dies liefert Erkenntnisse zur Gestaltung der konkreten Anwendungen, wie des digitalen Co-Lotsen sowie seiner Schnittstelle zum menschlichen Fluglotsen. Für die Validierung des digitalen Co-Lotsen greifen wir auf einzigartige Großanlagen zurück, wie das ATMOS (DLR-Air Traffic Management Simulator).

Ableitung von Leitlinien für eine vertrauensvolle Mensch-KI-Kollaboration

Ansprechpersonen: Carmen Bruder & Martin Jung