BAMKI

Sichere Mensch-KI-Robotik für automatisierte Mobilität und Logistik

Angesichts des zunehmenden Fachkräftemangels und der damit einhergehenden potenziell verminderten Leistungsfähigkeit von Logistikketten und Verkehrsinfrastrukturen sind Lösungen erforderlich, die die Menschen im Kontext automatisierter Mobilität und Logistik gezielt unterstützen und entlasten.
Zur Entlastung der personellen Ressourcen werden KI-basierte Serviceroboter in verschiedenen Anwendungsfällen im Logistikbereich eingesetzt. Insbesondere beim interaktiven Einsatz von Servicerobotern entstehen hohe Safety- und Security-Anforderungen an die KI-Komponenten, um die Menschen bei der Interaktion mit dem Roboter nicht zu gefährden.
Aufbauend auf der Safety-by-Design-Methodik für KI-basierte Komponenten erweitert BAMKI diese Methodik um Aspekte des Security-by-Design. Dadurch ist es möglich, KI-basierte Komponenten von Beginn an systematisch gegen potenzielle Angriffe abzusichern. Es werden sichere und zuverlässige KI-Komponenten entwickelt, um die Wirksamkeit der Methodik zu demonstrieren.

Übertragbare Lösungen für sichere Mensch-KI-Automatisierung

Ein weiterer Schwerpunkt des Projekts liegt auf der sicheren Gestaltung der Kooperation zwischen Mensch und KI. Zu diesem Zweck wird das Framework HAICoSAFE (Human-AI-Robot Collaboration for Safe Automation – Framework and Evaluation Methods) entwickelt. Es wird anhand praxisnaher Anwendungsbeispiele aus dem Verkehrssektor – einer kooperativen Multi-Agenten-Umgebung für zentrale Logistikprozesse (U-Shift) und KI-Systemen für die Schiffswartung – zusammen mit der Security-by-Design-Methodik demonstriert.
Die Ergebnisse des BAMKI-Projekts sind vielversprechend, da sich die KI-Tools, Simulationen und das HAICoSAFE-Framework flexibel auf unterschiedliche Kontexte übertragen lassen.

Beitrag des Instituts für KI-Sicherheit

Als leitendes Institut sind wir an verschiedenen Aspekten des Projekts beteiligt. Wir sind für die Weiterentwicklung der Safety-by-Design-Methodik und die Entwicklung sicherer KI-Komponenten verantwortlich. Darüber hinaus besteht unsere Aufgabe in der Entwicklung des Frameworks HAICoSAFE. Die Planung und Umsetzung der Anwendungsfälle erfolgt in der institutseigenen Großforschungsanlage „RAPID“. Durch die Entwicklung und Umsetzung übertragbarer Methoden, KI-Tools und Frameworks für eine sichere Mensch-KI-Kooperation leistet das Institut einen wichtigen Beitrag zur Gestaltung vertrauenswürdiger KI-Systeme in den Bereichen Mobilität und Logistik.