Im Projekt AI in the Loop entwickeln das DLR Institut für KI-Sicherheit zusammen mit der Hochschule Mittweida und der IAV GmbH eine Infrastruktur, die es einer Künstlicher Intelligenz ermöglicht, auch während des Einsatzes kontinuierlich zu lernen, nachtrainiert und überwacht zu werden. Durch die Bereitstellung containerisierter KI-Modelle auf realen Systemen kann die Praxistauglichkeit direkt geprüft und laufend verbessert werden. Die aus der Kooperation resultierenden Erkenntnisse und Gestaltungsprinzipien sollen später für sicherheitskritische Anwendungsfälle generalisiert werden. Die Hochschule Mittweida entwickelt die Fahrfunktionen der Roboter sowie die Implementierung des AI in the Loop-Prozesses. IAV verantwortet die IoT-Plattform zur Verbindung und Steuerung der Systeme.
Beitrag Institut für KI-Sicherheit
Das Institut für KI-Sicherheit koordiniert das Projekt und stellt eine cloud-basierte Infrastruktur sowie ein reales Trainingslabor mit den selbstfahrenden Telepräsenzrobotern am Standort Sankt Augustin bereit, um dort die neuen Lernverfahren zu erproben. Im laufenden Betrieb werden dort die KI-Modelle flexibel gesteuert, aktualisiert und in einer realen Umgebungen getestet. Während des Test werden die KI-Modelle auch bezüglich ihrer Vertrauenswürdigkeit bewertet. Die Sicherheit wird anschließend unter Berücksichtigung spezifischer Parameter der Operational Design Domain überprüft.
Beteiligte Institute und Einrichtungen (DLR & extern)
