3/2024 - Projektexplanation und Research Updates des SKIAS Projekts
Im Rahmen des Projektes SKIAS arbeiten acht DLR Institute gemeinsam an verschiedenen Bausteine für ein großes Ziel: Sichere KI für autonome Systeme. Hierzu werden, unter der Leitung des DLR Instituts für optische Sensorsysteme, ausgewählte, grundlegende Methoden und Technologien erforscht, um Systeme der Künstlichen Intelligenz besser zu verstehen, sicherer zu machen und deren Überführung in Industrie und Gesellschaft vorzubereiten. Hierzu sind vor allem die Verlässlichkeit von KI Prädiktionen und möglichen Unsicherheiten, sensornahe Methoden Implementierungen, sowie geeignete Metriken zur Quantifizierung verschiedener Qualitätsmerkmale im Fokus.
Wir, als Institut für Datenwissenschaften, sind dabei in drei verschiedenen Bereichen vertreten:
Gemeinsam mit dem Institut für Robotik und Mechatronik arbeiten wir an Methoden zur Quantifizierung von Unsicherheiten in den Vorhersagen von Neuronalen Netzen. Hierbei sind vorallem eine unsaubere Datengrundlage sowie Änderungen in der Verteilung der gemessenen Daten eine große Rolle für praktische Anwendungen.
Außerdem bringt der Einsatz von KI als Softwarekomponente besondere Sicherheitsrisiken mit sich. Das sind z.B. Adversarial Examples oder Membership Inference-Angriffe. Wir untersuchen, wie ein sicheres Design einer KI-basierten Anwendung solche Risiken reduzieren kann. Mit formaler Verifikation des Verhaltens sowie intelligenter Laufzeitüberwachung schaffen wir zusätzliche Sicherheit.
Für viele Systeme ist eine effiziente und sensornahe Verarbeitung gesammelter Informationen von zentraler Bedeutung. Hierfür erarbeiten und evaluieren wir verschiedene Strategien um Methoden des Maschinellen Lernens effizienter und kompakter zu gestalten ohne dabei signifikante Minderungen in der Performanz der Modelle hinnehmen zu müssen.
Der aktuelle Stand von SKIAS:
- Wir befinden uns im Endspurt für den Projektabschluss Ende 2024.
- Ergebnisse in allen drei Bereichen wurden bereits erzielt und ein Transfer in (weitere) Anwendungen und Projekte ist bereits im Gange.
(Bisherige) Publikationen im Rahmen von SKIAS:
Projektparner: