Projekt Safe AI Engineering
Safe AI Engineering ist ein Projekt der KI-Familie. Es wurde aus der VDA Leitinitiative autonomes und vernetztes Fahren initiiert und entwickelt. Das Projekt wird vom Bundesministerium für Wirtschaft und Energie gefördert. 24 Wissenschafts- und Wirtschaftspartner entwickeln eine umfassende Methodik, die den gesamten Lebenszyklus von KI-Funktionen absichert. Ein zentrales Innovationsfeld ist die Vereinheitlichung von Trainings- und Validierungsdaten, um eine nachhaltigere und kostengünstigere Datennutzung zu ermöglichen. Die entwickelten Methoden werden am Beispiel einer KI-Perzeptionsfunktion zur Fußgängererkennung getestet und validiert.
Weitere Informationen: www.safe-ai-engineering.de
Beitrag Institut für KI-Sicherheit
Neben der Gesamtkoordination mit Luxoft übernimmt das Institut für KI-Sicherheit eine zentrale Rolle in der Orchestrierung des Projekts und bringt sich aktiv in die Weiterentwicklung der grundlegenden KI-Engineering-Methodik, die Definition der Anwendungsfälle sowie deren Umsetzung über den gesamten Lebenszyklus einer KI-Komponente ein.
Ein weiterer Schwerpunkt liegt auf der Normalisierung von Daten und der Bewertung der zugehörigen Informationsqualität, wobei insbesondere die Domänenadaption und -transformation im Fokus stehen.
Darüber hinaus erarbeiten wir Methoden für das KI-Monitoring, insbesondere zur Überwachung erklärbarer Unsicherheitsabschätzungen sowie zur Durchführung von Risikobewertungen auf Basis von Unsicherheitsquantifizierungen.
Beteiligte Institute und Einrichtungen (DLR & extern)
- Deutsches Zentrum für Luft- und Raumfahrt e.V., Institut für KI-Sicherheit
- Akkodis Germany GmbH
- AUMOVIO SE
- AVL Deutschland GmbH
- Bundesanstalt für Straßen- und Verkehrswesen
- Bertrandt Ing.-Büro GmbH
- Robert Bosch GmbH
- Capgemini Engineering Deutschland S.A.S. & Co KG
- Cariad SE
- DXC Luxoft GmbH
- Fraunhofer-Gesellschaft e.V. (IESE und IKS)
- FZI Forschungszentrum Informatik
- Karlsruhe Institute of Technology (KIT)
- Mercedes-Benz AG
- Opel Automobile GmbH
- Porsche AG
- Spleenlab GmbH
- Technische Universität Berlin
- Technische Universität Braunschweig
- TÜV AI.Lab GmbH
- Valeo Schalter und Sensoren GmbH
- ZF Friedrichshafen AG
(c) BMWE