Heutige Systeme der Künstlichen Intelligenz basieren oftmals auf Machine Learning (ML) -Ansätzen. Durch eine Vielzahl von Daten, durch große Rechner und durch ausgefeilte Algorithmen ist man heutzutage in der Lage, einige anspruchsvolle Aufgaben zu lösen, zum Beispiel Klassifikationsaufgaben in der Bildverarbeitung. Bei solchen Systemen handelt es sich um große Optimierer, die auf simple Basisfunktionen zurückzuführen sind. Die Parametrisierung solcher Systeme geschieht in einem aufwändigen Lernprozess. Allerdings sind ML-Systeme Black Boxes, bei denen nur Ein- und Ausgänge bekannt sind, das Innenleben aber verborgen bleibt. Wir verstehen nicht in ausreichendem Maße, warum Entscheidungen getroffen werden. Das unterscheidet sie von klassischen physikalischen Modellen. Auf dem Weg zu wirklich intelligenten Systemen muss diese Hürde genommen werden – KI-Systeme müssen interpretierbar und transparent und damit an die physikalische Welt gekoppelt werden, um sie letztlich in großem Maßstab in unterschiedlichen Bereichen sicher und zuverlässig einsetzbar zu machen.
Im Rahmen des SKIAS Projektes werden ausgewählte, grundlegende Methoden und Technologien erforscht, um Systeme der Künstlichen Intelligenz besser zu verstehen, sicherer zu machen und deren Überführung in Industrie und Gesellschaft vorzubereiten.
Unsere Gruppe Maschinelles Lernen legt hier besonderes Augenmerk auf die Erklärbarkeit von Deep Learning basierten Prädiktionen und der Quantifizierung von Unsicherheiten, die solche Prädiktionen beinflussen können. Dabei sollen in beiden Teilaspekten neue Methodiken mit speziellem Fokus auf die Benutzbarkeit in realen und sicheren Anwendungen entwickelt werden.
Laufzeit: 11/2021 - 12/2024
Ansprechperson: Jakob Gawlokowski