Kooperation mit der Hochschule Albstadt-Sigmaringen: Schutz vor Angriffen auf KI-Systeme in sensiblen AnwendungsbereichenRobustheit von KI-Systemen (Rob-KI)
Das Projekt Robustheit von KI-Systemen ist eine Kooperation der Hochschule Albstadt-Sigmaringen mit dem DLR-Institut für KI-Sicherheit. In dem Projekt wird an der Sicherheit von KI-Systemen geforscht und untersucht, welche Angriffe möglich sind und wie diese verhindert werden können.
Beitrag Institut für KI-Sicherheit
Ziel ist es, KI-Systeme, die in sensiblen Bereichen wie Gesichtserkennung oder autonomem Fahren eingesetzt werden, vor Angriffen zu schützen. Konkret wird untersucht, wie Angreifer Trainingsdaten oder KI-Modelle stehlen oder manipulieren können, um die Systeme zu kompromittieren. Das Projektteam entwickelt dabei auch Methoden, um solche Angriffe abzuwehren und die Systeme sicherer zu machen. Im Anschluss wird geprüft, ob diese Schutzmaßnahmen auch in verteilten KI-Anwendungen funktionieren oder angepasst werden müssen. Mithilfe eines Demonstrators sollen die Angriffe und Gegenmaßnahmen anschaulich dargestellt werden. Es ist geplant, neue Sicherheitskonzepte zu entwickeln. Diese sollen vertrauenswürdige und zuverlässige KI-Systeme ermöglichen.
Beteiligte Institute und Einrichtungen (DLR & extern)
