laden
Cybersicherheit und Resilienz für KI
Veranschaulichende Grafik zum Fokus-Thema 'Cybersicherheit und Resilienz für KI'
Credit:
all icons: https://icon-icons.com/
Wie können KI-Systeme so entwickelt werden, dass sie Cyberangriffe und andere Störungen erkennen und dabei einen möglichst stabilen Betrieb gewährleisten?
Wie können wir die Sicherheit von KI-Systemen konkret nachweisen und wie können wir die entsprechenden Designprozesse anpassen, um möglichst frühzeitig alle Aspekte von Sicherheit zu gewährleisten?
Die rasante Entwicklung künstlicher Intelligenz bringt eine Vielzahl neuer Chancen für die Gesellschaft mit sich. Damit sind jedoch auch neue Herausforderungen im Hinblick auf die Cybersicherheit verbunden. Am DLR-Institut für KI-Sicherheit entwickeln wir innovative Ansätze, um KI-Systeme widerstandsfähig gegen Cyberangriffe zu machen und ihre Resilienz in kritischen Anwendungsbereichen zu gewährleisten.
Grundlage hierfür bildet unser ganzheitlicher Forschungsansatz, der die Sicherheit der verwendeten Algorithmen mit Ansätzen zur Resilienz verteilter Systeminfrastrukturen und den damit verbundenen Entwicklungsprozessen kombiniert.
Im Rahmen dieses Ansatzes erforschen wir die Auswirkungen von vorsätzlichen sowie unbeabsichtigten Manipulationen auf KI-Systeme und leiten daraus geeignete Sicherungsmaßnahmen ab. Damit werden diese komplexen Ökosysteme in die Lage versetzt, sich schnell auf neue und unerwartete Bedingungen einzustellen, und gleichzeitig wird ein Maximum an Systemfunktionalität gewährleistet.
Konkret konzentrieren sich unsere Schwerpunkte dabei auf die Bereiche Mensch-Maschine-Interaktion, Sicherstellung von Informations- und Verarbeitungssouveränität, Nachweisbarkeit von KI-Algorithmen und Ausführungsumgebungen.