laden
Sichere und standardkonforme KI
Veranschaulichende Grafik zum Fokus-Thema Sichere & Standardkonforme KI
Credit:
all icons: https://icon-icons.com/
Ist KI-Innovation mit Sicherheitszertifizierung vereinbar – und wie kann diese KI in sicherheitskritischen Umgebungen eingesetzt werden?
Welche Voraussetzungen müssen geschaffen werden, damit internationale Standards und Normen für KI-Sicherheit in der Praxis umsetzbar sind?
Vertrauensvolle KI-Systeme müssen über eine Vielzahl wichtiger Eigenschaften verfügen, darunter Erklärbarkeit und Interpretierbarkeit sowie Fairness und Transparenz. Die Entwicklung solcher Systeme erfordert neben technischer Exzellenz auch die Berücksichtigung internationaler Standards und Normen. Am DLR-Institut für KI-Sicherheit erforschen und entwickeln wir KI-bezogene Methoden, Prozesse, Algorithmen, Infrastrukturen, Technologien und Ausführungs- bzw. Systemumgebungen, um eine solide Grundlage zu schaffen und die Realisierung norm- bzw. standardkonformer KI-Systeme zu ermöglichen.
Diese Forschung ist von entscheidender Bedeutung, da wir mit unserer Arbeit dazu beitragen, die Betriebs- und Angriffssicherheit von KI-basierten Anwendungen und Systemen in sicherheitsrelevanten Anwendungsgebieten zu gewährleisten – von den Bereichen Verkehr und Energie bis hin zu Luft- und Raumfahrt. Da KI-basierte Systeme zukünftig in vielen alltäglichen Lebensbereichen eingesetzt werden, ist die Gewährleistung von Sicherheit in all ihren Formen ein absolutes Muss. Darüber hinaus müssen gesteigerte Anforderungen in Bereichen mit hohen Sicherheitsanforderungen (u. a. kritische Infrastrukturen) speziell berücksichtigt werden.
Um diesen vielfältigen Anforderungen gerecht zu werden, verbindet unser interdisziplinärer Ansatz technische Innovation mit der Einhaltung regulatorischer Anforderungen und schafft die wissenschaftliche Grundlage für den verantwortungsvollen Einsatz von KI-Technologien in sicherheitskritischen Sektoren.