22. November 2022
Eröffnung des DLR-Instituts für KI-Sicherheit

For­schung für ei­ne zu­ver­läs­si­ge und si­che­re Künst­li­che In­tel­li­genz

Hybride Eröffnungsveranstaltung
Hy­bri­de Er­öff­nungs­ver­an­stal­tung
Bild 1/4, Credit: © DLR. Alle Rechte vorbehalten

Hybride Eröffnungsveranstaltung

Die Er­öff­nungs­ver­an­stal­tung fand in ei­nem hy­bri­den For­mat statt. Bei der Ent­hül­lung der In­sti­tutss­te­le wa­ren on­line da­bei (von links, obe­re Rei­he:) Dr. Me­la­nie von der Wies­che (Stand­ort­lei­tung West, DLR), Dr. An­ke Ko­var (Stand­ort­lei­tung Süd-West, DLR) und (un­te­re Rei­he:) Ron­ja Kem­mer MdB. Vor Ort in Sankt Au­gus­tin ent­hüll­ten (von links:) Prof. Dr. Frank Kö­s­ter (Grün­dungs­di­rek­tor, DLR-In­sti­tut für KI-Si­cher­heit) und Klaus Ha­ma­cher (stellv. Vor­sit­zen­der des DLR-Vor­stands) die Ste­le.
Roboter testen im Trainingsraum dezentrale Technologien
Ro­bo­ter tes­ten im Trai­nings­raum de­zen­tra­le Tech­no­lo­gi­en
Bild 2/4, Credit: DLR (CC BY-NC-ND 3.0)

Roboter testen im Trainingsraum dezentrale Technologien

Das In­sti­tut für KI-Si­cher­heit forscht an de­zen­tra­len Tech­no­lo­gi­en, die auf­grund ih­rer Kon­zep­ti­on si­cher und ro­bust sind und die Da­ten­sou­ve­rä­ni­tät ge­währ­leis­ten. Das gilt auch für die­se klei­nen Ro­bo­ter, die in ei­nem spe­zi­el­len Trai­nings­raum Da­ten sam­meln und tau­schen.
Zusammenspiel von Mensch und Maschine
Zu­sam­men­spiel von Mensch und Ma­schi­ne
Bild 3/4, Credit: © DLR. Alle Rechte vorbehalten

Zusammenspiel von Mensch und Maschine

Der Ro­bo­ter auf Rä­dern um­fährt au­to­nom Hin­der­nis­se. Er kann auch spon­tan auf Er­eig­nis­se rea­gie­ren – zum Bei­spiel auf ei­nen Men­schen, der sich nä­hert oder sei­nen Weg kreuzt. Das DLR-In­sti­tut für KI-Si­cher­heit er­forscht die Prin­zi­pi­en sol­cher Mensch-Ma­schi­ne-In­ter­ak­tio­nen.
Datensouveränität mit GAIA-X
Da­ten­sou­ve­rä­ni­tät mit GAIA-X
Bild 4/4, Credit: © DLR. Alle Rechte vorbehalten

Datensouveränität mit GAIA-X

Bei der Er­öff­nungs­ver­an­stal­tung des DLR-In­sti­tuts für KI-Si­cher­heit wur­de ge­zeigt, wie GAIA-X funk­tio­niert: Ein Fahr­zeug sam­melt im Be­trieb Da­ten, die in der grau­en Box si­cher aus­ge­wer­tet wer­den. Da­bei ver­las­sen sen­si­ble Da­ten das Fahr­zeug nicht. Op­tio­nal kön­nen In­for­ma­tio­nen über GAIA-X auch der Öf­fent­licht­keit zur Ver­fü­gung ge­stellt wer­den.
  • DLR-Institut mit zwei Standorten – jeweils spezielle Fokusthemen in Ulm und Sankt Augustin.
  • Sichere und vertrauenswürdige KI-basierte Anwendungen und Datenräume für die Industrie.
  • Künstliche Intelligenz ist eine Schlüsseltechnologie im Rahmen der Digitalisierung.
  • Schwerpunkte: Digitalisierung, Sicherheit, Künstliche Intelligenz, Industrie 4.0

Künstliche Intelligenz (KI) steckt unter anderem in Verkehrssystemen, in der Luft- und Raumfahrt sowie in der Energieversorgung. Sie gehört längst zum Alltag moderner Gesellschaften – je stärker die Digitalisierung voranschreitet, umso wichtiger wird die KI: Sie muss sicher und nachvollziehbar sein. Um die Forschung und Entwicklung in diesem Bereich zu stärken, hat das Deutsche Zentrum für Luft- und Raumfahrt (DLR) das Institut für KI-Sicherheit gegründet. Das DLR-Institut wurde jetzt mit den beiden Standorten Ulm und Sankt Augustin offiziell eröffnet.

„Künstliche Intelligenz ist eine der bedeutendsten Zukunftstechnologien der Digitalisierung. Das DLR ist selbst Vorreiter beim Einsatz neuster KI-Verfahren und Methoden in seinen Kernbereichen Luftfahrt, Raumfahrt, Energie, Verkehr und Sicherheit“, sagt Prof. Dr.-Ing. Anke Kaysser-Pyzalla, Vorstandsvorsitzende des DLR. „Das Thema hat eine hohe Bedeutung für die Forschung und deren Anwendung in Wirtschaft und Gesellschaft. Ein Schwerpunkt des DLR-Instituts für KI-Sicherheit ist deswegen die Gewährleistung von Betriebs- und Angriffssicherheit für KI-basierte Lösungen.“ Zur sicherheitskritischen KI-Forschung und Anwendung zählen auch die Organisation, Verarbeitung und Speicherung sowie der Austausch sensibler Daten.

„Leistungsfähigkeit und Stabilität unserer Volkswirtschaft hängen zunehmend davon ab, dass KI-getriebene Infrastrukturen jederzeit absolut zuverlässig funktionieren“, betont Dr. Anna Christmann, Koordinatorin der Bundesregierung für Luft- und Raumfahrt und Beauftragte des Bundesministerium für Wirtschaft und Klimaschutz (BMWK) für Start-ups und digitale Wirtschaft. „Dafür braucht es ein gutes Ineinandergreifen von exzellenter Forschung, einer leistungsfähigen wissenschaftlichen Infrastruktur, innovativer Start-ups und etablierten Unternehmen. Das DLR ist mit seiner anerkannten Kompetenz sehr gut aufgestellt, gemeinsam mit Partnern aus Industrie und Wissenschaft, die vor uns liegenden Herausforderungen mitzugestalten.“

Video: DLR-Institut für KI-Sicherheit – Forschung für eine zuverlässige und sichere Künstliche Intelligenz
Künstliche Intelligenz (KI) ist eine Schlüsseltechnologie. Im DLR-Institut für KI-Sicherheit in Ulm und Sankt Augustin werden Konzepte, Methoden und Technologien für sichere KI-basierte Anwendungen erarbeitet.

Zusammenwirken von Mensch und KI

Am Standort Ulm arbeiten die Forschenden mit dem Schwerpunkt „KI Safety“. Hier sind vor allem die Fehlerfreiheit und Betriebssicherheit von Interesse. Im Forschungsfeld KI Engineering werden Bewertungs- und Testverfahren mit einem ingenieurwissenschaftlichen Hintergrund entwickelt. Ein Beispiel hierfür ist die KI-basierte Umgebungserfassung, die eine Basis unter anderem für das automatisierte Fahren bildet. Außerdem geht es um die Zusammenarbeit von Mensch und KI: Wie können Menschen mit kontinuierlich lernenden und umfassend automatisierten Systemen kooperieren? Wie wird eine KI erfolgreich trainiert? Die Wissenschaftlerinnen und Wissenschaftler entwickeln zuverlässige Soft- und Hardware-Umgebungen zur effizienten Ausführung von KI-Komponenten. Neben weiteren innovativen Rechenmethoden wird der Einsatz von Quantencomputern als Grundlage für das Quanten Machine Learning in Ulm erforscht. Bis zu 75 Mitarbeitende werden am Standort tätig sein.

„Das DLR-Institut für KI-Sicherheit ist eine wesentliche Säule in unserer Landesstrategie, die Anwendungen der Künstlichen Intelligenz und des Quantencomputings aus der Forschung in die industrielle Anwendung zu bringen. Mit der Erforschung und Entwicklung von sicheren KI-Technologien und Systemen unterstützt das Institut die Mobilitäts- und Investitionsgüterindustrie im Land. Der DLR Campus in Ulm ist ein idealer Innovationsraum für die Wissenschaftlerinnen und Wissenschaftler des Instituts“, sagt Dr. Nicole Hoffmeister-Kraut, Ministerin für Wirtschaft, Arbeit und Tourismus des Landes Baden-Württemberg. Das DLR-Institut für KI-Sicherheit befindet sich in unmittelbarer Nähe der DLR-Institute für Technische Thermodynamik und für Quantentechnologien.

Schutzwürdige Daten sicher verarbeiten

In Sankt Augustin wird vor allem die „KI Security“ betrachtet – also der Schutz vor äußeren Angriffen. Wie zeigt sich, ob KI-Algorithmen richtig funktionieren? Auf welche Weise lassen sich die Entscheidungen der KI nachvollziehen? Im Fokus stehen Methoden, die sowohl Schutz als auch die autorisierte Nutzung sensibler Daten bieten. Dazu gehört die Frage, wie Daten nur für bestimmte Nutzer und Nutzungsarten bereitgestellt und gleichzeitig schützenswerte Informationen wie personenbezogene Daten verborgen bleiben. Am Standort in Sankt Augustin sind künftig 45 DLR-Mitarbeitende tätig.

Mona Neubaur, Ministerin für Wirtschaft, Industrie, Klimaschutz und Energie des Landes Nordrhein-Westfalen betont den Wert des Instituts für die gesellschaftliche Entwicklung: „Wir leben in einer Zeit der Stapelkrisen und müssen gleichzeitig die doppelte Transformation mit dem Weg zu Klimaneutralität und Nachhaltigkeit sowie mit dem Übergang zur digitalen Gesellschaft gestalten. Insbesondere Künstliche Intelligenz als vielseitiges Werkzeug wird dabei in Administrations-, Produktions- und Logistikabläufen relevante Hebel umlegen, die zu Innovationen sowie Energie- und Ressourcen-Einsparungen beitragen. Dass dies auch sicher und zuverlässig erfolgt, ist uns dabei ein zentrales Anliegen. Das DLR eröffnet also das richtige Institut zum richtigen Zeitpunkt an den dafür passendsten Orten.“

Lösungen für die Mobilität der Zukunft

Das DLR-Institut für KI-Sicherheit setzt stark auf die industrielle Praxis und vernetzte Datenräume - zum Beispiel in der Mobilität. Deswegen koordiniert das Institut die Projektfamilie GAIA-X 4 Future Mobility, die mehr als 80 Beteiligte aus Forschung und Industrie zusammenbringt. Hier geht es insbesondere um die Entwicklung von digitalen Diensten und Produkten, bei denen der sichere Austausch von Daten zwischen Nutzern, Dienstleistern, Herstellern und Zulieferern im Zentrum steht. GAIA-X ist eine europäische Initiative, die die rechtlichen und strukturellen Grundlagen für ein dezentrales digitales Ökosystem entwickelt.

Zusätzlich ist das DLR-Institut für KI-Sicherheit im Forschungsprojekt Catena-X aktiv. Hier etablieren Akteure aus der Automobilindustrie einen standardisierten globalen Datentausch und Dienste auf der Basis europäischer Werte. Das entstehende Ökosystem und die zugehörigen Dienste sind ein wichtiger Anwendungsrahmen für KI.

Angriffs- und Betriebssicherheit als Kernqualität

Was Datensouveränität praktisch bedeutet und wie mit GAIA-X gearbeitet wird, zeigten die Teilnehmenden bei der hybriden Eröffnungsveranstaltung: Ein Fahrzeug sammelt im Betrieb Daten, die mit Algorithmen sicher ausgewertet und über GAIA-X online wieder zur Verfügung gestellt werden. Wegen des Compute-to-Data-Ansatzes verlassen sensible Daten das Fahrzeug nicht und die Ergebnisse können im Fahrzeug abgerufen werden.

Eine weitere Demonstration präsentierte das Zusammenspiel von Mensch und Maschine. Ein Roboter umfuhr vor der Bühne autonom Hindernisse und reagierte spontan auf Ereignisse. Das Institut erforscht die Prinzipien solcher Mensch-Maschine-Interaktionen, wobei stets komplexe und kontinuierlich lernende sicherheitskritische Systeme im Mittelpunkt stehen.

„Safety and Security by Design ist für uns bei der Entwicklung von Algorithmen ein prägendes Konzept. Das bedeutet, Angriffs- und Betriebssicherheit von Beginn an und über den kompletten Prozess als essenzielle Kernqualität mitzudenken“, erklärt Prof. Frank Köster, Gründungsdirektor des DLR-Instituts für KI-Sicherheit. „Dies ist für uns unverzichtbar, da wir im DLR vorrangig für ambitionierte KI-basierte Anwendungen forschen.“

Institut bündelt KI-Forschung im DLR

Das DLR-Institut für KI-Sicherheit wird seit knapp zwei Jahren an den Standorten in Ulm und Sankt Augustin aufgebaut. Es bündelt die bisherigen Aktivitäten des DLR im Bereich der KI. Neben den technologischen Fragestellungen sind auch ethische, rechtliche und gesellschaftliche Aspekte ein wichtiges Forschungsfeld.

Die Wissenschaftlerinnen und Wissenschaftler können auf einmalige Datenbestände aus der DLR-Forschungsinfrastruktur zugreifen. Die hohe Qualität der Daten, zum Beispiel aus der Erdbeobachtung oder aus dem Testfeld Niedersachsen, bildet eine Basis für KI-orientierte Forschungs- und Entwicklungsarbeiten.

Kontakt
  • Katja Lenz
    Pres­se­re­dak­ti­on
    Deut­sches Zen­trum für Luft- und Raum­fahrt (DLR)

    Kom­mu­ni­ka­ti­on und Pres­se
    Telefon: +49 2203 601-5401
    Linder Höhe
    51147 Köln
    Kontaktieren
  • Prof. Dr. Frank Köster
    Grün­dungs­di­rek­tor
    Deut­sches Zen­trum für Luft-und Raum­fahrt (DLR)
    In­sti­tut für KI-Si­cher­heit
    Rathausallee 12
    53757 Sankt Augustin
    Kontaktieren
DLR-Pressemitteilungen

Newslet­ter

Blei­ben Sie auf dem Lau­fen­den und abon­nie­ren Sie den DLR-Newslet­ter mit Ar­ti­keln der DLR-Re­dak­ti­on in deut­scher und eng­li­scher Spra­che.

Neueste Nachrichten

Hauptmenü

Künstliche Intelligenz (KI)

Unter "Künstlicher Intelligenz" (KI) werden verschiedene Methoden aus der Informatik zusammengefasst, die geeignet sind, Teilprozesse des menschlichen Denkens zu automatisieren. So wenig es die eine KI gibt, gibt es auch nicht das eine Anwendungsfeld dafür. Im DLR betrachten Wissenschaftler vieler Disziplinen Künstliche Intelligenz und deren Einsatz in den verschiedensten Bereichen: In der Erdbeobachtung werden enorme Datenmengen ausgewertet und aufbereitet, der Robotik hilft sie, immer komplexere Aufgabenstellungen zu lösen, und in der Industrie 4.0 steigert sie die Effizienz von Produktionen.