Ausführungsumgebungen & innovative Rechenmethoden

Welche Arten von KI-Umgebungen gibt es, wie können diese gegenüber Angriffen abgesichert werden? Wie lassen sich KI-Ausführungsumgebungen in sicherheitskritische Systeme einbinden? Mit diesen und ähnlichen Fragen beschäftigen sich unsere Wissenschaftler:innen in der Abteilung Ausführungs-umgebungen.

Bei Arbeiten in Cloud/Edge-basierten Systemumgebungen wie Gaia-X ist es wichtig, dass übergeordnete Prinzipien zur sicheren und effizienten Ausführung von KI (in Soft- und Hardware) erarbeitet werden. Diese werden weitgehend anwendungsagnostisch konzipiert, damit sie leicht auf konkrete Umsetzungen mit unterschiedlichen Leistungsanforderungen projiziert werden können. Ebenso wird an hoch spezialisierten Umgebungen gearbeitet, die ein hohes Maß an Zuverlässigkeit in speziellen Anwendungsumgebungen ermöglichen - zum Beispiel in verschiedenen Luft- und Raumfahrtanwendungen sowie in automatisierten Systemen. Weitere Forschungsaktivitäten ergeben sich aus regulatorischen und rechtlichen Anforderungen, die KI-Systeme in praktischen Anwendungen bzw. sicherheitskritischen Anwendungsbereichen erfüllen müssen.

Um Künstliche Intelligenz dauerhaft in technologischen Landkarten einzubetten – ohne Abstriche bezüglich Angriffssicherheit und Robustheit zu machen, muss das gesamte System auf dem die KI ausgeführt wird mitgedacht werden. Dazu arbeitet diese Abteilung auch an der Absicherung von KI Agenten, zum Beispiel auf den Ebenen der Softwareplattformen zur dauerhaften Einbindung von KI Softwaremodulen in der Fahrzeugtechnik, wie im Projekt Gaia-X 4 AGEDA.

Quantencomputing und andere innovative Rechenansätze sind ein wichtiger Aspekt der Auslegung künftiger Ausführungsumgebungen. Wir analysieren die Möglichkeiten und Konsequenzen, die neue Rechenverfahren für die Künstliche Intelligenz haben. Konkret stellen sich zum Beispiel die Fragen, wie eine sichere und nachvollziehbare KI auf Quantencomputern realisiert werden kann, welche Möglichkeiten die Quantenwelt für die Entwicklung neuer Methoden jenseits der Verbesserung klassischer Algorithmen bietet, wie neue Ansätze in vorhandene klassische Prozesse und Strukturen eingebettet werden und wie Angriffsszenarien auf unsere IT-Infrastrukturen und Abwehrmechanismen zukünftig aussehen.