Team: Trustworthy AI4EO
Das Team Trustworthy AI4EO konzentriert sich auf die Erforschung neuer KI-basierter Methoden für die Fernerkundung und Erdbeobachtung. Unser Ziel ist es, die physikalischen Eigenschaften von Fernerkundungsdaten und die mathematischen Eigenschaften der KI, insbesondere die des Deep Learning (DL), zu nutzen, um letztere sicher zu machen. Dies ist im Allgemeinen leider nicht immer der Fall. Zum Beispiel leiden DL-basierte Bildrekonstruktionen unter KI-Halluzinationen: winzige, realistisch aussehende Artefakte, die von Experten auf dem jeweiligen Anwendungsgebiet nicht erkannt werden können. Ein mögliches Worst-Case-Szenario könnte ein Artefakt sein, das einer Atomraketenstation ähnelt, die in der DL-basierten Superauflösung von multispektralen Satellitendaten auftaucht und die nicht real ist, sondern von der DL-basierten Methode "halluziniert" wird.
Ein weiteres Beispiel könnte ein Artefakt in der DL-basierten Aerosolabfrage aus hyperspektralen Satellitendaten sein, das lokal fehlerhafte Vorhersagen liefert. Insgesamt kann die Kreuzvalidierung DL-basierter Vorhersagen mit anderen Datenquellen und Methoden eine Möglichkeit sein, um fehlerhafte oder unsichere Vorhersagen zu erkennen. Eine weiteres relevantes Anwendungsbeispiel für vertrauenswürdige AI4EO ist die Landwirtschaft. Die Verschlechterung der Bodengesundheit, unvorhersehbare Wetterbedingungen und Extremwetterereignisse und erhöhte Treibstoffkosten sind nur einige der Probleme, mit denen Landwirte konfrontiert sind. Um mit diesen Problemen umzugehen, können Fernerkundung und vertrauenswürdige KI-Technologien zum Einsatz kommen: Zum Beispiel könnte die Ernährungssicherheit verbessert werden, indem wir gemeinsam eine KI-basierte Open-Source-Software für die Überwachung von Ernten unter Verwendung von Fernerkundungsdaten bereitstellen. Für die Entwicklung dieser Software können von Landwirten bereitgestellte In-situ-Daten, Satellitendaten sowie moderne Computer-Vision-Methoden verwendet werden.
Um den immer schnelleren Veränderungen der Ökosysteme und den daraus resultierenden Verteilungsverschiebungen in den Daten gerecht zu werden und Risikobewertungen vorzunehmen, sind anpassungsfähige und auf Unsicherheiten reagierende DL-Modelle ein wichtiges Instrument. Um den Endnutzern autonome Entscheidungen zu ermöglichen, sind zudem Erklärungen der Analyseergebnisse auf der Grundlage moderner erklärbarer KI-Methoden von größter Bedeutung. Physikalisch konsistente Erklärungen für KI-Methoden zu liefern, KI-Halluzinationen zu verhindern und zu erkennen und ganz allgemein KI- und DL-basierte Methoden von ihrer Blackbox-Natur zu befreien, ist von Natur aus schwierig. Dazu gehört die Interpretation nichtlinearer und potenziell stochastischer Funktionen - tiefe neuronale Netze, Faltungsneuronale Netze und viele mehr - mit hochdimensionalen In- und Outputs, die Millionen von Parametern haben, die aus Optimierungsverfahren unter Verwendung von nur Teilen der Daten des vorliegenden Problems gewonnen wurden.
Die Verwendung zentraler Forschungsbereiche der vertrauenswürdigen KI - wie z.B. Unsicherheitsabschätzung, Erklärbare KI und Robustheit - in Kombination mit fachlichem Domänenwissen nutzt das Team, um KI-basierte Methoden für die Fernerkundung mit Mechanismen auszustatten, dass die KI in der Erdbeobachtung verantwortungsvoll eingesetzt werden kann.
Hier können Sie ganz einfach unsere Lightining Uncertainty Quantification Toolbox aufrufen und verwenden.