Künstliche Intelligenz (KI) findet sich in zahlreichen Lebensbereichen wieder – durch große Technologiesprünge in den vergangenen Jahren haben die smarten Algorithmen bereits Einzug in alltägliche Situationen und industrielle Prozesse gehalten. Auch in der zivilen Sicherheit spielt KI eine immer größere Rolle. Beim Einsatz in der luftgestützten Fernerkundung können die Algorithmen über smarte Kamerasysteme wichtige Informationen zur Lageaufklärung in Krisen- und Katastrophenfällen liefern. Josephin Fritz hat für OPTSAL mit Ralf Berger, Leiter der Abteilung Sicherheitsforschung und Anwendungen und Dr. Anko Börner, Leiter der Abteilung Echtzeit-Datenprozessierung, im Interview über den Entwicklungsstand der intelligenten Sensoren gesprochen und warum sie für die Sicherheitsforschung zukünftig unabdingbar sind.
OPTSAL: Warum ist KI für die Fernerkundung wichtig?
Ralf: Die Menge an Bilddaten, die in der Fernerkundung erzeugt werden, ist immens. Unser Fokus liegt auf der luftgestützten Fernerkundung. Alleine während eines Drohnenfluges mit unserem integrierten MACS-Kamerasystem werden in einer Stunde mehrere Tausend Einzelbilder aufgenommen. Bei der Übertragung dieser Daten, als auch bei der Auswertung stoßen wir längst an unsere Grenzen. Hier setzt KI an: Sie detektiert und klassifiziert Objekte automatisch und ist klassischen Methoden dabei qualitativ deutlich überlegen.
OPTSAL: Was bedeutet das in der zivilen Sicherheit?
Ralf: In der zivilen Sicherheit sind wir oft mit komplexen Gefahrenlagen konfrontiert. Gerade in diesen Situationen stehen Verantwortlichen unzählige Daten und Datenquellen zur Verfügung. Daraus in möglichst kurzer Zeit die wesentlichen und einsatzrelevanten Informationen abzuleiten, ist nur noch mit KI-unterstützten Systemen möglich. Es geht am Ende also um schnellere, effizientere und sicherere Einsätze – egal ob nach Naturkatastrophen, bei Großschadenslagen oder Veranstaltungen.
OPTSAL: Wo setzt KI konkret an?
Ralf: Nehmen wir zum Beispiel ein Erdbeben: Wenn unser Kamerasystem ein betroffenes Gebiet überfliegt, erstellt es in Echtzeit eine Karte dieses Gebietes. Diese Karte liefert relevante Informationen, z.B. welche Infrastrukturen zerstört sind oder noch bestehen, oder wo sich Personen, Gegenstände oder Gebäude befinden. Je größer das Gebiet, desto umfangreicher die Informationen und desto unübersichtlicher die Lage. Ein KI-System „erkennt“ welche Art von Objekten in einem Bild aufgenommen wurden und kann diese Objekte auch räumlich und zeitlich einander zuordnen. Das können einzelne physische Objekte sein wie Menschen, Fahrzeuge oder Gebäude oder auch allgemeine Klassen wie Wald, Straße oder Wiese.
OPTSAL: Wo steht das DLR bereits in dieser Entwicklung?
Anko: Das DLR bündelt KI-Kompetenzen über zahlreiche Institute hinweg – besonders in den anwendungsorientierten Feldern von Luft- und Raumfahrt, Verkehr, Energie und Sicherheit. In erster Linie ist das DLR aber als unabhängige Instanz und beratende Institution in der Pflicht, die unterschiedlichen Technologien und Entwicklungen zu vergleichen und bezüglich ihrer Einsatzfähigkeit zu bewerten.
OPTSAL: Und im Bereich Sicherheit?
Anko: Am DLR Institut für Weltraumforschung liegt der Fokus auf sensornaher KI. Wir verstehen darunter, dass man versuchen sollte, am Ort der Entstehung der Daten ebendiese auch zu prozessieren – und das mittels KI Methoden. Es wird darauf ankommen, möglichst ressourcensparend zu arbeiten. Dabei kann nicht die Eier-legende-Wollmilch-Sau das Mittel der Wahl sein, sondern man muss zwischen der Hardwarearchitektur und den Algorithmen ein ausgewogenes Verhältnis einhalten. Das ist eine typische Optimierungsaufgabe.
OPTSAL: Wo liegen aktuell noch die größten Herausforderungen in der Nutzung?
Anko: Entscheidend ist, wie sehr man den Informationen, die generiert werden, vertrauen kann. Wenn das System eine „grüne Wiese“ erkennt, sind wir verpflichtet nachzuweisen, dass sich dahinter auch wirklich eine „grüne Wiese“ verbirgt. Dabei kommt der Vertrauenswürdigkeit (trustworthiness) eine viel höhere Bedeutung zu, als einer hohen Genauigkeit (accuracy).
Ralf: Im Realeinsatz bedeutet das, dass Einsatzentscheidungen auf nachvollziehbaren KI-Ergebnissen beruhen sollten. Ein Risiko stellen beispielsweise Halluzinationen dar: Also die Generierung falscher oder nicht überprüfbarer Inhalte. In dem Fall würde die grüne Wiese z.B. als grünes Auto identifiziert werden.
OPTSAL: Wie kann dieses Risiko minimiert werden?
KI Klassifikation von Fahrzeugen und Gebäuden aus Luftbilddaten aufgenommen mit dem Kamerasystem MACS-nano
Ralf: Die KI trifft keine Einsatzentscheidungen. Hinter diesen Prozessen stehen Verantwortliche mit taktischer Erfahrung. Die Abwägung von Maßnahmen basiert also auf einer Vielzahl von Aspekten, bei denen KI-Modelle lediglich eine zusätzliche Informationsquelle liefern. Es sind also eher die Entscheidungskompetenzen der Personen, die erweitert werden.
Anko: Je mehr Trainingsmaterial es für die KI gibt, desto besser. Je mehr Modelle also mit echten Daten und Realeinsätzen „gefüttert“ werden, desto valider werden die Aussagen. Gleichzeitig spielt die Wahl des KI-Systems eine Rolle. Besonders für sicherheitskritische Aufgaben gibt es zertifizierte Systeme, die nachweislich zuverlässig arbeiten.
OPTSAL: Die Anwendung in der zivilen Sicherheit bedeutet eine starke Zusammenarbeit mit Behörden und Organisationen mit Sicherheitsaufgaben. Die „Innovation Gap“ ist hier ein bekanntes Problem, also die Lücke zwischen Forschung und Anwendung. Wie können wir diese schließen?
Ralf: Die Forschungslandschaft zeigt jede Woche eindrucksvoll aufs neue, wozu KI-Verfahren heute prinzipiell in der Lage sind. Insbesondere für die Nutzung in sicherheitskritischen Anwendungen spielen aber auch Punkte eine Rolle, die noch nicht hinreichend gelöst sind, z.B. rechtliche und regulatorische Lücken bei der Abstützung von Einsatzentscheidungen auf KI-Systeme oder die nahtlose Integration von KI-Modulen in die Systeme und Abläufe von Sicherheitsorganisationen. Hier braucht es sowohl klare regulatorische Rahmenbedingungen, als auch Forschung zu den Auswirkungen von KI-basierter Einsatzunterstützung. Und es bedarf weiterhin der Zusammenarbeit von Forschenden und Einsatzkräften, um Systeme zu entwickeln, die einen tatsächlichen Mehrwert haben.
Anko: Auf der Seite der Algorithmik wird es darauf ankommen, Methoden zu entwickeln, die einerseits in der Lage sind, wesentliche Informationen schon während der Aufnahme von unwesentlichen zu unterscheiden. Des Weiteren spielt nach Prioritäten sortierte Datenübertragung eine wichtige Rolle. Das heißt, das „Piratenschiff“ muss zeitlich vor einer „Boje“ übertragen werden.
OPTSAL: Was ist euer Wunsch für die Zukunft?
Anko: KI-Modelle sollen in Zukunft so vielfältig trainiert werden, dass Halluzinationen vermieden werden, um so auch in der zivilen Sicherheit den bestmöglichen Output zu generieren.
Ralf: Wir möchten, dass KI dort ansetzt, wo Daten erzeugt werden: Direkt am Sensor. Für die Zukunft wünsche ich mir, dass sensornahe KI Bestandteil all unserer Kamerasysteme ist, um so die Datengrundlage für Einsatzkräfte zu erweitern und die zivile Sicherheit gemeinsam zu stärken.
Dieser Beitrag wurde ohne KI geschrieben.