Zeitenwende
für DefenceTech:
„Daten entscheiden
immer stärker mit,
ob ich überlegen bin“

Yvonne Hofstetter: In allen genannten Fällen ist der Mensch einer komplexen dynamischen Umgebung ausgesetzt, auch wenn Entscheidungen an den Finanz- und Rohstoffmärkten in ihrer Tragweite nicht mit denen in der Verteidigung zu vergleichen sind. In Echtzeit ist der Mensch gefordert, auf Basis mehrdeutiger Information in einem hochvolatilen Umfeld Abwägungen unter Unsicherheit zu treffen. KI der nächsten Generation gibt ihm hier mehr Sicherheit. Bei Systemen der Verteidigung sind damit ernste gesellschaftliche, rechtliche und ethische Fragestellungen verbunden. Im Verteidigungssektor liegen unsere Wurzeln, zu denen wir mit der Gründung von „21strategies“ zurückgekehrt sind. Denn unsere frühen KI-Technologien haben wir in den militärischen Forschungslabors der späten 90er Jahre entwickelt.

Celia Pelaz: Mit Technologien, die heute unter diesem Begriff zusammengefasst werden, befassen wir uns seit vielen Jahren – auch schon zu der Zeit, als HENSOLDT noch gar kein eigenständiges Unternehmen war. Mit KI können wir uns im Wettbewerb nicht mehr nur darüber differenzieren, wie gut eine Sensorlösung eine Situation wahrnimmt. Heute differenzieren wir uns zunehmend darüber, wie intelligent der Sensor das Wahrgenommene verarbeitet, es interpretiert, analysiert und bei all dem aus Daten Informationen aufbauen kann.

Celia Pelaz: KI hilft einem Radar oder einer Optronik zunächst einmal dabei, die Detektionsleistung zu erhöhen, wenn zum Beispiel die Bildstabilität zu wünschen übriglässt. Dann unterstützt KI bei der Aufgabe, Objekte korrekt zu klassifizieren, beispielsweise als Vogel oder aber als Drohne, und sie entsprechend nachzuverfolgen. Auf der nächsten Ebene werden die Objektdaten und das Kontextwissen über KI so miteinander verbunden, dass aus ihnen taktisch relevante Informationen entstehen, etwa ob es sich um eine feindliche Plattform handelt. Hier ist KI auch bei der sogenannten Multi-Sensor-Datenfusion wichtig – wenn es darum geht, Daten aus immer mehr Sensorquellen, die über vernetzte Plattformen verteilt sind, zusammenzuführen und zu analysieren. Das gilt auch immer stärker für öffentlich zugängliche Daten aus dem Internet, die sogenannte Open Source Intelligence. Aus all dem entsteht ein umfassendes, konsistentes und aktuelles Lagebild. KI entlastet also den Soldaten, sie unterstützt ihn mit Handlungsoptionen, um richtig entscheiden zu können. Und KI ermöglicht Systemen wie Radaren oder Störsendern, selbst zu lernen und sich an unbekannte Situationen anzupassen. Dann sprechen wir von kognitiven Systemen.

Celia Pelaz: Eine ganz zentrale. Die Fähigkeit, sich aus Daten relevante Information zu erarbeiten, entscheidet immer stärker mit, ob ich im Konflikt unter- oder überlegen bin. Da geht es um eine winzige Nadel in einem riesigen Heuhaufen. Moderne Verteidigungsanwendungen produzieren derart viele Daten, dass wir sehr schnell bei einer Überforderung des Menschen sind. In der öffentlichen Debatte diskutieren wir oft über KI als mögliche Fehlerquelle. In Wirklichkeit ist die Fehlerquote von KI, insbesondere bei Routineaufgaben, niedriger als die des Menschen. KI wird immer performanter. Sie wird daher auf immer mehr Ebenen von Waffensystemen relevant. Bei HENSOLDT haben wir vor kurzem unsere Kompetenzen in einem zentralen AI-Hub gebündelt, um die Expertise aus den verschiedenen Domänen und Projekten enger zu verzahnen. Und wir erleichtern so die Zusammenarbeit mit Partnern, denn KI ist auch ein Motor für mehr Kooperation: Es gibt viele sehr interessante Player mit oft stark spezialisiertem Know‑how. Das Potenzial, das für unsere Industrie in KI steckt, ist also enorm. Umso mehr plädiere ich für einen realistischen, verantwortungsvollen KI-Diskurs. Manches, was hierzu im Markt suggeriert wird, ist mir zu sehr Hype statt seriöser Innovation.

Celia Pelaz: Den Eindruck zu erwecken, KI sei die Lösung aller Probleme, geht schlicht an der Realität vorbei. Auch die Dynamik, die wir im Bereich Deep Learning und neuronale Netze sehen, befreit uns nicht von der Aufgabe, auch andere, innovative Kerntechnologien für die Verteidigung von Sicherheit und Freiheit zu entwickeln und zu finanzieren. Realistisch ist KI ein wichtiger Hebel, um für Verteidigungssysteme ein höheres Performancelevel zu erreichen. Aber die technologische Grundlage, wie wir sie beispielsweise mit führenden Sensorik- und Optroniklösungen legen, bleibt essenziell.

Yvonne Hofstetter: Das kann ich nur unterstreichen. KI ist nichts weiter als ein Werkzeugkasten von mathematischen Theorien und Informationstechniken. Und vor allem gibt es nicht die eine „Künstliche Intelligenz“: Je nachdem, vor welcher Problemstellung ich stehe, muss ich bestimmte Techniken aus diesem Werkzeugkasten auswählen und für den jeweiligen Zweck einsetzen. Machine Learning etwa ist nur in bestimmten Fällen die beste Lösung. Für viele Probleme, insbesondere alle, bei denen man gar nichts schätzen muss, eignen sich direkte Berechnungen viel besser, sind viel genauer und vor allem nachvollziehbar.

Celia Pelaz: Und genau deswegen müssen wir als Anbieter von Verteidigungslösungen auch die gesamte Bandbreite der KI beherrschen, sei es über eigene Fähigkeiten oder Partnerschaften. Die Basis ist immer unser Anwendungs-Know‑how, also die tiefe Kenntnis der Einsatzerfordernisse und Doktrinen unserer Kunden.

Yvonne Hofstetter: Die dritte Welle der KI dreht sich unter anderem um das Training maschinellen taktischen Verhaltens. Statt Massendaten, wie sie etwa von Radaren erzeugt werden, nur zu verarbeiten, wählt eine Maschine aus einer Vielzahl möglicher Optionen die Entscheidung aus, um ein bestimmtes Ziel zu erreichen. Bekannt sind solche Maschinen bereits von ganz woanders: aus der Gaming-Community. Dort haben intelligente Maschinen die Aufgabe, Menschen bei Spielen wie Starcraft zu besiegen. Gefechtsfelder sind viel komplexer als das komplizierteste Spiel. In unserem gemeinsamen Projekt „GhostPlay“ untersuchen wir, welche Taktiken intelligente Maschinen im Gefechtsfeld entwickeln und was menschliche Soldaten daraus lernen können. Dazu modellieren wir einen digitalen Zwilling von Gefechtsfeld und verfügbarer Sensorik und Effektorik mit ihren physikalischen Eigenschaften. Diese Modelle präsentieren wir dann dem Tech-Stack und lassen KI gegen KI antreten. Ein Beispiel sind sogenannte SEAD-Missionen mit dem Ziel, Luftabwehrsysteme auszuschalten. Hier beobachten wir, wie KI das taktische Zusammenspiel der einzelnen Bestandteile des Verteidigungssystems steuert und auf der anderen Seite den Sensor-Effektor-Verbund des angreifenden Schwarms unbemannter Systeme leitet.

Celia Pelaz: Für HENSOLDT ist die frühe und ergebnisoffene Auseinandersetzung mit solchen KI-basierten Entscheidungsverfahren eine logische Konsequenz. Denn wir entwickeln längst nicht mehr nur die fünf Sinne, sondern immer mehr auch das zentrale Nervensystem von Verteidigungsanwendungen. Mit Edge-Computing rückt die datengetriebene Intelligenz noch näher an die Sensorik und ist bereits oft in sie eingebettet. Über integrierte Systeme äußere Eindrücke wahrzunehmen, zu verarbeiten und in Reaktionen umzuwandeln, ist heute unser Kerngeschäft.

Celia Pelaz: Wir müssen die Diskussion auch in diese Richtung sachlich und differenziert führen. Die oft gegen KI ins Feld geführten „Killer Robots“ haben mit der Realität wenig zu tun. Die erste Frage, die man sich hier stellen muss, ist im Grunde banal: Sprechen wir wirklich über autonome oder doch vom Menschen ferngesteuerte Systeme? Oder von KI, die primär Daten verarbeitet, fusioniert und analysiert? Wenn wir uns mit Autonomie im engeren Sinn beschäftigen, ist die entscheidende Frage die nach dem – wie wir es nennen – „System of Interest“: Was ist die Intention hinter der Handlung? Wie funktioniert das System, das ich mit KI aufwerten will? In welcher Situation und in welchem Kontext? Basierend darauf sollten wir definieren, was KI darf und was nicht. Bei kritischen Anwendungen hat immer das Prinzip des „Human-in-the-loop“ zu gelten. Der Mensch bleibt also in der Verantwortung und entscheidet final; die KI unterstützt.

Yvonne Hofstetter: Genauso wenig, wie per se ethisch gehandelt wird, sobald der Mensch im Spiel ist, genauso wenig ist Technik per se unethisch. Denn Werte lassen sich durchaus in Technik integrieren. Die Frage ist nur, wie und welche Werte wir priorisieren und in Systemfunktionen übersetzen. „GhostPlay“ geht hier einen wichtigen Schritt. Es ist das erste für den militärischen Nutzer ausgelegte KI-System in Deutschland, das dem neuen Standard für wertebasierte Technik¹ folgt.

Yvonne Hofstetter: Er beschreibt Prozessschritte und Prüfkriterien für die Entwicklung wertegeleiteter Technologie – ohne selbst einen bestimmten Wertekanon vorzugeben. An KI wurden bereits viele rechtliche und ethische Forderungen gestellt, beispielsweise von der NATO oder der EU. Doch wie komme ich von diesen ungenauen Ansprüchen zu einer Technik, die Werte umsetzt? An dieser Stelle setzt der Ende 2021 eingeführte Standard IEEE 7000TM‑2021 vom Weltdachverband der Elektroingenieure an. Er ist der erste Standard, der zwar Technik anspricht, aber Ethik fordert. Zum ersten Mal sind Techniker aufgerufen, einem Standard zu folgen, um Werte in Technik zu übersetzen. Dafür führt der IEEE 7000TM‑2021 sogar einen neuen Berufsstand ein, die sogenannten „Value Leads“. Sie sind in Ethik ausgebildet und müssen ein „System of Interest“ durch den standardisierten Prozess schleusen, es an ethischen Kriterien messen und für entsprechende technische Vorkehrungen sorgen. Die ISO-Normung hat sich dem bereits angeschlossen. Auch deshalb halte ich es für elementar wichtig, dass sich Techunternehmen hier Know‑how aufbauen.

Celia Pelaz: Ich sehe darin gerade für uns Europäer eine große Chance. Wir erfahren im Energiesektor aktuell sehr schmerzhaft, was es heißt, in geopolitisch fatale Abhängigkeiten zu geraten. Wir müssen alles tun, damit wir im Techbereich nicht eine ähnliche Entwicklung erleben. Ein zentraler Schlüssel dafür ist gesellschaftliche Akzeptanz. Und die erreichen wir nur, wenn wir transparent darlegen können, wie wir unseren moralischen Kompass in unseren Technologien verankern. Rein technologisch stehen wir nämlich als Europa im globalen Wettbewerb in vielen Bereichen richtig gut da, auch bei KI. Nur stoßen wir häufig auf gesellschaftliche Vorbehalte, die Innovation hemmen und dazu führen, dass Technologien reguliert werden, bevor sie überhaupt entwickelt sind. Letztlich geht es doch um die Frage, ob es uns gelingt, eine souveräne digitale Infrastruktur in Europa zu etablieren.

Yvonne Hofstetter: Zunächst einmal den politischen Willen. Europa hat in diesem Jahrtausend auf digitale Souveränität geflissentlich verzichtet und es sich als Trittbrettfahrer des Silicon Valley bequem gemacht. Wir haben die Amerikaner machen lassen, mit den Algorithmen auch ihre Werte importiert und es in vielen Bereichen versäumt, eigene Fähigkeiten aufzubauen oder beizubehalten. Beispielsweise bei Suchmaschinen-Algorithmik oder Cloud-Infrastrukturen halte ich es inzwischen für unrealistisch, dass Europa in absehbarer Zeit auf Augenhöhe kommen kann. Wir müssen unsere Lücke bei anderen Themen finden. Aus meiner Sicht sind wir in Europa zum Beispiel bei der Entwicklung von Konzepten stark. Also bei komplexen digitalen Lösungen, die gezielt auf die besonderen Anforderungen und Bedürfnisse eines bestimmten Sektors oder Anwendungsbereichs wie der Verteidigung ausgelegt sind. Da sind wir auch in unserer Haltung weiter als viele IT-Unternehmen aus dem Silicon Valley, die allein auf das Wissen aus Daten vertrauen und meinen, es bräuchte damit keine Experten mehr.

Celia Pelaz: Wir müssen selbstbewusst und entschlossen definieren, welche Fähigkeiten wir in Europa unbedingt selbst beherrschen wollen und müssen. Das ist der zentrale erste Schritt. Vielleicht können wir als Europa nicht überall digitale Souveränität erreichen, aber es kann nicht sein, dass wir in Kernbereichen von anderen abhängig sind. Weil wir gar nicht genau wissen, was wir da als Blackbox einkaufen, oder ob wir es morgen überhaupt noch bekommen. Genau deshalb müssen wir zum Beispiel KI für unsere Verteidigung in Europa selbst entwickeln. Sie ist eine Schlüsseltechnologie für die digitale Souveränität Europas und wir müssen sicherstellen, dass sie unseren Werten entspricht und damit gesellschaftliche Akzeptanz findet. Dazu braucht es auch Umsetzungsstärke – sonst bleiben Konzepte am Ende lediglich Konzepte. Wir brauchen ein starkes Innovationsökosystem, gerade im Verteidigungssektor.

Yvonne Hofstetter: Das ist nicht nur, aber auch eine Frage des Geldes. In den vergangenen Jahren hat der deutsche Rüstungssektor unter Imageproblemen gelitten. Gelder wurden nicht in den Fähigkeitsaufbau der Bundeswehr investiert, sondern als Friedensdividende an die Gesellschaft ausgereicht. Doch je kleiner das Verteidigungsbudget, desto mehr sichern die wenigen Industrieteilnehmer dieses Budget gegen direkte Konkurrenz. Heute sind wir mit einem in weiten Teilen geschlossenen Sektor konfrontiert, in dem neue Player kaum Fuß fassen. Damit bestehen auch für Forschungsinstitute, von denen viele hervorragende Arbeit leisten, kaum Anreize für Ausgründungen. Innovationen bleiben so als Studien in den Instituten stecken und transformieren sich nicht zum Produkt, so dass einige Forschungsinvestitionen nicht wirklich effektiv angelegt sind.

Celia Pelaz: Neben der finanziellen Ausstattung können wir auch viel über die Veränderung von Prozessen bewegen, gerade in der Beschaffung. Deutlich schnellere und einfachere Beschaffungszyklen würden nicht nur dafür sorgen, dass Innovationen schneller zum Kunden kommen. So verhindern wir auch, dass Start-ups mitunter jahrelang durchhalten müssen, bis sich ihre Arbeit wirtschaftlich auszahlen kann, und sie vorher womöglich von Bürokratie erdrückt werden. In unserer Branche wird der öffentliche Auftraggeber immer der wichtigste Kunde sein. Insofern bleiben mit der Ungewissheit, ob es zur Beauftragung durch die öffentliche Hand kommt, Investitionen in disruptive Technologien für junge Unternehmen immer ein Glücksspiel. Public-Private-Partnerships sind hier der richtige Weg für Planungssicherheit und Innovationsanreize. Ohne die NASA würde es SpaceX gar nicht geben! Von solchen Beispielen können wir beim Blick über unseren Tellerrand viel lernen.

Yvonne Hofstetter: Wenn es darum geht, Brücken in die Start-up-Welt zu bauen, halte ich das Konzept der DARPA als Behörde des US-Verteidigungsministeriums für sehr interessant. Sie vergibt Aufträge allein nach technologischer Innovationskraft ohne Ansehen der Person. Wenn etwas technologisch bahnbrechend ist, dann kann ein Auftrag auch an ein Ein-Mann-Unternehmen gehen. Das funktioniert seit Jahrzehnten sehr erfolgreich.

Celia Pelaz: Mit dem DIANA-Accelerator hat hier vor kurzem auch die NATO das richtige Signal gesetzt, das Gleiche gilt auf anderer Ebene für das „Cyber Innovation Hub“ der Bundeswehr. Wie innovationsstark ein enger Schulterschluss zwischen Militär, Gesellschaft und Verteidigungsindustrie werden kann, zeigt das Beispiel Israel. Dort war jeder Industrievertreter, ob Start-up oder Großkonzern, in seiner Jugend im Militär. Man kennt und versteht sich und bekämpft gemeinsam eine Bedrohung, vor der die Bevölkerung nicht die Augen verschließt. In den USA sehen wir, dass Innovation auch davon lebt, einen riesigen Markt über einen einzigen Ansprechpartner erschließen zu können. In Europa ist heute oft noch das Gegenteil der Fall. Das müssen wir ändern. Mehr europäische Kooperation in Politik und Industrie bedeutet mehr technologischen Fortschritt und mehr Sicherheit!