Es gibt Sätze, die klingen harmlos, bis man merkt, was sie wirklich bedeuten. „KI trifft keine Entscheidungen“, sagt PD Dr. Frank Sauer. Das ist nicht beruhigend. Das ist der kalte Einstieg in eine Welt, in der wir Begriffe benutzen, um uns zu beruhigen, während sich die Praxis längst anders organisiert.
Denn wer heute über künstliche Intelligenz spricht, spricht nicht mehr nur über Produktivität, HR-Automatisierung oder „Assistants“. Im Militär geht es um etwas anderes: um Gewalt. Um die Delegation von Gewalt. Und um die Frage, ob wir den Moment, in dem Kontrolle zur Simulation wird, überhaupt erkennen, bevor es zu spät ist.
Frank ist Politikwissenschaftler, arbeitet an der Universität der Bundeswehr in München, berät das Verteidigungsministerium, übersetzt Forschung in ministerielle Entscheidungslogik. Seit 2007 beschäftigt er sich mit Autonomie in Waffensystemen, damals noch in einer Zeit, in der Drohnenkriegsführung der USA diskutiert wurde und „Terminator“ als Popkultur-Referenz genügte, um das Thema lächerlich zu machen. Ab 2010 kippte es. Erste Regierungsdokumente, UN-Gespräche, die Maschine als Akteur im Gefechtsfeld, nicht als Fantasie, sondern als Architekturfrage.
Heute kommt seine Diagnose mit einer anderen Tonlage: „Wir sind in der größten sicherheitspolitischen Krise seit Ende des Zweiten Weltkriegs.“ Russland als akute Bedrohung, hybride Angriffe als Dauerzustand, und parallel die Frage, was aus der transatlantischen Sicherheitsgarantie wird. Europa, sagt Sauer sinngemäß, sitzt „between a rock and a hard place“. Und ausgerechnet diese Lage zwingt ihn zu einem Rollentausch: Weg vom bequemen Mahner, hin zum Befürworter von Fähigkeiten, die er jahrelang vor allem als Risiko beschrieben hat.
Die falsche Debatte: „Entscheidet“ die KI?
Der Begriff „Entscheidung“ ist bei Frank ein rotes Tuch, weil er KI anthropomorphisiert. Entscheidungen, Verantwortung, Zurechnung: Das sind Kategorien für Subjekte. Ein Deep-Learning-System ist kein Subjekt. Was es macht, ist „Automated Target Recognition“: Mustererkennung, Objekterkennung, Klassifikation. „Das ist ein Panzer.“ „Das ist kein Ziel.“ Das ist kein Urteil, sondern Statistik unter Bedingungen.
Das klingt akademisch. Es ist operativ.
Denn das, was in der militärischen Praxis wirklich „heiß“ wird, ist nicht die Klimaanlage in der Kaserne, nicht die optimierte Logistik und nicht die vorausschauende Wartung. Es ist die Kill-Chain: Find, Fix, Track, Select, Engage, Assess. Ziele finden, identifizieren, verfolgen, auswählen, bekämpfen, Wirkung bewerten. Sobald Auswahl und Bekämpfung ohne menschliche Intervention passieren, reden wir von Autonomie in kritischen Funktionen.
Und hier beginnt der erste Denkfehler der Öffentlichkeit: das Mantra „Human in the Loop“. Frank hält es für grob, irreführend und historisch falsch. Denn schon Patriot-Flugabwehrsysteme (80er-Jahre-Technologie) können so geschaltet werden, dass sie Ziele auswählen und bekämpfen, bevor ein Mensch noch „Nein“ sagen kann. Es gibt also keine klare Zäsur zwischen „früher menschlich“ und „heute KI“. Es gibt Kontexte und Schalterstellungen.
Kontext statt Moralpose: Wann darf der Mensch raus?
Frank macht es drastisch: Auf hoher See, Fregatte, anfliegende Seezielflugkörper mit Mach-Geschwindigkeit knapp über Wasser. Da ist kein ziviles Ziel im Spiel. Autonomes Abwehren kann hier nicht nur sinnvoll, sondern notwendig sein. Im urbanen Raum dagegen, Drohnen im Gebäude, unübersichtliche Räume, Zivilisten, eigene Kräfte, wird die menschliche Bewertung zentral. Nicht weil der Mensch „moralischer“ ist, sondern weil er Kontext versteht: Absicht, Situation, Ambiguität.
Der Kern ist nicht „Loop“, sondern die Qualität der Mensch-Maschine-Interaktion. Frank nennt das Paradigma: Meaningful Human Control. Und er bricht es auf drei Kriterien herunter, die wie ein technischer Ethik-Check wirken:
Vorhersehbarkeit, der Mensch muss verstehen, was das System im Rahmen der Aktivierung wahrscheinlich tun wird.
Administrierbarkeit, der Mensch muss kontrollieren, abbrechen, eingreifen können, soweit es der Einsatzkontext zulässt.
Zurechenbarkeit, Verantwortung muss beim Menschen bleiben, nicht als Symbol, sondern als reale Kette.
Das ist die Theorie. Die Praxis ist: Elektronische Kampfführung, Kommunikationsabbrüche, Zeitdruck. Genau dort kippt Meaningful Human Control, nicht durch „böse Absicht“, sondern durch Systemlogik.
Gaza als Warnsignal: Wenn KI nicht schießt, aber den Krieg entgrenzt
Das eindringlichste Beispiel im Gespräch ist der Einsatz KI-gestützter Zielgenerierung im Gazastreifen, der öffentlich unter den Namen „Lavender“ und „GoDaddy“ diskutiert wurde. Frank beschreibt, vorsichtig, aber klar, das Prinzip: massives Datensammeln, Scoring-Systeme, Schwellenwerte, Zielpakete. Der Mensch sitzt zwar noch davor, aber oft nur noch für Sekunden. 10 bis 15 Sekunden, um ein Ziel zu prüfen: ein Blick, ein kurzer Audio-Schnipsel, „klingt männlich“, weiter.
Die Pointe ist brutal: Hier wird nicht der letzte Schuss automatisiert, sondern der Anfang der Kill-Chain. Find/Fix/Track werden algorithmisiert, bis die menschliche Prüfung kollabiert, kognitiv, organisatorisch, moralisch. Der Mensch bleibt formal drin, faktisch wird er zum Stempelautomaten. Genau so entsteht Kontrolle als Illusion: nicht weil die Maschine „entscheidet“, sondern weil sie die Taktung bestimmt.
Präzision ist kein Freispruch
Ein zweiter Denkfehler: Präzision = Völkerrechtskonformität. Frank trennt das sauber. Präzise Gewalt kann dennoch illegal sein, wenn sie auf die Falschen zielt. Umgekehrt kann zusätzliche Präzision helfen, zivile Opfer zu vermeiden, etwa bei Loitering Munition, die bis kurz vor dem Einschlag visuelle Rückmeldung ermöglicht und damit Abbruchoptionen eröffnet, die Artillerie nicht hat.
Das ist der Punkt, an dem es unbequem wird: KI ist nicht „gut“ oder „böse“. Sie ist ein Verstärker. Sie kann Gewalt begrenzen oder sie effizienter machen. Sie kann Distinktion unterstützen oder sie unter Zeitdruck zerreiben.
Schlachtfeld-Singularität: Der Krieg als Flash-Crash
Frank nennt den Begriff, der hängen bleibt: Schlachtfeld-Singularität, geprägt von chinesischen Delegierten in UN-Diskussionen. Die Idee: Wenn wir Autonomie, Sensorik, Entscheidungsunterstützung und Reaktionsgeschwindigkeit immer weiter beschleunigen, entsteht ein System, das menschliche Eingriffe praktisch unmöglich macht. Ein „Flash-War“, analog zum Flash-Crash an Finanzmärkten: algorithmisch ausgelöste Eskalation, bevor Politik überhaupt versteht, dass sie eskaliert.
Und hier liegt sein persönlicher Konflikt: Er sieht das Risiko und sagt gleichzeitig, Europa könne sich die Komfortposition des reinen Mahnens nicht mehr leisten. Litauen-Brigade, Abschreckung, Verteidigungsfähigkeit. Es geht um Schutz und damit um die Fähigkeit, Gewalt schnell genug zu kontrollieren, bevor der Gegner es tut.
Deutschlands Problem ist nicht KI. Es ist Produktion.
Eine der härtesten Realitäten im Gespräch ist keine Ethik, sondern Industrie: Skalierung. „Precision Mass“ statt nur „Precision“. Wegwerf-Systeme brauchen Stückzahlen, nicht PowerPoints. 15.000 pro Monat, nicht 150 in zwei Jahren. Europas Achillesferse ist weniger Innovation als Fertigungstiefe, Beschaffungslogik, Tempo.
Und gleichzeitig entstehen neue Formen der Abwehr: kleine Geschütztürme auf Fahrzeugen, Laser, Mikrowellen, autonome Gegen-Drohnen-Systeme, „Stein, Papier, Schere“ auf dem Gefechtsfeld. Das „gläserne Gefechtsfeld“ bleibt gläsern, bis der KI-gestützte Nebelwerfer kommt, Spoofing, Täuschung, Deception. Die Zukunft ist nicht linear. Sie ist ein Wettrüsten aus Sichtbarkeit und Vernebelung.
Regulierung? Ja aber anders, als wir es gewohnt sind.
Ein Verbot „autonomer Waffen“ hält Frank für unrealistisch. Nicht, weil es moralisch falsch wäre, sondern weil es rüstungskontrollpolitisch nicht greifbar ist: KI ist eine Funktionalität, keine Kategorie, die man von außen zuverlässig erkennt. Du siehst einer Drohne nicht an, ob sie ferngesteuert ist oder autonom klassifiziert. Statt kategorialer Verbote braucht es funktionale Regeln: Anwendung, Kontext, Verantwortungsarchitektur, Völkerrechtskonformität.
Das ist weniger befriedigend als ein „Wir verbieten das“. Aber es ist näher an der Realität.
Wer treibt das KI-Rüsten?
Nicht primär Staaten, sagt Frank, sondern Tech-Unternehmen. Zivile Innovation wird militärisch „eingemünzt“: Spin-in statt Spin-off. Pentagon-Strukturen wie die Defense Innovation Unit sind genau dafür gebaut: Silicon-Valley-Tempo in militärische Beschaffung übersetzen. In China verschmilzt es noch direkter, weil Staat und Privatwirtschaft anders getrennt sind.
Die militärische KI-Dynamik ist damit keine reine Verteidigungsdebatte. Sie ist ein Industrie- und Plattformthema. Und genau deshalb wird sie schneller, als Parlamente diskutieren können.
Am Ende steht eine unerwartete Utopie: Frank wünscht sich den Star-Trek-Replikator, unbegrenzte Energie, Nahrung, Grundbedürfnisse gedeckt. Man könnte das als nerdigen Ausflug abtun. Aber eigentlich ist es ein Kommentar zur Lage: Wir rüsten technologisch auf, weil wir politisch nicht mehr stabil sind. Und wir diskutieren Kontrolle über Maschinen, während wir Kontrolle über Ordnung verlieren.
Wenn du uns dabei unterstützen möchtest, diesen Podcast zu einer Allianz von Zukunftsarchitekten der KI-Transformation zu machen, in der wir offen über Chancen, Risiken und reale Erfahrungen mit Künstlicher Intelligenz sprechen, dann abonniere uns auf YouTube, Spotify oder Apple Podcasts. Dein Abonnement kostet dich nichts, hilft uns aber sehr, noch mehr herausragende Persönlichkeiten für tiefgehende und inspirierende Podcast Gespräche zu gewinnen. Vielen Dank für deinen Support.
Darüber hinaus laden wir dich ein, Teil der Plattform des Bundesverbands für KI-Transformation e.V. zu werden. Hier vernetzen sich mittelständische Unternehmen, KI Expertinnen und Experten, Startups sowie Vertreterinnen und Vertreter aus Forschung und Wissenschaft, um Wissen zu teilen, Erfahrungen auszutauschen und um an konkreten KI-Projekten zu arbeiten. In unserer Podcast Community kannst du dich einbringen, mitdiskutieren und den Bundesverband als Mitglied aktiv unterstützen und mitprägen.
