In der „Fortsetzung der lustigen Dystopie“ QualityLand 2.0[1] findet ganz überraschend der Dritte Weltkrieg statt. Wie kann so etwas passieren? Diese Frage kann für eine erstaunlich lange Zeit niemand beantworten. Dann kommt raus, dass der Grund hierfür ist, dass der Dritte Weltkrieg ein „Flash War“ war, der von „automatisierten Streitkräften“ geführt wurde.[2] Vierundsechzig Länder waren involviert und es gab über acht Millionen Opfer.[3] So zumindest die Information von News4U.
Mein Nerd-Herz ist beim Lesen direkt aufgegangen. Endlich eine Gelegenheit, mit meinem Wissen zu autonomen Waffensystemen, OODA-Loop, on-the-loop, semi- vs. voll-autonomen Waffensystemen und der Notwendigkeit zur Regulierung anzugeben. Nachdem mir gesagt wurde, dass ich nicht den Rest meines Lebens die Inhalte der Harry Potter Bücher analysieren kann,[4] hat sich dies also direkt angeboten.
Wir werfen im Folgenden einen Blick darauf, was in QualityLand 2.0 wirklich passiert ist. Dann werden wir einen Realitätscheck machen, um zu verstehen, ob ein solcher Flash War auch bei uns möglich wäre. Zuletzt die entscheidende Frage: Was sollte man tun, um solch dystopische Szenarien zu verhindern?
Worum geht es bei dem „Flash War“ in QualityLand 2.0?
Der Dritte Weltkrieg hat stattgefunden und ihm sind „acht Millionen und ein paar Zerquetschte“ [5] zum Opfer gefallen. Doch was ist passiert? Dies ist eine Frage, auf die die militärische Führungsriege rund um General Dragqueen erstaunlich lange keine Antwort hat. Alles, was sie wissen, ist, dass es ein „Flash War“ war. Doch was ist ein „Flash War“?
Um das Konzept eines „Flash War“ zu verstehen, müssen wir kurz in die internationale Finanzwelt abtauchen. Keine Sorge, wird nur ein kurzer Exkurs. In der internationalen Finanzwelt ist mittlerweile extrem viel automatisiert, weshalb es zu sogenannten „Flash Crashes“ kommen kann.[6] Ein System reagiert auf einen Trigger eines anderen Systems, ein drittes System wird zur Reaktion gezwungen, und so weiter. Der Markt bricht zusammen und man weiß nicht genau, warum. Dies ist im Finanzmarkt schon ungünstig (im wahrsten Sinne). Noch problematischer wird dies, wenn es nicht „nur“ um Geld geht, sondern wir dieses Problem auf autonome Waffensysteme und die Fragen von Krieg und Frieden ummünzen. Hier sprechen wir dann nicht mehr von einem „Flash Crash“, sondern von einem „Flash War“. Oder, um es mit den Worten von General Dragqueen zu sagen: „Wir gehen momentan von einer Ereigniskaskade verschiedenster autonomer Trigger aus, also Trigger auf unserer Seite und Trigger aufseiten der Gegner, die sich gegenseitig durch ihre getriggerten Reaktionen auf das Triggern der Trigger, äh, getriggert haben.“[7]
Warum würde man riskieren, dass es zu einem „Flash War“ kommt? Auch hierfür liefert QualityLand 2.0 eine Antwort: Es geht um den OODA-Loop.[8]
Der OODA-Loop steht für „observe, orient, decide, act“.[9] Beobachten, orientieren, entscheiden, handeln. Generell ja eine ganz gute Herangehensweise für wichtige Entscheidungen. Dieser Kreis ist übrigens nichts, was man nur im Kontext von autonomen Waffensystemen kennt, sondern ist auch darüber hinaus bei Kriegseinsätzen relevant. Alle Kriegsteilnehmer durchlaufen diesen OODA-Loop immer wieder. Eine Situation verändert sich, man muss neu beobachten, sich orientieren, entscheiden und handeln. Ziel ist es daher, dass man schneller als die Gegenseite durch den OODA-Loop läuft. Damit zwingt man diese, ihren OODA-Loop neu zu starten. So weit, so nachvollziehbar. Und hiermit haben wir auch schon die Begründung dafür, warum autonome Systeme in Kriegssituationen überhaupt erst in Betracht gezogen werden: Sie sind wesentlich schneller dabei, durch den Loop zu laufen, als wir Menschen dies sind.[10]
Es gibt nun allerdings noch Unterschiede bezogen auf autonome Systeme, ihre Geschwindigkeit und damit zusammenhängend die Rolle, die Menschen noch spielen. Konkret gibt es drei unterschiedliche Arten von Systemen: „halbautonome Systeme, überwacht autonome Systeme und vollständig autonome Systeme“.[11]
Halbautonome Systeme haben einen Menschen „in the loop“.[12] Das Waffensystem beobachtet, orientiert sich, und schlägt eine Handlungsmöglichkeit vor. Vor der tatsächlichen Handlung entscheidet dann jedoch ein Mensch (daher „in the loop“).[13] Dies ist etwas so, wie wenn man Micromanager:innen als Vorgesetzte hat. Man darf die Optionen vorbereiten, es blickt einem jedoch konstant jemand über die Schulter und eine Entscheidung trifft man definitiv nie selbst.
Überwachte autonome Systeme haben einen Menschen “on the loop“.[14] Die Maschine durchläuft den gesamten OODA-Loop eigenständig, allerdings unter ständiger Beobachtung eines Menschen, der bei Bedarf eingreifen und Handlungen stoppen oder Entscheidungen revidieren kann. In unserem Beispiel aus dem Arbeitskontext wäre die vorgesetzte Person hier besser für Führungsaufgaben qualifiziert und würde dem Team vertrauen und nur einschreiten, wenn es nötig ist (soll es geben).
Bleiben noch die vollständig autonomen Systeme. Hier sind die Menschen “out of the loop”.[15] Die Maschinen durchlaufen eigenständig den OODA-Loop und Menschen haben aufgrund der Geschwindigkeit, in der Entscheidungen getroffen werden, keine Möglichkeit mehr, einzugreifen. Dies ist bei vollständig autonomen Systemen aber auch nicht vorgesehen. Das Beispiel aus dem Arbeitskontext wäre der Seniorpartner (bewusst nicht gegendert), der am Anfang des Projektes mal bei einer Besprechung dabei war, sich seitdem aber nicht mehr blicken lässt und auch nicht weiß, was gerade vor Ort passiert. Bei einem vollständig autonomen System ist dies kein Problem, weil die Menschen bewusst nicht „im loop“ sein müssen oder sollen.
In QualityLand 2.0 kommen vollständig autonome Waffensysteme zum Einsatz. Dies erklärt auch den „Flash War“, der mit menschlicher Aufsicht in der Form nicht passiert wäre. Der Auslöser war nämlich kein feindlicher Angriff, sondern die Tatsache, dass sich eine Kuh in die „entmilitarisierte Zone zwischen Quan 6 und Quan 7 verlaufen“ [16] hatte. Dies wurde – zum Unglück aller Beteiligten – von den Triggern falsch interpretiert, weshalb es zum Drohneneinsatz kam und ein „Flash War“ getriggert wurde.
Wäre dies auch in unserer Realität möglich?
Wer QualityLand 2.0 gelesen hat, wird sich schnell fragen, ob so ein „Flash War“ auch bei uns möglich ist. Die Antwort ist: noch nicht. Es ist aber nicht völlig unrealistisch. Es gibt bereits Beispiele für Militärs weltweit, die autonome Systeme einsetzen. Hierbei handelt es sich aber nicht um vollautonome Kampfroboter, wie sie uns alle dank der Terminator-Reihe ins Gedächtnis gebrannt sind. Fortgeschrittene Systeme sind beispielsweise in Südkorea im Einsatz (hier stehen Roboter, die die Grenze zu Nordkorea bewachen),[17] aber auch in Israel (die HARPY-Loitering Munition)[18] oder in den USA (die Long-Range Anti-Ship Missiles, LRASM).[19] Es gibt noch zahlreiche weitere Beispiele, die wesentliche Information ist allerdings, dass es noch keinen Kampfroboter gibt, der mit seinen Fähigkeiten an die MICKEYs aus QualityLand 2.0 herankommt. In Anbetracht des technischen Fortschritts der letzten Jahre kann man jedoch nicht ausschließen, dass bald jemand so einen Kampfroboter baut.
Was sollte man tun?
Und jetzt? Das ist die entscheidende Frage, die leider nicht oft genug gestellt, noch weniger oft sinnvoll beantwortet wird und in den wenigsten Fällen zu echten Handlungen führt. Es ist nicht so, als wäre ich die erste Person, der aufgefallen ist, dass autonome Waffensysteme, gelinde gesagt, Probleme hervorrufen können.
Es werden an diversen Stellen bereits Diskussionen zu der Rolle von KI in der Kriegsführung geführt. Beispiele hierfür sind:
- Das Centre of Excellence on AI, Peace and Security[20] des United Nations Institute for Disarmament Research(UNIDIR)
- Das United Nations Office for Disarmament Affairs (UNODA) mit Fokus auf Governance von KI im militärischen Bereich[21]
- Die UN-Expertengruppe, die im Rahmen der Convention on Certain Conventional Weapons (CCW) zu tödlichen autonomen Waffensystemen tagt (Group of Governmental Experts on Lethal Autonomous Weapon Systems)[22]
- Das REAIM Summit (Summit on Responsible Artificial Intelligence in the Military Domain)[23]
- Der Global Dialogue on AI Governance[24]
Der jetzige regulatorische Rahmen lässt es Staaten offen, weiter ungestört an dieser Technologie zu forschen, obwohl sie immer wieder als eine der größten Gefahren unserer Zeit bezeichnet wird. Zeit also, dass wir uns intensiver mit der Regulierung dieser Waffensysteme beschäftigen, bevor auch bei uns eine Kuh den Dritten Weltkrieg auslöst und tagelang niemand weiß, warum genau jetzt mehrere Millionen Menschen sterben mussten.
[1] So explizit angepriesen von TheShop: Marc-Uwe Kling, QualityLand 2.0, Berlin: Ullstein 2025, Cover.
[2] Kling, S. 146.
[3] Kling, S. 146.
[4] Ich habe es echt probiert. Schaut mal (ja, ganz geschickt eingefädelte Werbung in eigener Sache): An International Law Perspective on Harry Potter (https://link.springer.com/book/10.1007/978-3-031-57571-6) und Vom Völkerrecht und Harry Potter (https://link.springer.com/book/9783032290915 – ja, es kommt bald auf Deutsch raus, ich weiß, dass ihr es nicht erwarten könnt).
[5] Kling, S. 146.
[6] Mehr Details hierzu findet ihr auch in dem Standardwerk zu autonomen Waffensystemen (wärmste Empfehlung!) in Paul Scharre, Army of None: Autonomous Weapons and the Future of Warfare, New York: Norton, 2018, S. 199 ff und in dem folgenden Beitrag: Ulrike Franke, „Flash Wars: Where could an autonomous weapons revolution lead us?“, European Council on Foreign Relations, 22. November 2018, https://ecfr.eu/article/flash_wars_where_could_an_autonomous_weapons_revolution_lead_us/.
[7] Kling, S. 148.
[8] All dies sind übrigens keine ausgedachten Begriffe von General Dragqueen, sondern Fachbegriffe, die auch im echten Leben (was auch immer das sein mag) gebraucht werden.
[9] Die kurze Erklärung hierzu in Kling. S. 149 ff. Mehr Details hierzu in: Scharre, S. 23.
[10] Kling, S. 150.
[11] Kling, S. 150.
[12] Scharre, S. 29.
[13] Kling, S. 151.
[14] Kling, S. 151; Scharre, S. 29.
[15] Kling, S. 151; Scharre, S. 30.
[16] Kling, S. 348.
[17] Hierbei handelt es sich um den Samsung SGR-A1 Roboter. Mehr dazu in Scharre, S. 104 f.
[18] Mehr hierzu in Scharre, S. 47 f.
[19] Scharre, S. 62 f.
[20] https://unidir.org/unidir-centre-of-excellence-on-ai-peace-and-security/
[21] https://disarmament.unoda.org/en/our-work/emerging-challenges/artificial-intelligence-military-domain
[22] https://meetings.unoda.org/ccw-/convention-on-certain-conventional-weapons-group-of-governmental-experts-on-lethal-autonomous-weapons-systems-2026
[23] https://www.exteriores.gob.es/en/REAIM2026/Paginas/Cumbre26.aspx
[24] https://www.un.org/global-dialogue-ai-governance/en