Die „Moral“ von KI-Waffen

By Michael Brenner

A Ein vom Kongress eingesetztes Gremium namens National Security Commission on Artificial Intelligence empfiehlt dem US-Militär, ein umfangreiches Programm zur Entwicklung autonomer Waffen zu starten, die auf Software für künstliche Intelligenz (KI) basieren.

Das vom ehemaligen CEO von Google, Eric Schmidt, geleitete Gremium hat einen Bericht erstellt, der Ausgaben in Höhe von 20 bis 30 Milliarden US-Dollar für die Weiterentwicklung des Programms fordert.  

Es gibt eine Reihe von Dingen, die in Amerika passieren müssen, um weltweit die Führung zu behaupten … #Ai lernen muss die # Technologie Das treibt unsere Wirtschaftsleistung an … und wir müssen alles tun, was nötig ist … Es geht nicht so sehr um das Geld, sondern darum, die Kräfte in Einklang zu bringen. – #NSCAI Vorsitzender @EricSchmidt

— Nationale Sicherheitskommission für KI (@AiCommission) 23. Februar 2021

Ihr stellvertretender Vorsitzender, Robert Work, ein ehemaliger stellvertretender Verteidigungsminister, sagte, autonome Waffen dürften im Kampf weniger Fehler machen als Menschen, was zu weniger Verlusten führe. "Es ist ein moralischer Imperativ um diese Hypothese zumindest weiterzuverfolgen“, sagte er.

Der Entwurf Bericht empfiehlt dass Washington „KI einsetzt, um die Art und Weise zu ändern, wie wir Amerika verteidigen, Gegner abschreckt, Intelligenz nutzt, um die Welt zu verstehen, und Kriege führt und gewinnt.“ (Die Arbeit ist im Vorstand von Raytheon und im Beirat von Govini, einem Big-Data- und Analyseunternehmen, das sich der Transformation der Regierungsgeschäfte durch Datenwissenschaft verschrieben hat.)  

Kategorische moralische Imperative aus „On High“ habe ich in meiner Kindheit vermisst. Der Preis einer vergeudeten Jugend. Wie beneidete ich unseren alternden schottischen Nachbarn, der mich mit Geschichten aus seiner Kindheit über den Besuch calvinistischer Gottesdienste in Dunfermline unterhielt. Dort wurde ihm jeden Sonntag in der Kirche von einem stählernen Prediger mit strenger Rechtschaffenheit die gerechte Verpflichtung eingeimpft, sich zu verbessern. Im Gegensatz zu diesen erhebenden spirituellen Erlebnissen in meiner Jugend verbrachte ich den Tag des Herrn damit, vor dem Fernseher zu faulenzen und mir Ballspiele anzuschauen.  

Deshalb bin ich dankbar für die hochmütigen Ermahnungen der Besten und Klügsten des Silicon Valley, dass ich einen „moralischen Imperativ“ habe, die Ausgaben von mehreren Dutzend Milliarden für durch künstliche Intelligenz gesteuerte Waffen zu unterstützen, die nur diejenigen töten, die es verdienen, d. h. Washingtons Auserwählte.Elektr.„Jetzt habe ich die moralische Ursache, die mir all die Jahre gefehlt hat – ihr Fehlen war die Quelle meines unentschlossenen Schwankens in Fragen des gewaltsamen Todes und der Zerstörung.“ 

„Ich schlage vor… [wir] übernehmen das #Ai Empfehlungen der Kommission, die am 1. März veröffentlicht werden.“ – #NSCAI Vorsitzender @EricSchmidt

— Nationale Sicherheitskommission für KI (@AiCommission) 23. Februar 2021

Zugegebenermaßen weigern sich einige unglückliche Denkgewohnheiten hartnäckig, vollständig ausgerottet zu werden. Die Neigung, auf Glauben basierende Militärdoktrinen anhand der Realität zu prüfen, ist eine davon. Immer wieder tauchen unangenehme Fragen auf, die meinen Fortschritt auf dem Weg der ethischen Wahrheit und Erlösung behindern. Deshalb bitte ich Sie dringend um Ihre Mithilfe, diese Zweifel auszuräumen. Hier sind sie zusammengefasst. 

Nr. 1 „Shock & Awe“ Die Bombardierung Hunderter Standorte im Irak im März 2003 sollte die irakische Führung zur Kapitulation zwingen und den Weg für die Invasion freimachen. Große Gebäude, Anlagen und Komplexe wurden zerstört und forderten Tausende Todesopfer. Frage: Wie hätten sich KI-Waffensysteme auf diese Strategie ausgewirkt? Gibt es eine präzisere Version von „Shock & Awe“, die die gleiche psychologische und militärische Wirkung hat? 

Nr. 2 Falludscha  Im Verlauf des Krieges machten amerikanische Streitkräfte den größten Teil von Falludscha dem Erdboden gleich - zweimal, etwa hunderttausend in die Wüste treiben. Frage: Angesichts der Tatsache, dass der Feind über die ganze Stadt verstreut und getarnt war, wie hoch wäre die Fähigkeit von KI-Systemen gewesen, durch algorithmische Suche in Datenbanken nach Retina-Übereinstimmungen und Gesichtserkennung geeignete Ziele zu identifizieren? usw? Wie könnten die Zivilisten von den Leuten in Fort Meade und dem Zentralkommando darauf aufmerksam gemacht werden, dass es keinen Gegner für sie gibt und dass sie sicher zu Hause bleiben und CNN-Videos des Angriffs auf ihren Fernsehern ansehen können?  

Nr. 3 Mossul und Raqqa Im Kampf gegen den IS haben wir den größten Teil von Mossul und Raqqa dem Erdboden gleichgemacht. Allein die Marines feuerten mehr als 20,000 Artilleriegeschosse auf Mossul, eine dicht besiedelte Stadt mit weit über einer Million Einwohnern. Die Luftwaffe flog über 30,000 Kampfeinsätze. Auch die französische Luftwaffe, die irakische Luftwaffe, die Nationalarmee und die schiitische Miliz feuerten auf die Stadt.

Bei all dieser Feuerkraft dauerte es mehrere Wochen, bis Mossul von ISIS-Kämpfern befreit war. Es gab zu viele zivile Opfer und Flüchtlinge, als dass man sie zählen könnte. Frage: Wie hätte KI es uns ermöglicht, angesichts der Ausweichtaktiken des IS, die weitaus komplexer waren als die in Falludscha, dieselben Ziele auf hygienische Weise zu erreichen? 

(Die andere Alternative zur Einnahme eines städtischen Gebiets besteht darin, Häuser gegen Häuser mit nur begrenzter Artillerie- und Luftunterstützung zu kämpfen. Das bedeutet natürlich höhere Verluste für die Kampftruppen. Die Zerstörung der Stadt ersetzt tatsächlich zivile Opfer durch militärische Opfer unter den Angreifenden Kraft – im Verhältnis 10:1 oder 20:1?) 

Nr. 4 Libyen Hier stellten die USA den Großteil der Feuerkraft bereit, um den Führer des Landes, Muammar Gaddafi, zu stürzen und zu töten. Nachdem ihm die Kontrolle entzogen wurde, erlag das Land einem Jahrzehnt fast ununterbrochener Konflikte zwischen mehreren Parteien, die Tod, Verwüstung und Massenvertreibungen mit sich brachten. Derzeit wird die politische Szene vom Machtkampf zwischen zwei verfeindeten Koalitionen dominiert.

Eine davon mit Sitz in Tripolis wurde von Washington und seinen Verbündeten eingesetzt und hat nominell den Status einer international anerkannten Regierung. Die andere Gruppe hat ihren Sitz in der östlichen Stadt Bengasi und wird von General Khalifa Haftar angeführt, der sich durch den Sieg über einige der dschihadistischen Milizen, die seit Gaddafis Tod florierten, einen Namen gemacht hat. Ersteres wird von Saudi-Arabien, den Vereinigten Arabischen Emiraten und insbesondere vom türkischen Staatschef Recep Erdogan unterstützt, der Tausende seiner al-Qaida-, ISIS- und anderen militanten Stellvertreter aus Syrien verlegt hat.

Tripolis selbst wird von Islamisten dominiert. Haftar wird von den Nachbarländern Ägypten, Jordanien, Russland und Frankreich unterstützt. Verschiedene Stammesmilizen und Dschihadistenbewegungen durchstreifen das weite Landesinnere Libyens. Die Vereinigten Staaten äußerten sich kürzlich in ihrer Unterstützung zweideutig und forderten beide Seiten auf, eine Vereinbarung zu treffen Modus Vivendi – mit wenig Erfolg. Frage: Washington versorgt ALLE oben genannten Parteien direkt oder indirekt mit Waffen – mit Ausnahme der islamistischen Milizen. Würde sein Einfluss zunehmen und seine Ziele besser verwirklicht werden, wenn die Waffenlieferungen auch KI-Waffensysteme umfassen würden?

Nr. 5 Jemen: Das von Saudi-Arabien angeführte Abschlachten und Aushungern der Houthis hing entscheidend von der Beteiligung des amerikanischen Militärs ab. Ihr Feldzug wäre ohne US-Flugzeuge zur Betankung, US-Offiziere, die im saudischen Kommandohauptquartier sitzen, um gezielte Angriffe durchzuführen, und ohne US-Geheimdienste unmöglich gewesen. Darüber hinaus haben wir die neuesten „intelligenten“ Bomben und Raketen bereitgestellt. Wir haben auch dazu beigetragen, die Blockade durchzusetzen, die der Bevölkerung Lebensmittel und Medikamente vorenthielt. Die saudische Absicht bestand darin, die Houthis zur Unterwerfung zu zwingen, indem sie so viel Elend wie möglich verursachten. Frage: Wie hätte der umfassende Einsatz von KI-Waffensystemen daran etwas geändert? Würden sich die kritischen „Ziele“ nicht in Washington, Tampa und Riad befinden, die für nicht-KI-gestützte Waffen leicht zugänglich sind? 

Nr. 6 Der Vietnamkrieg Dabei handelte es sich um einen Konflikt zwischen einem landesweiten Aufstand und einer massiven Aufstandsbekämpfungskampagne. Ein wesentlicher Teil der amerikanischen Strategie zielte darauf ab, das Vietcong-Schutzgebiet zu verweigern, indem große Gebiete der Vegetation entblößt wurden (Agent Orange) und Zivilisten aus weiten Gebieten vertrieben wurden, die als „freie Feuerzonen“ erklärt wurden. Hätte der Besitz von KI-Waffen die Kriegsführung, die Opferzahlen und den Ausgang wesentlich verändert? Wie? 

Nr. 7 Zweiter Weltkrieg Die Flächenbombardierung von Städten wurde zur Norm. Der Höhepunkt war Hiroshima und Nagasaki. Die Zahl der zivilen Opfer bei dem früheren Brandanschlag auf Tokio war fast ebenso hoch. Es ging einher mit den Luftangriffen auf Hamburg und Dresden. Sie alle hatten das gemeinsame Ziel, die Moral des Feindes zu untergraben, die Industrieproduktion lahmzulegen – und die Rachegelüste gegen deutsche Luftangriffe auf London, Coventry, Rotterdam und japanische Gräueltaten zu befriedigen. (Da die Invasion im Irak eine Rache für den 9. September war). Frage: Hätten wir damals Zugang zu KI-Waffen gehabt, wäre diese Denkweise anders ausgefallen und hätten wir anders gehandelt?  

Die Betrachtung dieser Fragen führt uns zu drei klaren Schlussfolgerungen: 

Nr. 1 Der flächendeckende Einsatz künstlicher Intelligenz gesteuerter Waffen wird sich nicht nennenswert auf Entscheidungen über den Einsatz militärischer Gewalt, die Kriegsführung oder deren Folgen auswirken. 

Nr. 2 Betrachtet man die Geschichte der Kriegsführung oder beschränkt sich unsere Betrachtung auf die jüngsten Kriege im Nahen Osten, an denen die Vereinigten Staaten beteiligt waren, so ist der Anteil der zivilen Opfer, der durch den Einsatz von KI-Waffen reduziert werden könnte, sehr gering. Die Kriegshandlungen, die die überwiegende Mehrheit der Opfer fordern, sind nicht von der Art, dass sie einen groß angelegten Ersatz durch KI-Waffen ermöglichen. *

(KI Zielgerichtete Waffen werden jedoch immer schneller entwickelt, eingesetzt und eingesetzt. In unserem postmodernen Zeitalter genießt jede mit elektronischen Geräten verbundene High-Tech-Innovation einen mutmaßlichen Anspruch auf überlegenen Nutzen, Wert und Tugend.)  

Nr. 3 Die mit KI-Waffen verbundenen Innovationen wie Drohnen und die Freiwilligenarmee könnten militärischen Aktivismus fördern, indem sie weniger amerikanische Opfer versprechen. Das Nettoergebnis könnte jedoch insgesamt mehr Nettotod und -zerstörung sein. 

Vor einigen Jahren nahm ich an den Feierlichkeiten zum Tag der Republik in Neu-Delhi teil. Ich hatte einen Platz am Straßenrand für die von Nehru und seinem Kabinett angeführte Parade entlang des großen Raj Path vom Präsidentenpalast (Rashtrapati Bhavan) zum India Gate. Ihnen folgten weitere Würdenträger, Wagen und dann eine beeindruckende Truppe von Kavallerie mit Turbanen und prächtiger Kleidung. Ein Spektakel, das einem kaiserlichen Durbar würdig ist. Tatsächlich hatte Lutyens alles zu Ehren des unsterblichen britischen Raj entworfen.  

Ganz am Ende der Prozession befand sich, in respektablem Abstand hinter den Reitern, eine weniger glamouröse Truppe khakigekleideter „Kehrer“, die mit Strohbesen den zurückgebliebenen Mist aufräumten.  

Die heutige politische Welt weckt insofern Erinnerungen an diesen Anlass, als wir nach dem jüngsten Großereignis ständig mit einer riesigen Menge Blödsinn konfrontiert werden, nach kleineren Ereignissen jedoch mit kleineren Mengen. Die dringenden Empfehlungen im KI-Bericht der Kommission fallen in die letztere Kategorie, es mangelt ihnen aber nicht an Schärfe.

Insgesamt besteht ein Ungleichgewicht zwischen Produktion und Entsorgung. Die Schaufelkapazität konnte nicht mithalten. Das Dilemma für Kommentatoren liegt in der Lage der „unantastbaren“ Kehrmaschinen Neu-Delhis, die die Drecksarbeit erledigen müssen, den öffentlichen Raum frei von riechenden Stoffen zu halten.

Die Wiederholung macht die Aufgabe umso mühsamer. Es ist, als ob die 800 Mann starke Leichte Brigade unter dem Kommando unserer einheimischen Lord Cardigans stünde, zieht täglich auf dem Marsch ins Tal des Todes durch. Ja – jemand muss es tun, „Unberührbare“ gibt es nicht, und die beste Lösung wäre, die „Pferde“ einzustallen. Die Wahrscheinlichkeit, dass das letzte Mal in absehbarer Zeit passiert, ist gleich Null.  

Ich persönlich habe Urlaub genommen. Anstelle einer systematischen Zerlegung des Berichts habe ich daher die Vermeidungsstrategie verfolgt und mich auf die wenigen oben dargestellten Bemerkungen und Fragen beschränkt. 

* Die Werbetreibenden für KI-Waffen stützen ihre Beförderung auf eine falsche Vorstellung von Kriegsführung. Sie gehen davon aus, dass es im Wesentlichen instrumenteller Natur ist. Es ist nicht. Zerstörung, Plünderung und Brutalisierung von Zivilisten sind – normalerweise – ein wesentlicher Bestandteil eines Krieges.

Denken Sie im Extremfall an Attila den Hunnen, dessen Armeen routinemäßig schlachteten und plünderten, oder an Dschingis Khans Goldene Horde, die dasselbe tat, oder an Timur, dessen Visitenkarte eine Schädelpyramide am Stadttor war, oder an die Nazis. Für sie wäre eine antiseptische Kriegsführung ein Gräuel gewesen, weil sie ihnen den ganzen Spaß genommen hätte.

Die Leidenschaften von Kriegen, die von Religion oder anderen Ideologien inspiriert sind, verheißen auch nichts Gutes für Nichtkombattanten: z. B. Josuas Vernichtung von Jericho – gehorsam gegenüber den Befehlen seines Kommandanten; die Kreuzzüge; der 17^thDer Dreißigjährige Krieg des Jahrhunderts; der jüngste Amoklauf des Islamischen Staates. Oder die Geißel des modernen Nationalismus.

Hatten die Serben, die Sarajevo beschossen, Bedenken hinsichtlich der Präzisionszielgenauigkeit? Hätten Radovan Karadzic oder Slobodan Mladic KI-Waffen als Lösung für ein moralisches Dilemma begrüßt, das ihre unsterblichen Seelen gefährdete?

In all diesen Fällen war der bloße Begriff „Kollateralschaden“ irrelevant.

Michael Brenner ist Professor für internationale Angelegenheiten an der University of Pittsburgh. [E-Mail geschützt]

Die geäußerten Ansichten sind ausschließlich die des Autors und können die des Autors widerspiegeln oder auch nicht Neuigkeiten des Konsortiums.