De 'moraliteit' van AI-wapens

By Michaël Brenner

A Een door het congres benoemd panel, genaamd de National Security Commission on Artificial Intelligence, beveelt het Amerikaanse leger aan een groot programma te lanceren om autonome wapens te ontwikkelen die worden aangedreven door kunstmatige intelligentie (AI)-software.

Het panel, onder leiding van de voormalige CEO van Google, Eric Schmidt, heeft een rapport opgesteld waarin wordt opgeroepen tot een uitgave van 20 tot 30 miljard dollar om het programma vooruit te helpen.  

Er zijn een aantal dingen die in Amerika moeten gebeuren om het leiderschap wereldwijd te behouden... #AI is de #technologie dat drijft onze economische output aan... en we moeten doen wat nodig is... Het gaat niet zozeer om het geld, maar om het op één lijn brengen van de krachten. – #NSCAI Voorzitter @Eric Schmidt

— Nationale Veiligheidscommissie voor AI (@AiCommission) 23 februari 2021

Vice-voorzitter Robert Work, voormalig vice-minister van Defensie, zei dat autonome wapens naar verwachting minder fouten zullen maken dan mensen in de strijd, wat tot minder slachtoffers zal leiden. "Het is een morele imperatief om op zijn minst deze hypothese na te streven”, zei hij.

Het ontwerp rapport beveelt aan dat Washington “AI adopteert om de manier te veranderen waarop we Amerika verdedigen, tegenstanders afschrikken, intelligentie gebruiken om de wereld te begrijpen, en oorlogen voeren en winnen.” (Er wordt gewerkt aan de raad van bestuur van Raytheon en de raad van adviseurs van Govini, een big data- en analysebedrijf dat zich inzet voor het transformeren van de bedrijfsvoering van de overheid door middel van datawetenschap.)  

Categorische morele imperatieven van On High is iets dat ik tijdens mijn jeugd heb gemist. De kosten van een verspilde jeugd. Wat was ik jaloers op onze bejaarde Schotse buurman, die mij vertelde over verhalen uit zijn jeugd over het bijwonen van calvinistische diensten in Dunfermline. Daar werd hij elke zondag in de kerk door een stalen prediker met strenge rechtschapenheid de rechtvaardige plicht gegeven om zichzelf te verbeteren. In tegenstelling tot die jeugdige, opbeurende geestelijke ervaringen, verdreef ik de Dag des Heren door voor de tv te loungen en naar balspelen te kijken.  

Ik ben dus dankbaar voor de hoogstaande vermaningen van de beste en slimste mensen uit Silicon Valley dat ik een “morele imperatief” heb om de uitgaven van enkele tientallen miljarden aan op kunstmatige intelligentie gerichte wapens te ondersteunen die alleen degenen doden die het verdienen, dat wil zeggen de door Washington gekozen “Elektr.Nu heb ik de morele zaak die ik al die jaren heb gemist – de afwezigheid ervan is de bron van mijn besluiteloze aarzeling op het gebied van gewelddadige dood en vernietiging. 

‘Ik stel voor… [wij] adopteren de #AI aanbevelingen van de commissie, die op 1 maart verschijnen.” – #NSCAI Voorzitter @Eric Schmidt

— Nationale Veiligheidscommissie voor AI (@AiCommission) 23 februari 2021

Toegegeven, sommige ongelukkige denkgewoonten verzetten zich er hardnekkig tegen om geheel ontworteld te worden. De neiging om op geloof gebaseerde militaire doctrines te toetsen aan de werkelijkheid is daar één van. Er blijven lastige vragen opduiken die mijn voortgang op de weg van ethische waarheid en verlossing belemmeren. Daarom smeek ik u ernstig om hulp bij het wegnemen van deze twijfels. Hier zijn ze, in samengevatte vorm. 

Nr. 1 “Shock & Awe” De bombardementen van maart 2003 op honderden locaties in heel Irak waren bedoeld om de Iraakse leiders tot overgave te dwingen en om de weg vrij te maken voor de invasie. Grote gebouwen, installaties en complexen werden verwoest met duizenden slachtoffers tot gevolg. Vraag: hoe zouden AI-wapensystemen deze strategie hebben beïnvloed? Bestaat er een preciezere versie van “Shock & Awe” die dezelfde psychologische en militaire impact heeft? 

Nr. 2 Falluja  In de loop van de oorlog hebben Amerikaanse troepen het grootste deel van Fallujah met de grond gelijk gemaakt - tweemaal, honderdduizend mensen de woestijn in rijden. Vraag: gegeven het feit dat de vijand verspreid was over de stad en gecamoufleerd, wat zou het vermogen van AI-systemen zijn geweest om geschikte doelen te identificeren via algoritmegestuurde zoekopdrachten in databanken naar netvliesmatches en gezichtsherkenning. enz? Hoe konden de burgers door de jongens van Fort Meade en van Central Command worden gewaarschuwd dat er geen partij voor hen was en dat ze veilig thuis konden blijven en CNN-video's van de aanval op hun tv konden bekijken?  

Nr. 3 Mosul en Raqqa In de campagne tegen ISIS hebben we het grootste deel van Mosul en Raqqa met de grond gelijk gemaakt. Alleen al de mariniers vuurden ruim 20,000 artilleriegranaten af ​​op Mosul, een dichtbevolkte stad met ruim een ​​miljoen inwoners. De luchtmacht voerde meer dan 30,000 gevechtsmissies uit. De Franse luchtmacht, de Iraakse luchtmacht, het Nationale Leger en de sjiitische militie schoten ook op de stad.

Met al deze vuurkracht duurde het enkele weken om Mosul te zuiveren van ISIS-strijders. Het aantal burgerslachtoffers en vluchtelingen is te talrijk om te tellen. Vraag: hoe zou AI ons in staat hebben gesteld dezelfde doelstellingen op hygiënische wijze te bereiken in het licht van de ISIS-ontduikingstactieken die veel complexer waren dan die welke we in Falluja tegenkwamen? 

(Het andere alternatief voor het innemen van een stedelijk gebied is van huis tot huis vechten met slechts beperkte artillerie- en luchtsteun. Dat betekent uiteraard meer slachtoffers voor de gevechtstroepen. Het verwoesten van de stad vervangt in feite de militaire slachtoffers onder de aanvallende burgers door burgerslachtoffers. kracht – in een verhouding van 10:1 of 20:1?) 

Nr. 4 Libië Hier leverden de VS het grootste deel van de vuurkracht om de leider van het land, Muammar Gaddafi, omver te werpen en te doden. Nu zijn greep is weggenomen, is het land bezweken voor een decennium van bijna voortdurende strijd tussen meerdere partijen, met dood, verwoesting en massale ontwrichting in zijn spoor. Momenteel wordt het politieke toneel gedomineerd door de machtsstrijd tussen twee strijdende coalities.

Eén, gevestigd in Tripoli, werd geïnstalleerd door Washington en zijn bondgenoten, en heeft een nominale status als de internationaal erkende regering. De andere, gecentreerd in de oostelijke stad Benghazi, wordt geleid door generaal Khalifa Haftar, die in de gunst kwam door enkele van de jihadistische milities te verslaan die sinds de dood van Gaddafi tot bloei zijn gekomen. De eerste wordt gesteund door Saoedi-Arabië, de VAE en vooral de Turkse leider Recep Erdogan, die duizenden van zijn al-Qaeda, ISIS en andere militante bondgenoten uit Syrië heeft overgebracht.

Tripoli zelf wordt gedomineerd door islamisten. Haftar heeft de steun van buurlanden Egypte, Jordanië, Rusland en Frankrijk. Verschillende tribale milities en jihadistische bewegingen zwerven door het uitgestrekte binnenland van Libië. De Verenigde Staten hebben onlangs hun steun dubbel uitgesproken en er bij de twee partijen op aangedrongen een oplossing te vinden modus vivendi – met weinig succes. Vraag: Washington levert wapens, direct of indirect, aan ALLE bovengenoemde partijen – behalve de islamistische milities. Zou zijn invloed toenemen en zouden zijn doelstellingen een betere kans hebben om gerealiseerd te worden als de wapenleveranties ook AI-wapensystemen zouden omvatten?

Nr. 5 Jemen: De door Saoedi-Arabië geleide slachting en uithongering van Houthi’s is in cruciale mate afhankelijk geweest van de deelname van het Amerikaanse leger. Hun campagne zou onmogelijk zijn geweest zonder Amerikaanse vliegtuigen die voor tanken zorgden, zonder Amerikaanse officieren die op het Saoedische commandohoofdkwartier zaten om de doelwitten te dirigeren en zonder de Amerikaanse inlichtingendiensten. Daarnaast hebben we het nieuwste op het gebied van ‘slimme’ bommen en raketten geleverd. We hielpen ook bij het handhaven van de blokkade die voedsel en medicijnen ontzegde aan de algemene bevolking. De Saoedische bedoeling was om de Houthi’s tot onderwerping te dwingen door zoveel mogelijk ellende te veroorzaken. Vraag: hoe zou een uitgebreide inzet van AI-wapensystemen dit allemaal hebben veranderd? Zouden de kritieke ‘doelen’ zich niet in Washington, Tampa en Riyadh bevinden, die gemakkelijk toegankelijk zijn voor niet door AI ondersteunde wapens? 

Nr. 6 De Vietnamoorlog Dit was een conflict tussen een landelijke opstand en een grootschalige campagne tegen de opstand. Een belangrijk deel van de Amerikaanse strategie was erop gericht het Vietcong-heiligdom te ontkennen door grote stukken vegetatie te ontmaskeren (Agent Orange) en burgers te verdrijven uit grote delen van het grondgebied dat tot 'vrijvuur'-zones was verklaard. Zou het bezit van AI-wapens het verloop van de oorlog, het aantal slachtoffers en de uitkomst substantieel hebben veranderd? Hoe? 

Nr. 7 Tweede Wereldoorlog Het bombarderen van steden werd de norm. Het culmineerde in Hiroshima en Nagasaki. Het aantal burgerslachtoffers bij de eerdere brandbombardementen op Tokio was bijna net zo hoog. Hetzelfde gold voor de luchtaanvallen op Hamburg en Dresden. Ze deelden allemaal de doelstellingen van het ondermijnen van het moreel van de vijand, het verlammen van de industriële productie – en het bevredigen van de wraaklust op Duitse luchtaanvallen op Londen, Coventry, Rotterdam en de Japanse wreedheden. (Aangezien de invasie van Irak wraak was voor 9/11). Vraag: als we destijds toegang hadden gehad tot AI-wapens, zou dit denken dan anders zijn geweest en zouden we anders hebben gehandeld?  

Reflectie op deze vragen leidt ons tot drie duidelijke conclusies: 

Nr. 1 De wijdverbreide inzet van wapens onder leiding van kunstmatige intelligentie zal geen merkbare verandering teweegbrengen in beslissingen over het gebruik van militair geweld, het voeren van oorlog of de gevolgen ervan. 

Nr. 2 Als we de geschiedenis van de oorlogsvoering bekijken, of onze beschouwing beperken tot recente oorlogen in het Midden-Oosten waarbij de Verenigde Staten betrokken zijn, is het aandeel burgerslachtoffers dat door het gebruik van AI-wapens zou kunnen worden verminderd, zeer laag. De oorlogsdaden die de overgrote meerderheid van de slachtoffers veroorzaken, zijn niet van het soort dat grootschalige vervanging van AI-wapens mogelijk maakt. *

(NAAR DE niettemin zullen gerichte wapens in steeds sneller tempo worden ontwikkeld, ingezet en gebruikt. In onze postmoderne tijd geniet elke hightech-innovatie die verband houdt met elektronische gadgets een vermoedelijke aanspraak op superieur nut, waarde en deugd.)  

Nr. 3 De innovatie die verband houdt met AI-wapens, zoals drones en het vrijwilligersleger, zou militair activisme kunnen aanmoedigen door minder Amerikaanse slachtoffers te beloven. Het nettoresultaat zou echter wel eens meer netto doden en vernietigingen in totaal kunnen zijn. 

Een aantal jaren geleden woonde ik de ceremonies van de Dag van de Republiek in New Delhi bij. Ik had een plaats op de stoep voor de parade onder leiding van Nehru en zijn kabinet langs het grote Raj Path van het presidentiële paleis (Rashtrapati Bhavan) naar de India Gate. Ze werden gevolgd door andere hoogwaardigheidsbekleders, praalwagens en vervolgens een indrukwekkende reeks cavalerie met tulband in prachtige kledij. Een spektakel dat een keizerlijke Durbar waardig is. Lutyens had het allemaal ontworpen ter ere van de onsterfelijke Britse Raj.  

Helemaal aan het einde van de stoet, die de ruiters op een respectabele afstand volgde, stond een minder glamoureus peloton van in kaki geklede ‘vegers: die strobezems gebruikten om de achtergebleven mest op te ruimen.  

De hedendaagse politieke wereld roept herinneringen op aan die gelegenheid, in zoverre we voortdurend een enorme hoeveelheid BS te zien krijgen in de nasleep van het laatste mega-evenement, en kleinere hoeveelheden na kleinere evenementen. De dringende aanbevelingen in het AI-rapport van de commissie vallen in de laatste categorie, maar ontberen niets aan scherpte.

Over het geheel genomen is er sprake van een onevenwicht tussen productie en verwijdering. De laadcapaciteit is niet bijgehouden. Het dilemma voor commentatoren wordt geplaatst in de positie van de 'onaantastbare' veegmachines van New Delhi, die het vuile werk moeten doen en de openbare ruimte vrij moeten houden van stinkende materie.

Herhaling maakt de taak des te lastiger. Het is alsof de 800 man sterke Lichte Brigade onder bevel staat van onze eigen Lord Cardigans, loopt dagelijks in maart door naar de Valley of Death. Ja – iemand moet het doen, ‘onaanraakbaren’ bestaan ​​niet, en de beste oplossing zou zijn om de ‘paarden’ te stallen. De kans dat dit laatste in de nabije toekomst zal gebeuren, is nihil.  

Ik heb persoonlijk verlof opgenomen. Dus in plaats van het rapport systematisch te ontmantelen, heb ik de vermijdingsstrategie gevolgd door mij te beperken tot de enkele opmerkingen en vragen die hierboven zijn geformuleerd. 

* De pitchers voor AI-wapens baseren hun promotie op een verkeerde opvatting van oorlogvoering. Ze gaan ervan uit dat het in wezen een instrumenteel karakter heeft. Het is niet. Vernietiging, plundering en wreedheid van burgers zijn doorgaans een integraal onderdeel van oorlog.

Denk in het uiterste geval aan Attila de Hun wiens legers routinematig afslachtten en plunderden, of de Gouden Horde van Genghis Khan die hetzelfde deed, of Timur wiens visitekaartje een piramide van schedels bij de stadspoort was, of de nazi's. Voor hen zou antiseptische oorlogsvoering een gruwel zijn geweest, waardoor al het plezier eruit zou zijn gehaald.

De hartstochten van oorlogen geïnspireerd door religie of andere ideologieën voorspellen ook slecht voor niet-strijders: bijvoorbeeld Joshua's vernietiging van Jericho – gehoorzaam aan de bevelen van zijn commandant; de kruistochten; de 17^thDe Dertigjarige Oorlog van de eeuw; de recente rampspoed van de Islamitische Staat. Of de plaag van het moderne nationalisme.

Waren de Serviërs die Sarajevo beschoten bezorgd over precisiedoelschieten? Zouden Radovan Karadzic of Slobodan Mladic AI-wapens hebben verwelkomd als oplossing voor een moreel dilemma dat hun onsterfelijke zielen in gevaar bracht?

In al deze gevallen was het begrip ‘bijkomende schade’ irrelevant.

Michael Brenner is hoogleraar internationale zaken aan de Universiteit van Pittsburgh. [e-mail beveiligd]

De geuite meningen zijn uitsluitend die van de auteur en kunnen al dan niet die van Consortium Nieuws.