'Moralen' til AI-våpen

By Michael Brenner

A Kongressoppnevnt panel, kalt National Security Commission on Artificial Intelligence, anbefaler at USAs militære starter et stort program for å utvikle autonome våpen drevet av kunstig intelligens (AI) programvare.

Panelet, ledet av Googles tidligere administrerende direktør, Eric Schmidt, har utarbeidet en rapport som krever utgifter på 20-30 milliarder dollar for å fremme programmet.  

Det er et sett med ting som må skje i Amerika for å opprettholde lederskap globalt... #AI er den #teknologi som driver den økonomiske produksjonen vår... og vi må gjøre alt som trengs... Det er ikke så mye penger som det er å få kreftene på linje. – #NSCAI Formann @EricSchmidt

– National Security Commission on AI (@AiCommission) Februar 23, 2021

Dets nestleder, Robert Work, en tidligere viseforsvarsminister, sa at autonome våpen forventes å gjøre færre feil enn mennesker gjør i kamp, ​​noe som fører til reduserte tap. "Det er en moralsk imperativ for i det minste å forfølge denne hypotesen," sa han.

Utkastet rapporten anbefaler at Washington «adopterer AI for å endre måten vi forsvarer Amerika på, avskrekke motstandere, bruke intelligens for å forstå verden, og kjempe og vinne kriger». (Arbeidet er i styret for Raytheon, og styret for rådgivere for Govini, et big data- og analysefirma som er forpliktet til å transformere myndighetenes virksomhet gjennom datavitenskap.)  

Kategoriske moralske imperativer fra On High er noe jeg gikk glipp av under oppveksten. Kostnaden for en misbrukt ungdom. Hvordan jeg misunnet vår aldrende skotske nabo som beundret meg med historier fra barndommen hans om å delta på kalvinistiske gudstjenester i Dunfermline. Der, i kirken hver søndag, ble han innpodet den rettferdige forpliktelsen til å forbedre seg av en stålsatt predikant av streng rettferdighet. Jeg, i motsetning til de ungdommelige oppløftende åndelige opplevelsene, drev bort Herrens dag ved å slappe av foran TV-en og se på ballkamper.  

Så jeg er takknemlig for de høysinnede formaningene gitt av Silicon Valleys beste og flinkeste om at jeg har et "moralsk imperativ" for å støtte å bruke noen titalls milliarder på kunstig intelligens-styrte våpen som dreper bare de som fortjener det, dvs. Washingtons utvalgte "Elektr.” Nå har jeg den moralske årsaken som jeg har savnet i alle disse årene – fraværet er kilden til min ubesluttsomme vakling i saker om voldelig død og ødeleggelse. 

"Jeg foreslår ... [vi] vedtar #AI kommisjonens anbefalinger, som kommer ut 1. mars.» – #NSCAI Formann @EricSchmidt

– National Security Commission on AI (@AiCommission) Februar 23, 2021

Riktignok motstår noen uheldige tankevaner iherdig å bli fullstendig rykket opp med roten. Tilbøyeligheten til å teste trosbaserte militære doktriner mot virkeligheten er en av dem. Det dukker stadig opp vanskelige spørsmål for å hindre fremgangen min på veien til etisk sannhet og forløsning. Derfor ber jeg på det sterkeste om hjelp til å legge denne tvilen til ro. Her er de, i oppsummert format. 

Nr. 1 «Sjokk og ærefrykt» Bombingen i mars 2003 av hundrevis av steder over hele Irak var ment å kue den irakiske ledelsen til overgivelse, samt å rydde veien for invasjonen. Store bygninger, installasjoner og komplekser ble ødelagt med tusenvis av skader. Spørsmål: hvordan ville AI-våpensystemer ha påvirket denne strategien? Finnes det en mer presis versjon av "Shock & Awe" som har samme psykologiske og militære innvirkning? 

nr. 2 Fallujah  I løpet av krigen jevnet amerikanske styrker det meste av Fallujah med jorden – to ganger, kjører hundre tusen eller så inn i ørkenen. Spørsmål: gitt at fienden var spredt over hele byen, og kamuflert, hva ville ha vært evnen til AI-systemer til å identifisere passende mål gjennom algoritmedrevne søk i databanker etter netthinnematch, ansiktsgjenkjenning. etc? Hvordan kan de sivile bli varslet av gutta ved Fort Meade og sentralkommandoen om at det ikke fantes noen match for dem, og at de trygt kunne holde seg hjemme og se CNN-videoer av angrepet på TV-ene deres?  

In. 3 Mosul og Raqqa I kampanjen mot ISIS raserte vi det meste av Mosul og Raqqa. Marinesoldatene alene skjøt over 20,000 artillerigranater inn i Mosul, en tett befolket by med godt over en million. Luftforsvaret fløy mer enn 30,000 XNUMX kampoppdrag. Det franske luftvåpenet, det irakiske luftvåpenet, den nasjonale hæren og sjia-militsen skjøt også mot byen.

Med all denne ildkraften tok det flere uker å rense Mosul for ISIS-krigere. Sivile tap og flyktninger har vært for mange til å telle. Spørsmål: hvordan ville AI ha gjort det mulig for oss å oppnå de samme målene på sanitær måte i lys av ISIS unnvikelsestaktikker som var langt mer komplekse enn de som ble møtt i Falluja? 

(Det andre alternativet for å ta et urbant område er å kjempe hus-til-hus med bare begrenset artilleri og luftstøtte. Det betyr selvfølgelig høyere tap for kamptropper. Å rasere byen erstatter faktisk sivile tap med militære tap blant de angripende kraft – i forholdet 10:1 eller 20:1?) 

nr. 4 Libya Her ga USA hoveddelen av ildkraften for å velte og drepe landets leder, Muammar Gaddafi. Med hans grep fjernet, har landet bukket under for et tiår med nesten kontinuerlig flerpartistrid med død, ødeleggelse og masseforstyrrelser i toget. For tiden er den politiske scenen dominert av maktkampen mellom to stridende koalisjoner.

Den ene, basert i Tripoli, ble installert av Washington og dets allierte, og har en nominell status som den internasjonalt anerkjente regjeringen. Den andre, sentrert i den østlige byen Benghazi, ledes av general Khalifa Haftar som vant gunst ved å beseire noen av de jihadistiske militsene som har blomstret siden Gaddafis død. Førstnevnte støttes av Saudi-Arabia, UAE og spesielt Tyrkias leder Recep Erdogan, som har overført tusenvis av sine al-Qaida, ISIS og andre militante fullmektiger fra Syria.

Tripoli selv er dominert av islamister. Haftar har støtte fra nabolandene Egypt, Jordan, Russland og Frankrike. Ulike stammemilitser og jihadi-bevegelser streifer rundt i det enorme indre av Libya. USA har nylig vært tvetydig i sin støtte mens de har oppfordret de to sidene til å nå en modus vivendi – med liten suksess. Spørsmål: Washington gir våpen, direkte eller indirekte, til ALLE de ovennevnte partiene – unntatt de islamistiske militsene. Ville dens innflytelse øke og dens mål ha en bedre sjanse for å bli realisert dersom disse våpenleveransene inkluderte AI-våpensystemer?

nr. 5 Jemen: Den Saudi-ledede slaktingen og sultingen av houthiene har vært avgjørende avhengig av det amerikanske militærets deltakelse. Kampanjen deres ville vært umulig uten amerikanske fly som har levert drivstoff, amerikanske offiserer som sitter ved saudiarabisk kommandohovedkvarter for å lede målretting og amerikansk etterretning. I tillegg leverte vi det siste innen "smarte" bomber og missiler. Vi bidro også til å håndheve blokaden som nektet mat og medisiner til befolkningen generelt. Den saudiske intensjonen har vært å tvinge houthiene til underkastelse ved å forårsake så mye elendighet som mulig. Spørsmål: hvordan ville omfattende bruk av AI-våpensystemer ha endret noe av dette? Ville ikke de kritiske 'målene' være lokalisert i Washington, Tampa og Riyadh som er lett tilgjengelige for ikke-AI-assisterte våpen? 

nr. 6 Vietnamkrigen Dette var en konflikt mellom et landsomfattende opprør og en massiv kampanje mot opprør. En stor del av den amerikanske strategien tok sikte på å nekte Vietcong-helligdommen ved å avvise store vegetasjonsområder (Agent Orange) og tvinge sivile ut av store deler av territoriet erklært som 'fri-ild'-soner. Ville besittelse av AI-våpen ha endret krigens gjennomføring, antall havarier og utfallet på en vesentlig måte? Hvordan? 

nr. 7 andre verdenskrig Teppebombingen av byer ble normen. Det kulminerte i Hiroshima og Nagasaki. Sivile tap i den tidligere brannbombingen av Tokyo var nesten like høye. Det var stykket med luftangrepene mot Hamburg og Dresden. De delte alle målene om å undergrave fiendens moral, lammende industriell produksjon – og tilfredsstille hevnlysten mot tyske luftangrep mot London, Coventry, Rotterdam og japanske grusomheter. (Som invasjonen av Irak var hevn for 9/11). Spørsmål: hadde vi tilgang til AI-våpen på den tiden, ville denne tankegangen vært annerledes og handlinger ellers?  

Refleksjon over disse spørsmålene leder oss til tre klare konklusjoner: 

In. 1 Utbredt utplassering av våpen regissert av kunstig intelligens vil ikke ha noen merkbar endring på beslutninger om bruk av militær makt, krigsføring eller konsekvenser av det. 

In. 2 Ved å gå gjennom historien til krigføring, eller begrense vår vurdering, til nylige kriger i Midtøsten som involverer USA, er andelen sivile tap som kan reduseres ved bruk av AI-våpen, svært lav. De krigshandlingene som produserer det store flertallet av ofre er ikke av en type som tillater storskala erstatning av AI-våpen. *

(TIL rettede våpen vil bli utviklet, utplassert og brukt i en akselererende hastighet – likevel. I vår postmoderne tidsalder nyter enhver høyteknologisk innovasjon assosiert med elektronisk gadgetry et presumptivt krav på overlegen nytte, verdi og dyd.)  

In. 3 Innovasjonen knyttet til AI-våpen, som droner og den frivillige hæren, kan oppmuntre til militær aktivisme ved å love færre amerikanske tap. Nettoresultatet kan imidlertid godt være mer netto død og ødeleggelse til sammen. 

For flere år siden deltok jeg på republikkdagens seremonier i New Delhi. Jeg hadde en fortauskant for paraden ledet av Nehru og kabinettet hans langs den storslåtte Raj-stien fra presidentpalasset (Rashtrapati Bhavan) til India-porten. De ble fulgt av andre dignitærer, flottører og deretter et imponerende utvalg av turbanisert kavaleri i praktfull antrekk. Et skue verdig en Imperial Durbar. Faktisk hadde Lutyens designet alt for å hedre den udødelige britiske Raj.  

Helt på slutten av prosesjonen, etter ryttere på respektabel avstand, var en mindre glamorøs gruppe av khakikledde «feiere: som brukte halmkost for å rydde opp i møkka som ble etterlatt.  

Dagens politiske verden bringer tilbake minner fra den anledningen i den grad vi stadig blir presentert med et enormt kull med BS i etterkant av den siste megabegivenheten, og mindre mengder etter mindre begivenheter. De presserende anbefalingene i AI-rapporten fra kommisjonen faller inn i den siste kategorien, men mangler ingenting i skarphet.

Totalt sett er det en ubalanse mellom produksjon og avhending. Måkekapasiteten har ikke holdt følge. Dilemmaet for kommentatorer blir plassert i posisjonen til New Delhis "uberørbare" feiere som er pålagt å gjøre det skitne arbeidet med å holde det offentlige rom fritt for lukt.

Gjentakelse gjør oppgaven desto mer irriterende. Det er som om den 800 mann sterke lette brigaden, kommandert av våre hjemmevokste Lord Cardigans, passerer daglig i mars til Dødens dal. Ja – noen må gjøre det, «untouchables» eksisterer ikke, og den beste løsningen ville være å stabilisere «hestene». Sjansene for at det siste skjer i overskuelig fremtid er null.  

Jeg personlig har tatt permisjon. Så i stedet for en systematisk demontering av rapporten, har jeg fulgt unngåelsesstrategien med å begrense meg til de få bemerkningene og spørsmålene som er presentert ovenfor. 

* Pitchmen for AI-våpen baserer sin promotering på en feilaktig oppfatning av krigføring. De antar at det i hovedsak er instrumentell i naturen. Det er ikke. Ødeleggelse, plyndring og brutalisering av sivile er en integrert del av krig – vanligvis.

Tenk på det ytterste på Huneren Attila hvis hærer slaktet og plyndret rutinemessig, eller Genghis Khans Golden Horde som gjorde det samme, eller Timur hvis visittkort var en pyramide av hodeskaller ved byporten, eller nazistene. For dem ville antiseptisk krigføring vært anathema – å ta all moroa ut av det.

Lidenskapene til kriger inspirert av religion eller andre ideologier lover også vondt for ikke-stridende: f.eks. Josvas utslettelse av Jeriko – lydig mot ordre fra hans kommandør; korstogene; den 17^thårhundres trettiårskrig; Den islamske statens nylige herjing. Eller den moderne nasjonalismens svøpe.

Var serberne som skjøt Sarajevo bekymret for presisjonsmålretting? Ville Radovan Karadzic eller Slobodan Mladic ha ønsket AI-våpen velkommen som en løsning på et moralsk dilemma som satte deres udødelige sjeler i fare?

I alle disse tilfellene var selve begrepet "collateral damage" irrelevant.

Michael Brenner er professor i internasjonale anliggender ved University of Pittsburgh. [e-postbeskyttet]

Synspunktene som uttrykkes er utelukkende forfatterens og gjenspeiler kanskje eller ikke Nyheter fra konsortiet.