'Moralnost' AI oružja

By Michael Brenner

A kongresno povjerenstvo, pod nazivom Povjerenstvo za nacionalnu sigurnost o umjetnoj inteligenciji, preporučuje da vojska Sjedinjenih Država pokrene veliki program za razvoj autonomnog oružja pokretanog softverom umjetne inteligencije (AI).

Panel, predvođen bivšim izvršnim direktorom Googlea, Ericom Schmidtom, pripremio je izvješće koje poziva na izdatke od 20-30 milijardi dolara za unaprjeđenje programa.  

Postoji niz stvari koje se moraju dogoditi u Americi kako bi se održalo vodstvo na globalnoj razini... #AI je #tehnologija to pokreće našu ekonomsku proizvodnju... i moramo učiniti sve što je potrebno... Nije toliko u novcu koliko u usklađivanju snaga. – #NSCAI Predsjednik @EricSchmidt

— Komisija za nacionalnu sigurnost o umjetnoj inteligenciji (@AiCommission) 23. veljače 2021.

Njegov potpredsjednik, Robert Work, bivši zamjenik ministra obrane, rekao je da se očekuje da će autonomno oružje činiti manje pogrešaka nego ljudi u borbi, što dovodi do smanjenih žrtava. "To je moralni imperativ barem nastaviti s ovom hipotezom”, rekao je.

Skica izvješće preporučuje da Washington "usvoji umjetnu inteligenciju kako bi promijenio način na koji branimo Ameriku, odvraćamo protivnike, koristimo inteligenciju da bismo razumjeli svijet te borimo i pobjeđujemo u ratovima." (Radi u upravnom odboru za Raytheon i odboru savjetnika za Govini, tvrtku za velike podatke i analitiku posvećenu transformaciji poslovanja vlade kroz podatkovnu znanost.)  

Kategorički moralni imperativi iz On High je nešto što mi je nedostajalo tijekom odrastanja. Cijena izgubljene mladosti. Kako sam zavidio našem ostarjelom škotskom susjedu koji me častio pričama iz svog djetinjstva o pohađanju kalvinističke službe u Dunfermlineu. Tamo mu je, u crkvi svake nedjelje, čelični propovjednik stroge čestitosti usadio pravednu obvezu da se usavršava. Ja sam, za razliku od tih mladenačkih uzdižućih duhovnih iskustava, provodio dan Gospodnji izležavajući se ispred TV-a gledajući utakmice s loptom.  

Dakle, zahvalan sam na visokoumnim upozorenjima najboljih i najpametnijih ljudi iz Silicijske doline da imam “moralni imperativ” podržati trošenje nekoliko desetaka milijardi na oružje usmjereno umjetnom inteligencijom koje ubija samo one koji to zaslužuju, tj. izabrane Washingtona”Elektr.” Sada imam moralni razlog koji mi je nedostajao sve ove godine – njegov nedostatak je izvor mog neodlučnog kolebanja po pitanju nasilne smrti i razaranja. 

“Predlažem... [da] usvojimo #AI preporuke komisije, koje izlaze 1. ožujka.” – #NSCAI Predsjednik @EricSchmidt

— Komisija za nacionalnu sigurnost o umjetnoj inteligenciji (@AiCommission) 23. veljače 2021.

Doduše, neke nesretne navike mišljenja uporno se opiru tome da budu potpuno iskorijenjene. Sklonost testiranju vojnih doktrina utemeljenih na vjeri u odnosu na stvarnost jedna je od njih. Neugodna pitanja neprestano se pojavljuju kako bi spriječila moj napredak na putu etičke istine i iskupljenja. Stoga vas iskreno molim za pomoć u otklanjanju tih sumnji. Evo ih, u sažetom obliku. 

Br. 1 “Šok i strahopoštovanje” Bombardiranje stotina mjesta diljem Iraka u ožujku 2003. imalo je za cilj natjerati iračko vodstvo na predaju, kao i raščistiti put za invaziju. Uništene su velike zgrade, instalacije i kompleksi uz tisuće žrtava. Pitanje: kako bi AI sustavi oružja utjecali na ovu strategiju? Postoji li preciznija verzija "Shock & Awe" koja ima isti psihološki i vojni učinak? 

Broj 2 Faludža  Tijekom rata američke snage sravnile su s zemljom veći dio Falluje - dvaput, tjerajući stotinjak tisuća u pustinju. Pitanje: s obzirom na to da su neprijatelji bili raspršeni po gradu i kamuflirani, kakva bi bila sposobnost AI sustava da identificiraju odgovarajuće mete putem algoritama vođenih pretraga u bankama podataka za podudaranja mrežnice, prepoznavanje lica. itd.? Kako bi ljudi iz Fort Meadea i Centralnog zapovjedništva mogli upozoriti civile da im nema para i da sigurno mogu ostati kod kuće gledajući CNN-ove snimke napada na svojim televizorima?  

Ne 3 Mosul & Raqqa U kampanji protiv ISIS-a sravnili smo većinu Mosula i Raqqe. Samo su marinci ispalili više od 20,000 topničkih granata na Mosul, gusto naseljen grad s više od milijun stanovnika. Zračne snage izvršile su više od 30,000 XNUMX borbenih misija. Francuske zračne snage, iračke zračne snage, Nacionalna armija i šiitska milicija također su pucale na grad.

Uz svu ovu vatrenu moć, trebalo je nekoliko tjedana da se Mosul očisti od boraca ISIS-a. Civilnih žrtava i izbjeglica bilo je previše za brojanje. Pitanje: kako bi nam umjetna inteligencija omogućila postizanje istih ciljeva na sanitarni način u svjetlu ISIS-ovih taktika izbjegavanja koje su bile daleko složenije od onih na koje smo naišli u Falluji? 

(Druga alternativa za zauzimanje urbanog područja je borba od kuće do kuće uz samo ograničenu topničku i zračnu podršku. To, naravno, znači veće gubitke za borbene postrojbe. Uništavanje grada zapravo zamjenjuje civilne žrtve za vojne žrtve među napadačima sila – u omjeru 10:1 ili 20:1?) 

Broj 4 Libija Ovdje su SAD pružile najveći dio vatrene moći da svrgnu i ubiju vođu zemlje Moamera Gadafija. Nakon što je uklonjen s njegove ruke, zemlja je podlegla desetljeću gotovo kontinuiranog višestranačkog sukoba sa smrću, pustošenjem i masovnim raseljavanjem. Trenutačno političkom scenom dominira borba za vlast između dviju zaraćenih koalicija.

Jednu, sa sjedištem u Tripoliju, postavili su Washington i njegovi saveznici i ima nominalni status međunarodno priznate vlade. Drugu, sa središtem u istočnom gradu Bengaziju, vodi general Khalifa Haftar koji je stekao naklonost porazivši neke od džihadističkih milicija koje su cvjetale nakon Gadafijeve smrti. Prvog podupiru Saudijska Arabija, UAE i posebno turski čelnik Recep Erdogan, koji je prebacio tisuće svojih pomagača al-Qaide, ISIS-a i drugih militanata iz Sirije.

Samim Tripolijem dominiraju islamisti. Haftar ima potporu susjednog Egipta, Jordana, Rusije i Francuske. Razne plemenske milicije i džihadistički pokreti lutaju ogromnom unutrašnjosti Libije. Sjedinjene Države nedavno su posustale u svojoj podršci dok su pozivale dvije strane da postignu dogovor modus vivendi — s malo uspjeha. Pitanje: Washington daje oružje, izravno ili neizravno, SVIM gore navedenim stranama - osim islamističkim milicijama. Bi li se njegov utjecaj povećao i njegovi ciljevi imali bolje izglede za ostvarenje da te isporuke oružja uključuju oružane sustave umjetne inteligencije?

br. 5 Jemen: Pokolj i izgladnjivanje Hutija koje predvode Saudijske Arabije presudno su ovisili o sudjelovanju američke vojske. Njihova bi kampanja bila nemoguća bez američkih zrakoplova koji su opskrbljivali gorivom, američkih časnika koji su sjedili u saudijskom zapovjednom stožeru da usmjeravaju ciljanje i američke obavještajne službe. Osim toga, osigurali smo najnovije "pametne" bombe i projektile. Također smo pomogli u provedbi blokade koja je općoj populaciji uskraćivala hranu i lijekove. Namjera Saudijske Arabije bila je natjerati Hutije na pokornost izazivanjem što je više moguće bijede. Pitanje: kako bi opsežna primjena AI sustava oružja promijenila išta od ovoga? Ne bi li kritične 'mete' bile locirane u Washingtonu, Tampi i Rijadu koji su lako dostupni oružju koje nije potpomognuto umjetnom inteligencijom? 

Br. 6 Vijetnamski rat Bio je to sukob između pobune u cijeloj zemlji i masovne protupobunjeničke kampanje. Glavni dio američke strategije bio je uskratiti utočište Vietconga uništavanjem velikih područja vegetacije (Agent Orange) i tjeranjem civila sa širokih dijelova teritorija proglašenih zonama 'slobodne vatre'. Bi li posjedovanje AI oružja bitno promijenilo vođenje rata, razine žrtava i ishod? Kako? 

Broj 7 Drugi svjetski rat Tepih bombardiranje gradova postalo je norma. Kulminirao je u Hirošimi i Nagasakiju. Civilne žrtve u ranijem bombardiranju Tokija bile su gotovo jednako visoke. Bilo je to isto kao i zračni napadi na Hamburg i Dresden. Svi su dijelili ciljeve potkopavanja morala neprijatelja, osakaćenja industrijske proizvodnje - i zadovoljenja žudnje za osvetom protiv njemačkih zračnih napada na London, Coventry, Rotterdam i japanskih zločina. (Kao što je invazija na Irak bila osveta za 9. rujna). Pitanje: da smo u to vrijeme imali pristup AI oružju, bi li ovo razmišljanje i akcije bile drugačije?  

Razmišljanje o ovim pitanjima dovodi nas do tri jasna zaključka: 

Ne 1 Široko raspoređivanje oružja pod vodstvom Umjetne inteligencije neće značajno promijeniti odluke u vezi s uporabom vojne sile, vođenjem rata ili njegovim posljedicama. 

Ne 2 Pregledavajući povijest ratovanja ili ograničavajući naše razmatranje na nedavne ratove na Bliskom istoku u koje su bile uključene Sjedinjene Države, udio civilnih žrtava koji bi se mogao smanjiti korištenjem AI oružja je vrlo nizak. Ona ratna djela koja proizvode veliku većinu žrtava nisu one vrste koja dopušta zamjenu oružja velikih razmjera AI. *

(PREMA usmjereno oružje će se razvijati, raspoređivati ​​i koristiti ubrzanom brzinom – unatoč tome. U našem postmodernom dobu, svaka visokotehnološka inovacija povezana s elektroničkim napravama uživa pretpostavljenu tvrdnju o superiornoj korisnosti, vrijednosti i vrlini.)  

Ne 3 Inovacije povezane s oružjem umjetne inteligencije, poput dronova i dobrovoljačke vojske, mogle bi potaknuti vojni aktivizam obećavajući manje američkih žrtava. Konačni rezultat, međutim, mogao bi biti više neto smrti i uništenja u cjelini. 

Prije nekoliko godina prisustvovao sam svečanostima povodom Dana Republike u New Delhiju. Imao sam mjesto uz rub za paradu koju su vodili Nehru i njegov kabinet duž veličanstvene staze Raj Path od predsjedničke palače (Rashtrapati Bhavan) do Vrata Indije. Slijedili su ih drugi dostojanstvenici, kola, a zatim impresivan niz konjanika s turbanima u veličanstvenoj odjeći. Spektakl dostojan carskog Durbara. Doista, Lutyens je sve to osmislio u čast Besmrtnog britanskog Raja.  

Na samom kraju povorke, prateći konjanike na respektabilnoj udaljenosti, bio je manje glamurozan odred “čistača” odjevenih u kaki: koji su koristili slamnate metle za čišćenje gnoja koje je ostalo za sobom.  

Današnji politički svijet budi sjećanja na tu prigodu utoliko što nam se stalno prikazuje ogromno leglo BS-a nakon posljednjeg mega događaja, a manje količine nakon manjih događaja. Hitne preporuke u izvješću AI-ja Komisije spadaju u potonju kategoriju, ali im ništa ne nedostaje u oštrini.

Općenito, postoji neravnoteža proizvodnje i zbrinjavanja. Kapacitet lopatanja nije zadovoljan. Dilema za komentatore postavlja se u položaj “nedodirljivih” čistača New Delhija od kojih se traži da obave prljavi posao čišćenja javnog prostora od neugodnih tvari.

Ponavljanje čini zadatak još dosadnijim. Kao da Laka brigada od 800 vojnika, kojom zapovijeda naš domaći Lord Cardigans, svakodnevno prolazi u maršu do Doline smrti. Da – netko to mora učiniti, “nedodirljivi” ne postoje, a najbolje rješenje bi bilo “konje” u štali. Šanse da se posljednji dogodi bilo kada u doglednoj budućnosti su ravne nuli.  

Osobno sam uzeo dopust. Dakle, umjesto sustavnog uklanjanja izvješća, slijedio sam strategiju izbjegavanja ograničavajući se na nekoliko gore navedenih primjedbi i pitanja. 

* Pokretači za AI oružje temelje svoju promociju na pogrešnoj koncepciji ratovanja. Oni pretpostavljaju da je u biti instrumentalne prirode. Nije. Uništavanje, pljačkanje i brutaliziranje civila je sastavni dio rata – obično.

U krajnjem slučaju, sjetite se Huna Atile čije su vojske rutinski klale i pljačkale, ili Zlatne horde Džingis-kana koja je činila isto, ili Timura čija je posjetnica bila piramida lubanja na gradskim vratima, ili nacista. Za njih bi antiseptički rat bio anatema - izbacivanje sve zabave iz njega.

Strasti ratova inspiriranih religijom ili drugim ideologijama također su loše slutile na neborce: npr. Jošuino uništenje Jerihona – poslušan naredbama svog Zapovjednika; križarski ratovi; 17^thstoljetni tridesetogodišnji rat; nedavnog divljanja Islamske države. Ili pošast modernog nacionalizma.

Jesu li Srbi koji su granatirali Sarajevo bili zabrinuti zbog preciznog ciljanja? Bi li Radovan Karadžić ili Slobodan Mladić pozdravili umjetnu inteligenciju kao rješenje za moralnu dilemu koja je ugrozila njihove besmrtne duše?

U svim tim slučajevima sam pojam "kolateralne štete" bio je irelevantan.

Michael Brenner je profesor međunarodnih odnosa na Sveučilištu u Pittsburghu. mbren@pitt.edu

Izražena stajališta isključivo su stajališta autora i mogu, ali ne moraju odražavati stajališta Vijesti o konzorciju.