'Морал' АИ оружја

By Мицхаел Бреннер

A Конгресно именована комисија, названа Комисија за националну безбедност за вештачку интелигенцију, препоручује да војска Сједињених Држава покрене велики програм за развој аутономног оружја које покреће софтвер за вештачку интелигенцију (АИ).

Панел, који је предводио бивши извршни директор Гугла, Ерик Шмит, припремио је извештај у којем се позива на потрошњу од 20-30 милијарди долара за унапређење програма.  

Постоји низ ствари које се морају десити у Америци да би се одржало лидерство на глобалном нивоу… #АИ је #тецхнологи то покреће нашу економску производњу... и морамо да урадимо шта год је потребно... Није у питању толико новац колико усклађивање снага. – #НСЦАИ Председник @ЕрицСцхмидт

— Комисија за националну безбедност за вештачку интелигенцију (@АиЦоммиссион) 23. фебруара 2021. године

Његов потпредседник Роберт Ворк, бивши заменик министра одбране, рекао је да се очекује да ће аутономно оружје направити мање грешака него што то чине људи у борби, што ће довести до смањења жртава. "То је морални императив да бар наставимо са овом хипотезом“, рекао је он.

Нацрт извештај препоручује да Вашингтон „усвоји вештачку интелигенцију да промени начин на који бранимо Америку, одвраћамо противнике, користимо обавештајне податке да бисмо разумели свет и борили се и побеђивали у ратовима“. (Рад је у управном одбору за Раитхеон и одбору саветника за Говини, фирму за велике податке и аналитику која је посвећена трансформацији пословања владе путем науке о подацима.)  

Категорички морални императиви из Он Хигх су нешто што ми је недостајало док сам одрастао. Цена погрешно потрошене младости. Како сам завидио нашем остарјелом шкотском комшију који ме је обрадовао причама из свог детињства о присуству калвинистичких служби у Данфермлајну. Тамо, у цркви сваке недеље, челични проповедник строге исправности усадио му је праведну обавезу да се усавршава. Ја сам, за разлику од тих младалачких уздижућих духовних искустава, Дан Господњи одмарао излежавајући се испред телевизора гледајући утакмице.  

Дакле, захвалан сам на високоумним упозорењима најбољих и најсјајнијих из Силицијумске долине да имам „морални императив“ да подржим трошење неколико десетина милијарди на оружје усмерено вештачком интелигенцијом које убија само оне који то заслужују, односно изабране ВашингтонаЕлецтр.” Сада имам морални узрок који ми је недостајао свих ових година – његово одсуство је извор мог неодлучног колебања по питању насилне смрти и уништења. 

„Предлажем... [ми] усвојимо #АИ препоруке комисије, које излазе 1. марта“. – #НСЦАИ Председник @ЕрицСцхмидт

— Комисија за националну безбедност за вештачку интелигенцију (@АиЦоммиссион) 23. фебруара 2021. године

Додуше, неке несрећне навике мишљења се упорно опиру томе да буду потпуно искорењене. Склоност тестирању војних доктрина заснованих на вери у односу на стварност је једна од њих. Неугодна питања се стално појављују како би ометала мој напредак на путу етичке истине и искупљења. Стога вас искрено молим за помоћ у отклањању тих сумњи. Ево их, у сажетом формату. 

бр. 1 „Шок и страхопоштовање” Бомбардовање стотина локација широм Ирака у марту 2003. имало је за циљ да натера ирачко руководство да се преда, као и да отвори пут за инвазију. Велике зграде, инсталације и комплекси су уништени са хиљадама жртава. Питање: како би системи АИ оружја утицали на ову стратегију? Постоји ли прецизнија верзија „Шок и страхопоштовање“ која има исти психолошки и војни утицај? 

бр. 2 Фалуџа  Током рата, америчке снаге су сравниле већи део Фалуџе - два пута, возећи сто хиљада у пустињу. Питање: с обзиром на то да је непријатељ био распрострањен по граду и камуфлиран, каква би била способност АИ система да идентификује одговарајуће мете путем алгоритамских претрага у банкама података за подударања мрежњаче, препознавање лица. итд? Како су цивили могли бити упозорени од стране момака у Форт Меадеу и Централној команди да им нема пара и да могу безбедно да остану код куће гледајући ЦНН видео снимке напада на својим телевизорима?  

Но КСНУМКС Мосул и Рака У кампањи против ИСИС-а сравнили смо већину Мосула и Раке. Само маринци су испалили преко 20,000 артиљеријских граната на Мосул, густо насељен град са више од милион људи. Ваздухопловство је извршило преко 30,000 борбених мисија. Француско ваздухопловство, ирачко ваздухопловство, Национална армија и шиитска милиција такође су пуцали на град.

Уз сву ову ватрену моћ, требало је неколико недеља да се Мосул очисти од бораца ИСИС-а. Цивилне жртве и избеглице су превише бројни да би се избројали. Питање: како би нам вештачка интелигенција омогућила да постигнемо исте циљеве на санитарни начин у светлу ИСИС тактике избегавања која је била далеко сложенија од оних на које смо наишли у Фалуџи? 

(Друга алтернатива за заузимање урбаног подручја је борба од куће до куће са само ограниченом артиљеријском и ваздушном подршком. То, наравно, значи веће жртве за борбене трупе. Разбијање града у ствари замењује цивилне жртве војним жртвама међу нападачима сила – у односу 10:1 или 20:1?) 

бр. 4 Либија Овде су САД обезбедиле највећи део ватрене моћи да свргну и убију лидера земље Моамера Гадафија. Пошто је његов стисак уклоњен, земља је подлегла деценији готово непрекидних вишестраначких сукоба са смрћу, пустошењем и масовном дислокацијом у свом возу. Тренутно политичком сценом доминира борба за власт између две зараћене коалиције.

Једну, са седиштем у Триполију, поставили су Вашингтон и његови савезници, и има номинални статус међународно признате владе. Други, са центром у источном граду Бенгазију, предводи генерал Калифа Хафтар који је стекао наклоност победивши неке од џихадистичких милиција које су цветале од Гадафијеве смрти. Прву подржавају Саудијска Арабија, Уједињени Арапски Емирати, а посебно турски лидер Реџеп Ердоган, који је пребацио хиљаде својих заступника из Ал Каиде, ИСИС-а и других милитантних заступника из Сирије.

У самом Триполију доминирају исламисти. Хафтар има подршку суседног Египта, Јордана, Русије и Француске. Различите племенске милиције и џихадистички покрети лутају огромном унутрашњости Либије. Сједињене Државе су недавно двосмислено изразиле своју подршку истовремено позивајући две стране да постигну а модус вивенди — са малим успехом. Питање: Вашингтон обезбеђује оружје, директно или индиректно, СВИМ горе наведеним партијама — осим исламистичких милиција. Да ли би се његов утицај повећао и да би његови циљеви имали веће шансе да се остваре да те испоруке оружја укључују системе оружја са вештачком интелигенцијом?

бр. 5 Јемен: Покољ и изгладњивање Хута предвођено Саудијском Арабијом пресудно су зависили од учешћа америчке војске. Њихова кампања била би немогућа без америчких авиона који су допуњавали гориво, америчких официра који су седели у саудијском командном штабу да директно циљају и америчких обавештајних служби. Поред тога, обезбедили смо најновије „паметне“ бомбе и пројектиле. Такође смо помогли да се спроведе блокада која је ускраћивала храну и лекове општој популацији. Саудијска намера је била да примора Хути на покорност изазивањем што веће беде. Питање: како би опсежна употреба система наоружања са вештачком интелигенцијом променила било шта од овога? Зар се критичне 'мете' не би налазиле у Вашингтону, Тампи и Ријаду које су лако доступне оружју без АИ? 

бр. 6 Вијетнамски рат Ово је био сукоб између побуне широм земље и масовне кампање против побуњеника. Главни део америчке стратегије имао је за циљ да ускрати уточиште Вијетконга уклањањем великих површина вегетације (Агент Оранге) и приморавањем цивила да напусте широке делове територије проглашене за зоне 'слободне ватре'. Да ли би поседовање АИ оружја у значајној мери променило вођење рата, нивое жртава и исход? Како? 

бр.7 Други светски рат Тепих бомбардовања градова постала је норма. Кулминирао је у Хирошими и Нагасакију. Цивилне жртве у ранијем бомбардовању Токија биле су скоро исто тако високе. Било је у комаду са ваздушним нападима на Хамбург и Дрезден. Сви су имали заједничке циљеве подривања морала непријатеља, осакаћења индустријске производње — и задовољења жудње за осветом против немачких ваздушних напада на Лондон, Ковентри, Ротердам и јапанска зверства. (Како је инвазија на Ирак била освета за 9. септембар). Питање: да ли смо у то време имали приступ оружју са вештачком интелигенцијом, да ли би ово размишљање било другачије и акције у супротном?  

Размишљање о овим питањима доводи нас до три јасна закључка: 

Но КСНУМКС Распрострањено коришћење оружја које управља вештачка интелигенција неће имати значајне промене у одлукама у вези са употребом војне силе, вођењем рата или његовим последицама. 

Но КСНУМКС Прегледајући историју ратовања, или ограничавајући наше разматрање, на недавне ратове на Блиском истоку у које су учествовале Сједињене Државе, проценат цивилних жртава који би се могао смањити употребом АИ оружја је веома низак. Они ратни акти који производе огромну већину жртава нису такве врсте која дозвољава масовну замену оружја АИ. *

(АИ усмерено оружје ће се развијати, распоређивати и користити убрзано – без обзира на то. У нашем постмодерном добу, свака високотехнолошка иновација повезана са електронским гаџетима ужива претпостављену тврдњу о супериорној корисности, вредности и врлини.)  

Но КСНУМКС Иновација повезана са оружјем вештачке интелигенције, попут дронова и добровољачке војске, могла би да подстакне војни активизам обећавајући мање америчких жртава. Нето резултат би, међутим, могао бити више нето смрти и уништења у збиру. 

Пре неколико година присуствовао сам свечаности поводом Дана Републике у Њу Делхију. Имао сам седиште поред ивичњака за параду коју су водили Нехру и његов кабинет дуж велике Рај стазе од Председничке палате (Расхтрапати Бхаван) до Индијске капије. Пратили су их други достојанственици, пловци, а потом и импресиван низ коњице са турбанима у величанственој одећи. Спектакл достојан империјалног Дурбара. Заиста, Лутиенс је све то дизајнирао у част бесмртног британског раја.  

На самом крају поворке, пратећи коњанике на респектабилној удаљености, био је мање гламурозан одред „чистача“ обучених у каки боје: који су сламнатим метлама очистили стајњак који је остао за собом.  

Данашњи политички свет буди сећања на ту прилику утолико што нам се после последњег мега догађаја стално представља огромно легло БС, а после мањих догађаја све мање. Хитне препоруке у извештају АИ комисије спадају у последњу категорију, али ништа не недостаје у оштрини.

Све у свему, постоји неравнотежа производње и одлагања. Капацитет лопата се није одржао. Дилема за коментаторе се поставља у позицију „недодирљивих” чистача из Њу Делхија од којих се тражи да раде прљави посао чишћења јавног простора од смрдљивих материја.

Понављање чини задатак још досаднијим. Као да је лака бригада од 800 војника, којом командује наш домаћи Лорд Кардиганс, пролази свакодневно у маршу до Долине смрти. Да – неко то мора да уради, „недодирљиви” не постоје, а најбоље решење би било да се „коњи” поставе у шталу. Шансе да се ово последње деси било када у догледној будућности су никакве.  

Ја сам лично узео одсуство. Дакле, уместо систематског растављања извештаја, следио сам стратегију избегавања да се ограничим на неколико примедби и питања која су горе представљена. 

* Менаџери за АИ оружје своју промоцију заснивају на погрешној концепцији ратовања. Они претпостављају да је у суштини инструменталне природе. Није. Уништавање, пљачка и брутализација цивила је саставни део рата – обично.

У крајњем случају, помислите на Атиле Хуна чије су војске рутински клале и пљачкале, или на Златну хорду Џингис-кана која је чинила исто, или на Тимура чија је визит карта била пирамида лобања на градској капији, или нацисте. За њих би антисептички рат био анатема – одузимајући сву забаву.

Страсти ратова инспирисаних религијом или другим идеологијама такође слуте лоше за неборце: на пример, Исусово уништење Јерихона – послушно наређењима свог команданта; Крсташки ратови; 17^thЦентури'с Тридесетогодишњи рат; недавно дивљање Исламске државе. Или пошаст модерног национализма.

Да ли су Срби који су гранатирали Сарајево били забринути због прецизног гађања? Да ли би Радован Караџић или Слободан Младић поздравили АИ оружје као решење моралне дилеме која је угрозила њихове бесмртне душе?

У свим овим случајевима, сам појам „колатералне штете“ био је ирелевантан.

Мајкл Бренер је професор међународних послова на Универзитету у Питсбургу. mbren@pitt.edu

Изражени ставови су искључиво ставови аутора и могу, али не морају одражавати ставове Цонсортиум Невс.