Амерички војни роботи на брзом путу ка лидерској улози

By Мицхаел Т. Кларе 
ТомДиспатцх.цом

Wитх Цовид-19 онеспособљава запањујуће бројке америчких војника и модерног оружја које се показује све смртоноснијим, америчка војска је Ослањајући се све чешће на интелигентним роботима за извођење опасних борбених операција. Такви уређаји, познати у војсци као „аутономни системи наоружања“, укључују роботске стражаре, дронове за надзор бојног поља и аутономне подморнице.

До сада, другим речима, роботски уређаји само замењују стандардно оружје на конвенционалним ратиштима. Сада, међутим, у огромном скоку вере, Пентагон настоји да подигне овај процес на потпуно нови ниво - замењујући не само обичне војнике и њихово оружје, већ и потенцијалне адмирале и генерале роботским системима.

Додуше, ти системи су још увек у фази развоја, али Пентагон сада пожурује са њиховим будућим размештањем што је хитно питање за државу. Свака компонента савременог генералштаба — укључујући планирање битака, прикупљање обавештајних података, логистику, комуникације и доношење одлука — треба, према најновијим плановима Пентагона, бити пребачена на сложене аранжмане сензора, компјутера и софтвера.

Све ово ће тада бити интегрисано у „систем система“, сада назван Заједничка команда и контрола у свим доменима, или ЈАДЦ2 (пошто акроними остају суштина војног живота). На крају, тај амалгам система може заиста преузети већину функција које тренутно обављају амерички генерали и њихови виши штабни официри.

Појам употребе машина за доношење одлука на нивоу команде није, наравно, потпуно нов. Истина, дуго се чекало. Током Хладног рата, након увођења интерконтиненталних балистичких пројектила (ИЦБМ) са изузетно кратким временом лета, и војни стратези и писци научне фантастике почели су да замишљају механичке системе који би контролисали такво нуклеарно оружје у случају људске неспособности.

У сатиричном филму Стенлија Кјубрика из 1964 Др. Странгелове, на пример, измишљени руски лидер Димитри Кисов открива да је Совјетски Савез инсталирао „машину судњег дана“ способну да уништи сав људски живот који би аутоматски експлодирао ако би земља била под нападом америчких нуклеарних снага.

Напори лудих антисовјетских официра америчких ваздухопловних снага да изазову рат са Москвом онда успевају да покрену ту машину и тако доведу до уништења људи. У стварности, страхујући да би могли доживети изненадни напад управо ове врсте, Совјети су касније инсталирали полуаутоматски систем за одмазду. синхронизовано „Периметар“, дизајниран за лансирање совјетских ИЦБМ-а у случају да сензори открију нуклеарне експлозије и да све комуникације из Москве буду утишане.

Неки аналитичари верују да је надограђена верзија Периметра још увек у функцији, остављајући нас у потпуно стварној верзији света Странгеловиан.

У још једној научно-фантастичној верзији таквих аутоматизованих командних система, филму из 1983 Ратне игре, са Маттхевом Бродерицком у главној улози хакера тинејџера, приказао је суперкомпјутер под називом Вар Оператионс План Респонсе, или ВОПР (изговара се "вхоппер") инсталиран у Сјеверноамеричкој команди за ваздухопловство (НОРАД) седиште у Колораду.

Када га лик Бродерика хакује и почне да игра оно што верује да је игрица која се зове „Трећи светски рат“, компјутер закључује да је стварни совјетски напад у току и покреће нуклеарни одговор. Иако је фиктиван, филм тачно приказује многе аспекте америчког система нуклеарне команде, контроле и комуникације (НЦ3), који је тада био и још увек остаје високо аутоматизован.

Такви уређаји, и стварни и измишљени, били су релативно примитивни према данашњим стандардима, јер су могли само да утврде да је нуклеарни напад у току и да нареде катастрофалан одговор. Сада, као резултат великих побољшања у вештачка интелигенција (АИ) и машинског учења, машине могу да прикупљају и процењују огромне количине сензорских података, брзо откривају кључне трендове и обрасце и потенцијално издају наређења борбеним јединицама где да нападну и када.

Компресија времена и људска грешка

Замена интелигентних машина за људе на вишим командним нивоима постаје суштинска, тврде амерички стратези, јер експоненцијални раст информација сензора у комбинацији са све већом брзином ратовања чини готово немогућим људима да прате кључне догађаје на бојном пољу.

Ако се будући сценарији покажу тачним, битке које су се некада одвијале током дана или недеља могле би се одвијати у размаку од неколико сати, или чак минута, док ће информације са бојног поља пристизати као мноштво тачака података, преплављујући штабне официре. Само напредни компјутери, како се тврди, могу да обрађују толико информација и доносе информисане борбене одлуке у потребном временском року.

Таква временска компресија и проширење сензорских података могу се применити на било који облик борбе, али посебно на најстрашнији од свих, нуклеарни рат. Када су ИЦБМ биле главно средство такве борбе, доносиоци одлука су имали до 30 минута између времена лансирања пројектила и тренутка детонације да утврде да ли је потенцијални напад стваран или само лажно очитавање сателита (као што је понекад се јављају током Хладног рата).

То можда не звучи као много времена, али са недавним увођењем хиперсоничне ракете, таква времена процене могу се смањити на само пет минута. У таквим околностима, много је очекивати чак и од најпажљивијих доносилаца одлука да донесу информисану процену о природи потенцијалног напада. Отуда привлачност (неким) аутоматизованих система доношења одлука.

„Компресија времена напада довела је америчко више руководство у ситуацију у којој постојећи систем НЦ3 можда неће деловати довољно брзо“, војни аналитичари Адам Ловтхер и Цуртис МцГиффин тврде at Рат стијенама, безбедносно оријентисана веб локација. „Дакле, можда ће бити неопходно развити систем заснован на вештачкој интелигенцији, са унапред одређеним одлукама о одговору, који открива, одлучује и усмерава стратешке снаге таквом брзином да изазов компресије времена напада не доводи Сједињене Државе у немогућу позицију. .”

Ова идеја, да уређај са вештачком интелигенцијом — у суштини, интелигентнија верзија машине за судњи дан или ВОПР — треба да буде овлашћен да процени понашање непријатеља, а затим, на основу „унапред одређених опција одговора“, одлучује о судбини човечанства, је природно произвео неке нелагодност у заједници војних аналитичара (као што би требало и за нас остале).

Без обзира на то, амерички стратези настављају да тврде да процену бојног поља и доношење одлука — и за конвенционални и за нуклеарни рат — треба све више пренети на машине.

„Интелигентни системи засновани на вештачкој интелигенцији могу да обезбеде могућност интеграције и сортирања великих гомила података из различитих извора и географских локација како би се идентификовали обрасци и истакле корисне информације“, Истраживачка служба Конгреса напоменути у резимеу размишљања Пентагона из новембра 2019. „Како сложеност система вештачке интелигенције сазрева“, додаје се, „Алгоритми вештачке интелигенције такође могу бити у стању да обезбеде командантима мени одрживих праваца деловања заснованих на анализи бојног простора у реалном времену, што заузврат омогућава бржу адаптацију на сложене догађаје. ”

Кључна формулација је „мени одрживих праваца деловања заснованих на анализи бојног простора у реалном времену“. Ово би могло оставити утисак да ће људски генерали и адмирали (да не говоримо о њиховом главнокомандујућем) и даље доносити коначне одлуке о животу и смрти и за своје снаге и за планету.

С обзиром на тако очекивану компресију времена напада у будућим борбама високог интензитета са Кином и/или Русијом, међутим, људи можда више неће имати времена или способности да сами анализирају простор борбе и тако ће се ослањати на АИ алгоритме за такве процене. Као резултат тога, људски команданти се једноставно могу наћи у томе да подржавају одлуке које доносе машине - и тако, на крају, постају сувишни.

Стварање генерала робота

Упркос свим сумњама које могу да имају у вези са сигурношћу свог будућег посла, амерички највиши генерали брзо се крећу ка развоју и примени тог ЈАДЦ2 аутоматизованог командног механизма. Под надзором Ваздухопловства, показало се да је а компјутерски вођен амалгам уређаја за прикупљање обавештајних података о непријатељским снагама у реалном времену са огромног броја сензорских уређаја (сателити, земаљски радари, електронске прислушне станице и тако даље), обраду тих података у оперативне борбене информације и давање прецизних инструкција за напад свакој борбеној јединици и систем наоружања укључен у сукоб – било да припада војсци, морнарици, ваздухопловству, маринци или новоформираној свемирској и сајбер команди.

Од чега ће се тачно састојати ЈАДЦ2 није широко познато, делом зато што су многи његови компонентни системи још увек обавијени велом тајне, а делом зато што је велики део основне технологије још увек у фази развоја. Ваздухопловство сарађује са делегираним одговорношћу за надгледање пројекта Локид Мартин и других великих одбрамбених извођача за пројектовање и развој кључних елемената система.

Један од таквих грађевинских блокова је његов Напредни систем управљања битком (АБМС), систем за прикупљање и дистрибуцију података намењен да пружи пилотима борбених авиона најновије податке о непријатељским позицијама и помогне у вођењу њихових борбених потеза. Други Кључна компонента је армијски интегрисани систем командовања против ваздушне и ракетне одбране (ИБЦС), дизајниран да повеже радарске системе са лансерима за противваздушну и противракетну одбрану и пружи им прецизна упутства за паљбу.

Временом, Ваздухопловство и његови вишеструки извођачи ће настојати да интегришу АБМС и ИБЦС у огромну мрежу система који повезују сваки сензор, стрелац и командант у оружаним снагама земље – војни „Интернет Ствари“, како су неки рекли.

Да би тестирала овај концепт и пружила пример како би могао да функционише у будућности, војска је спровела а артиљеријска вежба бојеве ватре августа у Немачкој користећи компоненте (или факсимиле) будућег ЈАДЦ2 система.

У првој фази теста, сателитски снимци (претпостављених) положаја руских трупа послани су на војни терминал, где је софтверски програм АИ под називом Прометеј прочешљао податке да би одабрао непријатељске мете.

Затим, други АИ програм под називом СХОТ израчунао је оптимално подударање расположивог војног наоружања са предвиђеним циљевима и послао ове информације, заједно са прецизним координатама паљбе, у напредни систем тактичких података за теренску артиљерију (АФАТДС) за непосредну акцију, где људски команданти могу да изаберу да ли ће је спровести или не. У вежби, ти људски команданти су имали ментални простор да на тренутак размисле о томе; у пуцњавом рату, могли би једноставно све препустити машинама, као што дизајнери система јасно намеравају да ураде.

У будућности, војска планира још амбициозније тестове ове технологије која се развија у оквиру иницијативе под називом Пројецт Цонвергенце. Из онога што је јавно речено о томе, Конвергенција ће предузимати све сложеније вежбе које укључују сателите, ловце ваздухопловства опремљене АБМС системом, војне хеликоптере, беспилотне летелице, артиљеријска средства и тактичка возила. На крају, све ово ће формирати основну „архитектуру“ ЈАДЦ2, повезујући сваки војни сензорски систем са сваком борбеном јединицом и системом наоружања – остављајући генералима мало тога да раде осим да седе и посматрају.

Зашто би генерали роботи могли да погреше

С обзиром на сложеност савременог ратовања и изазов компресије времена у будућим борбама, свакако је разумљив порив америчких стратега да замене људске команданте роботским.

Роботски генерали и адмирали би теоретски могли да обрађују запањујуће количине информација у кратким временским периодима, док прате и пријатељске и непријатељске снаге и осмишљавају оптималне начине да се супротставе непријатељским потезима на будућем бојном пољу. Али постоји много добрих разлога за сумњу у поузданост робота који доносе одлуке и мудрост њиховог коришћења уместо људских официра.

За почетак, многе од ових технологија су још увек у повојима и скоро све су склоне томе кварови које се не могу лако предвидети нити разумети. И не заборавите да чак и напредне алгоритме могу преварити или „преварити“ вешти професионалци.

Поред тога, за разлику од људи, системима за доношење одлука који подржавају вештачку интелигенцију неће недостајати способност да процене намеру или контекст. Да ли изненадно распоређивање непријатељских трупа, на пример, указује на непосредан напад, блеф или само нормалну ротацију снага?

Људски аналитичари могу да искористе своје разумевање тренутног политичког тренутка и укључених актера како би помогли у процењивању ситуације. Машинама недостаје та способност и могу претпоставити најгоре, покретање војне акције која се могла избећи.

Такав проблем ће бити само додатно појачан „обуком“ коју ће такви алгоритми за доношење одлука проћи пошто су прилагођени војним ситуацијама. Баш као што се показао софтвер за препознавање лица окаљана претераним ослањањем на слике белих мушкараца у процесу обуке — што их чини мање вештим у препознавању, рецимо, афроамеричких жена — војни алгоритми за доношење одлука ће вероватно бити искривљен претераним ослањањем на борбено оријентисане сценарије које су одабрали амерички војни професионалци за потребе обуке.

"Размишљање у најгорем случају” је природна склоност оваквих официра — уосталом, ко жели да буде ухваћен неспреман за могући изненадни напад непријатеља? — и такве предрасуде ће несумњиво постати део „менија одрживих праваца деловања“ које пружају роботи за доношење одлука.

Када се једном интегришу у алгоритме за доношење одлука, такве пристрасности би се, заузврат, могле показати изузетно опасним у будућим сусретима између америчких и руских трупа у Европи или америчких и кинеских снага у Азији. До сукоба ове врсте може доћи у било ком тренутку, захваљујући неком неспоразуму или локалном инциденту који брзо добија на замаху — изненадном сукобу између америчких и кинеских ратних бродова код Тајвана, на пример, или између америчких и руских патрола у једној од балтичке државе.

Ниједна страна можда није намеравала да запали сукоб пуног размера и лидери обе стране би обично могли да преговарају о прекиду ватре. Али запамтите, то више неће бити само људски сукоби. Након таквог инцидента, ЈАДЦ2 би могао да открије неки непријатељски потез за који утврди да представља непосредну опасност за савезничке снаге и тако одмах покрене свеобухватни напад америчких авиона, пројектила и артиљерије, ескалирајући сукоб и искључујући сваку шансу раног договора о нагодби.

Такви изгледи постају заиста застрашујући када је у питању почетак нуклеарног рата. Тешко је замислити да било какав сукоб међу великим силама почиње као нуклеарни рат, али је далеко лакше замислити сценарио у којем велике силе — након што су се уплеле у конвенционални сукоб — стигну до тачке у којој једна или друга страна разматра употреба атомског оружја да се спречи пораз.

Америчка војна доктрина, у ствари, има увек издржао могућност употребе такозваног тактичког нуклеарног оружја као одговор на масовни совјетски (сада руски) напад на Европу. Руска војна доктрина је широко распрострањена претпостављено, укључује сличне опције. У таквим околностима, будући ЈАДЦ2 би могао погрешно протумачити непријатељске потезе као сигнализирање припреме за нуклеарно лансирање и наредити превентивни удар америчких нуклеарних снага, чиме би запалио Трећи свјетски рат.

Рат је гадна, брутална активност и, с обзиром на скоро две деценије неуспешних сукоба који су прошли под ознаком „рата против тероризма“, узрокујући хиљаде америчких жртава (физичких и психичких), лако је разумети зашто су ентузијасти робота тако жељни да виде како друга врста менталитета преузима америчко ратовање.

За почетак, тврде, посебно у а пандемијски свет, да је једино хумано заменити људске војнике на бојном пољу роботима и тако умањити људске жртве (барем међу борцима). Ова тврдња се, наравно, не односи на расправа да роботски војници и беспилотне летелице немају способност да праве разлику између бораца и небораца на бојном пољу и стога им се не може веровати да ће се придржавати закона рата или међународног хуманитарног права — који, барем теоретски, штите цивиле од непотребне штете — и па треба забранити.

Колико год све то могло бити на будућим ратиштима, замена генерала и адмирала роботима је сасвим друга ствар.

Не само да се правни и морални аргументи појављују са осветом, јер би опстанак већег цивилног становништва могао бити доведен у опасност због компјутерски изведених борбених одлука, већ нема гаранције да ће амерички војни војници претрпјети мање жртава у биткама које су услиједиле.

Можда је онда време да Конгрес постави нека тешка питања о препоручљивости аутоматизације доношења одлука у борби пре него што ова земља уложи милијарде додатних долара пореских обвезника у предузеће које би, у ствари, могло да доведе до краја света као што знамо то.

Можда је време и да лидери Кине, Русије и ове земље ограниче или забране распоређивање хиперсоничних пројектила и другог наоружања које ће сажимати одлуке о животу и смрти човечанства у само неколико минута, оправдавајући тиме аутоматизацију такве судбоносне пресуде.

Мицхаел Т. Кларе, а ТомДиспатцх регулар, је професор емеритус на пет колеџа за студије мира и светске безбедности на Хемпшир колеџу и виши гостујући сарадник у Асоцијацији за контролу наоружања. Аутор је 15 књига, од којих је последња Сав пакао настаје: перспектива Пентагона о климатским променама (Метрополитенске књиге).

Овај чланак је из ТомДиспатцх.цом.

Изражени ставови су искључиво ставови аутора и могу, али не морају одражавати ставове Цонсортиум Невс.

Молимо Вас допринети до Цонсортиум Невс
на своју 25. годишњицу