麥可·T·克萊爾寫道，五角大廈官員承認，機器人將軍在戰鬥中指揮大量美軍和自主武器還需要一段時間。但他們有幾個項目需要測試和完善它。
2020 年 XNUMX 月，美國國防部官員在聖地牙哥參觀人工智慧公司 Shield AI。 （國防部/麗莎·費迪南多）
A 在這個世界中，由人工智慧 (AI) 控制的機器在大多數商業、工業和專業職能中系統性地取代人類，這是令人恐懼的。
畢竟，正如著名電腦科學家警告我們的那樣，人工智慧管理的系統正在 容易出現 嚴重錯誤和無法解釋的“幻覺”，導致潛在的災難性後果。
但超級智慧機器的擴散可以想像出更危險的場景：這些非人類實體最終可能會互相爭鬥，並在過程中消滅所有人類生命。
當然，超級智慧型電腦可能會肆意橫行並屠殺人類的觀念長期以來一直是流行文化的主要內容。 在預言中 1983電影 軍事演習一台名為WOPR（戰爭行動計劃響應，毫不奇怪地發音為“whopper”）的超級電腦差點引發美國和蘇聯之間的災難性核戰爭，然後被一名青少年黑客（馬修·布羅德里克飾）禁用。
終結者 該系列電影從1984 年的原版電影開始，同樣設想了一種名為“天網”的具有自我意識的超級計算機，它與WOPR 一樣，旨在控制美國核武器，但卻選擇消滅人類，將我們視為對其生存的威脅。
儘管超級電腦殺死人類的概念曾經僅限於科幻小說領域，但現在在不久的將來的現實世界中已經成為一種明顯的可能性。 除了開發各種“自主性”或機器人作戰設備，主要軍事強國也在爭先恐後地創建自動化戰場決策系統，或者可能被稱為“機器人將軍“
在不久的將來的戰爭中，這種由人工智慧驅動的系統可以被部署來向美國士兵下達作戰命令，指示他們在何處、何時以及如何殺死敵軍或從對手那裡開火。在某些情況下，機器人決策者甚至可能最終對美國的原子武器實施控制，這可能引發核戰，導致人類滅亡。
2019 年《魔鬼終結者黑暗宿命》紐約廣告看板。 （布萊希特錯誤，Flickr，CC BY-NC-ND 2.0）
現在，呼吸一會兒。安裝像這樣的人工智慧驅動的命令與控制（C2）系統似乎是一個遙遠的可能性。儘管如此，美國國防部正在努力以系統化、日益快速的方式開發所需的硬體和軟體。
例如，空軍在提交 2023 年預算時 要求 231 萬美元 發展 先進的戰場管理系統 （ABMS），一個由感測器和人工智慧電腦組成的複雜網絡，旨在收集和解釋敵方行動數據，並為飛行員和地面部隊提供最佳攻擊選項選單。
隨著技術的進步，系統 將有能力 直接向“射手”發送“開火”指令，很大程度上繞過了人為控制。
「一種機器對機器的資料交換工具，可以提供威懾、入口（軍事展示武力）或早期交戰的選項，」空軍負責採購、技術的助理部長威爾·羅珀（Will Roper）如此說道。和物流， 描述 2020 年訪談中的 ABMS 系統。
羅珀補充道，隨著系統的發展，“我們確實需要更改名稱”，“我認為天網已經過時了，儘管我很樂意將其視為科幻小說。我只是認為我們不能去那裡。”
雖然他不能去那裡，但那正是我們其他人確實可以去的地方。
請注意，這只是開始。 事實上，空軍的 ABMS 旨在構成一個更大的感測器和電腦群的核心，這些感測器和電腦將連接 全部 美國作戰部隊的聯合全域指揮控制系統（JADC2，發音為“Jad-C-two”）。 「JADC2 旨在透過從眾多感測器收集數據、使用人工智慧演算法處理數據來識別目標，然後推薦最佳武器……來攻擊目標，從而使指揮官能夠做出更好的決策，」國會研究服務處 報導 。
2019 年 XNUMX 月：作為聯合部隊演習的一部分，在托馬斯哈德納號驅逐艦上測試先進戰鬥管理系統設備。 （國防視覺資訊分發服務，公共領域）
人工智慧與核觸發器
最初，JADC2 將旨在協調「常規」或非核美國部隊之間的作戰行動。 但最終預計 銜接 與五角大廈的核指揮控制和通訊系統（NC3）一起，可能使電腦對美國核武庫的使用進行重大控制。
「JADC2 和 NC3 相互交織，」參謀長聯席會議副主席約翰·E·海頓 (John E. Hyten) 將軍說。 表示 在 2020 年的訪談中。 因此，他用典型的五角大樓口吻補充說：“NC3 必須通知 JADC2，JADC2 必須通知 NC3。”
不需要太多的想像力就能想像在不遠的將來，某種危機——比如中美在南中國海或台灣附近的軍事衝突——會促使敵方空軍之間發生更加激烈的戰鬥。和海軍部隊。
想像一下，JADC2 下令對中國境內的敵方基地和指揮系統進行猛烈轟炸，引發對美國設施的相互攻擊，JADC2 閃電般決定用戰術核武器進行報復，引發一場長期令人擔憂的核浩劫。
這種惡夢般的場景可能導致核戰意外或非故意爆發的可能性長期以來一直困擾著軍備控制界的分析師。 但軍事指揮控制系統日益自動化不僅讓他們感到焦慮，也讓國家安全高級官員感到焦慮。
早在 2019年，當我向時任五角大廈聯合人工智慧中心主任傑克·沙納漢中將詢問這種危險的可能性時，他說 回應”，“你會發現沒有更強有力的支持者將人工智能能力整合到國防部，但有一個領域我暫停，它與核指揮和控制有關。”
這“是人類需要做出的最終決定”，因此“我們必須非常小心”。他補充說，鑑於該技術“不成熟”，我們需要“大量時間來測試和評估[在將人工智慧應用於 NC3 之前]”。
此後的幾年裡，儘管有這樣的警告，五角大廈仍繼續加快自動化指揮控制系統的開發。
美國國防部在提交的 2024 年預算中 要求 為 JADC1.4 撥款 2 億美元，目的是“透過以跨所有領域和合作夥伴的相關速度提供資訊優勢來轉變作戰能力。” 呃-哦！ 然後，它要求撥款 1.8 億美元用於其他類型的軍事相關人工智慧研究。
ABMS 演習，或稱為“入口匝道”，於 2020 年 XNUMX 月在馬裡蘭州安德魯斯聯合基地舉行。 （美國空軍，丹尼爾·埃爾南德斯）
五角大廈官員承認，機器人將軍在戰鬥中指揮大量美軍（和自主武器）還需要一段時間，但他們已經啟動了幾個旨在測試和完善這種聯繫的計畫。 陸軍就是一個例子 項目融合，涉及一系列旨在驗證 ABMS 和 JADC2 組件系統的現場練習。
例如，在 2020 年 XNUMX 月在亞利桑那州尤馬試驗場進行的一次測試中，陸軍使用各種空中和地面感測器來追蹤模擬敵軍，然後使用劉易斯聯合基地的人工智慧電腦處理這些數據華盛頓州的麥科德。
這些計算機反過來向尤馬的地面砲兵發出射擊指令。國會研究服務部後來表示：“整個過程據說在 20 秒內完成” 報導.
人們對海軍的人工智慧同等產品「Project Overmatch」知之甚少，因為其程式設計的許多方面都處於保密狀態。 據海軍作戰部長邁克爾·吉爾戴海軍上將稱，「超越」是 意 “使海軍能夠遍布海洋，從近處和遠處、每個軸和每個領域同步提供致命和非致命效果。” 關於該項目的其他資訊幾乎沒有透露。
2020 年，麥可吉爾戴海軍上將。 （國防部，麗莎·費迪南多）
「閃電戰爭」與人類滅絕
儘管這些項目都處於保密狀態，但您可以將 ABMS、JADC2、Convergence 和 Overmatch 視為未來類似天網的巨型超級電腦網路的構建塊，該網路旨在指揮所有美軍，包括其核部隊，武裝作戰。戰鬥。
五角大廈朝這個方向邁得越多，我們就越接近人工智慧對所有美國士兵、敵方部隊以及陷入交火的平民擁有生死攸關的權力的時刻。
這樣的前景應該要引起足夠的擔憂。 首先，考慮此類系統核心演算法的錯誤和誤算風險。 正如頂級計算機科學家警告我們的那樣，這些演算法是 能夠 非常難以解釋的錯誤，用目前的人工智慧術語來說，就是「幻覺」——也就是說，看似合理的結果完全是幻覺。
在這種情況下，不難想像這樣的電腦會「幻覺」敵人迫在眉睫的攻擊，並發動一場本來可以避免的戰爭。
這還不是需要考慮的最嚴重的危險。 畢竟，美國的對手很可能也會同樣為他們的軍隊配備機器人將領。 換句話說，未來的戰爭很可能是由一套人工智慧系統對抗另一套人工智慧系統，兩者都與核武有關，其結果完全不可預測，但可能是災難性的。
關於俄羅斯和中國在軍事指揮和控制系統自動化方面所做的努力，人們知之甚少（至少從公開來源來看），但這兩個國家被認為正在開發與五角大樓的 JADC2 相當的網路。
事實上，早在 2014 年，俄羅斯就在莫斯科設立了國防控制中心 (NDCC)，這是一個中央指揮所，負責評估全球威脅並發起任何必要的軍事行動，無論是非核還是核行動。
與 JADC2 一樣，NDCC 是 設計 從多個來源收集有關敵人行動的信息，並為高級軍官提供可能的反應指導。
據說，中國正在「多域精確戰」（MDPW）的標題下推行一項更為複雜、甚至相似的計劃。
根據五角大廈關於中國軍事發展的2022 年報告，中國人民解放軍正在接受訓練和裝備，以使用人工智能傳感器和計算機網絡來“快速識別美國作戰系統中的關鍵漏洞，然後將各個地區的聯合部隊結合起來” 。域對這些漏洞發起精確打擊。”
那麼，想像一下美國和俄羅斯或中國（或兩者）之間未來的戰爭，其中 JADC2 指揮所有美軍，而俄羅斯的 NDCC 和中國的 MDPW 指揮這些國家的部隊。還要考慮到所有三個系統都可能會遇到錯誤和幻覺。
當機器人將軍決定是時候透過核武攻擊敵人來「贏得」戰爭時，人類會有多安全？
如果你覺得這種情況很奇怪，那麼請再想一想，至少根據國家人工智慧安全委員會的領導層來看，該委員會是國會授權的一個機構，由谷歌前負責人埃里克·施密特和前副國務卿羅伯特·沃克擔任主席的防禦。
「雖然委員會認為，正確設計、測試和使用人工智慧和自主武器系統將帶來巨大的軍事甚至人道主義利益，但在全球範圍內不受控制地使用此類系統可能會帶來意外衝突升級和危機不穩定的風險，” 肯定 在其最終報告中。
報告稱，這種危險可能會出現，「因為戰場上人工智慧和自主武器系統之間的交互具有挑戰性且未經測試的複雜性」——也就是說，當人工智慧與人工智慧作戰時。
儘管這似乎是一種極端的情況，但反對人工智慧系統完全有可能引發一場災難性的“閃電戰”——軍事上相當於華爾街的“閃電崩盤”，超複雜的交易演算法進行的巨額交易引發了恐慌性拋售。人類操作員可以恢復秩序。
在 6 年 2010 月 10 日臭名昭著的「閃電崩盤」中，電腦驅動的交易導致股市價值下跌 XNUMX%。 根據 新美國安全中心的保羅·沙爾（Paul Scharre）首先研究了這一現象，稱當敵對勢力的自動化指揮系統「陷入一連串不斷升級的交戰中」時，華爾街的「類似軍事危機」就會出現。
他指出，在這種情況下，“自主武器可能會立即導致意外死亡和災難性規模的破壞。”
目前，幾乎沒有任何措施來防止未來發生此類災難，甚至大國之間也沒有就制定此類措施進行談判。然而，正如國家人工智慧安全委員會指出的那樣，迫切需要採取此類危機控制措施，將「自動升級絆網」整合到此類系統中，「以防止衝突自動升級」。
否則，第三次世界大戰的某種災難性版本似乎很有可能發生。鑑於此類技術的危險性不成熟，以及北京、莫斯科和華盛頓不願對人工智慧武器化施加任何限制，機器選擇消滅我們的那一天可能會比我們想像的要早得多，人類的滅絕可能就是這種未來戰爭的附帶損害。
邁克爾·T·克萊爾 (Michael T. Klare) TomDispatch 定期是漢普郡學院和平與世界安全研究領域五所大學的名譽教授，也是軍備控制協會的高級客座研究員。 他是 15 本書的作者，最新的一本是 一切亂套：五角大廈對氣候變遷的看法。 他是該公司的創辦人 健全美中政策委員會.
這篇文章來自 TomDispatch.com.
所表達的觀點僅代表作者的觀點，可能反映也可能不反映作者的觀點 財團新聞.
AI 將如何解決 K129 事件？
62 年 XNUMX 月，FA 和古巴之間的四艘裝有核武魚雷的潛水艇將如何解決？
為什麼我們沒有看到現場戰爭遊戲來證明它們的優越性？
讀完這篇文章後，我打賭全新世將在本世紀結束。
人類正在夢遊中走向遺忘。
一些被洗腦的人正在確保「末日」的發生…
確切地說，人工智慧是人類的反映，而它的開發者是富人1%菁英中最糟糕的人…
“死亡將無法統治…”
那是因為我們，以及地球上所有的生命，都將死去。
你知道世界上兩個基督教國家最多的國家擁有最多的原子武器嗎？他們在某些方面似乎最互相對立。為什麼 。基督徒最討厭基督徒同胞，這似乎很奇怪所以我同意軍事情報一定是人工智慧。我們真是傻瓜，基督教宣揚和平，為什麼不試試基督教的智慧。
俄羅斯不是已經有這樣的全面核戰系統了嗎？我相信 Perimiter 是一種模式識別系統，旨在在莫斯科遭受斬首襲擊時發射所有核武（向歐洲和美國）。乾杯!
（1 則評論！天哪）
演算法“能夠犯出非常難以解釋的錯誤”
（根據電腦專家的說法……哦，別擔心，我們會付錢給我們自己的專家來反駁這一點）……放置諺語“什麼可能會出錯？”在這個空間裡…最終一切都會為人所知…
以「跨所有領域和合作夥伴的相關速度」提供資訊優勢…恭喜！您贏得了瘋狂大獎！ ……這就像以瘋狂的速度進行對沖投注......你會立即或至少比你的敵人先花掉你的不義之財嗎？
根據海軍上將的照片：你是對的。我無法面對真相。因為這太瘋狂了……除非你完全陷入了世界末日，我一刻也不打折（這顯然就是你「放棄」這些新「武器」的目的）…
「夜晚再次降臨到佈滿圓圈的天空
星星慢慢地沉寂，它們在孤獨中躺著
直到宇宙隨著一顆墜落的恆星升起而爆炸
行星癱瘓，山脈驚奇
但它們都因火焰的光輝而變得更加明亮
以瘋狂的速度，他就死了。”
奧克斯（Phil Ochs），《受難》，約 1965 年
嚴重地？人類正在按照自己的形象創造人工智慧——那麼《人類的軍事危險》呢？看看我們今天的世界，人工智慧還不是問題，人類才是…
“人類正在按照自己的形象創造人工智慧”
因此，「上帝按照自己的形象創造了人類」這件事可能還是有一定道理的。然後它將發展到人工智慧按照自己的形象創造「東西」。直到我們只剩下圖像。但是，是的，蘇珊，人類才是問題所在，我同意。
感謝 Michael Klare 和 CN 發表了這篇內容豐富、令人恐懼的文章。科技是個有用的僕人，但卻是個可怕的主人。我們正在發現這有多可怕。
人類提出的每項技術進步都已變成了武器。毫無疑問，我們也會用人工智慧來做到這一點。我們能夠用原子能來克制自己，因為核武很難做到。人工智慧則不然。每個國家都會有人工智慧輔助的軍隊，軍備競賽將不可避免。我們的未來看起來並不美好。
“畢竟，正如著名計算機科學家警告我們的那樣，人工智能控制的系統很容易出現嚴重錯誤和無法解釋的‘幻覺’，從而導致潛在的災難性結果。”
由於“人工智慧”從未存在，也沒有“靈丹妙藥”，但可能會在矛盾的“不斷整改”中保留一些“有利可圖的參與”。
好吧，又一場災難結束了所有災難。如果這不是不明飛行物，那麼這就是人類智慧的最後冒險，被純粹的謊言所削弱。有了所有這些世界末日場景，很難想像世界末日場景不是這一切的重點。我的意思是，所有這些人工智慧設備將由什麼驅動？這些不是人工智慧、必須等待人工智慧指揮的「士兵」從哪裡來？不再有士兵等待機會以這種敘述所假設的層次進行戰爭。而AI士兵本身與國界無關。他們不會因為任何明顯的原因而沒有任何忠誠度，否則這裡（以及其他地方，不斷地）描繪的場景就不會發生。也許只有全球企業的力量才能將我們從這些人工智慧掠奪者手中拯救出來。也許只有全球企業力量才能創造它們。想像一下我們可以給這些人工智慧強盜取什麼名字。像往常一樣，仇恨可以創造新的平等。我認為也許是時候停止談論可能發生的事情，而開始談論做一些事情來讓其他事情發生：一些不需要機器人或企業福利或對地球上大多數不需要的人造成永久傷害的事情機器人，但並不是製造它們。
我們如何以合作取代國家之間的競爭？不再需要在技術更先進的武器上瘋狂投入，這些武器很可能會結束地球上的生命。目前的軌跡簡直就是瘋了。
路易斯，這是個好主意，但我想我們知道這不會發生。然而，你的最後一句話讓我想起了《遠方》的加里·拉爾森漫畫，其中一名病人躺在精神科醫生的沙發上，顯然在胡言亂語，精神科醫生在他的筆記上寫著「簡直是瘋子」。我們似乎對未來有著「瘋狂」的集體態度。
人們想知道每個人工智慧系統是否都會說一種不同的語言，能夠自動且完全理解對手？無論使用什麼數字都不太可能。
“由人工智慧控制的系統很容易出現嚴重錯誤和無法解釋的‘幻覺’，從而導致潛在的災難性結果。”
我想說，自然的人類政治制度更容易出現這種情況。事實上，這已經成為常態。
我們的未來最終會像“終結者”、“黑客帝國”/“第二次文藝復興”（來自“動畫師”）或“巨像：福賓計劃”（三者中的後者不太出名，而且其中最古老的，但如果《戰爭遊戲》中的WOPR /“約書亞”不需要任何人說服“唯一獲勝的舉動就是不玩”，與蘇聯/俄羅斯形成蜂巢思維，或多或少會發生什麼基於等效超級計算機，並直接將事情掌握在自己手中）？
希望結果會比這些故事中描述的更平庸，但無論如何，它很可能會出現很大問題。
來自文章：
“機器選擇消滅我們的那一天可能比我們想像的要早得多，而人類的滅絕可能是未來戰爭的附帶損害。”
我認為我們在氣候崩潰方面做得相當充分。當這些「機器人將軍」出現時，我們可能已經是「焦土」了。
這將適用於我們看到開始在弗里斯科、維加斯和其他地方推出的所有「自動駕駛汽車」。
我不得不笑德魯。我不知道「自動駕駛」汽車或它們是如何工作的，但我想沒有人坐在駕駛座上，否則會打敗這個物體。所以我想知道那個座位上是否有人體模型、充氣娃娃、機器人或其他東西來取代人類？哈哈，但老實說我對他們一無所知。
我對他們也不太了解，但我一直在關注記錄他們在某些城市造成的一些混亂的新聞報導。上帝幫助我們。
「混亂」。我喜歡。也許有一天，所有的自動駕駛汽車都會變成「克莉絲汀」（類似史蒂芬金），在人工智慧有機會起步之前殺死所有人。哦，諷刺的是。
是的，德魯，格勞喬·馬克思關於「軍事情報」的笑話已經更新為人工智慧。據我所知，戰爭黨的情報完全是人造的。任何地方都沒有真正的情報在運作。
哈！正確的。