米軍用ロボットが指導的役割への急ピッチで取り組む

By マイケル・T・クラレ 
TomDispatch.com

W新型コロナウイルス感染症による無力化 驚くべき数字 アメリカ軍人の数が増加し、現代兵器の致死性がますます高まっているため、アメリカ軍は 信頼 インテリジェントロボットを使って危険な戦闘活動を行うことがますます頻繁になっています。このような装置は軍では「」として知られています。自律兵器システム」には、ロボット歩哨、戦場監視ドローン、自律型潜水艦が含まれます。

言い換えれば、これまでのところ、ロボット装置は従来の戦場における標準兵器の代わりにすぎないということだ。しかし今、国防総省は、信念の大きな飛躍として、一般の兵士とその武器だけでなく、潜在的に提督や将軍もロボットシステムに置き換えることによって、このプロセスをまったく新しいレベルに引き上げようとしている。

確かに、これらのシステムはまだ開発段階にありますが、国防総省は現在、国家的緊急事項として将来の配備を急いでいます。国防総省の最新計画によれば、戦闘計画、情報収集、兵站、通信、意思決定を含む現代の参謀本部のあらゆる要素は、センサー、コンピューター、ソフトウェアの複雑な配置に引き渡されることになる。

これらすべては、現在「システムのシステム」と呼ばれるシステムに統合されます。 全領域の共同指揮統制、または JADC2 (頭字語は依然として軍事生活の本質であるため)。最終的には、そのシステムの融合体が、現在アメリカの将軍と上級参謀が担っている機能のほとんどを実際に引き受ける可能性がある。

もちろん、コマンドレベルの意思決定に機械を使用するという概念は、まったく新しいものではありません。実のところ、それが実現するまでには長い時間がかかりました。冷戦時代、飛行時間が極めて短い大陸間弾道ミサイル（ICBM）の導入後、軍事戦略家もSF作家も、人間が無力になった場合にそのような核兵器を制御する機械システムを想像し始めた。

スタンリー・キューブリックの1964年の風刺映画で Strangelove博士たとえば、架空のロシアの指導者ディミトリ・キソフは、ソ連がアメリカの核攻撃を受けた場合に自動的に爆発する、すべての人命を抹殺できる「終末マシン」を設置したことを明らかにした。

狂った反ソ連の米空軍士官らによるモスクワとの戦争を引き起こそうとする試みが、その機械を作動させることに成功し、人類の滅亡をもたらす。実際には、まさにこの種の奇襲攻撃を受けることを恐れたソ連は、後に半自動報復システムを導入した。 ダビングされた 「ペリメーター」は、センサーが核爆発を検知し、モスクワからの通信がすべて遮断された場合にソ連の大陸間弾道ミサイルを発射するように設計されている。

一部のアナリストは、Perimeter のアップグレード版がまだ稼働しており、私たちをあまりにも現実的なバージョンの Strangelovian 世界に置いていると考えています。

このような自動コマンド システムのさらに別の SF バージョンとして、1983 年の映画があります。 WarGamesマシュー・ブロデリックが十代のハッカー役で主演し、北米航空宇宙軍に設置された戦争作戦計画レスポンス、またはWOPR（「ワッパー」と発音）と呼ばれるスーパーコンピューターを描いた（NORAD）本社はコロラド州。

ブロデリックのキャラクターがそれにハッキングし、「第三次世界大戦」と呼ばれるゲームだと思われるゲームをプレイし始めると、コンピューターは実際にソ連の攻撃が進行中であると判断し、核による報復反応を開始します。この映画は架空のものではあるが、当時も今も高度に自動化された米国の核指揮統制通信（NC3）システムの多くの側面を正確に描いている。

このような装置は、現実のものでも想像上のものでも、今日の基準からすると比較的原始的であり、核攻撃が進行中であることを判断し、壊滅的な対応を命令することのみが可能でした。現在、大幅な改善の結果、 人工知能 AI と機械学習により、機械は大量のセンサー データを収集して評価し、主要な傾向とパターンを迅速に検出し、いつどこを攻撃するかについて戦闘部隊に命令を下すことができる可能性があります。

時間圧縮と人間の誤りやすさ

米国の戦略家らは、センサー情報の急激な増加と速度の向上により、上級指揮レベルで人間の代わりにインテリジェントな機械が不可欠になりつつあると主張している。 戦争の激化により、人間が重要な戦場の展開を追跡することはほぼ不可能になっています。

将来のシナリオが正確であることが証明されれば、かつては数日から数週間にわたって展開されていた戦闘が数時間、さらには数分で起こる可能性があり、その一方で戦場の情報が多数のデータポイントとして流れ込み、参謀を圧倒することになるだろう。これほど大量の情報を処理し、必要な時間内に情報に基づいた戦闘上の決定を下せるのは、先進的なコンピューターだけだと主張されています。

このような時間の圧縮とセンサー データの拡大は、あらゆる形式の戦闘に適用される可能性がありますが、特にそれらの中で最も恐ろしい核戦争に適用されます。 ICBM がそのような戦闘の主な手段であったとき、意思決定者は、ミサイルの発射から爆発の瞬間まで、潜在的な攻撃が本物なのか、それとも単なる衛星の誤った測定値なのかを判断するために最大 30 分間の猶予を与えられていました。 時々起こる 冷戦中）。

それほど時間はかからないと思われるかもしれませんが、最近導入された 極超音速ミサイル、そのような評価時間はわずか 5 分に短縮される可能性があります。このような状況では、最も慎重な意思決定者であっても、潜在的な攻撃の性質について十分な情報に基づいた判断を下すことが期待されます。したがって、（一部の人にとっては）自動化された意思決定システムが魅力的です。

軍事アナリストのアダム・ラウザー氏とカーティス・マクギフィン氏は「攻撃時間の短縮により、米国の上級指導部は既存のNC3システムが十分に迅速に行動できない可能性がある状況に陥っている」と述べた。 主張した at 岩の上の戦争、セキュリティ重視の Web サイト。 「したがって、攻撃時間短縮の課題によって米国が不可能な立場に置かれないような迅速な戦略部隊の探知、決定、指揮を行う、あらかじめ定められた対応決定を備えた人工知能に基づくシステムを開発する必要があるかもしれない」 」

この概念は、人工知能を搭載したデバイス (本質的には、終末マシンまたは WOPR のよりインテリジェントなバージョン) が敵の行動を評価し、「事前に決められた対応オプション」に基づいて人類の運命を決定する権限を与えられるべきであるというものです。自然にいくつかを生み出しました 不安な 軍事アナリストのコミュニティでは（それは私たちの残りの人々にとっても同様であるはずです）。

それにもかかわらず、アメリカの戦略家たちは、通常戦争と核戦争の両方について、戦場の評価と意思決定はますます機械に委任されるべきだと主張し続けている。

「AI を活用したインテリジェンス システムは、さまざまなソースや地理的場所からの大量のデータを統合および分類して、パターンを特定し、有用な情報を強調表示する機能を提供する可能性があります。」と議会調査局は述べています。 注意 2019年XNUMX月の国防総省の考え方の概要でこう述べた。 「AI システムの複雑さが成熟するにつれて、AI アルゴリズムは、戦闘空間のリアルタイム分析に基づいて実行可能な行動方針のメニューを指揮官に提供できる可能性もあり、その結果、複雑な出来事へのより迅速な適応が可能になる可能性があります。」 」

そこでのキーワードは、「戦闘空間のリアルタイム分析に基づいた実行可能な行動方針のメニュー」です。このことは、人間の将軍や提督（最高司令官は言うまでもありませんが）が依然として自国の軍隊と地球の両方のために生死に関わる究極の決断を下しているという印象を残すかもしれません。

しかし、将来の中国やロシアとの激しい戦闘でこのような攻撃時間の短縮が予想されることを考えると、人間にはもはや戦闘空間を自分で分析する時間や能力がない可能性があり、そのような評価にはAIアルゴリズムに依存するようになるだろう。その結果、人間の指揮官は単に機械が下した決定を支持するだけになり、最終的には不要になる可能性があります。

ロボット将軍の作成

将来の雇用の安定についてどのような不安を抱いているとしても、アメリカの最高将軍たちは、JADC2 自動指揮メカニズムの開発と配備に迅速に取り組んでいます。空軍の監督下で、それは コンピューターによるアマルガム 膨大な数のセンサーデバイス（衛星、地上レーダー、電子傍聴所など）から敵軍に関するリアルタイムの情報を収集し、そのデータを処理して実用的な戦闘情報を生成し、すべての戦闘部隊に正確な攻撃指示を提供するためのデバイス。紛争に関与している兵器システム。陸軍、海軍、空軍、海兵隊、または新たに設立された宇宙軍やサイバー軍に属しているかどうかにかかわらず。

JADC2 が正確にどのような構成になるのかは、そのコンポーネント システムの多くがまだ秘密に包まれているため、また重要なテクノロジーの多くがまだ開発段階にあるため、広く知られていません。空軍はプロジェクトの監督責任を委任されており、 ロッキードマーチン およびその他の大手防衛請負業者がシステムの主要要素を設計および開発します。

そのような構成要素の 1 つは、データ収集および配信システムである Advanced Battle Management System (ABMS) です。 意図された 戦闘機のパイロットに敵の位置に関する最新のデータを提供し、戦闘の動きを導くのに役立ちます。別の 主要コンポーネント は陸軍の統合防空ミサイル防衛戦闘指揮システム (IBCS) であり、レーダー システムを対空およびミサイル防衛発射装置に接続し、正確な射撃命令を提供するように設計されています。

空軍とその複数の請負業者は、時間の経過とともに、ABMS と IBCS を、国の軍隊、つまり軍のあらゆるセンサー、射手、指揮官を接続する巨大なシステム ネットワークに統合しようとするでしょう。」モノのインターネット」と言う人もいます。

この概念をテストし、将来どのように運用されるかの一例を提供するために、陸軍は 実弾砲撃演習 将来の JADC2 システムのコンポーネント (またはファクシミリ) を使用して、今年 XNUMX 月にドイツで開催されました。

テストの第 1 段階では、（推定）ロシア軍の位置を示す衛星画像が陸軍地上端末に送信され、プロメテウスと呼ばれる AI ソフトウェア プログラムがデータを精査して敵の目標を選択しました。

次に、SHOT と呼ばれる別の AI プログラムが、利用可能な陸軍兵器とこれらの意図された目標との最適な適合を計算し、この情報を正確な射撃座標とともに陸軍の先進野砲戦術データ システムに送信しました (AFATDS）即時行動のため、人間の指揮官がそれを実行するかどうかを選択できます。演習中、人間の指揮官たちはこの問題について少し考えるだけの心の余裕を持っていた。銃撃戦では、システムの設計者が明らかに意図しているように、すべてを機械に任せるかもしれません。

将来的に陸軍は、と呼ばれる取り組みの下で、この進化するテクノロジーのさらに野心的なテストを計画しています。 プロジェクトの収束。これについて公に言われていることから、コンバージェンスは人工衛星、ABMSシステムを装備した空軍戦闘機、陸軍ヘリコプター、無人機、大砲、戦術車両を使ったこれまで以上に複雑な演習を行うことになる。最終的には、これらすべてが JADC2 の基礎となる「アーキテクチャ」を形成し、すべての軍事センサー システムをすべての戦闘ユニットおよび兵器システムにリンクし、将軍たちはただ座して見守る以外にできることがほとんどなくなります。

ロボット将軍が間違える理由

現代の戦争の複雑さと将来の戦闘における時間圧縮の課題を考慮すると、人間の指揮官をロボットの指揮官に置き換えたいというアメリカの戦略家たちの衝動は確かに理解できます。

理論的には、ロボットの将軍や提督は、味方と敵の両方の軍隊を追跡し、将来の戦場で敵の動きに対抗する最適な方法を考案しながら、短期間に驚異的な量の情報を処理できる可能性があります。しかし、ロボットの意思決定者の信頼性や、人間の役人の代わりにロボットを使用する賢明さを疑う十分な理由はたくさんあります。

そもそも、これらのテクノロジーの多くはまだ初期段階にあり、ほとんどすべてが次のような問題を引き起こす可能性があります。 誤動作 それは簡単に予想することも理解することもできません。そして、高度なアルゴリズムであっても、熟練した専門家によってだまされたり、「なりすまし」されたりする可能性があることを忘れないでください。

さらに、人間とは異なり、AI 対応の意思決定システムには意図やコンテキストを評価する機能がありません。たとえば、突然の敵軍の展開は、差し迫った攻撃、はったり、あるいは単なる通常の部隊配置を示しているのでしょうか?

人間のアナリストは、現在の政治的瞬間と関係者についての理解を利用して、状況の評価をガイドできます。機械にはその能力が欠けており、回避できたはずの軍事行動を開始するという最悪の事態を想定する可能性がある。

このような問題は、意思決定アルゴリズムが軍事的状況に適応する際に受ける「訓練」によってさらに悪化するだけだ。顔認識ソフトウェアが証明されているのと同じように、 汚染された 訓練過程で白人男性の画像に過度に依存することで、例えばアフリカ系アメリカ人女性を認識する能力が低下するため、軍の意思決定アルゴリズムが不安定になる可能性が高い。 歪 アメリカの軍事専門家が訓練目的で選んだ戦闘指向のシナリオに過度に依存していることによる。

「最悪の場合の考え方」というのがそのような将校の自然な傾向だ――結局のところ、起こり得る敵の奇襲攻撃に備えずに捕らえられることを誰が望むだろうか？そしてそのような偏見は間違いなく、意思決定ロボットによって提供される「実行可能な行動のメニュー」の一部となるでしょう。

このような偏見が意思決定アルゴリズムに組み込まれると、将来、ヨーロッパでの米ロ軍、またはアジアでの米軍と中国軍の間で遭遇した場合に、非常に危険であることが判明する可能性がある。結局のところ、この種の衝突は、何らかの誤解や急速に勢いを増す現地の出来事のおかげでいつでも起こる可能性がある――例えば、台湾沖での米国と中国の軍艦間の突然の衝突、あるいは台湾沖での米国とロシアの哨戒隊の間の突然の衝突である。バルト三国。

どちらの側も本格的な紛争を引き起こすつもりはなかった可能性があり、通常なら双方の指導者が停戦交渉に動く可能性がある。しかし、これらはもはや単なる人間間の争いではないことを忘れないでください。このような事件が起きた後、JADC2は、同盟軍に差し迫った危険をもたらすと判断した敵の動きを検知し、直ちにアメリカの飛行機、ミサイル、大砲による総攻撃を開始し、紛争を激化させ、あらゆるチャンスを阻止する可能性がある。早期の交渉による和解のこと。

危機に瀕しているのが核戦争の勃発である場合、そのような見通しは本当に恐ろしいものになります。大国間の紛争が核戦争として始まることを想像するのは難しいが、大国が通常の紛争に巻き込まれた後、どちらかの側が考慮すべき点に達するというシナリオを想像することははるかに簡単である。敗北を防ぐための核兵器の使用。

実際、アメリカの軍事教義には、 いつも持ちこたえた ヨーロッパにおけるソ連（現在はロシア）の大規模な攻撃に応じて、いわゆる戦術核兵器を使用する可能性。ロシアの軍事教義は広く知られている 想定される、同様のオプションが組み込まれています。このような状況下では、将来のJADC2は敵の動きを核発射準備の合図と誤解し、米国の核戦力による先制攻撃を命令し、それによって第三次世界大戦が勃発する可能性がある。

戦争は厄介で残忍な行為であり、「テロとの戦い」というレッテルの下で約20年にわたり紛争が失敗に終わり、何千人ものアメリカ人（身体的および精神的な）死傷者を出していることを考えると、なぜロボット愛好家がそのような感情を抱くのかは容易に理解できます。別の種類のメンタリティーがアメリカの戦争遂行を引き継ぐのを見たいと切望している。

まず第一に、彼らは特に次のような分野で争う。 パンデミックの世界、戦場で人間の兵士をロボットに置き換え、人間の死傷者（少なくとも戦闘員の間で）を減らすことが人道的であるということです。もちろん、この主張は次のような問題には触れていない。 引数 ロボット兵士やドローン航空機には戦場で戦闘員と非戦闘員を区別する能力が欠けており、そのため戦争法や国際人道法（少なくとも理論上は民間人を不必要な危害から守る）の遵守を信頼することができない、そしてだから禁止されるべきだ。

将来の戦場ではこれらすべてが起こる可能性があるが、将軍や提督をロボットに置き換えることはまったく別の問題である。

コンピューターによる戦闘判断によって主要な民間人の生存が危険にさらされる可能性があるため、法的および道徳的な議論が猛烈に起こるだけでなく、その後の戦闘でアメリカ軍の陸軍の死傷者が少なくなるという保証はない。

おそらく、この国が実際に世界の終焉につながる可能性のある事業にさらに何十億ドルもの税金を注ぎ込む前に、議会が戦闘意思決定の自動化の妥当性について厳しい質問をする時期が来ているのかもしれない。それ。

おそらく、中国、ロシア、そしてこの国の指導者たちも、人類の生死を左右する決断をわずか数分に短縮し、それによって兵器の自動化を正当化する極超音速ミサイルやその他の兵器の配備を制限または禁止する時期に来ているのかもしれない。そんな運命の判決。

マイケル・T・クレア TomDispatch レギュラーは、ハンプシャー大学の平和と世界安全保障研究の15つの大学の名誉教授であり、軍備管理協会の上級客員研究員でもあります。 彼は XNUMX 冊の本の著者であり、そのうちの最新のものは All Hell Breaking Loose：国防総省の気候変動への展望 （メトロポリタンブックス）。

この記事はからです TomDispatch.com.

表明された見解はもっぱら著者のものであり、著者の見解を反映している場合と反映していない場合があります。 コンソーシアムニュース。

お近くのLuxinar支社またはディストリビューターに 貢献する 〜へ コンソーシアムニュース
25周年を迎えて