AI兵器の「道徳性」

By マイケル・ブレナー

A 人工知能に関する国家安全保障委員会と呼ばれる議会が任命した委員会は、米軍に対し、人工知能（AI）ソフトウェアを活用した自律型兵器を開発する大規模な計画を開始するよう勧告している。

Googleの元最高経営責任者エリック・シュミット氏が率いる委員会は、このプログラムを推進するために20億～30億ドルの支出を求める報告書を作成した。  

世界的にリーダーシップを維持するには、アメリカで起こらなければならない一連のことが起こります… #AI は ＃技術 それが私たちの経済生産を推進します…そして私たちは必要なことは何でもする必要があります…それはお金というよりも力を調整することです。 – #NSCAI 会長 @EricSchmidt

— AI に関する国家安全保障委員会 (@AiCommission) 2021 年 2 月 23 日

副会長で元国防副長官のロバート・ワーク氏は、自律型兵器は人間が戦闘で行うよりもミスが少なく、死傷者の減少につながると期待されていると述べた。 "それは 道徳的要請 少なくともこの仮説を追求する必要があります」と彼は言いました。

ドラフト レポートが推奨する 米国政府は「米国を守り、敵対者を阻止し、知性を利用して世界を理解し、戦争を戦い、勝利する方法を変えるためにAIを導入している」。 (Raytheon の取締役会と、データ サイエンスを通じて政府のビジネスの変革に取り組むビッグ データおよび分析会社 Govini の顧問会で働いています。)  

On High の定言的な道徳的命令は、私が子供の頃見逃していたものです。過ごし損ねた青春の代償。ダンファームリンでカルビン派の礼拝に参加していた幼少期の話をして私を楽しませてくれた、年老いたスコットランド人の隣人がなんとうらやましいことか。そこで毎週日曜日に教会で、彼は厳格な正義を貫く鋼鉄の説教者から、自分自身を向上させる義なる義務を教え込まれました。若かりし頃の高揚した霊的体験とは対照的に、私は主の日をテレビの前でくつろぎながら球技を見ながら過ごしました。  

したがって、私は、それに値する人々、つまりワシントンが選んだ人々だけを殺害する人工知能主導の兵器に数百億ドルを費やすことを支持する「道徳的義務」があるという、シリコンバレーの最も優秀な人々が発した高尚な忠告に感謝している。」電気。「今、私は長年見逃していた道徳的大義を手に入れました。その欠如が、暴力的な死と破壊の問題に対する私の断固たる動揺の原因となっています。」 

「提案します…[我々は] #AI 委員会の勧告は1月XNUMX日に発表される予定だ。」 – #NSCAI 会長 @EricSchmidt

— AI に関する国家安全保障委員会 (@AiCommission) 2021 年 2 月 23 日

確かに、不幸な思考習慣の中には、完全に根こそぎにされることを頑固に抵抗するものもあります。信仰に基づいた軍事教義を現実に照らして試す傾向もその 1 つです。倫理的真実と救いの道に沿った私の進歩を妨げる、厄介な疑問が次々と浮かび上がります。したがって、私はこれらの疑念を解消するために皆様のご協力を切にお願いいたします。ここでは、それらを要約した形式で示します。 

No.1「ショック＆オー」 2003年XNUMX月にイラク全土の何百か所を爆撃したのは、イラク指導部を屈服させ、侵略への道を切り開くことを目的としたものだった。大規模な建物、施設、複合施設が破壊され、数千人の死傷者が出ました。質問: AI 兵器システムはこの戦略にどのような影響を及ぼしたでしょうか?同じ心理的および軍事的影響を与える、より正確なバージョンの「Shock & Awe」はありますか? 

2位 ファルージャ  戦争の過程で、アメリカ軍はファルージャの大部分を平らにしました — 2回, 10万人ほどを砂漠に追い込む。質問: 敵が都市全体に分散し、カモフラージュされていたとすると、網膜照合や顔認識のためのデータ バンク内のアルゴリズム駆動検索を通じて適切なターゲットを識別する AI システムの能力はどのようなものになるでしょうか。等？民間人はフォート・ミードと中央軍の職員たちから、自分たちに匹敵する者はいない、家にいてテレビで暴行の様子を映したCNNの映像を見ながら安全に過ごせるとどのようにして警告されるだろうか？  

第3 モースルとラッカ ISISに対する作戦で、我々はモスルとラッカの大部分を破壊した。海兵隊だけでも人口20,000万人を優に超える人口密集都市モスルに30,000万発以上の砲弾を発射した。空軍は XNUMX 回以上の戦闘任務を遂行しました。フランス空軍、イラク空軍、国民軍、シーア派民兵組織も同市に発砲した。

これだけの火力があるため、モスルからISIS戦闘員を排除するのに数週間かかった。民間人の死傷者や難民は数え切れないほど多い。質問: ファルージャで遭遇したものよりもはるかに複雑な ISIS の回避戦術を考慮して、AI を使えばどのようにして衛生的な方法で同じ目的を達成できるでしょうか? 

（都市部を占領するもう一つの選択肢は、限られた砲兵と航空支援のみで家々を戦うことである。もちろん、それは戦闘部隊の死傷者が増えることを意味する。都市を破壊することは事実上、攻撃側の軍事的死傷者の代わりに民間人の死傷者を出すことになる。力 - 10:1 または 20:1 の比率?) 

4位 リビア ここで米国は、同国の指導者ムアンマル・カダフィ大佐を打倒し殺害するための火力の大部分を提供した。彼の支配力がなくなったこの国は、死、荒廃、列車内での集団脱走を伴うほぼ継続的な多党派の10年にわたる紛争に屈した。現在、政治の舞台は対立する二つの連合間の権力闘争によって支配されている。

1つはトリポリに拠点を置く政府であり、ワシントンとその同盟国によって設置され、国際的に認められた政府として名目上の地位を持っている。もう一つは東部都市ベンガジを中心とする組織で、カダフィ大佐の死後に勢力を伸ばした聖戦民兵組織の一部を破って支持を得たハリファ・ハフタル将軍が率いる。前者はサウジアラビア、UAE、そして特にアルカイダ、ISIS、その他過激派の代理人数千人をシリアから移送したトルコの指導者レジェップ・エルドアンの支援を受けている。

トリポリ自体はイスラム主義者に支配されている。ハフタル氏は近隣のエジプト、ヨルダン、ロシア、フランスの支援を受けている。さまざまな部族民兵やジハード運動がリビアの広大な内陸部を徘徊している。米国は最近、両国に合意に達するよう促しながら、支持を曖昧にしている。 生活様式 —ほとんど成功しませんでした。質問: ワシントンは、イスラム主義民兵を除く上記のすべての当事者に直接的または間接的に武器を供与しています。 AI兵器システムを含む武器供与があれば、その影響力は増大し、その目的が実現する可能性は高まるだろうか？

5位 イエメン：サウジアラビア主導のフーシ派の虐殺と飢餓は、アメリカ軍の参加に決定的に依存してきた。彼らの作戦は、給油を提供する米軍機、サウジ軍司令部に座って標的を指示する米軍将校、そして米国情報機関なしには不可能だったろう。さらに、最新の「スマート」爆弾とミサイルも提供しました。私たちはまた、一般住民への食料と医薬品の提供を拒否する封鎖の実施にも協力しました。サウジの意図は、可能な限り悲惨な状況を引き起こすことでフーシ派を強制的に服従させることだった。質問: AI 兵器システムの広範な採用は、この状況にどのような変化をもたらすでしょうか?重要な「標的」は、非AI支援兵器が容易にアクセスできるワシントン、タンパ、リヤドにあるのではないだろうか？ 

第6位 ベトナム戦争 これは全国的な反乱と大規模な反乱鎮圧作戦の間の紛争であった。アメリカの戦略の大部分は、広範囲の植生（エージェント・オレンジ）を剥奪し、「自由射撃」区域として宣言された広範囲の領土から民間人を強制退出することによって、ベトコンの聖域を否定することを目的としていた。 AI兵器の保有は戦争の遂行、死傷者数、そして結果に大きな変化をもたらしたでしょうか?どうやって？ 

第7位 第二次世界大戦 都市への絨毯爆撃が常態化した。それは広島と長崎で頂点に達しました。先の東京への焼夷弾爆撃による民間人の死傷者数もほぼ同じだった。それはハンブルクとドレスデンに対する空襲と重なった。彼らは皆、敵の士気を弱め、工業生産を壊滅させ、そしてロンドン、コベントリー、ロッテルダムに対するドイツ軍の空襲と日本の残虐行為に対する復讐の欲望を満たすという目的を共有していた。 （イラク侵攻は9/11への報復だったので）。質問: もし当時私たちが AI 兵器を利用できていたら、この考え方や行動は違ったものになっていたでしょうか?  

これらの質問を熟考すると、次の 3 つの明確な結論が得られます。 

第1 人工知能によって指示された兵器が広範囲に配備されても、軍事力の行使、戦争の遂行、あるいはその結果に関する決定に目立った変化は生じない。 

第2 戦争の歴史を振り返るか、米国が関与した最近の中東戦争に限定して考察すると、AI兵器の使用によって削減される可能性のある民間人の死傷者の割合は非常に低い。大多数の死傷者を生み出すこれらの戦争行為は、AI 兵器の大規模な代替が可能な種類のものではありません。 *

（AI それにもかかわらず、指向性兵器は加速度的に開発、配備、使用されるでしょう。ポストモダンの時代では、電子機器に関連するあらゆるハイテク技術革新は、優れた実用性、価値、美徳を主張するものとされています。)  

第3 ドローンや義勇軍などのAI兵器に関連したイノベーションは、アメリカ人の死傷者の減少を約束することで軍事活動を促進する可能性がある。しかし、最終的な結果としては、合計すると、より多くの死者と破壊が発生する可能性があります。 

数年前、私はニューデリーで行われた共和国記念日の式典に出席しました。私は、大統領官邸（ラーシュトラパティ・バワン）からインド門までの壮大なラージ・パスに沿った、ネルー大統領と閣僚が率いるパレードの縁側の席に陣取った。彼らの後には他の高官、山車、そして壮麗な衣装を着たターバンを巻いた印象的な騎兵隊が続きました。帝国のダルバールにふさわしい光景だ。実際、ラッチェンスは不滅のイギリス領を讃えるためにすべてをデザインしたのです。  

行列の最後尾には、かなりの距離を置いて騎馬隊の後を追って、カーキ色の服を着た「掃除人」のあまり派手ではない部隊がいた。彼らは残った肥料を藁ほうきを使って掃除していた。  

今日の政治の世界では、最新の大規模イベントの余波で大量のBSが常に提供され、小規模なイベントの後には少量のBSが提供される限り、その時の記憶が思い出されます。同委員会によるAI報告書の緊急勧告は後者のカテゴリーに分類されるが、辛味には欠けている。

全体として、生産と廃棄の不均衡が生じています。掘削能力が追いついていない。コメンテーターにとってのジレンマは、公共の場から悪臭物を排除するという汚い仕事を求められるニューデリーの「アンタッチャブル」な清掃員の立場に置かれている。

繰り返しの作業はさらに面倒なものになります。それはあたかも、私たちの自国のカーディガン卿が指揮する、800人の強力な軽旅団のようです, 死の谷への行進で毎日通過します。はい、誰かがそれをしなければなりません。「不可触民」は存在しません。最良の解決策は「馬」を安定させることです。近い将来、最後の出来事が起こる可能性はゼロです。  

私自身も休暇を取得しました。したがって、私は報告書を体系的に解体する代わりに、上で提示したいくつかの発言と質問に限定するという回避戦略に従いました。 

* AI 兵器の売り手は、戦争についての誤った概念に基づいて宣伝を行っています。彼らは、それが本質的に本質的に手段であると推測しています。そうではない。民間人の破壊、略奪、残虐行為は、通常、戦争に不可欠な要素です。

極端な場合、軍隊が日常的に虐殺と略奪を行ったフン族のアッティラ、同じことを行ったチンギス・ハーンの黄金の大群、あるいは市門にある頭蓋骨のピラミッドが名刺だったティムール、あるいはナチスのことを考えてみてください。彼らにとって、消毒戦争は忌まわしいものであり、楽しみがすべてなくなってしまったでしょう。

宗教やその他のイデオロギーに触発された戦争の情熱は、非戦闘員にとっても悪い前兆です。たとえば、ジョシュアが司令官の命令に従順にエリコを殲滅しました。十字軍。 17^th世紀の三十年戦争。最近のイスラム国の暴走。あるいは現代ナショナリズムの惨劇。

サラエボを砲撃したセルビア人は正確な標的を懸念していたのだろうか？ラドバン・カラジッチやスロボダン・ムラディッチは、彼らの不滅の魂を危険にさらす道徳的ジレンマの解決策としてAI兵器を歓迎したでしょうか?

これらすべての事例において、「巻き添え被害」という概念自体が無意味でした。

マイケル・ブレナーはピッツバーグ大学の国際問題教授です。 mbren@pitt.edu

表明された見解はもっぱら著者のものであり、著者の見解を反映している場合と反映していない場合があります。 コンソーシアムニュース。