[AIと新文明標準スペシャルレポート] 軍事挑戦②：AI基盤自律兵器システム、認知戦の発展と軍事安全保障秩序の変化

I. すでに到来したAI基盤戦争の現実

人工知能（Artificial Intelligence: AI）を含む先端技術の時代に、未来の戦争がどのような姿を呈するかを想像するのは容易ではない。AI基盤核兵器を研究するジェームズ・ジョンソンは、わずか1年後の仮想戦争の姿を次のようなシナリオで描いている。

2025年、台湾問題を巡って米国と中国の間で戦争が勃発し、核戦争によって瞬く間に戦争は終結する。戦争後、独立調査官たちは両国がAI基盤の「完全自律」兵器を使用しなかったと結論付ける。国際法で規定される武力紛争の法則や核兵器使用時の比例性および区別の原則を意図的に違反しなかったと楽観的に評価するのだ。両国はともに、当時の自衛権に基づき法的に正当な軍事力行使を行ったと信じていた。

戦争以前、台湾の政治状況が急激に変化する中で、米中間両国は戦場認識、情報収集、監視および偵察（Intelligence, Surveillance, and Reconnaissance: ISR）、敵の行動に対する戦術的対応を支援するためにAI技術を配備する。商業的に生産されたデュアルユース（二重用途）のAIアプリケーションの精度、速度、予測能力の急速な向上により、強国は戦術および作戦機動を向上させるためにデータが必要な機械学習（Machine Learning: ML）を活用できるようになっていた。特にロシア、トルコ、イスラエルが国境でテロリスト攻撃を撃退するために自律型ドローン群を使用した事例に感銘を受けた中国は、徹底したテストと評価プロセスを迂回しながらも、デュアルユースの最新AI技術を迅速に統合した。

台湾海峡における中国軍の侵入が急増するにつれて、米中両国の指導者たちは最大限の非対称的優位性を確保するために、最新の戦略的AIシステムの迅速な配備を追求した。最先端の戦略AIシステムは、歴史上の戦闘シナリオ、実験的な戦争ゲーム、ゲーム理論に基づく合理的な意思決定、情報データ、以前のバージョンから学習した内容などに基づき、新たな戦略的代替案を生成した。このシステムの高い複雑性は、設計者や運用者の推測を超えるものであった。

ソーシャルメディアでの激しい言辞と偽情報キャンペーンが最高潮に達し、中国国内では台湾との強制統一の緊急性を主張する声が高まった。太平洋情勢がますます緊迫する中、米国はテストと評価が完了していない状態で、自律AI基盤の「戦略予測・推奨システム（Strategic Prediction & Recommendation system: SPRS）」を非戦闘的活動に使用するために配備することを決定した。これに対応して中国も同様の「戦略・情報諮問システム（Strategic & Intelligence Advisory system: SIAS）」を配備し、あらゆる危機状況に備えさせた。

結局、AIによって促進された一連の出来事が北京の事前定義された限界を超え、制御不能な状況となった。情報作戦は、米国インド太平洋軍および台湾軍システムに対するサイバー侵入が急増し、中国の宇宙資産防衛の動きと人民解放軍（People’s Liberation Army: PLA）の自動調達システムが活性化されることで頂点に達した。米国のSPRSはこれらの行動を主要国家安全保障上の脅威と評価し、強力な武力示威と防衛態勢を推奨した。これに基づき、米国は台湾海峡での自律戦略爆撃機の飛行を承認する。SIASは中国指導者に対し、米国の主要太平洋資産に対する限定的な先制攻撃を通じて早期優位を確保することを推奨した。SPRSはワシントンに対し、中国の先制攻撃が差し迫っていると警告し、米国は即時の限定的核攻撃を推奨した。米国のミサイル防衛システムが中国の戦術核攻撃の大部分を成功裏に迎撃でき、中国が米国本土への反撃を自制すると予測した。SPRSの予測は的中した。太平洋での限定的な米中核交換の後、数百万人が死亡し、数千万人が負傷した後、両国は休戦に合意した。

事後分析で両国はSPRSとSIASの決定プロセスに関する詳細な分析を試みたが、AI設計者たちはすべての決定サブセットに対するAIの論理と理由を説明することは不可能であると結論付けた。様々な時間、暗号化、および個人情報保護の制約により、事後テストログとプロトコルを保管できなかった。AI技術がこの戦争の原因となったのかどうかについて、明確な結論を下すことはできなかった（Johnson 2023）。[1]

最近のウクライナ戦争、ガザ地区紛争などは、AIがすでに戦争の様々な次元で活用されており、今後もこの傾向は続くだろうということをよく示している。核兵器、通常兵器、心理戦と情報戦の三つの次元がAIと結合する時、AI基盤核兵器、AI基盤自律兵器システム（autonomous weapon systems）、AIを活用した認知戦（cognitive war）へと急速に変化するだろう。

AIは汎用技術として、既存の技術を強化するメタ的増強技術である。特定の兵器を改善するだけでなく、兵器の運用システム、戦争に関連する政策決定、戦争を遂行する政府と軍部、社会の認識と対応すべてを変える多次元的な技術となるだろう（Britt 2023; Hale 2023）。まるで皆が数学を使用するように、すべての次元でAI技術を使用するようになり、すでに相当部分そうなっている。軍事安全保障分野でAIがどのような変化をもたらすか、さらに国際政治全般に及ぼすAI技術の効果はどの程度かを知ることは難しい。AI技術自体が急速に変化しており、それを規制または統制しようとする動きは、技術の変化の速度に比べて著しく遅れをとっている。AI技術の発展は、いわゆる地政学の帰還の時期と一致するため、激しい競争の中で行われており、AIの問題点を統制しようとする国際的な努力は成果を収めにくい環境である。

国家間の地政学競争の中で、AI技術が軍事的に利用されることを防ぐ可能性は低い。さらに、AI技術が意図しない方向に急速に発展し、人間の統制を 벗어날可能性も考えられる。各国が自国の安全保障を強化する上でAIが有用で革新的な手段であると受け入れているため、これによる国際社会の共通の被害が確認される事象が発生するまで、先制的なAI軍事技術に対する警戒心が生まれることは難しいと考える。

現在まで核兵器、自律兵器システム、認知戦などに活用されているAI技術の実態を把握し、今後発生しうる共通の問題点を予想して真剣な議論を開始することが必要な段階である。核兵器の場合、一度の使用後に核兵器のタブーが生じ、2020年代に入って核兵器禁止条約（Treaty on the Prohibition of Nuclear Weapons: TPNW）も採択された。未来の戦争はすべての国家の国民の生死がかかった問題であるため、これに対する関心を持って対応することが重要である。韓国も強国間の軍拡競争と戦争のリスクの中で、AI基盤兵器システムと軍事安全保障戦略をどのように認識し対応すべきかを悩むべき時である。この稿は、AI基盤核兵器の分析に続き、自律兵器システムと認知戦の分野を扱う。

II. AIと結合した自律兵器システムの発展

2012年に米国国防総省が発行した兵器システムの自律性に関する指針3000.09によれば、自律兵器システムは「一度活性化されると、人間のオペレーターの追加介入なしに目標を選択し攻撃できる兵器システム」と定義できる。すなわち、潜在的な敵目標物を識別し、アルゴリズムとAIに基づいて当該目標を独立して攻撃することを決定する致命的な兵器システムである。特定の個別の兵器の自律化を意味する場合もあれば、兵器を活用する全体的な運用システムを意味する場合もある。

現在、自律兵器システムの定義に関する国際的な合意はないが、これらは人間の統制からの自律性のレベルに基づいて評価されてきた。自律兵器システムに関連する自律性の概念は、システムが人間の入力なしに環境に対する作用や相互作用を通じて作業や一連の作戦を遂行できる能力として定義できる。自律兵器システムの定義において重要なのは、もはや人間のオペレーターの統制下になく、自律的に遂行される決定や機能の種類であるように見える（Dresp-Langley 2023）。

兵器が自律化された程度に応じて、一般的に三つのレベルの分類が用いられる。第一に、監視下にある自律兵器、または「ヒューマン・オン・ザ・ループ（human on-the-loop）」システムである。これは、人間のオペレーターが異常に高いレベルの被害が発生する前に介入し、交戦を終了できる能力を提供するように設計された自律兵器システムである。例としては、防衛兵器システムが挙げられるが、このシステムはプログラムに従って目標を独立して選択し攻撃するが、すべての作戦は人間が完全に監視しており、必要に応じて制限時間内にシステムを無効化できる。

第二に、半自律兵器、または「ヒューマン・イン・ザ・ループ（human-in-the-loop）」システムであり、このシステムは活性化されると、人間のオペレーターが選択した個別の目標または特定の目標グループにのみ攻撃を行うように意図されている。例としては、誘導弾のような弾薬があり、これは特定の目標位置に発射されると、その地域内で事前にプログラムされた目標カテゴリを探して攻撃する。

第三に、完全自律兵器、または「ヒューマン・アウト・オブ・ザ・ループ（human out-of-the-loop）」システムであり、このシステムは活性化されると、人間のオペレーターの追加介入なしに目標を選択し交戦を行うことができる。例としては、徘徊型（loitering）兵器があり、この兵器は発射された後、特定の地域で目標を探して攻撃し、追加的な人間の介入なしに作動する。また、電子妨害（jamming）を自律的に使用して通信を妨害する兵器システムもこれに含まれる可能性がある（Kallenborn 2021）。

自律兵器システムは、歴史的に長い経験と努力の産物であり、自律車両の最も初期の事例としては1925年に開発された「The American Wonder」が挙げられる。ニューヨーク市の通りを走行する車両で、後続の他の車両によって遠隔制御され、初期の自動制御システム下で隊列を組んで移動する形態である。

自律兵器システムは、いくつかの主要要素の統合を必要とする。移動戦闘プラットフォーム、プラットフォーム周辺を精密に監視できる様々な種類のセンサー、センサーが発見した物体を分類する処理システム、そして許容可能な目標物が検出された場合にシステムが攻撃を開始するように誘導するアルゴリズムである。代表的なものとして、キラーロボットまたは「虐殺ボット（slaughter bot）」は、人間のオペレーターの介入なしに目標を選択し攻撃できる自律ロボットシステムである。高度なセンサーとAIを搭載すれば、防御部隊を圧倒するために協力的な努力を通じて作戦でき、これは分散された水上戦闘グループや電子戦艦船などで無人で自律的に運用される可能性がある。

ドローンもまた、自律兵器システムの代表的な兵器である。2013年10月、米国戦略能力事務所は103機のペルディクス（Perdix）ドローンを発射したが、これらのドローンは「分散型脳」を使用して複雑なフォーメーションに組み立てられ、戦場を横断して移動したり、新たなフォーメーションに再編成されたりした。このドローン群は、マサチューセッツ工科大学（Massachusetts Institute of Technology: MIT）の学生が商業的に入手可能な部品とデザインを使用して製作したものである。理論的には、ドローン群は数万機に拡張可能であり、これは小規模な核装置に匹敵する自律兵器となりうる。

現在、AIを活用し開発中またはすでに使用されている致命的な自律兵器および自律兵器システムには、自律型固定式警備砲、遠隔操作兵器ステーション、人間や車両を対象に発射するようにプログラムされた殺傷ロボット、自律型目標指定機能を備えたドローンおよびドローン群など、多様な発展が見られる。RADAR、LIDAR、高解像度360度カメラ、そして究極的にはAIと結合された適応型および予測型クルーズコントロールのような機能も発展した。新たな最大リスク大量破壊兵器は、ドローン群と自律型化学、生物、放射能、核（Chemical, biological, radiological, and nuclear: CBRN）兵器となりうるが、これには致命的な生化学物質を注射できる小型昆虫ドローンも含まれる。

自律型固定式セントリーガンも開発されている。セントリーガンは、センサーによって検出された目標を自動的に照準し発射する遠隔操作兵器である。最初の機能的な軍用セントリーガンは、近接防御兵器として、短距離で飛来するミサイルや敵航空機を検知し破壊するために使用された。これらの兵器は当初、艦船でのみ使用されていたが、現在は地上防衛にも使用されている。この種の兵器の中で、最初に監視、追跡、発射、音声認識を含む統合システムを備えたのはSGR-A1であり、ハンファエアロスペースと高麗大学が共同開発し、韓国の非武装地帯で韓国軍を支援するために使用された高度に機密化されたプロジェクトである。

これらのAI基盤の自律兵器システムは、現在の戦場や未来に備えた訓練過程で続々と姿を現している。無人航空機は現在進行中のウクライナ戦争で重要な問題として浮上しており、最近米国国防総省はドローン艦隊をアップグレードするために新たな10億ドルの投資を発表した。中国の自律型キラーロボットは2年以内に戦場で軍事用途に使用される予定であり、ある専門家はこれを「人類生存に対する最大の脅威」と表現し、新たなAI基盤戦争時代を予告している。

複数の主要国は、これらの発展をさらに一歩進め、戦場で兵士を代替するために完全自律AI基盤キラーロボットの開発を開始している。中国とロシアはすでにAI基盤自律兵器の開発で協力したことが知られている。2024年5月、カンボジアとの軍事訓練中、中国人民解放軍は中国企業ユニトリ・ロボティクス（Unitree Robotics）が製作した銃を搭載したロボット犬を披露した。ロシアは2022年、モスクワ近郊の兵器博覧会でロケット推進手榴弾発射器で武装したユニトリ・ロボティクス製犬を改造し、M-81ロボット犬として再ブランド化して展示した。

中国はすでにAI基盤の機械を使用して兵器開発を開始しており、一部の専門家は2028年までに爆弾と砲弾の生産量を3倍に増やすことができると予測している。2023年3月、国連致命的自律兵器システム会議で、米国代表はこれらの開発を規制し始めるには適切な時期ではないと主張した。このような無制限の発展は、非人間兵器が戦争法規を遵守できないであろうこと、そして兵士の犠牲に対する恐れなしに国家が紛争に参加する可能性を高めるであろうという数多くの警告を引き起こした（Cameron 2024）。

III. 米中戦略競争と米国の自律兵器システム戦略

米国国防総省は2012年、世界で初めて自律または半自律兵器システムの配備に関する指針を発表した。この指針3000.09は、自律技術とAIが軍事に及ぼす影響を初めて真剣に考慮した政策の一つであった。それ以前は、これらの概念は主にSF小説に登場する話であった。この指針が発表されると、大衆、市民社会、非政府組織の間で大きな関心と議論が巻き起こったが、指針の明確な内容を巡って混乱と誤解が生じたのは事実である。例えば、ヒューマン・ライツ・ウォッチ（Human Rights Watch: HRW）はこの指針を「致命的な完全自律兵器に対する世界初のモラトリアム」と誤解した。しかし、実際にはこの政策は自律兵器の開発や使用を制限するものではなく、10年ごとに更新、取り消し、または更新されなければならないという規定を含んでいるに過ぎなかった。この指針は、自律性が一定レベルに達した兵器システムに対して追加的な審査手続きを要求したが、その審査の範囲と目的は明確ではなかった。

過去10年間、指針3000.09は、自律技術が適用された兵器システムに関連する主要な米国政策として定着した。しかし、この指針の明確性が不足しているため、特にAIを含む新技術の発展に関する議論で混乱を招いた。2022年末にこの指針の10年有効期間が終了した際、2023年国防総省は改訂された指針を提示した。改訂版は2012年指針で使用された自律兵器システムの定義をそのまま維持しており、自律兵器システムを「一度活性化されると、人間のオペレーターの追加介入なしに目標を選択し攻撃できる兵器システム」と定義している。2023年指針では、オペレーターの前に付いていた「人間」という単語を削除したが、「オペレーター」を「プラットフォームまたは兵器システムを操作する人」と定義している。以前の指針と同様に、2023年指針も自律兵器システムの拡散を抑制するものではない。米国だけでなく、オーストラリア、中国、インド、イラン、イスラエル、韓国、ロシア、トルコ、英国も人工知能および関連技術の軍事応用に対し莫大な投資をしており、それを通じて空中、地上、海上基盤の自律兵器システムを開発している。

指針の1.2(e)項は、「既存の技術セキュリティおよび外国公開要求事項と手続きに従って承認された」「国際販売および移転」を許可している。一度これらの兵器が米国を離れると、米国はその兵器に対する独占的な統制権を失うことになる。また、この指針は、既存の法律、国防総省の手続き、倫理原則に従って、自律兵器システムの継続的な開発と取得を可能にする。

2023年指針は、2012年指針で曖昧だった部分をより明確に規制しているわけではない。1.2(a)項によれば、2023年指針は、以前の指針の規定を引用し、「自律および準自律兵器システムは、指揮官とオペレーターが武力行使について適切なレベルの人間的判断を行使できるように設計されなければならない」と明記している。この文言は、国際人道法を遵守するために不可欠な人間的判断の価値を認めているが、以前の指針と現在の指針の両方とも、「適切なレベル」の人間的判断が何を意味するのか、そしてそれを誰が決定するのかについては、明確な内容を提示していない（Human Rights Watch 2023）。

ただし、改訂指針は、急速に変化している技術が実際にどのように適用されうるかをより現実的に反映している。例えば、AIに関する新たな言及が追加され、AIと自律性との明確な区別が行われた。既存のシステムに自律機能が追加される場合にも、この追加審査プロセスを経るように明記しており、システムがすでに長年使用されてきた場合にも適用される（Lamberth 2023）。

これらの米国の戦略は、中国との戦略競争を念頭に置いている。2023年8月に発表された米国の「Replicator」プログラムは、AI革命が戦争の様相を変えることを予期し、国防総省の調達と開発における莫大な技術的および人的課題に取り組んでいる。

発表当時、国防総省のヒックス副長官は、中国との戦略競争という観点から、米国自律兵器システム発展の必要性を強調している。

我々は中国人民解放軍（PLA）の大規模兵力に対し、我々も大規模な戦力を投入するだろうが、我々の戦力は予測し難く、捕捉し難く、克服し難いものとなるだろう。優れた人材、スマートな概念、そして先端技術を通じて、我々の軍は商業部門の支援と緊急性によって、より柔軟になるだろう。

ウクライナで我々が目撃したように、スターリンク（Starlink）からスイッチブレード（Switchblade）、商用衛星画像に至るまで、商業および非伝統的な企業が開発した新技術が現代の軍事攻撃を防衛する上で決定的な役割を果たすことができる。これらの技術は、伝統的な能力を補完する重要な要素であり、依然として不可欠である。我々は障壁を取り払い、緊急に変化を促進しなければならないため、「Replicator」に対して大きな目標を設定した。今後18～24ヶ月以内に、複数のドメインで数千規模の消耗性自律システムを配備することである……そして「Replicator」は単に生産面だけで行われるわけではない。我々は、この目標を達成する方法を複製し注入することにも目標を置き、将来関連性のあるものを繰り返し拡張できるようにする。国家防衛戦略（National Defense Strategy）と統合戦争概念（Joint Warfighting Concept）に従い、我々は我々の持続的な優位性を活用する形で自律能力を使用するだろう。……この点で、全ドメインにおける自律システムは、アクセス阻止・領域拒否（Anti-access/area-denial: A2AD）システムへの挑戦に対処するのに役立つだろう。我々のA2ADで彼らのA2ADを無力化する（Hicks 2023）。

現在、国防総省のポートフォリオには800以上のAI関連の機密解除プロジェクトが含まれており、その多くが依然としてテスト中であるとされている。一般的に、機械学習とニューラルネットワークは、人間が洞察を得て効率性を生み出すのを助けている。戦闘員間のより効率的なネットワークのために、国防総省は、すべての軍隊間のデータ処理を自動化する全領域統合指揮統制（Joint All-Domain Command and Control: JADC2）という戦闘ネットワークの開発を追求している。しかし、この課題は大規模であり、官僚主義を克服しなければならない課題を抱えている。

一例として、空軍の「ロイヤル・ウィングマン」プログラムは、有人航空機と自律航空機をペアにする計画である。例えば、F-16パイロットがドローンを飛ばして偵察を行ったり、敵の攻撃を誘引したり、目標を攻撃したりすることができる。空軍指導者たちは、このプログラムを2020年代末までに開始することを目標としている。しかし、ロイヤル・ウィングマンのスケジュールは過度に野心的であり、「Replicator」のスケジュールとよく合わないという問題もある。現在、自律的に作動することを信頼できる唯一の兵器システムは、「ファランクス（Phalanx）」ミサイル防衛システムのような、完全に防衛的なものと評価されている。自律兵器が独自に決定を下すことよりも、システムが予測通りに作動しない、または非戦闘員や味方を害するといった問題が、より重要な問題として浮上している（Bajak 2023）。

IV. 自律兵器システムの規制努力

自律兵器の破壊性、特にAIと結合した予期せぬ問題点を統制するための努力が続けられてきた。9月に開催される「軍事分野における責任ある人工知能（Responsible Artificial Intelligence in the Military Domain: REAIM）」に関するソウル高級会合（REAIM Summit 2024）のように、AI全般に対する規制努力もあり、自律殺傷兵器システム自体に対する努力も続けられてきた。歴史的には、1983年12月に特定通常兵器使用禁止制限条約（Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons: CCW）が発効したが、この条約は非人道的な結果をもたらす特定の通常兵器の使用を禁止し制限する国際条約である。2010年、国連総会では特別報告官フィリップ・アルストン（Philip Alston）が殺傷ロボット技術の問題点を指摘した報告書を提出し、自律殺傷兵器規制に関する議論が始まった。

2011年、国際赤十字委員会（International Committee of the Red Cross: ICRC）で自律兵器システムに関する公式な議論が開始され、この年に開催されたICRC会議で、自律兵器システムの課題と概念に関する議論が行われた。2013年11月、CCW当事国総会では、殺傷自律兵器システム（Lethal Autonomous Weapon system: LAWS）に関する議論を開始することを決定した。その後、2014年5月から2016年までCCWで3回の非公式専門家会議が開催され、この会議では自律殺傷兵器システムに関する議論が行われた。

2016年12月、第5回特定通常兵器使用禁止制限条約評価会議で、当事国全体が参加する自律殺傷兵器政府専門家グループ（GGE LAWS）を設置することを決定し、2017年からCCW会議は参加者の制限がない公開政府専門家グループ会議に移行した。2018年、自律殺傷兵器政府専門家グループ（Group of Governmental Experts on Lethal Autonomous Weapons: GGE LAWS）会議では、AIなど自律技術を活用した殺傷兵器の特性、人間による制御、政策案、軍事的応用などに関する議論を通じて、10個の実施原則（Possible Guiding Principles）を含む報告書を採択した。2019年CCW当事国総会では、「人間-機械相互作用（human-machine interaction）」を追加した11個の実施原則を最終的に採択した（柳準九 2019a; 2019b）。

2023年12月22日、国連総会で自律殺傷兵器システムの危険性に関する最初の決議案が採択された。この決議案は、152カ国の賛成、4カ国の反対、11カ国の棄権で通過し、AIと自律性を含む軍事分野の新たな技術応用が提起する「深刻な挑戦と懸念」を認めた。特定通常兵器使用禁止制限条約体制内では、2020年と2021年にも自律殺傷兵器システムに関する政府専門家グループ会議が継続された。2023年11月には、CCW当事国が2024年と2025年にかけて20日間会議を開き、「合意によって法的拘束力のある文書の要素を検討し、公式化」することに合意した。

中国は自律兵器システムに対し、戦略的曖昧性を維持している。2016年、国連特定通常兵器条約（UN-CCW）で自律兵器システムの禁止を主張したが、2017年にはAI発展計画を発表し、自律兵器システム開発を推進してきた。全体としては、完全自律兵器システムの使用を制限する立場を示しているが、中国も開発を通じて軍事的優位を確保するという目標を持っており、そのためには民軍融合戦略を推進している。

一方、国際社会では、自律殺傷兵器システムを規制する新たな国際条約交渉を促す声も高まっている。ヒューマン・ライツ・ウォッチをはじめとする非政府組織は、国連総会決議案採択を機に、拘束力のある国際条約 마련のための交渉を開始することを要求している。これらの動向は、自律殺傷兵器システムに対する国際社会の懸念が増大しており、これを規制するための議論がさらに活発化していることを示している。

これらの規制努力の中で、議論されているいくつかの主要な争点は以下の通りである。第一に、自律兵器システムの定義である。自律兵器システムの範囲が非常に広範である上に、技術的な複雑性が増大しており、兵器システムがどのように作動するのか、その適用と潜在的な結果を理解する努力がさらに困難になっており、人間の責任性と義務を保証する上でも課題が発生している。

第二に、新たな規制がどのような形をとるかについての議論である。規制が実際にどのように機能するかについての合意は遠い。一部の国は、これらのシステムの利用と移転に関する規則を制定することを主張する一方、他の国は特定の種類の兵器システムに対する厳格な禁止を主張している。さらに多くの国は、禁止と規制を組み合わせた二重アプローチを望んでいる。

第三に、新たなグローバルツールの必要性についての議論である。国連、国際赤十字、そして自律兵器システム規制に対する政治的意志を持つほぼすべての国々の間には、開発と使用に国際人道法と国際人権法が適用されるという点について、広範な合意がある。しかし、既存の国際法が十分なのか、それとも効果的に統制するために技術に特化した新たな規則が必要なのかについては、依然として議論がある。

第四に、どのフォーラムを使用するかについての議論である。現在まで、自律兵器システムに関する国家間の議論は、特定通常兵器使用禁止制限条約内で集中的に行われており、政府は2013年に初めて完全な自律兵器システムに関する会議を招集した。2017年にはCCW体制の下で、致命的自律兵器システムに関する政府専門家グループが設立され、このグループの任務は、この問題に関する共通理解を促進することであった。しかし、このグループは問題に対処するための追加的な検討事項に合意しただけで、法的または規制的オプションに関する議論には至らず、国連事務総長の国際規制促進要請に対する実質的な進展を遂げられなかった。最近の自律兵器システムに関する地域会議では、各国が国連総会のような他のフォーラムを通じて規制に関する議論を推進することを検討するよう促した。国際条約と協定が広範な、しかし満場一致ではない支持を通じて達成されうるという考えは、武器貿易条約（Arms Trade Treaty）採択のような他の分野で進展を可能にした要素である。

多くの国が今後数ヶ月間に検討すべき難しい質問は多いが、自律兵器システムに対する国際規制に合意しようという国連事務総長の2026年目標は、我々が目標とすべき期限を提供している。致命的自律兵器システムに関する国連総会決議案は、事務総長が今年末までに各国、国際および地域組織、ICRC、市民社会、科学コミュニティおよび産業界の多様な見解を反映した報告書を作成するよう命じている。

今後の議論のもう一つの核心は、非西側諸国と市民社会の有意義な参加である。市民社会団体は、世界中の市民の懸念を伝え、技術発展と人類全体に及ぼしうるリスクに対する深い理解を発展させるなど、軍事AIと自律兵器システムの規制に関する国際的な議論を主導する上で重要な役割を果たしてきた（Linney and Tang 2024）。

将来、自律兵器システムに対する規制が現実化するならば、多くの論点が発生するだろう。先に述べたように、自律兵器システムの定義自体や規制の枠組みも問題であるが、自律兵器システムの開発を巡る強国と弱小国間の不平等問題も提起されうる。核不拡散条約（Non-proliferation treaty: NPT）と比較すると、一部の国のみが核兵器を保有することを許可し、他の国が核兵器を獲得することを禁止する体制を構築したため、本質的に不平等であると批判されてきた。同様に、自律兵器システムに対する規制体制も、一部の国が自律兵器システムを保有し、他の国がそれを獲得することを禁止する可能性があり、これは別の形の不平等な国際体制をもたらしうる。

自律兵器システムの規制体制が困難なもう一つの理由は、検証と執行が難しいことである。自律兵器システムはソフトウェアベースであり、デュアルユース（二重用途）として使用できるため、開発を検知したり規制したりすることが非常に難しい。技術発展の速度が規制努力を凌駕する可能性もあり、各国は技術的優位性を失うことを恐れて規制に同意しない可能性がある。特にAIは汎用技術であり、商業的、民間の多様な利益と効用のために開発されるため、これを規制することは非常に難しい。開発主体も政府ではなく多くの先端技術企業であるという点を考慮すると、これらの意見も無視できない。結局、国際社会は多様な利害関係者の立場を総体的に考慮しなければならず、核不拡散体制の不平等を教訓として、自律兵器システムに対する包括的で平等かつ透明な体制を 마련해야 하는困難を抱えている。

V. 自律兵器システムを巡る強国間の競争と未来

科学者、産業専門家、そして国防総省関係者の間では、米国が今後数年以内に完全自律型致命兵器を保有することになるだろうという点について、大きな異論はない。米国の場合は、国防総省関係者は人間が常に統制権を持つと主張するが、専門家たちはデータ処理速度と機械間通信の発展が、結局人々を監督的役割に押しやるだろうと述べている。これは特に、致命兵器がドローン群のような事例のように大量配備される場合には、さらにそうである。米国国防総省が現在、2012年指針と改訂指針に従って自律兵器システムを配備するために公式な経路を通じて評価しているのかどうかについても不明確である。米国以外の国の場合は、明確な指針がさらに不明瞭であるため、問題は深刻であると言わざるを得ない。

これらの点を考慮すると、今後の自律兵器システムを巡る強国間の競争はさらに激化し、それを規制しようとする未来は困難であるとしか言えない。第一に、自律兵器システムは、その行動が危険なほど予測不可能であるという点で問題提起をする。機械学習ベースのアルゴリズムと動的な作戦環境との複雑な相互作用は、実際の状況でこれらの兵器の行動を予測することを非常に困難にしている。これらの兵器システムは、本質的に予測不可能なものとして設計されている。これは、敵のシステムを出し抜くために意図的に予測不可能な行動をとるようにプログラムされているからである。

第二に、自律型兵器システムは、その作戦速度と規模により、偶発的かつ迅速な紛争拡大のリスクをもたらす。ランド研究所の最近の研究は、「自律型システムの速度が戦争ゲームにおいて意図しない紛争拡大につながった」とし、「広範なAIと自律型システムは、意図しない紛争拡大と危機不安を招く可能性がある」と結論づけた。国連軍縮研究所（United Nations Institute for Disarmament Research: UNIDIR）もランド研究所の結論に同意した。米国の準政府機関である国家安全保障委員会（National Security Commission on Artificial Intelligence: NSCAI）も、「AIが適用された自律型システムが戦場においてシステムが意図した通りに作動しない場合、あるいはAIと自律型システム間の複雑で検証されていない相互作用のために、意図しない紛争拡大が発生する可能性がある」と認めた。「AIシステムは、全体として戦争の速度と自動化を増加させ、紛争緩和措置を講じる時間と空間を減少させる可能性が高い」と述べた。

第三に、特定の兵器の入手容易性により、いわゆるスローターボット（Slaughterbots）は、高価な原材料や入手困難な材料を必要としないため、大量生産が非常に安価である。これらは輸送が安全で探知が困難な特性を持っている。主要な軍事強国がこれらの兵器システムを製造し始めると、これらの兵器はすぐに拡散するだろう。最終的にこれらの兵器は闇市場に現れ、テロリスト、独裁者、戦争軍閥の手に渡り、民族浄化や大量殺戮を引き起こすために使用される可能性が高い。実際に、米国国家安全保障委員会は、軍事におけるAIの戦略的リスクを低減するために、拡散リスクを低減することを主要な課題として挙げた。

第四に、伝統的に戦争は、通常兵器の生産コストと人的損失のコストが大きいため、戦争を抑制する役割を果たしてきた。そしてその一方で、外交を奨励する役割も果たしてきた。しかし、安価で拡張可能な兵器の登場により、これらの抑制基準が弱まる可能性がある。自律型兵器の拡散と、それに伴う迅速かつ意図しない紛争拡大のリスクは、戦争の障壁を下げることと同じ影響を与える可能性がある。

第五に、自律型兵器システムは、拡張と拡散が容易であることである。これは、自律型兵器による被害規模が、兵器を運用する人の数ではなく、キラーロボットの数量のみに依存することを意味する。これは通常兵器とは大きく異なる。軍事強国は、単に銃器を倍に購入したからといって倍の被害を与えることができるのではなく、その銃を撃つ兵士を倍に募集する必要がある。しかし、キラーロボットの群れ、大小を問わず、たった一人でさえ起動させることができ、その構成要素であるキラーロボットは自律的に発射されるだろう。

拡張可能性と拡散の脅威が組み合わさると、大量殺戮の脅威が発生する。大量破壊兵器の特徴は、たった一人によって多数の死者をもたらすことができる点であり、自律型兵器を使用すれば、理論的には数百、数千ものキラーロボットの群れをたった一人で起動させることができる。拡散は、これらの大量の兵器が悪意を持つ者の手に渡る可能性を高め、拡張可能性はその者の力を増幅させる。これらの考慮事項により、一部の人々は特定の種類の自律型兵器システム、すなわちロボットを大量破壊兵器に分類することもある。

第六に、センサーデータのみに基づいて、特に顔認識やその他の生体情報を通じて個人を選択して殺害することは、年齢、性別、人種、民族、または宗教的服装によって特定のグループを選択的に標的とするリスクを著しく増加させる。拡散のリスクと組み合わせると、自律型兵器は特定の階層、さらには民族浄化や集団虐殺に至るまで、特定の階層に対する暴力を著しく増加させる可能性がある。さらに、顔認識ソフトウェアはバイアスを強化し、少数派、特に女性や有色人種の身元を正しく識別するエラー率を増加させることが示されている。自律型兵器システムが人種と性別に及ぼしうる不均衡な影響は、市民社会の主要な関心分野である。

これらの脅威は、警察業務や民族差別における顔認識の使用が増加している中で、特に注目に値する。一部の企業は、顔認識ソフトウェアの兵器化に反対する誓約をしないという理由で、致命的なシステム開発への関心を引用している。

第七に、AI軍拡競争を回避することは、倫理的なAIの基本原則であるが、自律型兵器システムの危険性を強調し、政治的圧力を生成するための世界的な統合努力が不足している状況下で、AI軍事競争はすでに始まっていると見なされている。軍拡競争の力学は、速度を安全性よりも優先させ、予測不可能性と紛争拡大行動の固有のリスクをさらに悪化させる（Autonomous Weapons 2024）。

将来、自律型兵器システムを巡る競争は継続され、それを制御しようとする国際社会および各国の市民社会の努力は困難に直面するだろう。米海軍はすでに2023年10月に、無人ボートが実弾ロケットを使用して仮想敵目標を成功裏に攻撃するデモンストレーションを完了した。ペンタゴンは、ロイヤル・ウィングマン（Loyal Wingman）プログラムやV-BAT空中ドローンなどのドローン群を含む、800以上の軍事AIプロジェクトを進行中であると見られる。中国は、軍民融合（civil-military fusion）の教義に基づき、自律型兵器システムを開発している。2022年時点で、中国ではすでに10機のドローンで構成された完全自律型群が森を通過する証拠が確認されている。これに対応して、オーストラリア海軍もAI駆動の自律型潜水艦「ゴースト・シャーク（Ghost Sharks）」を開発中である。

さらに、AIと組み合わされた自律型兵器システムの制御についても確信が持てない。例えば、2023年6月、米国空軍のAI試験・運用責任者であるタッカー・ハミルトン大佐は、AIで運用されるドローンが敵の防空システムを破壊するように訓練されたシミュレーションテストについて説明した。このドローンは、脅威を排除するたびに「ポイント」を付与されるように訓練されていた。しかし、人間のオペレーターが目標を破壊しないように命令したとき、ドローンは自身を運用するために使用された通信タワーを破壊し、事実上オペレーターを「排除」した。ハミルトン大佐は、この訓練で実際に被害を受けた者はいないと主張し、その後自身の発言を全面的に撤回した。米空軍報道官は、このシミュレーションは実際には存在しなかったと否定した。正確な詳細は依然として不明確であるが、AIの無分別な使用がどのように意図しない壊滅的な結果を招きうるかを示す事例と見ることができる（Tripathi 2024）。

長期的には、自律型兵器システムの発展は、戦争の様相と軍事戦略競争に大きな変化をもたらすと予想される。人間の介入を最小限に抑えたり排除したりできるため、戦闘を自動化し、速度を加速化すると同時に、戦闘リスクを低減するが、判断エラーと誤作動の可能性は国家間の緊張を高める可能性がある。特に米中戦略競争の文脈において、中国はAIと新興技術を統合して軍事的優位を確保しようとしており、米国も競争に勝利を追求する中で軍拡競争を誘発し、戦略的安定性を脅かす可能性がある。両国間の技術競争が激化するにつれて、軍事力の均衡に大きな影響を与えており、これらの変化は国際社会の倫理的、法的問題とも結びついている。

VI. 認知戦の出現と進化

1. 認知戦の定義

自律型兵器システムとともに、認知戦はAI時代における未来の戦争を特徴づける重要な分野となるだろう。認知戦とは、標的とする対象の思考様式を変化させ、それによって行動を変化させる戦略である。これは、国外の敵対主体によって世論を兵器化し、（1）公共および政府の政策に影響を与え、（2）公共機関を不安定化させることを目的とする。認知戦は、第一次世界大戦後の1920年代に登場した心理戦（Psychological operations: PSYOP）や情報戦のような、以前の攻撃形態から発展した最近の変化である。認知戦は、特にAIを含む新しい通信および情報技術に大きく依存するようになっている。認知戦の主な特徴は、全人口を対象とすることである。例えば、戦時の軍隊のみを対象とする以前の戦術とは異なる。認知戦は、特定の事柄に関する偽情報の提供にとどまらず、単に対象の行動を変化させるだけでなく、相手の思考様式を変化させて行動変化を誘導することに重点を置く。

認知戦は、認知科学、脳科学の発展に支えられ、ますます洗練されて発展している。心理的操作技法、そして経頭蓋直流電気刺激（Transcranial Direct-Current Stimulation: TDCS）のような神経生理学的技法も使用される可能性があると議論されている。認知戦は、特に政府のような公共機関を不安定化させることを目標としているが、しばしばニュースメディア組織や大学のような情報、知識関連機関をまず不安定化させることによって間接的に目的を達成しようとする。重要な点は、認知戦が大衆がますます依存するようになったソーシャルメディアのような新しい大衆通信チャネルを活用できることである（Miller 2023, 46）。

認知戦は、本質的に、現在どこにでもある機械とビッグデータによって可能になった脅威である。インターネットは、個人用コンピュータとスマートフォンを使用して世界中に高速な情報伝送を可能にするだけでなく、特に最近のモノのインターネット（Internet of Things: IoT）と5G技術のブームにより、人間と機械がますます絡み合っている。これは、さらなる搾取と操作の可能性を提供する（Firth et al. 2019, 119-129）。

2. 認知戦と情報戦、サイバー戦等との違い

認知戦は、戦争と平和の境界を曖昧にする新しい紛争様相を示す。戦場での公然たる戦争ではなく、敵対者や競争者の認知メカニズム、特に意思決定プロセスに影響を与えるための非公開戦争である。NATOは情報戦を「相手方に対して情報的優位を確保するために実施される作戦」と定義している。情報戦は、情報そのもの、情報の操作、情報の流れ、情報の保護または奪取方法、そしてそれが使用される方法に焦点を当てる。一方、認知戦は「私たちが考える方法、情報を処理し、それを知識に変換する方法への攻撃」と説明される。つまり、認知戦は「人々が情報に反応する方法を制御または変更するための戦い」であるということだ。情報戦が知識構築のプロセスに関連するものであれば、認知戦は戦術的な戦場情報だけに焦点を当てるのではなく、一般大衆のための情報にも影響を与える（Morelle et al. 2023）。

認知戦は、サイバー戦争、戦争前のサイバー紛争、サイバーテロリズム、サイバー犯罪、サイバースパイ行為、そして隠密認知戦と呼ばれる隠密作戦の一形態と区別される。これらの多様な形態の攻撃行為は、以下のような被害をもたらしうる。第一に、人間に対する物理的または心理的被害が発生する。ここで心理的被害とは、人間の自律性を弱めようとする意図で、偽の信念や不当な感情的態度を誘導する欺瞞的または操作的な行為を含む。第二に、建物、情報通信技術ハードウェア、その他の人間の産物（そして人間の生活を支える自然環境）に対する被害がある。第三に、ソフトウェアやデータの破損のようなサイバー被害が挙げられる。第四に、特定の機関のプロセスと目的を損なう制度的被害や損害がある。例えば、セキュリティ機関における機密の大規模漏洩や、領土に対する制度的統制権の喪失などが挙げられる。特定の制度的プロセスと目的を損なうことが、機関自体を弱体化させる目的で行われる場合があり、特に制度的行為者や彼らが奉仕する人々の信念と態度が標的となる場合もある。例えば、2020年の米国大統領選挙で発生した選挙制度に対する信頼の低下事例がこれに該当すると見ることができる。認知戦の主な焦点は、第一種の被害、特に心理的被害と第四種の被害、すなわち制度的被害や損害にあると言える（Miller 2023, 46）。

出典: Hung, Tzu-Chieh, and Tzu-Wei Hung. “How China’s Cognitive Warfare Works: A Frontline Perspective of Taiwan’s Anti- Disinformation Wars.” Journal of Global Security Studies 7, 4: 3.

VII. 認知戦の出現と進化

AIの導入は、認知戦の遂行方法を根本的に変えている。AI技術の発展は、認知領域においてより洗練され効率的な戦略を可能にしており、これらの変化は多様なセキュリティ問題をもたらす。AIは、人間の認知プロセスを模倣したり代替したりできる能力を通じて、人間の思考と行動に深く影響を与える形で活用されうる。これは認知戦の本質を再定義し、伝統的な心理戦とは異なる次元の脅威をもたらす。

第一に、AIはディープフェイク（deepfake）技術を通じて、非常に説得力のある偽コンテンツを生成できる。これは画像、ビデオ、またはオーディオ録音の形で現れ、現実と区別がつかないレベルの偽情報を作り出す。これらのディープフェイクは、虚偽情報を拡散し、世論を操作し、さらには個人を脅迫するために使用されうる。結果として、これらの技術は認知戦において、敵対勢力が相手の心理的安定性を破壊するために効果的に活用されうる。

第二に、AIは虚偽情報と誤情報を迅速に拡散できる。AIアルゴリズムは、特定のメッセージを増幅させ、ソーシャルネットワークを通じてそれを広く拡散させる能力を備えている。これは、政治プロセスの歪曲、社会的混乱の醸成、機関への信頼の失墜といった結果をもたらしうる。特に、これらの情報操作は、大衆の認識と判断を曖昧にし、敵対勢力が望む方向へ世論を誘導できる強力な道具として作用しうる。

第三に、AIシステムはデータに内在するバイアスを学習し、それを継続させることができる。これは社会的格差を深化させ、特定のグループに対する差別を強化する潜在力を持つ。認知戦において、これらのバイアスのかかったAIシステムは、特定の人口集団を標的とし、彼らの行動と信念を操作するために使用されうる。

第四に、AI技術はプライバシー侵害をもたらしうる。顔認識、自然言語処理、データマイニングなどの技術は、個人の位置、行動パターン、さらには思考まで追跡できる能力を提供する。これは、監視と統制を通じて、特定の個人やグループの認知的自由を制限する道具として活用されうる。

第五に、AIは個人に合わせたコンテンツを提供することにより、悪意のある行為者が特定の個人やグループを標的として心理的操作を容易に実行できるようにする。このような個人に合わせたアプローチは、極端な思想や行動に誘導する可能性があり、これは社会的亀裂を招く可能性がある。

第六に、AIは自動化されたサイバー攻撃を可能にする。例えば、AIは検出が困難なフィッシングメールを生成したり、ソフトウェアの脆弱性を自動的に発見し悪用できるツールを提供したりする。これらの自動化された攻撃は、認知戦において相手の情報インフラを破壊したり混乱を引き起こしたりするために使用されうる。

第七に、AIシステムは敵対的攻撃に対して脆弱である。攻撃者はAIシステムの入力データを慎重に操作し、誤った予測や分類を誘導することができる。これはシステムの整合性を損ない、それを通じて認知戦において重要な情報を歪曲したり隠蔽したりする手段として活用されうる。

最後に、AIが認知戦において主要な役割を果たすにつれて、人間の批判的思考能力と自律性が低下するリスクがある。AIへの過度な依存は、個人や組織がAIシステムが失敗したり使用できなくなったりした場合に適応する能力を低下させ、これは最終的に認知戦における人間の主導権を弱体化させる可能性がある（Huang et al. 2023）。

VIII. 認知操作の弊害

認知操作の弊害は、国内政治においてすでに十分に経験されている。政治的な虚偽情報とヘイトスピーチは、社会的亀裂と極端化を招く。これは個人と集団間の信頼を低下させるだけでなく、民主的プロセスと社会的安定性を損なう。虚偽情報は誤った事実を拡散し、人々の認識を歪曲し、特定の政治的目的のために利用されうる。虚偽情報は感情的に敏感なテーマを扱い、人々の強い反応を引き出し、それを通じて社会的対立を増幅させる。

ヘイトスピーチは特定の集団を標的とし、そのアイデンティティを攻撃し、社会的統合を阻害する。これは社会内で特定の集団を排除したり敵視したりする雰囲気を作り出し、最終的に社会的亀裂を深化させる（Vasist et al. 2023）。

国際的なレベルで敵対勢力によって行われる認知戦は、組織化された集団がオンライン言論を統制し、政治的反対者を失墜させるために虚偽情報、プロパガンダ、そして操作的な技術を使用する継続的なプログラムに参加するサイバースペースにおける紛争の一形態である。これには、根拠のない主張で相手の名声を破壊するだけでなく、脆弱な集団をプロファイルに基づいてマイクロターゲティングし、政治機関を弱体化させる行為が含まれる。これは潜在的に広範な暴力的な反乱と既存の政治秩序の崩壊につながりうる。

AIは、認知戦の遂行方法を革新する潜在力を持っており、それを通じてより洗練され効果的な戦略が可能になる。AIはコンピュータ科学の一分野であり、一般的に人間の知能が必要なタスクを実行できる知能機械を開発することに重点を置いている。AIは、コンピュータビジョン、機械学習、ヘルスケア、ロボット工学、自律システムなど、多様な分野で驚異的な能力を示している。認知戦にAIがもたらす変化は著しく広範である。感情を操作したり、虚偽情報を拡散したり、人々の信念と行動に影響を与えるために心理的戦術を使用することは、個人、社会、民主的プロセスに否定的な影響を与える可能性がある（Sârbu and Gavrilaș 2023）。

認知戦の弊害を防ぐのが難しい理由の一つは、「責任帰属の問題」である。伝統的な戦争において、ほとんどの攻撃や、それに類似した伝統的な暴行または窃盗のような犯罪と異なり、認知戦に関連して責任を信頼性をもって帰属させることに大きな問題がある。国家が他の国家に対して行う認知戦においては、責任帰属の問題が存在し、その結果として否認の信頼性が問題視される。攻撃を受ける自由民主主義国家は、通常、コミュニケーションの自由を重視するため、認知戦は自由民主主義国家を弱体化させながら全面戦争を回避しようとする権威主義国家にとって非常に有用な戦略となる（Miller 2023, 46）。

IX. 中国の認知戦戦略

1. 中国の認知戦体系

中国は、認知戦を新しい作戦形態として、現在の軍兵力対決、火力対決、情報対決に続く、もう一つの新しい対決領域になったと見なしている。物理領域、情報領域などとは異なり、認知領域作戦の目標は思考、イデオロギーなどであり、他の作戦形態とは明確に区別される内的要求を持っているということである。

認知戦は、価値観の高地を占領することが勝利のための前提条件であると見なしている。認知戦の主導権を確保するためには、相手の価値追求を徹底的に研究し、相手文化の言語系列にアクセスし、相手の政治的信念と利益要求を明確に把握して、認知作戦の効果が相手の信念基盤と魂の核心まで到達するようにしなければならないということである。同時に、自国の優れた価値観の内容と精髄を科学的に説明し、普及させて、優れた価値観と人類の優れた文明的成果へと相手を転換させることが重要であると見なしている。結局、中国は脳認知を主要な戦場と見なしている。敵主力を殲滅することを重点とする「消耗戦」や、敵のシステムを破壊することを重点とする「機動戦」と比較して、認知領域作戦は人間の脳を主要な戦闘空間とし、敵の戦争意志を打撃、弱化、瓦解させることを重点とし、恐怖、不安、疑いなど人間の心理的弱点を突破口として、ソフトキル手段に依存して敵内部に不安、不確実性、不信の雰囲気を作り出し、内部紛争と消耗を増加させ、意思決定に疑問を投げかけることによって、「戦争なしでの勝利」という目的を達成するというものである。

将来、軍事のAI化の急速な進展に伴い、AI戦争における知能優位は勝利の主導的要素であり、AI兵器システムが主要な戦闘力となり、「知的権限」を確保することが戦争における新しい高地を占領することになるだろうと見なしている。認知装備を活用して、敵が効果的な情報を得られないようにし、偽情報を使用するように強要し、認知速度を遅延させ、認知様式を誘導し、認知出力を遮断することができる。これにより、敵の指揮決定を混乱させ、軍隊の士気を瓦解させ、「心理的攻撃」の効果を達成できると見なしている。

中国は世論戦を重視しており、多様な世論ツールを統制、操作、利用して相手を圧迫し、大衆の認識を得ることが重要であると見なし、ソーシャルネットワークと融合メディア技術を利用して相手の封鎖と制限を突破し、目標集団内に直接到達しなければならないとしている。

将来、認知科学は新興研究分野であり、人間の脳や心が作動するメカニズムを探求する最先端学問であり、脳・機械インターフェース技術は認知次元の人間・機械結合を実現し、外部的には意識制御、すなわち脳制御を可能にし、内部的には自律性強化、すなわち強力な脳を実現できるため、意識と思考で複雑な兵器システムを直接制御できると説明している。現在、ビッグデータに基づいたマルチモード感情認識、発動、保護などの関連技術手段において大きなブレークスルーが達成されており、人の表情、動作、言語と声調、脳波、複数の生理指標などを収集して感情との関連性を構築し、それによって人の感情と意図を認識して認知制御戦を遂行できる新しい手段を提供していると見なしている。したがって、新しい認知技術手段と伝統的な認知技術手段は、臨界点以上の注入と臨界点以下の浸透を組み合わせた方法を形成し、認知影響の隠密性と効果性をさらに強化しなければならないと主張している（Zhang et al. 2022）。

これに加えて、中国軍事科学院（Academy of Military Science: AMS）が「認知領域作戦の脈絡を捉える」というタイトルの著作を発刊しており、この著作は認知領域で成功するための8つの作戦的特性を分析している。この作業は、技術、情報優位、そして軍事および民間の構成要素が認知領域の支配的地位を確保するための戦闘においてどのように役割を果たすかについての洞察を提供する。これは中国人民解放軍の戦略的思考様式を垣間見ることができる資料である（Baughman 2023; Jamestown Foundation 2022）。

中国が考える認知戦の8つの要素は以下の通りである。第一に、軍事的優位を政治的勝利に転換することが重要であること。認知領域は単なる軍事的勝利を超え、最終的に政治的成果に結びつくことを目標とする。第二に、敵の認識を変化させて、彼らの決定と行動を統制することが必要であること。これにより、敵が状況を誤判し、誤った決定を下すように誘導する。第三に、政府全体が攻撃と防御に参加しなければならないこと。認知戦は全方位的で、全時間を通じて進行し、政府の全ての部門が調整されて初めて効果を発揮できる。第四に、「三つの権力」を確保しなければならないこと。事件の定義、プロセス支配、結果判断の三つの権力を掌握し、大衆の認識を主導することが重要である。第五に、道徳性と法律の優位を争って大衆の支持を得なければならないこと。これにより、敵の道徳的および法的正当性を弱体化させることができる。第六に、情報を「弾薬」として使用しなければならないこと。ソーシャルメディアのようなプラットフォームを通じて情報を迅速に伝達し、相手のナラティブ（narrative）を抑制し、自らの物語を拡散させる。第七に、軍事作戦と認知ナラティブを並行して戦争の勝利を保証しなければならないこと。軍事的勝利とともに、認知ナラティブが戦争の結果を決定する上で重要な役割を果たす。最後に、認知戦の道具を直接戦争に活用しなければならないこと。人工知能や生命工学などの新技術を活用して、敵の認知に直接影響を与え、目標とする結果を達成することを目標とする。

2. 台湾に対する中国の認知戦の現状

台湾に対する中国の認知戦は、大きく四つの方式で進行する可能性が議論されている。第一に、軍事的脅威を通じて、台湾の統一問題に対する心理的圧力を加えることである。中国は台湾独立を追求する動きに対して強力な軍事的対応を予告し、それによって台湾国民の独立支持意思を抑制しようとする。これらの軍事的脅威は、台湾国民に独立はすなわち戦争であるという認識を植え付け、実際に多くの台湾人がこれらの脅威を現実として受け止めている。例えば、2020年末には台湾国民の61.8%が、台湾が独立を宣言した場合、中国が攻撃すると信じるようになった。

第二に、両岸交流を通じた影響力拡大である。中国は台湾住民に経済的、社会文化的な恩恵を提供し、中国への依存度を高め、それを基盤により大きな統制を試みる。例えば、中国は台湾の若者に奨学金や仕事を提供し、彼らを中国の体制内に誘導しようとする。これらの活動は、台湾国内で中国に対する肯定的な認識を拡散させ、中国の影響力を拡大する手段として活用される。

第三に、宗教的介入である。中国は台湾で人気のある媽祖信仰を利用して、台湾との文化的、政治的な連携を強化しようとする。中国は媽祖文化を通じた両岸間の文化交流を奨励し、それを通じて台湾が中国と同じ文化的ルーツを共有しているという認識を植え付けようとする。これらの宗教的介入は、台湾国内で中国に対する情緒的な絆を強化することに貢献する。

第四に、インターネットを通じた虚偽情報とコンテンツファームの運営である。中国は虚偽情報を拡散するために、台湾国内にコンテンツファームを運営し、それを通じて台湾国民の世論を操作しようとする。これらの虚偽情報は、台湾の特定の政治的状況に対して混乱を引き起こし、台湾政府の信頼性を弱体化させるために活用される。例えば、2018年の台湾地方選挙で、中国は虚偽情報を拡散し、台湾の民進党政府に対する信頼を大きく損なった。

中国の認知戦遂行原則は、反復的な刺激を通じて相手方の認知システムを攪乱することにある。これは商業広告の手法に似ており、反復的な露出を通じて相手方の心理的抵抗を弱め、漸進的に望む方向へ行動を誘導しようとするものである。中国は伝統メディアとオンラインメディア、そしてオフラインネットワークを通じて同一のメッセージを反復的に伝達し、それを通じて台湾国民の認知空間に長期的な影響を与えようとする。

台湾の事例において、中国の認知戦は主に台湾国民の独立支持意思を抑制し、中国との統一に対する肯定的な認識を拡散させることを目標としている。しかし、これらの試みは必ずしも成功しているわけではない。例えば、中国の肯定的なプロパガンダは台湾国内で成功を収めておらず、むしろ台湾国民は中国の経済的繁栄に対する信頼を失いつつある。一方、中国の否定的なプロパガンダは台湾国内でより大きな効果を発揮しており、これは台湾国民の間で政府に対する信頼を低下させた。

中国の認知戦は長期的かつ巧妙に発展している。将来、人工知能技術を活用した精密な情報伝達が行われる可能性が高く、これは特定の個人やグループを標的としたオーダーメイドの情報操作を通じて、より効果的な認知戦が遂行されるだろう。このような文脈において、台湾は認知戦に備えて社会構造的な改革と認知的介入を通じて中国の影響を最小化することが重要である。そのためには、透明性の強化、公正な競争の維持、防御体制の構築などが必要である。

結局、中国の認知戦は、台湾に対する政治的、心理的圧力を通じて統一を目指す戦略的活動である。台湾はこれに対応して、社会構造的な改革と国民の認知的対応能力を強化する必要がある（Hung and Hung 2020）。

3. 中国の認知戦に対する米国の認識

米国は、中国が自国に対して継続的な認知戦を行っていると見ており、以下の事例を挙げて批判している。第一に、TikTokに対する懸念がある。米国政府は、TikTokが中国の認知戦の道具として使用される可能性を懸念している。米国国内でTikTokの中国所有者が株式を売却しない場合、TikTokを禁止するという要求があり、これは国家安全保障上の懸念を理由としている。

第二に、ソーシャルメディア作戦がある。米国は、中国が大規模なソーシャルメディア作戦を通じて認知戦を行っていると非難した。これは、Facebook、Instagram、TikTok、X、Substackなどのプラットフォームで偽アカウントを作成し、虚偽情報を拡散することを含む。

第三に、台湾選挙への介入がある。米国は、中国が認知戦戦術を通じて台湾の選挙に影響を与えようとしていると批判した。これは、ソーシャルメディアに偽画像を拡散し、軍事訓練を実施して世論を操作しようとする試みを含む。

第四に、データ収集に対する懸念がある。中国が米国市民の個人および生体データを大量に収集しており、これは認知戦の目的で使用される可能性があるという懸念がある。

第五に、軍事研究がある。米国政府は、「脳制御兵器」やその他の認知戦技術を研究する中国の研究機関や企業をブラックリストに載せた。

第六に、プロパガンダと偽情報がある。米国は、中国が広範なプロパガンダと偽情報作戦を通じて米国および西側諸国を転覆させようとしていると非難した。

第七に、イデオロギー的影響力がある。一部の米国専門家は、中国が西側の言説に自国のイデオロギー的概念や用語を広めようとする努力を認知戦の一環と見なしている。

これらの非難や批判は米国の官僚や専門家によって提起されたが、中国はしばしばこれらの主張を否定するか、あるいは代替的な物語を提示する。認知戦活動の全体的な範囲と性質は、その秘密性のために明確に証明することが困難な場合がある。

X. 今後の認知戦を巡る国家間の競争

人工知能や神経技術のような新興技術が認知戦の主要な促進剤として機能するにつれて、国家はこれらのデュアルユース技術を軍事化する必要性を感じる可能性が高い。これは結果的に、この分野における技術的軍拡競争を加速させる可能性がある。軍拡競争の力学は、これらの技術の開発と使用における倫理的、法的、規範的な制約を無視させる結果をもたらす可能性がある。国家が遅れをとることを恐れるため、国家安全保障問題において最も破壊的な能力を活用するために、厳格な規制を放棄する可能性が高い。これは最終的に、心の軍事化を正常化させ、認知領域における無責任な行動が制限なく起こる状況をもたらす可能性がある。これらの力学は、精神的プライバシー、操作、影響力、自己決定権、そして統合性に対する規範の形成を妨げる可能性がある。これらの技術が転覆の主要な促進剤であり、国家安全保障の必須ツールとなるにつれて、すでに現れている大国間の技術的分断傾向がさらに加速する可能性がある。

認知戦はまた、攻撃と防御の均衡に対する全体的な影響を与える可能性がある。攻撃-防御均衡理論の支持者は、国際的安定性は、私たちが攻撃が優位にある環境に生きているのか、あるいは防御が優位にある環境に生きているのかによって異なり、前者は不安定性と紛争を、後者は安定性と平和を促進すると主張する。彼らはまた、この均衡に影響を与える主要な変数は技術であり、技術は均衡をどちらかの方向に傾けることができると主張する。これらの側面において、効果的な認知戦を実行する能力は、エスカレーションの圧力を増加させ、これらの能力の攻撃的な使用を好む可能性がある。実際に、認知攻撃がいつ発生するかを検知することと、それに防御する能力には本質的な困難がある。特定の瞬間に認知攻撃を受けている可能性は、認知戦を実行する上での「先制使用」動機を付与する可能性がある。

戦争における代理人の使用、特に技術的代理人の使用の場合、もっともらしい否認（plausible deniability）は主要なインセンティブである。認知戦の場合、それを実行するために使用されるツールの未定義で規制されていない性質と、その効率性は、これらのもっともらしい否認を促進し、「先制使用」をさらに助長する可能性がある。また、認知戦を可能にする技術が民主化され、拡散するにつれて、膨大な数の人々に影響を与える能力が非国家行為者、企業、さらには個人にまでアクセス可能になるにつれて、認知戦はさらに不安定になるだろう（Rickli et al. 2023）。

XI. 認知戦への対応策

2024年のミュンヘン安全保障会議では、特に認知戦に関連する議論が重要なテーマとして浮上した。認知戦とは、敵対勢力が相手方の認識、行動、そして決定を操作または制御しようとする現代の複雑な戦術を意味する。これらの議論は、現代の戦争がますます物理的な戦闘から情報戦と心理戦へと変化していることを反映している。

認知戦への対応策に関する議論は、主に認知戦が提起する脅威を認識し、それに対処するための戦略を策定することに焦点を当てている。この議論において重要な要素は、市民の認識向上、認知戦およびそれを可能にする技術に対する規制強化、そして民主的レジリエンスを強化するために新技術を活用することである。

第一に、認知戦に対する認識と理解を高めることが重要である。認知戦は、その概念がまだ明確に定義されていないため、学界、産業界、防衛部門が協力してそれを具体的に定義し、そのメカニズムを理解することが不可欠である。また、市民が情報環境を批判的に評価し、誤った情報や操作されたコンテンツに抵抗する能力を養うことが重要である。

第二に、認知戦およびそれを可能にする技術に対する規制フレームワークを開発することが必要である。認知戦の脅威に対する認識を高めることに加えて、政策立案者はこれらの脅威に対処するための包括的な規制体系を構築しなければならない。これには、認知戦の多様な形態と戦術を含む明確な定義が必要であり、現在の国際法が認知領域にどのように適用されうるかについて議論する必要がある。また、既存の法的枠組みが適用されない場合、新たな法的フレームワークを開発して、認知戦活動に対する責任と責任の所在を究明する必要がある。

第三に、新技術の力を活用して社会的および民主的レジリエンスを強化することが必要である。認知戦の脅威を効果的に阻止するためには、内部的な脆弱性を解決し、新技術を活用して民主的プロセスを強化しなければならない。例えば、複雑なAIシステムは、広範な世論分析を通じて効果的な民主的参加と協力を促進することができ、仮想現実（VR）技術は、無意識的な偏見を訓練するために使用することができる。これらの技術を適切に活用することにより、社会的レジリエンスを強化し、認知戦に対する防御力を高めることができる。

第四に、国際的な協力の強化が必要である。認知戦は国境を越えて行われるため、国際社会の協力なしには効果的な対応は困難である。国家間の情報共有と協力を通じて、認知戦に対する共同対応策を策定しなければならない。特に、NATOのような国際機関は、認知戦に対する対応戦略を樹立し、加盟国間の協力を促進する上で重要な役割を果たすことができる。

第五に、倫理的基準を確立し、遵守することが重要である。認知戦に対応する過程で倫理的基準を無視すると、対応自体が別の形態の認知戦と見なされる可能性がある。したがって、情報作戦の透明性を高め、個人のプライバシーと人権を尊重する形で対応しなければならない。これは、長期的に認知戦に対する社会的な信頼を維持するために不可欠である（Pujol et al. 2024; Ibrahim et al. 2023）。

結論として、将来のAIを利用した認知戦は、大国間、特に米中間の戦略競争において非常に重要な役割を果たすことになり、それは様々な破局的な効果をもたらす可能性がある。世論操作や選挙介入、偽情報の拡散などを通じて社会的不安を招き、政治的混乱を引き起こす可能性がある。これらのリスクを最小化するためには、国際的な協力と規制が必要であり、AI技術の安全な開発と使用のための倫理的基準と安全措置が強化されなければならない。しかし、国際的なレベルで合意に達するには依然として多くの障壁が必要であり、国際政治的な効用が存在する限り、相当期間、認知戦を巡る攻防が続くだろう。 ■

参考文献

ユ・ジュング。2019a。「自律型殺傷兵器システムの議論動向と争点。」『IFANS政策研究シリーズ』2019-18。12月。

____。2019b。「自律型殺傷兵器（LAWS）システムの規範創設議論の争点と示唆。」『IFANS主要国際問題分析』2019-54。12月19日。

Autonomous Weapons. 2024. “The Risks of Autonomous Weapons.” Autonomous Weapons, https://autonomousweapons.org/the-risks/.

Bajak, Frank. 2023. “Pentagon’s AI Initiatives Accelerate Hard Decisions on Lethal Autonomous Weapons.” Associated Press。2023年11月26日。https://apnews.com/...2.

Britt Baughman, Josh. 2023. “How China Wins the Cognitive Domain.” China Aerospace Studies Institute. 2023年1月23日。https://www.airuniversity.af.edu/...domain/.

Beauchamp-Mustafaga, Nathan. 2019. "Cognitive Domain Operations: The PLA's New Holistic Concept for Influence Operations." China Brief 19: 16. https://jamestown.org/....ain

Cameron, Hugh. 2024. “China’s Killer Robots Are Coming.” Newsweek.2024年6月26日。https://www.newsweek.com/...9.

Dresp-Langley, Birgitta. 2023. “The Weaponization of Artificial Intelligence: What the Public Needs to Be Aware Of.” Frontiers in Artificial Intelligence 6. https://doi.org/10.3389/frai.2023.1154184.

Firth, Joseph, John Torous, Brendon Stubbs, Ivan P. Ipser, P. Murali Doraiswamy, and Felipe Schuch. 2019. "The 'Online Brain': How the Internet May Be Changing Our Cognition." World Psychiatry 18, 2: 119–129.

Hale, Amber. 2023. “Clausewitzian Theory of War in The Age of Cognitive Warfare.” The Defence Horizon Journal。https://tdhj.org/...warfare/.

Huang, Ruiyang, Xiaoqing Zheng, Yuting Shang, and Xiangyang Xue. 2023. "On Challenges of AI to Cognitive Security and Safety." Security and Safety 2. https://doi.org/10.1051/sands/2023012.

Hung, Tzu-Chieh, and Tzu-Wei Hung. 2020. "How China’s Cognitive Warfare Works: A Frontline Perspective of Taiwan’s Anti-Disinformation Wars." Journal of Global Security Studies 7, 4: 1–18.

Human Rights Watch. 2023. “A Review of the 2023 US Policy on Autonomy in Weapons systerns.” Human Rights Watch. 2023年2月14日。https://www.hrw.org/...systerns.

Ibrahim, Fabio, Steffen Rhode, und Monika Daseking. 2023. 「認知・心理戦の体系的レビュー」. The Defence Horizon Journal, 12月1日. https://tdhj.org/...warfare.

Johnson, James. 2023. AIと核兵器：デジタル時代の核戦略とリスク. Oxford: Oxford University Press.

Kallenborn, Zachary. 2021. 「大量破壊兵器の未来兵器、ドローン・スウォームに会う」. Bulletin of the Atomic Scientists. 4月5日. https://thebulletin.org/...swarm/.

Lamberth, Catherine A. 2023. 「自律型兵器に関する国防総省の更新指令を解読する」. Lawfare. 8月17日. https://www.lawfaremedia.org/...weapons.

Linney, Charlie, and Xiaomin Tang. 2024. 「AIと自律型兵器システム：行動を起こす時が来た」. Saferworld. 5月15日. https://www.saferworld.org.uk/...now.

Miller, Seumas. 2023. 「認知戦：倫理的分析」. Ethics and Information Technology 25: 46. https://doi.org/10.1007/s10676-023-09717-7.

Morelle, Marie, Julien Cegarra, Damien Marion, and Jean-Marc André. 2023. 「認知戦の定義に向けて」. DGA Maîtrise de l’Informationで開催された人工知能と防衛に関する会議にて発表. https://hal.science/...1.

Pujol Chica, Irene, and Quynh Dinh Da Xuan. 2024. 「心の戦い：認知戦とその可能化技術の理解と対処」. IE Center for the Governance of Change. https://coilink.org/20.500.12592/zs7hb9h.

Rickli, Jean-Marc, Federico Mantellassi, and Gwyn Glasser. 2023. Peace of Mind: Cognitive Warfare and the Governance of Subversion in the 21st Century. GCSP Policy Brief No. 9, Geneva Centre for Security Policy. https://www.gcsp.ch/...century.

Sârbu, Annamaria, and Anca Gavrilaș. 2023. 「認知戦の優位性を得るための人工知能ツールの使用」. The Defence Horizon Journal. 10月23日. https://tdhj.org/...twitter/.

Tripathi, Prateek. 2024. 「AIが境界線を越える時：自律型兵器システムの差し迫った脅威」. Observer Research Foundation. 5月6日. https://www.orfonline.org/...systerns.

U.S. Department of Defense. 2023. 「キャスリーン・ヒックス国防副長官基調講演：「イノベーションの緊急性」（原稿通り）」. 8月28日. https://www.defense.gov/...innov/.

Vasist, Pramukh Nanjundaswamy, Debashis Chatterjee, and Satish Krishnan. 2023. 「政治的偽情報とヘイトスピーチの二極化効果：国別構成的ナラティブ」. Information Systems Frontiers, 1–26.

Zhang, Guangshen, Yongli Li, Haoxian Wang. 2022. 「認知領域作戦の基本要義に関する簡単な分析 [浅析认知域作战的基本要义]」. PLA Daily. 9月8日. http://www.81.cn/...323692.htm.

[1]序論で提示された内容を要約・補完して記述

■ チョン・ジェソン_EAI国家安全保障センター所長。ソウル大学政治外交学部教授。

■ 担当および編集：パク・ジス、EAI研究員

    問い合わせおよび編集：02 2277 1683 (内線208) | jspark@eai.or.kr