米露のAI兵器システム規制阻止の共闘をめぐる議論：背景と含意

総合要約

国連総会の期間中、米国とロシアがAI兵器システムの標的決定における人間の関与の義務化条項の導入を共同で阻止した事実が確認された。これはトランプ政権のAI国際監督に対する懐疑論と、ロシアの欧米主導の多国間規範に対する不信感が結びついた結果であり、安保理常任理事国かつ核保有国である両国が軍縮規範において共有する構造的立場を反映している。一方、欧州など22カ国は別途、人間による管理原則の宣言を採択し、規範の空白を埋める試みを並行して進めており、AIガバナンスは米中二国間チャネル、米露の阻止トラック、中堅国の多国間宣言という3つの方向へと分化する様相を呈している。公式な多国間規範の形成が停滞する可能性が極めて高いため、韓国はSIPRI方式の非公式な実務協議体への参加や、独自のAI検証プロセスの構築を優先的に検討する必要がある。米国がロシアとは規制阻止、中国とは事故通報チャネルという二面的な態度を取る状況において、韓国の独自対応の余地と交渉力の限界を同時に点検すべきである。

I. 懸案の状況分析

米露、AI兵器システム規制阻止の共闘をめぐる議論：懸案の状況分析

1. 懸案の背景および経緯

本件は、ワシントン・ポストの報道を引用したイタリアのラ・レプッブリカ紙の国連総会現地報道を通じて初めて具体化された[1]。報道の核心は、米国とロシアが兵器システムへのAI活用に対する国際的な制限導入を共同で阻止したということである[1]。特に、AIが提案した標的に対する最終決定をコンピュータではなく人間が下すことを義務付ける提案が頓挫した事実が指摘された[1]。

この議論は単発の出来事ではない。9月の国連総会ウィーク全体を貫く米国のAI規制懐疑論と同じ文脈で発生した。トランプ大統領は国連総会での演説で、AIに対する国際的な監督要求を「グローバリストの策略」と規定した[4]。彼は米国政府の文書で「人工知能」の代わりに「超知能」という用語を使用すると宣言することもあった[4]。同時期、ロシアのラブロフ外相は国連で、ウクライナ戦争に関連して欧州が平和を妨げていると発言した[1]。両国がAI兵器規制という別トラックで利害を共有したという点が、今回の報道の重みを増している。

同じ国連総会の期間中、欧州諸国を含む22カ国は、AIが「人間の指示、監督、管理の下になければならない」とする宣言を採択した[10]。この宣言はグローバルな監督体制の創設を提案し、先端AIモデルの急速な発展が適切に管理されない場合、安全と安全保障に深刻なリスクをもたらすと警告した[10]。米露両国の阻止行動は、まさにこのような多国間的な規範化の試みと正面から衝突する地点で行われた。

2. 現在の状況

国連総会の前後において、AIガバナンスの議論は2つの相反する流れに分かれている。一つは米中二国間トラックである。トランプ・習近平ワシントン会談を契機に、両国はAI事故発生時の相互通報チャネルの新設に合意し、次のラウンドの協議は11月に予定されている[16]。国連のグテーレス事務総長は、米中という2大AI強国が対話を開始すべきだと公に促した経緯がある[18]。しかし、EAIの分析は、この米中合意が「実質的な拘束力を持つ規範的な成果というよりは、双方の国内政治向けのジェスチャーに近い」と評価している[9]。さらに、このホットラインは「国家安全保障上の危機管理チャネルに過ぎず、商業的なAI協力の拡大を意味するものではない」と指摘している[9]。

もう一つは兵器システム規制トラックであり、今回の米露による共同阻止がこれに該当する。ストックホルム国際平和研究所（SIPRI）は9月9〜10日、国防省・外務省関係者、赤十字国際委員会、NATO、国連軍縮研究所の関係者らを招き、軍事用AIの合法的な開発・活用のための国家・産業協力の方策を非公開で議論した[8]。これは、兵器システムAIの規範化が実務レベルでは継続して試みられていることを示しているが、肝心の最終標的決定権を人間に残す核心条項が米露の共闘によって頓挫した事実と対比される[1][8]。

EAIが別途分析した事例は、この問題の緊急性を裏付けている。今春、米軍はAIチャットボットが作成を支援した情報報告書を根拠に、中東海域の中国船舶に対する遮断・拿捕作戦を準備したが、戦闘機が出撃した状態で作戦を中断した[6]。EAIは「エラーの源泉は相手国の欺瞞ではなく、米軍自身の情報生産プロセスにあった」と指摘し、「危機安定性の鍵は通報チャネルではなく、人間による検証プロセスのタイミングにあることを示している」と評価している[6]。人間による管理原則が形式的に議論されている間にも、実際の軍事運用の現場では検証の空白がすでに露呈している格好だ。

3. 主要なアクターおよび立場

米国は本件の核心的な当事者である。トランプ政権はAI開発速度の維持を国家戦略の最優先事項に設定しており、国際的な監督体制を米国の技術的主導権を制約する装置として認識している[4]。トランプ大統領は国連演説で「米国はAIを抑制する代わりに、開発を奨励し続ける」と表明した[17]。この立場は、兵器システムAIに対する国際的制限の阻止という今回の報道内容と一貫した政策基調をなしている。同時に米国は、中国とは事故通報チャネルを構築しながらも[16]、ロシアとは兵器規制阻止において利害を共にするという二面的な態度を見せている。

ロシアは、米国とともに規制阻止の共同行動者として指名された[1]。ラブロフ外相の国連での発言は、ウクライナ戦争の局面において欧米との対立姿勢を鮮明にする一方で、AI軍事化という別の懸案においては米国と実利的な共闘をとるという矛盾した動きを示している[1]。ピーターソン国際経済研究所（PIIE）は、中国とロシアが先端AI領域で協力する可能性に言及し、米国と欧米、ウクライナもまたAIベースの兵器システムで協力するだろうと展望している[13]。これは、AI軍事化をめぐる陣営が単純な「米露対欧米」の構図ではなく、事案ごとに再編される複合的な利害関係の地平であることを示唆している。

欧州諸国は22カ国宣言を主導し、人間による管理原則の規範化を要求する陣営である[10]。彼らの要求が今回の米露の共闘によって実質的に挫折したという点で、欧州は本件の直接的な利害関係者であり、被害グループと見なすことができる。

中国は今回の報道に直接登場しないものの、並行して進む米中トラックにおいて独自の交渉力を行使している。中国はAI安全性の議論をグローバルなルール制定権確保の手段として活用しようとする一方、米国は対中競争優位の維持というフレームの中でのみ安全性の問題を扱っており、双方が目指す目標自体が異なっているという評価がある[9]。

4. 核心的な争点

第一の争点は、人間による管理原則の空洞化である。AIが提示した標的に対する最終決定を人間が下すようにする義務化条項は、軍事用AIガバナンスの議論において最もミニマムな合意点と見なされてきた。この条項が頓挫した事実は、欧州が主導した22カ国宣言の「人間の指示、監督、管理」原則が、兵器システム領域においては大国の合意によって無力化され得ることを示している[1][10]。

第二の争点は、大国の談合による多国間規範の無力化である。米国とロシアという、イデオロギー的・戦略的に対立する2つの核軍事大国が、特定の事案において共同の利害関係を形成して国際的制限の導入を阻止した事実は、軍事用AIの規制が中堅国や多国間機関の意志だけでは貫徹しがたいという構造的な限界を露呈している。

第三の争点は、規制トラックの分節化である。米中間では事故通報チャネルという限定的な形であれ対話が進行している一方[16]、兵器システム規制というより根本的な事案においては、米露がむしろ阻止に動いた。これは、AIガバナンスが単一の国際レジームに収束するのではなく、大国別・事案別に断片化された複数のトラックとして展開していることを示唆している。中堅国の立場からは、どのトラックで声を上げることができるのか自体が不透明になる状況である。

II. 懸案の深層分析

米露、AI兵器システム規制阻止の共闘をめぐる議論：懸案の深層分析

1. 根本原因の分析

米露共闘の表面的な名分は技術的な実効性をめぐる論争であるが、実質的な動機は軍事的な優位性の維持にある。自律型致死兵器システム（LAWS）の規範化議論は、2010年代半ばから国連の特定通常兵器使用禁止制限条約（CCW）の枠組みで続けられてきたが、毎回主要な軍事強国の反対により拘束力のある合意に至らなかった。今回の件はその延長線上にある。米国は、AIの標的決定プロセスに人間の関与を義務付けた場合、作戦速度において競合国に対して不利になると判断している。ロシアもまた、ウクライナの戦場においてすでにAI支援型の標的識別システムを実戦投入した状態であり、事後的にこれを制約する規範に同意するインセンティブはない。

トランプ政権の立場は、この事案において一貫した論理構造を示している。トランプ大統領は国連総会演説で、AI国際監督の要求を「グローバリストの策略」と規定した[4]。彼は、米国がAIを抑制するのではなく発展させ続けると表明した[17]。これは、商業用AIの規制拒否と軍事用AIの規制拒否が、同一の政治的フレームの中で作動していることを示している。すなわちホワイトハウスは、AIを規制対象ではなく国家競争力の源泉と規定する言説を、民間・軍事領域の区別なく適用している[4][17]。

ロシアの思惑は異なるが、結果は収束する。ラブロフ外相が同じ国連総会期間中に「欧州が平和を妨げている」と発言したくだりは[1]、ロシアが欧米主導の多国間規範そのものに対して根本的な不信感を抱いていることを示唆している。ロシアにとってAI兵器規制は、ウクライナ戦争遂行の軍事的な自由度を制約する、もう一つの欧米発の規範と認識される可能性が高い。利害関係のニュアンスが異なる両国が同一の結果（規制の頓挫）をもたらしたことは、偶然の収束というよりは、安保理常任理事国かつ核保有国である両国が多国間軍縮規範において共有する構造的立場によるものである。

2. 構造的文脈

安全保障構造の観点から、この事案は核軍縮体制の崩壊様相と類似したパターンを示している。冷戦期の米ソは、核兵器という圧倒的な破壊力を共有する2大国として、拡散防止には協力するものの、自国の軍備削減には消極的な二面的な態度を取ってきた。AI兵器システムにおいても同様の構造が再現されている。米露両国は、AI軍事化を規制する国際規範の形成段階においては協力して阻止するが、これはあくまで自国の開発・配備の自由を守るための消極的な協力である。新興・非伝統的安全保障領域におけるAIの軍事利用に関連する国家間の規範競争において、米国・ロシアが核心的なアクターとして指名される理由がここにある。

政治構造の側面では、米国におけるAI政策の二重トラック化が際立っている。EAIの分析は、米中関係において「ホワイトハウス主導の協力トラックと、議会・規制機関主導の圧迫トラックはすでに分離して作動している」と指摘したことがある[9]。今回の米露共闘は、この二重トラック構造が対露関係においても同様に現れていることを示している。ホワイトハウスは、軍事用AI規制に関してはロシアと実務的な利害を共有しながらも、対中競争においては半導体輸出管理などの圧迫基調を維持している[9]。これは、米国のAI外交が同盟国・競合国の区別よりも、事案ごとの利害関係に応じて流動的に再編されていることを意味する。

経済構造においては、防衛産業とAI産業の利害関係の結合が規制阻止の物的基盤をなしている。SIPRIが9月に国防省・外務省関係者と産業界、赤十字国際委員会、NATO関係者を招き、「軍事領域における合法的なAI開発・活用のための国家・産業協力の方策」を非公開で議論した事実は[8]、規範形成が政府間の交渉よりも、国家・産業結合体の内部で事実上決定される構造を示唆している。標的決定に人間の関与を義務付ける条項が国連の多国間の舞台で頓挫したこととは別に、実務レベルの協力体は規制ではなく「合法的な活用」を前提に議論を進めている[8]。これは、国際規制レジームの形成経路自体が、国連総会型の多国間主義から、少数の国家・産業ネットワーク型のガバナンスへと移行していることを示す部分である。

3. 歴史的前例および類似事例の比較

最も近い前例は、自律型致死兵器システムに関するCCW政府専門家グループ（GGE）議論の繰り返される頓挫である。2014年以来10年以上続いたこの議論は、毎回米国、ロシア、イスラエルなどの軍事技術先導国の反対により、拘束力のある条約の起草に失敗してきた。今回の米露共闘はこの失敗パターンの最新事例であり、規制反対の主体が公に確認されたという点で、以前よりも進んだ情報であると言える。

第二の比較対象は、核不拡散条約（NPT）体制において現れた大国の談合構造である。冷戦期の米ソは、相互の核実験を規制することにおいては協力したが、これは新興核保有国の参入を防いで既存の秩序を固定化しようとする目的が強かった。AI兵器規制の阻止においても同様の含意を読み取ることができる。人間の関与の義務化条項が頓挫したことによって利益を得るのは、すでに高度化されたAI標的システムを保有する米露両国であり、相対的に後発ランナーである国々は、今後類似のシステムを開発する際、むしろ規範の空白の中で独自の基準を用意しなければならないという負担を抱えることになる。

第三の事例は、最近EAIが分析した米軍のAIハルシネーション（幻覚）発の誤射命令未遂事件である。この事件では、AIチャットボットが作成を支援した情報報告書を根拠に、中東海域の中国船舶に対する遮断・拿捕作戦が準備されたが、戦闘機が出撃した後の最後の瞬間に中断された[6]。EAIは「エラーの源泉は相手国の欺瞞ではなく、米軍自身の情報生産プロセス」であったと分析した[6]。この事件は、人間の関与条項が実際に機能した際に破滅的な結果を防いだ事例として読み取ることができる。それにもかかわらず、同時期に米国が国連の舞台ではまさにその人間の関与義務化条項をロシアとともに阻止したという事実は[1]、実務レベルの危険認識と規範レベルの政策選択が乖離していることを示している。

4. 懸案展開の核心的変数

第一の変数は、米中AI対話体の進展の有無である。トランプ・習近平ワシントン会談の後、両国はAI事故の相互通報チャネルの新設に合意し、11月に後続の協議が予定されている[16]。しかし、このチャネルは「国家安全保障上の危機管理チャネルに過ぎず、商業的なAI協力の拡大を意味するものではない」との評価が出ている[9]。この対話体が軍事用AIの標的決定問題にまで議題を拡張するのか、それとも事故通報という狭い範囲にとどまるのかが、今後の規範形成の方向性を分ける。

第二の変数は、22カ国宣言の拡散の有無である。欧州諸国が主導したこの宣言は、AIが「人間の指示、監督、管理の下になければならない」と明記し、グローバルな監督体制の創設を提案した[10]。参加国が22カ国からさらに拡大し、国連安保理常任理事国を圧迫するほどの規模の連合へと発展するかが鍵となる。現在のところ、米国、ロシア、中国という3大軍事AI強国がいずれもこの宣言から外れており、規範的な拘束力は限定的である。

第三の変数は、国家・産業の実務ネットワークの自主規制の成果である。SIPRIが主催した国防省・外務省・産業界・国際機関の間の非公開対話が[8]、実質的な行動規範や技術標準へとつながる場合、政府間の条約の失敗を迂回する代替的な規範経路が形成され得る。ただ、この経路はそもそも「合法的な活用」を前提としており[8]、規制というよりは正当化に近い結果を生むリスクがある。

第四の変数は、ウクライナの戦場におけるAI兵器の運用実態がどれほど露呈するかである。ロシアが実戦でAI支援型の標的識別システムをすでに使用しているという状況が具体的に明らかになるほど、人間の関与義務化条項の頓挫に対する国際世論の反発が強まる可能性がある。これは国連の舞台での再議論への圧力へとつながり得る潜在的変数である。

韓国に対する含意は、これら4つの変数の組み合わせによって異なる。国連レベルの拘束力のあるAI兵器規範が当面形成されがたいという前提の下、米韓連合情報体系に流入するAI生成情報に対して独自の検証プロセスを用意する作業が優先課題として残る。さらに、22カ国宣言のような中堅国連合トラックに参加し、米露の二国間談合によって形成された規範の空白を埋める多国間外交の努力が並行されなければならない。