[人工知能時代の国際政治] ⑫ AI競争と国際規範の危機？ 自律型致死兵器システム（LAWS）ガバナンス競争の力学と挑戦課題

I. AI戦争の到来とAI自律型致死兵器システム（LAWS）の規範

AIが軍事革新に及ぼす影響が急進的か漸進的かについては見解の相違があるものの、未来の戦場でAIの軍事的利用が決定的な変数となる点については異論が少ない。[1]AIの軍事的利用は既に現実の問題でもある。2026年1月、米国がベネズエラのマドゥロ大統領逮捕のための特殊作戦を遂行する過程で、Palantir社がAnthropic社のAIモデルClaudeを使用したと見られる。[2]ロシア・ウクライナ戦争、2026年2月28日に米国とイスラエルがイランを攻撃したことで始まったイラン戦争は、防空システム、ドローン、指揮統制システムなど、全般にわたってAIの軍事的利用が本格化していることを示している。[3]

戦場でAIが本格的に使用されるようになり、AIの軍事的利用能力強化のための競争と同時に、AIの正当な軍事的利用に関する価値と規範の衝突も現実の問題となっている。2026年2月、米国国防総省とAnthropic社の間でAIの軍事的利用を巡る対立が激化した。Anthropic社は軍事機密システムで使用承認を受けた唯一のAIモデル企業であり、2025年7月には米国国防総省と2億ドルに達する契約を締結していた。しかし、ベネズエラのマドゥロ大統領逮捕作戦以降、Anthropic社がPalantir社に作戦遂行過程でのClaudeの使用有無について問い合わせたことで、国防総省との対立が引き起こされた。[4]

Anthropic社が自社のAIモデルClaudeの使用に関して、米国市民に対する大規模監視に加え、人間の介入なしの致死兵器への使用は容認できないという原則を固守したため、AIの積極的な軍事的活用に対する国防総省の方向性と衝突したからである。米国がイランを攻撃する直前の2月27日、トランプ大統領は自身のソーシャルメディアで、全ての連邦機関からClaudeを追放すると表明し、[5]国防総省も2月24日のピート・ヘグセス国防長官の警告に続き、3月4日付でAnthropic社をサプライチェーンリスク企業として公式指定した。[6]米国国防総省は、Anthropic社の倫理的制約が「過度に制約的」であるだけでなく、「軍事作戦上の法的複雑性や戦場の現実を考慮すれば、そもそも実行不可能である」という立場も堅持した。[7]

AIの軍事的利用に関する米国国防総省とAnthropic社の対立は、単に米国国防総省とあるAI企業間の契約問題として見ることはできない。狭義にはAIモデル間の競争という側面で、AIの倫理的開発と使用を好む企業の立場と影響力が弱まる可能性のある事案である。Amazon Web ServicesやNvidiaなど、米国政府と契約しようとするAIエコシステム内外の他の企業だけでなく、これらの企業と契約しようとする他国の政府や企業も、Anthropic社との契約を再考する必要が生じた。

しかし、それ以上に大きな問題は、米国国防総省とAnthropic社の対立が、AIに関連する戦場の未来像を決定づけ得る軍事的AIの発展方向に対する一種の「ストレステスト」であるという点だ。[8]軍事的AIの開発と使用において、「できること」と「すべきこと」、「結果の論理（logic of consequence）」と「適切性の論理（logic of appropriateness）」、競争勝利のための無道徳的な開発と倫理的で責任ある開発・使用という両極端の間で、どの経路に向かって進むべきかという根源的な目標に向けた尺度を確立する過程でもある。特に、Anthropic社がAIの使用を容認しないとした二つの分野の一つが完全自律型兵器であるという点は、米国国防総省とAnthropic社の衝突が、現在国際社会が法制化のために議論しているAIを利用した自律型致死兵器システム（Lethal Autonomous Weapons System：以下LAWS）ガバナンス競争とも密接に結びついていることを意味する。[9]

II. AI LAWSガバナンス競争：原則と隔たり

グローバルAIガバナンス競争は、企業フレンドリーなアプローチを好む米国と、政府中心のアプローチを好む中国、そして権利中心のアプローチを主張するEU間の競争の様相を呈してきた。[10]2023年、EUはAIの使用がもたらし得るリスクに応じて規制および禁止の程度を区分したEU AI法を発表し、米国バイデン政権も2022年10月の「AI権利章典のための青写真（blueprint for an AI bill of rights）」、2023年10月の「安全で信頼できるAIの開発および使用に関する大統領令14110（executive order on safe, secure, and trustworthy development and use of AI）」を発表し、EUが主張していた権利中心アプローチの相当部分を反映する様子を見せた。しかし、トランプ第2期政権が発足してからは、就任初日に大統領令14110を撤回し、プロジェクト・スターゲイトを発表するなど、脱規制および企業革新フレンドリーな環境 조성へと方向を転換した。同時に、2025年1月の中国DeepSeek-R1のリリースなどの影響で、これまでデジタル規範議論において権利中心アプローチを主張してきたEUでさえ、AI能力開発および技術革新を推進する方向へと変化している。2025年11月20日には、2026年8月に予定されていたEU AI法の適用を2027年12月まで16ヶ月延期し、個人情報保護規定を緩和する「デジタル簡素化法案」を発表した。結局、現在のAIガバナンス競争は、ブリュッセル効果に基づいたEUの権利中心アプローチへと収束するかに見えたが、最近になって倫理的で責任あるAI開発・使用よりも、AI競争の先取優位効果獲得のための米国と中国間の規範競争の様相が大きくなっている。

しかし、AIを巡る規範競争が最も尖鋭かつ緊急に現れている安全保障分野の一つであるLAWSガバナンス[11]議論で見られる規範競争の様相は、AIガバナンスに対する規範競争の様相とは相当な違いを見せる。米国、中国、EUなど主要アクター間の立場の違いが明確なAIガバナンス競争とは異なり、LAWSガバナンス競争では、LAWSの全面禁止・規制、全面許可のスペクトラムの中で、米国や中国など技術先進国がそれぞれ異なる規範を主張するよりも、現在進行中のLAWSガバナンスが競争フレンドリーな形で終結するように、暗黙的な協力を示す様子を見せている。

多様な国際機関および多国間協議体で断片化されて進行されているAIガバナンス議論とは異なり、現在のLAWSガバナンスに関する議論の中心は、国連特定通常兵器使用禁止条約（Convention on Certain Conventional Weapons：以下CCW）のLAWSに関する政府間専門家グループ（Group of Governmental Experts on LAWS：以下LAWS GGE）で進行中である。米国、中国など主要国は、UN CCW GGEがLAWSガバナンス議論において最も適切なフォーラムであるという立場を発表した。例えば、米国は2025年9月、韓国を含む主要同盟国および友好国などと共に、「UN CCWがLAWS議論において最も適切なフォーラムであると強調した。[12]オーストリア、チリ、フランス、ドイツ、イタリア、パキスタン、スペイン、ウルグアイ、ブラジルなど中南米および欧州地域の39カ国も、LAWS GGEでの議論がグローバルLAWSガバナンス発展のための十分な基盤となっているとし、支持の意思を表明した。[13]

国連のグテーレス事務総長は、2026年までに国連CCWの枠組み内でLAWSのガバナンスに関する規制案が策定されるべきだと強調し、参加国も2026年の第7回CCW締約国会議（CCW Review Conference）までに、参加国の合意に基づくLAWSガバナンス体制を整備するという目標達成に向けた議論を進めている。米国とイスラエルによるイラン攻撃の衝撃の中でも、参加国は2026年3月2～6日にジュネーブに集まり、2026年第1回会合を実施するなど、年内合意および最終結果の導出に向けて努力している。[14]

LAWS GGE（専門家会合）の議論の初期段階において、LAWSの全面禁止および規制に対して最も強く反対していた国はロシアであったが、米国、中国、英国、イスラエル、インド、オーストラリア、日本などの主要国、特に多くの技術先進国も、規制よりもLAWSの容認に対する選好を明確にした。韓国もこれに含まれた。一方、技術的にLAWSの使用において後れを取らざるを得ない国々は、LAWSの全面禁止を好む傾向を示した。これは、人間の制御なしに致命的な殺傷力を 행사할 수 있는 무기체계의 사용과 확산을 경계하는 입장である。例えば、アフリカ地域の54カ国は2018年にLAWSの使用禁止に関する法的拘束力のある制度の確立を 촉구하는 성명서를 발표하기도した。一方、EUを含むオーストリア、オランダ、スペイン、ノルウェー、フランス、ドイツ、イタリアなど多くの国々は、二元的アプローチ（two-tier approach）を推進した。これらの国々は、LAWSも国際人道法などの既存の国際法に従う必要があるため、国際人道法に違反する使用は全面的に禁止するものの、それ以外の領域については厳格な規制の方法について議論すべきだという立場であった。

LAWSの全面禁止、全面容認、そして二元的アプローチに関するガバナンス競争は、LAWSガバナンスにおいても既存の国際人道法に従う必要があるという点について原則的な合意が得られるにつれて、二元的アプローチへの支持が急速に拡大した。[15] 2019年、LAWS GGEがLAWSの使用に関する11の実施原則を採択する過程で、LAWSの使用において国際人道法が適用されるべきであること、武力殺傷時には人間の介入が必要であり人間の責任を維持すべきであること、新たな技術の使用時には国際法上の義務の遵守などと共に、技術の平和的発展を阻害することは禁止するという点を明確にした。さらに、2024年12月2日、国連総会においてLAWSの使用を全面的に禁止するという二元的アプローチに基づく決議案が採択された。二元的アプローチに対してやや躊躇する姿勢を見せていた米国を含む韓国、日本など大多数の国連加盟国（166カ国）が賛成した。[16] グテーレス国連事務総長、ICRCなどの国際機関も、人間の意味のある介入と制御のない自動攻撃などは完全に禁止し、LAWSの使用対象や範囲などについては制約を加えるべきだとし、二元的アプローチへの支持を明確にした。

これに基づき、2025年第2回会合以降、議長名で作成され参加国に回覧されたローリング・テキスト（rolling text）では、国際人道法の適用原則について以下の内容を含めた。[17]まず、ローリング・テキストは、国際人道法がLAWSの使用と発展に完全に（fully）適用されるという条項を含んでいる（Box 2の第3条）。また、二元的アプローチに基づき、既存の武器体系および武力使用において国際人道法が禁止していることは、LAWSにおいても禁止されるべきであるという点も明確にした（Box 3の第1、2条）。[18] これにより、ローリング・テキストでは、「LAWSの使用が本質的に過度の傷害や不必要な苦痛を与える、あるいは、生来的に無差別的に使用されうる、または、国際人道法に適合しない使用は、いかなる状況においても禁止される」という条項を含んでいる。また、LAWSの使用は比例原則および予防原則に従うべきであり、いかなる状況においても市民または市民の所有物などの民間人を標的として攻撃してはならないという点も明確にしている。これに対する参加国の意見を聴取した2026年3月の第1回会合において、大多数の参加国は国際人道法の適用に関する議長名義のローリング・テキストの内容について合意の意を明確にした。[19]

このように、LAWS GGEで進行中の議論の流れを見ると、国際人道法の適用、二元的アプローチなど、LAWSガバナンスの大きな枠組みに関する合意は相当部分進展したように見える。しかし、国際人道法の適用に関する原則的な合意にもかかわらず、どのように国際人道法を適用してLAWSを規律するかという問題、すなわち、国際人道法の具体的な適用および遵守方法などについては、依然として鋭い論争が続いている。

フランス、ドイツ、デンマーク、フィンランドなど多くの欧州諸国は、国際人道法に基づく規制が困難な分野ではLAWSを禁止する必要があるとしながら、LAWSの使用の時間的・地理的制限を明確にすべきだと主張する。[20] オランダ出身のボッシュ（Robert in den Bosch）議長名義のローリング・テキストも、国際人道法に適合するLAWS使用のための条件について詳細に提案している。LAWSは本質的に軍事的目標に対してのみ使用されるべきであるか、LAWSの数を制限すべきであるだけでなく、攻撃対象の種類と持続、地政学的範囲など、任務の主要なパラメータが、責任ある指揮系統の中で状況に適した人間の判断と制御なしに（AIによって）自律的に変更されてはならないなど、詳細な条件を付記している。[21]自律的に機能を 수행하는 LAWSの数も制限されるべきであり、自爆などの方法を通じて適時に無効化されるべきであるという点も明記している。[22]さらに、ローリング・テキストは、LAWSの責任帰属と関連して、国際人道法に基づく交戦行為に対する責任は国家および武力紛争の当事者および個人に 부과될 수 있으나、武器体系には 부과될 수 없다는 점을 분명히 상기하고 있는데[23]これは、LAWSによる結果の責任がAIに帰属し得ないという点を明確にしたものである。

一方、米国、韓国、オーストラリア、カナダなどは、LAWSの使用における国際人道法の適用原則には同意するものの、国際社会が技術革新と軍事的必要性の間のバランス点を見つける必要があり、過度な規制はむしろLAWS基盤防衛体制に対する不当な制約につながりかねないという懸念を表明した。[24]また、国際人道法に従い民間人を標的とするLAWSの使用を禁止することには原則的に同意するものの、「いかなる状況においても」民間人を標的とするLAWSの使用を禁止するという条件については懸念を示し、「民間部門は軍事作戦の危険から一般的な保護を受ける」というジュネーブ条約第一追加議定書第51条の内容に従うことを提案した。LAWSの使用数量の制限についても、このような制限は国際人道法に適合しないという点を強調し、当該条項の削除を主張した。中国も、過度に詳細な規制はむしろLAWSガバナンスに対する合意形成の可能性を弱めるだろうとし、AI LAWSに対する過度な規制を防止しようとする姿勢を見せている。[25]

国際人道法の適用範囲および方法に関する主要国間の意見の相違は、LAWS GGEの主要目標の一つであるLAWSに関する新たな条約締結の必要性についての主要国間の隔たりにつながる。多くの欧州諸国およびアフリカ・グローバルサウス諸国は、新たなLAWS条約またはLAWS禁止条約の締結を目指している。LAWSの使用と開発において相当水準の規制を法制化できるからである。一方、米国、中国、ロシア、イスラエル、韓国、日本などは、LAWSに関する別途の国際条約締結に否定的な立場である。特に米国は、LAWSガバナンスについては既存の国際人道法だけでも十分な規制が可能だという立場である。これは、AIの軍事的使用において正当な使用ではなく「合法的な使用」を強調する米国国防総省の立場と一脈相通じるものである。もし違法性の有無についての判断根拠となる「法」の存在自体がない状況であれば、規範を違反するのではなく法を違反する場合にAIの軍事的使用を制限するという言葉は、 곧 AI LAWSを含むAIの軍事的使用において制約と制限を最小化しようとする意味이기 때문이다。

結果的に、現在のLAWSグローバルガバナンス競争は、米中間の競争というよりも、技術先進国と弱小国間の規範衝突の様相が強く現れている。AI LAWSが未来の軍事安全保障秩序において決定的な優位をもたらすという信念と危機感の中で、[26]技術先進国は国際人道法の適用という最小限の制約さえも負担に感じている一方、多くの後発国および弱小国は（冷戦終結後、EUが規範権力に集中したのと同様に）LAWS格差の緩和のために別途のLAWS条約または禁止条約の締結を強く希望しているからである。さらに、LAWSに関する新たな条約締結に対する立場の隔たりは、LAWSの概念定義、人間の介入と制御など、詳細な内容を巡る規範競争として現れている。

Ⅲ. LAWS GGEの主要な争点

2026年3月に開催された2026年第1回会合において、参加国は国際人道法の適用という原則についての合意を維持し、LAWSに関する法的拘束力のある新たな条約締結という目標に向けた努力を継続することにした。[27]しかし、LAWSの概念定義、人間の判断による制御の必要性および程度など、主要な争点については依然として相当な隔たりが存在する。本稿では、主要な争点のうち、米国と中国など技術先進国とEU、グローバルサウス諸国間のガバナンス競争の動態分析のために、LAWSの概念定義の問題と人間の判断および制御の問題に焦点を当てて検討する。[28]

1) LAWSの概念定義

LAWS GGEの主要な争点の一つは、LAWSの概念定義に関する問題である。これはLAWSガバナンス議論の出発点でもある。果たして何をLAWSと見なすべきかという点によって、国際人道法が規律する一般的原則の適用方法と範囲が大きく変わりうるにもかかわらず、LAWSの概念定義が依然として明確でないからである。2026年第1回会合では、LAWSの概念定義および中核的特性に関連して、特に二つの問題が争点となった。一つは、LAWSの中核的特性に識別（identify）の機能を含めるべきか否かの問題であり、もう一つは、「致死性（lethality）」をどのように規定するかの問題である。

まず、LAWSの定義において、標的識別（target identification）の機能を含めるべきか否かは、民間人の保護およびそれのための民間人と戦闘員（あるいは民間施設と軍事目標物）の区別という国際人道法の核心的要素と密接に関連する問題である。イスラエルのラベンダー（Lavender）システムなど、実際の戦場で既にAIを通じた自動的な標的識別機能が活用されているという点で、現実の問題でもある。

一連の国々は、LAWSの概念定義、特に自律性（autonomy）の特性を定義するにあたり、識別は除外すべきだと主張した。LAWSの自律的なプロセスあるいは特性を「識別（identify）-選択（select）-交戦（engage）」とすると、識別は選択の前条件であると同時に、選択のプロセスに生来的に内包されている機能であるため、別途の明記は不要だという立場である。[29]全く異なる理由から識別の除外を主張した国々もある。これらの国々は、LAWSを定義する際に識別を含めると、LAWSガバナンスの対象をあまりにも狭く制限する逆効果が生じうるだけでなく、潜在的な抜け穴（loophole）を作りうるという点を指摘した。[30]例えば、識別の全部または一部のプロセスを人間が 수행할 경우에는 LAWSではないと主張する危険性が存在する。

一方、ドイツ、フランスなどEU諸国、韓国、日本などは、識別と選択は全く異なる別個の機能であり段階であるという反対意見を提示し、LAWSの概念定義に識別が含まれるべきだという立場を堅持した。[31]LAWSが標的を攻撃する過程において識別が含まれる方がより明確であるだけでなく、戦闘員と非戦闘員の区別原則など、国際人道法との整合性を高めるからである。[32]また、LAWSの定義に識別の機能が含まれない場合、他の武器体系との区別性が弱まる可能性があるという懸念を表明した。

LAWS概念定義における識別包含問題に関する両者の意見の相違の中で、2025年第1回会合の結果を反映して2025年5月に作成されたローリング・テキストは、LAWSを「使用者の介入なしに標的を選択し交戦できる武器体系および技術的構成要素の統合された組み合わせ」と定義することを提案した。[33]LAWSの概念定義において、以前までは含まれていた「識別」の機能が削除された概念定義であり、議長はこのような変化がLAWS概念定義に関連して2025年第1回会合で出た最も重要な変化だと評価した。[34]識別の除外は、LAWS条約の潜在的な抜け穴（loophole）を最小化しつつも、過度に制約的なアプローチは避けるという努力であるという点も強調した。[35]

しかし、2025年第2回会合以降に回覧された12月18日付のローリング・テキストでは、LAWSの概念定義に識別が再び含まれた。[36]また、識別の包含が潜在的な抜け穴を生じうるという懸念を解消するための手段として、「標的の範囲を人間が設定する場合も」LAWSに含めるという内容を付記条項として含めた。[37]これら附属条項に対し、中国などが反対の立場を表明しましたが、米国を含む多数の国々が附属条項追加の必要性について同意を示しました。2026年の第1回会期会議では、当該附属条項に関する議論と修正作業が続けられましたが、条件付きで識別を含む方向については合意がなされたものと見られます。[38]

これとは異なり、「致死性」の包含問題は依然として主要国間の意見が衝突する核心的な争点です。LAWS GGEで議論される規制とガバナンスが、致死的な殺傷能力を持つ、あるいは引き起こした自律型兵器システム（AWS）のみを対象とするのか、それとも全ての形態の自律型兵器システムを対象とするのかを決定づける問題だからです。前者の場合、ミサイル迎撃システム、近接防御兵器、アクティブ防護システムなどは規制の対象から除外され得るため、さらに敏感な問題でもあります。どの程度の殺傷または破壊を致死的とみなすべきかという問題も、意見の相違が大きい争点です。

オーストリア、スイスなどのEU諸国は、LAWSの概念定義において「致死的（lethal）」という形容詞を含めることに反対の立場を明確にしています。これらの国々は、既存の国際人道法には「致死性」という概念は存在しないため、国際人道法の適用を原則とするLAWSガバナンスにおいても「致死的」という条件を付すべきではないと主張しています。[39]さらに、致死性は兵器の効果であり交戦の結果であって、兵器システムの特性ではない点も指摘しています。致死性を含める場合、ガバナンスの対象から外れるLAWSが発生し得る点についても懸念を示しました。[40]

一方、米国、中国、ロシア、韓国などは、「致死性」を含めるべきだと主張しています。ロシアは、致死性は2016年にUN CCW GGE on LAWSが開始された当初から引き継がれてきた中核的な特性であり、議論およびガバナンスの対象を明確にする概念である点を強調しました。中国は、致死性の要件がローリング・テキストに明記されるべきだと強調しました。米国も、LAWS GGEに与えられた委任事項（mandate）が致死的な自律殺傷兵器システムに関するものであることを強調しました。致死性の意味についても、米国、中国、ロシアなどの選好とEUなどの選好が衝突しています。まず、2025年5月に回覧された議長のローリング・テキストは、致死性を「死を引き起こし得る能力（the capacity to cause death to a person）」と規定しました。[41]負傷や物体の破壊など、死を伴わない場合もありますが、単に結果のみを見るのではなく、人を死に至らしめる能力の有無に焦点を当てるべきだという説明です。致死性に対するこのような概念定義が、致死的な自律殺傷兵器システムではなく、全ての自律殺傷兵器システムに対する禁止および規制を主張する立場と、殺人に直結する「致死的」な場合のみ自律殺傷兵器システムの利用を規制しようとする立場との間の隔たりを解消するための建設的な努力であると評価しました。[42]

一方、米国は、「致死性」の代わりに「致死的な力をもって（with lethal force）」という表現に変更すべきだと主張しています。例えば、米国は「自律性（autonomy）」は、自律的な機能を可能にする特定の技術や能力の包含の有無とは無関係に、機能や任務に基づいて理解されるべきだと強調し、自律性は結局のところ兵器システムの能力（capacity）であるため、無差別兵器のように既存の国際人道法が禁止する兵器システムとは異なると強調しました。[43]すなわち、兵器システムの属性や能力よりも行為の結果に従うという立場です。米国のこのような意見に対し、韓国とインドも同意を示しました。

このような意見を反映し、最も最近回覧された2025年12月のローリング・テキストは、議論の対象であるLAWSの概念定義において、「致死的」という表現を含める一方で、「LAWSが物体を破壊したり被害を与えたりする行為、あるいは人に傷害を引き起こす行為のように、人の命を奪う以外の方法で使用され得る場合であっても、LAWSの範疇から除外されることはない」という別途の附属条項（第1条B項）を新設しました。EUなど、致死性の包含に反対する国々の選好も反映しようとする試みです。実際に、スイス、ブラジル、アイルランドなどは、新設された附属条項が現実的な妥協案であるとの意見を表明しました。[44]米国は、附属条項は不要であるとの意見を提示しました。

2) 人間の判断と統制

LAWS GGEでは、意味のある人間の統制と判断の必要性および範囲も、激しい議論の対象となりました。[45]ブラジル、メキシコなど多数の国々は、人間の統制の重要性を強調し、国際人道法の遵守と責任帰属の明確化のために、当該内容を独立した個別の条項として含め、LAWSガバナンスのための条約の核心要件であることを明確にすべきだと主張しています。ドイツ、オーストリアなどは、AI時代に国際人道法が適切に機能するためには、武力の使用において人間の判断が結びついている必要があると主張し、EUも、人間の判断と統制がLAWSの開発、配備、使用など、ライフサイクル全体に適用されるべきだと強調しました。また、これまでGGE on LAWSでの議論が各国の多様な意見を最大限に受け入れるための手段として、過度に低いレベルの妥協案を作成してきたと批判し、議論の出発点となるローリング・テキストをこれ以上後退させてはならないと主張しました。[46]国連、赤十字国際委員会（International Committee of the Red Cross: ICRC）などの国際機関も、人間の統制がLAWSの核心機能として明記されるべきだと強調し、LAWSの使用において（明確な使用期間および地理的範囲の提示など）時空間的制限に加え、有事の際に人間によってLAWSを中断または無効化できる統制能力が必要だと主張しています。

一方、米国、中国、日本は、人間の統制は国際人道法遵守のための手段に過ぎないため、個別の条項として明記することに反対の立場を明確にしました。米国は、法的義務を発生させ得る形で人間の統制の条件を明示的に含めることに否定的な立場です。また、人間の判断というものが、AIによる自律的な判断よりも常に優れていると確信できるわけではなく、AIの自律的な判断がむしろ民間人保護という国際人道法の目標を履行する上でより良い可能性があるという意見も提示しました。[47]

今回の会期会議で、LAWSに対する人間の介入と統制の問題は、「状況に応じた人間の判断と統制（context-appropriate human judgement and control）」の包含の有無および表現方法に関する議論へと進んでいます。明示的な包含を支持する側は、状況的に適切な人間の判断と統制という表現が、区別原則、比例原則、そして予防原則（precaution in attack）など、国際人道法の核心原則を守るためにはLAWSに対する人間の判断と統制が必要である点を強調し、「状況的に妥当な人的判断と統制」という表現が、これまでLAWSに対する人間の統制の程度について主要国が見せてきた立場の隔たりを縮めることができる装置だと説明します。[48]例えば、ブルガリア、デンマーク、フランス、ドイツなどの欧州諸国は、LAWSの議論において人間的要素（human element）の重要性についての合意が現れていると強調し、これまでLAWSの議論で扱われてきた「十分な」「適切な」「意味のある」といった表現が、状況に応じた人間の判断と統制という表現で包含可能だと主張しました。[49]

さらに、「状況に応じた」とは、兵器の種類、計画された任務、運用環境および条件など、状況を考慮した人間の介入と統制のレベルおよび類型を意味し、人間の判断とは、LAWSの開発および使用において、区別原則、比例原則、予防原則など、国際人道法に従った交戦を開始する際に人間が判断を行使することを意味すると説明します。[50]

このような主張に対し、米国は、「状況に応じた人間の判断と統制」が直ちに意味のある人間の統制とみなすことは困難であるだけでなく、「適切な」という表現は国際人道法の違反の有無を判断できない曖昧な基準であると強調しました。また、状況に応じた人間の判断と統制のないLAWSを禁止することは、fire-and-forgetシステムのように、作動後に人間の介入なしに自律的に運用される自律型兵器システムを全て禁止することを意味すると解釈されかねないとし、このような解釈に対する米国の反対の立場を明確にしました。[51]さらに、米国は、「人間ユーザー（human user）」よりも「操作手（operator）」[52]という表現の方がより適切であるとの意見を提示しました。兵器システムに対する人間の直接的な統制の特性を明確にするだけでなく、軍事的・法的な用語であるという説明です。また、米国などは、人間の操作手や人間ユーザーなど、「人間」という表現を使用してはならないと主張しました。国際人道法でも「使用者」と言うだけで、「人間」という表現を含んでいないのは、使用者が当然人間であると理解しているからだと説明します。また、「人間ユーザー」と言う場合、非人間ユーザーが存在するという意味に解釈されかねないという懸念も表明しました。[53]日本は、状況に応じた人間の判断と統制が、国際人道法に従ってLAWSを使用するための手段でなければならず、それ自体が条件となることは望ましくないという懸念を示しました。[54]韓国も米国、日本と同様の意見を提示し、「国際人道法遵守のために人間の判断と統制が必要である」という以前の表現への選好を表明しました。[55]また、中国も「適切な」ということが何を意味するのかについて、客観的な基準を明確にする必要があるという懸念を表明しました。[56]

このような懸念の中、「状況に応じた」という条件の基準に関連して、一部の国々はAI LAWSの指揮系統において、法的考慮（legal consideration）に加え、倫理的考慮（ethical consideration）も明記すべきだと主張します。例えば、ブラジル、ペルー、キューバなどは、倫理的考慮が2023年のGGE報告書の指導原則（guiding principles）およびマルテンス条項（Martens Clause）に合致する内容であるため、必須的に維持すべきだという立場です。これに対し、日本、イスラエルなどは、「倫理的考慮」のための普遍的な倫理的基準について、各国が合意した事実はない点を指摘し、当該文言の削除を主張しました。[57]

Ⅳ. LAWSガバナンスの展望と含意

LAWSガバナンスは、未来の世界秩序の発展における核心変数の一つであり、急速に発展しているAIの軍事的利用と開発に関するグローバルガバナンスの骨格を構築するという点で、喫緊かつ重要な課題です。このため、現在のLAWS GGEは、2026年の最終結果導出に向けた議論の締めくくりに向けて拍車をかけています。[58]しかし、国際人道法に合致するLAWSの開発と使用に関する原則的合意、LAWSの概念定義に関する共通基盤の抽出など、有意義な進展にもかかわらず、LAWS GGEが目標とする最終成果物の導出は容易ではないようです。特に、多数の国々が選好するハードロー（hard law）形式の成果物、例えばUN CCWの附属議定書としてのLAWS条約または禁止条約が締結される可能性は大きくありません。

第一の理由は、UN CCWは当事国全ての合意が必要であるという点です。現在、LAWSの概念定義における致死性の包含問題、人間の統制の方法問題、LAWS開発禁止の問題など、LAWS GGEの主要争点に対する主要国間の立場と選好の隔たりが依然として大きい状況にもかかわらず、これらに対する調整の機会は、9月の第1週に予定されている2026年第2回会期会議と、それ以前に議長の主導で進められる数回の非公式協議に過ぎないのが実情です。したがって、当事国全てが受け入れられる合意文を導出することは困難であると見られます。

第二の理由は、米国や中国などAI技術をリードする国々がLAWS条約を望んでいないという点です。特に、グローバルLAWSガバナンスに対する米国の否定的な認識と選好は、自身が主導したルールに基づく自由主義国際秩序に対する批判と否定、制度的支援の弱化、財政支援の縮小、規範的リーダーシップの喪失など、国際機関、国際法、普遍的人権規範全般に対する米国の自己破壊的なアプローチ[59]と連動したものです。[60]国際関係において、国際法などの法と原則の影響が弱まる国際政治の脱法制化や規範の危機に対する懸念の声が高まる原因でもあります。

しかし、LAWS GGEで最終合意の導出可能性が大きくないとしても、LAWS GGEの議論過程の理解と分析は必要です。これも二つの理由によります。第一の理由は、グローバルガバナンスは常に変化を考慮して理解すべきであるという点です。[61]すなわち、どのようなアクターがどのような価値と規範を主張し、それをどのような方法で公論化したのか、どのようなアクターとの関係構築を通じて自身の選好する規範が国際社会でどのように受け入れられ、制度化しようとしたのかといった動態を考察する必要があります。第二の理由は、LAWS GGEでの議論がUN CCWの枠外で継続され得るという点です。対人地雷禁止条約は、UN CCWでの議論の進展の遅さに失望したカナダなどの主要国および非政府アクターがオタワに集まり、CCWとは別に議論を開始したことで締結され、UN CCW第2議定書として定着しました。クラスター弾禁止条約も、UN CCWでの議論が進展を見せなかったため、ノルウェー、ニュージーランドなどの主要国および非政府アクターがオスロに集まり宣言を採択し、CCWの枠外で議論を開始したことで締結されました。LAWSガバナンスも同様の方式で進展する可能性は低くありません。特に、オタワ条約とオスロ条約のいずれも、CCWでやや遅いペースで進んでいた議論がCCWの外で進む中で、1年余りの比較的短い期間で条約の締結に至った点を考慮すると、今年中にLAWS GGEの枠外で議論が進められる場合への備えも必要です。

では、CCWの枠外で現れ得るLAWSガバナンスの議論に対する韓国のアプローチと戦略はどうあるべきでしょうか。まず、AIガバナンスに対する韓国の選好および戦略と軌を一にする必要があります。また、現実的に韓国は米国が主導するAIエコシステムへの参加が必要な状況であることに加え、分断国家という現実、軍拡競争の圧力が大きくなる安保環境などにより、韓国もLAWSをはじめとする軍事的なAI利用の必要性が少なくないという点も考慮しなければなりません。同時に、同盟国および友好国に対する米国の政策変化が長期化する可能性などから、世界安保秩序および規範体系の転換期的な変化の様相が大きくなっているという点も考慮しなければなりません。転換期の危機克服のためには、多様な類似立場国との連帯協力も切実に必要であるという点で、中堅国の規範外交戦略も放棄してはならないでしょう。既に韓国は、対人地雷禁止規範がオタワ・プロセスを通じて法制化される状況で、朝鮮半島の特殊性を考慮し、オタワ条約の締約国には参加しませんでしたが、対人地雷禁止に対する原則的な賛成意思を表明したことがあります。したがって、LAWS GGEの内外で進められるLAWSガバナンスの議論過程に積極的に参加すべきです。■

[1]ソル・インヒョ. 2026. 「AI軍事革新の展開様相展望：革新速度に関する二つの観点と米中事例」『EAIワーキングペーパー』1月27日.

[2]Ramkumar, Amrith and Keach Hagey, and Vera Bergengruen. 2026. "Pentagon Used Anthropic’s Claude in Maduro Venezuela Raid."Wall Street Journal, February 15. https://www.wsj.com/politics/national-security/pentagon-used-anthropics-claude-in-maduro-venezuela-raid-583aff17.(最終検索日: 2026年4月5日).

[3]Amaral, Nilza. 2026. "The Iran War Highlights the Creeping Use of AI in Warfare."Chatham House. March 27. https://www.chathamhouse.org/2026/03/iran-war-highlights-creeping-use-ai-warfare.(Accessed: April 5, 2026); Brown, Michael. 2026. "The First AI War: How the Iran Conflict is Reshaping Warfare."Forbes. March 30. https://www.forbes.com/sites/mikebrown/2026/03/30/the-first-ai-war-how-the-iran-conflict-is-reshaping-warfare/ .(Accessed: April 5, 2026); Hammad, Noor. 2026. "The Proliferation of AI-enabled Military Technology in the Middle East."IISS Charting Middle East. April 2. https://www.iiss.org/online-analysis/charting-middle-east/2026/04/the-proliferation-of-ai-enabled-military-technology-in-the-middle-east/.(Accessed: April 5, 2026).

[4]Frenkel, Sheera and Julian E. Barnes. 2026. "Defense Dept. and Anthropic Square Off in Dispute Over AI Safety."New York Times, February 18. https://www.nytimes.com/2026/02/18/technology/defense-department-anthropic-ai-safety.html.(Accessed: April 5, 2026).

[5]Ramkumar, Amrith. 2026. "Trump Administration Shuns Anthropic, Embraces OpenAI in Clash Over Guardrails."Wall Street Journal, February 27. https://www.wsj.com/tech/ai/trump-will-end-government-use-of-anthropics-ai-models-ff3550d9.(Accessed: April 5, 2026).

[6]Metz, Cade, Julian E. Barnes, and Sheera Frenkel. 2026. "Pentagon Officially Notifies Anthropic it is a 'Supply Chain Risk'."New York Times, March 5. https://www.nytimes.com/2026/03/05/technology/anthropic-supply-chain-risk-defense-department.html .(Accessed: April 5, 2026).

[7]Dorsey, Jessica, Elke Schwarz, Ingvild Bode, Zena Assaad, and Neil Renic. 2026. "The Pentagon/Anthropic Clash over Military AI Guardrails."Opinio Juris. February 26. https://opiniojuris.org/2026/02/26/the-pentagon-anthropic-clash-over-military-ai-guardrails/.(Accessed: April 5, 2026).

[8]Dorsey, Jessica, Elke Schwarz, Ingvild Bode, Zena Assaad, and Neil Renic. 2026. "The Pentagon/Anthropic Clash over Military AI Guardrails."Opinio Juris. February 26. https://opiniojuris.org/2026/02/26/the-pentagon-anthropic-clash-over-military-ai-guardrails/.(Accessed: April 5, 2026)

[9]AIは、LAWS（Lethal Autonomous Weapons Systems）のガバナンス議論において、もはや核心的な要素であるため、グローバルなLAWSガバナンスの結果は、グローバルなAIガバナンスの姿を垣間見せる機会でもある。

[10]ムン・ヨンイル. 2024. 「収斂か、同型異質性（isomorphism）か：EU、米国、中国のデータプライバシー法制の比較分析」『国際地域研究』28 (2).

[11]国連軍縮局（UN Office for Disarmament Affairs）は、新たな課題として科学技術、軍事分野におけるAI、無人戦闘システム（armed uncrewed systems）、ICTセキュリティ、宇宙、ミサイル、市民社会と軍備管理と共にLAWSを扱っている。国連軍縮局ウェブサイト参照。https://disarmament.unoda.org/en.(最終検索日: 2026年4月5日).

[12]UN CCW/GGE.1/2025/WP.7 (米国等の共同意見書).

[13]UN CCW/GGE.1/2025/WP.8 (39カ国共同声明).

[14]2026年3月7日午後会議中の議長冒頭発言参照。第1回会期中に開催された会議の映像もホームページで確認可能。https://meetings.unoda.org/ccw-/convention-on-certain-conventional-weapons-group-of-governmental-experts-on-lethal-autonomous-weapons-systems-2026.(最終検索日: 2026年4月5日)

[15]Perrin, Benjamin. 2025. "Lethal Autonomous Weapons Systems & International Law: Growing Momentum Towards a New International Treaty."American Society of International Law Insights 29 (1).

[16]当該決議案に反対の意思を明確に示した国はロシア、ベラルーシ、北朝鮮の3カ国に過ぎなかった。一方、中国は当該決議案の採決で棄権した15カ国の一つであった。LAWS規制議論に対し否定的な立場であることが分かる。中国以外に当該決議案採決で棄権した国は、エストニア、フィジー、インド、イラン、イスラエル、ラトビア、リトアニア、ニカラウア、ポーランド、ルーマニア、サウジアラビア、シリア、トルコ、ウクライナであった(UN General Assembly Resolution A/RES/79/62. December 2, 2024)。

[17]UN CCW/GGE.1/2025 (Revised rolling text as of 12 May 2025).

[18]UN CCW/GGE.1/2025.

[19]2026年3月初旬に開催されたUN CCW GGE on LAWS第1回会期の会議の主要内容は、4月1日付で公開された議長の要約文で確認できる{UN CCW GGE.1/2026.WP.2 https://docs-library.unoda.org/Convention_on_Certain_Conventional_Weapons_-Group_of_Governmental_Experts_on_Lethal_Autonomous_Weapons_Systems_(2026)/CCW-GGE.1-2026-WP.2.pdf .(最終検索日: 2026年4月5日)}.

[20]UN CCW/GGE.1/2025/WP.4.

[21]UN CCW/GGE.1/2025/WP.9, Box 3.

[22]UN CCW/GGE.1/2025/WP.9, Box 3.

[23]UN CCW/GGE.1/2025/WP.9, Box 3.

[24]UN CCW/GGE.1/2025/WP.6.

[25]2026年3月3日午後会議。https://webtv.un.org/en/asset/k1y/k1ywe5vjyq.(最終検索日: 2026年4月5日)

[26]Garcia, Eugenio. 2024. "Conclusions: Charting the Challenge of AI IR."International Studies Review 26 (2); チャ・テソ. 2026. 「AI革命と共和主義的安保理論：無政府と階層の二重の難題の再浮上」、『EAIワーキングペーパー』2月3日。

[27]2026年3月7日午後会議。https://webtv.un.org/en/asset/k1m/k1m35gbktf.(最終検索日: 2026年4月5日)

[28]2026年度第1回会期会議で意見が大きく分かれたもう一つの争点は、LAWSの開発(development)禁止の問題であった。現在のローリングテキストではLAWSの使用(employ)に対する禁止を扱っているが、これを開発(development)に置き換えてLAWSの開発を禁止すべきだという問題が核心的な争点の一つとなった。ブラジル、メキシコ、ノルウェー、パキスタン、キューバなど開発段階での禁止を主張する国々は、1975年に発効した生物兵器禁止条約(Convention on the Prohibition of the Development, Production, and Stockpiling of Bacteriological(Biological) and Toxic Weapons and on Their Destruction: BWC)、1997年に発効した化学兵器禁止条約(Convention on the Prohibition of the Development, Production, Stockpiling and Use of Chemical Weapons and on Their Destruction: CWC)など、非人道兵器の使用のみならず開発を禁止した既存条約の先例に従うべきだと主張する。一方、米国、韓国、日本、イスラエル、英国、オーストラリアなど主要国は、開発の意味と範囲などに関する曖昧性の問題などを指摘しつつ、国際人道法は本質的に「使用」を規律するものであり、それに従うべきだと主張する。中国は国家の自律に委ねるべきだという立場を示しており、EUの例ではフランスは開発禁止を支持する一方、ドイツやスウェーデンなどは条件付き反対の立場を示すなど、一貫した立場を示すことができていない。

[29]UN CCW/GGE.1/2025/WP.9. (Rolling text as of 12 May 2025).

[30]UN CCW GGE on LAWS Rolling text-18 December 2025 version. p.3.

[31]UN CCW GGE on LAWS Rolling text-18 December 2025 version. p.3. 各国の立場は第1回会期会議映像で確認できる。

[32]UN CCW/GGE.1/2026/WP.2.

[33]“an integrated combination of one or more weapons and technological components, that can select and engage a target, without intervention by a human operator in the execution of these tasks.” {UN CCW/GGE.1/2025/WP.9 (Rolling text as of 12 May 2025)}.

[34]UN CCW/GGE.1/2025/WP.9. (Rolling text as of 12 May 2025).

[35]UN CCW/GGE.1/2025/WP.9. (Rolling text as of 12 May 2025).

[36]UN CCW GGE on LAWS Rolling text-18 December 2025 version

[37]1条A項の内容は以下の通りである。「The fact that a human operator sets the parameters of the target(s) does not exclude the system from the characterization.」

[38]UN CCW/GGE.1/2026/WP.2.

[39]2026年3月2日午後会議中のオーストリアの発言を参照。

[40]2026年3月2日午前会議中のアイルランドの発言を参照。

[41]UN CCW/GGE.1/2025/WP.9. (Rolling text as of 12 May 2025).

[42]UN CCW/GGE.1/2025/WP.9. (Rolling text as of 12 May 2025).

[43]UN CCW/GGE.1/2025/wp.6.

[44]2026年3月2日午前会議（アイルランドとスイス）、3月5日午前会議（ブラジル）を参照。

[45]自律型致死性兵器システム（LAWS）に関するガバナンスの議論の初期には、人間を標的とするLAWSを禁止すべきだという声が大きかった。道徳的判断や倫理的決定を排除した機械的な計算や判断によって人間の生死が決定されることは、人間の尊厳に対する根本的な侵害であるという主張である。しかし、現在のLAWS GGEにおいては、いわゆる「キラーロボット」のような対人システムに対する禁止は主要な論点から外れている。これは市民社会などが強く批判している点でもある。

[46]2026年3月2日午前会議、3月3日午前会議中のEU、オーストリア、ドイツの意見を参照。

[47]2026年3月3日午前会議、3月4日午前会議中の米国の意見を参照。

[48]UN CCW/GGE.1/2025/WP.9.

[49]UN CCW/GGE.1/2025/WP.4.

[50]UN CCW/GGE.1/2025/WP.4.

[51]2026年3月4日午後会議中の米国の意見（intervention）を参照。

[52]例えば、米国は、オペレーターとはLAWSを作動させ、制御し、監視することができる人間を意味するのであり、単に命令を下す指揮官はオペレーターとみなすべきではないという意見を提示した（UN CCW/GGE.1/2025/WP.6; 2026年3月3日午前会議中の米国の意見を参照）。

[53]2026年3月3日午前会議中の米国の意見を参照。

[54]2026年3月3日午前会議中の日本の意見を参照。

[55]2026年3月3日午前会議中の韓国の意見を参照。

[56]2026年3月2日午前会議中の中国の意見を参照。

[57]2026年3月3日午前会議および午後会議を参照。

[58]議長は、3月7日午後会議において、今回の第1回会期の内容を中心に修正されたローリング・テキストを4月中に各国に回覧した後、それについて8月31日から9月4日に予定されている第2回会期の会議で議論する意向を表明した。また、円滑な意見調整のため、会期間の非公式な協議も進める予定である点も明確にした。2026年3月7日午後会議議長発言を参照。

[59]Cordell, Rebecca and Alex Dukalskis. 2025. "Authoritarianism, Global Politics, and the Future of Human Rights." International Organization 79; Reeder, Bryce. 2025. "The Future of United Nations Peacekeeping in a Fragmenting World." International Organization 79.

[60]一例として、米国は国際人権レジームの画期的な発展であり成果である2025年の国連普遍的状況レビュー（UPR）を受けないと宣言し、実際に米国に対するUPRは例外的に2026年下半期まで延期された{Human Rights Watch. 2025. “US Skips UN Periodic Rights Review.” November 7. https://www.hrw.org/news/2025/11/07/us-skips-un-periodic-rights-review.(最終検索日: 2026年4月5日)。

[61]Avant, Deborah, Martha Finnemore, and Susan Sell, eds. 2010. Who Governs the Globe? Cambridge Studies in International Relations. Cambridge: Cambridge University Press.

■著者：文容日_ソウル市立大学校 国際関係学科 教授。

■担当・編集：任宰賢_EAI 研究員

    問い合わせ：02 2277 1683 (内線 209) | jhim@eai.or.kr