← 戻る · ← ホーム · ← 一覧に戻る

AI「人間統制」発言と米中AI安全協力メカニズムの議論

チョン・ジェソン None
パク・ジウン Research Associate, East Asia Institute(EAI)

カテゴリー: 現在の注目
発行日: 2026年9月25日

総括要約

9月24日のワシントン会談で、習近平主席はAIが人間の統制を逸脱してはならないと言及し、トランプ大統領は新規の規制が不要である点で合意したと明らかにしたが、これは実質的な拘束力を持つ規範的成果というより、双方の国内政治向けのジェスチャーに近い。会談の2日前のニューヨークでは、AI事故発生時に相互に通報する「AIホットライン」の新設が議論されたが、これは国家安全保障上の危機管理チャネルにすぎず、商業的AI協力の拡大を意味するものではない。ホワイトハウス主導の協力トラックと議会・規制機関主導の圧力トラックはすでに分離して機能しており、首脳間の象徴的合意が半導体・AI輸出規制などの個別規制の継続を阻止できない公算が大きい。中国は安全の議論をグローバルルール制定権確保の手段として活用しようとする一方、米国は対中競争優位の維持という枠組みの中でのみ安全を扱っており、双方が目指す目標自体が異なる。韓国政府と企業は、今回の会談を関係改善のシグナルとして過剰に解釈せず、安全保障連動分野と商業領域を分離して対応し、米中二者構図の外にある多国間規範トラックへの参加を並行しなければならない。

I. イシューの状況分析

AI「人間統制」発言と米中AI安全協力メカニズムの議論：イシューの状況分析

1. イシューの背景と経緯

去る5月に北京で開かれたトランプ・習近平首脳会談で、両首脳はすでにAI関連の政府間対話の開始に合意していた^[3]^[9]。9月24日のワシントン会談は、この合意の後続措置という性格を帯びる^[3]^[9]。トランプ大統領がホワイトハウスの国賓晩餐会まで準備したと自ら明らかにした点は、今回の訪問が習主席の11年ぶりのホワイトハウス訪問という象徴性と絡み合っている^[10]^[9]。

会談を控え、米国内ではAI安全に関する産業界発の警告が先に噴出した。9月12日、アンソロピックCEOのダリオ・アモデイは「先端研究所がモデルの能力拡張の速度を意図的に遅らせるべきだ」という趣旨の文章を発表した^[17]。OpenAIのサム・アルトマンとスペースXのイーロン・マスクも直ちに同調する立場を示した^[17]。しかしトランプ大統領は2日後、AIの災厄への懸念を「詐欺」と規定し、AI・データセンターへの反発を喜ぶのは中国だけだと反論した^[17]。この発言は、米国政府が安全の議論を対中競争優位の維持という枠組みの中でのみ扱っていることを示している^[3]。

同時期に中国内部でもリスク認識が高まっているという状況が確認された。中国国家安全部のトップは、AI技術が中国共産党の統治自体を脅かし得るという異例に強い警告を出したことがある^[8]。これは、北京が対外的には米国主導の速度調節要求を拒否しつつも、内部的にはリスクを管理しなければならないという二重的な態度を取っていることを示唆する^[6]。

2. 現在の状況

首脳会談の4日前の日曜日夜、ニューヨークのJPモルガン・チェース本社で両国の高官による実務協議が開かれた。米国側からはスコット・ベッセント財務長官とジェイミソン・グリア通商代表が、中国側からは何立峰副首相率いるチームが出席した^[7]^[18]。この席で議論されたのが、いわゆる「AIホットライン」、すなわちAI事故が国家安全保障を脅かすほど深刻になった場合に相互に通報する「通知メカニズム」である^[18]。アルジャジーラは、これがトランプ大統領が習主席に直接提案するカードとして準備されたものだと伝えた^[18]。

首脳会談当日、習主席はホワイトハウスの国賓歓迎式で、米中両国がAIを人間の統制から逸脱させないよう共に努力しなければならないと述べた。同時に、両国がこの技術をめぐって激しく競争しているという事実も認めた^[4]。シドニー・モーニング・ヘラルドは、習主席がこの発言とともに米国市場への中国企業のアクセス拡大を迫ったと伝えた^[10]。習主席は「協力すれば両国が共に得をし、対立すれば両国が共に失う」という趣旨で述べ、「中華民族の偉大な復興を成し遂げることと、米国を再び偉大にすることは両立し得る」と言及し、トランプ大統領の政治スローガンを直接引用した^[10]。トランプ大統領は歓迎演説で、習主席と安全保障・技術・スーパーインテリジェンスに関する喫緊の問題を議論すると明らかにし、この日下される決定が数十年にわたり平和と繁栄に影響を与えるだろうと述べた^[1]。その後、トランプ大統領は双方がAI新技術に対する新たな規制は不要である点で意見を一致させたと言及したことが確認されている。

日本の朝日新聞は、今回の会談でAIが最大の話題として浮上した背景には、技術の急激な進展に伴う「暴走」への懸念が米中両国の双方で高まっているという共通分母があると指摘した^[12]。ただし朝日新聞は、両国が安全確保のために実際にどれほど歩み寄れるかは不透明だと評価した^[12]。

EAIの分析によれば、こうした表面的な協力ジェスチャーにもかかわらず、「『安全』という用語に互いに異なる政治的目的を込めており、実質的な規範合意につながりにくい」^[3]。トランプ政権は「安全の議論を対中競争優位の維持という枠組みの中でのみ扱い、業界発の速度調節要求を正面から排斥」しており、中国は「官営メディア系の論評を通じて安全の定義権限の共有と米国企業への同一基準適用を先決条件として提示」している^[3]。これは、技術リスクの議論が実質的には「グローバルルール制定権の問題へ」転換されつつあることを意味する^[3]。

3. 主要行為主体とその立場

ホワイトハウス・トランプ大統領は、AI安全の議論を対中競争優位の維持という枠組みの中でのみ受け入れる。業界発の速度調節警告には、規制強化の代わりに「AIフォース」創設という安全保障組織の新設で応じた^[6]。トランプ大統領は国連総会の演説で、AIを統制しようとする「グローバリストの計画」を拒否すると明らかにし、AIを「スーパーインテリジェンス」と再規定して米国国益優先の基調を再確認した^[15]。同時に彼は、ニューヨークの実務協議で確認された「通知メカニズム」の提案を首脳会談のカードとして活用し、安全保障リスク管理の次元での最小限の疎通チャネルは開いておこうとしている^[18]。

習近平主席・中国政府は、AIを人間の統制下に置くべきだという原則論で協力の必要性を強調しつつも、米国側の拡散規制・ガードレール要求を自国のAI産業発展を阻害しようとする試みとして受け止める^[5]。アトランティック・カウンシルは、北京の指導部が独自のAI安全への懸念を持っているものの、それが米国との安全協力につながる明確な経路を示してはいないと評価した^[5]。国家安全部の内部警告に見られるように、中国指導部のリスク認識は対外的な協力ジェスチャーとは別に、体制安定性の問題として扱われている^[8]。

何立峰副首相・中国経済チームは、ニューヨーク協議で通知メカニズムの議論の実務パートナーとして臨んだ。これは、貿易・関税交渉トラックとAI安全の議論が同じチャネルで並行処理されていることを示している^[7]^[18]。

米国ビッグテック・AI業界は、政府間交渉とは別の独自の動きを見せる。アンソロピック・OpenAI・スペースXの経営陣による速度調節要求は、ホワイトハウスの競争優先の基調と正面から背反する^[17]。これらの企業のCEOらは首脳会談の国賓晩餐会にも多数出席したと伝えられており、産業界が米中関係の管理において独自の利害関係を持って動いていることを示唆する^[16]。

EAI分析は、「ホワイトハウスの協力トラックとFCCなど規制機関・議会の圧力トラックがすでに分離して機能しているため」、首脳会談で象徴的合意が出ても「半導体・AI輸出規制のような個別規制は別途継続される公算が大きい」と指摘する^[3]^[6]。さらに「台湾問題が構造的レッドラインとして固まった状況で、AI安全対話は首脳会談の付随的な成果物として扱われる可能性が高い」と評価する^[3]^[6]。

4. 核心争点

第一の争点は「安全」の定義権限である。米国は安全を拡散統制・ガードレール構築の問題として、中国は安全の定義自体に対する共同決定権と米国企業への同等の基準適用の問題としてアプローチする^[3]。この溝が縮まらない限り、通知メカニズムのような実務的チャネルが合意されても、信頼醸成水準の情報交換にとどまる公算が大きい^[9]。

第二の争点は、政府間の協力ナラティブと個別規制措置の分離である。ホワイトハウスが協力を強調しても、FCCなど規制機関と議会レベルの対中圧力は別トラックで継続される^[3]^[6]^[9]。米国企業が中国のAIモデルを収益配分方式でホスティングしようとする商業的動きも政府のナラティブと無関係に進行しており、政府・業界・議会間の立場の隔たりはすでに構造化している^[9]。

第三の争点は、米中二者交渉が多国間ガバナンスの議論を代替する可能性である。国連総会を機に22カ国がAIを「人間の方向性、監督、統制の下」に置くべきだという共同宣言を採択したが^[14]、米中首脳会談がこれに先んじて二者レベルの「ホットライン」合意を導出する場合、その他の国々はルール制定過程から排除される危険がある^[15]。エコノミック・タイムズは、これが「他の国々に発言権を与えない二つの強大国間の取引」になり得ると指摘した^[15]。

第四の争点は、軍事的AI統制の範囲である。ブルッキングス研究所は、両首脳が相手国の核指揮統制通信（NC3）や核心インフラに対するサイバー攻撃の開始決定をAIではなく人間が下すよう合意する案を提示した^[11]。これは、「人間統制」原則が民間AIリスクを超えて軍事安全保障領域へ拡張され得るかを測る試金石となる。

II. イシューの深層分析

AI「人間統制」発言と米中AI安全協力メカニズムの議論：イシューの深層分析

1. 根本原因の分析

習主席が「人間の統制下」という表現を選んだ背景には、二重の計算が潜んでいる。対外的には、AIリスクに無関心なトランプ政権と対比される責任ある大国のイメージを演出できる。対内的には、中国国家安全部のトップが異例に警告したように、AI技術が中国共産党の統治正当性自体を揺るがし得るという危機感が実在する^[8]。統治システムに対するAIの潜在的脅威は、西欧式の安全言説とは質の異なる、体制安定という中国固有の問題意識から出発する。

トランプ大統領が「新たな規制は不要だ」という点で合意したと明らかにしたのは、米国内の産業界の圧力を縫合しようとする政治的必要から生じた。アンソロピックのアモデイの速度調節要求にOpenAIとスペースXが同調すると、トランプ大統領はこれを「詐欺」と規定し、「AI・データセンターへの反発を喜ぶのは中国だけだ」と反論したことがある^[17]。この発言自体が、米国のAI安全の議論が規制哲学の問題ではなく、対中競争ナラティブの下位範疇として扱われていることを示している。EAIの分析は「トランプ大統領は安全の議論を対中競争優位の維持という枠組みの中でのみ扱い、業界発の速度調節要求を正面から排斥した」と指摘する^[3]。結局、双方が同じ「安全」という言葉を使いながらも、実際に狙う問題は互いに異なる。

2. 構造的文脈

政治的構造から見ると、ホワイトハウスの協力トラックと米国議会・規制機関の圧力トラックは初めから分離して機能する。EAI報告書は「ホワイトハウスの協力トラックとFCCなど規制機関・議会の圧力トラックがすでに分離して機能しており、首脳会談で象徴的合意が出ても、半導体・AI輸出規制のような個別規制は別途継続される公算が大きい」と診断する^[3]。すなわち、首脳間の合意が行政府傘下の輸出規制体系や議会立法を拘束できない構造である。

経済的構造では、米中両国のビッグテックの商業的誘因が政府のナラティブと無関係に動く。EAIは「米国企業が中国のAIモデルを収益配分方式でホスティングしようとする事例に見られるように、産業界の商業的誘因は政府のナラティブとは別個に動いている」と明らかにする^[9]。首脳会談の晩餐会に米国ビッグテックのCEOらが多数出席したことも、こうした商業的利害関係が外交舞台に直接介入する構造を示している^[16]。

安全保障的構造では、「安全」の定義権自体が競争の対象である。アトランティック・カウンシルは「北京は拡散とガードレールに関する米国の問題提起を、中国のAI発展を阻害しようとする試みと見なす」と指摘する^[5]。EAIもまた「中国は官営メディア系の論評を通じて安全の定義権限の共有と米国企業への同一基準適用を先決条件として提示し、技術リスクの議論をグローバルルール制定権の問題へ転換しようとしている」と分析する^[3]。安全対話が規範の議論ではなく、ルール制定の主導権争いの延長線上にあるという意味である。ここに台湾問題という構造的レッドラインが重なり、AI安全対話は「首脳会談の付随的な成果物として扱われる可能性が高い」^[3]^[6]。

3. 歴史的先例および類似事例の比較

今回のワシントン会談のAI対話は、去る5月の北京首脳会談で合意された政府間対話チャネルの後続措置である^[3]^[9]。5月の合意以降も官営メディアの対米批判論調が維持された点から、首脳間合意と実務履行の間の溝がすでに一度確認されたことがある^[9]。今回の「ホットライン」議論も同じパターンを繰り返す可能性がある。

冷戦期の米ソ核危機管理体制との比較も示唆を与える。ブルッキングス研究所は、トランプ・習近平両首脳が相手国の核指揮統制通信体系や核心インフラに対するサイバー攻撃の開始をAIではなく人間が決定するよう合意する案を提示した^[11]。これは、米ソ間のホットラインが誤判による拡大戦争を防ぐ最小限の信頼醸成装置であったように、今回のAI通知メカニズムも全面的な規範合意ではなく、偶発的事故の拡大を防ぐ最低線の装置として設計されていることを示している。ただし、冷戦期のホットラインが相互確証破壊という明確な恐怖の均衡の上で機能したのとは異なり、AI領域では脅威の性格と臨界点自体が不分明であるという違いがある。

2023年サンフランシスコAPEC首脳会談との比較も有効である。EAIは「当時が偵察気球事態で硬化した関係を縫合する場であったとすれば、今回は5月の訪中という先行する首脳外交を足掛かりに、関係管理の連続性を強調する場」だと区分する^[6]。すなわち、今回の会談は危機後の関係復元ではなく、すでに進行中の対話チャネルの制度化の試みであるという点で性格が異なる。しかし、制度化の試みであっても実質的な規範合意につながらなければ、2023年以降繰り返されてきた象徴的合意と個別規制の継続というパターンから抜け出すことは難しい。

4. イシュー展開の核心変数

第一の変数は、米国内の産業界と行政府間の緊張の行方である。アンソロピック発の速度調節要求に対するトランプ政権の反論が一回性のハプニングで終わるのか、それとも業界対政府間の持続的葛藤へ拡大するのかが、米国のAI安全政策の基調を左右する^[17]。

第二の変数は、中国内部のリスク認識の拡散速度である。国家安全部トップの警告が例外的な発言にとどまるのか、それとも北京のAI政策全般に反映されるのかによって、中国が対外交渉で「安全」を実質的なアジェンダとして扱う誘因が変わる^[8]。

第三の変数は、通知メカニズムの制度的定着の可否である。ニューヨーク実務協議で議論された通知メカニズムが首脳会談後に実際の運営規定と担当組織を備える段階へ進むのか、それとも宣言的合意にとどまるのかが急務である^[7]^[18]。EAIは、このチャネルが「信頼醸成水準の情報交換にとどまる二重トラックの常時化経路が有力だ」と見通す^[9]。

第四の変数は、台湾問題をはじめとする安全保障懸案との連携の程度である。半導体輸出規制、レアアース供給網の問題がAI安全対話とは別トラックで引き続き激化する場合、首脳会談から出た象徴的合意は交渉用の大義名分以上の意味を持ちにくい^[3]^[16]。

第五の変数は、米中二者合意が多国間ガバナンスの議論を圧倒するかどうかである。国連総会を機に22カ国がAIを「人間の指示、監督、統制の下」に置くべきだという宣言を採択した状況で^[14]、米中両国のみの「二つの強大国の取引」がその他の国々を意思決定から排除する構造として固まる可能性が指摘される^[15]。この場合、韓国を含む中堅国は米中合意の受容者の位置にとどまらざるを得ない。

III. 最終推奨対応方案

AI「人間統制」発言と米中AI安全協力メカニズムの議論：総合対応方案

1. 総合判断および推奨対応方案

今回のワシントン会談から出たAI関連の合意は、規範的成果ではなく政治的ジェスチャーに近い。習主席の「人間の統制」発言とトランプ大統領の「新規規制不要」言及は、双方のいずれにも国内政治用の大義名分を提供した。実質的な拘束力を持つ合意は確認されない。

核心的な判断は、二重トラック構造が会談後もそのまま維持されるという点である。ホワイトハウスが主導する協力トラックと議会・規制機関が主導する圧力トラックは、すでに分離して機能している^[3]^[9]。首脳間の象徴的合意はこの構造を変えられない。EAIの分析通り、「首脳会談で象徴的合意が出ても、半導体・AI輸出規制のような個別規制は別途継続される公算が大きい」^[3]。韓国企業と政府は、この会談結果を関係改善のシグナルとして過剰に解釈してはならない。

推奨対応方案は、安全保障連動分野と一般商業領域を分離して対応する二元的体系である。AIホットラインのような政府間通知メカニズム^[18]は国家安全保障次元の危機管理チャネルにすぎず、商業的AI協力や技術標準の統合を意味しない。この二つの位相を混同すれば、政策判断が歪められる。

2. 短期／中期／長期の実行計画

短期（3カ月以内）は情報収集と原点の再確認に集中する。米国商務省産業安全保障局（BIS）の対中半導体・AI輸出規制リストに会談後の変動があるかを確認する。同時に、中国官営メディアの対米論調が会談前後で実際に変わったかを対照する。EAIは「中国もまた対話合意と無関係に官営メディアの対米批判論調を維持する二重性を見せる」と指摘したことがある^[9]。この二重性が維持されるかどうかが第一次の判断根拠である。国内AI企業のうち米中双方と同時に供給網・クラウド契約を結んだ企業は、契約条項に安全保障例外条項があるかを再点検する。

中期（6カ月～1年）は、米国のAI標準・認証体系への編入速度を調節する時期である。米国が自国のAI安全フレームワークを同盟国拡散戦略として活用する可能性がある一方、中国は別途の標準トラックを構築する可能性が高い。韓国は、いずれか一方の標準に早期に編入されるよりも、国内AI安全評価体系の独自性を維持しながら両方の動向を並行観察しなければならない。この時期に「AIフォース」新設など米国の安全保障組織化の動き^[6]が実際の政策執行につながるのか、それとも象徴的発表にとどまるのかを判別できる。

長期（1年以上）は、多国間規範形成への参加へ転換する段階である。国連総会を機に22カ国が採択したAI人間統制宣言^[14]のように、米中二者構図の外で形成される多国間トラックが存在する。エコノミック・タイムズは、米中二者交渉が「他の国々を排除した二つの強大国の取引」に帰結する危険を指摘した^[15]。韓国は、この多国間トラックに能動的に参加し、米中二者構図に従属しない規範形成の空間を確保する必要がある。

3. モニタリング指標およびトリガーポイント

第一の指標は、AIホットラインの実務的後続措置の有無である。ニューヨーク会合で議論された通知メカニズム^[7]^[18]が具体的な運営規定と担当機関として具体化されるのか、それとも会談終了とともに立ち消えになるのかを確認する。90日以内に後続の実務協議の日程が決まらなければ、象徴的合意と判定できる。

第二の指標は、米国の半導体・AI輸出規制リストの実際の変動である。首脳会談の合意と無関係にBISエンティティリストに中国企業が追加または除外される動きが出れば、これが協力トラックと圧力トラックの分離構造の実証的根拠となる。

第三の指標は、中国国家安全部・官営メディアのAI関連発言のトーンである。国家安全部トップの体制脅威警告^[8]が繰り返されるのか、それとも一回性の発言にとどまったのかを追跡する。繰り返されるのであれば、北京内部のリスク認識が実際の政策（例：自国AI企業に対する安全性規制の強化）につながる可能性を示唆する。

第四のトリガーポイントは、台湾関連の緊張の再燃の可否である。台湾問題が「構造的レッドライン」として固まった状況で^[3]、この問題が再び浮上すれば、AI安全対話を含むすべての協力トラックが同時に硬化し得る。この場合、安全保障連動分野のリスクは直ちに上方修正しなければならない。

第五の指標は、米国ビッグテックの対中事業の動向である。中国のAIモデルを収益配分方式でホスティングしようとする試み^[9]が拡大するかどうかは、政府のナラティブと無関係に動く商業的誘因の強度を示す先行指標である。

4. 要約結論

今回の会談で確認されたのは、米中両国がAIを媒介に疎通チャネルを開いておこうとする意志であり、実質的な規範合意ではない。習主席の「人間統制」発言とトランプ大統領の規制猶予言及は、それぞれ異なる国内政治的必要から出たもので、同じ方向を指してはいない。AIホットラインのような危機管理メカニズムは有意義だが、安全保障分野に限定される。韓国政府と企業は、この会談を関係正常化のシグナルとして受け入れるよりも、二元的リスク管理体系を構築し、米国規制機関の個別措置を常時点検する実務対応に集中しなければならない。多国間規範形成空間への参加も並行すべき時点である。