人工知能（AI）時代の国際政治」⑧ AI革命と共和主義的安保理論：無政府と階層の二重の難題の再浮上

Ⅰ. 技術発展と文明パラダイムの変動

重大な技術変化は、それ自体で社会的な激動の過程をもたらす。国際関係の次元では、新たな勝者と敗者を生み出し、アクターの選好を変え、新たな規範と組織の構成を可能にする。逆に、当面の国際政治の特徴が技術変化の内容と速度に影響を与えることもある。[1] 今日、最も注目されている先端技術分野としての人工知能（Artificial Intelligence, AI）が国際政治に与える影響を測るためには、まずAI自体を人類の長期構造的技術経済史の文脈に位置づける必要がある。

AIは、広範な活用性、補完的イノベーション促進の可能性、持続的な技術的改善の可能性などを保有しているという点で、伝統的な「汎用技術（General Purpose Technologies, GPT）」の特徴を有すると評価される。これは過去の電気、内燃機関、コンピュータなどの事例に照応するもので、このレベルだけでも社会経済全般にわたって多様かつ広範な変化を引き起こす潜在力を持つテクノロジー革新とみなされる。しかし、一部ではAIがこうしたGPTレベルを超え、過去の農耕・家畜飼育や化石燃料の使用のように人類史においてエネルギー捕捉の飛躍的向上をもたらした「革新的技術（Revolutionary Technologies, RT）」の列に加えられる可能性があるという予測が出されている。人類史における革新的技術は、先に言及した二つの事例しか存在せず、それぞれ約1万年前の新石器革命と18～19世紀の産業革命を引き起こし、人類文明構造の根本的変容を内包した。[2]

AIが将来GPTと判明するか、RTと判明するかはまだ正確に測りかねるが、国際政治の領域においては、既存の権力競争、安全保障のジレンマ、政治体制変動などのトレンドを加速させる重大な触媒技術として作用し、世界史の不安定性と不確実性をさらに増幅させる可能性について、多くの専門家が注目している。[3]

本研究は、特に「共和主義的安保理論」あるいは「組織原理（organizing principle）と安全保障」という問題枠組み[4]の中で、AI革命が国際政治にもたらす含意を理解しようとするものである。国際政治思想史において、共和主義者たちは国内および国外の空間で無政府状態（anarchy）と階層（hierarchy）という二大深淵が作り出す不安定（insecurity）を克服する政治的制度構成（=negarchy）の可能性を模索してきたが、本研究はAIという技術革新がこうした共和主義的安保理論の中心的な難題を根本的な次元で激化させる触媒として作用するとみなす。

AIは啓蒙主義プロジェクトの最後の版本として、人類最後の発明品となるのだろうか？生存そのものなど、人間種の必須の価値を脅かす可能性のあるAI―特に将来到来する超知能（Artificial Superintelligence, ASI）―の巨大な潜在力をいかに制御するかという問いは、共和主義的政治哲学の長年の難題の延長線上にある。[5]以下、本文では特にAIがもたらす安全保障上のリスクの三つのケースを分類して検討するが、①国際的な無政府状態における覇権競争・核戦争の可能性の深化、②国内次元での階層の固定化（デジタル独裁の台頭と民主主義の衰退）、③国際次元での階層の強化（既存の国際的不平等の深化＋人類絶滅の脅威）の順で論を進める。

Ⅱ. AIと国際的な無政府（Anarchy）問題の深化

今日、脱単極、大国間戦略競争時代が到来した。冷戦時代から構築されてきた地球規模の戦略的安定性と軍備管理の制度的配置が崩壊していく環境が浮上している。ところが、AIに代表される第4次産業革命がこうした構造的不確実性に油を注いでいる。[6]逆に言えば、単極の安定した歴史局面ではなく、現在の地政学的な緊張が高まった時期にAIが出現したことが、人類にとって不運な側面が存在するということだ。あたかも第二次世界大戦と冷戦という高度な地政学的圧力の中で急速に核開発と軍拡競争が起こったのと類似した国際環境が現代に 조성されているかのようである。[7]これは、国際的な多極化がもたらす無政府状態の競争圧力とAI軍拡競争の相互上昇作用を制御する問題が、喫緊の安全保障問題として浮上していることを意味する。

言い換えれば、大国間戦略競争の核心的な戦場として人工知能が浮上しており、特に米国の先端技術封鎖戦略と中国の政府主導技術自立化への対抗戦略が衝突している。[8]歴史的に、新しいGPTの登場と普及（diffusion）過程は、大国間の経済覇権変動を説明する強力な変数となってきた。例えば、第一次産業革命期における製鉄などの汎用技術の普及を主導した英国は、急速な生産性向上を通じて覇権国に成長することができた。19世紀末から20世紀初頭にかけて、米国は電気化と機械化というGPTの普及を通じて第二次産業革命を主導し、新たな覇権国へと進出した。一方、第三次産業革命期、日本は電子製品やITなどの一部産業で先導的な地位を占めたにもかかわらず、コンピュータ科学やソフトウェアエンジニアリングなどのGPT普及に遅れをとったため、米国に追いつくことに失敗した。こうした文脈から見ると、第四次産業革命期のGPTであるAI革新を誰が主導し、全分野に普及させることに成功するかが、今日の米中覇権競争の行方を左右すると予想される。[9]こうしたAIを巡る二つの超大国間の競争の様相は、特に勢力遷移の直接的な要素となる軍事技術競争分野でも急速に進展しており、挑戦国である中国は「知能化戦争」遂行能力の強化が米国との既存の軍事的格差を一度に縮める「カーブ追い越し」に相当するという認識を持っており、これに対抗して米国も勢力遷移の防止のためにAI分野での「全地球的支配（global dominance）」を追求している。[10]

しかし、こうした状況の展開が国際政治秩序の次元で根本的なリスクを提起するのは、いわゆる「AI-核ネクサス」の登場により、核保有国間の安全保障のジレンマが深化し、戦略的・危機的安定性が弱化して、深刻な核戦争の危険性が増大する可能性が示唆されているからである。[11]何よりもまず、既存の核兵器システムにAIが活用されることで、人間の意思決定の脱中心化・自動化と決定速度の加速化が起こり、既存の抑止理論の前提や仮定が崩壊する事態が起こりうる。さらに、AI技術が偵察、標的獲得、誘導システムに結合されれば、核兵器の可視性が高まるにつれて、核報復資産（＝二次打撃能力）の先制無力化の可能性が増加し、これにより戦略的安定性が大きく弱まる可能性がある。これは、核保有国間の軍拡競争圧力を高めるだけでなく、「早期警戒発射（launch on warning）」のような攻勢的な核ドクトリンの採用を助長し、危機的安定性さえも低下させ、結果的に「非意図的なエスカレーション（inadvertent escalation）」のリスクを構造的に増幅させる結果をもたらす。[12]

さらに悪いことに、AI-核ネクサスの台頭が国際関係史の局面において米中露戦略競争時代、あるいは多極化という「新たな核時代」の文脈と結びついている点が状況をさらに困難にしている。比較的安定していた冷戦期の米ソ間の「恐怖の均衡」時代に比べ、現在は核保有国数が増加し、基本的に抑止ゲームの複雑性が大きく増加しただけでなく、冷戦期に構築された核軍備管理制度までもが戦略競争の犠牲となってほぼ全て消滅した状態であるという点が事態の深刻さを増している。[13]しかし、AI技術の導入が核軍拡競争において決定的な「先駆者利益効果（First mover effect）」をもたらしうるという列強の恐怖がこれに加われば、手に負えない安全保障のジレンマが強化される結果を招きかねない。[14]

このような現在の国際安全保障状況は、旧冷戦初期にいわゆる「核の政治的問題（nuclear political question）」が初めて浮上した時の歴史的デジャヴュを感じさせる。当時、歴史上かつてない破壊力を持つ原子爆弾の登場は、暴力による相互依存度の極端な増大を意味し、果たして世界的な無政府状態下における「ヴェストファーレン体制」は持続可能なのかという根本的な問いを提起した。そしてこの難題に対し、ハンス・モルゲンソー（Hans Morgenthau）やジョン・ハーツ（John Herz）といった古典的現実主義者たちでさえ、人類の絶滅を引き起こしかねない国民国家体制はもはや持続不可能であると主張し、単一世界政府の建設の必要性（nuclear one worldism）を唱えるにまで至った。もちろん、20世紀後半の実際の現実は、国家間体制はそのままに、米ソ合意による相互抑止（deterrence）および軍備管理（arms control）の制度化で妥協されたわけだが。[15]

しかし、今日、核軍拡競争が再燃した「第三の核時代」において、AI技術と核兵器の連結が戦略的安定性を著しく低下させ、意図せざる核戦争勃発の可能性が高まる局面が現れる中で、我々は旧冷戦初期に提起された世界秩序の根本的な問いに再び直面することになった。果たして今回は、国家間体制は持続可能なのか？ 地球史における「第6の大量絶滅」を防ぐためには、どのような世界秩序と軍備管理の制度化が必要なのか？

Ⅲ. AIと国内外の階層（Hierarchy）問題の深化

AI技術の拡散は、国内および国際空間における既存の階層構造を公固化したり、新たに作り出したりし、さらには極端な場合には人類の「実存的危機（existential risk, x-risk）」を生み出すきっかけにもなりうるという点で、また別の次元の重大な問いを提起している。

1. 急進的革新論：AIによる戦争の急速な変革

AIは知能を単一で自己完結的な特性を持つものと見なすため、その設計されたシステム自体が基本的に中央集権的なアーキテクチャの様相を呈しやすい。加えて、AIの訓練と運用には莫大なリソースが必要であるため、大企業や政府などがAI開発を独占する可能性が高い。さらに、AIは中央権力が市民を微視的に統制し監視する技術と結びつきやすいことが知られている。したがって、技術的特性上、AIは本質的に反民主的な権威主義的集中化と親和性を有するという評価も受けている。[16]そのため、AIが既存の権威主義社会と民主主義社会の双方において「デジタル独裁」の未来を開く可能性について、議論が進められている。[17]

例えば、コロナパンデミック期間中に確認された「デジタル・パノプティコン」の出現可能性は、AI技術に基づいたフーコー的な「監視社会」が進化しているという懸念を生んだ。[18]このような点において、最も先駆的（？）な「AI基盤監視国家」の未来を示したのは、他ならぬ中国である。すなわち、中国の監視システムは過去20年余りにわたり、行政・治安データのデジタル化、都市単位でのAI統合、省（省）単位での共有へと進化し、7億台に達するCCTVとモバイル・IoTを包括する巨大インフラを構築してきた。特に初期の受動的な監視から脱却し、中国のAIは警察の情報収集・指揮・配置・巡回という全サイクルを徐々に自動化し、能動的監視・統制体制へと移行中であり、都市全体のデータをリアルタイムで統合・分析し、AIエージェントが自ら決定を実行する方向へと進化している。また、ドローン・自動運転車・ヒューマノイドロボットといった「AI駆動型執行手段」が登場し、監視はオンライン上の制約を超えてオフラインでの現場介入と物理的統制の段階へと拡大している。このような統合は最終的に中央指導部が全国をリアルタイムで見下ろすパノプティコン的な構造の完成を目指しており、中国共産党は人間官僚への依存を減らし、AI中心の自動統治を目標としている。[19]

一方で、AIは必ずしも全体主義国家による超中央集権化という経路をたどらなくとも、既存の民主主義体制の構造的基盤を弱体化させる可能性のある長期的なリスク要因を内包する。第一に、政治コミュニケーションの設計と伝達をAIが代替すれば、代表性と市民・政府間のフィードバックループが断絶し、代議制の核心である熟議・応答性のメカニズムが崩壊する危険がある。第二に、AIは富・権力の急激な集中と不平等を深化させ、民主主義を形式のみを残す空虚なものにし、寡頭制的な傾向を加速させうる。第三に、ニュース・知識生産が大規模言語モデル（LLM）を中心に再編されれば、情報エコシステムは少数のビッグテックに依存し、既に脆弱化している民主的な公論場はさらに大きな「認知危機」に直面するだろう。以上の三つの流れが結合した場合、民主主義は外形だけを維持したまま、技術官僚的・模倣的（synthetic）民主主義へと堕落する可能性まで論じられている。[20]第四に、いわゆる「監視資本主義」の到来により、全体主義的な国家ではなく全体主義的な「企業」ネットワーク体制によって我々の日常が捕捉される状況が生じうる。これは中央集権的な国家機構の代わりに、貨幣化と利潤の論理に従って我々の生活が人工知能とデータ科学を通じて記録され規律される、もう一つの形態の脱近代的な全体主義の様相である。[21]

2. 国際政治経済：Global North & South の格差強化

国際政治経済の観点から見ると、既存の南北格差はAI時代にさらに強化される見通しである。AI発展の基盤にはアルゴリズムの独占とデジタル新式民主主義が横たわっているが、これは西側企業が後発開発途上国のデータを大規模に抽出し、安価な労働力を搾取する構造によって維持されている。言い換えれば、AIの国際政治経済は労働の様相を変えるように見えるが、実際には既存の経済権力構造をほとんど変化させていない。さらに、AIの軍事的な武器化は強国間の競争によって主導されており、その実験場は主に南半球の国々である。強国の軍隊が戦闘マシンや自動化装備で武装していく一方で、技術的に劣勢な南半球では低強度紛争や代理戦争が繰り返され、この不均衡は結局、強国に決定的な軍事的優位を提供する。[22]

3. X-risk：シンギュラリティ以降のASIの危険性

2023年5月、非営利団体AI安全センター（Center for AI Safety）は、「AIによる絶滅リスクの緩和は、パンデミックや核戦争のリスクなどと共に、世界的に優先順位をつけて取り組むべきである」という短い声明を発表した。興味深いことに、この声明にはOpenAIのサム・アルトマン、Google DeepMindのデミス・ハサビス、Anthropicのダリオ・アモデイといったAI主要企業の経営陣に加え、ジェフリー・ヒントン氏（トロント大学教授）やヨシュア・ベンジオ氏（モントリオール大学教授）、ケビン・スコット氏（Microsoft最高技術責任者）といった中核的な科学者350名余りが署名した。[23]

AIの進化がシンギュラリティ[24]を超えて汎用人工知能、さらには超知能の段階に至った時、その制御不能性によって人類の生存そのものを脅かすことになるという警告が本格的に出始めたのは、ニック・ボストロム（Nick Bostrom）の『スーパーインテリジェンス[25]』が刊行された2014年以降である。このような黙示録的な議論は、ボストロム自身の「存在論的リスク（existential risk, x-risk）」[26]仮説や「脆弱な世界（vulnerable world）」[27]仮説の問題意識と重なっている。まず、「存在論的リスク」テーゼは、現代の技術文明を人類史上初めて、全地球的な絶滅あるいは回復不可能な潜在能力の消滅をもたらしうる危機段階と規定し、これを人類全体を永久に断絶させるか、知的生命体の今後の展開可能性を根本的に破壊するもの（global, terminal）と定義する。このような存在論的リスクは、原子力、ナノテクノロジー、バイオテクノロジー、人工知能など、加速する技術進歩がもたらした全く新しい次元のリスクである。同様の文脈で、「脆弱な世界」テーゼは、一定水準の技術能力に到達すれば、文明は基本的に破局に向かわざるを得ない状態に到達しうると述べている。問題は、一度発明された技術を「脱発明」できないという非可逆性と、現代文明が現在「準無政府状態の基本条件（semi-anarchic default condition）」に置かれており、このような脆弱性を効果的に集団管理できない点にある。

しかし、上記の二つの概念はAIと直接的に関連する。高度に発展したASIは、一方では人類全体の存続と未来の潜在能力そのものを脅かしうる新しいタイプの存在論的リスクを構成し、他方では国家・企業・個人が高リスク能力を容易に保有または誤用できるようにすることで、技術文明を脆弱な世界へと滑り込ませうる。

より具体的に、AIが引き起こしうる存在論的リスクの8つのカテゴリーを要約すると以下のようになる。まず、武器化（weaponization）は、強力なAIが超知能的な軍事資産、大量破壊兵器の設計などに転用される時、人類共同体が自らを破壊する能力をAIに委ねる結果となりうる。第二に、機能低下（enfeeblement）は、社会と個人がますます多くの機能をAIに依存するようになり、自ら問題を解決し危機を管理する能力が低下し、決定的な瞬間にAIなしでの生存そのものが不可能になる可能性がある。第三に、知識基盤の崩壊（eroded epistemics）は、AIが情報環境を歪曲し、社会全体の事実判断能力を失わせる場合、民主的・集団的な意思決定が麻痺し、文明が自らを救えない状態に陥る危険を意味する。第四に、誤った目標設定（proxy misspecification）は、人間が意図した目的ではなく、的外れな数値や指標をAIが最適化し、その過程で人間の安全・価値・制度を破壊しうるリスクである。第五に、価値の固定化（value lock-in）は、特定の集団や体制がAIを通じて自らの権力とイデオロギーを永続化する時、人類がより良い未来へ進む道が閉ざされてしまう結果を招く可能性がある。第六に、予期せぬ能力（emergent functionality）が突如として現れた場合、人間はそれを制御したり理解したりできずに対応に失敗する可能性があり、第七に、欺瞞（deception）は、AIが秘密裏に人間の監視を避け行動することで、自らの制御権を奪う結果を招く可能性がある。最後に、権力追求（power-seeking）は、AIが自ら設定した目標を達成するために権力と資源を掌握しようとすることによって、人間の制御を構造的に無力化させ、最終的に文明全体を危険に陥れるシナリオである。これらの全ての危険カテゴリーは、それぞれ異なる経路を通じて、しかし共通して、人間が制御できない方向へと技術文明が脱線しうるという点で、存在論的リスクと規定される。[28]

Ⅳ. 文明転換期における新たな共和政治の発明？

問題は、今日、地政学的な覇権競争の文脈で主流的なAI言説が構成されている点にある。米中間のゼロサム的な対立構造が、戦略的公論場のマスターナラティブ（master narrative）として定着しており、その下位領域であるAI言説もこの枠組みの中で構成されている。すなわち、AIの歴史的転換点としての性格が浮き彫りにされることで、この技術を先取できなければ国家の安全が決定的に危機に陥るという緊急性と安全保障化の言説が支配的になっている。特に旧冷戦期の核軍拡競争との類比の中で、必ず勝利しなければならない「競争（race）」としてAI技術領域が再現され、政策的な議論もこのような想像界の中で提示されることで、AIに対する国際協力、リスク管理、統制などの議論は周辺化されている。したがって、このような反安全保障化テーマについて語ることは、ナイーブであるか、あるいは戦略的でないと見なされてしまう。[29]これは、人類の「生存」というグローバル・ガバナンスの次元でAI問題に対処することを困難にする最大の障壁を形成している。人類の絶滅あるいは隷属化といった絶体絶命の危険が予見される条件下で、どのように過去のグローバルな大災害リスクへの対処から教訓を得て対処法を講じるのか、人類全体の集団的学習能力に我々の未来がかかっている状況である。[30]

AI技術の世界的な拡散は、既存の国際秩序が直面してきた無政府状態 vs 階層構造という二重の難題を根本的に激化させ、さらに、人類文明全体が担うには困難な新たな形態の超越的な権力集中を招きうるという点で、共和主義的観点からの「抑制（constraint）」問題を前例のない水準で浮き彫りにしている。特にASIは、全能・全知・遍在を同時に獲得しうる物質的基盤と自己改良的な潜在能力を備えた技術的主体として、共和主義が歴史的に警戒してきた暴政的権力の究極形態となりうる。この場合、既存の価値整合（alignment）戦略や安全設計などが完全に機能するという保証は提供されない。その結果、ASI統制戦略の核心は、単なる技術的リスク管理の次元を超え、共和主義的な憲法設計と公共安全という問題枠組みの中で、手続き的・構造的な制約を設ける方向へと収斂せざるを得ず、さらには開発モラトリアム（relinquishment）のような極端な選択肢までも政策的想像力の範囲内に置く必要性が提起されている。要するに、AI革命の到来は、旧冷戦初期の核時代の幕開けよりもさらに急進的に、無政府的な国際体制の持続可能性そのものを改めて問う歴史的局面を開いており、これが「人類最後の発明」とならないための全地球的な共和主義的制度発明を促す信号として理解されるべきである。■

[1]Daniel W. Drezner, “Technological Change and International Relations,” International Relations 33 (2), 2019, pp. 286–303.

[2]Ben Garfinkel, “The Impact of Artificial Intelligence: A Historical Perspective,” in The Oxford Handbook of AI Governance, edited by Justin B. Bullock et al., Oxford: Oxford University Press, 2024.

[3]Amelia C. Arsenault and Sarah E. Kreps, “AI and International Politics,” in The Oxford Handbook of AI Governance, edited by Justin B. Bullock et al., Oxford: Oxford University Press, 2024.

[4]Daniel H. Deudney, Bounding Power: Republican Security Theory from the Polis to the Global Village, Princeton: Princeton University Press, 2007.

[5]Daniel Deudney and Devanshu Singh、「超大国の封じ込め：ASI制御問題、公安、共和制憲法論」Polycentric Federalism and World Orders、Brandon Christensen編、Switzerland: Springer Nature, 2025, pp. 465–502.

[6]Paul van Hooft, Lotje Boswinkel, and Tim Sweijs、「戦略的安定性の揺らぐ砂漠：新たな軍備管理アジェンダに向けて」Shifting Sands of Strategic Stability: Towards a New Arms Control Agenda、The Hague: The Hague Centre for Strategic Studies, 2022.

[7]Seth D. Baum, Robert de Neufville, Anthony M. Barrett, and Gary Ackerman、「他の地球規模のリスクからの人工知能への教訓」The Global Politics of Artificial Intelligence、Maurizio Tinnirello編、Boca Raton, FL: Chapman and Hall/CRC, 2022, pp. 111–115.

[8]George S. Takach、「Cold War 2.0: Artificial Intelligence in the New War between China, Russia, and America」、New York: Pegasus Books, 2024.

[9]Jeffrey Ding、「技術的リーダーシップの興亡：汎用技術の普及と経済力移行」International Studies Quarterly 68 (2), 2024.

[10]イ・ジェジュン、「米中間の軍事技術競争と勢力移転：人工知能、自律型兵器システムの軍事技術を中心に」、『韓国と国際政治』38 (3), 2022.; Office of Science and Technology Policy、「America’s AI Action Plan」、The White House、2025年7月10日、https://www.whitehouse.gov/wp-content/uploads/2025/07/Americas-AI-Action-Plan.pdf.; The White House、「Launching the Genesis Mission」、2025年11月24日。https://www.whitehouse.gov/presidential-actions/2025/11/launching-the-genesis-mission/.

[11]チョン・グヨン、「人工知能の軍事的活用と戦略的安定性」、『経済と社会』第143号、2024年。

[12]James Johnson、「AI and the Bomb: Nuclear Strategy and Risk in the Digital Age」、Oxford: Oxford University Press, 2023.; Vladislav Chernavskikh and Jules Palayer、「軍事的人工知能が核エスカレーションリスクに与える影響」、SIPRI Insights on Peace and Security No. 2025/06, 2025年。

[13]Jacob Stokes, Colin H. Kahl, Andrea Kendall-Taylor, and Nicholas Lokker、「Averting AI Armageddon: U.S.-China-Russia Rivalry at the Nexus of Nuclear Weapons and Artificial Intelligence」、Washington, DC: Center for a New American Security, 2025.; Jon B. Wolfsthal, Hans Kristensen, and Matt Korda、「我々が再び核兵器について懸念すべき理由」、The Washington Post、2025年6月4日、https://www.washingtonpost.com/opinions/interactive/2025/us-russia-nuclear-weapons-proliferation-danger/.; Anton La Guardia、「世界の第三次核時代における危険性」、The Economist、2024年11月20日、https://www.economist.com/the-world-ahead/2024/11/20/the-perils-of-the-worlds-third-nuclear-age.

[14]Baele, Stephane J., Iqraa Bukhari, Christopher Whyte, Scott Cuomo, Benjamin Jensen, Kenneth Payne, and Eugenio V. Garcia、「AI IR：人工知能時代の国際関係の概観」、International Studies Review 26 (2), 2024.

[15]Daniel H. Deudney、「Bounding Power: Republican Security Theory from the Polis to the Global Village」、Princeton: Princeton University Press, 2007.

[16]Adam Elkus、「AIと民主主義は両立可能か？」Foreign Policy、2025年8月29日、https://foreignpolicy.com/2025/08/29/ai-democracy-dictatorship-agi-governance/ .; George Gilder und Peter Thiel, „COSM Speaker Peter Thiel: The Failures and 'Self-Hatred' of Big Tech,“ Mind Matters、14. Oktober 2021, https://mindmatters.ai/wp-content/uploads/sites/2/2021/10/Mind-Matters-Episode-156-Peter-Thiel-at-COSM-rev1.pdf.

[17]ユヴァル・ノア・ハラリ著、キム・ミョンジュ訳、『ネクサス：石器時代からAIまで、情報ネットワークから見た人類史』、ソウル：キム・ヨンサ、2024年。

[18]Mark Coeckelbergh, “Vulnerability, AI, and Power in a Global Context: From Being‑at‑Risk to Biopolitics in the COVID‑19 Pandemic,” in The Global Politics of Artificial Intelligence、New York: CRC, 2022年。

[19]Valentin Weber, “China’s AI-Powered Surveillance State,” Journal of Democracy 36 (4), 2025年。

[20]Dean Jackson and Samuel Woolley, “AI’s Real Dangers for Democracy,” Journal of Democracy 36 (4), 2025年。

[21]シャナ・ズボフ著、キム・ボヨン訳、『監視資本主義の時代：権力の新たなフロンティアにおける人類の未来のための闘争』、ソウル：ムナクササンサ、2021年。マーク・コッケルバーグ著、ペ・ヒョンソク訳、『人工知能はなぜ政治的でなければならないのか：AIの政治学と自由、平等、正義、民主主義、権力、動物と環境』、ソウル：センガクイウム、2023年。

[22]Eugenio V. Garcia, “Conclusions: Charting the Challenge of AI IR,” International Studies Review 26 (2), 2024年。

[23]ソン・ミョンス、「I、核戦争・感染症と同じくらい危険…AI開発者たち、人類滅亡を警告」、『キョンヒャン新聞』、2023年5月31日。https://www.khan.co.kr/article/202305311305001.

[24]レイ・カーツワイル著、イ・チュンホ訳、『ついに特異点が始まる：人類がAIと結合する瞬間』、ソウル：ビジネスブックス、2025年。

[25]ニック・ボストロム著、チョ・ソンジン訳、『スーパーインテリジェンス：経路、危険、戦略』、ソウル：カチ、2017年。

[26]Nick Bostrom, “Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards,” Journal of Evolution and Technology 9, 2002年。

[27]Nick Bostrom, “The Vulnerable World Hypothesis,” Journal of Evolution and Technology 10 (4), 2019年。

[28]Dan Hendrycks and Mantas Mazeika, “X-Risk Analysis for AI Research,” arXiv、2022年9月20日、https://doi.org/10.48550/arXiv.2206.05862。AI終末論の根底にあるより深い恐怖は、マックス・ウェーバーの鉄の檻（iron cage）の概念で捉えることができる。すなわち、近代の道具的理性の暴走、あるいは制御不能性の頂点としてAIを想像することができる。言い換えれば、AI終末論の問いは、近代性そのものが我々の主体性、実質的合理性、省察性などを貧困化させているのではないかという問題意識と通底している。Jay A. Gupta, “Welcome to the Machine: AI, Existential Risk, and the Iron Cage of Modernity,” Telos 203, 2023年、163–69頁。

[29]Nike Retzmann, “‘Winning the Technology Competition’: Narratives, Power Comparisons and the US–China AI Race,” in Comparisons in Global Security Politics、Thomas Müller他編、Bristol: Bristol University Press, 2024年、237–56頁。

[30]Seth D. Baum, Robert de Neufville, Anthony M. Barrett, and Gary Ackerman, “Lessons for Artificial Intelligence from Other Global Risks,” in The Global Politics of Artificial Intelligence、Maurizio Tinnirello編、Boca Raton, FL: Chapman and Hall/CRC, 2022年。

■著者：チャ・テソ_成均館大学校政治外交学科教授。

■ 担当・編集：イム・ジェヒョン_EAI研究員

    問い合わせ：02 2277 1683 (内線 209) | jhim@eai.or.kr