[AIと新文明標準スペシャルレポート] 序論

I. なぜAIなのか？

近代人類文明は、米中戦略競争を中心とした強国間の地政学的対立、保護主義の拡散とサプライチェーンの分断の中で地球化の逆進と自由主義国際経済秩序の大混乱、気候危機と感染症・保健危機、核拡散および核テロの可能性増大、制御されない技術競争など、重大な挑戦に直面している。現在のように人類が狭い国家利益を追求する主権の泥沼から抜け出せず、大国中心の陣営対立を続けるならば、地球全体が絶滅の危機的状況に直面する可能性もある。

このような未来変化の中心には、人工知能（Artificial Intelligence: AI）が位置している。AIは「可能にする技術（enabler）」であり、「能力増幅器（force multiplier）」の役割を果たし、他の技術の変化と能力を特徴づける基盤（enabling）技術、あるいはメタ技術と規定できる。したがって、自ら革新の速度を倍加させながら、既存の問題を悪化させたり、あるいは問題に新たな突破口を開いたりもする。AIは核、武器体系と結合して破壊的な結果をもたらしたり、AI技術エコシステムの掌握を巡る強国主導の世界経済の分断、地球的格差の加速化をもたらす可能性がある。国内的には、巨大企業（Tech Giant）の独占体制深化、労働市場の不均衡と失業、権威主義体制の公固化、特定の価値や信念、目標を巡る社会の分節化などにより、引き起こされると展望される。一方で、AI技術革新によって経済的便益を最大化しつつ、環境や保健など一見持続不可能な問題に対する解決の糸口を提供することもできる。このような点で、AI技術の発展方向は、今後の人類社会の存立と繁栄を左右する主要な基盤変数と見なすことができる。

東アジア研究所（East Asia Institute: EAI）の研究チームは、未来世界秩序変化の核心変数としてAI技術革新による軍事安全保障領域と政治経済領域のマクロ変化過程を体系的に分析している。この作業は、米中のAI軍事化と武器化競争、AI商業モデルの創出と地球的サプライチェーン構築競争、ビッグテック企業の独占的影響力の拡大および政府・企業関係の変化、AI技術規制に向けた集合的対応に分けて分析されるだろう。このプロジェクトは、今後の世界秩序変化のシナリオを提示し、究極的にはAI技術の破壊的な影響を制御・管理するために、強国だけでなく多次元的利害関係者の立場を反映する地球共治体制（共治體制）を樹立する道を探求することを目指すものである。

II. AIの技術的特徴は何か？

先端技術としてのAIは、独特の性格を持っている。第一に、人間の知能を模倣したAI技術の特性上、悪用の破局的効果は包括的であり、汎用人工知能（Artificial General Intelligence: AGI）、超人工知能（Super Artificial Intelligence: SAI）などに発展する場合、技術の制御不能性という根本的な問題を抱えている。第二に、人工知能は「便益／革新性」と「危機」の両側面を共有する。人工知能の軍事化、悪用、制御不能の危機が存在するにもかかわらず、便益・革新性のために制御と規制が困難である。第三に、人工知能は国家だけでなく個人、企業、社会集団など多様な利害関係者（multi-stakeholderism）が存在する。したがって、国家主導の規制、制御だけでは人工知能技術開発の将来を形成し、制御することは難しい。第四に、気候変動／環境危機、核戦争、感染症／保健危機などの国際政治的危機は、各分野に限定された破局防止協力に集中する必要があるが、人工知能は個人、社会、国家、地球の全ての次元と、軍事、経済、イデオロギー、政治など全ての分野に革命的な影響を及ぼすため、規制と制御、新たな地球共治体制の 마련において、中層性、包括性、複合性の問題が存在する。最後に、AI技術の未来、技術がもたらす個人、社会、国家、国際政治の変化過程は、まだ始まったばかりである。中長期的な未来の変化を予測することが困難な無限の潜在力と爆発力が存在する。

III. AIがもたらす軍事的・経済的秩序の変化

本研究チームは、今後の米中デリスキング（de-risking）競争が進む中で、AIの軍事的利用とAI商業化モデルの構築を巡り、米中両国が激しく争う中でAIエコシステムが分断されると見ている。また、このような競争が進む際、インフラ、演算能力（computation power）、基盤モデル、アプリケーションなどの次元で確実な優位を持つ米国が主導的な地位を占めるだろうが、激しい競争の余波で技術的革新を通じた問題解決を追求する加速主義者たちの声が、米中をはじめとする主要国の政策サークルで力を得ると予測した。

主要国間のAI技術競争の中で、政治経済次元で分断が進み、経済ブロック化の可能性も高まるだろう。技術、産業、経済、政治など全ての次元で多面的かつ多層的な競争が繰り広げられ、対立が激化する可能性がある。また、既存の経済的相互依存が武力行使を抑制する効果がブロック化によって失われた中で、AIの軍事的利用が引き起こしうる潜在的問題（例：核の絡み合いとデュアルユース、ブラックボックス問題による意図しないエスカレーションと戦争勃発）が顕在化し、台湾、北朝鮮、南・東シナ海などインド太平洋地域内の地政学的火種（flashpoint）で実際の武力衝突および戦争が発生する可能性が高まるだろう。

その過程で、グローバルサウスは、以前とは比較にならないほど大きく開いた先進国との政治・経済・社会的な格差の中で、データ、経済、技術的従属および政治的不安に陥る可能性が高い。同時に、グローバルサウス諸国の脆弱な安全保障体制を悪用し、国家の重要インフラおよび金融システムが攻撃され、深刻な不安定化を招く可能性もある。さらに、AI競争をリードするビッグテックが市場独占、労働市場の掌握と大規模失業、データバイアスおよびプライバシー侵害、国家権力に挑戦する様相を見せ、制御不能な新たな覇権勢力として登場する可能性もある。したがって、現在のAI競争の様相が続く場合、人類は近い将来、非常に深刻な危機に直面することになるだろう。

IV. 未来シナリオと新文明標準

AIの軍事化、経済的分断、AI悪用事例の爆増、さらにはAIによる人類従属の危険性が現実化する場合、未来世界秩序はどのように展開されるだろうか。本研究が示すように、未来秩序はAI技術が牽引する変化と既存秩序の力学が複合する形で現れるだろう（図1）。

<図1> AIの分野別発展と未来秩序変換シナリオ

これは、（1）地球的リーダーシップが不在の中で、強国、新興国などの主権的競争によって国際規範と秩序（経路1）、制度が混乱に陥り、分節化、分断、対立が顕著になった国際体制の登場、（2）強国間の影響力競争、技術覇権、戦略的優位占有競争とともに、地球的課題に対する一定の協力を基盤とした相互共存体制（経路2）、（3）国家、非国家行為者たちの民主的・多次元的参加を通じた包括的・複合的な地球共治体制の登場となるだろう（経路3）。今回のスペシャルレポートシリーズは、以上のシナリオの背景となる論理と理論を提示し、究極的には未来の新文明標準に合致する世界秩序構築に向けた設計図を模索するものである。■

■ キム・ヤンギュ_EAI主任研究員。ソウル大学政治外交学部講師。

■ ソン・ヨル_EAI院長。延世大学国際学大学院教授。

■ チョン・ジェソン_EAI国家安保研究センター所長。ソウル大学政治外交学部教授。

■ ハ・ヨウソン_EAI理事長。ソウル大学名誉教授。

■ 担当および編集:パク・ジス、EAI研究員

   問い合わせおよび編集: 02 2277 1683 (ext. 208) | jspark@eai.or.kr