[AIと新文明標準スペシャルレポート] 経済的挑戦②：AIと世界政治の挑戦 - グローバル・サウス（Global South）とビッグテック（Big Tech）の問題

I. AIとグローバル・サウス

1. 問題提起

現在、Chat GPTに代表される人工知能（Artificial Intelligence: AI）技術は、経済はもちろん、軍事、教育、保健、文化など、社会の様々な領域で変化をもたらしており、21世紀中にその発展が加速すると予測されています。AIが経済成長を促進する可能性とともに、様々な否定的な側面も議論されています。その中で本稿は、特に人工知能技術の開発、普及、活用がすべて米国をはじめとする先進国や中国などに主導されており、グローバル・サウスが相対的に疎外されている状況に注目します。

世界政治経済秩序における先進国と途上国の格差、いわゆる南北問題は、古くから国際政治の重要な課題の一つでした。21世紀に入り情報化が進む中で、インターネットやスマートフォンに代表されるIT技術が南北格差に与える影響について、多くの分析が提起されてきました（United Nations Trade and Development (UNCTAD) 2020）。コロナ19を経て急速に進展した自動化とスマートファクトリーの拡大、オンライン商取引市場の拡大などの長期的影響を分析した研究によると、デジタル変革が途上国の発展に含意することは、肯定的および否定的な側面の両方を示す複合的な様相を呈しています（ペ・ヨンジャ 2022）。

途上国の場合、先進国に比べてデジタルインフラや技術革新レベルが低く、デジタル変革のための能力も相対的に不足しており、労働以外に活用できる資源も乏しい状況です。このような状況で、自動車など伝統的な製造業部門で進行中のデジタル変革、特に自動化とスマートファクトリーの拡散により、グローバルバリューチェーン内で途上国が担ってきた比較的単純反復的な労働が機械に代替されやすいため、途上国の地位が強化されるどころか縮小する可能性が高く、途上国と先進国の格差をさらに広げる可能性が高いです。一方で、先進国のデジタル変革が途上国にとっても成長のための機会となり得る部分も存在します。実際にメキシコなど途上国の一部地域では、グローバルバリューチェーンにさらに活発に参加することで、先進国との貿易増大による利益を享受することもありました。先進国でロボットや3Dを活用したスマートファクトリーが拡散し、生産力と輸入が増大し、これは最終製品への需要を増加させ、部品や中間財を提供する途上国との貿易が活性化されました（UNCTAD 2020）。

オンライン商取引の場合、デジタル機器とインターネットの普及により、途上国企業がオンラインマーケットを通じて供給者および生産者としてグローバルバリューチェーンに参加する機会が増えたのは事実です。途上国の零細生産者がデジタル技術を活用し、アリババ、アマゾン、イーベイ、タオバオ、メルカドリブレなどの主要オンライン商取引サイトを通じて、途上国の生産者と先進国の消費者が取引するケースが増加してきました。しかし、プラットフォームが要求する取引方式、配送方式、決済システム、返品交換方式などが、途上国企業の参加における参入障壁となっています。加えて、オンライン商取引プラットフォーム企業によるデータ独占や、それらの市場地位を悪用した略奪的な価格提示および高い手数料要求などの反競争的な政策により、途上国の零細な生産者の困難が増加しています。すなわち、デジタル変革は途上国の発展のための機会の窓として活用され得ますが、オンライン商取引企業のプラットフォーム化、データ独占、バリューチェーンの変化と雇用効果の縮小などにより、途上国の発展に否定的に作用する側面も少なくありません。

デジタル変革という大きな流れが続く中で、特に最近加速しているAI技術の発展と活用は、先進国と途上国の格差にどのような影響を与えているのでしょうか？AIによって既存の格差がさらに増幅されるのでしょうか？それともAIが途上国にとって機会の窓となり、格差を縮小するのに貢献できるのでしょうか？長期的にAIの発展と活用において途上国が疎外された場合、どのような危機が発生しうるのでしょうか？AIが途上国の発展にもたらしうる否定的な影響を最小化し、肯定的な影響を増大させるための方案は何か？ここでは、AIインフラ投資・活用の現状における先進国と途上国の違いを 살펴보고、AIと途上国に関する議論を考察しながら、AIがグローバル・サウスの世界政治経済的地位を強化できる方案を模索します。

2. AIインフラ技術投資および活用現況：先進国と途上国の格差の観点

様々な指標を通じて、AIが開発され、普及し、活用される過程で、先進国と途上国の格差がどの程度であるかを測ります。まず、AIを稼働させる上で最も基本的なインフラ指標であるインターネット普及率を 살펴봅니다。下の<図1>で示されるように、現在約80億の世界人口のうち約27億人がインターネットにアクセスできていません。特にインドの6億8千万人、中国の3億4千人がインターネットを使用できていないと 알려져おり、アフリカのサハラ以南地域のインターネット普及率が40パーセント未満、東南アジア地域のインターネット普及率が51パーセントと、非常に低い水準であることがわかります。

<図1> インターネット普及率

出典: Datareportal. 2024

2020年から加速している人工知能への投資を主導しているのも一部の先進国です。<図2>によると、2013年から2023年の間に 이루어진 AI関連投資において、米国が3300億ドルで先頭を走り、中国が約1000億ドルの規模で続いており、その他英国、イスラエル、カナダ、ドイツなどが数億ドルの投資を行っています。投資順位2位の中国から15位のスウェーデンまでの全ての投資額を合わせても、米国への投資額の半分を少し超える程度であるほど、米国の投資額は突出しています。

<図2> AI国別投資額（2013-23）

出典: HAI, Stanford. 2024.

途上国のAI関連インフラや投資不足は、自然とAI研究や特許の低調さにつながっています。AI研究の場合、米国、中国、EU諸国が主導しています。<図3>によると、2014年から2023年のAI研究（主要AI分野のピアレビュー論文）において、米国の研究機関は772,000件以上の論文を生産し、30パーセントのシェアを占めました。中国は約465,000件の論文、18パーセントのシェアを示しています。その他、英国、ドイツ、日本、そしてインド、ブラジル、イランなどがそれぞれ10,000～140,000件の論文を生産するAI研究の拠点である一方、アフリカ、南米、そしてほとんどのアジア諸国のAI研究は5パーセント未満であることが明らかになっています。AI特許においては、2010年から2022年の間に南アジア、ラテンアメリカ、サハラ以南アフリカ諸国が占める割合が1パーセント未満であり、ほとんどの特許は中国（61.1％）と米国（20.9％）に付与されました。

<図3> AI研究と特許のシェア

出典: Digital Science. 2024.

現在、広範な事例に適用できるよう、広範なデータで訓練された機械学習またはディープラーニングモデルであるGPT-4、Claude 3、およびLlama 2のような基盤モデル（Foundation model）がAIの普及を牽引しています。これらはAI研究と活用の代表的なもので、現在約150個がリリースされていますが、これを国籍別に見ると、米国が109個、中国が20個、英国が8個であり、その他UAE、カナダ、シンガポール、イスラエル、ドイツ、フィンランドなどがそれぞれ2個ずつ保有しています。

興味深い事実は、AIインフラ、投資、研究、特許、基盤モデルなど、すべての指標で先進国に比べて非常に脆弱な途上国で、ChatGPTに対する認知度や活用度が相対的に高く 나타나고 있다는点です。資料によると、特にインド、ケニア、パキスタンでChatGPTを毎日／週に利用する回答者の割合は、それぞれ75％、69％、62％と、世界全体の平均を大きく上回っており、ドイツの41％、日本の38％、英国の38％よりも高いです。これは多様に解釈できますが、新しい市場へのビッグテックの積極的な進出や、保健・教育分野で比較的少ないコストで低開発国にAIサービスが拡張できた点などが重要だったと見ることができます。Google、Microsoft、Metaなどのビッグテックは、開発途上国に研究開発センターやエンジニアリングオフィスを設立して拡張してきました（Okolo 2023）。IBMは1998年にIBM Research Indiaを設立し、その後サンパウロやリオデジャネイロ（2010年）、ナイロビ（2013年）、ヨハネスブルグ（2016年）などにも研究所を設立しました。2005年にMicrosoftはバンガロールにMicrosoft Research Indiaを開設し、ナイロビとラゴスに2つのアフリカ開発センターを開設しました。Googleは2018年にアクラ、2019年にバンガロールにAI研究所を設立しました。

重要なのは、インフラ投資の成果において脆弱性があるにもかかわらず、途上国でAIの普及と活用が期待以上に活発に行われているという事実です。また、企業や機関が生成AIを導入する割合が、米国では40％であるのに対し、中国圏31％、インドおよびラテンアメリカを含む途上国が33％となっています。AIの活用を考慮する上で、AIが途上国で機会の窓となる可能性と余地を残しています。

<図4> グローバルChatGPT活用頻度（2023）

出典: Stanford University AI Index Report. 2024.

UNCTADの報告書によると、先進国と途上国の格差は、1980年代の情報化が始まって以来、さらに広がってきました。上で 살펴본ように、先進国はAIインフラ投資、研究投資、基盤モデルなど、すべての側面を主導しており、途上国の存在感が非常に低いため、現在加速しているAI技術の開発と活用が、既存の格差を緩和する流れで進展すると楽観することは困難です。PwCは、AIが2030年までに世界経済成長に最大15兆7千億ドルに貢献できると推定しており、そのうち中国を除いたグローバル・サウス地域に与える経済的影響は1兆7千億ドルに過ぎないと主張しました。しかし、低開発国でAIを積極的に受け入れ活用する動きが見られるため、AIが低開発国の発展に総合的にどのような影響を与えるのかを見守りながら、格差を縮小するのに貢献できる方案を積極的に模索する必要があります。

<図5> 先進国・途上国格差の歴史的流れ

出典: UNCTAD, Technology and Innovation Report. 2023.

3. AIとグローバル・サウスに関する議論

1) アルゴリズム帝国主義

西側のAI主導が単なる技術発展における低開発国の疎外にとどまらず、社会、政治、文化の言説の支配と統制の様相を呈するという、いわゆるアルゴリズム帝国主義の議論が提起されてきました（Birhane 2023）。この論理によれば、伝統的な植民地主義が国家主導で進められたのに対し、アルゴリズム植民地主義は企業が主導します。前者が無差別な暴力的な支配の形態を呈するのに対し、AI時代の植民地主義は、社会問題に対する「最先端アルゴリズム」と「AI主導ソリューション」の形態をとっている点で異なります。アフリカのデジタルインフラとエコシステムの大部分は、Google、Meta、Netflix、Uberなどの西側企業が主導的に運営しています。例えば、Metaは、コンピュータビジョン技術、人口データ、高解像度衛星写真などを通じて取得したデータに基づいてアフリカの人口地図を作成する過程で、大陸内の人口に関する知識を創出し、それを制御する権威を自然に付与されることになります。データ抽出と利益最大化のために、Metaはアフリカの人々とその移動に関する情報を自由に活用するだけでなく、何が人口に関する合法的な知識であるかを権威的に決定することになります。これは単にどのような技術を使用するかが変わっただけで、過去の植民地支配を正当化するために、西側の人々が「植民地が何を必要としているのか自分たちがよりよく知っており、彼らを救済するだろう、彼らは自分たちに感謝すべきだ」と主張したことと非常に類似しています。

ナイジェリアはアフリカで比較的技術が発展した国ですが、ここですら使用されるソフトウェアの90％程度が輸入されており、これは自生的な技術開発の障壁となっています。西側が開発したAIはアフリカの問題に適していないだけでなく、西側のアルゴリズムの侵入は地域に適した製品開発を妨げる同時に、大陸を西側のソフトウェアおよびインフラに依存させることになります。例えば、西側で乳がん診断に有用に使われるマンモトームを活用したAI診断の場合、アフリカでは期待したほどの成功を収めておらず、むしろ自己診断の方がより有用であることが示されていると報じられています。西側の生活習慣と環境を背景に発展した健康関連AIシステムは、低開発国では有用性が低い可能性があるため、慎重に活用されるべきであることを示唆しています。

AIモデルとデータに内在する偏見により、西側の認識と類似した方式で問題が設定され、解答が導き出される場合が多くあります。例えば、同じ質問に対する回答をWVS（World Values Survey）およびPew Research Centerでオフラインで取得した場合と異なり、AIモデルを通じて処理した場合に出てくる結果値が西側に偏向して出てくるそうです。下の<図5>のように、民主主義と経済成長の相対的な重要性を評価する質問に対して、ロシア、インドネシア、米国でそれぞれ83％、72％、59％が経済成長を選択したのに対し、人工知能モデルは98％が経済成長を選択する結果となっています。同様の文脈で、結局は先進国企業が独占するAIシステムが知識を独占し、統制することで、途上国の「知識奴隷（knowledge slavery）」を招くという主張も提起されています（UNCTAD 2023）。

<図6> アンケート調査結果比較（2023, HAI）

出典: HAI. 2023.

西側のAIインフラおよび活用支配は、単なる技術およびデータ独占にとどまらず、西側式の認識や生活様式の拡散を伴い、これは西側モデルの正当性を無批判的に受容させることになります。低開発国の政治経済文化的な文脈が脱落したAIモデルの受容は、それらが直面している問題を解決するのに適さない場合が多く、むしろ低開発国のインフラやデータの従属を深化させる道具となる可能性が高いです。

2) 機会の窓の議論

一方で、AIが途上国が直面している様々な問題を解決するのに有用な道具となっており、AIを通じて市民の参加を奨励することで、民主主義を増大させることができるという主張も提起されてきました（Okolo 2023）。彼らはAIを途上国の発展のための機会の窓と認識し、実際のAIの積極的な活用を推奨しています。過去10年間、低開発国は伝統的な低開発問題を解決するためにAIツールを活用し始め、特に農業、医療、教育分野でAIの活用事例が増加しています。例えば、開発途上国の農民を支援するために、バナナの病気、農作物の感染病などの現場診断のためのディープラーニングモデルや、農業および森林モニタリングを支援するための画像観測システムが開発されました。保健、医療、教育分野は、AIを活用してインフラ不足を補い、コストを画期的に削減できるサービスが開発され、試験的に使用されています。インドの場合、辺地の妊婦が遠隔医療支援プログラムに継続的に参加できるよう予測モデルを構築し、ガーナで抗生物質耐性を撲滅するための臨床支援システムを作成しました。教育分野では、コロンビアの場合、様々なリスクにさらされている学生を識別するためにAIを活用しており、AIを通じてタイの学生の英語学習を強化し、西アフリカの科学教育を支援するためにAIアシスタントを活用しています。

彼らは、現在のAI慣行をより民主化し、より包括的なAIシステム開発を奨励することで、AI開発において過小代表されているコミュニティの参加を増やすことができると主張しています。現在、AIシステムの地域的特化と開発に対する要求が増加しており、この分野で活発な努力が進められています。MasakhaneやGhana NLPなどの草の根市民団体は、アフリカの言語へのアクセス性を拡大するのに役立つデータセットや機械翻訳ツールの開発を試みています。その他、Deep Learning Indaba、Khipu、AI Saturdays Lagos、Data Science Africaなどは、AI分野で現地の専門知識を構築し、アフリカとラテンアメリカのAI研究者および開発者コミュニティの成長に貢献しています。

4. AI格差がもたらす危機と対応策

途上国を排除し、少数の先進国中心にAIの開発と活用が行われる場合、世界はどのような状況に直面するのでしょうか？具体的にどのような危機が予測されるのでしょうか？<表1>で考えられる様々な危機を、先進国・途上国の経済格差、途上国のデータおよび技術的従属、社会文化的な不平等および偏見・差別の拡大、軍事的な不安定、政治的な不安定に分けて、危機の内容と対応策を以下のように整理しました。

<表1> 先進国・途上国AI格差拡大による危機と対応策

先進国と途上国の間のAI格差拡大による危機を解決するためには、先進国と途上国の個別の国家レベルの努力も重要であるが、危機を認識し、それに対応するための国際的な努力が不可欠であり、AI格差問題を緩和することに貢献するAIグローバルガバナンスを構築しなければならない。

5. AIグローバルガバナンスとグローバルサウス

AI技術がアルゴリズム植民主義を強化する余地がある一方で、特に低開発国の農業、保健、教育などの分野でAIが活発に活用される可能性もあるが、低開発国がAIが提供する機会をうまく活用するためには、解決されなければならない課題が存在する。アフリカ地域の電力およびインターネット普及率は着実に増加してきたにもかかわらず、依然としてサハラ以南地域のかなりの人口がインターネットに接続できていない。世界銀行は、辺鄙な地域に住む1億人のアフリカ人を接続するには最低1000億ドルの投資が必要と推定している。アフリカ地域へのインフラ普及がさらに拡大されなければならない。現在まで設計された最も長い海底インターネットケーブルである2Africaが展開中である。世界中で使用されている485本と推定される海底インターネットケーブルの大部分は、大規模通信会社が所有しており、Amazon、Google、Apple、Meta、Microsoftを含むビッグテック企業も海底インフラ投資を増やし、現在約30本のケーブルを共同所有している。このようなインフラ拡大が低開発地域の利益を考慮できる方策が議論されなければならない。

低開発国は収集されたデータラベリング労働を担当しており、SamaやScale AIのような企業に雇用された、東アフリカや南アジアの多くのデータ作業者やコンテンツモデレーターに対する搾取が問題視されることもある。また、ほとんどの低開発国ではデータ保護およびAI政策が不足しているため、潜在的にデータの誤用がより頻繁に起こりうる。現在、AIの負の影響に対する懸念と議論は主に先進国中心に進められているが、低開発国のこうした状況に対する積極的な関心と議論が求められる。

低開発国政府のより積極的な努力も重要である。低開発国政府は、自国のAIエコシステムの拡大を支援するために外部機関とのパートナーシップ構築を通じて現地の研究者や開発者を教育できる能力を構築し、起業家精神を奨励し、地域イノベーションを支援するAIエコシステムの生成と維持を支援しなければならない。ナイジェリアは市民にデジタル技術を提供するためにマイクロソフトとパートナーシップを結び、Googleは2017年からラテンアメリカで約800万人にデジタル技術を教育している。ブラジル、コスタリカ、インド、ジャマイカ、マレーシア、パナマ、ルワンダ、南アフリカ共和国のデジタルイノベーションイニシアチブにおいて、コンピューター活用能力、ICT技術、コーディング、デジタル市民意識、オンライン安全分野のテーマをK-12カリキュラムに統合する計画が言及されている。

AI技術の影響力が増大している状況で、低開発国がAI技術に公正にアクセスし、公平な競争と活用の場が広がる環境を 조성することが重要である。UN、World Bank、IMF、G20など、様々な国際機関が開発途上国の安定、安全保障、主権を保障すると同時に、人類の利益を増進するためのAIの促進を主張している。デジタル公共インフラシステムフレームワーク、グローバルデジタル公共インフラリポジトリ（Global Digital Public Infrastructure Repository: GDPIR）などのアイデアも提示されてきた。G20のデータギャップイニシアチブ3（DGI-3）は、開発途上国が気候変動領域で公開データセットを使用してAIモデルを運用できるように支援している。

現在、AI技術とその拡散に関連する様々な国際機関や会議で、AIの南北格差とその緩和策、途上国支援策などが継続的に議論されている一方で、AIグローバルガバナンスに途上国が参加できるよう開放し、招待することが求められる。これにより、AI格差がもたらしうる危機に対する認識を高め、それに対応するための方策を模索しなければならない。

II. AIとビッグテック企業

1. AIイノベーションと規制

大規模なデジタルプラットフォームを所有または制御する企業、いわゆるGoogle、Amazon、Apple、Meta、Microsoftなどのビッグテック企業は、ネットワーク効果に基づいて独占的なサービスを提供している。さらに、消費者の嗜好を把握し、行動を予測する上で重要なリアルタイムデータを収集・蓄積し、デジタルエコシステムの中心を形成している。Googleは200以上の国に進出し、Metaは世界的に23億人の月間ユーザーを抱え、MSのOfficeおよびWindowsのユーザーはそれぞれ12億、14億を超えた。独占に基づいて、これらの企業は莫大な財政を確保しており、S&P 500企業の時価総額の22%を占め、個々の企業の規模はカナダやイタリアのGDPを超えている。

生成AIの登場は、ビッグテックの支配力をさらに強化している。生成AIを開発するには、人材、データ、コンピューティングパワーなどが必要であるが、数万人の最高レベルの人材と膨大なデータを保有し、データを高速処理するコンピューティング容量を備えるために1万個以上のGPUを購入できる企業は、ビッグテック以外には多くない。<図7>で示されるように、現在稼働中の生成AIは、少数のビッグテックによって主導されている。

<図7>グローバル生成AI市場シェア

出典：IoT Analytics Research 2023-Generative AI Market Report. 2023-2030.

AIに関連する重要な課題は、AI技術革新と規制とのバランスをどのように取っていくかということである。ビッグテック間の競争により、AIの革新と拡散が加速される一方で、それに伴うリスクと負の側面も提起されている。AI技術は交通、保健、教育、生産など、社会の様々な領域で利点をもたらす可能性があるため、現在各国は競ってAI戦略を策定し、企業の革新を支援している。一方で、AIがもたらすリスクと問題点をいかに最小化し、規制するかについての議論も活発に進められている。最も喫緊の問題は、有害または非倫理的なAIシステム、偏見や差別を内包したシステム、あるいはサイバー戦争など、有害な目的で使用されうるシステムの開発をいかに防止し、規制するかである。また、ビッグテック企業間の激しい競争と少数企業による独占が、結局は革新を抑制し、AIの潜在的な利点を制限する可能性があるため、それに対する解決策を見出すことも重要である。AIが責任ある倫理的な方法で開発・使用され、AI技術の開発過程、活用、効果をすべてが共に共有する方向へ導くことができるAIグローバルガバナンスが求められる。

2. ビッグテック企業の役割拡大と政府との関係

AI時代において、ビッグテック企業は経済的影響力はもちろん、それに基づいてアジェンダ設定、問題解決のための議論提供、政策が実行される過程に深く関与している。ビッグテックは、問題を特定し、優先順位を決定する過程で中核的な役割を果たしている。例えば、関心を持って議論される問題について、オンラインコンテンツを活用して効果的にアジェンダを設定でき、学術および政策研究の進行にも参加して、その問題について探求し、解決策を模索する。ビッグテックは自ら研究を直接遂行したり、学術および研究機関の研究資金を支援したり、研究者間の回転ドアを活用したりすることによって研究に影響を与える。ビッグテックが自ら研究を遂行する頻度と割合が増加しており、膨大な量のデータを分析して新たな政策問題を提起する。AmazonがWashington Postを所有したり、AppleがApple Newsをリリースしたりするように、ビッグテックはメディアを直接所有することによって、コンテンツモデレーターを超えてコンテンツ提供者へと変貌しようと試みている。

過去、鉄道や道路のような基本的なインフラは政府が所有または運営していた。しかし、新しい情報インフラである検索エンジンおよびブラウザ、データサーバーおよびクラウドコンピューティング、電子メールおよびインスタントメッセージング、ソーシャルネットワーキング、アプリストア、決済システム、ビデオホスティング、地理情報およびナビゲーションサービスなどは、すべてビッグテック企業が所有している。政府は、COVID-19の時期のような特定の課題に直面した際に、ビッグテックの助けを求めるしかない。実際に多くの政府は、COVID-19管理のための政策設計のためにビッグテックの代表者を招いた。彼らの協力により、感染拡大地図を作成し、追跡ツールを設計して疾病予防政策を作成し、医薬品やワクチンを普及させることができた。ますます多様な政策領域において、ビッグテックとの協力および支援が不可欠な要素となっている。ビッグテック企業の経済社会的影響力が増大するにつれて、それらの社会的責任に対する要求も増加し、ビッグテック企業が政策サービスの直接的な供給者としてより多く参加している。低開発国の保健や教育、金融領域でビッグテックの支援活動が活発に展開されている。

生成AIの登場により、ビッグテックはアジェンダ設定や社会問題を再定義・提案することを超えて、実際の政策立案段階で解決策を提示し、意思決定者の役割まで担うようになっている。ビッグテックが歴史的に莫大な規模で国境を越えた利益を蓄積し、政治的影響力が強大になるにつれて、それらは主権に類似した地位を持つ行為者として扱われることもある。例えば、デンマーク政府はシリコンバレーで勤務する技術大使（Tech Ambassador）を任命し、ビッグテックとの関係を築き、自国の利益を代表する任務を負わせることで、ビッグテック企業が国家と同等の地位を持っているという認識を示している。一部の学者は、ビッグテックの地位が上昇するにつれて、国家との関係がどのように再設定されるのかを見守っている。

ビッグテック企業が国家に類似した企業または準国家企業として認識されるようになり、国家とビッグテックの関係がどのように設定されるのかに関心が集まっている。<図2>で示されるように、両者の関係は多様な経路で発展していくと予測される。まず、主権国家とビッグテック双方間の競争と直接的な衝突が避けられない部分がある。特に政府がビッグテックに対する規制を強化し、ビッグテックがこれに反発することで葛藤が発生しうる（competition）。一方で、政府がビッグテックを強く規制しようとする時、ビッグテックは国家との直接的な衝突を避け、できる限り政府政策に従い、一致させる戦略をとることもできる（cooption）。逆に、政府がビッグテックに対する規制を強化せず、自由市場経済の論理を掲げて放置する場合、ビッグテックと政府の関係が非常に協力的になることもある（collaboration）。ビッグテックの影響力が増大するにつれて、政府がむしろビッグテックに捕捉される場合も発生しうる（capture）。これら4つの方向性は相互排他的というよりは、重複して発生する可能性もある。

<図8>政府とビッグテック企業との関係マトリックス

出典：Khanal et al. 2024.

3. ビッグテック主導のAI開発と活用による危機および対応策

ビッグテックがAI開発を主導する際に予測される危機と対応策を、市場独占と競争制限、労働市場の変化と失業および経済的格差、データバイアスとプライバシー侵害、技術支配と民主主義への脅威、ビッグテックの国家権力への挑戦、ビッグテックのアルゴリズム帝国主義などに分け、<表2>のように整理した。

<表2>ビッグテック主導のAI技術発展がもたらす危機と対応策

4. AI規範の現状

ご存知の通り、生成AIは企業のコスト削減、データに基づいた意思決定などを可能にし、企業の生産性向上に貢献すると期待されている。生成AIは、文章、絵、音楽の創作などの分野で新しいサービスの登場を促進している。一方で、生成AIは膨大なデータを通じて学習するが、データの有限性により、時に不正確または偏った応答を生成する。生成AIが活用するデータには、機密性の高い個人またはプライバシー関連情報が含まれており、プライバシー侵害のリスクがある。生成AIは既存の著作物からデータを取得するため、知的財産権侵害の可能性が非常に高い。生成AIを活用して虚偽情報流布、世論操作などが可能である。

このように、AI技術が本来持つ多様なリスクは、AI技術の発展と活用をビッグテック企業が主導する際にさらに増幅される可能性がある。ビッグテック間の激しい市場シェア拡大と投資加速の中で、主導権競争が優先的に設定されることで、信頼でき、責任感があり、倫理的なAI技術発展という規範が遵守されにくいためである。現在、ビッグテックに対しては、主に独占禁止規制という枠組みで国内的に議論されている。国際的には、AI技術の負の側面に効果的に対応できる倫理規範を制定し、それを実行するためのAIグローバルガバナンスが求められているという広範な共通認識が形成されているが、実際に米国、欧州、中国がAI規制に対する立場が少しずつ異なっており、合意された国際規範と効果的なAIグローバルガバナンスの出現を楽観視することは難しい。

EUは2024年、人工知能法（Artificial Intelligence Act: AIA）を制定し、本格的なAI規制のための法的基盤を最も早く整備した。AIAは、人間中心で信頼できるAIの活用を促進すると同時に、AIによる有害な影響を最小化し、健康、安全、基本権および民主主義を保護することを立法趣旨としている。EU AIAは、AIシステムがユーザーに与えるリスクレベルを、許容できないリスク（unacceptable risk）、高リスク、低リスク、最小リスクに分類し、そのレベルに応じて規制の強度を異ならせた。特に、①潜在意識または欺瞞的な技術を活用して人間の意思決定を操作、②人間または特定の集団の脆弱性を活用、③人間または特定の集団に不利・不平等な扱いをしたり、社会的スコアリング（social scoring）を評価または分類したり、あるいは④公共のアクセスが可能な空間でリアルタイム遠隔生体認証技術を活用するシステムを、許容できないものと規定し、その使用を原則的に禁止した。教育、医療、軍事部門で使用され、基本権にリスクをもたらしうるAI技術は、EUが制定した新しい基準を満たす必要があり、企業はモデル開発方法を透明に公開し、被害に対して責任を負わなければならない。EUは、OpenAIのGPT-4、GoogleのGeminiのようなAIモデルがリスクをもたらしうるため、EU基準を満たすための追加作業が必要であるとして、ビッグテックを圧迫している。

EUがAI規制を最も早く法制化し、国際規範形成を主導している背景には、大規模なデジタルプラットフォームを保有する欧州独自のビッグテック企業が存在しない状況で、米国ビッグテックの欧州内活動を牽制し、安全関連基準を主導しようとする意図がある。AI技術では先行できない代わりに、AI安全規範と評価に積極的に対応している。また、AI安全のための国際標準形成を主導することで、そこから派生する安全性評価サービスおよび評価機関などを欧州内に設立しようとする期待も垣間見える。

米国の場合は、AI安全性に関して基本的に企業の自律規制が適切であるという立場を示しつつ、政府が企業の自律規制を補完するための政策を発表している。ほとんどのビッグテックは自ら倫理規範を制定して発表したが、誰もそれだけで十分だと考えてはいない。米国バイデン政権は、2022年に連邦AI権利章典（Federal AI Bill of Rights）を発表した後、2023年に「安全性・セキュリティ・信頼性のあるAIのための行政命令（Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence）」に署名した。本行政命令は、①AI安全性評価の義務化、②AIツールの安全性基準の策定、③コンテンツ認証基準の確立、④個人情報保護の強化などを中心としており、米国が連邦政府レベルでAIの開発と活用を安全かつ責任ある方法で促進し、国家安全保障、健康と安全を脅かすAI技術の開発と利用を規制するということが核心である。国立標準技術研究所（NIST）内に米国AI安全研究所（US AISI, The United States AI Safety Institute）を新設し、AIリスクを評価・緩和するための指針、ツール、ベンチマーキングなど、AIリスク管理フレームワークを運営する予定である。

米国国土安全保障部は2024年、AI安全・セキュリティ理事会（AI Safety and Security Board）を設立したが、ここにはOpenAI、Anthropic、MS、Google、NVIDIA、IBM、Adobe、AWSなど22社の自国主要AI企業のCEOを諮問委員として含んでおり、注目を集めた。米国政府がビッグテックを一方的に規制するのではなく、彼らとの協力の中で、彼らの専門性を基盤としてAI技術の安全性およびセキュリティを強化する方策を模索しようとする立場であることを示した。

最近、EUが人工知能法を制定し、米国の相当数の企業もAI学習過程で使用されたコンテンツを明示し、リスク予防措置を義務的に遵守しなければならず、リアルタイム遠隔生体認証識別システムの活用が制約を受けるようになった。これに対し、ビッグテックがそれぞれ対応策を模索する中で、米国政府もAI規範分野で欧州に主導権を奪われないための努力を傾けている。米国は2024年5月、国連に安全で信頼できるAIを促進するための決議案（Seizing the opportunities of safe, secure and trustworthy artificial intelligence systems for sustainable development）を提出し、賛成143、反対9、棄権25票で承認された。決議案は、不適切または悪意のあるAIの使用が人権に与える有害な影響と、偏ったデータによる不平等と差別の強化リスクを強調し、グローバル規範の調整が必要であるという内容を含んでいるが、拘束力は持たない。決議案は具体的に、安全なAIの開発と実装のための国際協力とグローバル合意が求められ、利害関係者間の協力と研究および技術が共有されなければならず、国家および国際レベルでの規制が発展されなければならず、AIの設計、開発、展開、使用において誤用が禁止されなければならず、先進国と途上国の間のデジタル格差解消のための技術移転と資金支援などを主張している。米国は基本的に自国ビッグテックの自律規制を認め、それを補完する政策をとると同時に、EUがAI国際規範を一方的に主導することを牽制するために、国連などを通じて国際規範の必要性を提起している。

中国も一連の原則および指針提示を通じて、AIの信頼性確保と認証体系の確立を推進している。2019年5月、「北京AI原則」を発表した。原則では、人間の福利および多様性の包容性を追求することを基本価値とするAIの開発・使用およびガバナンスに関する原則を提示した。AI開発部門では、人類のための活用、正しい目的の追求、責任性、リスク制御可能性、倫理性・透明性、多様性・包容性、開放性という7つの原則を、AI使用部門では、使用に対する責任、人権とデータ管理、教育訓練など3つの原則を、AIガバナンス部門では、雇用最適化、AIエコシステムの調和・協力、適切な規制、細分化された指針、長期戦略策定など5つの原則を提示した。国際的には、2023年の一帯一路サミットでグローバルAIガバナンスイニシアチブを提案し、AI開発においてすべての国が同等の権利と機会を持つことを촉求し、技術的独占と一方的な強圧的措置に反対した。

中国は、米国ビッグテックの技術独占を牽制するために、各国の同等の権利と機会を強調しながら、国内AI企業のためのガイドラインを提示して規範を整備しつつ、自国AI企業に対する支援をさらに強調している。中国企業が無分別な顔認識技術の活用で批判された後、顔認識技術適用安全管理規定の草案を発表した。生成AIの虚偽情報生成と偏向性、世論扇動の危険性を遮断することが急務だと判断し、生成型人工知能サービス管理に関する暫定措置を 마련した。中国におけるAI規範や規制が、やや防御的な様相を呈していることがわかる。

英国は2023年、ブレッチリー・パーク（Bletchley Park）で開催された第1回AI安全サミット（AI Safety Summit）で、人工知能の潜在的なリスクに対する共同対応を 촉求するブレッチリー宣言（Bletchley Declaration）を発表した。人間中心で、信頼でき、責任あるAIを保証するために、迅速かつ適切な規制措置についての合意を模索し、 마련することが会議の核心議題である。会議には韓国をはじめとする28カ国（オーストラリア、ブラジル、カナダ、チリ、中国、欧州連合、フランス、ドイツ、インド、インドネシア、アイルランド、イスラエル、イタリア、日本、ケニア、サウジアラビア、オランダ、ナイジェリア、フィリピン、ルワンダ、シンガポール、スイス、トルコ、ウクライナ、UAE、英国、米国）が参加し、AI安全と関連して共同で協力することを表明した。英国は、米国、中国はもちろん、途上国が参加するAI関連の安全性に関する国際会議を主導することで、米国や中国中心のAI技術開発と拡散を牽制し、より代表性があり、強固な国際的連帯を形成するために努力している。

AI技術を巡る各国間の激しい競争と規範に対するやや異なる立場により、国際的に合意された規範やガバナンスが出現することには困難が予想される。しかし、AIの安全性や信頼性の確保と、それらの管理、ビッグテック規制などのためのグローバルAIガバナンスが必要であるという共通認識が広まっており、既存の国際機関のうちどの形態がAI分野で最も適しているかについての議論が進められている。最近のある報告書は、民間航空運行（The International Civil Aviation Organization: ICAO）、核と原子力エネルギー（The European Organization for Nuclear Research: CERN; The International Atomic Energy Agency: IAEA）、気候変動（The Intergovernmental Panel on Climate Change: IPCC）、国際決済システムの管理のための既存国際機関（The Bank for International Settlements: BIS; Financial Stability Board: FBS; Financial Action Task Force: FATF）などを事例として比較している。すなわち、関連情報の交換、協力促進、モニタリングと強制力の機能をすべて行使できる原子力、民間航空、国際決済システムなどが、グローバルAIガバナンスの適切な候補として提示されている。

<図9>グローバルAIガバナンス 유형比較

出典: Microsoft. 2024.

現在まで、少数の先進国の巨大テック企業がAI技術の開発と活用を主導しており、国内的には巨大テックの独占と国際的には先進国・途上国の格差拡大に対する懸念が高まっている。このような状況とAI技術が提起する安全性と信頼性リスクに対する認識の高まりが相まって、各国はAI技術に対する規制を整備しており、グローバルAI規範やガバナンスの議論も進行中である。AI技術の開発速度と活用は、これらの議論をはるかに先行しており、AI技術を巡る不確実性を低減させていない。AI技術はもちろん、AI規範を巡る主要国間の競争と立場の違いが明らかになるにつれて、AI規範とガバナンスの行方について楽観することは難しい状況である。しかし、AI技術発展の持続的な加速が予測される状況において、倫理性、信頼性、安全性といった問題はさらに鋭く顕在化するであろうし、AI技術による格差も国際社会が共に解決していくべき重要な課題として浮上するであろう。AI技術開発で先頭を争う巨大テック企業間の激しい競争、自国巨大テック企業の優位を支援する範囲内でAIの安全性と責任性に関する規範を整備しようとする米国政府の努力、米国巨大テック企業を牽制しつつAI規範整備に向けた国際的努力を主導しようとするEUおよび英国政府の動向、米国巨大テック企業を牽制し、自国AI企業を積極的に支援しながら顔認識や生成AI管理指針などを制定して対応している中国、先進国中心に行われるAI技術と規範制定の努力を批判し、AI格差への関心を要請するグローバルサウスの立場などのダイナミックな相互作用の中で、AI技術開発の方向性とガバナンスについての模索が進められるであろう。■

参考文献

ペ・ヨンジャ. 2022. 「コロナ19とデジタル経済：グローバルバリューチェーンと途上国発展の観点」 EAIワーキングペーパー. 2月9日. https://www.eai.or.kr/...kor_workingpaper.

Birhane, Abeba. 2020. 「アフリカのアルゴリズム的植民地化」 SCRIPTed 17, 2: 389. https://script-ed.org/?p=3888.

Draux, Hélène. 2024. 「人工知能に関する研究 – グローバルな分断」 Digital Science, 1月4日. https://www.digital-science.com/...divides/.

Huw, Roberts, Emmie Hine, Mariarosaria Taddeo, and Luciano Floridi. 2024. 「グローバルAIガバナンス：障壁と前進への道」 International Affairs 100, 3: 1275-1286. https://doi.org/10.1093/ia/iiae073.

Kemp, Simon. 2024. 「2024年のインターネット利用」 Datareportal, 1月31日. https://datareportal.com/...adoption

Khanal, Shaleen, Hongzhou Zhang, and Araz Taeihagh. 2024. 「政策プロセスにおけるビッグテックの力の増大とその理由：生成AIの事例」 Policy and Society, puae012. https://doi.org/10.1093/polsoc/puae012.

Smith, Brad, and Natasha Crampton. 2024. 「グローバルガバナンス：AIの目標と教訓」 Microsoft, 5月17日. https://blogs.microsoft.com/...ai/.

Stanford Human-Centered Artificial Intelligence (HAI). 2024. 「AIインデックスレポート2024」 https://aiindex.stanford.edu/...Report.pdf.

Maslej, Nestor, Loredana Fattorini, Raymond Perrault, Vanessa Parli, Anka Reuel, Erik Brynjolfsson, John Etchemendy, Katrina Ligett, Terah Lyons, James Manyika, Juan Carlos Niebles, Yoav Shoham, Russell Wald, and Jack Clark. 2024. 「AIインデックス2024年次報告書」 AI Index Steering Committee, Institute for Human-Centered AI, Stanford University, 4月. https://aiindex.stanford.edu/report/.

Okolo, Chinasa. 2023. 「グローバルサウスにおけるAI：より包摂的なガバナンスに向けた機会と課題」 Brookings, 11月1日. https://www.brookings.edu/...governance/.

UN Trade and Development (UNCTAD). 2023. 「テクノロジー・イノベーション・レポート2023」 https://unctad.org/tir2023.

_________. 2020. 「世界投資報告2020」 https://unctad.org/...2020.

World Bank. 2020. 「世界開発報告2020：グローバルバリューチェーン時代の貿易による発展」 https://www.worldbank.org/...wdr2020.

■ ペ・ヨンジャ、建国大学政治学科教授。

■ 担当および編集：パク・ジス、EAI研究員

   問い合わせおよび編集: 02 2277 1683 (内線208) | jspark@eai.or.kr