[AI与新文明标准特别报告] 经济挑战②：AI与世界政治的挑战 - “全球南方”与“大型科技”议题

一、AI与“全球南方”

1. 问题提出

当前，以ChatGPT为首的人工智能（Artificial Intelligence: AI）技术正在引发经济乃至军事、教育、保健、文化等社会各领域的变革，并预计在21世纪得到加速发展。除了AI可能促进经济增长的潜力之外，也存在各种负面因素的讨论。本文特别关注的是，AI技术的开发、普及和利用主要由美国等发达国家和中国主导，而“全球南方”相对被边缘化的情况。

在世界政治经济秩序中，发达国家与发展中国家之间的差距，即所谓的南北问题，长期以来一直是国际政治的重要议题之一。进入21世纪，随着信息化进程的推进，关于互联网和智能手机等IT技术对南北差距影响的分析已有很多（United Nations Trade and Development (UNCTAD) 2020）。根据对新冠疫情期间加速的自动化、智能工厂扩大以及在线交易市场扩大等中长期影响的研究，数字化转型对发展中国家发展的意义呈现出积极和消极两方面并存的复杂态势（裵英子 2022）。

发展中国家在数字基础设施或技术创新水平方面低于发达国家，在数字化转型方面的能力也相对不足，可利用的资源除了劳动力之外也十分匮乏。在这种情况下，随着汽车等传统制造业部门的数字化转型，特别是自动化和智能工厂的扩散，发展中国家在全球价值链中承担的相对简单重复的劳动很容易被机器取代，因此发展中国家的地位很可能缩小而非增强，并可能进一步拉大发展中国家与发达国家的差距。另一方面，发达国家的数字化转型也存在为发展中国家带来增长机会的部分，实际上墨西哥等发展中国家的一些地区通过更积极地参与全球价值链，也获得了与发达国家贸易增长带来的利益。随着发达国家机器人或3D技术应用的智能工厂的扩散，生产力和进口增加，这会增加最终产品的需求，从而促进了与提供零部件或中间产品的欠发达国家的贸易（UNCTAD 2020）。

在在线交易方面，随着数字设备和互联网的普及，发展中国家企业通过在线市场参与全球价值链的机会确实有所增加。发展中国家的小型生产者利用数字技术，通过阿里巴巴、亚马逊、eBay、淘宝、Mercado Libre等主要在线交易网站与发达国家消费者进行交易的情况日益增多。然而，平台要求的交易方式、配送方式、支付系统、退换货方式等成为发展中国家企业参与的壁垒。此外，在线交易平台企业的数据垄断以及它们滥用市场地位的掠夺性定价和高额佣金要求等反竞争政策，加剧了发展中国家小型生产者的困难。也就是说，数字化转型虽然可以成为发展中国家发展的机会之窗，但由于在线交易企业的平台化、数据垄断、价值链的变化和就业效应的缩减等因素，对发展中国家发展产生负面影响的方面也不少。

在数字化转型的宏大趋势下，特别是近期加速发展的AI技术的发展和应用，对发达国家与发展中国家之间的差距产生了怎样的影响？AI会加剧现有的差距吗？还是AI会成为发展中国家的机会之窗，为缩小差距做出贡献？从长远来看，如果发展中国家在AI发展和应用中被边缘化，会发生什么危机？本文旨在探讨如何最大限度地减少AI对发展中国家发展的负面影响，并扩大积极影响。在此，我们将考察AI基础设施投资和利用现状中发达国家与发展中国家的差异，并审视关于AI与发展中国家的各种论调，以寻求AI能够加强“全球南方”世界政治经济地位的途径。

2. AI基础设施技术投资及利用现状：发达国家与发展中国家差距视角

通过各种指标，我们来衡量AI在开发、普及和利用过程中发达国家与发展中国家之间的差距。首先，我们考察作为驱动AI最基本的基础设施指标——互联网普及率。如下图1所示，目前全球约80亿人口中约有27亿人无法接入互联网。特别是印度有6.8亿人，中国有3.4亿人无法使用互联网，而撒哈拉以南非洲地区的互联网普及率低于40%，东南亚地区的互联网普及率仅为51%，非常低。

图1 互联网普及率

来源：Datareportal. 2024

自2020年以来加速的人工智能投资也主要由部分发达国家主导。根据图2，在2013年至2023年期间的AI相关投资中，美国以3300亿美元领先，中国以约1000亿美元紧随其后，此外英国、以色列、加拿大、德国等也进行了数百亿美元的投资。即使将排名第二的中国到排名第十五的瑞典的所有投资额加起来，也仅略高于美国投资额的一半，美国的投资额是压倒性的。

图2 AI国家别投资额（2013-23）

来源：HAI, Stanford. 2024.

发展中国家在AI相关基础设施或投资的不足，自然导致AI研究和专利的低迷。AI研究方面，美国、中国和欧盟国家处于领先地位。根据图3，在2014-2023年的AI研究（核心AI领域的同行评审论文）中，美国研究机构发表了超过772,000篇论文，占30%的份额；中国发表了约465,000篇论文，占18%的份额。此外，英国、德国、日本以及印度、巴西、伊朗等国家是AI研究的据点，分别发表了10,000至140,000篇论文，而非洲、南美洲和亚洲大部分国家的AI研究占比不到5%。在AI专利方面，2010-2022年间，南亚、拉丁美洲和撒哈拉以南非洲国家占比不到1%，而大部分专利授予了中国（61.1%）和美国（20.9%）。

图3 AI研究和专利比重

来源：Digital Science. 2024.

目前，GPT-4、Claude 3和Llama 2等基础模型（Foundation model）——即为广泛应用而针对海量数据进行训练的机器学习或深度学习模型——正在引领AI的普及。这些模型代表了AI的研究和应用，目前已发布约150个，按国籍来看，美国拥有109个，中国拥有20个，英国拥有8个，此外阿联酋、加拿大、新加坡、以色列、德国、芬兰等各拥有2个。

有趣的是，在AI基础设施、投资、研究、专利、基础模型等所有指标上都远不如发达国家的欠发达国家，对ChatGPT的认知度和利用率却相对较高。数据显示，特别是印度、肯尼亚、巴基斯坦每周使用ChatGPT的受访者比例分别为75%、69%、62%，远超全球平均水平，也高于德国（41%）、日本（38%）、英国（38%）。这可以从多个角度解读，但大型科技公司积极进入新市场以及在保健和教育领域以相对较低的成本向欠发达国家扩展AI服务被认为是重要原因。谷歌、微软、Meta等大型科技公司通过在发展中国家设立研发中心或工程办公室来扩展业务（Okolo 2023）。IBM于1998年成立了IBM Research India，之后又在圣保罗和里约热内卢（2010年）、内罗毕（2013年）、约翰内斯堡（2016年）等地设立了研究所。2005年，微软在班加罗尔开设了Microsoft Research India，并在内罗毕和拉各斯开设了两个非洲开发中心。谷歌于2018年在阿克拉、2019年在班加罗尔设立了AI研究所。

重要的是，尽管在基础设施投资成果方面存在不足，但发展中国家AI的普及和利用却比预期的更为活跃。此外，企业或机构引入生成式AI的比例，在美国为40%，而中国为31%，包括印度和拉丁美洲在内的发展中国家为33%。考虑到AI的应用，AI为发展中国家提供了成为机会之窗的可能性和空间。

图4 全球ChatGPT使用频率（2023）

来源：Stanford University AI Index Report. 2024.

根据UNCTAD的报告，发达国家与发展中国家的差距自1980年代信息化开始以来不断扩大。如上所述，发达国家在AI基础设施投资、研究投资、基础模型等所有方面都处于主导地位，而发展中国家的存在感非常低，因此很难乐观地认为当前加速的AI技术开发和应用将朝着缩小现有差距的方向发展。普华永道（PwC）估计，到2030年AI可能为全球经济增长贡献高达15.7万亿美元，其中不包括中国在内，“全球南方”地区的影响仅为1.7万亿美元。然而，欠发达国家积极接受和利用AI的态势表明，我们应密切关注AI将对欠发达国家发展产生何种综合影响，并积极寻求能够缩小差距的途径。

图5 发达国家与发展中国家差距的历史趋势

来源：UNCTAD, Technology and Innovation Report. 2023.

3. 关于AI与“全球南方”的论调

1) 算法帝国主义

西方主导AI不仅导致欠发达国家在技术发展上被边缘化，还出现了所谓的“算法帝国主义”论调，即在社会、政治、文化话语上形成支配和控制的态势（Birhane 2023）。根据这一逻辑，传统殖民主义是以国家为主导的，而算法殖民主义则以企业为主导。前者采取无差别的暴力支配形式，而AI时代的殖民主义则以“尖端算法”和“AI主导的解决方案”的形式应对社会问题，这一点有所不同。非洲的数字基础设施和生态系统的绝大部分由谷歌、Meta、Netflix、Uber等西方企业主导运营。例如，Meta在通过计算机视觉技术、人口数据和高分辨率卫星图像获取的数据基础上，在绘制非洲人口地图的过程中，自然获得了创造和控制非洲大陆人口知识的权威。为了提取数据和最大化利润，Meta不仅可以随意利用非洲人及其移动信息，还权威性地决定什么是关于人口的合法知识。这仅仅是使用的技术不同，与过去西方殖民者为了正当化殖民统治而声称自己更了解殖民地需要什么，将拯救他们，他们应该感谢自己，这一点非常相似。

尼日利亚是非洲技术相对发达的国家，但即使在这里，使用的软件中约90%是进口的，这成为了自主技术开发的障碍。西方开发的AI不仅不适合非洲的问题，而且西方算法的入侵也阻碍了本地产品的开发，同时使非洲大陆依赖于西方软件和基础设施。例如，在西方用于诊断乳腺癌的乳房钼靶检查AI诊断，在非洲的成功率不如预期，反而自我诊断被认为更有效。这表明，以西方生活习惯和环境为背景开发的健康相关AI系统在欠发达国家可能效用较低，应谨慎使用。

AI模型和数据中固有的偏见导致问题设定和解决方案的得出方式与西方观念相似。例如，据说当使用AI模型处理与离线获取的WVS（World Values Survey）和Pew Research Center相同的调查问题时，得出的结果会偏向西方。如下图5所示，在评估民主与经济增长相对重要性的问题上，俄罗斯、印度尼西亚、美国分别有83%、72%、59%选择了经济增长，而人工智能模型则有98%选择了经济增长。在类似的情况下，也有观点认为，最终由发达国家企业垄断的AI系统将垄断和控制知识，从而导致发展中国家的“知识奴役”（UNCTAD 2023）。

图6 调查结果比较（2023, HAI）

来源：HAI. 2023.

西方在AI基础设施和应用方面的支配地位，不仅是技术和数据的垄断，还伴随着西方观念或生活方式的传播，这使得人们无批判地接受西方模式的合理性。接受脱离欠发达国家政治经济文化背景的AI模型，往往不适合解决它们所面临的问题，反而可能加剧欠发达国家基础设施或数据的依赖性。

2) 机会之窗论调

另一方面，也有观点认为AI可以成为解决发展中国家面临的各种问题的有用工具，并通过鼓励公民参与来扩大民主（Okolo 2023）。他们将AI视为发展中国家发展的机会之窗，并积极推荐AI的应用。过去十年，欠发达国家开始利用AI工具解决传统的欠发达问题，特别是在农业、医疗和教育领域，AI的应用案例不断增加。例如，为了支持发展中国家的农民，开发了用于现场诊断香蕉病、农作物病虫害等的深度学习模型，以及用于农业和森林监测的图像观察系统。在保健、医疗和教育领域，开发并试验了利用AI弥补基础设施不足、大幅降低成本的服务。例如，在印度，构建了预测模型，使偏远地区的孕妇能够持续参与远程医疗支持项目；在加纳，建立了临床支持系统以对抗抗生素耐药性。在教育领域，哥伦比亚利用AI识别面临各种风险的学生，通过AI加强泰国学生的英语学习，并利用AI助教支持西非的科学教育。

他们认为，可以通过民主化当前的AI实践，鼓励开发更具包容性的AI系统，并增加在AI开发中代表性不足的社区的参与。目前，对AI系统的区域特化和开发的需求正在增加，并且该领域正在积极开展努力。Masakhane和Ghana NLP等基层公民团体正在尝试开发有助于扩大非洲语言可及性的数据集和机器翻译工具。此外，Deep Learning Indaba、Khipu、AI Saturdays Lagos、Data Science Africa等组织正在构建AI领域的本地专业知识，并为非洲和拉丁美洲AI研究者和开发者社区的成长做出贡献。

4. AI差距带来的危机与应对方案

如果AI的开发和利用主要由少数发达国家进行，而将发展中国家排除在外，世界将面临怎样的局面？具体来说，可以预测到哪些危机？在表1中，我们将可以设想的各种危机分为发达国家-发展中国家经济差距、发展中国家的数据和技术依赖、社会文化不平等及偏见歧视的扩大、军事不稳定、政治不稳定，并对危机内容和应对方案进行了如下整理。

表1 发达国家-发展中国家AI差距扩大引发的危机与应对方案

为解决发达国家与发展中国家之间人工智能差距扩大带来的危机，不仅需要发达国家和发展中国家各自的努力，更需要对危机有清醒认识并积极应对的国际努力，并建立有助于缓解人工智能差距问题的全球人工智能治理体系。

5. 全球人工智能治理与全球南方

尽管人工智能技术可能加剧算法殖民主义，但人工智能在低收入国家农业、卫生、教育等领域仍有广泛的应用潜力，然而，低收入国家要充分利用人工智能提供的机遇，仍面临诸多挑战。尽管非洲地区的电力和互联网普及率持续提高，但撒哈拉以南非洲仍有大量人口无法接入互联网。世界银行估计，连接撒哈拉以南非洲1亿偏远地区居民需要至少1000亿美元的投资。非洲地区的基础设施普及需要进一步扩大。目前正在部署的2Africa是迄今为止设计最长的海底互联网电缆。全球约485条海底互联网电缆中的大部分由大型电信公司拥有，包括亚马逊、谷歌、Meta和微软在内的科技巨头也在增加海底基础设施投资，目前共同拥有约30条电缆。需要讨论如何考虑低收入地区在这些基础设施扩张中的利益。

低收入国家承担着数据标注的劳动，并且像Sama和Scale AI这样的公司雇佣了许多东非和南亚的数据工作者和内容审核员，他们的剥削问题也受到了关注。此外，由于大多数低收入国家缺乏数据保护和人工智能政策，数据滥用的可能性可能会增加。目前，对人工智能负面影响的担忧和讨论主要集中在发达国家，因此，迫切需要关注和讨论低收入国家面临的这些情况。

低收入国家政府更积极的努力也至关重要。低收入国家政府应通过与外部机构建立伙伴关系，培养培训本地研究人员和开发人员的能力，并支持人工智能生态系统的创建和维护，以鼓励创业精神和支持本地创新。尼日利亚与微软合作，为公民提供数字技能；谷歌自2017年以来已在拉丁美洲培训了约800万人掌握数字技能。巴西、哥斯达黎加、印度、牙买加、马来西亚、巴拿马、卢旺达和南非的数字创新倡议中，提到了将计算机素养、信息通信技术技能、编码、数字公民意识和在线安全等主题纳入K-12课程的计划。

随着人工智能技术影响力的不断增强，为低收入国家公平获取人工智能技术，创造公平竞争和利用的环境至关重要。联合国、世界银行、国际货币基金组织、G20等各种国际组织主张促进人工智能发展，以保障发展中国家的稳定、安全和主权，同时增进人类福祉。还提出了数字公共基础设施系统框架、全球数字公共基础设施存储库（Global Digital Public Infrastructure Repository: GDPIR）等理念。G20的数据差距倡议3（DGI-3）正在支持发展中国家利用气候变化领域的数据集来运行人工智能模型。

在当前与人工智能技术及其传播相关的各种国际组织和会议中，人工智能南北差距及其缓解措施、对发展中国家的支持措施等问题持续得到讨论，同时，要求开放和邀请发展中国家参与全球人工智能治理。通过这一点，应提高对人工智能差距可能带来的危机的认识，并寻求应对措施。

II. 人工智能与大型科技公司

1. 人工智能创新与监管

拥有或控制大规模数字平台的公司，即谷歌、亚马逊、苹果、Meta、微软等大型科技公司，基于网络效应提供垄断服务。此外，它们收集和积累了识别消费者偏好和预测其行为的重要实时数据，并构成了数字生态系统的核心。谷歌已进入200多个国家，Meta拥有23亿月活跃用户，微软的Office和Windows用户分别超过12亿和14亿。基于垄断，它们获得了巨额资金，占标普500公司市值的22%，单个公司的规模甚至超过了加拿大和意大利的GDP。

生成式人工智能的出现进一步加强了大型科技公司的支配地位。开发生成式人工智能需要人力、数据和计算能力，而能够拥有数万名顶尖人才、海量数据并具备快速处理数据的计算能力，能够购买万台以上GPU的公司，除了大型科技公司之外寥寥无几。如图7所示，目前运行的生成式人工智能主要由少数大型科技公司主导。

图7 全球生成式人工智能市场份额

来源：IoT Analytics Research 2023-Generative AI Market Report. 2023-2030.

人工智能的一个重要议题是如何平衡人工智能技术创新与监管。尽管大型科技公司之间的竞争加速了人工智能的创新和传播，但其带来的风险和负面影响也日益显现。由于人工智能技术能在交通、医疗、教育、生产等社会各个领域带来益处，目前各国都在争相制定人工智能战略并支持企业创新。另一方面，如何最小化和监管人工智能带来的风险和问题也正在积极讨论中。最紧迫的问题是如何防止和监管有害或不道德的人工智能系统、内含偏见或歧视的系统，以及可能被用于恶意目的（如网络战争）的系统。此外，寻找解决方案以应对大型科技公司之间激烈的竞争和少数公司造成的垄断可能抑制创新并限制人工智能的潜在优势也同样重要。需要建立全球人工智能治理体系，以确保人工智能得到负责任和合乎道德的开发和使用，并使所有人都能共享人工智能技术的开发、利用和成果。

2. 大型科技公司角色的扩大及与政府的关系

在人工智能时代，大型科技公司不仅在经济上具有影响力，而且以此为基础，在议程设置、提供问题解决方案的讨论、政策执行过程中发挥着重要作用。大型科技公司在识别问题和确定优先事项方面发挥着核心作用。例如，它们可以通过在线内容有效地设置议程，讨论热门问题，并参与学术和政策研究，以探索和寻找解决方案。大型科技公司通过自行开展研究、资助学术和研究机构的研究或利用研究人员的流动性来影响研究。大型科技公司自行研究的频率和比例正在增加，并通过分析海量数据提出新的政策问题。就像亚马逊拥有《华盛顿邮报》或苹果推出Apple News一样，大型科技公司试图通过直接拥有媒体来超越内容仲裁者，成为内容提供者。

过去，铁路和公路等基本基础设施由政府拥有或运营。然而，新的信息基础设施，如搜索引擎和浏览器、数据服务器和云计算、电子邮件和即时消息、社交网络、应用商店、支付系统、视频托管、地理信息和导航服务等，完全由大型科技公司拥有。在面临像新冠疫情这样的特定挑战时，政府不得不请求大型科技公司的帮助。事实上，许多政府邀请了大型科技公司的代表来设计应对新冠疫情的政策。他们的合作使得创建疫情传播地图、设计追踪工具、制定疾病预防政策以及分发药物和疫苗成为可能。在越来越多的政策领域，与大型科技公司的合作和支持已成为必不可少的要素。随着大型科技公司经济和社会影响力的增强，对其社会责任的要求也在增加，并且大型科技公司越来越多地作为政策服务的直接提供者参与其中。在低收入国家的卫生、教育和金融领域，大型科技公司的支持活动正在蓬勃发展。

随着生成式人工智能的出现，大型科技公司不仅在议程设置和重新定义和提出社会问题方面发挥作用，而且开始在实际政策制定阶段提出解决方案并扮演决策者的角色。随着大型科技公司积累了史无前例的巨额跨境利润并拥有强大的政治影响力，它们有时被视为拥有与主权相似地位的行为者。例如，丹麦政府任命了一位驻硅谷的技术大使（Tech Ambassador），负责与大型科技公司建立联系并代表本国利益，这表明了对大型科技公司拥有与国家相似地位的认识。一些学者正在关注随着大型科技公司地位的提升，它们与国家的关系将如何重新调整。

随着大型科技公司被视为与国家相似的企业或准国家企业，人们对国家与大型科技公司之间关系的设定越来越感兴趣。如图8所示，双方的关系预计将通过多种途径发展。首先，主权国家与大型科技公司之间在某些方面存在竞争和直接冲突。特别是，当政府加强对大型科技公司的监管时，可能会发生冲突（竞争）。另一方面，当政府试图严格监管大型科技公司时，大型科技公司可能会避免与国家直接冲突，并采取与政府政策一致的策略（收编）。相反，当政府不加强对大型科技公司的监管，而是以自由市场经济的逻辑放任自流时，政府与大型科技公司的关系可能会非常合作（合作）。随着大型科技公司影响力的增强，政府甚至可能被大型科技公司俘获（俘获）。这四种方向并非相互排斥，而是可能相互重叠。

图8 政府与大型科技公司之间的关系矩阵

来源：Khanal et al. 2024.

3. 大型科技公司主导的人工智能开发和利用带来的危机及应对措施

我们根据市场垄断和竞争限制、劳动力市场变化与失业及经济不平等、数据偏见和隐私侵犯、技术控制与民主威胁、大型科技公司对国家权力的挑战、大型科技公司的算法帝国主义等方面，将大型科技公司主导人工智能开发时可能出现的危机及应对措施整理如下表2。

表2 大型科技公司主导的人工智能技术发展带来的危机及应对措施

4. 人工智能规范现状

众所周知，生成式人工智能有望通过降低企业成本、实现数据驱动的决策等方式提高企业生产力。生成式人工智能正在促进 글、图、音乐创作等领域新服务的出现。另一方面，生成式人工智能通过海量数据进行学习，但由于数据的有限性，有时会生成不准确或有偏见的回应。生成式人工智能所使用的数据可能包含敏感的个人或隐私信息，存在侵犯隐私的风险。生成式人工智能从现有作品中获取数据，因此侵犯知识产权的可能性非常高。利用生成式人工智能可以传播虚假信息、操纵舆论等。

人工智能技术本身固有的各种风险，在由大型科技公司主导人工智能技术发展和利用时，可能会被放大。这是因为在大型科技公司之间争夺市场份额和加速投资的背景下，当优先设定主导权竞争时，很难遵守“可靠、负责任、合乎道德的人工智能技术发展”的规范。目前，对大型科技公司的讨论主要局限于国内层面的垄断监管。在国际层面，虽然已形成广泛共识，即需要制定应对人工智能技术负面影响的伦理规范并建立全球人工智能治理体系来执行这些规范，但由于美国、欧洲和中国在人工智能监管方面的立场略有差异，因此很难乐观地预期达成一致的国际规范和有效运作的全球人工智能治理体系的出现。

欧盟于2024年制定了《人工智能法案》（Artificial Intelligence Act: AIA），为 본격적인人工智能监管奠定了最先的法律基础。AIA的立法宗旨是促进以人为本、值得信赖的人工智能的应用，同时最大限度地减少人工智能造成的有害影响，保护健康、安全、基本权利和民主。欧盟AIA将人工智能系统对用户的影响风险分为不可接受风险（unacceptable risk）、高风险、低风险和最小风险，并根据风险水平规定了不同的监管强度。特别是，禁止使用以下系统：①利用潜意识或欺骗性技术操纵人的决策；②利用人或特定群体的脆弱性；③对人或特定群体进行不公平/歧视性待遇，或评估/分类社会评分（social scoring）；④在公共可访问空间使用实时远程生物识别身份识别技术。在教育、医疗、军事等领域使用并可能对基本权利构成风险的人工智能技术必须符合欧盟新制定的标准，企业必须公开模型开发方式并对造成的损害负责。欧盟正在向大型科技公司施压，要求其AI模型（如OpenAI的GPT-4和谷歌的Gemini）满足欧盟标准，并表示这些模型可能带来风险，需要进一步改进。

欧盟率先制定人工智能监管法规，引领国际规范的形成，其背景在于欧洲本身缺乏拥有大规模数字平台的大型科技公司，因此希望制衡美国大型科技公司在欧洲的活动，并主导安全相关标准。虽然在人工智能技术方面未能取得领先，但在人工智能安全规范和评估方面积极应对。此外，通过引领人工智能安全国际标准的形成，也期望在欧洲建立由此衍生的安全评估服务和评估机构。

在美国，关于人工智能安全性的基本立场是企业自律监管是合适的，政府正在发布补充企业自律监管的政策。大多数大型科技公司都发布了自己的伦理规范，但没有人认为仅凭这些就足够了。美国拜登政府在2022年发布《联邦人工智能权利法案》（Federal AI Bill of Rights）后，于2023年签署了《关于安全、可靠和值得信赖的人工智能行政命令》（Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence）。该行政命令的核心是，①强制进行人工智能安全评估，②制定人工智能工具的安全标准，③建立内容认证标准，④加强个人信息保护，从而在美国联邦政府层面促进人工智能的开发和利用，使其安全和负责任，并监管威胁国家安全、健康和安全的AI技术开发和利用。美国国家标准与技术研究院（NIST）将设立美国人工智能安全研究所（US AISI, The United States AI Safety Institute），负责运营人工智能风险管理框架，包括评估和缓解人工智能风险的指南、工具和基准测试。

美国国土安全部于2024年设立了人工智能安全与安保委员会（AI Safety and Security Board），其中吸纳了包括OpenAI、Anthropic、微软、谷歌、英伟达、IBM、Adobe、AWS等22家美国主要人工智能公司的首席执行官担任顾问，引起了广泛关注。这表明美国政府并非单方面监管大型科技公司，而是希望在与其合作的过程中，利用其专业知识来寻求加强人工智能技术的安全性和可靠性的方法。

最近，欧盟制定了《人工智能法案》，导致美国许多企业在人工智能学习过程中使用的内容必须披露，必须遵守风险预防措施，并且实时远程生物识别身份识别系统的使用受到限制。对此，大型科技公司正在积极寻求对策，美国政府也在努力确保在人工智能规范领域不被欧洲抢占先机。美国于2024年5月向联合国提交了一项促进安全、可靠和值得信赖的人工智能的决议（Seizing the opportunities of safe, secure and trustworthy artificial intelligence systerns for sustainable development），该决议以143票赞成、9票反对、25票弃权获得通过。该决议强调了不当或恶意使用人工智能对人权造成的有害影响以及因偏见数据而加剧的不平等和歧视风险，并指出需要调整全球规范，但没有约束力。该决议具体呼吁在安全的人工智能开发和实施方面加强国际合作和全球共识，促进利益相关者之间的合作以及研究和技术的共享，发展国家和国际层面的监管，禁止在人工智能的设计、开发、部署和使用中的滥用，并主张通过技术转让和资金支持来缩小发达国家与发展中国家之间的数字鸿沟。美国基本承认本国大型科技公司的自律，并制定了补充性政策，同时通过联合国等渠道提出国际规范的必要性，以制衡欧盟在人工智能国际规范方面的一边倒主导。

中国也通过提出一系列原则和指导方针，推动人工智能的可靠性和认证体系的建立。2019年5月发布了《北京人工智能原则》。该原则提出了关于人工智能开发、使用和治理的原则，以追求人类福祉、多样性和包容性为基本价值观。在人工智能开发方面，提出了服务于人类、追求正确目的、责任、风险可控、伦理透明、多样包容、开放等7项原则；在人工智能使用方面，提出了使用责任、人权和数据管理、教育培训等3项原则；在人工智能治理方面，提出了优化就业、人工智能生态系统的和谐合作、适当监管、细分指导、制定长期战略等5项原则。在国际上，2023年“一带一路”国际合作高峰论坛上，中国提出了全球人工智能治理倡议，呼吁所有国家在人工智能发展中享有平等的权利和机会，并反对技术垄断和单方面强制措施。

中国强调各国在人工智能发展中的平等权利和机会，以制衡美国大型科技公司的技术垄断，同时为本国人工智能企业提供指导方针，建立规范，并进一步强调对本国人工智能企业的支持。在中国企业因滥用面部识别技术而受到批评后，中国发布了《面部识别技术应用安全管理规定（试行）》草案。中国认为，迫切需要阻止生成式人工智能生成虚假信息、产生偏见以及煽动舆论的危害性，因此制定了《生成式人工智能服务管理暂行办法》。可以看出，中国的人工智能规范或监管带有一定的防御性。

英国于2023年在布莱切利公园（Bletchley Park）举办了首届人工智能安全峰会（AI Safety Summit），并发布了《布莱切利宣言》（Bletchley Declaration），呼吁共同应对人工智能的潜在风险。会议的核心议程是寻求并制定关于快速和适当监管措施的共识，以确保以人为本、值得信赖和负责任的人工智能。包括韩国在内的28个国家（澳大利亚、巴西、加拿大、智利、中国、欧盟、法国、德国、印度、印度尼西亚、爱尔兰、以色列、意大利、日本、肯尼亚、沙特阿拉伯、荷兰、尼日利亚、菲律宾、卢旺达、新加坡、瑞士、土耳其、乌克兰、阿联酋、英国、美国）参加了会议，并承诺在人工智能安全方面进行合作。英国正努力通过主导包括美国、中国以及发展中国家在内的人工智能安全国际会议，来制衡以美国或中国为中心的人工智能技术开发和传播，并努力形成更具代表性和稳固的国际联盟。

由于各国在人工智能技术方面的激烈竞争以及在规范制定上的立场差异，预计在国际上达成一致的规范或治理体系将面临困难。然而，对于确保人工智能安全性和可靠性、进行管理以及监管大型科技公司等方面的全球人工智能治理的必要性已形成广泛共识，并且正在就哪些现有国际组织最适合在人工智能领域发挥作用进行讨论。最近的一份报告比较了国际民航组织（ICAO）、欧洲核子研究组织（CERN）、国际原子能机构（IAEA）、政府间气候变化专门委员会（IPCC）、国际清算银行（BIS）、金融稳定委员会（FSB）、金融行动特别工作组（FATF）等管理核能、气候变化和国际支付系统的现有国际组织。也就是说，在信息交流、促进合作、监测和强制执行方面都发挥作用的原子能、民用航空和国际支付系统等被认为是全球人工智能治理的合适候选者。

图9 全球人工智能治理类型比较

来源：Microsoft. 2024.

迄今为止，少数发达国家的科技巨头主导着人工智能技术的开发和应用，这引发了国内对科技巨头垄断以及国际上发达国家与发展中国家差距扩大的担忧。在这一背景下，人们对人工智能技术带来的安全性和可靠性风险的认识不断提高，各国纷纷制定人工智能技术监管政策，并就全球人工智能规范或治理展开讨论。人工智能技术的发展速度和应用远远领先于这些讨论，未能减少围绕人工智能技术的 But uncertainty。随着主要国家在人工智能技术乃至人工智能规范方面的竞争和立场差异日益显现，人工智能规范和治理的前景难以乐观。然而，随着人工智能技术的持续加速发展，伦理、可靠性和安全性问题将愈发尖锐，人工智能技术带来的差距也将成为国际社会必须共同解决的重要挑战。在科技巨头争夺人工智能技术领先地位的激烈竞争中，美国政府努力制定人工智能安全和责任规范，以支持本国科技巨头的优势；欧盟和英国政府则试图在制约美国科技巨头的同时，引领人工智能规范的国际努力；中国则通过积极支持本国人工智能企业并制定人脸识别或生成式人工智能管理指南等措施来应对，同时制约美国科技巨头；全球南方国家则批评发达国家在人工智能技术和规范制定方面的努力，并呼吁关注人工智能差距。在这些动态互动中，人工智能技术发展方向和治理模式的探索将持续进行。■

参考文献

裵英子. 2022. “新冠疫情与数字经济：全球价值链与发展中国家发展的视角.” EAI 工作论文. 2月9日. https://www.eai.or.kr/...kor_workingpaper.

Birhane, Abeba. 2020. “算法殖民化非洲.” SCRIPTed 17, 2: 389. https://script-ed.org/?p=3888.

Draux, Hélène. 2024. “人工智能研究——全球鸿沟.” Digital Science, 1月4日. https://www.digital-science.com/...divides/.

Huw, Roberts, Emmie Hine, Mariarosaria Taddeo, and Luciano Floridi. 2024. “全球人工智能治理：障碍与前进的道路.” International Affairs 100, 3: 1275-1286. https://doi.org/10.1093/ia/iiae073.

Kemp, Simon. 2024. “2024年互联网使用情况.” Datareportal, 1月31日. https://datareportal.com/...adoption

Khanal, Shaleen, Hongzhou Zhang, and Araz Taeihagh. 2024. “科技巨头在政策制定过程中的权力为何以及如何增长？生成式人工智能的案例.” Policy and Society, puae012. https://doi.org/10.1093/polsoc/puae012.

Smith, Brad, and Natasha Crampton. 2024. “全球治理：人工智能的目标与经验.” Microsoft, 5月17日. https://blogs.microsoft.com/...ai/.

斯坦福以人为本人工智能中心 (HAI). 2024. “2024年人工智能指数报告.” https://aiindex.stanford.edu/...Report.pdf.

Maslej, Nestor, Loredana Fattorini, Raymond Perrault, Vanessa Parli, Anka Reuel, Erik Brynjolfsson, John Etchemendy, Katrina Ligett, Terah Lyons, James Manyika, Juan Carlos Niebles, Yoav Shoham, Russell Wald, and Jack Clark. 2024. “2024年人工智能指数年度报告.” 人工智能指数指导委员会，斯坦福大学以人为本人工智能研究所，4月. https://aiindex.stanford.edu/report/.

Okolo, Chinasa. 2023. “全球南方的人工智能：迈向更具包容性治理的机遇与挑战.” Brookings, 11月1日. https://www.brookings.edu/...governance/.

联合国贸易和发展会议 (UNCTAD). 2023. “2023年技术和创新报告.” https://unctad.org/tir2023.

_________. 2020. “2020年世界投资报告.” https://unctad.org/...2020.

世界银行. 2020. “2020年世界发展报告：全球价值链时代贸易促进发展.” https://www.worldbank.org/...wdr2020.

■ 裵英子，建国大学政治外交学教授。

■ 负责人及编辑：朴智秀，EAI研究员

    咨询及编辑：02 2277 1683 (分机号 208) | jspark@eai.or.kr