[AI y Civilización Nueva Informe Especial] Desafío Económico ②: Desafíos de la IA y la Política Mundial - Temas del Sur Global y las Big Tech

I. IA y el Sur Global

1. Planteamiento del problema

La tecnología de inteligencia artificial (IA), encabezada por Chat GPT, está provocando cambios en diversos ámbitos sociales, como la economía, la milicia, la educación, la sanidad y la cultura, y se prevé que su desarrollo se acelere durante el siglo XXI. Junto con el potencial de la IA para impulsar el crecimiento económico, se debaten sus diversos aspectos negativos. En este contexto, este artículo se centra en la situación en la que el desarrollo, la difusión y la aplicación de la tecnología de IA están siendo liderados principalmente por países desarrollados como Estados Unidos y China, y el Sur Global está quedando relativamente rezagado.

La brecha entre países desarrollados y en desarrollo, el llamado problema Norte-Sur, ha sido durante mucho tiempo un tema importante en la política mundial. Con la informatización del siglo XXI, se han presentado muchos análisis sobre el impacto de las tecnologías de la información y la comunicación (TIC), como Internet y los teléfonos inteligentes, en la brecha Norte-Sur (United Nations Trade and Development (UNCTAD) 2020). Según estudios que analizan los efectos a medio y largo plazo de la rápida automatización, la expansión de las fábricas inteligentes y la ampliación del mercado del comercio electrónico, acelerados por la COVID-19, la transformación digital presenta un panorama complejo con aspectos tanto positivos como negativos para el desarrollo de los países en desarrollo (Bae Young-ja 2022).

Los países en desarrollo, en comparación con los países desarrollados, tienen una menor infraestructura digital y un menor nivel de innovación tecnológica, así como una capacidad relativamente menor para la transformación digital y escasos recursos aparte de la mano de obra. En esta situación, la transformación digital en sectores manufactureros tradicionales como la automoción, y en particular la expansión de la automatización y las fábricas inteligentes, hace que el trabajo relativamente simple y repetitivo que los países en desarrollo han desempeñado en las cadenas de valor globales sea fácilmente reemplazable por máquinas. Por lo tanto, es probable que la posición de los países en desarrollo se reduzca en lugar de fortalecerse, ampliando aún más la brecha entre países en desarrollo y desarrollados. Por otro lado, existen aspectos en los que la transformación digital de los países desarrollados puede ser una oportunidad de crecimiento para los países en desarrollo. De hecho, algunas regiones de países en desarrollo, como México, se han beneficiado del aumento del comercio con los países desarrollados al participar más activamente en las cadenas de valor globales. La expansión de fábricas inteligentes que utilizan robots y la impresión 3D en los países desarrollados ha aumentado la productividad y los ingresos, lo que a su vez ha incrementado la demanda de productos finales, impulsando el comercio con los países en desarrollo que suministran componentes e intermedios (UNCTAD 2020).

En cuanto al comercio electrónico, es cierto que la difusión de dispositivos digitales e Internet ha aumentado las oportunidades para que las empresas de los países en desarrollo participen en las cadenas de valor globales como proveedores y productores a través de mercados en línea. Ha habido un aumento en los casos en que pequeños y medianos productores de países en desarrollo utilizan tecnologías digitales para comerciar con consumidores de países desarrollados a través de importantes sitios de comercio electrónico como Alibaba, Amazon, eBay, Taobao y MercadoLibre. Sin embargo, las formas de transacción, entrega, sistemas de pago y políticas de reembolso y cambio exigidas por las plataformas se convierten en barreras de entrada para la participación de las empresas de los países en desarrollo. Además, la monopolización de datos por parte de las empresas de comercio electrónico y sus políticas anticompetitivas, como la fijación de precios predatorios y las altas comisiones por el abuso de su posición en el mercado, agravan las dificultades de los pequeños productores de los países en desarrollo. Es decir, si bien la transformación digital puede ser una ventana de oportunidad para el desarrollo de los países en desarrollo, existen no pocos aspectos que actúan negativamente en el desarrollo de los países en desarrollo debido a la plataforma de las empresas de comercio electrónico, la monopolización de datos, los cambios en la cadena de valor y la reducción del efecto empleo.

En el contexto de la tendencia general de la transformación digital, ¿cómo afecta el desarrollo y la aplicación de la tecnología de IA, que se ha acelerado recientemente, a la brecha entre países desarrollados y en desarrollo? ¿Se amplificarán las brechas existentes debido a la IA? ¿O la IA se convertirá en una ventana de oportunidad para los países en desarrollo y contribuirá a reducir la brecha? ¿Qué crisis podrían surgir a largo plazo si los países en desarrollo quedan rezagados en el desarrollo y la aplicación de la IA? ¿Cuáles son las formas de minimizar los impactos negativos y maximizar los impactos positivos que la IA puede traer al desarrollo de los países en desarrollo? Aquí, examinaremos las diferencias entre países desarrollados y en desarrollo en la inversión y aplicación de infraestructura de IA, y examinaremos los discursos sobre la IA y los países en desarrollo para buscar formas de fortalecer la posición político-económica mundial del Sur Global a través de la IA.

2. Inversión y aplicación de infraestructura y tecnología de IA: Perspectiva de la brecha entre países desarrollados y en desarrollo

Estimamos la brecha entre países desarrollados y en desarrollo en el proceso de desarrollo, difusión y aplicación de la IA a través de diversos indicadores. En primer lugar, examinamos la tasa de penetración de Internet, el indicador de infraestructura más básico para el funcionamiento de la IA. Como se muestra en la Figura 1 a continuación, de los aproximadamente 8 mil millones de personas en el mundo, alrededor de 2.7 mil millones no tienen acceso a Internet. Se informa que 680 millones de personas en India y 340 millones en China no tienen acceso a Internet, y la tasa de penetración de Internet en África subsahariana es inferior al 40%, y en el sudeste asiático es del 51%, lo que indica tasas muy bajas.

Figura 1. Tasa de penetración de Internet

출처: Datareportal. 2024

Son también algunos países desarrollados los que lideran la inversión en inteligencia artificial, que se ha acelerado desde 2020. Según la Figura 2, en la inversión relacionada con la IA realizada entre 2013 y 2023, Estados Unidos lidera con 330 mil millones, seguido de cerca por China con aproximadamente 100 mil millones, y otros países como el Reino Unido, Israel y Alemania han invertido decenas de miles de millones. La inversión de Estados Unidos es incomparable, ya que la suma de todas las inversiones de China, el segundo país en inversión, hasta Suecia, el decimoquinto país, supera ligeramente la mitad de la inversión de Estados Unidos.

Figura 2. Inversión por país en IA (2013-23)

출처: HAI, Stanford. 2024.

La falta de infraestructura y inversión en IA en los países en desarrollo conduce naturalmente a una baja investigación y patentes en IA. La investigación en IA está liderada por Estados Unidos, China y los países de la UE. Según la Figura 3, en la investigación de IA (publicaciones revisadas por pares en áreas clave de IA) de 2014 a 2023, los institutos estadounidenses produjeron más de 772.000 artículos, representando el 30% de la cuota, mientras que China produjo aproximadamente 465.000 artículos, representando el 18%. Además, el Reino Unido, Alemania, Japón, India, Brasil e Irán son centros de investigación de IA que producen entre 10.000 y 140.000 artículos cada uno, mientras que la investigación de IA en África, América del Sur y la mayoría de los países asiáticos representa menos del 5%. En cuanto a las patentes de IA, de 2010 a 2022, los países del sur de Asia, América Latina y África subsahariana representaron menos del 1%, y la mayoría de las patentes se concedieron a China (61,1%) y Estados Unidos (20,9%).

Figura 3. Cuota de investigación y patentes en IA

출처: Digital Science. 2024.

Los modelos fundacionales, como GPT-4, Claude 3 y Llama 2, que son modelos de aprendizaje automático o aprendizaje profundo entrenados con amplios datos para ser aplicados en una amplia gama de casos, están impulsando la difusión de la IA. Actualmente se han lanzado unos 150 de estos modelos, que representan la investigación y aplicación de la IA. Por nacionalidad, Estados Unidos tiene 109, China 20 y el Reino Unido 8, mientras que los EAU, Canadá, Singapur, Israel, Alemania y Finlandia tienen 2 cada uno.

Curiosamente, la conciencia y el uso de ChatGPT son relativamente altos en los países en desarrollo, que son muy débiles en comparación con los países desarrollados en términos de infraestructura, inversión, investigación, patentes y modelos fundacionales de IA. Según los datos, la proporción de encuestados que utilizan ChatGPT diaria o semanalmente en India, Kenia y Pakistán es del 75%, 69% y 62% respectivamente, superando con creces la media mundial, y es superior a la de Alemania (41%), Japón (38%) y el Reino Unido (38%). Esto puede interpretarse de diversas maneras, pero factores importantes incluyen la activa entrada de las grandes tecnológicas en nuevos mercados y la expansión de los servicios de IA a países de bajos ingresos con costos relativamente bajos en los sectores de la salud y la educación. Las grandes tecnológicas como Google, Microsoft y Meta se han expandido estableciendo centros de investigación y desarrollo u oficinas de ingeniería en países en desarrollo (Okolo 2023). IBM fundó IBM Research India en 1998 y posteriormente estableció laboratorios en São Paulo y Río de Janeiro (2010), Nairobi (2013) y Johannesburgo (2016). En 2005, Microsoft abrió Microsoft Research India en Bangalore y dos centros de desarrollo en África en Nairobi y Lagos. Google fundó laboratorios de investigación de IA en Accra en 2018 y en Bangalore en 2019.

Lo importante es que, a pesar de la debilidad en los resultados de la inversión en infraestructura, la difusión y aplicación de la IA en los países en desarrollo está ocurriendo de manera más activa de lo esperado. Además, mientras que la proporción de empresas e instituciones que adoptan IA generativa es del 40% en Estados Unidos, es del 31% en China y del 33% en los países en desarrollo, incluyendo India y América Latina. Al considerar la aplicación de la IA, existe la posibilidad y la oportunidad de que la IA se convierta en una ventana de oportunidad para los países en desarrollo.

Figura 4. Frecuencia de uso global de ChatGPT (2023)

출처: Stanford University AI Index Report. 2024.

Según un informe de la UNCTAD, la brecha entre países desarrollados y en desarrollo se ha ampliado desde el inicio de la informatización en la década de 1980. Como se examinó anteriormente, los países desarrollados lideran en todos los aspectos, como la inversión en infraestructura de IA, la inversión en investigación y los modelos fundacionales, y la presencia de los países en desarrollo es muy baja. Por lo tanto, no es fácil ser optimista sobre la posibilidad de que el desarrollo y la aplicación de la tecnología de IA, que se están acelerando actualmente, conduzcan a una reducción de la brecha existente. PwC estima que la IA podría contribuir hasta 15,7 billones de dólares al crecimiento económico mundial para 2030, y que el impacto económico en la región del Sur Global, excluyendo a China, sería de solo 1,7 billones de dólares. Sin embargo, dado que los países de bajos ingresos están adoptando y utilizando activamente la IA, debemos buscar activamente formas de reducir la brecha mientras observamos qué impacto general tendrá la IA en el desarrollo de los países de bajos ingresos.

Figura 5. Tendencia histórica de la brecha entre países desarrollados y en desarrollo

출처: UNCTAD, Technology and Innovation Report. 2023.

3. Discursos sobre la IA y el Sur Global

1) Imperialismo algorítmico

Se ha planteado el discurso del imperialismo algorítmico, según el cual el liderazgo occidental en IA no solo conduce al rezago de los países de bajos ingresos en el desarrollo tecnológico, sino que también implica la dominación y el control de los discursos sociales, políticos y culturales (Birhane 2023). Según esta lógica, mientras que el colonialismo tradicional fue liderado por el estado, el colonialismo algorítmico es liderado por empresas. El primero tomó la forma de dominación violenta indiscriminada, mientras que el segundo difiere en que adopta la forma de 'algoritmos de vanguardia' y 'soluciones impulsadas por IA' para problemas sociales. La mayor parte de la infraestructura y el ecosistema digital de África son operados predominantemente por empresas occidentales como Google, Meta, Netflix y Uber. Por ejemplo, Meta, a través de datos obtenidos mediante tecnología de visión por computadora, datos demográficos y imágenes satelitales de alta resolución, obtiene la autoridad para crear y controlar el conocimiento sobre la población del continente al crear mapas demográficos de África. Para extraer datos y maximizar beneficios, Meta no solo utiliza libremente información sobre los africanos y sus movimientos, sino que también determina autoritativamente qué constituye conocimiento legítimo sobre la población. Esto es muy similar a lo que los occidentales afirmaban durante la época colonial para justificar el dominio colonial: que sabían mejor lo que necesitaban las colonias y que las salvarían, y que debían estarles agradecidos, solo que con una tecnología diferente.

Incluso en Nigeria, que es relativamente avanzada tecnológicamente en África, aproximadamente el 90% del software utilizado se importa, lo que supone una barrera para el desarrollo tecnológico endógeno. La IA desarrollada en Occidente no solo no es adecuada para los problemas africanos, sino que la intrusión de algoritmos occidentales dificulta el desarrollo de productos adaptados a la región y, al mismo tiempo, hace que el continente dependa del software y la infraestructura occidentales. Por ejemplo, se informa que el diagnóstico de IA utilizando mamotomía, que es útil para el diagnóstico de cáncer de mama en Occidente, no ha tenido el éxito esperado en África, y que el autodiagnóstico ha resultado más útil. Esto sugiere que los sistemas de IA relacionados con la salud, desarrollados en el contexto de los estilos de vida y entornos occidentales, pueden tener una utilidad limitada en los países de bajos ingresos y deben utilizarse con precaución.

Debido a los sesgos inherentes en los modelos de IA y los datos, los problemas a menudo se plantean y las soluciones se derivan de manera similar a las percepciones occidentales. Por ejemplo, se informa que los resultados de las respuestas a la misma pregunta, cuando se obtienen sin conexión a través de WVS (World Values Survey) y Pew Research Center, difieren de los resultados obtenidos a través de modelos de IA, que tienden a estar sesgados hacia Occidente. Como se muestra en la Figura 5 a continuación, en una pregunta que evalúa la importancia relativa de la democracia y el crecimiento económico, el 83% en Rusia, el 72% en Indonesia y el 59% en Estados Unidos eligieron el crecimiento económico, mientras que el modelo de inteligencia artificial eligió el crecimiento económico en el 98% de los casos. En un contexto similar, se plantea la afirmación de que los sistemas de IA monopolizados por empresas de países desarrollados monopolizarán y controlarán el conocimiento, lo que provocará una 'esclavitud del conocimiento' en los países en desarrollo (UNCTAD 2023).

Figura 6. Comparación de resultados de encuestas (2023, HAI)

출처: HAI. 2023.

El dominio occidental de la infraestructura y la aplicación de la IA va más allá de la simple monopolización de la tecnología y los datos, y va acompañado de la difusión de percepciones y estilos de vida occidentales, lo que lleva a una aceptación acrítica de la legitimidad del modelo occidental. La adopción de modelos de IA descontextualizados de los contextos político-económicos y culturales de los países de bajos ingresos a menudo no es adecuada para resolver los problemas que enfrentan, y es más probable que se convierta en una herramienta que profundice la dependencia de la infraestructura y los datos de los países de bajos ingresos.

2) Discurso de la ventana de oportunidad

Por otro lado, también se ha planteado el argumento de que la IA es una herramienta útil para resolver diversos problemas que enfrentan los países en desarrollo y que puede aumentar la democracia al fomentar la participación ciudadana a través de la IA (Okolo 2023). Consideran la IA como una ventana de oportunidad para el desarrollo de los países en desarrollo y recomiendan activamente su uso. En la última década, los países de bajos ingresos han comenzado a utilizar herramientas de IA para resolver problemas tradicionales de subdesarrollo, y los casos de aplicación de IA han ido en aumento, especialmente en los sectores agrícola, de salud y educativo. Por ejemplo, se han desarrollado modelos de aprendizaje profundo para el diagnóstico in situ de enfermedades del banano y plagas de cultivos, y sistemas de observación de imágenes para apoyar la agricultura y la silvicultura, para ayudar a los agricultores de los países en desarrollo. En los sectores de la salud, la medicina y la educación, se han desarrollado y probado servicios que pueden compensar la falta de infraestructura y reducir drásticamente los costos utilizando IA. En India, se ha construido un modelo predictivo para garantizar que las madres en áreas remotas puedan participar continuamente en programas de apoyo de telemedicina, y en Ghana se ha creado un sistema de apoyo clínico para combatir la resistencia a los antibióticos. En el sector educativo, Colombia utiliza IA para identificar a estudiantes en diversas situaciones de riesgo, se está mejorando el aprendizaje del inglés para estudiantes tailandeses a través de la IA y se están utilizando asistentes de IA para apoyar la educación científica en África Occidental.

Argumentan que las prácticas actuales de IA pueden democratizarse, se puede fomentar el desarrollo de sistemas de IA más inclusivos y se puede aumentar la participación de las comunidades subrepresentadas en el desarrollo de la IA. Actualmente, existe una creciente demanda de especialización regional y desarrollo de sistemas de IA, y se están realizando esfuerzos activos en este campo. Organizaciones ciudadanas de base como Masakhane y Ghana NLP están intentando desarrollar conjuntos de datos y herramientas de traducción automática que ayuden a ampliar la accesibilidad a las lenguas africanas. Además, organizaciones como Deep Learning Indaba, Khipu, AI Saturdays Lagos y Data Science Africa están construyendo experiencia local en el campo de la IA y contribuyendo al crecimiento de las comunidades de investigadores y desarrolladores de IA en África y América Latina.

4. Crisis provocadas por la brecha de la IA y medidas de respuesta

¿A qué situación se enfrentará el mundo si el desarrollo y la aplicación de la IA se llevan a cabo principalmente por unos pocos países desarrollados, excluyendo a los países en desarrollo? ¿Qué crisis específicas podemos prever? En el Cuadro 1, hemos clasificado y resumido las diversas crisis que se pueden considerar, junto con las medidas de respuesta, en brecha económica entre países desarrollados y en desarrollo, dependencia de datos y tecnología de los países en desarrollo, ampliación de la desigualdad social y la discriminación por prejuicios, e inestabilidad militar y política.

Cuadro 1. Crisis y medidas de respuesta provocadas por la ampliación de la brecha de IA entre países desarrollados y en desarrollo

Para resolver la crisis provocada por la creciente brecha de IA entre países desarrollados y en desarrollo, no solo son importantes los esfuerzos a nivel individual de países desarrollados y en desarrollo, sino que también son indispensables los esfuerzos internacionales para reconocer y responder a la crisis, y se debe construir una gobernanza global de IA que alivie el problema de la brecha de IA.

5. Gobernanza global de IA y el Sur Global

Si bien la tecnología de IA tiene el potencial de reforzar el colonialismo algorítmico, también existe la posibilidad de que la IA se utilice activamente en sectores como la agricultura, la salud y la educación en los países menos desarrollados. Sin embargo, existen desafíos que deben abordarse para que los países menos desarrollados puedan aprovechar las oportunidades que ofrece la IA. A pesar del aumento constante de las tasas de acceso a la electricidad e Internet en África, una gran parte de la población de África subsahariana todavía no tiene acceso a Internet. El Banco Mundial estima que se necesitarán al menos 100 mil millones de dólares en inversiones para conectar a 100 millones de africanos que viven en zonas remotas. Es necesario ampliar la infraestructura en África. El cable de Internet submarino 2Africa, el más largo jamás diseñado, se está desplegando. La mayoría de los 485 cables de Internet submarinos estimados en uso en todo el mundo son propiedad de grandes empresas de telecomunicaciones, y las empresas de Big Tech, incluidas Amazon, Google, Meta y Microsoft, también están aumentando sus inversiones en infraestructura submarina, copropietando actualmente unos 30 cables. Se debe debatir cómo esta expansión de la infraestructura puede tener en cuenta los intereses de las regiones menos desarrolladas.

Los países menos desarrollados se encargan del trabajo de etiquetado de datos recopilados, y la explotación de los trabajadores de datos y moderadores de contenido en África Oriental y del Sur, empleados por empresas como Sama y Scale AI, ha sido objeto de controversia. Además, la falta de políticas de protección de datos e IA en la mayoría de los países menos desarrollados puede provocar un uso indebido de los datos más frecuente. Actualmente, las preocupaciones y debates sobre los impactos negativos de la IA se centran principalmente en los países desarrollados, y se solicita una atención y discusión activas sobre la situación de los países menos desarrollados.

Los esfuerzos más activos por parte de los gobiernos de los países menos desarrollados también son importantes. Los gobiernos de los países menos desarrollados deben desarrollar la capacidad de capacitar a investigadores y desarrolladores locales a través de asociaciones con organizaciones externas para ayudar a expandir su ecosistema de IA, y deben apoyar la creación y el mantenimiento de un ecosistema de IA que fomente el espíritu empresarial y apoye la innovación local. Nigeria se ha asociado con Microsoft para proporcionar habilidades digitales a sus ciudadanos, y Google ha estado capacitando a aproximadamente 8 millones de personas en América Latina en habilidades digitales desde 2017. Los planes para integrar temas de alfabetización informática, habilidades de TIC, codificación, ciudadanía digital y seguridad en línea en los planes de estudio K-12 se mencionan en las iniciativas de innovación digital en Brasil, Costa Rica, India, Jamaica, Malasia, Panamá, Ruanda y Sudáfrica.

Dado que la influencia de la tecnología de IA está creciendo, es importante crear un entorno en el que los países menos desarrollados puedan acceder de manera justa a la tecnología de IA, permitiendo un campo de juego y utilización equitativo. Varias organizaciones internacionales como la ONU, el Banco Mundial, el FMI y el G20 abogan por la promoción de la IA para mejorar el bienestar humano y al mismo tiempo garantizar la estabilidad, la seguridad y la soberanía de los países en desarrollo. También se han propuesto ideas como un marco de sistemas de infraestructura pública digital y un repositorio global de infraestructura pública digital (GDPIR). La Iniciativa de Brecha de Datos 3 (DGI-3) del G20 apoya a los países en desarrollo en la operación de modelos de IA utilizando conjuntos de datos públicos en el área del cambio climático.

Si bien las diversas organizaciones y conferencias internacionales relacionadas con la tecnología de IA actual y su difusión discuten continuamente la brecha Norte-Sur de IA, las formas de mitigarla y las formas de apoyar a los países en desarrollo, se solicita que se abran y se invite a los países en desarrollo a participar en la gobernanza global de IA. A través de esto, debemos aumentar la conciencia sobre las crisis que la brecha de IA puede traer y buscar formas de responder a ellas.

II. IA y empresas de Big Tech

1. Innovación y regulación de la IA

Las empresas de Big Tech, que poseen o controlan grandes plataformas digitales, como Google, Amazon, Apple, Meta y Microsoft, ofrecen servicios monopolísticos basados en efectos de red. Además, recopilan y acumulan datos en tiempo real importantes para comprender las preferencias de los consumidores y predecir su comportamiento, formando el centro de los ecosistemas digitales. Google opera en más de 200 países, Meta tiene 2.300 millones de usuarios activos mensuales en todo el mundo, y los usuarios de Office y Windows de MS superan los 1.200 y 1.400 millones respectivamente. Basándose en sus monopolios, han asegurado enormes recursos financieros, representando el 22% de la capitalización de mercado de las empresas S&P 500, y el tamaño de empresas individuales supera el PIB de Canadá e Italia.

La aparición de la IA generativa está fortaleciendo aún más el dominio de las Big Tech. El desarrollo de IA generativa requiere personal, datos y potencia informática, y pocas empresas, aparte de las Big Tech, poseen decenas de miles de empleados de primer nivel, enormes cantidades de datos y la capacidad informática para procesar datos rápidamente, pudiendo comprar más de 10.000 GPU. Como se muestra en la <Figura 7>, la IA generativa actualmente en funcionamiento está dominada por unas pocas Big Tech.

<Figura 7> Cuota de mercado global de IA generativa

Fuente: IoT Analytics Research 2023-Generative AI Market Report. 2023-2030.

Un tema importante relacionado con la IA se refiere a cómo lograr un equilibrio entre la innovación tecnológica de la IA y la regulación. Si bien la competencia entre las Big Tech acelera la innovación y la difusión de la IA, también surgen riesgos y aspectos negativos. Dado que la tecnología de IA puede aportar beneficios en diversas áreas sociales como el transporte, la salud, la educación y la producción, los países se apresuran a elaborar estrategias de IA y apoyar la innovación empresarial. Por otro lado, también se están llevando a cabo debates activos sobre cómo minimizar y regular los riesgos y problemas causados por la IA. El problema más urgente es cómo prevenir y regular el desarrollo de sistemas de IA dañinos o poco éticos, sistemas que incorporan sesgos o discriminación, o sistemas que pueden ser utilizados para fines maliciosos como la guerra cibernética. Además, es importante encontrar soluciones para la intensa competencia entre las empresas de Big Tech y el monopolio por parte de unas pocas empresas, que en última instancia pueden sofocar la innovación y limitar los beneficios potenciales de la IA. Se requiere una gobernanza global de IA que garantice que la IA se desarrolle y utilice de manera responsable y ética, y que los beneficios del desarrollo, la aplicación y los efectos de la tecnología de IA se compartan en conjunto.

2. Ampliación del papel de las empresas de Big Tech y su relación con los gobiernos

En la era de la IA, las empresas de Big Tech no solo ejercen influencia económica, sino que también participan profundamente en la configuración de la agenda, la provisión de discursos para la resolución de problemas y el proceso de implementación de políticas. Las Big Tech desempeñan un papel central en la identificación de problemas y la priorización. Por ejemplo, pueden establecer agendas de manera efectiva utilizando contenido en línea sobre problemas que se discuten activamente, y participan en la realización de investigaciones académicas y de políticas para explorar y buscar soluciones a esos problemas. Las Big Tech influyen en la investigación al realizar ellas mismas investigaciones, financiar investigaciones de instituciones académicas y de investigación, o a través de la rotación de investigadores. La frecuencia y proporción de las investigaciones realizadas por las propias Big Tech están aumentando, y plantean nuevos problemas de política analizando grandes cantidades de datos. Al igual que Amazon es propietaria de The Washington Post o Apple lanza Apple News, las Big Tech intentan transformarse de intermediarios de contenido a proveedores de contenido al poseer directamente los medios de comunicación.

En el pasado, la infraestructura básica como ferrocarriles y carreteras era propiedad o estaba operada por el gobierno. Sin embargo, la nueva infraestructura de información, como motores de búsqueda y navegadores, servidores de datos y computación en la nube, correo electrónico y mensajería instantánea, redes sociales, tiendas de aplicaciones, sistemas de pago, alojamiento de videos, servicios de información geográfica y de navegación, es propiedad exclusiva de las empresas de Big Tech. Los gobiernos no tienen más remedio que pedir ayuda a las Big Tech cuando se enfrentan a desafíos específicos, como durante la pandemia de COVID-19. De hecho, muchos gobiernos invitaron a representantes de Big Tech para diseñar políticas de gestión de COVID-19. Con su cooperación, pudieron crear mapas de propagación de epidemias, diseñar herramientas de rastreo, formular políticas de prevención de enfermedades y distribuir medicamentos y vacunas. La cooperación y el apoyo de las Big Tech se están volviendo cada vez más esenciales en diversas áreas de políticas. A medida que la influencia económica y social de las empresas de Big Tech aumenta, también lo hacen las solicitudes de responsabilidad social, y las empresas de Big Tech participan cada vez más como proveedores directos de servicios de políticas. Las actividades de apoyo de las Big Tech en los campos de la salud, la educación y las finanzas en los países menos desarrollados se están llevando a cabo activamente.

Con la llegada de la IA generativa, las Big Tech no solo establecen la agenda y redefinen y proponen problemas sociales, sino que también comienzan a proponer soluciones en la etapa de formulación de políticas y a desempeñar el papel de tomadores de decisiones. A medida que las Big Tech han acumulado beneficios transfronterizos a una escala histórica y ejercen una influencia política considerable, a veces se las trata como actores con un estatus similar a la soberanía. Por ejemplo, el gobierno danés ha nombrado a un Embajador Tecnológico (Tech Ambassador) que trabaja en Silicon Valley para establecer relaciones con las Big Tech y representar los intereses de su país, lo que demuestra la percepción de que las empresas de Big Tech tienen un estatus similar al de un estado.

A medida que las empresas de Big Tech son percibidas como empresas similares a los estados o cuasi-estatales, la atención se centra en cómo se establecerá la relación entre los estados y las Big Tech. Como se muestra en la <Figura 2>, se predice que la relación entre ambos se desarrollará a través de varias vías. En primer lugar, hay áreas donde la competencia y el conflicto directo entre los estados soberanos y las Big Tech son inevitables. En particular, pueden surgir conflictos cuando los gobiernos fortalecen la regulación sobre las Big Tech y estas se oponen (competencia). Por otro lado, cuando los gobiernos intentan regular fuertemente las Big Tech, estas pueden evitar el conflicto directo con el estado y adoptar una estrategia de seguir y alinear las políticas gubernamentales en la medida de lo posible (cooptación). Alternativamente, cuando los gobiernos no fortalecen la regulación sobre las Big Tech y las dejan sin supervisión basándose en la lógica de la economía de libre mercado, la relación entre las Big Tech y los gobiernos puede volverse muy colaborativa (colaboración). A medida que la influencia de las Big Tech aumenta, puede ocurrir que el gobierno sea capturado por las Big Tech (captura). Las cuatro direcciones no son mutuamente excluyentes, sino que pueden ocurrir de manera superpuesta.

<Figura 8> Matriz de relaciones del gobierno con las empresas de Big Tech

Fuente: Khanal et al. 2024.

3. Crisis y medidas de respuesta resultantes del desarrollo y la aplicación de IA liderados por Big Tech

Hemos resumido las crisis y las medidas de respuesta previstas cuando las Big Tech lideran el desarrollo de la IA en la <Tabla 2>, dividiéndolas en monopolio del mercado y restricción de la competencia, cambios en el mercado laboral y desempleo, desigualdad económica, sesgo de datos e invasión de la privacidad, control tecnológico y amenaza a la democracia, desafío del poder estatal por parte de las Big Tech, y imperialismo algorítmico de las Big Tech.

<Tabla 2> Crisis y medidas de respuesta provocadas por el desarrollo de tecnología de IA liderado por Big Tech

4. Estado de las normas de IA

Como es bien sabido, se espera que la IA generativa contribuya a mejorar la productividad empresarial al permitir la reducción de costos y la toma de decisiones basada en datos. La IA generativa está impulsando la aparición de nuevos servicios en campos como la creación de texto, imágenes y música. Por otro lado, la IA generativa aprende a través de grandes cantidades de datos, pero a veces produce respuestas inexactas o sesgadas debido a la finitud de los datos. Existe el riesgo de invasión de la privacidad, ya que los datos utilizados por la IA generativa pueden contener información personal sensible o privada. La IA generativa adquiere datos de obras preexistentes, por lo que existe una alta posibilidad de infracción de derechos de propiedad intelectual. Es posible difundir información falsa y manipular la opinión pública utilizando IA generativa.

Los diversos riesgos inherentes a la tecnología de IA pueden amplificarse cuando las empresas de Big Tech lideran el desarrollo y la aplicación de la tecnología de IA. Esto se debe a que, en medio de la feroz competencia por la cuota de mercado y la aceleración de las inversiones entre las Big Tech, la competencia por el liderazgo se prioriza, lo que dificulta el cumplimiento de normas como el desarrollo de tecnología de IA confiable, responsable y ética. Actualmente, las Big Tech se discuten principalmente en el marco de la regulación antimonopolio a nivel nacional. A nivel internacional, existe un amplio consenso de que se requiere una gobernanza global de IA para establecer normas éticas que puedan responder a los aspectos negativos de la tecnología de IA y para implementarlas, pero es difícil ser optimista sobre la aparición de normas internacionales acordadas y una gobernanza global de IA efectiva, ya que las posiciones de Estados Unidos, Europa y China sobre la regulación de la IA difieren ligeramente.

La UE ha establecido la Ley de Inteligencia Artificial (Ley de IA) en 2024, sentando la primera base legal para la regulación integral de la IA. El objetivo legislativo de la Ley de IA de la UE es promover el uso de IA centrada en el ser humano y confiable, al mismo tiempo que se minimizan los impactos dañinos de la IA para proteger la salud, la seguridad, los derechos fundamentales y la democracia. La Ley de IA de la UE clasifica el nivel de riesgo que los sistemas de IA imponen a los usuarios en riesgo inaceptable, alto riesgo, riesgo bajo y riesgo mínimo, y varía la intensidad de la regulación en consecuencia. En particular, los sistemas que utilizan técnicas subconscientes o engañosas para manipular la toma de decisiones de las personas, explotan la vulnerabilidad de las personas o grupos específicos, tratan de manera injusta o discriminatoria a personas o grupos específicos, o evalúan o clasifican la puntuación social, o utilizan tecnología de identificación biométrica remota en tiempo real en espacios de acceso público, se consideran inaceptables y su uso está fundamentalmente prohibido. Las tecnologías de IA utilizadas en los sectores de educación, atención médica y militar que pueden plantear riesgos para los derechos fundamentales deben cumplir con los nuevos estándares establecidos por la UE, y las empresas deben divulgar sus métodos de desarrollo de modelos y ser responsables de los daños. La UE está presionando a las Big Tech, afirmando que modelos de IA como GPT-4 de OpenAI y Gemini de Google pueden plantear riesgos y requieren trabajo adicional para cumplir con los estándares de la UE.

El hecho de que la UE esté liderando la formación de normas internacionales al ser la primera en promulgar regulaciones de IA se debe a la intención de controlar las actividades de las Big Tech estadounidenses en Europa y liderar los estándares de seguridad, dado que Europa no tiene sus propias empresas de Big Tech con plataformas digitales a gran escala. Si bien no está a la vanguardia en tecnología de IA, responde activamente a las normas y evaluaciones de seguridad de IA. Además, se vislumbra la expectativa de liderar la formación de estándares internacionales para la seguridad de la IA y establecer servicios de evaluación de seguridad e instituciones de evaluación derivadas de ello dentro de Europa.

En Estados Unidos, la postura es que la autorregulación empresarial es apropiada para la seguridad de la IA, y el gobierno está anunciando políticas para complementar la autorregulación empresarial. La mayoría de las Big Tech han establecido y publicado sus propios códigos de ética, pero nadie piensa que esto sea suficiente por sí solo. Después de anunciar la Carta Federal de Derechos de IA en 2022, la administración Biden firmó la Orden Ejecutiva sobre IA Segura, Protegida y Confiable en 2023. El núcleo de esta orden ejecutiva es que Estados Unidos, a nivel federal, promoverá el desarrollo y la aplicación de la IA de manera segura y responsable, y regulará el desarrollo y uso de tecnologías de IA que amenacen la seguridad nacional, la salud y la seguridad, a través de ① la obligación de realizar evaluaciones de seguridad de IA, ② el establecimiento de estándares de seguridad para herramientas de IA, ③ la creación de estándares de certificación de contenido y ④ el fortalecimiento de la protección de la privacidad. El Instituto Nacional de Estándares y Tecnología (NIST) establecerá el Instituto de Seguridad de IA de EE. UU. (US AISI) para operar un marco de gestión de riesgos de IA, incluidas directrices, herramientas y benchmarking, para evaluar y mitigar los riesgos de IA.

El Departamento de Seguridad Nacional de EE. UU. estableció la Junta de Seguridad y Protección de IA (AI Safety and Security Board) en 2024, atrayendo atención al incluir a los directores ejecutivos de 22 importantes empresas de IA del país, como OpenAI, Anthropic, MS, Google, Nvidia, IBM y Adobe, AWS, como asesores. Esto demuestra la postura del gobierno de EE. UU. de buscar formas de mejorar la seguridad y la protección de la tecnología de IA basándose en su experiencia, en lugar de regular unilateralmente a las Big Tech, en cooperación con ellas.

Recientemente, la UE promulgó la Ley de IA, y muchas empresas estadounidenses ahora deben especificar el contenido utilizado en el proceso de aprendizaje de IA, cumplir con medidas de prevención de riesgos y se les restringe el uso de sistemas de identificación biométrica remota en tiempo real. Ante esto, mientras las Big Tech buscan sus propias contramedidas, el gobierno de EE. UU. también está haciendo esfuerzos para no ceder el liderazgo en el ámbito de las normas de IA a Europa. En mayo de 2024, EE. UU. presentó una resolución ante la ONU para promover sistemas de IA seguros y confiables para el desarrollo sostenible (Seizing the opportunities of safe, secure and trustworthy artificial intelligence systerns for sustainable development), que fue aprobada con 143 votos a favor, 9 en contra y 25 abstenciones. La resolución enfatiza el impacto perjudicial del uso inapropiado o malicioso de la IA en los derechos humanos y el riesgo de exacerbar la desigualdad y la discriminación debido a datos sesgados, y contiene el contenido de que se necesita una coordinación de las normas globales, pero no es vinculante. La resolución solicita específicamente la cooperación internacional y el consenso global para el desarrollo e implementación seguros de la IA, la cooperación y el intercambio de investigación y tecnología entre las partes interesadas, el desarrollo de regulaciones a nivel nacional e internacional, la prohibición del uso indebido en el diseño, desarrollo, implementación y uso de la IA, y aboga por la transferencia de tecnología y la asistencia financiera para cerrar la brecha digital entre países desarrollados y en desarrollo.

China también está promoviendo la garantía de la confiabilidad de la IA y el establecimiento de un sistema de certificación a través de la presentación de una serie de principios y directrices. En mayo de 2019, publicó los 'Principios de IA de Beijing'. Los principios presentan principios sobre el desarrollo, uso y gobernanza de la IA, con el bienestar humano y la búsqueda de la diversidad y la inclusión como valores fundamentales. Se presentaron 7 principios en el área de desarrollo de IA: uso para la humanidad, búsqueda de propósitos correctos, responsabilidad, controlabilidad de riesgos, ética y transparencia, diversidad e inclusión, y apertura; 3 principios en el área de uso de IA: responsabilidad por el uso, derechos humanos y gestión de datos, y educación y capacitación; y 5 principios en el área de gobernanza de IA: optimización del empleo, armonía y cooperación en el ecosistema de IA, regulación adecuada, directrices detalladas y preparación de estrategias a largo plazo.

China enfatiza los derechos y oportunidades iguales para todos los países al proponer la Iniciativa de Gobernanza Global de IA en el Foro de la Cumbre de la Franja y la Ruta de 2023, al tiempo que presenta directrices para las empresas nacionales de IA para contrarrestar el monopolio tecnológico de las Big Tech estadounidenses, y enfatiza aún más el apoyo a las empresas nacionales de IA. Después de que las empresas chinas fueran criticadas por el uso indiscriminado de la tecnología de reconocimiento facial, publicaron un borrador de regulaciones de gestión de seguridad para la aplicación de la tecnología de reconocimiento facial. Al juzgar que es urgente prevenir la generación de información falsa, el sesgo y la manipulación de la opinión pública por parte de la IA generativa, se implementaron medidas provisionales para la gestión de servicios de IA generativa. Se puede ver que las normas y regulaciones de IA en China tienen un aspecto algo defensivo.

El Reino Unido, en la Primera Cumbre de Seguridad de IA (AI Safety Summit) celebrada en Bletchley Park en 2023, emitió la Declaración de Bletchley (Bletchley Declaration), pidiendo una respuesta conjunta a los riesgos potenciales de la inteligencia artificial. El objetivo principal de la reunión es buscar y establecer un consenso sobre medidas regulatorias rápidas y apropiadas para garantizar una IA centrada en el ser humano, confiable y responsable. A la reunión asistieron 28 países, incluido Corea (Australia, Brasil, Canadá, Chile, China, Unión Europea, Francia, Alemania, India, Indonesia, Irlanda, Israel, Italia, Japón, Kenia, Arabia Saudita, Países Bajos, Nigeria, Filipinas, Ruanda, Singapur, Suiza, Turquía, Ucrania, Emiratos Árabes Unidos, Reino Unido, Estados Unidos), quienes declararon su cooperación conjunta en materia de seguridad de la IA. El Reino Unido está liderando conferencias internacionales sobre seguridad de la IA en las que participan Estados Unidos, China y países en desarrollo, y se esfuerza por contrarrestar el desarrollo y la difusión de la tecnología de IA centrados en Estados Unidos o China y formar una alianza internacional más representativa y sólida.

Debido a la feroz competencia entre países en torno a la tecnología de IA y las posiciones algo diferentes sobre las normas, se prevén dificultades en la aparición de normas o gobernanza acordadas internacionalmente. Sin embargo, se está extendiendo el consenso de que se necesita una gobernanza global de IA para la seguridad y confiabilidad de la IA, su gestión y la regulación de las Big Tech, y se están llevando a cabo discusiones sobre qué tipo de organización internacional existente sería la más adecuada para el campo de la IA. Un informe reciente compara la Organización de Aviación Civil Internacional (OACI), la energía nuclear y atómica (CERN; OIEA), el cambio climático (IPCC) y las organizaciones internacionales existentes para la gestión de sistemas de pago internacionales (BIS; FSB; FATF) como ejemplos. Es decir, la energía nuclear, la aviación civil y los sistemas de pago internacionales, que pueden ejercer funciones de intercambio de información, promoción de la cooperación, monitoreo y aplicación, se proponen como candidatos adecuados para la gobernanza global de IA.

<Figura 9> Comparación de tipos de gobernanza global de IA

Fuente: Microsoft. 2024.

Hasta la fecha, un pequeño número de grandes empresas tecnológicas de países desarrollados ha liderado el desarrollo y la aplicación de la tecnología de IA, lo que ha generado preocupaciones sobre el monopolio de las grandes tecnológicas a nivel nacional y la ampliación de la brecha entre países desarrollados y en desarrollo a nivel internacional. Estas circunstancias, combinadas con una creciente conciencia de los riesgos de seguridad y fiabilidad que plantea la tecnología de IA, han llevado a los países a establecer regulaciones sobre la tecnología de IA y a debatir sobre normas y gobernanza globales de IA. La velocidad del desarrollo y la aplicación de la tecnología de IA superan con creces estas discusiones, lo que no reduce la incertidumbre en torno a la tecnología de IA. A medida que las diferencias y la competencia entre las principales potencias en torno a las normas de IA se hacen evidentes, la dirección de las normas y la gobernanza de la IA es difícil de prever con optimismo. Sin embargo, dado que se prevé que el desarrollo de la tecnología de IA continúe acelerándose, las cuestiones de ética, fiabilidad y seguridad se agudizarán aún más, y la brecha creada por la tecnología de IA se convertirá en un desafío importante que la comunidad internacional deberá abordar conjuntamente. La dirección del desarrollo de la tecnología de IA y su gobernanza se explorarán a través de la interacción dinámica entre la feroz competencia de las grandes empresas tecnológicas por el liderazgo en el desarrollo de la tecnología de IA, los esfuerzos del gobierno de EE. UU. para establecer normas de seguridad y responsabilidad de la IA dentro del alcance de apoyo a la supremacía de sus propias grandes empresas tecnológicas, las acciones de los gobiernos de la UE y el Reino Unido para liderar los esfuerzos internacionales de establecimiento de normas de IA mientras controlan a las grandes empresas tecnológicas estadounidenses, China, que responde estableciendo directrices para la gestión de la IA facial y la IA generativa mientras controla a las grandes empresas tecnológicas estadounidenses y apoya activamente a sus propias empresas de IA, y la posición del Sur Global, que critica los esfuerzos de formulación de normas y desarrollo de tecnología de IA centrados en los países desarrollados y solicita atención a la brecha de IA. ■

Bibliografía

Bae, Young-ja. 2022. "COVID-19 y la economía digital: Perspectivas sobre las cadenas de valor globales y el desarrollo de los países en desarrollo." EAI Working Paper. 9 de febrero. https://www.eai.or.kr/...kor_workingpaper.

Birhane, Abeba. 2020. "Algorithmic Colonization of Africa." SCRIPTed 17, 2: 389. https://script-ed.org/?p=3888.

Draux, Hélène. 2024. "Investigación sobre Inteligencia Artificial – Las Brechas Globales." Digital Science, 4 de enero. https://www.digital-science.com/...divides/.

Huw, Roberts, Emmie Hine, Mariarosaria Taddeo y Luciano Floridi. 2024. "Gobernanza Global de IA: Barreras y Caminos a Seguir." International Affairs 100, 3: 1275-1286. https://doi.org/10.1093/ia/iiae073.

Kemp, Simon. 2024. "Uso de Internet en 2024." Datareportal, 31 de enero. https://datareportal.com/...adoption

Khanal, Shaleen, Hongzhou Zhang y Araz Taeihagh. 2024. "¿Por qué y cómo está aumentando el poder de las grandes tecnológicas en el proceso político? El caso de la IA generativa." Policy and Society, puae012. https://doi.org/10.1093/polsoc/puae012.

Smith, Brad y Natasha Crampton. 2024. "Gobernanza Global: Objetivos y Lecciones para la IA." Microsoft, 17 de mayo. https://blogs.microsoft.com/...ai/.

Stanford Human-Centered Artificial Intelligence (HAI). 2024. “Informe del Índice de Inteligencia Artificial 2024.” https://aiindex.stanford.edu/...Report.pdf.

Maslej, Nestor, Loredana Fattorini, Raymond Perrault, Vanessa Parli, Anka Reuel, Erik Brynjolfsson, John Etchemendy, Katrina Ligett, Terah Lyons, James Manyika, Juan Carlos Niebles, Yoav Shoham, Russell Wald y Jack Clark. 2024. "Informe Anual del Índice de IA 2024." AI Index Steering Committee, Institute for Human-Centered AI, Universidad de Stanford, abril. https://aiindex.stanford.edu/report/.

Okolo, Chinasa. 2023. "IA en el Sur Global: Oportunidades y Desafíos hacia una Gobernanza más Inclusiva." Brookings, 1 de noviembre. https://www.brookings.edu/...governance/.

UN Trade and Development (UNCTAD). 2023. “Informe sobre Tecnología e Innovación 2023.” https://unctad.org/tir2023.

_________. 2020. “Informe sobre Inversiones en el Mundo 2020.” https://unctad.org/...2020.

World Bank. 2020. “Informe sobre el Desarrollo Mundial 2020: Comercio para el Desarrollo en la Era de las Cadenas de Valor Globales.” https://www.worldbank.org/...wdr2020.

■ Bae Young-ja, Profesora del Departamento de Ciencias Políticas y Relaciones Internacionales de la Universidad Konkuk.

■ Responsable y Editor:Park Ji-soo, Investigadora de EAI

    Consultas y Edición: 02 2277 1683 (ext. 208) | jspark@eai.or.kr