Introducción

I. ¿Por qué la IA?

La civilización humana moderna se enfrenta a desafíos significativos, incluida la confrontación geopolítica entre grandes potencias centrada en la competencia estratégica entre China y Estados Unidos, la reversión de la globalización y el gran caos del orden económico internacional liberal en medio de la propagación del proteccionismo y la fragmentación de las cadenas de suministro, las crisis climáticas y de salud/pandemias, el aumento de la proliferación nuclear y el riesgo de terrorismo nuclear, y la competencia tecnológica descontrolada. Si la humanidad continúa persiguiendo estrechos intereses nacionales y la confrontación entre bloques liderada por las grandes potencias, sin poder liberarse del pantano de la soberanía, el planeta entero podría enfrentarse a una situación de riesgo de extinción.

En el centro de estos cambios futuros se encuentra la Inteligencia Artificial (IA). La IA puede definirse como una tecnología habilitadora o meta-tecnología que caracteriza los cambios y capacidades de otras tecnologías, actuando como un "habilitador" y un "multiplicador de fuerza". Por lo tanto, duplica la velocidad de la innovación por sí misma, y puede agravar los problemas existentes o proporcionar nuevas soluciones a los mismos. La IA, al combinarse con armas nucleares y sistemas de armamento, puede tener resultados destructivos, o puede conducir a la fragmentación económica global y a la aceleración de la desigualdad global, centrada en el dominio del ecosistema de la tecnología de IA. A nivel nacional, se prevé que resulte en una profundización del monopolio de las grandes corporaciones (Gigantes Tecnológicos), desequilibrios en el mercado laboral y desempleo, la consolidación de regímenes autoritarios y la fragmentación social en torno a valores, creencias u objetivos específicos. Por otro lado, la innovación tecnológica de la IA puede maximizar los beneficios económicos y al mismo tiempo ofrecer pistas para resolver problemas aparentemente insostenibles como el medio ambiente o la salud. En este sentido, la dirección del desarrollo de la tecnología de IA puede considerarse una variable fundamental que determinará la existencia y prosperidad de la sociedad humana en el futuro.

El equipo de investigación del Instituto de Estudios de Asia Oriental (EAI) está analizando sistemáticamente los macrocambios en las áreas de seguridad militar y economía política, impulsados por la innovación tecnológica de la IA, como variables clave del cambio del orden mundial futuro. Este trabajo se analizará dividiéndolo en la militarización y armamentización de la IA por parte de China y EE. UU., la competencia por la creación de modelos comerciales de IA y la construcción de cadenas de suministro globales, la expansión de la influencia monopolística de las empresas tecnológicas gigantes y los cambios en las relaciones gobierno-empresa, y las respuestas colectivas a la regulación de la tecnología de IA. Este proyecto presentará escenarios de cambio del orden mundial futuro y, en última instancia, buscará establecer un sistema de gobernanza global (共治體制) que refleje las posiciones de las grandes potencias y de las múltiples partes interesadas, con el fin de controlar y gestionar los impactos destructivos de la tecnología de IA.

II. ¿Cuáles son las características técnicas de la IA?

Como tecnología avanzada, la IA posee características únicas. En primer lugar, debido a la naturaleza de la tecnología de IA, que imita la inteligencia humana, sus efectos catastróficos en caso de uso indebido son generalizados, y si se desarrolla hacia la Inteligencia Artificial General (AGI) o la Superinteligencia Artificial (SAI), presenta el problema fundamental de la incontrolabilidad de la tecnología. En segundo lugar, la IA comparte dos aspectos: "beneficio/innovación" y "crisis". A pesar de la existencia de crisis de militarización, uso indebido e incontrolabilidad de la IA, su control y regulación son difíciles debido a sus beneficios e innovaciones. En tercer lugar, en la IA existen diversos interesados (multilateralismo), no solo estados, sino también individuos, empresas y grupos sociales. Por lo tanto, es difícil dar forma y controlar el futuro del desarrollo de la tecnología de IA únicamente mediante la regulación y el control dirigidos por el estado. En cuarto lugar, mientras que las crisis de la política internacional, como el cambio climático/crisis ambiental, la guerra nuclear y las crisis de pandemias/salud, requieren una cooperación centrada en la prevención de catástrofes limitadas a cada campo, la IA tiene un impacto revolucionario en todos los niveles (individual, social, estatal y global) y en todos los campos (militar, económico, ideológico, político), lo que presenta problemas de multicapa, integralidad y complejidad en la regulación, el control y el establecimiento de un nuevo sistema de gobernanza global. Por último, el futuro de la tecnología de IA y los cambios que provocará en los individuos, la sociedad, los estados y la política internacional se encuentran solo en su etapa inicial. Existe un potencial ilimitado y un poder explosivo que dificultan la predicción de los cambios en el futuro a medio y largo plazo.

III. Cambios en el orden militar y económico provocados por la IA

Nuestro equipo de investigación predijo que, en el contexto de la competencia de desacoplamiento selectivo (de-risking) entre China y EE. UU. en el futuro, el ecosistema de la IA se fragmentaría a medida que ambos países compiten por el uso militar de la IA y la construcción de modelos de comercialización de la IA. Además, se predijo que, si bien Estados Unidos, con una clara ventaja en infraestructura, capacidad de cómputo, modelos fundacionales y aplicaciones, ocuparía una posición de liderazgo en esta competencia, las voces de los aceleracionistas que buscan la resolución de problemas a través de la innovación tecnológica ganarían fuerza en los círculos políticos de las principales potencias, incluidas China y EE. UU., como resultado de la feroz competencia.

En medio de la competencia por la tecnología de IA entre las principales potencias, la fragmentación en el ámbito político-económico avanzará, aumentando la posibilidad de bloques económicos. Pueden surgir competencias multifacéticas y multinivel y escaladas de conflictos en todos los ámbitos, incluidos la tecnología, la industria, la economía y la política. Además, con la desaparición del efecto disuasorio del uso de la fuerza de la interdependencia económica existente debido a la formación de bloques, los problemas potenciales derivados del uso militar de la IA (por ejemplo, el entrelazamiento nuclear y el doble uso, la escalada involuntaria y el estallido de guerras debido al problema de la "caja negra") podrían manifestarse, aumentando la probabilidad de conflictos armados reales y guerras en puntos críticos geopolíticos en la región del Indo-Pacífico, como Taiwán, Corea del Norte y el Mar de China Meridional y Oriental.

En ese proceso, el Sur Global probablemente enfrentará dependencia de datos, económica y tecnológica, así como inestabilidad política, con una brecha política, económica y social aún mayor con los países desarrollados en comparación con el pasado. Al mismo tiempo, la vulnerabilidad de los sistemas de infraestructura crítica y financieros de los países del Sur Global podría ser explotada debido a sus débiles sistemas de seguridad, lo que provocaría una grave inestabilidad. Además, las grandes empresas tecnológicas que lideran la competencia de IA podrían surgir como una nueva fuerza hegemónica incontrolable, mostrando tendencias de monopolio en el mercado, dominio del mercado laboral y desempleo a gran escala, sesgos de datos y violaciones de la privacidad, y desafiando el poder estatal. Por lo tanto, si la actual tendencia de competencia de IA continúa, la humanidad podría enfrentarse a una crisis muy grave en un futuro próximo.

IV. Escenarios Futuros y Estándares de Nueva Civilización

¿Cómo se desarrollará el orden mundial futuro si se materializan los riesgos de militarización de la IA, fragmentación económica, proliferación de casos de uso indebido de IA e incluso la subordinación de la humanidad a la IA? Como muestra esta investigación, el orden futuro se manifestará como una combinación de los cambios impulsados por la tecnología de IA y la dinámica del orden existente (Figura 1).

<Figura 1> Escenarios de transformación del orden futuro y desarrollo de la IA por campo

Esto resultará en (1) la aparición de un sistema internacional caracterizado por la confusión y la fragmentación, división y confrontación de las normas y el orden internacional (Ruta 1) y las instituciones, debido a la competencia soberana de las grandes potencias y las potencias emergentes en ausencia de un liderazgo global; (2) un sistema que logra la coexistencia mutua basada en cierta cooperación en desafíos globales, junto con la competencia por la influencia, el dominio tecnológico y la supremacía estratégica entre las grandes potencias (Ruta 2); y (3) la aparición de un sistema de gobernanza global inclusivo y complejo a través de la participación democrática y multidimensional de estados y actores no estatales (Ruta 3). Esta serie de informes especiales presentará la lógica y la teoría que subyacen a estos escenarios y, en última instancia, buscará un plan para construir un orden mundial que se ajuste a los estándares de la nueva civilización futura. ■

■ Kim Yang-gyu_Investigador Principal del EAI. Profesor adjunto en el Departamento de Ciencias Políticas y Relaciones Internacionales de la Universidad Nacional de Seúl.

■ Son Yeol_Director del EAI. Profesor en la Escuela de Graduados de Estudios Internacionales de la Universidad Yonsei.

■ Jeon Jae-seong_Director del Centro de Investigación de Seguridad Nacional del EAI. Profesor en el Departamento de Ciencias Políticas y Relaciones Internacionales de la Universidad Nacional de Seúl.

■ Ha Young-sun_Presidente del EAI. Profesor Emérito de la Universidad Nacional de Seúl.

■ Responsable y Editor:Park Ji-soo, Investigador del EAI

    Consultas y Edición: 02 2277 1683 (ext. 208) | jspark@eai.or.kr