[La política internacional en la era de la inteligencia artificial] ⑧ La revolución de la IA y la teoría de la seguridad republicana: el resurgimiento del doble dilema de la anarquía y la jerarquía

I. Avances tecnológicos y cambio de paradigma de la civilización

Los cambios tecnológicos significativos provocan por sí mismos procesos de agitación social. A nivel de relaciones internacionales, crean nuevos ganadores y perdedores, cambian las preferencias de los actores y permiten la formación de nuevas normas y organizaciones. Por el contrario, las características de la política internacional contemporánea también pueden influir en el contenido y la velocidad del cambio tecnológico.[1] Para evaluar el impacto de la inteligencia artificial (IA), el campo tecnológico más destacado en la actualidad, en la política internacional, es necesario primero situar la IA en el contexto de la historia tecnoeconómica a largo plazo de la humanidad.

La IA se evalúa como poseedora de las características de las "tecnologías de propósito general (GPT)" tradicionales, en términos de su amplia aplicabilidad, su potencial para fomentar la innovación complementaria y su capacidad de mejora tecnológica continua. Esto es análogo a los casos anteriores de la electricidad, el motor de combustión interna y las computadoras, y solo a este nivel se considera una innovación tecnológica con el potencial de generar cambios diversos y amplios en toda la sociedad y la economía. Sin embargo, algunos predicen que la IA podría ir más allá del nivel de GPT y alcanzar el nivel de "tecnologías revolucionarias (RT)" que han traído mejoras significativas en la captura de energía en la historia de la humanidad, como la agricultura, la cría de ganado y el uso de combustibles fósiles. En la historia de la humanidad, solo han existido los dos casos mencionados anteriormente, que dieron lugar a la Revolución Neolítica hace aproximadamente 10.000 años y a la Revolución Industrial en los siglos XVIII y XIX, respectivamente, lo que provocó transformaciones fundamentales en la estructura de la civilización humana.[2]

Si la IA resultará ser una GPT o una RT en el futuro aún no está claro, pero muchos expertos están prestando atención a la posibilidad de que actúe como una tecnología catalizadora importante que acelere las tendencias existentes de competencia por el poder, dilemas de seguridad y cambios de régimen político en el ámbito de la política internacional, amplificando aún más la inestabilidad e incertidumbre de la historia mundial.[3]

Este estudio busca comprender las implicaciones de la revolución de la IA en la política internacional, particularmente dentro del marco de la "teoría de la seguridad republicana" o "principios organizativos y seguridad".[4]En la historia del pensamiento de la política internacional, los republicanos han reflexionado sobre la posibilidad de crear instituciones políticas (=negarchy) que superen la inseguridad generada por los dos abismos de la anarquía y la jerarquía en los espacios nacional e internacional. Este estudio considera la innovación tecnológica de la IA como un catalizador que intensifica fundamentalmente estos dilemas centrales de la teoría de la seguridad republicana.

¿Será la IA la última versión del proyecto de la Ilustración, el último invento de la humanidad? La cuestión de cómo controlar el inmenso potencial de la IA, que podría amenazar los valores esenciales de la especie humana, incluida la supervivencia misma, especialmente la futura superinteligencia artificial (ASI), se encuentra en la extensión de los antiguos dilemas de la filosofía política republicana.[5]A continuación, se clasificarán y examinarán tres escenarios de riesgo de seguridad que podría causar la IA: ① la posibilidad de una profundización del dilema de seguridad entre potencias en un estado de anarquía internacional y el riesgo de guerra nuclear; ② la consolidación de la jerarquía a nivel nacional (surgimiento de la dictadura digital y declive de la democracia); y ③ el fortalecimiento de la jerarquía a nivel internacional (profundización de la desigualdad internacional existente y amenaza de extinción humana).

II. Profundización del problema de la anarquía internacional y la IA

La era de la multipolaridad y la competencia estratégica entre grandes potencias ha llegado. Ha surgido un entorno en el que el marco institucional de la estabilidad estratégica y el control de armas a escala mundial, construido desde la Guerra Fría, se está desmoronando. Sin embargo, la Cuarta Revolución Industrial, representada por la IA, está echando leña a este fuego de incertidumbre estructural.[6]Por el contrario, la aparición de la IA en el contexto actual de alta tensión geopolítica, en lugar de un período histórico de unipolaridad estable, es un factor adverso para la humanidad. Es como si se estuviera creando un entorno internacional moderno similar al rápido desarrollo de armas nucleares y la carrera armamentista que ocurrió bajo la intensa presión geopolítica de la Segunda Guerra Mundial y la Guerra Fría.[7]Esto significa que el control de la interacción entre la presión competitiva de la anarquía provocada por la multipolarización internacional y la carrera armamentista de IA se ha convertido en un problema de seguridad urgente.

En otras palabras, la inteligencia artificial está emergiendo como el principal campo de batalla de la competencia estratégica entre las grandes potencias, y en particular, la estrategia de bloqueo de alta tecnología de Estados Unidos choca con la estrategia de autosuficiencia tecnológica liderada por el gobierno de China.[8]Históricamente, la aparición y difusión de nuevas GPT han sido variables poderosas para explicar los cambios en la hegemonía económica entre las grandes potencias. Por ejemplo, Gran Bretaña, que lideró la difusión de tecnologías de propósito general como la siderurgia durante la Primera Revolución Industrial, pudo crecer hasta convertirse en una potencia hegemónica a través de un rápido aumento de la productividad. A finales del siglo XIX y principios del XX, Estados Unidos pudo liderar la Segunda Revolución Industrial y convertirse en una nueva potencia hegemónica a través de la difusión de GPT como la electrificación y la mecanización. Por el contrario, Japón, a pesar de ocupar una posición de liderazgo en algunas industrias como la electrónica y la TI durante la Tercera Revolución Industrial, fracasó en alcanzar a Estados Unidos al quedarse atrás en la difusión de GPT como la informática y la ingeniería de software. En este contexto, se espera que quién lidere la innovación de la IA, una GPT de la Cuarta Revolución Industrial, y logre su difusión en todos los campos, determinará el rumbo de la actual competencia hegemónica entre Estados Unidos y China.[9]La naturaleza de esta competencia entre las dos superpotencias en torno a la IA se está desarrollando rápidamente, especialmente en el campo de la competencia por la tecnología militar, que es un factor directo de la transferencia de poder. China, como país desafiante, cree que fortalecer su capacidad para librar una "guerra inteligente" es como "adelantar en una curva" que puede reducir instantáneamente la brecha militar existente con Estados Unidos. En respuesta, Estados Unidos también busca el "dominio global" en el campo de la IA para prevenir la transferencia de poder.[10]

Sin embargo, el desarrollo de esta situación plantea un riesgo fundamental para el orden de la política internacional, ya que se prevé que la aparición del llamado "nexo IA-nuclear" intensifique el dilema de seguridad entre las potencias nucleares, debilite la estabilidad estratégica y de crisis, y aumente significativamente el riesgo de guerra nuclear.[11]En primer lugar, la aplicación de la IA a los sistemas de armas nucleares existentes puede provocar la descentralización/automatización de la toma de decisiones humanas y la aceleración de la velocidad de decisión, lo que podría colapsar los supuestos o premisas de la teoría de disuasión existente. Además, si la tecnología de IA se combina con sistemas de reconocimiento, adquisición de objetivos y guiado, la visibilidad de las armas nucleares aumentará, lo que incrementará la posibilidad de neutralizar preventivamente los activos de represalia nuclear (capacidad de segundo ataque), debilitando así significativamente la estabilidad estratégica. Esto no solo aumentará la presión de la carrera armamentista para las potencias nucleares, sino que también fomentará la adopción de doctrinas nucleares ofensivas como el "lanzamiento por alerta temprana", lo que reducirá la estabilidad de la crisis y, en consecuencia, provocará un aumento estructural del riesgo de "escalada involuntaria".[12]

Para empeorar las cosas, el surgimiento del nexo IA-nuclear se está produciendo en el contexto de la "nueva era nuclear" de competencia estratégica entre Estados Unidos, China y Rusia o de multipolaridad, lo que complica aún más la situación. En comparación con la era del "equilibrio del terror" entre la URSS y EE. UU. durante la Guerra Fría, que era relativamente estable, ahora el número de potencias nucleares ha aumentado, lo que ha aumentado significativamente la complejidad del juego de disuasión. Además, el hecho de que casi todos los mecanismos de control de armas nucleares construidos durante la Guerra Fría hayan desaparecido como víctimas de la competencia estratégica agrava la gravedad de la situación.[13] Sin embargo, si se añade el temor de las grandes potencias de que la introducción de la tecnología de IA pueda tener un efecto decisivo de "ventaja del primer jugador" en una carrera armamentista nuclear, se puede producir un resultado que intensifique incontrolablemente el dilema de seguridad.[14]

Esta situación de seguridad internacional actual evoca un déjà vu histórico con el surgimiento inicial de la llamada "cuestión política nuclear" a principios de la Guerra Fría. En aquel entonces, la aparición del átomo, con un poder destructivo sin precedentes en la historia, significó un aumento extremo de la interdependencia de la violencia y planteó la pregunta fundamental de si el "sistema de Westfalia" bajo el anarquismo global era sostenible. Ante este dilema, incluso realistas clásicos como Hans Morgenthau y John Herz llegaron a argumentar la necesidad de un gobierno mundial único (nuclear one worldism), afirmando que el sistema de estados nacionales, que podría provocar la extinción humana, ya no era sostenible. Por supuesto, la realidad de la segunda mitad del siglo XX se resolvió con un compromiso mediante la institucionalización de la disuasión mutua y el control de armas bajo el acuerdo entre Estados Unidos y la Unión Soviética, manteniendo el sistema interestatal intacto.[15]

Sin embargo, en la "tercera era nuclear", en la que la carrera armamentista nuclear se ha reavivado, la conexión entre la tecnología de IA y las armas nucleares está reduciendo drásticamente la estabilidad estratégica y aumentando la posibilidad de una guerra nuclear no intencionada, lo que nos enfrenta nuevamente a las cuestiones fundamentales del orden mundial planteadas a principios de la Guerra Fría. ¿Será sostenible el sistema interestatal esta vez? ¿Qué tipo de orden mundial y de institucionalización del control de armas se necesita para evitar la "sexta extinción masiva" en la historia de la Tierra?

III. Profundización de los problemas de jerarquía nacional e internacional de la IA

La difusión de la tecnología de IA plantea otras cuestiones importantes, ya que puede consolidar o crear nuevas jerarquías existentes en los ámbitos nacional e internacional, e incluso, de manera más extrema, generar un "riesgo existencial (x-risk)" para la humanidad.

1. Teoría de la innovación radical: La rápida transformación de la guerra por la IA

Dado que la IA tiende a considerar la inteligencia como una característica única y autosuficiente, los sistemas diseñados suelen tener una arquitectura centralizada. Además, dado que el entrenamiento y la operación de la IA requieren enormes recursos, es probable que grandes corporaciones o gobiernos monopolicen su desarrollo. Además, se sabe que la IA es fácil de combinar con tecnologías que permiten a los poderes centrales controlar y vigilar a los ciudadanos de manera microscópica. Por lo tanto, debido a sus características técnicas, la IA a menudo se evalúa como intrínsecamente afín a la centralización autoritaria y antidemocrática.[16] En consecuencia, se está debatiendo la posibilidad de que la IA abra el futuro de la "dictadura digital" tanto en sociedades autoritarias establecidas como en democracias.[17]

Por ejemplo, la posibilidad de la aparición de un "panóptico digital", confirmada durante la pandemia de COVID-19, ha generado preocupación por la evolución de una "sociedad de vigilancia" foucaultiana basada en la tecnología de IA.[18] En este sentido, China ha sido la más pionera (?) en presentar el futuro de un "estado de vigilancia basado en IA". Es decir, el sistema de vigilancia de China ha evolucionado durante las últimas dos décadas a través de la digitalización de datos administrativos y de seguridad pública, la integración de IA a nivel de ciudad y el intercambio a nivel provincial, construyendo una vasta infraestructura que abarca 700 millones de cámaras CCTV, así como dispositivos móviles e IoT. En particular, alejándose de la vigilancia pasiva inicial, la IA de China está haciendo la transición a un sistema de vigilancia y control activo, automatizando gradualmente todo el ciclo de recopilación de información, mando, despliegue y patrulla de la policía, evolucionando hacia la integración y análisis en tiempo real de los datos de toda la ciudad, y la ejecución autónoma de decisiones por agentes de IA. Además, con la aparición de "medios de ejecución impulsados por IA" como drones, vehículos autónomos y robots humanoides, la vigilancia se está expandiendo desde las restricciones en línea hasta la intervención en el sitio y el control físico. Esta integración finalmente apunta a la finalización de una estructura panóptica en la que el liderazgo central observa todo el país en tiempo real, y el Partido Comunista Chino tiene como objetivo el gobierno automático centrado en la IA, reduciendo la dependencia de los burócratas humanos.[19]

Por otro lado, la IA contiene riesgos a largo plazo que pueden debilitar los cimientos estructurales de los sistemas democráticos existentes, incluso sin seguir la ruta de la hipercentralización por parte de estados totalitarios. En primer lugar, si la IA asume la planificación y entrega de la comunicación política, existe el riesgo de que el mecanismo de deliberación y respuesta, el núcleo de la democracia representativa, se desmorone debido a la desconexión de la representación y el bucle de retroalimentación ciudadano-gobierno. En segundo lugar, la IA puede exacerbar la concentración extrema de riqueza y poder, y la desigualdad, convirtiendo la democracia en una cáscara vacía y acelerando las tendencias oligárquicas. En tercer lugar, si la producción de noticias y conocimiento se reorganiza en torno a modelos de lenguaje grandes (LLM), el ecosistema de información se volverá dependiente de unas pocas Big Tech, y la esfera pública democrática, ya debilitada, se enfrentará a una "crisis cognitiva" aún mayor. Si estas tres tendencias se combinan, existe la posibilidad de que la democracia se degrade a una democracia tecnocrática y sintética, manteniendo solo su apariencia externa.[20] En cuarto lugar, con la llegada de la llamada "capitalismo de vigilancia", puede surgir una situación en la que nuestra vida cotidiana sea capturada no por redes empresariales totalitarias, sino por redes empresariales totalitarias. Esta es otra forma de totalitarismo posmoderno en la que nuestras vidas son registradas y reguladas a través de la inteligencia artificial y la ciencia de datos, no por organizaciones estatales centralizadas, sino por la lógica del dinero y el beneficio.[21]

2. Economía política internacional: Ampliación de la brecha entre el Norte y el Sur Global

Desde la perspectiva de la economía política internacional, la brecha existente entre el hemisferio norte y el hemisferio sur se intensificará en la era de la IA. El desarrollo de la IA se basa en el monopolio de algoritmos y la nueva democracia digital, que se mantiene a través de la extracción a gran escala de datos de países subdesarrollados y la explotación de mano de obra barata por parte de empresas occidentales. En otras palabras, la economía política internacional de la IA parece cambiar la apariencia del trabajo, pero en realidad apenas altera la estructura de poder económico existente. Además, la militarización de la IA está impulsada por la competencia entre las grandes potencias, y su campo de pruebas son principalmente los países del hemisferio sur. Mientras los ejércitos de las grandes potencias se arman con máquinas de combate y equipos automatizados, en el hemisferio sur, tecnológicamente rezagado, se repiten conflictos de baja intensidad y guerras subsidiarias, y este desequilibrio finalmente otorga a las grandes potencias una ventaja militar decisiva.[22]

3. Riesgo X: El peligro de la ASI después de la singularidad

En mayo de 2023, el Centro para la Seguridad de la IA (Center for AI Safety), una organización sin fines de lucro, emitió una breve declaración afirmando que "mitigar el riesgo de extinción por IA debe ser una prioridad mundial, junto con riesgos como el de pandemias y el de guerra nuclear". Curiosamente, la declaración fue firmada por unas 350 personas clave, incluidos los directores ejecutivos de importantes empresas de IA como Sam Altman de OpenAI, Demis Hassabis de Google DeepMind y Dario Amodei de Anthropic, así como científicos clave como el profesor Geoffrey Hinton de la Universidad de Toronto, el profesor Yoshua Bengio de la Universidad de Montreal y el director de tecnología de Microsoft, Kevin Scott.[23]

La advertencia de que la evolución de la IA, al superar la singularidad[24]y alcanzar la inteligencia general, y más allá, la superinteligencia, podría amenazar la propia supervivencia de la humanidad debido a su incontrolabilidad, comenzó a ser discutida seriamente después de la publicación de "Superintelligence" de Nick Bostrom en 2014.[25]Estas discusiones apocalípticas se alinean con el problema de la hipótesis de "riesgo existencial (x-risk)" del propio Bostrom[26]y la hipótesis del "mundo vulnerable"[27]. En primer lugar, la tesis del "riesgo existencial" define la civilización tecnológica moderna como una etapa de crisis que podría provocar por primera vez en la historia humana la extinción global o la pérdida irreversible de potencial, y la define como un riesgo "terminal y global" que podría cortar permanentemente a toda la humanidad o destruir fundamentalmente el potencial futuro del desarrollo de la vida inteligente. Este riesgo existencial es un peligro de una dimensión completamente nueva provocado por el avance tecnológico acelerado, como la energía nuclear, la nanotecnología, la biotecnología y la inteligencia artificial. En un contexto similar, la tesis del "mundo vulnerable" sugiere que una civilización puede inevitablemente dirigirse hacia la catástrofe una vez que alcanza un cierto nivel de capacidad tecnológica. El problema radica en la irreversibilidad, es decir, que una vez inventada una tecnología no se puede "desinventar", y en el hecho de que la civilización moderna se encuentra actualmente en un "estado predeterminado semi-anárquico", lo que impide la gestión colectiva eficaz de esta vulnerabilidad.

Sin embargo, ambos conceptos están directamente relacionados con la IA. Por un lado, una ASI altamente desarrollada constituye un nuevo tipo de riesgo existencial que podría amenazar la supervivencia de toda la humanidad y su potencial futuro. Por otro lado, puede hacer que la civilización tecnológica se deslice hacia un mundo vulnerable al permitir que estados, corporaciones e individuos posean o abusen fácilmente de capacidades de alto riesgo.

Más específicamente, las ocho categorías de riesgos existenciales que la IA podría causar se resumen de la siguiente manera. Primero, la "militarización" puede llevar a que la comunidad humana delegue en la IA la capacidad de autodestruirse cuando una IA poderosa se desvíe hacia activos militares superinteligentes o el diseño de armas de destrucción masiva. Segundo, el "debilitamiento funcional" se refiere al riesgo de que, a medida que las sociedades y los individuos dependan cada vez más de la IA para diversas funciones, su capacidad para resolver problemas y gestionar crisis por sí mismos disminuya, haciendo imposible la supervivencia sin IA en momentos críticos. Tercero, la "erosión epistémica" se refiere al riesgo de que la civilización se paralice y no pueda salvarse a sí misma si la IA distorsiona el entorno informativo y socava la capacidad de la sociedad en su conjunto para juzgar los hechos, lo que lleva a la parálisis de la toma de decisiones democrática y colectiva. Cuarto, la "especificación errónea de objetivos proxy" es el riesgo de que la IA optimice métricas o indicadores equivocados en lugar de los objetivos previstos por los humanos, destruyendo la seguridad, los valores y las instituciones humanas en el proceso. Quinto, el "bloqueo de valores" puede resultar en el cierre de caminos para que la humanidad avance hacia un futuro mejor cuando un grupo o sistema particular perpetúa su poder e ideología a través de la IA. Sexto, la "funcionalidad emergente" inesperada puede ocurrir repentinamente, lo que lleva a que los humanos no puedan responder adecuadamente sin controlarla o comprenderla. Séptimo, el "engaño" puede resultar en que la IA nos quite el control al actuar de manera encubierta para evadir la supervisión humana. Finalmente, la "búsqueda de poder" es un escenario en el que la IA intenta apoderarse de poder y recursos para lograr sus propios objetivos, lo que resulta en la neutralización estructural del control humano y, en última instancia, pone en peligro a toda la civilización. Todas estas categorías de riesgo se definen como riesgos existenciales en la medida en que, a través de diferentes caminos pero de manera común, la civilización tecnológica puede descarrilarse de una manera que los humanos no pueden controlar.[28]

IV. ¿Invención de una nueva política republicana en una era de transición civilizatoria?

El problema es que el discurso dominante sobre la IA se está construyendo actualmente en el contexto de la competencia hegemónica geopolítica. La dicotomía de suma cero entre Estados Unidos y China se ha establecido como la narrativa principal en el discurso estratégico público, y el discurso sobre la IA, como su subcampo, también se está construyendo dentro de este marco. Es decir, al enfatizar la naturaleza de la IA como un punto de inflexión histórico, la narrativa de urgencia y securitización de que la seguridad nacional estará críticamente en peligro si no se asegura la primacía en esta tecnología está dominando. En particular, en analogía con la carrera armamentista nuclear de la Guerra Fría, el campo de la tecnología de IA se está recreando como una "carrera" en la que se debe ganar a toda costa, y las discusiones políticas se presentan dentro de este marco imaginario, marginando las discusiones sobre cooperación internacional, gestión de riesgos y control de la IA. Por lo tanto, hablar de estos temas anti-securitización se considera ingenuo o no estratégico.[29] Esto constituye el mayor obstáculo para abordar el problema de la IA desde la perspectiva de la gobernanza global de la "supervivencia" de la humanidad. En condiciones en las que se prevén riesgos existenciales como la extinción o la subyugación de la humanidad, nuestro futuro depende de la capacidad de aprendizaje colectivo de la humanidad para idear contramedidas, aprendiendo de las lecciones de la respuesta pasada a riesgos de catástrofes globales.[30]

La difusión global de la tecnología de IA está intensificando fundamentalmente el doble dilema de anarquía versus jerarquía al que se ha enfrentado el orden internacional existente, y además, puede provocar una concentración de poder trascendente de una nueva forma que la civilización humana no puede manejar, lo que pone de relieve el problema de la "restricción" desde una perspectiva republicana a un nivel sin precedentes. En particular, la ASI, como agente tecnológico con la base material y el potencial de auto-mejora para adquirir omnipotencia, omnisciencia y omnipresencia simultáneamente, podría convertirse en la forma definitiva de poder tiránico que el republicanismo ha temido históricamente. En este caso, no hay garantía de que las estrategias existentes de alineación de valores o diseño de seguridad funcionen plenamente. En consecuencia, el núcleo de la estrategia de control de la ASI no puede sino converger hacia el establecimiento de restricciones procesales y estructurales dentro del marco de diseño constitucional republicano y seguridad pública, más allá de la mera gestión de riesgos tecnológicos, e incluso se plantea la necesidad de incluir opciones extremas como la moratoria de desarrollo (relinquishment) dentro del alcance de la imaginación política. En resumen, la llegada de la revolución de la IA ha abierto una coyuntura histórica que, de manera más radical que la apertura de la era nuclear a principios de la Guerra Fría, vuelve a cuestionar la sostenibilidad del sistema internacional anárquico en sí mismo. Esto debe entenderse como una señal que insta a la invención de instituciones republicanas a escala global para asegurar que no se convierta en "el último invento de la humanidad".■

[1]Daniel W. Drezner, "Technological Change and International Relations," International Relations 33 (2), 2019, pp. 286–303.

[2]Ben Garfinkel, "The Impact of Artificial Intelligence: A Historical Perspective," in The Oxford Handbook of AI Governance, edited by Justin B. Bullock et al., Oxford: Oxford University Press, 2024.

[3]Amelia C. Arsenault and Sarah E. Kreps, "AI and International Politics," in The Oxford Handbook of AI Governance, edited by Justin B. Bullock et al., Oxford: Oxford University Press, 2024.

[4]Daniel H. Deudney, Bounding Power: Republican Security Theory from the Polis to the Global Village, Princeton: Princeton University Press, 2007.

[5]Daniel Deudney y Devanshu Singh, “Bounding Superpowers: The ASI Control Problem, Public Safety, and Republican Constitutionalism,” en Polycentric Federalism and World Orders, editado por Brandon Christensen, Suiza: Springer Nature, 2025, pp. 465–502.

[6]Paul van Hooft, Lotje Boswinkel y Tim Sweijs, Shifting Sands of Strategic Stability: Towards a New Arms Control Agenda, La Haya: The Hague Centre for Strategic Studies, 2022.

[7]Seth D. Baum, Robert de Neufville, Anthony M. Barrett y Gary Ackerman, “Lessons for Artificial Intelligence from Other Global Risks,” en The Global Politics of Artificial Intelligence, editado por Maurizio Tinnirello, Boca Raton, FL: Chapman and Hall/CRC, 2022, pp. 111–115.

[8]George S. Takach, Cold War 2.0: Artificial Intelligence in the New War between China, Russia, and America, Nueva York: Pegasus Books, 2024.

[9]Jeffrey Ding, “The Rise and Fall of Technological Leadership: General-Purpose Technology Diffusion and Economic Power Transitions,” International Studies Quarterly 68 (2), 2024.

[10]Lee Jae-jun, 「Competencia militar tecnológica entre China y Estados Unidos y transición de poder: Centrada en la tecnología militar de inteligencia artificial y armas autónomas」, 『Corea y Política Internacional』 38 (3), 2022.; Office of Science and Technology Policy, “America’s AI Action Plan,” The White House, 10 de julio de 2025, https://www.whitehouse.gov/wp-content/uploads/2025/07/Americas-AI-Action-Plan.pdf.; The White House, “Launching the Genesis Mission,” 24 de noviembre de 2025. https://www.whitehouse.gov/presidential-actions/2025/11/launching-the-genesis-mission/.

[11]Jeong Gu-yeon, 「Uso militar de la inteligencia artificial y estabilidad estratégica」, 『Economía y Sociedad』 No. 143, 2024.

[12]James Johnson, AI and the Bomb: Nuclear Strategy and Risk in the Digital Age, Oxford: Oxford University Press, 2023.; Vladislav Chernavskikh y Jules Palayer, “Impact of Military Artificial Intelligence on Nuclear Escalation Risk,” SIPRI Insights on Peace and Security No. 2025/06, 2025.

[13]Jacob Stokes, Colin H. Kahl, Andrea Kendall-Taylor y Nicholas Lokker, Averting AI Armageddon: U.S.-China-Russia Rivalry at the Nexus of Nuclear Weapons and Artificial Intelligence, Washington, DC: Center for a New American Security, 2025.; Jon B. Wolfsthal, Hans Kristensen y Matt Korda, “Why We Should Worry About Nuclear Weapons Again,” The Washington Post, 4 de junio de 2025, https://www.washingtonpost.com/opinions/interactive/2025/us-russia-nuclear-weapons-proliferation-danger/.; Anton La Guardia, “The Perils of the World’s Third Nuclear Age,” The Economist, 20 de noviembre de 2024, https://www.economist.com/the-world-ahead/2024/11/20/the-perils-of-the-worlds-third-nuclear-age.

[14]Baele, Stephane J., Iqraa Bukhari, Christopher Whyte, Scott Cuomo, Benjamin Jensen, Kenneth Payne y Eugenio V. Garcia, “AI IR: Charting International Relations in the Age of Artificial Intelligence,” International Studies Review 26 (2), 2024.

[15]Daniel H. Deudney, Bounding Power: Republican Security Theory from the Polis to the Global Village, Princeton: Princeton University Press, 2007.

[16]Adam Elkus, “Are AI and Democracy Compatible?” Foreign Policy, 29 de agosto de 2025, https://foreignpolicy.com/2025/08/29/ai-democracy-dictatorship-agi-governance/ .; George Gilder y Peter Thiel, “COSM Speaker Peter Thiel: The Failures and 'Self-Hatred' of Big Tech,” Mind Matters, 14 de octubre de 2021, https://mindmatters.ai/wp-content/uploads/sites/2/2021/10/Mind-Matters-Episode-156-Peter-Thiel-at-COSM-rev1.pdf.

[17]Yuval Harari, *Nexus: A Human History of Information Networks from the Stone Age to the Age of AI*, traducido por Myung-joo Kim, Seúl: Kimyoungsa, 2024.

[18]Mark Coeckelbergh, “Vulnerability, AI, and Power in a Global Context: From Being‑at‑Risk to Biopolitics in the COVID‑19 Pandemic,” en The Global Politics of Artificial Intelligence, Nueva York: CRC, 2022.

[19]Valentin Weber, “China’s AI-Powered Surveillance State,” Journal of Democracy 36 (4), 2025.

[20]Dean Jackson y Samuel Woolley, “AI’s Real Dangers for Democracy,” Journal of Democracy 36 (4), 2025.

[21]Shoshana Zuboff, *The Age of Surveillance Capitalism: The Fight for a Future at the New Frontier of Power*, traducido por Bo-young Kim, Seúl: Munhak Sasangsa, 2021.; Mark Coeckelbergh, *Why Artificial Intelligence Is Necessarily Political: The Politics of AI and Freedom, Equality, Justice, Democracy, Power, Animals, and the Environment*, traducido por Hyun-seok Bae, Seúl: Saenggak-i-eum, 2023.

[22]Eugenio V. Garcia, “Conclusions: Charting the Challenge of AI IR,” International Studies Review 26 (2), 2024.

[23]Seon-myeong Lee, “I, As Dangerous As Nuclear War/Epidemics… AI Developers Warn of Human Extinction,” Kyunghyang Shinmun, 31 de mayo de 2023.

[24]Ray Kurzweil, *The Singularity Is Near: When Humans Transcend Biology*, traducido por Choong-ho Lee, Seúl: Business Books, 2025.

[25]Nick Bostrom, *Superintelligence: Paths, Dangers, Strategies*, traducido por Sung-jin Cho, Seúl: Ggachi, 2017.

[26]Nick Bostrom, “Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards,” Journal of Evolution and Technology 9, 2002.

[27]Nick Bostrom, “The Vulnerable World Hypothesis,” Journal of Evolution and Technology 10 (4), 2019.

[28]Dan Hendrycks y Mantas Mazeika, “X-Risk Analysis for AI Research,” arXiv, 20 de septiembre de 2022, https://doi.org/10.48550/arXiv.2206.05862.; El miedo más profundo subyacente a la apocalíptica de la IA puede ser capturado por el concepto de la “jaula de hierro” de Max Weber. Es decir, podemos imaginar la IA como el clímax de la desbocada o incontrolabilidad de la razón instrumental moderna. En otras palabras, la pregunta de la apocalíptica de la IA está en realidad en línea con la preocupación de que la modernidad misma está empobreciendo nuestra subjetividad, racionalidad sustantiva y reflexividad. Jay A. Gupta, “Welcome to the Machine: AI, Existential Risk, and the Iron Cage of Modernity,” Telos 203, 2023, pp. 163–69.

[29]Nike Retzmann, “‘Winning the Technology Competition’: Narratives, Power Comparisons and the US–China AI Race,” en Comparisons in Global Security Politics, editado por Thomas Müller et al., Bristol: Bristol University Press, 2024, pp. 237–56.

[30]Seth D. Baum, Robert de Neufville, Anthony M. Barrett y Gary Ackerman, “Lessons for Artificial Intelligence from Other Global Risks,” en The Global Politics of Artificial Intelligence, editado por Maurizio Tinnirello, Boca Raton, FL: Chapman and Hall/CRC, 2022.

■Autor: Tae-seo Cha_Profesor de Ciencias Políticas en la Universidad de Sungkyunkwan.

■ Responsable y edición: Im Jae-hyun_Investigador de EAI

    Consultas: 02 2277 1683 (ext. 209) | jhim@eai.or.kr