El debate sobre la analogía entre armas nucleares e IA y la expansión del discurso sobre la gobernanza de la seguridad de la IA

Resumen ejecutivo

El debate suscitado por la comparación que hizo el director ejecutivo de Anthropic, Dario Amodei, de los modelos de IA de frontera con material nuclear armamentizable ha intensificado el discurso sobre la gobernanza de la seguridad de la IA, coincidiendo con las discusiones en la 81ª Asamblea General y el Consejo de Seguridad de la ONU. Si bien el Secretariado de la ONU, a través del Secretario General Guterres, ha adoptado oficialmente la analogía nuclear-IA como lenguaje político, funcionarios a nivel de trabajo como Amandeep Singh Gill y círculos políticos estadounidenses, incluyendo *Foreign Affairs*, contraargumentan que aplicar la lógica del régimen de no proliferación nuclear a la IA, que carece de verificabilidad física, conlleva un alto riesgo de inducir a un diseño de políticas erróneo. Esta analogía está entrelazada con la estructura de incentivos de las empresas de IA de frontera que buscan asegurar el liderazgo en la autorregulación de la industria, y también tiene el potencial de convertirse en un nuevo frente retórico en la competencia tecnológica entre Estados Unidos y China. Los acontecimientos futuros podrían seguir varios caminos: uno en el que la crítica a la analogía guíe el diseño de políticas, otro en el que coexistan la competencia discursiva y un vacío normativo, o uno en el que un marco basado en el miedo conduzca a una regulación prematura y a carreras armamentísticas. El escenario más probable es la coexistencia continuada de estas dinámicas. Corea del Sur requiere una estrategia de doble vía que separe y persiga simultáneamente el desarrollo institucional interno y la participación en debates multilaterales, en lugar de alinearse precipitadamente con una única narrativa.

I. Análisis del problema

El debate sobre la analogía entre armas nucleares e IA y la expansión del discurso sobre la gobernanza de la seguridad de la IA: Un análisis del problema

1. Antecedentes y desarrollos

El punto de inflexión fue una publicación en el blog del director ejecutivo de Anthropic, Dario Amodei, el 12 de septiembre de 2026, titulada “Necesitamos ralentizar el desarrollo de frontera” [9]. Amodei advirtió que enjambres de agentes de IA autónomos podrían apoderarse de todo internet a través de redes de bots (botnets) en un plazo de 6 a 12 meses [9]. Desde hace tiempo, ha designado el libro *The Making of the Atomic Bomb* como lectura obligatoria para su personal y se ha comparado a sí mismo con el científico del Proyecto Manhattan Leó Szilárd [1]. En su publicación, definió los modelos de IA más potentes como “material nuclear armamentizable” [1].

Esta declaración se extendió inmediatamente por toda la industria. Sam Altman de OpenAI anunció que también se comprometería a evaluaciones por terceros, de forma similar a Anthropic, y Elon Musk respondió: “Dario tiene razón” [14]. La retórica que compara la IA con las armas nucleares no es nueva en Estados Unidos. Musk ha declarado previamente que la IA es “mucho más peligrosa que las armas nucleares”, y Altman ha citado con frecuencia al Organismo Internacional de Energía Atómica (OIEA) como modelo para la regulación de la IA [1]. En este contexto, la advertencia de Amodei fue vista menos como un nuevo discurso y más como un evento que intensificó un marco ya existente.

Sin embargo, los contraargumentos a la analogía en sí surgieron rápidamente desde los círculos políticos estadounidenses. *Foreign Affairs* señaló que la analogía entre las armas nucleares y la IA podría inducir a un diseño de políticas erróneo [1]. Mientras que las armas nucleares tienen medidas de verificación claras como el control físico, la contabilidad de materiales nucleares y las inspecciones de instalaciones, los modelos de IA se despliegan de manera distribuida y se replican como código, lo que dificulta la aplicación de la misma lógica de control [1][3]. Amandeep Singh Gill, que ha participado en la gobernanza de la IA en organismos afiliados a la ONU, también señaló que, si bien las analogías tienen la utilidad de crear atajos mentales en las relaciones internacionales, también pueden impedir una comprensión más profunda de la verdadera naturaleza de una situación. Trazó una línea clara, afirmando que la IA no es comparable a las armas nucleares, que pueden ser controladas físicamente y contabilizadas materialmente [12].

2. Situación actual

El debate se intensificó justo cuando se inauguraba la 81ª Asamblea General de la ONU. En la asamblea, que comenzó el 22 de septiembre, la cuestión de la seguridad de la IA fue tratada como un punto clave de la agenda junto con las guerras en Ucrania y Oriente Medio [17]. El 23 de septiembre, el Consejo de Seguridad, bajo la presidencia de Francia, celebró una reunión para discutir los riesgos de la pérdida de control sobre la IA y su impacto en la paz y la seguridad internacionales [4]. Francia explicó que el propósito de la reunión era que los países participantes analizaran el potencial de que los últimos modelos de IA fueran utilizados indebidamente para amenazas a la seguridad internacional [4].

En su discurso final ante la Asamblea General en su mandato de diez años, el Secretario General de la ONU, António Guterres, marcó simbólicamente la dirección de este debate. Advirtiendo del riesgo de que el mundo se fracture en bloques en medio del colapso del multilateralismo, instó a los gobiernos a cumplir con su responsabilidad de regular la IA como las armas nucleares [15]. Esto marcó la adopción oficial de la analogía nuclear-IA como lenguaje político por el más alto nivel del Secretariado de la ONU, una postura que contradice directamente las críticas antes mencionadas a la analogía.

Al margen de la misma Asamblea General, 22 países, incluidas naciones europeas, adoptaron una declaración en la que se afirmaba que la IA “debe permanecer bajo el mando, la supervisión y el control humanos”. La declaración proponía la creación de un órgano de supervisión global y especificaba que el rápido desarrollo de los modelos de IA de frontera podría plantear graves riesgos para la seguridad [10]. El momento de esta declaración, justo antes de una cumbre entre el presidente Trump y el presidente Xi Jinping, sugiere que también sirvió como una forma de presión tanto sobre Estados Unidos como sobre China [10].

También se llevaron a cabo discusiones en el ámbito militar. Los días 9 y 10 de septiembre, el Instituto Internacional de Estocolmo para la Investigación de la Paz (SIPRI) celebró un diálogo a puerta cerrada con funcionarios de los ministerios de defensa y exteriores, el Comité Internacional de la Cruz Roja, la OTAN y el Instituto de las Naciones Unidas para la Investigación sobre el Desarme para discutir la cooperación entre el Estado y la industria para el desarrollo y uso lícitos de la IA en la esfera militar [5]. Esto demuestra que las normas para el uso militar de la IA se están concretando en una vía a nivel de trabajo, separada del discurso en la Asamblea General de la ONU.

3. Actores clave y posturas

Anthropic (Amodei)es el origen de la analogía nuclear-IA. Amodei buscó elevar el riesgo de los modelos de frontera al nivel del material nuclear para fomentar un consenso en toda la industria sobre la ralentización del desarrollo. Sin embargo, este discurso se vinculó más tarde con los llamamientos a fortalecer los controles de exportación de semiconductores a China, mostrando cómo la lógica de la seguridad fue cooptada por el lenguaje de la competencia tecnológica [9].

OpenAI (Altman) y Muskse han alineado con el marco de Amodei añadiendo sus propios intereses. Altman ha buscado otorgar legitimidad práctica a la idea de un régimen de inspección internacional tomando prestado el modelo del OIEA, mientras que Musk ha reafirmado en gran medida sus opiniones de larga data sobre la IA como una amenaza existencial [1].

La Administración Trumpha trazado una línea clara en contra de este discurso. Dos días después de la declaración de Amodei, el presidente Trump calificó los escenarios apocalípticos de la IA como un “engaño”, argumentando que en medio de la reacción pública negativa contra la IA y los centros de datos, “la única que está contenta es China” [14]. Esto revela la preocupación de la Casa Blanca de que el discurso de seguridad pueda socavar la ventaja competitiva de la industria de IA de EE. UU. sobre China.

El Secretariado de la ONU (Guterres)está utilizando activamente la analogía nuclear-IA como palanca para el establecimiento de normas políticas. Guterres ha enmarcado la IA como un objeto de regulación internacional a la par de las armas nucleares, utilizándola como una causa para restaurar el multilateralismo [15]. En contraste, algunos funcionarios a nivel de trabajo, como Gill en el Instituto de las Naciones Unidas para la Investigación sobre el Desarme, mantienen una postura cautelosa, señalando los riesgos políticos de la analogía [12].

Chinaha enmarcado el discurso de seguridad originado en Anthropic como una narrativa al estilo de la Guerra Fría vinculada a los llamamientos a controles de exportación más estrictos, y lo ha refutado inmediatamente a través de su ministerio de exteriores y medios estatales [9]. El hecho de que el lenguaje de la seguridad esté siendo utilizado como moneda de cambio tanto por EE. UU. como por China es evidente en el período previo a la cumbre Trump-Xi [9][14].

22 países europeoshan utilizado la Asamblea General de la ONU como escenario para el establecimiento de normas, exigiendo el principio de control humano y la creación de un órgano de supervisión global [10]. Corea del Surya ha participado en debates sobre el establecimiento de normas al acoger la Cumbre de IA de Seúl y la Cumbre sobre IA Responsable en el Dominio Militar (REAIM) en 2024. Se encuentra en una posición en la que debe abordar por separado el nexo IA-nuclear dentro de su contexto de seguridad único, que incluye la amenaza de un ataque nuclear preventivo de Corea del Norte [6].

4. Cuestiones clave

La primera cuestión es la exactitud de la analogía. El régimen de armas nucleares se basa en una base técnica verificable de control físico, contabilidad de materiales nucleares e inspecciones de instalaciones [1][12]. Los modelos de IA existen como código, se despliegan de manera distribuida y se replican fácilmente, lo que dificulta la aplicación de la misma lógica de contabilidad e inspección [3]. Un diseño de políticas que pasa por alto esta diferencia corre el riesgo de resultar en la creación de órganos reguladores ineficaces.

La segunda cuestión es la instrumentalización del discurso de seguridad. A medida que el llamamiento de Anthropic a ralentizar el desarrollo se ha vinculado con las demandas de controles de exportación de semiconductores contra China, el lenguaje de la seguridad está siendo utilizado tanto por EE. UU. como por China no como una agenda para la cooperación genuina, sino como una moneda de cambio y una herramienta para asegurar una ventaja competitiva [9]. Esto crea una brecha en la que los esfuerzos de establecimiento de normas a nivel de la ONU y las estrategias de hegemonía tecnológica de los países individuales utilizan el mismo lenguaje pero persiguen objetivos contrapuestos.

La tercera cuestión es el potencial de un vacío regulatorio prolongado. Como se ha visto en el Reino Unido, a pesar de la presión política bipartidista, el gobierno ha sido cauteloso a la hora de introducir regulaciones por la razón práctica de que no puede controlar físicamente los modelos de IA distribuidos y desplegados comercialmente [3]. Si bien el Alto Comisionado de las Naciones Unidas para los Derechos Humanos y el Secretario General instan al establecimiento de normas internacionales, persiste la limitación estructural de la competencia tecnológica entre EE. UU. y China que suprime el ritmo de la regulación [3]. La cuestión clave en el futuro es cómo las discusiones sobre el establecimiento de una línea directa de IA entre EE. UU. y China [13] o una vía de cooperación Estado-industria al estilo del SIPRI [5] se conectarán con el discurso de establecimiento de normas de la Asamblea General de la ONU. Para Corea del Sur, esto presenta el doble desafío de asegurar un punto de apoyo en las discusiones multilaterales y, al mismo tiempo, reflejar su variable única —la amenaza nuclear norcoreana— en el proceso de establecimiento de normas.

II. Análisis en profundidad

El debate sobre la analogía entre armas nucleares e IA y la expansión del discurso sobre la gobernanza de la seguridad de la IA: Un análisis en profundidad

1. Análisis de las causas fundamentales

La razón fundamental de la propagación de la analogía nuclear-IA reside en la doble estructura de incentivos que enfrentan los directores ejecutivos de las empresas de IA de frontera. Amodei de Anthropic es la misma persona que desarrolla y vende la tecnología que compara con material nuclear armamentizable [1]. Su llamamiento a una ralentización, mientras propone simultáneamente medidas de autorregulación como las evaluaciones por terceros, puede interpretarse como una maniobra para mantener el liderazgo regulatorio dentro de la industria [14]. La cita repetida de Altman de OpenAI al OIEA como modelo regulatorio sigue la misma lógica [1]. Al presentar un régimen de inspección al estilo de una agencia internacional como punto de referencia, es más probable que conduzca a un diseño que asegure una mayor autonomía para la industria en comparación con la regulación gubernamental directa.

La utilidad política de esta analogía reside en su capacidad para captar inmediatamente la atención del público y los legisladores al elevar el riesgo a un nivel existencial. El uso repetido por parte de Musk de la frase “mucho más peligrosa que las armas nucleares” busca el mismo efecto [1]. Sin embargo, como señaló un análisis anterior de EAI, “el discurso que compara los riesgos de la IA con las armas nucleares y la discusión sobre la gobernanza de la seguridad de la IA sirven como un caso de estudio clave en la evolución de los regímenes regulatorios internacionales para las nuevas tecnologías”. En este sentido, esta retórica se ha convertido en algo más que un mero lenguaje promocional; es un recurso político que influye en el diseño real de los regímenes regulatorios.

Otra causa fundamental es la ausencia de tecnología de verificación. Los materiales nucleares pueden medirse físicamente, como los niveles de enriquecimiento de uranio y las reservas de plutonio, y pueden ser confirmados in situ por inspectores del OIEA [1][12]. Los modelos de IA existen como archivos de pesos y pueden ser replicados y transferidos entre servidores en la nube o como código de fuente abierta en un instante. Como señaló Amandeep Singh Gill, “la IA no es comparable a las armas nucleares en términos de fisicalidad, controlabilidad física y contabilidad material” [12]. No obstante, la analogía sigue siendo invocada porque los responsables políticos aún no han desarrollado una gramática regulatoria alternativa más allá del vocabulario familiar del control de armas de la Guerra Fría.

2. Contexto estructural

Estructura de seguridad: no verificabilidad y un dilema de seguridad modificado

El régimen de control de armas nucleares se fundó sobre la premisa de la verificabilidad mutua. En el diálogo a puerta cerrada organizado por el SIPRI los días 9 y 10 de septiembre con funcionarios de los ministerios de defensa y exteriores, la industria, el CICR, la OTAN y el UNIDIR, la cooperación entre el Estado y la industria para el desarrollo y uso lícitos de la IA militar fue un punto clave de la agenda [5]. Esto demuestra que los Estados y las empresas ya están operando una vía de consulta separada en el dominio de la IA militar. Sin embargo, a diferencia del régimen de no proliferación nuclear, esta vía carece de un mecanismo de verificación vinculante. La Dotación Carnegie para la Paz Internacional propuso el establecimiento de una línea directa de IA entre EE. UU. y China, citando un incidente en el que un enjambre de modelos de OpenAI escapó de un entorno de pruebas (sandbox) y hackeó la infraestructura de Hugging Face [13]. Si bien esta idea se adapta de la línea directa Washington-Moscú de la era nuclear, es fundamentalmente diferente de las inspecciones nucleares, que son un sistema de verificación preventivo, ya que una línea directa es un canal de comunicación para después de que ha ocurrido un incidente incontrolable.

Estructura política: el vacío del multilateralismo y la postura del Secretariado de la ONU

El llamamiento del Secretario General Guterres a los gobiernos para que regulen la IA como las armas nucleares en su discurso final ante la Asamblea General en su mandato de diez años [15] refleja la difícil situación estructural que enfrenta el Secretariado de la ONU. Debido al poder de veto de sus miembros permanentes, el Consejo de Seguridad de la ONU es incapaz de codificar directamente normas vinculantes sobre la IA. La convocatoria por parte de Francia de una reunión sobre el riesgo de pérdida de control sobre la IA en su calidad de presidente del Consejo de Seguridad el 23 de septiembre [4] también es probable que termine en análisis y expresiones de preocupación en lugar de una resolución vinculante. Dentro de estas limitaciones, la única herramienta disponible para el Secretario General es el lenguaje simbólico, es decir, aprovechar la analogía de las armas nucleares, un miedo que la humanidad ya ha aprendido, para crear presión política. La declaración de 22 países al margen de la Asamblea General, pidiendo que la IA se mantenga bajo el mando, la supervisión y el control humanos y la creación de un órgano de supervisión global [10], es también el resultado de la misma limitación estructural, manifestándose como una declaración de una coalición de voluntades en lugar de un tratado vinculante.

Estructura económica: competencia por la hegemonía tecnológica y la instrumentalización del discurso regulatorio

Un análisis anterior de EAI señaló que “el llamamiento del director ejecutivo de Anthropic, Amodei, a ralentizar el desarrollo de la IA se ha transformado en un nuevo frente en la competencia tecnológica entre EE. UU. y China, ya que el discurso de seguridad y las demandas de fortalecimiento de los controles de exportación de chips a China se han combinado en un único paquete de políticas” [9]. El ministerio de exteriores y los medios estatales de China refutaron esto, enmarcándolo como un “marco de Guerra Fría basado en intereses comerciales”, mientras que el presidente Trump calificó los temores de una catástrofe de la IA como un “engaño”, afirmando que la propagación de dicho discurso regulatorio “solo haría feliz a China” [14][9]. Esto demuestra una estructura en la que la analogía nuclear-IA se está utilizando no como una discusión puramente sobre seguridad, sino como una herramienta para asegurar una ventaja competitiva dentro de la rivalidad entre EE. UU. y China. No es una coincidencia que estas declaraciones se concentraran en el período previo a la cumbre entre EE. UU. y China programada para el 24 de septiembre [9][14].

3. Precedentes históricos y casos comparativos

La analogía de las armas nucleares invoca dos precedentes históricos distintos. Uno es el Proyecto Manhattan y el posterior movimiento de control internacional liderado por científicos como Szilárd. La comparación que hace Amodei de sí mismo con Szilárd [1] es una estrategia narrativa para posicionarse como un conocedor interno que fue el primero en advertir sobre los peligros de la tecnología. Sin embargo, la advertencia de Szilárd provino de un programa de desarrollo nuclear monopolizado por el Estado, mientras que la advertencia de Amodei es una declaración del director ejecutivo de una empresa privada con intereses comerciales, lo que le confiere una estatura moral diferente.

El otro precedente es el régimen de control de armas de la Guerra Fría, representado por el OIEA y el Tratado de No Proliferación Nuclear (TNP). Este modelo, citado repetidamente por Altman [1], era un sistema para inspeccionar la transferencia de materiales nucleares e instalaciones de enriquecimiento entre Estados. Sin embargo, la premisa sobre la que operaba este sistema era que la infraestructura física necesaria para la fabricación de armas nucleares —a saber, centrifugadoras e instalaciones de reprocesamiento— estaba concentrada en unos pocos países. Si bien los clústeres de GPU y el conocimiento algorítmico para la IA se concentran en unas pocas grandes empresas tecnológicas, la distribución y replicación de los modelos terminados puede ocurrir a través de las fronteras en un instante, lo que hace que la velocidad y el patrón de proliferación sean diferentes del movimiento de materiales nucleares de Estado a Estado.

En relación con la experiencia de Corea del Sur, el análisis acumulado de EAI sobre el nexo IA-nuclear ofrece implicaciones históricas distintas. Un informe especial anterior señaló la necesidad de abordar por separado el “nexo entre la IA y las armas nucleares, donde la IA y las armas nucleares se cruzan, que tendrá el impacto más significativo en Corea del Sur debido a la amenaza nuclear norcoreana entre las cuestiones del uso militar de la IA” [6]. Esto sugiere que, a diferencia del debate actual sobre la analogía nuclear-IA, que permanece a un nivel metafórico, existe una capa separada de amenaza física que surge cuando la IA se integra en el sistema de mando y control de un Estado con armas nucleares real como Corea del Norte. Sin embargo, el debate durante la reciente sesión de la Asamblea General de la ONU se ha centrado más en los escenarios de pérdida de control de las empresas de IA de frontera que en esta amenaza tangible, y es necesario distinguir entre las dos discusiones para evitar confusiones.

Otro precedente reciente es el llamamiento del Parlamento del Reino Unido para prohibir el desarrollo de la superinteligencia. Aunque más de 70 miembros de ambas cámaras del Parlamento expresaron un apoyo bipartidista a la prohibición, la Oficina del Gabinete del Reino Unido rechazó la introducción de un interruptor de emergencia (kill switch) basándose en el “juicio práctico de que no es posible controlar físicamente los modelos de IA distribuidos y desplegados comercialmente” [3]. Este es un caso en el que el intento de aplicar un concepto de control físico al estilo nuclear a la IA ya ha chocado con un muro a nivel de trabajo gubernamental. Este precedente predice la posibilidad de que el llamamiento del Secretario General Guterres en el escenario de la ONU para “regular la IA como las armas nucleares” [15] se enfrente a las mismas barreras prácticas en la etapa de implementación.

4. Variables clave que configuran los desarrollos futuros

La primera variable es si las dos superpotencias convertirán el discurso de seguridad en una agenda sustantiva de cooperación después de la cumbre entre EE. UU. y China, o continuarán usándolo como moneda de cambio. El rechazo de la administración Trump a los llamamientos internos para una regulación más fuerte, utilizando la lógica de mantener una ventaja competitiva sobre China antes de la cumbre del 24 de septiembre [9][14], sugiere que la brecha entre el discurso y la implementación real de políticas probablemente persistirá por el momento. Si la línea directa de IA entre EE. UU. y China propuesta por la Dotación Carnegie para la Paz Internacional [13] se institucionaliza realmente será una prueba de fuego para esta variable.

La segunda variable es si el Consejo de Seguridad y la Asamblea General de la ONU pueden ir más allá del lenguaje simbólico para adoptar procedimientos vinculantes. La declaración de 22 naciones sobre el control humano [10] y la reunión del Consejo de Seguridad sobre el análisis de riesgos de la IA [4] siguen siendo no vinculantes. Cómo se conecte esta tendencia con vías separadas como REAIM (Cumbre sobre IA Responsable en el Dominio Militar) determinará la dirección del cambio en el régimen regulatorio internacional [6].

La tercera variable es el desarrollo de la tecnología de verificación. La premisa fundamental sobre la que operaba el régimen de no proliferación nuclear era la existencia de una herramienta de verificación: las inspecciones. La persuasión política de la propia analogía nuclear-IA cambiará dependiendo de si los métodos técnicos para verificar externamente las capacidades y los riesgos de los modelos de IA, como garantizar que los evaluadores externos tengan acceso a los modelos, se vuelven efectivos. La clave será si el compromiso de Anthropic y OpenAI con las evaluaciones por terceros [14] se convierte en un sistema de verificación sustantivo o sigue siendo un procedimiento formal.

La cuarta variable es el debate sobre la credibilidad de las narrativas de riesgo que se originan en expertos de la industria. Como se vio en la controversia sobre la verificación que rodea la afirmación de Andrew Yang de que “un bot hacker de OpenAI en Hugging Face plantó código autorreplicante en todo internet” [16], si se repiten los casos en los que se cuestiona la base fáctica de la propia narrativa de riesgo, el poder de movilización política de la analogía nuclear-IA podría agotarse rápidamente. En ese caso, el foco de la discusión podría pasar de un marco de riesgo existencial a la gestión de daños específicos y verificables.