Controversia entre EE. UU. y Rusia sobre la obstrucción conjunta de la regulación de sistemas de armas de IA: Antecedentes e implicaciones

Resumen ejecutivo

Durante la Asamblea General de la ONU, se confirmó que Estados Unidos y Rusia bloquearon conjuntamente la introducción de una cláusula que obligaba a la intervención humana en las decisiones de selección de objetivos de los sistemas de armas de IA. Este es el resultado combinado del escepticismo de la administración Trump hacia la supervisión internacional de la IA y la desconfianza de Rusia hacia las normas multilaterales lideradas por Occidente, lo que refleja la posición estructural compartida por ambos países como miembros permanentes del Consejo de Seguridad de la ONU y Estados con armas nucleares en las normas de desarme. Mientras tanto, 22 países, incluidos estados europeos, han adoptado por separado una declaración sobre el principio del control humano en un intento de llenar el vacío normativo. En consecuencia, la gobernanza de la IA se está fragmentando en tres vías: el canal bilateral EE. UU.-China, la vía de obstrucción EE. UU.-Rusia y la declaración multilateral de las potencias medias. Dado que es muy probable que la formación de normas multilaterales oficiales se estanque, Corea del Sur necesita priorizar la participación en órganos consultivos informales a nivel de trabajo al estilo del SIPRI y el establecimiento de sus propios procedimientos de verificación de IA. En una situación en la que Estados Unidos adopta un enfoque dual —bloqueando las regulaciones con Rusia mientras mantiene un canal de notificación de accidentes con China—, Corea del Sur debe evaluar tanto su margen de respuesta independiente como los límites de su poder de negociación.

I. Análisis del problema

Controversia entre EE. UU. y Rusia sobre la obstrucción conjunta de la regulación de sistemas de armas de IA: Análisis del problema

1. Antecedentes y evolución del problema

Este asunto salió a la luz por primera vez a través de un reportaje sobre el terreno en la Asamblea General de la ONU realizado por el periódico italiano La Repubblica, que citaba un informe del Washington Post [1]. El núcleo del informe es que Estados Unidos y Rusia bloquearon conjuntamente la introducción de restricciones internacionales al uso de la IA en los sistemas de armas [1]. En particular, destacó que se rechazó una propuesta para exigir que las decisiones finales sobre los objetivos sugeridos por la IA fueran tomadas por humanos en lugar de computadoras [1].

Esta controversia no es un incidente aislado. Ocurrió en el mismo contexto que el escepticismo de EE. UU. hacia la regulación de la IA que recorrió toda la semana de la Asamblea General de la ONU en septiembre. El presidente Trump definió las demandas de supervisión internacional de la IA como una "estratagema globalista" en su discurso ante la Asamblea General de la ONU [4]. También declaró que el gobierno de EE. UU. utilizaría el término "superinteligencia" en lugar de "inteligencia artificial" en los documentos oficiales [4]. Casi al mismo tiempo, el ministro de Asuntos Exteriores ruso, Sergey Lavrov, intervino en la ONU, acusando a Europa de obstruir la paz en relación con la guerra en Ucrania [1]. El hecho de que ambos países compartieran intereses en una vía separada —la regulación de las armas de IA— añade peso a este informe.

Durante la misma Asamblea General de la ONU, 22 países, incluidos estados europeos, adoptaron una declaración en la que se afirma que la IA debe permanecer "bajo la dirección, supervisión y control humanos" [10]. Esta declaración proponía la creación de un marco de supervisión global y advertía que el rápido desarrollo de modelos avanzados de IA plantea graves riesgos para la seguridad si no se gestiona adecuadamente [10]. La obstrucción por parte de EE. UU. y Rusia se produjo exactamente en el punto de conflicto directo con estos intentos multilaterales de normalización.

2. Situación actual

En la época de la Asamblea General de la ONU, los debates sobre la gobernanza de la IA se han dividido en dos tendencias opuestas. Una es la vía bilateral EE. UU.-China. Tras la cumbre Trump-Xi en Washington, ambos países acordaron establecer un canal de notificación mutua en caso de accidentes de IA, con la próxima ronda de consultas programada para noviembre [16]. El secretario general de la ONU, António Guterres, ha instado públicamente a las dos grandes potencias de la IA, EE. UU. y China, a iniciar un diálogo [18]. Sin embargo, el análisis del EAI evalúa que este acuerdo entre EE. UU. y China está "más cerca de ser un gesto para la política interna de ambas partes que un logro normativo con fuerza vinculante sustantiva" [9]. Además, señala que esta línea directa es "meramente un canal de gestión de crisis de seguridad nacional y no implica una expansión de la cooperación comercial en IA" [9].

La otra es la vía de la regulación de los sistemas de armas, a la que pertenece la obstrucción conjunta de EE. UU. y Rusia. Los días 9 y 10 de septiembre, el Instituto Internacional de Investigación para la Paz de Estocolmo (SIPRI) celebró debates a puerta cerrada sobre la cooperación entre el Estado y la industria para el desarrollo y uso legal de la IA militar, invitando a funcionarios de los ministerios de defensa y de asuntos exteriores, al Comité Internacional de la Cruz Roja (CICR), a la OTAN y al Instituto de las Naciones Unidas de Investigación sobre el Desarme (UNIDIR) [8]. Aunque esto demuestra que los esfuerzos para establecer normas para la IA militar continúan a nivel técnico, contrasta fuertemente con el hecho de que la cláusula principal que reservaba la autoridad final de selección de objetivos para los humanos fuera rechazada debido a la colusión entre EE. UU. y Rusia [1][8].

Un caso analizado por separado por el EAI subraya la urgencia de este asunto. Esta primavera, el ejército de EE. UU. preparó una operación de interdicción e incautación contra un buque chino en aguas de Oriente Medio basándose en un informe de inteligencia coescrito por un chatbot de IA, solo para abortar la operación en el último minuto con los aviones de combate ya desplegados [6]. El EAI señala que "la fuente del error no fue el engaño por parte del adversario, sino el propio proceso de producción de inteligencia del ejército de EE. UU.", y evalúa que "esto demuestra que la clave para la estabilidad de las crisis no reside en los canales de notificación, sino en el momento de los procedimientos de verificación humana" [6]. En otras palabras, mientras se debate formalmente el principio del control humano, ya se ha manifestado una brecha de verificación en las operaciones militares reales.

3. Actores clave y posiciones

Estados Unidoses una parte clave en este asunto. La administración Trump ha priorizado mantener el ritmo del desarrollo de la IA como una estrategia nacional y considera los marcos de supervisión internacional como mecanismos que restringen el liderazgo tecnológico de EE. UU. [4]. In su discurso ante la ONU, el presidente Trump afirmó: "En lugar de reprimir la IA, Estados Unidos seguirá fomentando su desarrollo" [17]. Esta postura conforma una posición política coherente con los informes sobre el bloqueo de las restricciones internacionales a la IA militar. Al mismo tiempo, Estados Unidos muestra una actitud dual: establece un canal de notificación de accidentes con China [16] mientras comparte intereses con Rusia para bloquear la regulación de armas.

Rusiaha sido identificada junto a Estados Unidos como coactor en el bloqueo de la regulación [1]. Las declaraciones del ministro de Asuntos Exteriores Lavrov en la ONU muestran un enfoque contradictorio: al tiempo que se enfrenta a Occidente por la guerra en Ucrania, Rusia entabla una cooperación pragmática con Estados Unidos en el tema separado de la militarización de la IA [1]. El Instituto Peterson de Economía Internacional (PIIE) señala el potencial de cooperación entre China y Rusia en dominios avanzados de IA, al tiempo que predice que Estados Unidos, Occidente y Ucrania también cooperarán en sistemas de armas basados en IA [13]. Esto sugiere que las alineaciones en torno a la militarización de la IA no forman una dicotomía simple de EE. UU. y Rusia contra Occidente, sino más bien un panorama complejo de intereses reconfigurados caso por caso.

Países europeosson el bando que lidera la declaración de los 22 países y exige la normalización del principio de control humano [10]. Dado que sus demandas fueron efectivamente frustradas por la obstrucción conjunta de EE. UU. y Rusia, se puede considerar a Europa como un actor directamente interesado y afectado en este asunto.

Chinano aparece directamente en este informe, pero está ejerciendo un poder de negociación separado en la vía paralela EE. UU.-China. Mientras que China busca utilizar los debates sobre la seguridad de la IA como un medio para asegurar la autoridad global en la elaboración de normas, Estados Unidos aborda las cuestiones de seguridad únicamente dentro del marco de mantener su ventaja competitiva sobre China, lo que lleva a evaluar que ambas partes persiguen objetivos fundamentalmente diferentes [9].

4. Cuestiones clave

La primera cuestión es el vaciamiento del principio de control humano. La cláusula que exige que los humanos tomen la decisión final sobre los objetivos sugeridos por la IA se ha considerado como el punto mínimo de consenso en los debates sobre la gobernanza de la IA militar. El rechazo de esta cláusula demuestra que el principio de "dirección, supervisión y control humanos" en la declaración de los 22 países liderada por Europa puede ser neutralizado en el dominio de los sistemas de armas por el consenso de las grandes potencias [1][10].

La segunda cuestión es la neutralización de las normas multilaterales a través de la colusión de las grandes potencias. El hecho de que Estados Unidos y Rusia —dos potencias militares nucleares ideológica y estratégicamente opuestas— formaran un interés común en un asunto específico para bloquear la introducción de restricciones internacionales revela la limitación estructural de que la regulación de la IA militar es difícil de imponer únicamente mediante la voluntad de las potencias medias o las organizaciones multilaterales.

La tercera cuestión es la fragmentación de las vías de regulación. Mientras que el diálogo está en marcha entre Estados Unidos y China, aunque sea en la forma limitada de un canal de notificación de accidentes [16], EE. UU. y Rusia han bloqueado activamente los avances en la cuestión más fundamental de la regulación de los sistemas de armas. Esto sugiere que, en lugar de converger en un único régimen internacional, la gobernanza de la IA se está desarrollando a través de múltiples vías fragmentadas por grandes potencias y áreas temáticas. Para las potencias medias, esto hace que sea cada vez menos claro en qué vía pueden hacer oír su voz.

II. Análisis en profundidad

Controversia entre EE. UU. y Rusia sobre la obstrucción conjunta de la regulación de sistemas de armas de IA: Análisis en profundidad

1. Análisis de la causa raíz

Aunque la justificación aparente de la colusión entre EE. UU. y Rusia es el debate sobre la eficacia técnica, la motivación real reside en mantener la superioridad militar. Los debates sobre el establecimiento de normas para los Sistemas de Armas Autónomas Letales (LAWS) se han venido desarrollando en el marco de la Convención de la ONU sobre Ciertas Armas Convencionales (CCW) desde mediados de la década de 2010, pero han fracasado repetidamente en alcanzar un acuerdo vinculante debido a la oposición de las principales potencias militares. Este asunto es una extensión de ese patrón. Estados Unidos cree que exigir la intervención humana en las decisiones de selección de objetivos de la IA le perjudicaría en términos de velocidad operativa en comparación con sus competidores. Rusia también ha desplegado ya sistemas de identificación de objetivos asistidos por IA en el campo de batalla de Ucrania y no tiene incentivos para aceptar normas que los restrinjan con carácter retroactivo.

La posición de la administración Trump muestra una estructura lógica coherente en este asunto. En su discurso ante la Asamblea General de la ONU, el presidente Trump definió las demandas de supervisión internacional de la IA como una "estratagema globalista" [4]. Afirmó que, en lugar de reprimir la IA, Estados Unidos continuaría desarrollándola [17]. Esto demuestra que el rechazo a la regulación de la IA comercial y el rechazo a la regulación de la IA militar operan dentro del mismo marco político. En otras palabras, la Casa Blanca está aplicando un discurso que define a la IA no como un objeto de regulación sino como una fuente de competitividad nacional, sin distinguir entre el ámbito civil y el militar [4][17].

Los cálculos de Rusia son diferentes, pero los resultados convergen. Las declaraciones del ministro de Asuntos Exteriores Lavrov durante la misma Asamblea General de la ONU acusando a Europa de obstruir la paz [1] sugieren que Rusia alberga una desconfianza fundamental hacia las normas multilaterales lideradas por Occidente. Para Rusia, es muy probable que la regulación de las armas de IA se perciba como otra norma más impuesta por Occidente que restringe su libertad de acción militar en la conducción de la guerra en Ucrania. El hecho de que dos países con intereses subyacentes diferentes produjeran el mismo resultado —el rechazo de la regulación— no es una coincidencia, sino más bien un reflejo de la posición estructural compartida por ambos países como miembros permanentes del Consejo de Seguridad de la ONU y Estados con armas nucleares dentro de las normas multilaterales de desarme.

2. Contexto estructural

En términos de estructura de seguridad, este asunto presenta un patrón similar al colapso del régimen de desarme nuclear. Durante la Guerra Fría, Estados Unidos y la Unión Soviética, como dos superpotencias que compartían el abrumador poder destructivo de las armas nucleares, adoptaron un enfoque dual: cooperar para evitar la proliferación mientras se mostraban reacios a reducir sus propios armamentos. La misma estructura se está replicando en los sistemas de armas de IA. Aunque Estados Unidos y Rusia cooperan para bloquear la formación de normas internacionales que regulen la militarización de la IA, se trata de una cooperación meramente pasiva destinada a preservar su propia libertad de desarrollo y despliegue. Esto explica por qué se identifica a Estados Unidos y a Rusia como actores clave en la competencia normativa interestatal sobre el uso militar de la IA en dominios de seguridad emergentes y no tradicionales.

En términos de estructura política, destaca la doble vía de la política de IA dentro de Estados Unidos. El análisis del EAI ha señalado anteriormente que en las relaciones entre EE. UU. y China, "la vía de cooperación liderada por la Casa Blanca y la vía de presión liderada por el Congreso y las agencias reguladoras ya están operando por separado" [9]. La obstrucción conjunta de EE. UU. y Rusia demuestra que esta estructura de doble vía se manifiesta de manera similar en las relaciones con Rusia. Mientras que la Casa Blanca comparte intereses prácticos con Rusia en lo que respecta a la regulación de la IA militar, mantiene una postura de presión, como los controles a la exportación de semiconductores, en su competencia con China [9]. Esto indica que la diplomacia de IA de EE. UU. se está reorganizando de manera fluida en función de los intereses específicos de cada tema, en lugar de basarse en distinciones estrictas entre aliados y competidores.

En términos de estructura económica, la alineación de intereses entre la industria de defensa y la industria de la IA constituye la base material para bloquear la regulación. El hecho de que el SIPRI celebrara debates a puerta cerrada en septiembre con funcionarios de los ministerios de defensa y de asuntos exteriores, representantes de la industria, el CICR y la OTAN sobre la "cooperación entre el Estado y la industria para el desarrollo y uso legal de la IA en el ámbito militar" [8] sugiere una estructura en la que la formación de normas se decide efectivamente dentro de los complejos estatal-industriales en lugar de mediante negociaciones intergubernamentales. Independientemente del rechazo de la cláusula que exige la intervención humana en las decisiones de selección de objetivos en el escenario multilateral de la ONU, los órganos de cooperación a nivel técnico están llevando a cabo debates basados en la premisa del "uso legal" en lugar de la regulación [8]. Esto indica que la vía para formar regímenes reguladores internacionales se está desplazando del multilateralismo al estilo de la Asamblea General de la ONU hacia una gobernanza de tipo red minilateral entre el Estado y la industria.

3. Precedentes históricos y casos comparativos

El precedente más cercano es el fracaso reiterado de los debates del Grupo de Expertos Gubernamentales (GGE) sobre LAWS en el marco de la CCW. Estos debates, que se vienen desarrollando desde hace más de una década (desde 2014), han fracasado repetidamente en la redacción de un tratado vinculante debido a la oposición de naciones líderes en tecnología militar como Estados Unidos, Rusia e Israel. La obstrucción conjunta de EE. UU. y Rusia es el caso más reciente de este patrón de fracaso, y representa una información más avanzada que antes en el sentido de que los actores que se oponen a la regulación han sido identificados públicamente.

El segundo caso comparativo es la estructura de colusión de las grandes potencias observada en el régimen del Tratado sobre la No Proliferación de las Armas Nucleares (TNP). Durante la Guerra Fría, Estados Unidos y la Unión Soviética cooperaron para regular los ensayos nucleares mutuos, pero esto se dirigió en gran medida a consolidar el orden existente impidiendo la entrada de nuevos Estados con armas nucleares. Una implicación similar puede extraerse de la obstrucción de la regulación de las armas de IA. Los beneficiarios del rechazo de la obligatoriedad de la intervención humana son Estados Unidos y Rusia, que ya poseen sistemas avanzados de selección de objetivos mediante IA, mientras que las naciones relativamente rezagadas asumirán la carga de establecer sus propias normas en un vacío normativo cuando desarrollen sistemas similares en el futuro.

El tercer caso es el reciente incidente de una orden falsa provocada por una alucinación de IA en el ejército de EE. UU., analizado por el EAI. En este incidente, se preparó una operación de interdicción e incautación contra un buque chino en aguas de Oriente Medio basándose en un informe de inteligencia coescrito por un chatbot de IA, pero se abortó en el último minuto después de que los aviones de combate ya hubieran despegado [6]. El EAI analizó que "la fuente del error no fue el engaño por parte del adversario, sino el propio proceso de producción de inteligencia del ejército de EE. UU." [6]. Este incidente puede interpretarse como un ejemplo en el que la intervención humana funcionó realmente para evitar un resultado catastrófico. No obstante, el hecho de que Estados Unidos, en el escenario de la ONU casi al mismo tiempo, se uniera a Rusia para bloquear precisamente esa obligatoriedad de la intervención humana [1] demuestra una desconexión entre la percepción del riesgo a nivel operativo y las opciones políticas a nivel normativo.

4. Variables clave que configurarán la evolución futura

La primera variable es si el diálogo sobre IA entre EE. UU. y China avanza. Tras la cumbre Trump-Xi en Washington, ambos países acordaron establecer un canal de notificación mutua para accidentes de IA, con consultas de seguimiento programadas para noviembre [16]. Sin embargo, este canal se evalúa como "meramente un canal de gestión de crisis de seguridad nacional y no implica una expansión de la cooperación comercial en IA" [9]. El hecho de que este diálogo amplíe su agenda para incluir las decisiones de selección de objetivos de la IA militar o se mantenga limitado al estrecho ámbito de la notificación de accidentes determinará la dirección de la futura formación de normas.

La segunda variable es la expansión de la declaración de los 22 países. Liderada por naciones europeas, esta declaración especificaba que la IA debe permanecer "bajo la dirección, supervisión y control humanos" y proponía la creación de un marco de supervisión global [10]. La clave es si el número de países participantes se amplía más allá de los 22 para formar una coalición de una escala capaz de presionar a los miembros permanentes del Consejo de Seguridad de la ONU. Actualmente, las tres grandes potencias de la IA militar —Estados Unidos, Rusia y China— están ausentes de esta declaración, lo que limita su fuerza normativa vinculante.

La tercera variable son los logros de autorregulación de las redes de trabajo entre el Estado y la industria. Si el diálogo a puerta cerrada entre los ministerios de defensa, los ministerios de asuntos exteriores, la industria y las organizaciones internacionales organizado por el SIPRI [8] conduce a códigos de conducta o normas técnicas sustantivas, podría surgir una vía normativa alternativa que eluda los tratados intergubernamentales fallidos. Sin embargo, debido a que esta vía parte de la premisa del "uso legal" desde el principio [8], corre el riesgo de producir resultados más cercanos a la justificación que a la regulación.

La cuarta variable es el grado en que se exponga el funcionamiento real de las armas de IA en el campo de batalla de Ucrania. A medida que surjan pruebas concretas de que Rusia ya está utilizando en combate sistemas de selección de objetivos asistidos por IA, es probable que crezca el rechazo público contra el rechazo de la obligatoriedad de la intervención humana. Esta es una variable potencial que podría generar presión para una renegociación en el escenario de la ONU.

Las implicaciones para Corea del Sur dependen de la combinación de estas cuatro variables. Bajo el supuesto de que es poco probable que surja una norma vinculante sobre IA militar a nivel de la ONU por el momento, la tarea prioritaria sigue siendo establecer procedimientos de verificación independientes para la inteligencia generada por IA que entra en el sistema de inteligencia combinado de la República de Corea y EE. UU. Al mismo tiempo, deben proseguirse en paralelo los esfuerzos diplomáticos multilaterales, como la participación en vías de coalición de potencias medias como la declaración de los 22 países, para llenar el vacío normativo creado por la colusión bilateral entre EE. UU. y Rusia.