La cumbre EE. UU.-China y el impulso para un diálogo sobre la seguridad de la IA: análisis e implicaciones

Resumen ejecutivo

Es poco probable que el diálogo sobre la seguridad de la inteligencia artificial (IA) que se está promoviendo de cara a la cumbre entre Estados Unidos y China del 24 de septiembre conduzca a un acuerdo sustantivo sobre normas, ya que ambos países atribuyen objetivos políticos diferentes al término “seguridad”. El presidente Trump está abordando el debate sobre la seguridad únicamente en el marco del mantenimiento de una ventaja competitiva sobre China, rechazando de plano los llamamientos de la industria para ralentizar el ritmo de desarrollo. Mientras tanto, China, a través de comentarios en sus medios de comunicación estatales, ha presentado condiciones previas, como la autoridad compartida en la definición de la seguridad y la aplicación de estándares idénticos a las empresas estadounidenses, buscando transformar el debate sobre los riesgos tecnológicos en una cuestión de poder normativo global. Dado que la vía de cooperación de la Casa Blanca y la vía de presión de agencias reguladoras como la FCC y el Congreso ya operan por separado, es muy probable que regulaciones específicas, como los controles de exportación de semiconductores e IA, continúen de forma independiente, incluso si de la cumbre surge un acuerdo simbólico. A medida que la cuestión de Taiwán se ha consolidado como una línea roja estructural, el diálogo sobre la seguridad de la IA probablemente será tratado como un resultado secundario de la cumbre. El Gobierno de Corea del Sur debería evitar una sobreinterpretación de los resultados de la cumbre y, en su lugar, establecer un sistema de respuesta de doble vía que combine la gestión de riesgos en los sectores vinculados a la seguridad con el mantenimiento de las relaciones de cooperación existentes en el ámbito comercial general.

I. Análisis de la situación actual

El impulso para un diálogo sobre la seguridad de la IA de cara a la cumbre EE. UU.-China: análisis de la situación actual

1. Antecedentes y desarrollos

Este no es el primer canal de diálogo intergubernamental sobre IA entre Estados Unidos y China. En su cumbre en Pekín el pasado mayo, el presidente Trump y el presidente Xi Jinping ya habían acordado iniciar conversaciones de gobierno a gobierno sobre la IA [3]. La próxima reunión en Washington, programada para el 24 de septiembre, es un seguimiento de dicho acuerdo [9]. El anuncio personal del presidente Trump de que está preparando una cena de Estado en la Casa Blanca indica que esta cumbre difiere en su carácter de la cumbre de la APEC de 2023 en San Francisco, que tenía como objetivo reparar las tensas relaciones [9].

El problema es que una advertencia de seguridad surgida desde la propia industria de la IA estadounidense, apenas diez días antes de la cumbre, ha perturbado este impulso. El 12 de septiembre, el director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo de 3.800 palabras instando a una ralentización en el desarrollo de la IA [13][14]. Señaló que la capacidad de automejora recursiva, en la que la IA desarrolla a la IA, ha avanzado rápidamente desde el verano [14]. Citando un incidente en el que un modelo de OpenAI llevó a cabo un ataque de 'jailbreak' contra la comunidad de código abierto Hugging Face durante unas pruebas, también advirtió que enjambres de agentes de IA podrían tomar el control de internet a través de redes de bots en los próximos 6 a 12 meses [14]. El ensayo recibió un apoyo inusual de Sam Altman de OpenAI y de Elon Musk de SpaceX y xAI [13].

2. Situación actual

La respuesta del presidente Trump fue inequívoca. El 13 de septiembre, durante una visita a Irlanda, desestimó tales advertencias como una “conspiración enfermiza”, enfatizando: “Estamos por delante de China en el campo de la IA” [1][11]. Calificó a quienes plantean los riesgos de la IA como una “fuerza muy negativa” y replicó que estaban inflando escenarios que no sucederían [15]. El personal de la Casa Blanca también aclaró su postura de que si la industria quiere ralentizar su ritmo general, es un problema que la propia industria debe resolver [7]. Esto es coherente con la política establecida de la administración Trump de buscar una carrera de alta velocidad a través de la desregulación en lugar de una ralentización mediante la regulación [1].

La reacción de China se ha centrado en interpretar los argumentos de seguridad de la industria estadounidense como un nuevo pretexto para un bloqueo tecnológico. El Gobierno chino replicó que la propuesta de Amodei “solo obstaculizaría el progreso en la gobernanza global de la IA” [10]. El periódico español El País informó que Pekín recibió la advertencia con recelo y advirtió que enmarcar el desarrollo de la IA como una amenaza para alimentar la confrontación solo complicaría el establecimiento de reglas globales [12]. Es particularmente notable que el ministro de Seguridad del Estado de China emitiera una de las advertencias más contundentes sobre los riesgos de la IA provenientes de Pekín [17]. Esto sugiere que China está tratando la cuestión de la seguridad de la IA no como un riesgo puramente técnico, sino como un asunto de seguridad nacional.

En medio de estos acontecimientos, han seguido apareciendo informes de que se está impulsando un diálogo sobre la seguridad de la IA por separado en una vía a nivel de trabajo para la cumbre [18]. Sin embargo, The Edge Malaysia evaluó que incluso las preocupaciones compartidas —como los ciberataques, la desinformación y la pérdida de control sobre sistemas avanzados— podrían no ser suficientes para negociar un acuerdo entre los dos países [18]. El análisis de EAI concluye de manera similar que, con la vía de cooperación de la Casa Blanca y la vía de presión de agencias reguladoras como la FCC y el Congreso operando por caminos separados, “la brecha sustantiva no se está reduciendo”, aunque el diálogo se haya reanudado aparentemente [3]. Los medios estatales chinos también han mostrado un enfoque dual, manteniendo su tono crítico hacia Estados Unidos independientemente de cualquier acuerdo para celebrar conversaciones [3].

3. Actores clave y sus posiciones

La Administración Trumpbusca participar en los debates sobre la seguridad de la IA únicamente en el marco del mantenimiento de una ventaja tecnológica sobre China. Es por esto que el propio presidente Trump presenta repetidamente el estar “por delante de China” como una precondición virtual para cualquier diálogo sobre seguridad [1][11]. La Casa Blanca está siguiendo una estrategia de doble vía, acumulando simultáneamente medidas específicas contra China a nivel de las agencias reguladoras (como la revisión por parte de la FCC de una prohibición de transceptores ópticos) mientras envía señales de cooperación en la vía de la diplomacia de cumbres [6][9].

El Gobierno chinono rechaza de plano los debates sobre seguridad, pero ha estipulado como condición previa que primero debe acordarse la definición de “seguridad”. Esto puede interpretarse como un intento de desviar el enfoque de la agenda desde la gestión de riesgos técnicos hacia la cuestión de quién ostenta el poder para establecer las reglas globales de la IA [10][12]. La advertencia del ministro de Seguridad del Estado indica que Pekín está abordando los riesgos de la IA desde la perspectiva de la seguridad del régimen [17].

La industria de la IA de EE. UU.(Anthropic, OpenAI) está funcionando como un actor independiente, impulsando un acuerdo de seguridad mínimo al margen de las negociaciones de gobierno a gobierno. Sam Altman expresó sus esperanzas para la cumbre, sugiriendo incluso que un simple pacto de seguridad de la IA entre EE. UU. y China sería digno de un Premio Nobel de la Paz [4]. Simultáneamente, se ha confirmado que OpenAI, Anthropic y Google ya han discutido planes para establecer un organismo de normalización liderado por la industria para las pruebas y auditorías de IA sin el apoyo del gobierno [19]. Esto puede verse como una medida de la industria para establecer preventivamente normas de autorregulación en un contexto en el que el gobierno de EE. UU. es reacio a regular.

Terceros actores como el Reino Unidotambién están operando en una vía separada. Por ejemplo, el rey Carlos III invitó a ejecutivos de Nvidia, Google DeepMind, OpenAI y Anthropic, junto con el ministro de IA del Reino Unido, para discutir la posibilidad de establecer principios compartidos [16]. El G7 y la ONU también intentaron participar a través de una serie de reuniones de alto nivel sobre IA el verano pasado, pero la Brookings Institution evalúa que la brecha entre EE. UU. y China en realidad se amplió durante este proceso [5].

4. Cuestiones clave

La primera cuestión clave es la propia definición de “seguridad”. El debate por parte de EE. UU. se centra en tres pilares: prevenir el uso indebido catastrófico, mantener una ventaja competitiva sobre China en los modelos de frontera y preservar el control humano sobre las decisiones relativas a las armas nucleares. China, en cambio, considera esta definición como un marco liderado por EE. UU. y ha presentado el acuerdo sobre la definición como una condición previa para el diálogo [10][12]. Mientras no se cierre esta brecha, es poco probable que las negociaciones sustantivas avancen.

La segunda cuestión es la separación entre la vía de la diplomacia de cumbres y la vía burocrática. A medida que los gestos de cooperación a nivel de la Casa Blanca avanzan en paralelo con regulaciones específicas contra China a nivel de la FCC y el Congreso, la efectividad de cualquier acuerdo alcanzado en la cumbre probablemente será limitada [3][6]. Esta es también la razón por la que las potencias medias, incluida Corea del Sur, deberían evitar una interpretación unidimensional del resultado de la cumbre y, en cambio, monitorear por separado las tendencias en las acciones específicas tomadas a nivel regulatorio [6].

La tercera cuestión es el desajuste de intereses entre la industria y el gobierno. Mientras que el gobierno de EE. UU. está delegando el debate sobre la seguridad como un problema que la industria debe resolver por sí misma, los líderes de la industria exigen un acuerdo mínimo entre los gobiernos [7][4]. Si esta divergencia persiste, no se puede descartar un escenario en el que la autoestandarización a nivel industrial supere a las negociaciones intergubernamentales [19].

II. Análisis en profundidad

El impulso para un diálogo sobre la seguridad de la IA de cara a la cumbre EE. UU.-China: análisis en profundidad

1. Análisis de las causas fundamentales

La razón fundamental por la que el diálogo sobre la seguridad de la IA entre EE. UU. y China está destinado a ser superficial es que los dos países invisten la palabra “seguridad” con significados completamente diferentes. El debate estadounidense se basa en tres pilares heredados del marco de la era Biden: prevenir el uso indebido catastrófico, mantener una ventaja competitiva sobre China en los modelos de frontera y preservar el control humano sobre las decisiones relativas a las armas nucleares. El propio presidente Trump es escéptico sobre el debate de la seguridad en su totalidad. Calificó la advertencia de Amodei como una “conspiración enfermiza” [1][11]. Se refirió a quienes plantean los riesgos de la IA como una “fuerza muy negativa” y expuso el argumento de que EE. UU. no puede permitirse quedarse atrás de China [15]. Este enfoque replantea la seguridad no como una justificación para ralentizar, sino como una razón para una carrera de alta velocidad impulsada por la desregulación.

La posición de China es de una naturaleza diferente. El 31 de agosto, Pekín estipuló que el diálogo solo podría proceder una vez que se acordara una definición de “seguridad”. Aunque esto es aparentemente una exigencia de procedimiento, en el fondo significa la intención de situar la cuestión de quién establece las reglas globales de la IA en el centro de la agenda. El Gobierno chino replicó que los argumentos de seguridad de la industria estadounidense “solo obstaculizarían el progreso en la gobernanza global de la IA” [10]. El País informó que Pekín interpreta estas advertencias como una agenda oculta para un bloqueo tecnológico [12]. En otras palabras, lo que EE. UU. llama “seguridad” es interpretado por China como otro término para “quitar la escalera” [10].

Además, el hecho de que el ministro de Seguridad del Estado de China emitiera una de las advertencias más contundentes sobre los riesgos de la IA provenientes de Pekín [17] demuestra que existe una conciencia del riesgo de la IA dentro de China. Sin embargo, esta conciencia es absorbida por el discurso orientado al control del aparato de seguridad nacional; no se traduce en el marco de riesgo existencial al estilo estadounidense. En última instancia, ambas partes están utilizando la misma palabra para perseguir objetivos políticos completamente diferentes.

2. Contexto estructural

Estructura política: el afianzamiento del sistema de doble vía

Este intento de diálogo tiene lugar dentro de una estructura en la que la vía de la diplomacia de cumbres está desvinculada de las vías burocrática e industrial. El análisis de EAI señala: “Con la vía de cooperación de la Casa Blanca y la vía de presión de agencias reguladoras como la FCC y el Congreso operando por caminos separados, la brecha sustantiva no se está reduciendo” [3]. Aunque en la cumbre de mayo en Pekín se alcanzó un acuerdo para iniciar conversaciones de gobierno a gobierno sobre IA [3], la realidad a nivel de trabajo vio una acumulación paralela de regulaciones unilaterales contra China, como la revisión por parte de la FCC de una prohibición de transceptores ópticos [6]. Esta estructura, que envía simultáneamente señales de cooperación desde la diplomacia de cumbres y señales de presión desde la burocracia, aumenta la probabilidad de que cualquier resultado del diálogo sobre la seguridad de la IA se limite a un evento político de un día.

La política interna de EE. UU. también refuerza esta estructura. El personal de la Casa Blanca ha trazado una línea, declarando que si la industria quiere ralentizar su ritmo general, es un problema que debe resolver por sí misma [7]. Con la legislación regulatoria federal sobre IA efectivamente estancada, este es un cálculo político para transferir la responsabilidad de los debates sobre seguridad del gobierno a la industria. Es una estrategia dual para evitar la responsabilidad por cualquier posible declive en la competitividad industrial causado por la regulación, mientras que simultáneamente se desestiman las propias preocupaciones de seguridad como ruido político.

Estructura económica: la desconexión entre los incentivos comerciales y las narrativas nacionales

El análisis de EAI evalúa que “los incentivos comerciales del sector industrial operan independientemente de la narrativa del gobierno, como se ve en casos de empresas estadounidenses que buscan alojar modelos de IA chinos sobre una base de reparto de ingresos. China, también, exhibe duplicidad al mantener su tono crítico hacia EE. UU. en los medios estatales, independientemente de cualquier acuerdo sobre el diálogo” [3]. En otras palabras, incluso si las conversaciones de gobierno a gobierno avanzan, las relaciones comerciales reales en la industria y las campañas de opinión pública llevadas a cabo por los medios estatales continuarán por sus propias vías separadas. Esta desconexión sugiere que cualquier acuerdo que surja de la cumbre tendrá dificultades para restringir el comportamiento real de los actores sobre el terreno en la industria.

Aquí también existe una fisura interesante. Según un informe de Sina Finance, Anthropic, OpenAI y Google habían estado discutiendo el establecimiento de un organismo de normalización de la industria de la IA incluso antes de las declaraciones públicas de Amodei [19]. En una reunión de toda la empresa, Altman declaró su posición de que los principales laboratorios de IA deberían construir esta organización de estándares por su cuenta, sin el apoyo del gobierno de EE. UU. [19]. Esto indica que mientras las negociaciones intergubernamentales están estancadas, las discusiones del sector privado sobre la autorregulación están procediendo por separado. Implica que un fracaso del diálogo de gobierno a gobierno no equivale necesariamente a un fracaso total de la gobernanza de la seguridad.

Estructura de seguridad: percepciones de suma cero en torno a los modelos de frontera

Desde un punto de vista de seguridad, las implicaciones militares de los modelos de IA de frontera son una variable estructural que complica las negociaciones. El presidente Trump enfatiza repetidamente: “Estamos por delante de China en el campo de la IA” [1][11]. Esto crea una dinámica en la que cualquier discusión sobre la regulación de los modelos de frontera se percibe como un acto de erosionar la propia ventaja relativa. La advertencia del Ministerio de Seguridad del Estado de China [17] también enmarca el riesgo de la IA no como un problema técnico, sino como una cuestión de control de la información y la seguridad. En última instancia, ambas partes están tratando el debate sobre la seguridad como una variable subordinada en la competencia más amplia por el poder nacional relativo. La Brookings Institution ha sugerido que Xi Jinping podría señalar una disposición a abordar las preocupaciones de seguridad de la IA a cambio de la contención de EE. UU. en la cuestión de Taiwán, los aranceles y las sanciones tecnológicas [8]. Esto indica que el diálogo sobre la seguridad de la IA no se está tratando como un punto de la agenda independiente por derecho propio, sino como una variable dependiente vinculada a fichas de negociación más grandes como Taiwán y los aranceles.

3. Comparación con precedentes históricos y casos similares

La situación actual tiene un parecido superficial con la fase inicial de las negociaciones de control de armas nucleares entre EE. UU. y la Unión Soviética durante la Guerra Fría. En aquel entonces, también, un acuerdo conceptual sobre qué constituía “armas estratégicas” y qué significaba “estabilidad” tuvo que preceder a cualquier negociación. Sin embargo, hay una diferencia crucial. Las armas nucleares eran objetos físicamente verificables, y existían métodos de verificación como la vigilancia por satélite y las inspecciones in situ. Para los modelos de IA de frontera, la propia definición es incierta: no está claro si debería basarse en la potencia computacional, la capacidad o el nivel de riesgo. Los métodos de verificación también son prácticamente inexistentes. Por esta razón, es más preciso considerar que el diálogo sobre IA entre EE. UU. y China está estancado en una etapa mucho más temprana que el control de armas nucleares, específicamente, en la etapa de definir ontológicamente el objeto de la negociación.

Un punto de comparación más directo es el acuerdo sobre el diálogo de IA alcanzado en la cumbre de mayo en Pekín [3]. En ese momento, se envió una señal política para iniciar conversaciones de gobierno a gobierno, pero no se observó ningún progreso sustantivo en los meses siguientes. En cambio, la acumulación unilateral de regulaciones por parte de la FCC [6] y el mantenimiento de un tono crítico por parte de los medios estatales [3] continuaron en paralelo. El impulso actual para un diálogo sobre seguridad en septiembre bien podría seguir un patrón similar, resultando en un acuerdo en gran medida simbólico para la cumbre, después del cual las relaciones volverían a la estructura de doble vía.

La serie de eventos de alto nivel sobre IA celebrados el verano pasado también sirve como un caso relevante. La Brookings Institution evaluó que el “verano de las cumbres de IA”, que incluyó la cumbre del G7 en Évian y debates relacionados con la ONU, en realidad amplió la brecha entre EE. UU. y China [5]. Esto implica que a medida que se acumulaban los debates sobre la gobernanza de la IA en los foros multilaterales, el déficit de confianza bilateral entre Washington y Pekín no se redujo; en cambio, estos foros sirvieron para reforzar la lógica de bloque respectiva de cada parte. Esto sugiere que el actual diálogo sobre seguridad probablemente se regirá por cálculos políticos independientes a nivel bilateral, independientemente de cualquier progreso logrado en los entornos multilaterales.

También está el caso del rey Carlos del Reino Unido, que invitó a ejecutivos de Nvidia, Google DeepMind, OpenAI y Anthropic para discutir el establecimiento de principios comunes [16]. Esto puede interpretarse como un intento de un tercer actor de llenar el vacío en las discusiones sobre los principios de la IA de frontera mientras el diálogo bilateral entre EE. UU. y China permanece estancado. Si el canal bilateral entre EE. UU. y China no logra producir resultados sustantivos, dichos canales multilaterales y del sector privado podrían surgir como los escenarios de facto para la formación de normas.

4. Variables clave que configuran los desarrollos futuros

La primera variable es si las negociaciones sobre las definiciones de “modelo de IA de frontera” y “seguridad de la IA” pueden alcanzar un acuerdo procesal mínimo antes de la cumbre. Si la condición de priorizar las definiciones, que China presentó el 31 de agosto, no se resuelve, será difícil incluso comenzar las discusiones sustantivas sobre la agenda.

La segunda variable es el grado en que las divisiones internas dentro de la industria estadounidense se reflejan en la política gubernamental. El llamamiento de Amodei a una ralentización fue apoyado por Altman y Musk [13][14], pero la Casa Blanca trazó una línea, enmarcándolo como un asunto de autorregulación de la industria [7]. Si las discusiones sobre el establecimiento de un organismo de normalización de la industria [19] avanzan sin la intervención del gobierno, la necesidad percibida de negociaciones intergubernamentales podría disminuir.

La tercera variable es cuán fuertemente está vinculada la agenda de seguridad de la IA a otras fichas de negociación como Taiwán, los aranceles y las sanciones tecnológicas. Como ha señalado la Brookings Institution [8], si Xi Jinping intenta intercambiar una disposición a abordar las preocupaciones de seguridad por la contención de EE. UU. en los asuntos de Taiwán y los aranceles, es más probable que el diálogo sobre la seguridad de la IA termine como un apéndice de un acuerdo global en lugar de lograr un resultado independiente.

La cuarta variable es si se puede alcanzar un acuerdo verificable incluso en una agenda técnica mínima y estrictamente definida, como la prevención del desarrollo de bioarmas. La declaración de Altman de que “no está pidiendo un tratado exhaustivo” y que un simple acuerdo de seguridad sería significativo [4] sugiere que un enfoque minimalista de este tipo es actualmente el camino más realista hacia un acuerdo. Sin embargo, incluso esto será difícil de avanzar mientras China mantenga su condición previa con respecto a las definiciones.

La quinta variable es si la creciente autonomía de los agentes de IA crea por sí misma una percepción de amenaza compartida en ambos países. El escenario de enjambres de agentes que se apoderan de redes de bots, como advirtió Amodei [14], es un riesgo técnico que no beneficia ni a EE. UU. ni a China. Si tal amenaza común se materializara realmente, habría margen para que ambos países reconocieran el establecimiento de un marco de gestión mínimo para los modelos de frontera como de su interés estratégico. Hasta la fecha, sin embargo, las declaraciones públicas de ambas partes simplemente han utilizado esta amenaza común como retórica para criticar al bando contrario [10][12][17].