El debate sobre el ritmo de la IA y el marco de la Nueva Guerra Fría: Implicaciones geopolíticas del discurso de seguridad de Anthropic

Resumen ejecutivo

El llamado del director ejecutivo de Anthropic, Dario Amodei, a ralentizar el ritmo del desarrollo de la IA se ha transformado en un nuevo frente en la rivalidad tecnológica entre Estados Unidos y China, a medida que el discurso de seguridad se entrelazó con las demandas de controles más estrictos a la exportación de chips contra China. El Ministerio de Asuntos Exteriores de China y los medios de comunicación estatales respondieron de inmediato, enmarcando la medida como una táctica de la Guerra Fría impulsada por intereses comerciales, mientras que la administración Trump rechazó los llamamientos internos a una regulación más estricta, citando la necesidad de mantener una ventaja competitiva sobre China. En vísperas de la cumbre entre Estados Unidos y China del 24 de septiembre, está claro que el lenguaje de la «seguridad» está siendo utilizado por ambos países no como una agenda genuina de cooperación, sino como una moneda de cambio y una herramienta para asegurar una ventaja competitiva. Los acontecimientos futuros podrían seguir uno de tres caminos: la institucionalización del diálogo sobre seguridad, una brecha continua entre el discurso y la implementación, o la aceleración de la fragmentación de la gobernanza y la formación de bloques tecnológicos. La vía más probable es la persistencia de la brecha entre el discurso y la implementación. Corea del Sur necesitará un enfoque de doble vía: evitar la adopción total de la narrativa estadounidense o china, gestionar por separado los sectores vinculados a la seguridad y los comerciales, y simultáneamente desarrollar sus propias capacidades de gestión de riesgos.

I. Análisis de la situación actual

El debate sobre el ritmo de la IA: El llamado del director ejecutivo de Anthropic a una ralentización y el marco de la Nueva Guerra Fría entre EE. UU. y China

1. Antecedentes y cronología

El punto de inflexión fue una publicación en el blog del director ejecutivo de Anthropic, Dario Amodei, el sábado 12 de septiembre (hora local) [3][9]. El título era «Necesitamos moderar el ritmo del desarrollo de frontera» [3]. En la publicación, Amodei abogaba por ralentizar la tasa de mejora de los modelos de IA [10]. Advirtió que enjambres de agentes de IA autónomos podrían apoderarse de todo internet a través de botnets en un plazo de 6 a 12 meses, causando daños por cientos de miles de millones de dólares [4][11].

Esta advertencia se produjo pocos días después de que el investigador Jacob Coxson, que había dejado OpenAI para unirse a Anthropic, abandonara la industria criticando a las empresas estadounidenses por «jugar con nuestras vidas» [15]. La combinación de incidentes relacionados con la pérdida de control sobre la IA autónoma y la partida de un investigador clave otorgó un peso empírico al discurso de seguridad [3]. Poco después de la publicación de Amodei, Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) y Elon Musk (xAI) expresaron sucesivamente su acuerdo [2][16]. La postura unificada de los directores de desarrolladores de modelos de frontera competidores fue vista como un acontecimiento inusual por los medios de comunicación estadounidenses [10][16].

El problema fue que la propuesta de Amodei no se detuvo en el discurso de seguridad. En la misma publicación, también pidió el fortalecimiento de las restricciones a la exportación de chips de IA dirigidas a China [7][17]. La regulación de la seguridad y la contención de China se presentaron como un paquete único. En este punto, el debate se desplazó inmediatamente al marco de la rivalidad tecnológica entre Estados Unidos y China.

2. Situación actual

El Ministerio de Asuntos Exteriores de China emitió una refutación de inmediato. El portavoz Guo Jiacun, tomando el relevo de Wang Wenbin en la rueda de prensa, declaró: «El alarmismo, la confrontación y la competencia maliciosa solo obstaculizarán el progreso en la gobernanza global de la IA y no servirán a los intereses de nadie» [14]. Añadió que el desarrollo de la IA es un asunto que concierne al bienestar común de la humanidad [14]. El diario estatal Global Times fue un paso más allá, calificando las declaraciones de Amodei como producto de intereses comerciales «hostiles e infundados» [17]. Un editorial de una filial del Diario del Pueblo, citado por el medio en español 14ymedio, lo describió como ciertos elementos del sector tecnológico estadounidense sacando el «manual de la Guerra Fría» para atacar a la IA china [18].

Las reacciones dentro de Estados Unidos son mixtas. El presidente Trump ha trazado repetidamente una línea en contra del fortalecimiento de las regulaciones de IA, citando la competencia con China [1]. El periódico surcoreano The Hankyoreh señaló que el llamado a una ralentización no es bienvenido por ninguna de las partes: China lo ve como «quitar la escalera» para levantar barreras de entrada, mientras que Estados Unidos teme que pueda permitir a China ponerse al día [1]. Al Jazeera calificó la situación de «guerra fría silenciosa», analizando que la demanda de ralentizar la IA ha trazado, paradójicamente, una nueva línea de batalla tecnológica entre Estados Unidos y China [7].

El momento en que surge este debate, justo antes de la cumbre programada entre Estados Unidos y China para el 24 de septiembre, le confiere un peso adicional. Los dos países ya habían acordado iniciar un diálogo intergubernamental sobre IA en su cumbre de mayo en Pekín, y la próxima reunión en Washington está concebida como un seguimiento [6]. Sin embargo, la administración Trump está tratando las discusiones sobre seguridad únicamente en el marco del mantenimiento de una ventaja competitiva sobre China y ha rechazado de plano los llamamientos de la industria a una ralentización. Mientras tanto, China intenta desviar la discusión hacia el derecho a establecer normas globales, insistiendo en que primero debe acordarse la propia definición de seguridad [6]. Con la vía de cooperación de la Casa Blanca y la vía de presión del Congreso y las agencias reguladoras ya operando por separado, es muy probable que regulaciones individuales como los controles de exportación de semiconductores e IA continúen de forma independiente, incluso si se alcanza un acuerdo simbólico en la cumbre [6].

3. Actores y posiciones clave

Anthropic (Dario Amodei)es el epicentro del debate, habiendo planteado simultáneamente preocupaciones de seguridad y argumentos para contener a China. Posteriormente, Amodei intentó gestionar las consecuencias de la creciente controversia aclarando que su empresa nunca había abogado por una prohibición total de los modelos de peso abierto [5]. En una entrevista con la CBS, también pareció moderar su tono, declarando: «No hay necesidad de entrar en pánico hoy» [13].

OpenAI, Google DeepMind y xAIse han hecho eco del llamado a una ralentización, pero sus intereses políticos no están perfectamente alineados. OpenAI ha transmitido al gobierno de EE. UU. que se debe evitar la «regulación prematura» de los modelos de peso abierto, basándose en la lógica de que la regulación podría empujar la innovación al extranjero, beneficiando en última instancia a China [5]. Esto demuestra que, si bien se unen al discurso de seguridad, sus intereses divergen en lo que respecta a los métodos y la intensidad de la regulación.

La Administración Trumpestá rechazando de facto los llamamientos a fortalecer la regulación de la IA, contraponiendo la preocupación por socavar la competitividad frente a China [1]. Incluso en vísperas de la cumbre, mantiene una postura de tratar el diálogo sobre seguridad como una agenda subordinada al objetivo principal de mantener una ventaja competitiva [6].

El Gobierno chinoestá respondiendo mediante una combinación de críticas oficiales del Ministerio de Asuntos Exteriores y críticas editoriales en los medios de comunicación estatales. La rueda de prensa del portavoz Guo Jiacun enmarcó el discurso de seguridad liderado por EE. UU. como un acto de obstrucción a la gobernanza [14], mientras que los editoriales del Global Times y las filiales del Diario del Pueblo lo enmarcaron como un intento de contención al estilo de la Guerra Fría basado en intereses comerciales [17][18]. Desde la perspectiva de China, la amenaza real no es la discusión sobre seguridad en sí misma, sino la demanda subyacente de controles a la exportación de semiconductores.

4. Cuestiones centrales

El núcleo de esta cuestión es que el discurso de seguridad es inseparable de la lógica de la competencia industrial. La propuesta de Amodei se presentó en el lenguaje universal del riesgo existencial para la humanidad, pero simultáneamente contenía una medida destinada a contener a un país específico: la restricción de las exportaciones de chips a China [7][17]. Citando esto, China intenta enmarcar el propio discurso de seguridad como una tapadera para una estrategia de contención, desplazando así el debate hacia una contienda sobre la legitimidad de las discusiones internacionales sobre la gobernanza de la IA [14][18].

Incluso dentro de Estados Unidos, el apoyo político a una ralentización es superficial. Bajo la postura desreguladora y de primacía de la competencia de la administración Trump, la probabilidad de una regulación federal sustantiva es baja, y las medidas reales se han limitado a la autorregulación, como la introducción de organizaciones de evaluación de terceros [3]. Es por esto que se espera que la brecha entre la retórica y la implementación persista durante un tiempo considerable [3].

Otro punto a considerar es la posibilidad de que el diálogo sobre seguridad y las medidas individuales de control de exportaciones se gestionen por vías separadas, ya que este debate coincide con la cumbre. Debido a que los dos países atribuyen diferentes objetivos políticos al término «seguridad», es muy probable que, incluso si se alcanza un acuerdo simbólico en la cumbre, las regulaciones sustantivas como los controles de exportación de semiconductores e IA continúen por una vía separada [6]. Con la cuestión de Taiwán ya consolidada como una línea roja estructural, es probable que la discusión sobre la seguridad de la IA sea tratada como un asunto secundario superpuesto a la estructura de conflicto fundamental de las relaciones entre EE. UU. y China, en lugar de aliviarla [6].

II. Análisis en profundidad

El debate sobre el ritmo de la IA: El llamado del director ejecutivo de Anthropic a una ralentización y el marco de la Nueva Guerra Fría entre EE. UU. y China

1. Análisis de las causas fundamentales

La causa aparente de este debate son las preocupaciones por la seguridad. Sin embargo, la verdadera naturaleza del problema solo se revela cuando examinamos por qué este discurso de seguridad surgió en este momento particular y por qué se presentó junto con los llamamientos a controles de exportación de chips contra China. La publicación de Amodei del 12 de septiembre citaba señales de riesgo empíricas, como la pérdida de control sobre agentes de IA autónomos y la partida de un investigador clave [3][15]. Sin embargo, en el mismo texto, también instó a fortalecer las restricciones a la exportación de chips de IA dirigidas a China [7][17]. En efecto, la seguridad y la geopolítica se presentaron como un paquete de políticas inseparable.

Detrás de esta combinación se encuentra la posición de mercado de Anthropic. Anthropic es un recién llegado, por detrás de OpenAI y Google DeepMind en escala comercial. Que una empresa que ha construido su identidad en torno a la seguridad lidere la carga por una «ralentización» mientras pide simultáneamente controles de exportación que excluirían a sus competidores chinos puede verse, como señaló el Global Times, como una estructura donde los intereses comerciales y el discurso de seguridad están entrelazados [17]. La caracterización de los medios estatales chinos de esto como una declaración «hostil e infundada» fue una respuesta directa dirigida a esta estructura combinada [17].

El rechazo inmediato del presidente Trump a los llamamientos a regulaciones de seguridad más estrictas puede leerse en el mismo contexto [1]. Desde la perspectiva de la Casa Blanca, existe una preocupación significativa de que el fortalecimiento de la regulación de la IA pueda resultar en una ralentización en la competencia con China [1]. En última instancia, la causa fundamental es que el lenguaje de la «seguridad» se está utilizando como una herramienta para asegurar una ventaja competitiva, tanto dentro de EE. UU. como en las relaciones entre EE. UU. y China.

2. Contexto estructural

Estructura política: El doble uso del discurso de seguridad

La razón por la que este debate no terminó como una simple disputa de seguridad entre empresas es que coincidió con un evento político: la cumbre entre Estados Unidos y China. Los dos países ya habían acordado iniciar un diálogo intergubernamental sobre IA en su cumbre de mayo en Pekín, y la reunión del 24 de septiembre en Washington estaba programada como un seguimiento [6]. Las declaraciones de Amodei en esta coyuntura crearon una dinámica en la que el discurso de seguridad se movilizó como una moneda de cambio tanto para Estados Unidos como para China antes de la cumbre.

El problema es que los dos países atribuyen diferentes objetivos políticos a la palabra «seguridad». La administración Trump ha tratado «las discusiones sobre seguridad únicamente en el marco del mantenimiento de una ventaja competitiva sobre China» y ha rechazado de plano los llamamientos de la industria a una ralentización [6]. China, al insistir en que «primero debe acordarse la propia definición de seguridad», intenta «desplazar la discusión del riesgo tecnológico a una cuestión del derecho a establecer normas globales» [6]. El énfasis del portavoz Guo Jiacun en que «el desarrollo de la IA es un asunto que concierne al bienestar común de la humanidad» [14] también puede verse como un intento de redefinir la seguridad como un problema de gobernanza universal, no como una herramienta para la ventaja de un país. En esta estructura, con la vía de cooperación de la Casa Blanca y la vía de presión del Congreso y las agencias reguladoras ya operando por separado [6], es muy probable que regulaciones individuales como los controles de exportación de semiconductores e IA continúen de forma independiente, incluso si se alcanza un acuerdo simbólico en la cumbre [6].

Estructura económica: Controles de exportación y reajuste de la cadena de suministro

El llamado de Amodei a la restricción de la exportación de chips es una extensión del sistema estadounidense de controles de exportación de semiconductores contra China que ha estado en vigor desde 2022. Es inusual que una empresa de IA estadounidense pida voluntariamente controles gubernamentales más estrictos. Normalmente, la industria se ha opuesto a las medidas que reducen el acceso al mercado, pero esta vez, los desarrolladores de modelos de frontera han sido más vocales que el gobierno al exigir regulaciones más estrictas. Esto no es ajeno al hecho de que para las empresas que ya han asegurado una ventaja en la cadena de suministro, los controles de exportación tienen el efecto de excluir a los competidores. Por otro lado, también hay voces dentro de la industria estadounidense que argumentan que se debe evitar la «regulación prematura» de los modelos de peso abierto. La lógica es que si se endurecen las regulaciones, la innovación podría trasladarse al extranjero y China podría llenar el vacío [5]. Anthropic se ha distanciado deliberadamente de este debate, pero el propio Amodei tuvo que emitir una publicación por separado aclarando que «nunca abogó por una prohibición de los modelos de peso abierto» [5]. Esto indica que los intereses con respecto a los controles de exportación y la apertura están divididos incluso dentro de la industria de la IA de Estados Unidos.

Estructura de seguridad: La securitización del discurso del sector privado

Una característica estructural prominente de este incidente es cómo una publicación de blog del director ejecutivo de una empresa privada se transformó instantáneamente en un discurso de seguridad internacional. La calificación de Al Jazeera de esto como una «guerra fría silenciosa» [7] resume el hecho de que la declaración de un actor privado, no un anuncio o tratado oficial del gobierno, se convirtió en el detonante para trazar nuevas líneas de confrontación entre naciones. Esto ilustra la naturaleza de doble uso de la industria de la IA y la estructura de poder actual donde unas pocas grandes empresas tecnológicas están directamente involucradas en la configuración del discurso de seguridad nacional. El hecho de que el uso indebido de la IA por parte de actores respaldados por el estado ya haya sido reportado empíricamente [3] es otro factor que acelera esta securitización.

3. Precedentes históricos y casos comparativos

Este incidente tiene paralelismos estructurales con los debates sobre el control de la tecnología nuclear de la era de la Guerra Fría. Entonces, también, el bloque tecnológicamente superior buscó bloquear el acceso del bloque opuesto con el pretexto de la no proliferación, mientras que la otra parte lo contrarrestó enmarcándolo como una estrategia hegemónica para sofocar el progreso tecnológico. Una diferencia clave, sin embargo, es que a diferencia de la tecnología nuclear, la IA carece de una vía de proliferación física clara, lo que dificulta el control específico de modelos y algoritmos de código abierto. En consecuencia, la eficacia de los controles de exportación es inherentemente más limitada que la del régimen de no proliferación nuclear.

Un precedente más reciente es la escalada de la situación del control de exportación de semiconductores desde 2018. Se introdujeron una serie de medidas, incluidas sanciones a Huawei y restricciones a las exportaciones de equipos de fundición avanzados, bajo la justificación de «preocupaciones de seguridad», y China las ha refutado sistemáticamente como medidas para «obstaculizar el progreso tecnológico» [1]. El lenguaje utilizado por China en el actual debate sobre el ritmo de la IA —como «alarmismo» y «manual de la Guerra Fría» [14][18]— sigue el mismo patrón que sus respuestas recurrentes durante episodios pasados de control de semiconductores. La diferencia esta vez es que el punto de inflexión fue el director ejecutivo de una empresa privada, no el gobierno, y la justificación moral de la «seguridad» se puso en primer plano.

Otro punto de comparación son las discusiones de la Cumbre sobre Seguridad de la IA que se han estado llevando a cabo desde 2023. Aunque varios países se han comprometido a cooperar en la seguridad de la IA desde la cumbre de Bletchley Park en el Reino Unido, la implementación ha tendido a subordinarse a la lógica de proteger las industrias nacionales y asegurar una ventaja competitiva. En el caso actual también, las medidas reales se «limitan a la autorregulación, como la introducción de organizaciones de evaluación de terceros», y la presión para una regulación a nivel federal en EE. UU. sigue siendo baja [3]. Esto sigue un patrón recurrente de una brecha entre los acuerdos declarativos y la implementación sustantiva, similar a los intentos pasados de formar normas tecnológicas internacionales.

4. Variables clave que configuran los acontecimientos

La primera variable es el resultado de la cumbre entre Estados Unidos y China del 24 de septiembre. Incluso si el diálogo sobre la seguridad de la IA se discute como un punto de la agenda de la cumbre, es «probable que se trate como un resultado secundario de la cumbre» [6]. Con la cuestión de Taiwán ya consolidada como una «línea roja estructural» [6], es difícil que la discusión sobre la seguridad de la IA adquiera una importancia independiente. Se considera que incluso si se emite una declaración conjunta simbólica en la cumbre, las medidas regulatorias individuales como los controles de exportación de semiconductores e IA continuarán por una vía separada [6].

La segunda variable es la división interna dentro de la industria estadounidense. La postura de la política exterior de EE. UU. podría cambiar dependiendo de cómo se concilien las demandas de una ralentización y controles de exportación más estrictos del campo de Anthropic con la oposición a la «regulación prematura» del campo de los modelos de peso abierto [5]. Mientras la administración Trump mantenga su postura desreguladora [3], es poco probable que los llamamientos a la regulación liderados por la industria se traduzcan en una política federal. Sin embargo, este equilibrio podría verse alterado si ocurren más incidentes en el mundo real que involucren a agentes de IA autónomos.

La tercera variable es la respuesta de China. Hasta ahora, China ha limitado su respuesta a refutaciones verbales a través de ruedas de prensa del Ministerio de Asuntos Exteriores y editoriales de medios estatales [14][17][18]. Sin embargo, si los controles de exportación de EE. UU. se fortalecen realmente, China podría acelerar el desarrollo de su propio ecosistema de IA o tomar medidas de represalia. Esto podría servir como catalizador para que la cadena de suministro global de IA y el sistema de estándares se solidifiquen en una estructura bifurcada entre EE. UU. y China.

La cuarta variable es si los riesgos de los agentes de IA autónomos se materializan realmente. Si el escenario del que advirtió Amodei —una «toma de internet a través de botnets en un plazo de 6 a 12 meses» [4][11]— se materializa, o si ocurre un incidente comparable, podría desencadenar un cambio de las actuales discusiones de seguridad autorreguladoras a un régimen regulatorio obligatorio. Por el contrario, si no ocurre tal incidente, este debate puede quedar registrado como un caso en el que los intereses comerciales se disfrazaron con el discurso de la seguridad y finalmente se desvanezcan.