El Ministerio de Seguridad del Estado de China advierte públicamente sobre los riesgos de la IA y las implicaciones para la competencia en seguridad de IA entre Estados Unidos y China

Resumen ejecutivo

Las declaraciones sobre las amenazas de la IA por parte del ministro de Seguridad del Estado, Chen Yixin, se produjeron antes de la cumbre entre Estados Unidos y China del 24 de septiembre. Externamente, China refuta los llamamientos liderados por Estados Unidos para ralentizar el desarrollo de la IA, enmarcándolos como una táctica en una competencia hegemónica. Al mismo tiempo, el Ministerio de Seguridad del Estado ha identificado específicamente los modelos de OpenAI y Anthropic como amenazas para la seguridad política, ideológica y cibernética. Esto revela una estructura dual en la que la retórica externa y las percepciones de amenaza internas avanzan por vías separadas. En lugar de alinearse completamente con la competencia discursiva entre Estados Unidos y China, Corea del Sur debería priorizar la construcción de sus propias capacidades de defensa y canales de intercambio de información contra la emergente amenaza de seguridad del uso indebido de la IA respaldado por el Estado.

I. Análisis de la situación actual

El Ministerio de Seguridad del Estado de China advierte públicamente sobre los riesgos de la IA: un análisis de la situación

1. Antecedentes y desarrollos

Las declaraciones del ministro de Seguridad del Estado, Chen Yixin, se produjeron antes de la cumbre entre Estados Unidos y China [1]. La seguridad de la IA se ha convertido en un punto clave de la agenda para la cumbre de Washington programada para el 24 de septiembre [1]. El Ministerio de Seguridad del Estado es la principal agencia de inteligencia de China, desempeñando la doble función de servicio de inteligencia exterior y organismo de vigilancia interna contra la disidencia. La mención pública de las amenazas de la IA por parte del jefe de esta agencia se considera la expresión más específica de Pekín sobre sus preocupaciones de seguridad hasta la fecha [4].

El momento de las declaraciones no fue una coincidencia. El 12 de septiembre, el director ejecutivo de Anthropic, Dario Amodei, publicó un artículo instando a una ralentización en el desarrollo de la IA, un llamamiento del que se hicieron eco OpenAI y varios políticos estadounidenses [14]. Amodei advirtió que enjambres de agentes de IA autónomos podrían apoderarse de internet a través de redes de bots en un plazo de 6 a 12 meses [9][14]. Subyacente a esta declaración estaba la premisa de que las empresas estadounidenses deben mantener su ventaja competitiva sobre China [17].

El Gobierno chino refutó inmediatamente estos argumentos. El portavoz del Ministerio de Asuntos Exteriores, Guo Zhakun, declaró: «El alarmismo, la confrontación y la competencia maliciosa solo obstaculizarán el progreso en la gobernanza global de la IA y no beneficiarán los intereses de nadie» [16]. El periódico estatal Global Times también criticó el encuadre estadounidense de la IA como una competencia y su narrativa de la «amenaza china» por dividir la gobernanza global [17]. Según un informe de The Hankyoreh, el llamamiento de Estados Unidos a una ralentización se considera en China como un intento de «quitar la escalera» elevando las barreras de entrada, mientras que dentro de Estados Unidos, despierta temores de que China los alcance, lo que lleva a reacciones encontradas en ambos países [7].

2. Situación actual

Aparte de sus refutaciones externas, las declaraciones de Chen Yixin son de naturaleza diferente, reflejando una percepción de amenaza interna. Señaló específicamente las amenazas que la IA podría plantear para la seguridad política, institucional e ideológica [10]. Advirtiendo que la IA avanzada podría descubrir vulnerabilidades cibernéticas y llevar a cabo operaciones de piratería a gran escala, mencionó específicamente los modelos Claude-Mythos de Anthropic y ChatGPT-5.5-Cyber de OpenAI [10]. Medios de comunicación extranjeros, incluida Reuters, han evaluado esto como la declaración más detallada de Pekín sobre los riesgos de seguridad de la IA hasta la fecha [4][8].

DW analizó que la advertencia refleja las ansiedades de las agencias de inteligencia chinas en tres ejes: estabilidad política, ciberseguridad y control de la información [12]. Rebecca Arcesati, del Instituto Mercator de Estudios sobre China (MERICS), señaló que a Pekín no solo le preocupan los riesgos cibernéticos, sino también su propia dependencia de los modelos extranjeros [12]. Esto coincide con las evaluaciones de que, a pesar de haber construido su propio ecosistema de IA, China todavía está unos meses por detrás de las capacidades de los modelos de frontera estadounidenses de empresas como OpenAI y Anthropic [8].

The Guardian informó sobre la coincidencia temporal de la advertencia del jefe de inteligencia de China y la caída de los precios de las acciones relacionadas con la IA en Estados Unidos tras los llamamientos a una ralentización por parte de los ejecutivos de las grandes tecnológicas [18]. Esto indica que el discurso sobre el riesgo de la IA avanza simultáneamente por dos vías separadas: un debate interno dentro de la industria tecnológica estadounidense y una lógica de seguridad nacional dentro de China.

3. Actores y posiciones clave

Ministerio de Seguridad del Estado de ChinaEl MSS adopta una postura dual: externamente, critica la narrativa de «amenaza» de Estados Unidos, mientras que internamente, reconoce la necesidad de sus propias medidas de gestión de la seguridad. Las declaraciones de Chen Yixin se derivan de la misión principal de la agencia de inteligencia de mantener la estabilidad del gobierno del Partido Comunista [4]. La frase «seguridad política e ideológica» refleja un concepto de riesgo exclusivamente chino centrado en la estabilidad del régimen, que difiere de los debates occidentales sobre la seguridad de la IA.

Ministerio de Asuntos Exteriores de ChinaEl Ministerio de Asuntos Exteriores emite un mensaje que difiere en tono del del MSS. El portavoz Guo Zhakun refutó directamente la narrativa de amenaza de la IA liderada por Estados Unidos, enmarcándola como un alarmismo impulsado por intereses comerciales [16]. La coexistencia de la advertencia interna del MSS y la refutación externa del Ministerio de Asuntos Exteriores sugiere que China está operando en una doble vía: criticando la politización del debate sobre la seguridad en su compromiso con Estados Unidos, mientras que internamente reconoce sus propias vulnerabilidades sustantivas.

Anthropic y OpenAIEstas empresas han adoptado la postura de pedir proactivamente una regulación al revelar públicamente los riesgos asociados con sus propios modelos. En un informe de 154 páginas publicado el 10 de septiembre, Anthropic ya había revelado pruebas de un actor con sede en China que intentaba utilizar su modelo Claude para neutralizar la red de defensa aérea de Taiwán y para el ciberespionaje [6]. El hecho de que Claude-Mythos fuera nuevamente señalado en las declaraciones de Chen Yixin ilustra una dinámica de referencia mutua, donde las revelaciones de riesgos por parte de las empresas de IA de Estados Unidos y las percepciones de amenaza de las agencias de inteligencia chinas se informan mutuamente.

La Administración TrumpLa administración Trump mantiene su posición de abordar los debates sobre seguridad únicamente en el marco del mantenimiento de una ventaja competitiva sobre China, rechazando los llamamientos de la industria a una ralentización [3][9]. Esto crea un contexto estructural que dificulta que la advertencia interna del MSS se convierta en una agenda sustantiva de cooperación en la cumbre entre Estados Unidos y China.

4. Cuestiones clave

La primera cuestión clave es la brecha entre las percepciones internas de China y sus mensajes externos. Mientras que la advertencia del MSS parece provenir de un reconocimiento de vulnerabilidades sustantivas, el Ministerio de Asuntos Exteriores y los medios estatales enmarcan los mismos riesgos como una táctica política de Estados Unidos [16][17]. Esta brecha es una variable clave para calibrar la posición que China adoptará en futuros diálogos sobre seguridad de la IA entre Estados Unidos y China.

La segunda cuestión es la dependencia de China de los modelos extranjeros. El hecho de que China exprese específicamente su preocupación por las capacidades de piratería de los modelos de OpenAI y Anthropic, incluso mientras cultiva su propia industria de IA, indica que todavía utiliza los modelos estadounidenses como punto de referencia para las capacidades de respuesta a amenazas del mundo real. Esto es independiente de las evaluaciones de que la brecha de rendimiento se ha reducido a solo unos pocos meses [8][12].

La tercera cuestión es cómo se está utilizando políticamente el discurso sobre la seguridad. Un análisis anterior del EAI señaló que el discurso de seguridad originado por Amodei, combinado con los llamamientos a controles de exportación de chips contra China, se ha transformado en un nuevo frente en la competencia tecnológica entre Estados Unidos y China. La evaluación de que «el lenguaje de la seguridad está siendo consumido por ambos países no como una agenda para la cooperación sustantiva, sino como una moneda de cambio y un medio para asegurar una ventaja competitiva» [9] sugiere que las declaraciones de Chen Yixin también deben interpretarse dentro de este marco.

II. Análisis en profundidad

El Ministerio de Seguridad del Estado de China advierte públicamente sobre los riesgos de la IA: un análisis en profundidad

1. Análisis de las causas fundamentales

La causa fundamental de las declaraciones de Chen Yixin reside en una doble ansiedad exclusiva del sistema del Partido Comunista Chino. El Ministerio de Seguridad del Estado es tanto una agencia de contrainteligencia exterior como un aparato de control ideológico interno. Que esta agencia haya identificado la IA como una amenaza implica una mayor preocupación por la pérdida de control que por la tecnología en sí.

Chen declaró explícitamente que la IA podría amenazar la seguridad política, institucional e ideológica [10]. Esta frase apunta directamente a la legitimidad gobernante del Partido Comunista Chino y su sistema de control de la información. El medio de comunicación rumano Digi24 evaluó esto como la primera vez que el jefe de inteligencia de China define la IA como una amenaza directa al poder del Partido Comunista [4]. El Consejo de Relaciones Exteriores (CFR) también analiza las declaraciones como la articulación más específica de Pekín sobre los riesgos de seguridad de la IA al más alto nivel [8].

También hay causas a nivel tecnológico. Chen nombró específicamente a Claude-Mythos de Anthropic y ChatGPT-5.5-Cyber de OpenAI [10]. No se trata de una evaluación de amenaza abstracta, sino de una advertencia que especifica nombres de modelos reales. En una entrevista con DW, la investigadora de MERICS Rebecca Arcesati señaló que las preocupaciones de Pekín se extienden más allá de la posibilidad de ciberataques a su dependencia estructural de los modelos extranjeros [12]. Esta ansiedad se ve reforzada por las evaluaciones de que China, a pesar de haber construido su propio ecosistema de IA, sigue estando solo unos meses por detrás de los modelos estadounidenses en los principales puntos de referencia [8].

2. Contexto estructural

Estructura política: El sistema de control de la información de China es un pilar clave de la legitimidad del régimen. La IA generativa puede erosionar este sistema de dos maneras: primero, a través de la afluencia de información que elude la censura a través de modelos extranjeros, y segundo, a través de la generación de discursos impredecibles por parte de los usuarios domésticos de la IA. La mención explícita del MSS de la «seguridad política, institucional e ideológica» puede interpretarse como una medida dirigida a ambas vías [10].

Estructura de seguridad: Desde una perspectiva de ciberseguridad, la naturaleza de doble uso de la IA es el núcleo del problema. El informe de amenazas de 154 páginas de Anthropic, publicado el 10 de septiembre, detalla pruebas de actores respaldados por China, Rusia e Irán que intentan utilizar su modelo Claude para neutralizar redes de defensa aérea y para el ciberespionaje [6]. El informe identificó la causa fundamental como una «estructura asimétrica donde la naturaleza de doble uso de los modelos de IA de propósito general neutraliza los métodos existentes de control de la proliferación de armas, reduciendo el costo del ataque mientras aumenta el costo de la defensa» [6]. La advertencia de Chen Yixin refleja un reconocimiento de que esta estructura asimétrica también podría volverse en contra de China. Un análisis separado del CFR evalúa que Estados Unidos también es muy vulnerable a las amenazas cibernéticas de China, lo que indica que el riesgo cibernético es una estructura recíproca, no unidireccional [13].

Estructura económica: El discurso de «ralentización» de las empresas de IA estadounidenses está entrelazado con los llamamientos a fortalecer los controles de exportación de semiconductores contra China [9]. El Global Times criticó esta combinación, argumentando que la mentalidad competitiva de Estados Unidos sobre la IA y su narrativa de la «amenaza china» están dividiendo la gobernanza global [17]. Así, en una estructura donde el discurso de seguridad se está reutilizando como una herramienta para los controles de seguridad económica, China está siguiendo un enfoque de doble vía: rechazando externamente este marco mientras realiza internamente sus propias evaluaciones de amenazas por separado.

3. Precedentes históricos y comparación con casos similares

Este caso es estructuralmente similar a cómo los regímenes cerrados respondieron a la difusión de las tecnologías de la información y la comunicación durante la Guerra Fría. Con la aparición sucesiva de la radiodifusión por satélite, internet y las redes sociales, China ha seguido consistentemente una política dual de adoptar nuevas tecnologías mientras fortalece simultáneamente los controles sobre ellas. La IA es la última en este linaje, pero la naturaleza de la amenaza que plantea es diferente; a diferencia de las tecnologías pasadas, automatiza no solo la distribución de información, sino también las capacidades de ciberataque.

Un punto de comparación directo es el informe de Anthropic sobre el uso indebido por parte de actores respaldados por el Estado. Ese informe reveló un intento por parte de un actor con sede en China de utilizar Claude para neutralizar la red de defensa aérea de Taiwán [6]. Aunque los roles de atacante y objetivo están invertidos, la advertencia de Chen Yixin revela un reconocimiento simétrico de que el «potencial de armamentización de la IA» demostrado en el informe también podría dirigirse contra China. El caso del acceso no autorizado de Alibaba a Claude es otro precedente que ilustra la inseparabilidad de las cuestiones de seguridad y la competencia por la hegemonía tecnológica [6].

Otro eje de comparación es la competencia discursiva entre Estados Unidos y China que se desarrolló tras el llamamiento de Amodei del 12 de septiembre a una ralentización. La parte estadounidense buscó aprovechar el argumento de la ralentización como un medio para mantener su ventaja competitiva sobre China, y el presidente Trump rechazó los llamamientos a una regulación interna más estricta por estos motivos [9]. El Ministerio de Asuntos Exteriores de China contraatacó de inmediato, calificándolo de «alarmismo, confrontación y competencia maliciosa» [16]. La peculiaridad de las declaraciones de Chen Yixin en este contexto es que reveló públicamente una percepción interna completamente diferente de la refutación externa de China al mismo tiempo. Esto demuestra un patrón en el que el discurso de seguridad se utiliza de manera bifurcada: externamente como moneda de cambio e internamente como base sustantiva para la política [9].

4. Variables clave que configuran los desarrollos futuros

Variable 1: Resultado del diálogo sobre seguridad de la IA en la cumbre entre Estados Unidos y China del 24 de septiembre. Es poco probable que el diálogo sobre seguridad que se discutirá en la cumbre conduzca a un acuerdo sustantivo sobre normas, ya que ambos países atribuyen diferentes objetivos políticos al término «seguridad» [3]. El presidente Trump aborda los debates sobre seguridad únicamente en el marco del mantenimiento de una ventaja competitiva sobre China, mientras que China ha establecido condiciones previas como compartir la autoridad para definir la seguridad y aplicar los mismos estándares a las empresas estadounidenses [3]. Un indicador clave de los desarrollos futuros será si la advertencia de Chen dirigida al ámbito nacional se refleja de alguna forma en esta vía de negociación, o si permanece completamente separada.

Variable 2: El enfoque de China para gestionar su dependencia de los modelos extranjeros. Si la preocupación por la dependencia de los modelos extranjeros, como señaló Arcesati [12], se traduce en una política real, podría manifestarse como restricciones al acceso a los modelos de OpenAI y Anthropic dentro de China o un reemplazo acelerado con modelos nacionales. Esta cuestión está directamente vinculada a la autosuficiencia del ecosistema de IA de China y también afectaría la práctica de empresas nacionales como Alibaba que hacen un uso no autorizado de modelos extranjeros [6].

Variable 3: Si se revelan casos adicionales de uso indebido de la IA respaldado por el Estado. La detección y divulgación de usos indebidos por parte de Anthropic se dejan enteramente a discreción de la empresa, ya que no existen canales oficiales para la intervención de gobiernos u organizaciones internacionales [6]. Si se publican informes similares en el futuro, la ventaja discursiva entre los dos países podría cambiar dependiendo del enfoque del informe; por ejemplo, si detalla ataques con base en China contra Estados Unidos o riesgos para China planteados por los modelos estadounidenses.

Variable 4: Si persiste la brecha entre el discurso y la implementación. Es probable que el discurso sobre seguridad se implemente a diferentes ritmos en los sectores relacionados con la seguridad frente a los comerciales [9]. De manera similar al caso de Estados Unidos, donde la vía de cooperación de la Casa Blanca y la vía de presión del Congreso y las agencias reguladoras ya operan por separado [3], es muy probable que China también siga su postura crítica externa y sus políticas internas de gestión de riesgos en vías paralelas. El tiempo que persista esta brecha determinará el momento de cualquier cambio de política sustantivo.