La propuesta de Singapur para un marco de seguridad de la IA de la ONU: competencia de normas de potencias medias e implicaciones para Corea del Sur

Resumen ejecutivo

Durante su discurso en la Asamblea General de la ONU, el ministro de Relaciones Exteriores de Singapur, Balakrishnan, propuso la creación de una nueva organización internacional y una convención marco de la ONU para establecer salvaguardas y estándares en un contexto de aceleración de la competencia de IA entre Estados Unidos y China. Esto se interpreta como un posicionamiento estratégico de la ciudad-estado de Singapur para transformar su desventaja estructural en la competencia de escala en una competencia de normas. La lógica de Balakrishnan —de que la ONU es el único organismo global con una estructura de membresía universal— surge de la preocupación de que si la creación de normas se deja únicamente en manos de negociaciones bilaterales entre Estados Unidos y China, las potencias medias quedarán relegadas a meras receptoras de reglas. A menos que se resuelva la desconfianza fundamental entre las grandes potencias, es muy probable que las discusiones se mantengan en el nivel de declaración de principios, y se prevén retrasos significativos antes de que se concluya un tratado sustantivo. Corea del Sur debería buscar una participación temprana en el grupo de trabajo de redacción, junto con reformas regulatorias domésticas independientes sobre seguridad de la IA, teniendo en cuenta al mismo tiempo la limitación de que su estructura de alianza de seguridad dificulta la adopción directa de una diplomacia equidistante al estilo de Singapur.

I. Análisis del tema

La propuesta de Singapur para una Convención Marco de Seguridad de la IA de la ONU: Análisis del tema

1. Antecedentes y evolución del tema

El 26 de septiembre, el ministro de Relaciones Exteriores de Singapur, Vivian Balakrishnan, pronunció la declaración nacional de Singapur durante el Debate General de la Asamblea General de la ONU en Nueva York. En su discurso, señaló la aceleración de la competencia de IA entre Estados Unidos y China, evaluando que la etapa de pedir una pausa en el desarrollo por motivos de seguridad ya ha quedado atrás [1]. En su lugar, afirmó la necesidad de establecer una nueva organización internacional capaz de fijar salvaguardas y estándares [1]. Señaló: "Para las nuevas tecnologías, debemos escribir nuevas reglas juntos, y debemos estar preparados para crear nuevas instituciones si es necesario" [1]. El concepto de una convención marco a nivel de la ONU también se presentó dentro de estas declaraciones [1].

Esta propuesta no surgió de la nada. A lo largo de este año, Singapur ha expresado sistemáticamente la perspectiva de las potencias medias en las discusiones sobre seguridad de la IA. El primer ministro Lawrence Wong firmó una declaración conjunta junto con líderes de más de 20 países pidiendo la implementación de medidas de seguridad para la IA de frontera [7]. Antes de esto, Josephine Teo, ministra de Desarrollo Digital e Información, presentó el enfoque de Singapur sobre la IA en una plataforma de la ONU, enfatizando que la medida de la innovación no debe ser el rendimiento de los modelos, sino su impacto tangible en la vida de las personas [9]. La propuesta más reciente del ministro Balakrishnan es una extensión de esta serie de posicionamientos diplomáticos.

En la raíz de esta tendencia se encuentran las limitaciones estructurales únicas de Singapur. Como ciudad-estado con una población de 6 millones de habitantes y una superficie de 730 kilómetros cuadrados, Singapur no puede participar en la competencia de infraestructura y semiconductores a la misma escala que Estados Unidos y China [3]. La declaración del primer ministro Wong en su discurso del mitin del Día Nacional en agosto —de que Singapur "aprovecharía el poder de las nuevas tecnologías, pero a nuestra manera"— surge del reconocimiento de esta limitación [3]. La dirección de diseñar multilateralmente reglas y estándares de verificación se alinea con la estrategia de Singapur de asegurar una voz en la competencia de normas en lugar de la competencia de escala.

2. Situación actual

Channel NewsAsia informó sobre las declaraciones del ministro Balakrishnan como una "propuesta para un marco de la ONU para salvaguardas globales de la IA", señalando que enumeró las categorías de riesgos que enfrentan los gobiernos, que van desde sistemas autónomos que escapan al control hasta el uso de la IA en el desarrollo de armas de destrucción masiva [4]. Argumentó que la ONU, como la única organización internacional global con una estructura de membresía universal, debe desempeñar un papel central en la formulación de reglas comunes [4].

Los medios de comunicación de Singapur no separan esta propuesta de la competencia entre Estados Unidos y China. The Business Times informó que durante un diálogo con el ex primer ministro australiano Kevin Rudd el 25 de septiembre, el ministro Balakrishnan caracterizó la búsqueda de la IA por parte de China como un fenómeno cualitativamente diferente de la carrera del Sputnik de la Guerra Fría entre Estados Unidos y la Unión Soviética [12]. Explicó que China está abordando la IA con la determinación de no repetir su fracaso en ponerse al día durante la Revolución Industrial hace 150 años [12]. Esto demuestra que Singapur se está posicionando como un intermediario que explica la lógica de ambas partes en lugar de alinearse con la narrativa de Estados Unidos o de China.

Casi al mismo tiempo, el ministro de Defensa, Chan Chun Sing, también declaró en una entrevista con medios locales que "Singapur no evita tomar partido en medio de la intensificación de la competencia entre Estados Unidos y China, sino que toma decisiones basadas en sus propios intereses nacionales" [14]. Esto respalda la opinión de que la propuesta del marco de seguridad de la IA no es un respaldo a un bando específico, sino una extensión de la diplomacia pragmática de Singapur.

Mientras tanto, los centros de pensamiento de Washington también están analizando el contexto internacional en el que se realizó esta propuesta. El Carnegie Endowment for International Peace señaló que los marcos de respuesta a crisis para la IA de frontera están exponiendo las limitaciones de los enfoques existentes [2]. La Brookings Institution abordó el debate sobre si Estados Unidos puede desacelerar el ritmo del desarrollo de la IA sin quedarse atrás de China [10]. El Council on Foreign Relations (CFR) introdujo discusiones que exploran la posibilidad de un acuerdo de control de armas de IA entre Estados Unidos y China [5][8]. En una entrevista con Foreign Policy, Amandeep Singh Gill, enviado de tecnología del secretario general de la ONU, compartió que los riesgos de la IA y el papel de la ONU estuvieron entre los temas más discutidos durante la semana de alto nivel de la Asamblea General de la ONU [13].

3. Actores clave y posiciones

El Ministerio de Relaciones Exteriores de Singapur es el principal promotor de esta propuesta. El ministro Balakrishnan define a la ONU como una plataforma multilateral universal, argumentando la necesidad de reglas comunes y estándares de verificación dentro del marco de la ONU, en lugar de estándares establecidos por naciones individuales o un puñado de grandes potencias [1][4]. Esto se interpreta como un intento de Singapur —que no puede competir en escala con Estados Unidos o China en la carrera de semiconductores y centros de datos— de asegurar una participación de potencia media en el escenario del diseño de normas [3].

Estados Unidos aún no ha anunciado una posición oficial sobre esta propuesta. Sin embargo, las voces dentro de los círculos políticos de Washington exigen cada vez más posibles negociaciones sobre seguridad de la IA entre la administración de Trump y el presidente Xi Jinping [5]. Esto sugiere que también existen preocupaciones sobre los vacíos regulatorios dentro de Estados Unidos. Al mismo tiempo, dada su percepción de que mantener una ventaja tecnológica sobre China es una cuestión de seguridad nacional, se espera que Estados Unidos adopte una postura cautelosa respecto a la posibilidad de que las normas multilaterales limiten su superioridad tecnológica [10].

China ha elevado de forma independiente el desarrollo de la IA a un pilar central de su estrategia nacional [6]. El South China Morning Post (SCMP) informó que durante un foro celebrado en Singapur, figuras académicas y de la industria tanto de Estados Unidos como de China mencionaron la necesidad de establecer salvaguardas conjuntas para la gestión de riesgos de la IA [11]. Sin embargo, sigue siendo incierto si este consenso conducirá a un acuerdo sobre un marco de verificación concreto. El ascenso de la IA en China se describe como una determinación nacional que surge del trauma histórico de quedarse atrás en la Revolución Industrial [12], lo que presagia que China no cederá fácilmente su autonomía tecnológica soberana en el proceso de diseño de normas.

Dentro de la Secretaría de la ONU, la Oficina del Enviado para la Tecnología participa en el establecimiento de marcos para abordar los riesgos de la IA. El enviado Amandeep Singh Gill comparó la situación con "escorpiones en una botella", destacando tanto las limitaciones como las posibilidades del papel de la ONU en un contexto donde coexisten la disuasión mutua y la desconfianza [13].

4. Cuestiones clave

La primera cuestión es la eficacia de la nueva organización internacional propuesta. Aunque el ministro Balakrishnan propuso establecer una organización equipada con estándares de verificación [1][4], sigue siendo incierto hasta qué punto Estados Unidos y China aceptarán una verificación externa de sus capacidades tecnológicas centrales.

La segunda cuestión es el liderazgo en la creación de normas. Si un marco de la ONU llega realmente a la mesa de negociaciones, es muy probable que tanto Estados Unidos como China intenten imponer diseños de reglas favorables a sus respectivos intereses. La clave es si las potencias medias, incluido Singapur, pueden asegurar una voz sustantiva en este proceso.

La tercera cuestión es la coexistencia de las discusiones sobre seguridad y la lógica de la competencia. Los análisis de Brookings y del CFR comparten la preocupación de que las medidas de seguridad que desaceleran el desarrollo de la IA podrían generar una desventaja tecnológica frente a los competidores [10][5][8]. Esto sugiere la posibilidad de que una convención marco pueda, en última instancia, permanecer en un nivel declarativo en lugar de convertirse en una norma vinculante.

La cuarta cuestión es la sostenibilidad del posicionamiento de Singapur. Si bien las declaraciones del ministro de Defensa, Chan Chun Sing, sobre "decisiones basadas en intereses nacionales" [14] y la propuesta multilateral del ministro Balakrishnan son complementarias, queda por ver si este papel de intermediario no alineado puede sostenerse a largo plazo bajo una estructura donde operan simultáneamente los incentivos de Pekín y las presiones de Washington [3].

II. Análisis en profundidad

La propuesta de Singapur para una Convención Marco de Seguridad de la IA de la ONU: Análisis en profundidad

1. Análisis de la causa raíz

El principal motor de esta propuesta es el vacío regulatorio. El punto de partida es la evaluación de que las capacidades de los modelos de IA de frontera están evolucionando más rápido que los marcos de verificación de seguridad [10]. La Brookings Institution enmarca este vacío como un debate entre el riesgo existencial y el riesgo inmediato. Aunque existen contraargumentos que sugieren que las advertencias de riesgos catastróficos son exageradas, el retraso regulatorio en sí se trata como un hecho indiscutible [10].

Una causa más directa en las declaraciones del ministro Balakrishnan es la percepción del momento oportuno, específicamente, que "ya es demasiado tarde para pedir una pausa en el desarrollo por motivos de seguridad" [1]. Esto asume que los repetidos llamados a una moratoria del desarrollo desde 2023 no han logrado dar resultados. En su lugar, el camino que eligió no es la regulación, sino un organismo de verificación. La lógica de que se necesita una nueva organización internacional para establecer salvaguardas y estándares surge de la preocupación de que la confianza no se puede garantizar únicamente a través de la autorregulación nacional individual o las declaraciones corporativas voluntarias [1][4].

La causa más fundamental es el vacío normativo creado por la estructura bipolar entre Estados Unidos y China. Mientras que Estados Unidos y China se vigilan mutuamente en la carrera del desarrollo de la IA, dependen de sus respectivos marcos regulatorios nacionales para las cuestiones de seguridad. Un informe del Carnegie Endowment for International Peace resume esta situación con la pregunta: "¿Quién está poniendo barandillas a la IA?" [2]. El argumento del ministro Balakrishnan de que la ONU, como organismo de membresía universal, puede llenar este vacío también surge de este contexto [4]. Desde la perspectiva de Singapur, existe el cálculo de que si la creación de normas se deja únicamente en manos de negociaciones bilaterales entre Estados Unidos y China, las potencias medias inevitablemente quedarán relegadas a receptoras de reglas.

2. Contexto estructural

2.1 Estructura política: Las limitaciones estructurales de la ciudad-estado y el cambio hacia la competencia de normas

Detrás de la propuesta de Singapur para un marco de la ONU se encuentra la limitación fundamental de su escala nacional. Como ciudad-estado con una población de 6 millones de habitantes y una superficie de 730 kilómetros cuadrados, no puede igualar el volumen de la carrera de infraestructura de centros de datos y semiconductores entre Estados Unidos y China [3]. La sugerencia del primer ministro Lawrence Wong en su discurso del mitin del Día Nacional en agosto de "disciplina y ejecución en lugar de competencia de escala" como alternativa surge del reconocimiento de esta limitación [3]. The Business Times evaluó esta estrategia como "un intento de cambiar el juego a uno en el que Singapur pueda desempeñar un papel significativo y ganar" [3].

In este contexto, la propuesta de un marco de la ONU puede leerse como un intento de sustituir la competencia de volumen por la competencia de normas. En las discusiones sobre estándares de verificación y diseño de organizaciones internacionales, el poder de negociación y la credibilidad —más que la superficie terrestre y la población— determinan la propia voz. Esta es precisamente la razón por la que Singapur ha alzado repetidamente su voz en plataformas multilaterales. No es coincidencia que las declaraciones de la ministra Josephine Teo en la ONU, la firma del primer ministro Wong de la declaración conjunta sobre la seguridad de la IA de frontera y el discurso del ministro Balakrishnan en la Asamblea General de la ONU ocurrieran sucesivamente dentro del mismo año [7][9][1].

2.2 Estructura de seguridad: Evitar tomar partido y el principio de priorizar los intereses nacionales

El 22 de septiembre, el ministro de Defensa, Chan Chun Sing, declaró: "Singapur no evita tomar partido en medio de la intensificación de la competencia entre Estados Unidos y China, sino que toma decisiones basadas en sus propios intereses nacionales" [14]. Este principio se refleja directamente en la propuesta del marco de seguridad de la IA. Singapur no se alinea plenamente ni con la narrativa estadounidense de dominio de la IA ni con la narrativa china de ponerse al día. En su diálogo con el ex primer ministro australiano Kevin Rudd, el ministro Balakrishnan explicó la búsqueda de la IA por parte de China como una "determinación de no repetir su fracaso en ponerse al día durante la Revolución Industrial hace 150 años", al tiempo que la distinguió de la carrera del Sputnik de la Guerra Fría entre Estados Unidos y la Unión Soviética [12]. Este es un enfoque retórico que explica la lógica tanto de Estados Unidos como de China sin dejarse limitar por la mentalidad de bandos de ninguna de las partes.

Este posicionamiento de seguridad también está entrelazado con la exposición económica. Según una prueba de resistencia de la Autoridad Monetaria de Singapur, aproximadamente el 32% de las empresas que cotizan en la bolsa de Singapur se verían afectadas en un escenario de caída abrupta de la inversión relacionada con la IA [14]. Cuanto mayor sea la dependencia económica de la cadena de suministro de la IA, mayor será el incentivo para reducir la incertidumbre internacional en torno a las normas de seguridad. La propuesta de un marco de la ONU es una política que surgió en la intersección de la gestión de riesgos de seguridad y la gestión de riesgos económicos.

2.3 Estructura económica: Preocupación por adelantarse a las normas y la estrategia de centro de operaciones

Como se vio en el caso de la conferencia de IA organizada por el Banco DBS, Singapur se posiciona como un "intermediario confiable y neutral" para el crecimiento de la IA en Asia [15]. Esto se alinea con su estrategia de centro financiero. Al participar tempranamente en la creación de normas, Singapur calcula que puede asegurar el estatus de definidor de estándares en las discusiones posteriores sobre la gobernanza de la IA en la región asiática. La propuesta de un marco universal como el marco de la ONU también está estrechamente relacionada con un cálculo económico para ejercer influencia sobre el proceso de elaboración de reglas a través de la participación, en lugar de estar subordinado a los estándares de un bando específico.

3. Precedentes históricos y casos comparativos

El Tratado sobre la No Proliferación de las Armas Nucleares (TNP) y la experiencia de establecer el OIEA son casos que se invocan con frecuencia como puntos de referencia para esta propuesta. En una entrevista con el enviado de tecnología de la ONU, Amandeep Singh Gill, Foreign Policy explicó el problema de la seguridad de la IA utilizando la metáfora de la disuasión nuclear de la Guerra Fría de "escorpiones en una botella" [13]. El argumento es que la experiencia de Estados Unidos y la Unión Soviética en el establecimiento de un régimen de desarme verificable a pesar del temor a la destrucción mutua asegurada podría servir como punto de referencia para diseñar un marco de verificación de seguridad de la IA [13]. Sin embargo, a diferencia de la tecnología nuclear, la IA es desarrollada principalmente por empresas privadas y se difunde mucho más rápido, lo que dificulta significativamente la verificación.

También se debate la experiencia del control de armas durante la Guerra Fría entre Estados Unidos y la Unión Soviética. Al abordar la posibilidad de un acuerdo de control de armas de IA entre Estados Unidos y China, el Council on Foreign Relations (CFR) citó la perspectiva de un exfuncionario que manejó la política de desarme entre Estados Unidos y Rusia en el Consejo de Seguridad Nacional para resaltar las dificultades de diseñar mecanismos de verificación [5]. El propio ministro Balakrishnan distinguió la búsqueda de la IA por parte de China de la carrera del Sputnik [12]. Esto puede leerse como un intento de reconocer las similitudes de la Guerra Fría al tiempo que se enfatiza la naturaleza distinta de la competencia de IA actual, a saber, que se trata de una competencia difusa que involucra a múltiples actores en lugar de una estructura bipolar simple.

El régimen internacional del cambio climático es otro punto de comparación. La Convención Marco de las Naciones Unidas sobre el Cambio Climático (CMNUCC) asumió una participación universal, pero establecer un marco de verificación vinculante llevó décadas. Si el marco de seguridad de la IA sigue este camino, es muy probable que inicialmente se mantenga en el nivel de declaración de principios, aplazando los mecanismos de verificación e implementación para negociaciones posteriores. El hecho de que Singapur ya esté experimentando tensiones entre la expansión de sus centros de datos de IA domésticos y su política climática respalda esta comparación. El patrón en el que la expansión de la infraestructura de IA aumenta la demanda de energía y colisiona con la agenda de la diplomacia climática es un patrón estructural que también se observa en los casos de rechazo contra los centros de datos en Estados Unidos.

4. Variables clave que configurarán los acontecimientos futuros

La primera variable es la respuesta de Estados Unidos y China. Para que un marco de la ONU tenga una fuerza vinculante sustantiva, al menos tanto Estados Unidos como China deben demostrar voluntad de participar. El CFR informa que las voces que piden un acuerdo de control de armas de IA entre Estados Unidos y China están creciendo dentro de Estados Unidos [5]. Sin embargo, esta es una cuestión para los canales bilaterales entre Washington y Pekín, y no requiere necesariamente pasar por un marco multilateral como la ONU. Si Estados Unidos y China establecen un marco de verificación a través de canales bilaterales separados sin utilizar el marco de la ONU, la propuesta de Singapur corre el riesgo de quedar relegada a una fijación de agenda simbólica.

La segunda variable es el diseño de la nueva organización internacional. El ministro Balakrishnan solo mencionó que "debemos estar preparados para crear nuevas instituciones" sin presentar una estructura organizativa concreta ni un ámbito de autoridad [1]. Su eficacia variará significativamente dependiendo de si aspira a una organización con poderes de inspección al estilo del OIEA o si se mantiene en el nivel de un órgano consultivo limitado al intercambio de información y recomendaciones de estándares. Cómo justificar la creación de una organización separada cuando ya existe la Oficina del Enviado para la Tecnología de la ONU también es una pregunta clave [13].

La tercera variable es el modo de participación del sector privado. El desarrollo de la IA no está impulsado por los estados, sino por un puñado de grandes empresas tecnológicas. Aunque hubo un caso sin precedentes de directores de laboratorios líderes en IA que pidieron conjuntamente moderación en materia de seguridad, sigue siendo incierto si esto se traducirá en acuerdos intergubernamentales [8]. La declaración conjunta de líderes de más de 20 países, incluido el primer ministro Lawrence Wong, también se formuló para instar a la implementación tanto por parte de las empresas como de los estados miembros [7]. El grado en que un acuerdo intergubernamental pueda asegurar el cumplimiento voluntario de las corporaciones determinará el peso sustantivo del marco.

La cuarta variable es el alineamiento de la ASEAN y otras potencias medias. Una propuesta de Singapur por sí sola tiene limitaciones para convertirse en un tema oficial de la agenda de la Asamblea General de la ONU. El hecho de que los estados miembros de la ASEAN o las naciones europeas firmen conjuntamente esta propuesta o la conviertan en una resolución separada determinará el impulso del tema. En los datos reportados hasta ahora, las declaraciones individuales de los funcionarios del gobierno de Singapur siguen siendo centrales, y la formación de una base de apoyo multilateral aún se encuentra en sus etapas iniciales.