Intensificación de los debates sobre la regulación de la superinteligencia y la gobernanza internacional: el caso del Reino Unido y la estrategia de Corea del Sur

Resumen ejecutivo

A pesar de la presión bipartidista de una mayoría en el Parlamento del Reino Unido, la Oficina del Gabinete rechazó la introducción de un «interruptor de emergencia». No se trató de un retroceso político, sino de un juicio práctico de que es inviable controlar físicamente modelos de IA comerciales descentralizados. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos ha definido la IA como una amenaza existencial y ha instado al desarrollo de normas internacionales, pero la limitación estructural de la competencia tecnológica entre Estados Unidos y China continúa reprimiendo el ritmo de la regulación. En los próximos 12-18 meses, el escenario más probable es un vacío regulatorio prolongado, y la convergencia temprana de normas internacionales debe considerarse un resultado de baja probabilidad. Corea del Sur necesita una estrategia dual: priorizar la reforma de sus instituciones nacionales y, al mismo tiempo, preparar un punto de apoyo para la participación en discusiones multilaterales, incluso en el improbable caso de una convergencia regulatoria temprana.

I. Análisis de la situación

Intensificación de los debates sobre la regulación de la superinteligencia y la gobernanza internacional: un análisis de la situación

1. Antecedentes y desarrollos

El detonante de esta cuestión fue el Parlamento del Reino Unido en septiembre de 2026. Más de 70 miembros de la Cámara de los Comunes y la Cámara de los Lores enviaron una carta a Andy Burnham, Secretario de Estado de Cultura, Medios de Comunicación y Deporte, instándole a apoyar la prohibición del desarrollo de la superinteligencia artificial (SIA) [1]. La lista de firmantes es notable. Incluye a 15 exministros del gabinete, al exsecretario del Gabinete Sir Robin Butler y a parlamentarios de alto rango de todo el espectro político, incluido John McDonnell del Partido Laborista [1]. Esto puede interpretarse no como una cuestión planteada por una facción específica, sino como una preocupación bipartidista en todo Westminster.

El desencadenante inmediato fue una advertencia de un experto de la industria de la IA. Una publicación de un líder de equipo en Anthropic, en la que afirmaba que «cree sinceramente que la IA podría matar a todo el mundo», impulsó a los parlamentarios del Reino Unido a la acción [5]. Basándose en esto, el diputado laborista Darren Jones envió una carta abierta a la ONU y a la OCDE, pidiendo una intervención en el «desarrollo inseguro de la superinteligencia» [5]. La revista Wired describió este período como «el verano del caos de la IA», explicando el contexto detrás de la oleada de legislación reactiva de los políticos británicos durante el verano [5]. El diputado laborista Alex Sobel también presentó un proyecto de ley relacionado en la Cámara de los Comunes durante el mismo período [5].

Esta tendencia no es exclusiva del Reino Unido. En Corea del Sur, la serie de Documentos de Trabajo del EAI ya ha señalado que «el rápido desarrollo de la inteligencia artificial está desencadenando cambios revolucionarios en todos los ámbitos, incluidos el militar, la seguridad, la política, la diplomacia, la economía y la sociedad» [7]. El factor estructural de la competencia tecnológica entre Estados Unidos y China, que reprime el ritmo de la regulación de la seguridad, también ha sido señalado en editoriales nacionales. El periódico Hankyoreh señaló que «a pesar de un coro de preocupaciones similares por parte de la industria y los expertos, no hay ningún movimiento regulatorio para frenar el desarrollo porque Estados Unidos y China no están dispuestos a ceder en la carrera por el desarrollo de la IA para la hegemonía futura» [8]. El llamamiento del Parlamento del Reino Unido a la prohibición de la superinteligencia puede verse como un intento político de superar este estancamiento estructural.

2. Situación actual

La respuesta del Gobierno del Reino Unido fue un rechazo. La Oficina del Gabinete no aceptó la exigencia de introducir un «interruptor de emergencia» legal para apagar por la fuerza una IA peligrosa en caso de emergencia. La BBC informó de que la Oficina del Gabinete declaró: «El Reino Unido no puede simplemente apagar la IA» [13]. El Daily Sabah informó del mismo hecho, especificando que la Oficina del Gabinete es el departamento que supervisa la seguridad de la IA [11]. En otras palabras, el mismo departamento encargado de la política de seguridad ha trazado una línea en contra de una regulación estricta, alegando su viabilidad técnica y administrativa. Esto crea un choque directo entre las demandas políticas de una mayoría parlamentaria y el juicio práctico del poder ejecutivo.

Durante el mismo período, también se emitieron advertencias a nivel de la ONU. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió en un discurso ante el Consejo de Derechos Humanos que la IA podría suponer una «amenaza existencial para la humanidad» [15][16][17]. Preguntó: «La necesidad de una gobernanza de la IA es ampliamente reconocida, pero ¿dónde está la acción?», y afirmó que los retrasos solo benefician a las grandes empresas tecnológicas y a sus propietarios [15]. Antes del inicio de su segundo mandato, Türk exigió «garantías férreas» para asegurar la seguridad de la IA [16][17]. Esta declaración, coincidiendo con el debate en el Parlamento del Reino Unido sobre la prohibición de la superinteligencia, creó una situación en la que surgieron simultáneamente intentos de regulación nacional y llamamientos al establecimiento de normas a nivel de la ONU.

La analogía del TNP presentada en el editorial del Hankyoreh funciona como un punto de referencia simbólico en este contexto [8]. La lógica es aplicar el precedente del Tratado de No Proliferación, que frenó la propagación de armas nucleares mediante un marco que incluía a las grandes potencias, al establecimiento de normas para la IA. Sin embargo, actualmente no existe una vía institucional para que esta analogía conduzca a un tratado real. El hecho de que expertos del SIPRI participaran en la primera consulta informal de la ONU sobre la IA militar en Ginebra en junio [6] demuestra que las discusiones multilaterales se encuentran en sus etapas iniciales. Al mismo tiempo, esto también significa que es una fase exploratoria temprana, todavía lejos de la formación de normas vinculantes.

3. Actores y posturas clave

El grupo bipartidista en el Parlamento del Reino UnidoEste grupo es el actor principal que presiona al poder ejecutivo. La carta, firmada por exministros y parlamentarios de alto rango tanto del gobierno como de la oposición, tiene un peso político significativo [1]. Sin embargo, su demanda de que el Reino Unido lidere un movimiento internacional no es un objetivo alcanzable solo por el Reino Unido. Teniendo en cuenta el tamaño de la industria de la IA del Reino Unido y su poder de negociación internacional, se trata más bien de un llamamiento a un liderazgo simbólico.

El Gobierno del Reino Unido (Oficina del Gabinete)La postura del gobierno considera tanto la eficacia regulatoria como la competitividad industrial. Su rechazo al interruptor de emergencia con la lógica de que la IA «no puede simplemente apagarse» [13] puede interpretarse como el resultado de una combinación de factores: el juicio práctico de que es difícil controlar de forma centralizada sistemas de IA técnicamente descentralizados y replicados, y consideraciones de política industrial destinadas a no socavar la competitividad internacional de la propia industria de IA del Reino Unido.

La Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos (ACNUDH)La ACNUDH desempeña el papel de proporcionar la justificación moral para la formación de normas. Las declaraciones de Türk se acercan más al ejercicio de presión política que a una medida vinculante [15][16][17]. La discusión sobre la IA militar, coorganizada por el Instituto de las Naciones Unidas de Investigación sobre el Desarme (UNIDIR), la Oficina de Asuntos de Desarme de las Naciones Unidas (UNODA) y el SIPRI [6], muestra que los marcos de derechos humanos y de seguridad militar avanzan en paralelo dentro de la ONU.

Expertos de empresas de IA de frontera como AnthropicParadójicamente, estos expertos son los mayores catalizadores del debate regulatorio. Sus advertencias públicas sobre los peligros de su propia tecnología [5] están, de hecho, estimulando los intentos legislativos de los políticos. Esto también puede leerse como una estrategia de las empresas para asegurarse una voz en el proceso de diseño regulatorio liderando preventivamente el discurso sobre la seguridad.

Estados Unidos y ChinaAunque no son visibles en la superficie de este debate, forman el telón de fondo estructural. Como señaló el Hankyoreh, la competencia hegemónica entre los dos países es la fuente fundamental de la presión para la desregulación [8]. Un informe de la Brookings Institution evalúa que la brecha entre Estados Unidos y China se ha ampliado en realidad a través de una serie de cumbres sobre IA, incluso en el G7 y la ONU [12]. En tal estructura, es probable que el establecimiento de normas internacionales exigido por el Reino Unido o la ONU tenga solo un efecto limitado sin la participación sustantiva tanto de Estados Unidos como de China.

4. Cuestiones clave

La primera cuestión es la sustancia del riesgo. No hay consenso sobre si la cifra del 10 % de probabilidad de extinción humana [1] es una estimación científica verificada o un recurso retórico discursivo. Esta incertidumbre es la razón fundamental de la división entre la respuesta estricta de los políticos y la postura cautelosa del poder ejecutivo.

La segunda cuestión es la viabilidad de las herramientas regulatorias. El Gobierno del Reino Unido ha señalado directamente la brecha entre la creación de un punto de control claro como un interruptor de emergencia y las características técnicas de los sistemas de IA descentralizados [13]. Este problema no se limita al Reino Unido; es una limitación estructural que se aplicará por igual a todos los intentos de regulación a nivel nacional.

La tercera cuestión es el camino hacia el establecimiento de normas internacionales. La analogía del TNP [8] presupone la inclusión de las grandes potencias. Sin embargo, en la actual dinámica competitiva entre Estados Unidos y China [8][12], el incentivo para que ambos países ralenticen voluntariamente su ritmo de desarrollo es débil. La presión moral de la ACNUDH [15][16][17] y las discusiones sobre la IA militar por parte de organismos de expertos como el SIPRI [6] son semillas para la formación de normas, pero aún no se vislumbra una vía política hacia un tratado vinculante.

La cuarta cuestión es la política del discurso. Es difícil distinguir si las advertencias de los expertos de las empresas son evaluaciones de riesgo genuinas o un posicionamiento estratégico para asegurarse una voz en el proceso de diseño regulatorio. Este es un punto crucial que las potencias medias, incluida Corea del Sur, deben abordar al participar en las discusiones internacionales. No discernir la naturaleza política del discurso sobre el riesgo podría llevar a ceder la iniciativa en el diseño regulatorio a las empresas de frontera y a las grandes potencias.

II. Análisis en profundidad

Intensificación de los debates sobre la regulación de la superinteligencia y la gobernanza internacional: un análisis en profundidad

1. Análisis de las causas fundamentales

La causa fundamental de esta situación es el desfase temporal entre la evaluación del riesgo tecnológico y la respuesta política. La advertencia pública de un experto de Anthropic no desencadenó un debate sobre la realidad del riesgo, sino sobre la velocidad de la reacción política a la narrativa del riesgo [5]. La revista Wired transmite directamente la lógica del diputado Darren Jones de que el gobierno debe intervenir «ya sea una hipérbole de marketing o un presagio genuino de extinción» [5]. En efecto, se ha creado una estructura que exige una acción política antes incluso de que se pueda confirmar la veracidad del riesgo. Este es un patrón clásico en el que evitar la responsabilidad política tiene prioridad sobre la verificación del riesgo.

Las divisiones internas dentro de las empresas son otra causa fundamental. La dimisión del investigador de Anthropic Jacob Coxson y la declaración de Evan Hubinger sobre una probabilidad de extinción del 10 % revelan una falta de consenso sobre la seguridad incluso dentro de un desarrollador de IA de frontera. El hecho de que una empresa que ha defendido la seguridad como una máxima prioridad haya expuesto sus propias alarmas internas al público demuestra que no existe un estándar de riesgo objetivo que los reguladores puedan tomar como referencia en primer lugar.

A esto se suman los incentivos estructurales de la industria. El hecho de que la competencia hegemónica en IA entre Estados Unidos y China sea una condición fundamental que limita el ritmo de la regulación de la seguridad ya ha sido señalado en editoriales nacionales. La evaluación es que «no hay ningún movimiento regulatorio para frenar el desarrollo porque Estados Unidos y China no están dispuestos a ceder en la carrera por el desarrollo de la IA para la hegemonía futura» [8]. El llamamiento del Parlamento del Reino Unido a la prohibición de la superinteligencia fue un intento unilateral de ir en contra de esta dinámica competitiva internacional y, por lo tanto, estaba destinado a enfrentarse a un debate sobre su eficacia desde el principio.

2. Contexto estructural

Estructura política: la división entre el poder legislativo y el ejecutivo

La coalición bipartidista dentro del Parlamento del Reino Unido es políticamente inusual. La carta, firmada por 15 exministros, el exsecretario del Gabinete Sir Robin Butler y figuras de alto rango de la izquierda laborista como John McDonnell, así como de los partidos Conservador, Liberal Demócrata y Nacional Escocés, representa una presión que trasciende las líneas partidistas [1]. Sin embargo, la Oficina del Gabinete, que es la responsable real de la política de seguridad de la IA, no la aceptó. La BBC informa de que la Oficina del Gabinete declaró: «El Reino Unido no puede simplemente apagar la IA» [13]. Esto refleja una estructura en la que las acciones políticas simbólicas del poder legislativo chocan con las realidades técnicas y ejecutivas evaluadas por la administración. Dado que el concepto mismo de un interruptor de emergencia se propuso sin tener en cuenta la imposibilidad física de controlar modelos de IA comerciales descentralizados, el rechazo del gobierno es menos un retroceso político y más un reconocimiento de las limitaciones prácticas.

Esta división también representa un dilema universal al que se enfrenta la regulación de la IA. La Brookings Institution señala que la propia estructura que obliga a las potencias medias a elegir entre Estados Unidos y China es en sí misma un riesgo económico y geopolítico [9]. El Reino Unido se encuentra en la necesidad de encontrar un equilibrio entre el intento de liderar las normas y la protección de su propia competitividad industrial en medio de las dos grandes potencias. El rechazo del interruptor de emergencia puede interpretarse como una decisión que inclina esta balanza hacia la industria.

Estructura de seguridad: vínculos con el ámbito militar

Las discusiones a nivel de la ONU no se limitan al ámbito de los derechos humanos. Expertos del Instituto Internacional de Estocolmo para la Investigación de la Paz (SIPRI) participaron en la primera consulta informal de la ONU sobre la IA militar en Ginebra en junio [6]. El hecho de que esta consulta fuera coorganizada por el Instituto de las Naciones Unidas de Investigación sobre el Desarme (UNIDIR), la Oficina de Asuntos de Desarme de las Naciones Unidas (UNODA) y la Oficina del Alto Comisionado para los Derechos Humanos (ACNUDH) muestra que la reciente advertencia del Alto Comisionado Türk no se limita a su discurso en el Consejo de Derechos Humanos, sino que está vinculada a las vías de desarme y seguridad [6]. En otras palabras, el debate sobre el riesgo de la superinteligencia se está abordando no solo como una cuestión de seguridad de los chatbots civiles, sino en el mismo contexto que el vacío regulatorio para aplicaciones militares de la IA como los sistemas de armas autónomas letales (LAWS). La serie de Documentos de Trabajo del EAI también ha abordado por separado las «Dinámicas y desafíos de la competencia por la gobernanza sobre los sistemas de armas autónomas letales», lo que sugiere que las discusiones normativas en las vías civil y militar provienen efectivamente de la misma raíz [7].

Estructura económica: los beneficiarios del retraso regulatorio

El Alto Comisionado Türk señaló directamente que «el retraso solo beneficia a las gigantescas empresas tecnológicas, a sus propietarios y a sus facilitadores» [15]. Esta declaración reformula el debate sobre la regulación de la seguridad de la IA no como una simple evaluación de riesgos técnicos, sino como una cuestión de distribución de beneficios. Existe un incentivo estructural por el cual, cuanto más persiste el vacío regulatorio, más se afianza el dominio del mercado de las empresas líderes. Esto explica por qué las empresas de frontera prefieren la autorregulación y son pasivas a la hora de introducir normas internacionales jurídicamente vinculantes. Una encuesta del Council on Foreign Relations (CFR) a 350 expertos también encontró un consenso en que «nadie está preparado para controlar las capacidades de IA venideras» [2]. Esto significa que hay acuerdo sobre la falta de preparación, pero no sobre quién debe llenar el vacío y cómo.

3. Comparación con precedentes históricos y casos similares

El eje de comparación presentado por el editorial del Hankyoreh es el Tratado de No Proliferación Nuclear (TNP). El editorial argumenta: «No hay más remedio que introducir normas internacionales que abarquen a todas las grandes potencias, como el TNP que evitó la crisis de la proliferación nuclear sin control» [8]. Sin embargo, esta comparación tiene una asimetría fundamental. Mientras que el desarrollo de armas nucleares estaba restringido a los Estados y la adquisición de materiales en sí misma era una alta barrera de entrada, la IA de frontera es desarrollada por empresas privadas y consta de elementos relativamente accesibles como recursos computacionales y datos. Las inspecciones físicas para determinar «quién posee qué», que son una premisa de un régimen de verificación al estilo del TNP, son técnicamente difíciles de aplicar a la IA. Esto se conecta con la lógica del Gobierno del Reino Unido para rechazar el interruptor de emergencia. Las armas nucleares pueden ser selladas y desmanteladas físicamente, pero los modelos de IA que están descentralizados y distribuidos incluso como código abierto no pueden apagarse con un solo interruptor.

Otro eje de comparación es el régimen internacional sobre el cambio climático. La adopción en el Acuerdo de París de compromisos voluntarios (Contribuciones Determinadas a Nivel Nacional, o NDC) en lugar de obligaciones vinculantes de reducción fue el resultado de la resistencia de los Estados soberanos a normas vinculantes que perjudicarían su competitividad industrial. Se puede detectar un patrón similar en el debate sobre la gobernanza de la IA. El rechazo del Reino Unido al interruptor de emergencia y la evasión de una carrera regulatoria por parte de Estados Unidos y China son ambas opciones que priorizan los intereses industriales y de seguridad nacionales sobre las normas internacionales. Sin embargo, a diferencia del cambio climático, ni siquiera existe un consenso científico sobre el momento y la escala de los riesgos de la IA. Por lo tanto, la situación actual debe considerarse como una etapa temprana en la que aún no se ha formado ni siquiera un sistema de compromiso mínimo al nivel del Acuerdo de París.

El patrón de discusiones consecutivas de alto nivel del G7 y la ONU, tal como lo resume la Brookings Institution, muestra características similares a la fase inicial de las negociaciones de control de armas de la Guerra Fría [12]. La dinámica de Estados Unidos y China reuniendo a sus respectivos bloques para participar en una competencia por las normas podría replicar potencialmente el patrón de las conversaciones de control de armas entre EE. UU. y la Unión Soviética previas a la distensión, que estuvieron estancadas durante un largo período en medio de la desconfianza mutua. Sin embargo, mientras que el control de armas de la Guerra Fría se centraba en negociaciones bilaterales, el debate sobre las normas de la IA involucra al Parlamento del Reino Unido, al Alto Comisionado de las Naciones Unidas para los Derechos Humanos, al G7 y a empresas individuales, todos planteando la cuestión simultáneamente en diferentes vías, lo que significa que las propias partes negociadoras están fragmentadas.

4. Variables clave que configuran los desarrollos futuros

La primera variable es la intensidad de la competencia entre Estados Unidos y China. La Brookings Institution evalúa que la serie de cumbres sobre IA celebradas en el verano de 2026 en realidad puso de relieve la brecha y los desacuerdos entre Estados Unidos y China [12]. Mientras ambos países prioricen la obtención de la superioridad tecnológica sobre la competencia en materia de normas, es poco probable que las discusiones sobre una prohibición de la superinteligencia lideradas por el Reino Unido o la ONU conduzcan a un régimen multilateral vinculante.

La segunda variable es la dirección del conflicto entre el poder legislativo y el ejecutivo en el Reino Unido. Los factores clave son el destino del proyecto de ley presentado en la Cámara de los Comunes por el diputado Alex Sobel y qué alternativas regulatorias prácticas propondrá la Oficina del Gabinete en lugar de un interruptor de emergencia [5][13]. Si el gobierno rechaza repetidamente las propuestas sin ofrecer alternativas, es probable que la presión parlamentaria bipartidista se intensifique de nuevo.

La tercera variable es si la vía de la ONU se institucionaliza. El punto de inflexión será si la advertencia del Alto Comisionado Türk se queda en retórica a nivel del Consejo de Derechos Humanos o conduce a un órgano consultivo multilateral sustantivo, como la consulta informal sobre IA militar en la que participa el SIPRI [6][15]. Si las consultas coorganizadas por UNIDIR, UNODA y ACNUDH se regularizan, esto podría servir como un punto de apoyo institucional inicial para las discusiones sobre la introducción de un régimen internacional al estilo del TNP.

La cuarta variable es si las divisiones internas dentro de las empresas se extenderán. Si las advertencias y las dimisiones de investigadores originadas en Anthropic se extienden a otras empresas de frontera, la credibilidad de la lógica de autorregulación de la industria podría verse rápidamente socavada. En ese caso, no se puede descartar la posibilidad de que la presión política que exige la intervención del gobierno se extienda más allá del Reino Unido a Estados Unidos y la UE.

Desde la perspectiva de Corea del Sur, la combinación de estas cuatro variables determinará la ventana de oportunidad para una estrategia de respuesta de una potencia media. Como señala la Brookings Institution, las potencias medias, incluida Corea del Sur, se enfrentan a una vulnerabilidad estructural al verse obligadas a elegir entre Estados Unidos y China [9]. En un contexto en el que el discurso sobre el riesgo de la superinteligencia se consume más como retórica política que como verificación técnica real, es más ventajoso para Corea del Sur participar en las primeras etapas de la formación de normas y entablar discusiones sobre el diseño de estándares de verificación, en lugar de aceptar pasivamente las normas establecidas por las grandes potencias más adelante.