El «muro de la memoria» y el cuello de botella energético en la IA: restricciones estructurales en la competencia de infraestructuras entre Estados Unidos y China y sus implicaciones políticas
Resumen ejecutivo
El paradigma de escalabilidad que ha sustentado la expansión de los modelos de IA está alcanzando límites físicos, concretamente el ancho de banda de la memoria y el suministro de energía. Nvidia ha reducido el diseño de su Rubin Ultra de una configuración de memoria de alto ancho de banda (HBM) de 12 pilas a una de 8 pilas debido a restricciones de suministro, mientras que las empresas chinas de semiconductores están aumentando drásticamente los precios de los aceleradores por el mismo cuello de botella. Huawei está intentando sortear esta brecha con tecnología de interconexión óptica, desafiando los estándares centrados en Nvidia y Broadcom con su propio módulo patentado de óptica cercana al encapsulado (NPO) de 7,2 Tbps. Este desarrollo está desplazando la primera línea de la competencia tecnológica entre Estados Unidos y China desde el rendimiento bruto de las GPU a una contienda por los estándares de interconexión y encapsulado. El cuello de botella también está afectando a la velocidad de despliegue de la IA por parte del Departamento de Defensa de Estados Unidos para la detección de amenazas de misiles y espaciales. En un escenario de referencia en el que persistan las limitaciones de energía y memoria, la competencia por los recursos entre el sector de la defensa y el ecosistema comercial de la IA es inevitable. Corea del Sur se enfrenta tanto a beneficios colaterales como a riesgos en la cadena de suministro de HBM, y cualquier decisión sobre la participación en el estándar de Huawei debe ir precedida de una revisión a nivel gubernamental de los riesgos de los controles de exportación estadounidenses, en lugar de dejarse al juicio del sector privado.
I. Análisis de la situación
El «muro de la memoria» y el cuello de botella energético en el desarrollo de la IA: restricciones estructurales en la competencia de infraestructuras de IA entre Estados Unidos y China
1. Antecedentes y desarrollos
Los límites físicos de la escalabilidad de los modelos de IA están pasando a primer plano en la industria. Se trata del llamado problema del «muro de la memoria»: la brecha entre la velocidad a la que las GPU realizan los cálculos y la velocidad a la que la memoria puede suministrar los datos. El medio de comunicación israelí Globes señaló que este problema «fuerza un consumo de energía insostenible, donde la necesidad de desplegar tantas GPU crece exponencialmente» [12]. Cuando un procesador alcanza este techo de memoria, «espera inactivo, consumiendo energía la mitad del tiempo, solo esperando a que lleguen los datos» [12].
Este cuello de botella se hizo visible por primera vez en segmentos específicos de la cadena de suministro de semiconductores. El medio taiwanés DigiTimes Asia informó de que el acelerador de próxima generación Rubin Ultra de Nvidia ha sido reducido de su diseño original de memoria de alto ancho de banda (HBM) de 12 pilas a una versión de 8 pilas. Según se informa, el cambio fue impulsado por el aumento de los costes de la HBM, lo que llevó a un diseño que prioriza la eficiencia del ancho de banda [17]. El mismo medio también informó de que las empresas chinas de semiconductores que compiten con Nvidia están aumentando drásticamente los precios de sus aceleradores actuales y de próxima generación debido a la escasez de HBM. Esto añade otra restricción de costes al impulso de China por un hardware de computación de desarrollo propio [14].
China ha optado por sortear este cuello de botella con tecnología óptica. En la Exposición Internacional de Optoelectrónica de China (CIOE) en Shenzhen, Huawei presentó lo que afirma ser el primer módulo de óptica cercana al encapsulado (NPO) de 7,2 terabits por segundo (Tbps) de la industria. Este enfoque sustituye el cableado de cobre por señales ópticas para aumentar las velocidades de transferencia de datos entre los procesadores de IA [1]. El Nihon Keizai Shimbun enmarcó esto como un «desafío a Nvidia y Broadcom», analizándolo como un intento de Huawei de asegurarse una mayor influencia en un área emergente de la fabricación de chips que podría dar forma al futuro de la computación de IA de próxima generación [9]. Del mismo modo, DigiTimes Asia de Taiwán evaluó que Huawei no solo está lanzando un nuevo producto, sino que también está intentando «crear un nuevo estándar de interconexión óptica a medida que los clústeres de IA alcanzan sus límites» [5].
2. Situación actual
El anuncio de Huawei es muy simbólico, ya que se produce en medio de los controles de exportación de semiconductores de Estados Unidos a China. La medida de Huawei de desafiar los estándares ópticos y de interconexión existentes, que se centran en Nvidia y Broadcom, con sus propias especificaciones patentadas es una extensión de la estrategia de China para cerrar la brecha tecnológica utilizando tecnologías de derivación, dado su acceso restringido a las GPU avanzadas. Sin embargo, como confirmó DigiTimes Asia, Huawei y otras empresas chinas no son inmunes a la restricción compartida de la escasez de HBM [14].
El cuello de botella energético tiene implicaciones geográficas más amplias. El laboratorio de ideas Bruegel, con sede en Bruselas, ha evaluado que la capacidad de computación de IA nacional de la UE es de solo 2 gigavatios, o el 5 % del total mundial, y que los proyectos previstos harán poco por cerrar esta brecha. Esto apunta a la desventaja estructural de Europa, ya que una infraestructura de computación autóctona es un requisito previo para la soberanía en IA [6]. Del mismo modo, la consultora alemana Roland Berger analizó que Europa se está quedando cada vez más atrás en la dinámica de ganadores y perdedores creada por el auge de los centros de datos [4]. El Carnegie Endowment for International Peace ha argumentado que los límites físicos del suministro de energía y los datos de entrenamiento ponen en duda la sostenibilidad del propio paradigma de escalabilidad, presentando esta restricción como un problema inherente al paradigma tecnológico [13].
Los problemas de infraestructura energética también se están convirtiendo en vulnerabilidades de seguridad. La Brookings Institution informó de que en marzo, tres centros de datos de Amazon Web Services (AWS) en Oriente Medio fueron dañados por un ataque con drones que Irán denominó «Operación Furia Épica». Según se informa, el ataque cortó la energía, activó los sistemas de extinción de incendios y provocó daños por agua. Los medios de comunicación estatales iraníes afirmaron que la instalación en Baréin fue atacada porque proporcionaba funciones de apoyo al ejército estadounidense [2]. Este incidente demuestra que los centros de datos de IA de frontera construidos en el extranjero pueden convertirse en objetivos de ataques físicos, lo que sugiere que la securitización de la infraestructura de computación y energía ya está en marcha.
3. Actores y posiciones clave
Huawei (China)está aprovechando su tecnología de módulos ópticos para compensar la brecha en GPU avanzadas, resultado de los controles de exportación de Estados Unidos, buscando establecer una posición dominante en los estándares de interconexión. Como señala el Nihon Keizai Shimbun, no se trata simplemente de una competencia de productos, sino de una contienda por el liderazgo en los estándares que «podría dar forma al futuro de la computación de IA de próxima generación» [9]. Mientras tanto, las empresas chinas de semiconductores en general se enfrentan a la escasez de suministro de HBM y han recurrido a la medida defensiva de subir los precios [14].
Nvidia (Estados Unidos)está respondiendo al aumento de los costes de la HBM modificando los diseños de sus productos. La decisión de reducir el diseño del Rubin Ultra de una configuración de HBM de 12 pilas a una de 8 pilas refleja una priorización de la eficiencia del ancho de banda y la economía del sistema [17]. Esto demuestra que incluso las grandes empresas tecnológicas estadounidenses no son inmunes al cuello de botella de la memoria.
Departamento de Defensa de Estados Unidosestá impulsando el despliegue operativo de la IA a pesar de estas limitaciones de infraestructura. Defense News informa de que el Departamento de Defensa está persiguiendo la adopción de la IA para identificar amenazas de misiles y espaciales, con el objetivo de superar los desafíos de la defensa antimisiles —como objetos de alta velocidad, tiempos de respuesta cortos y datos de sensores ambiguos— con inteligencia artificial [16]. Las empresas emergentes de defensa también están introduciendo sistemas de IA diseñados para maximizar la eficacia de cada ronda de munición [19]. En última instancia, sin embargo, el ritmo de estos despliegues se verá limitado por los cuellos de botella de la infraestructura en la disponibilidad de GPU y el suministro de energía.
Ejército Popular de Liberación (EPL) de Chinaha evaluado que sus aplicaciones militares de IA siguen confinadas a roles auxiliares. Según un informe del EAI, investigadores del Cuerpo de Shandong de la Fuerza de Policía Armada del Pueblo Chino reconocieron que la IA militar del EPL se concentra en «áreas auxiliares como preguntas y respuestas inteligentes y generación de contenido», mientras que sus aplicaciones de combate ofensivo todavía están en una fase exploratoria [11]. Esta brecha se analiza como un problema estructural que no se deriva de la falta de tecnología, sino de la cautela política en torno a las relaciones entre el Partido y el ejército y la delegación de la autoridad de mando [11]. La Brookings Institution también ha señalado que la Fuerza de Apoyo Estratégico (FAE) del EPL ha estado siguiendo una estrategia de innovación agresiva con el objetivo de convertirse en la principal potencia mundial en IA para 2030 [10].
Europa (Estados miembros y empresas de la UE)está buscando formas de asegurar su autonomía en medio de un déficit estructural en la infraestructura de computación. El laboratorio de ideas Bruegel ha recomendado que la UE maximice su capacidad de computación nacional, independientemente del país de origen de la tecnología [6].
4. Cuestiones clave
El muro de la memoria y el cuello de botella energético han surgido como el próximo frente que podría determinar el resultado de la competencia de IA entre Estados Unidos y China. El módulo óptico de Huawei representa un intento de establecer un estándar dominante no en el rendimiento de la GPU en sí, sino en la vía alternativa de la transmisión de datos entre GPU. Esto demuestra que hay dominios que los controles de exportación de semiconductores de Estados Unidos no pueden contener eficazmente.
Al mismo tiempo, este cuello de botella afecta a Estados Unidos y sus aliados de forma simétrica. La reducción del diseño de Nvidia y la escasez de capacidad de computación de la UE confirman que el cuello de botella no es un problema unilateral. Como sugiere el Carnegie Endowment for International Peace, si las limitaciones físicas de energía y datos exponen los límites del propio paradigma de escalabilidad, el foco de la competencia podría pasar de «quién puede asegurar más GPU» a «quién puede construir primero una arquitectura que sortee el cuello de botella» [13].
En el sector de la defensa, estas limitaciones de infraestructura son una variable clave que determina el ritmo del despliegue operativo. Tanto la IA del Departamento de Defensa de Estados Unidos para la detección de amenazas de misiles y espaciales [16] como la búsqueda del EPL de un mando y control integrados [11] dependen en última instancia de la obtención de suficientes recursos de computación y energía. Además, el ataque de Irán a los centros de datos de AWS [2] demuestra que la propia infraestructura de IA puede convertirse en un objetivo físico, lo que pone de relieve la seguridad de la infraestructura como una vulnerabilidad emergente en la carrera de la IA militar.
II. Análisis en profundidad
El «muro de la memoria» y el cuello de botella energético en el desarrollo de la IA: restricciones estructurales en la competencia de infraestructuras de IA entre Estados Unidos y China
1. Análisis de las causas fundamentales
El problema del muro de la memoria se origina en una asimetría de larga data en la industria de los semiconductores. Mientras que el rendimiento computacional ha mejorado constantemente debido a la Ley de Moore y los avances en la paralelización, el ancho de banda de transferencia de datos entre la memoria y los procesadores no ha seguido el mismo ritmo. Como explica una fuente de la industria citada por Globes, el despliegue de GPU a gran escala hace que «el consumo de energía aumente exponencialmente», pero los propios procesadores «esperan inactivos la mitad del tiempo, solo esperando a que lleguen los datos» [12]. Este es el resultado de una divergencia estructural entre la potencia computacional y la capacidad de suministro de datos.
Esta brecha se ha manifestado recientemente como una escasez en el suministro de HBM. Incluso Nvidia ha rebajado la configuración de HBM para su acelerador Rubin Ultra del diseño previsto de 12 pilas a uno de 8 pilas, un cambio que prioriza la eficiencia del ancho de banda y la economía del sistema [17]. La situación es aún más precaria para las empresas chinas de semiconductores que compiten con Nvidia. A medida que la HBM se vuelve más escasa y cara, están aumentando drásticamente los precios de sus aceleradores actuales y de próxima generación [14]. Para China, que está comprometida con la promoción de su hardware de computación nacional, esto presenta una doble atadura: una restricción de costes superpuesta a la brecha tecnológica existente.
La causa fundamental del cuello de botella energético es diferente. La demanda de electricidad para entrenar y ejecutar modelos de IA está superando la expansión de la red eléctrica mundial para los centros de datos. El Carnegie Endowment for International Peace ha señalado que «no está claro cuánto tiempo más podrán los desarrolladores seguir escalando debido a los límites del suministro de energía y los datos de entrenamiento» [13]. Esto sugiere que el enfoque fundamental de hacer crecer los modelos añadiendo más potencia de cálculo está chocando contra un muro físico. No se trata de un problema de diseño de semiconductores, sino de una limitación a un nivel completamente diferente: la infraestructura energética, específicamente la capacidad de generación y transmisión de energía.
2. Contexto estructural
Estructura de la competencia tecnológica: La presentación por parte de Huawei de su módulo NPO de 7,2 Tbps es una respuesta a la restricción institucional de los controles de exportación de semiconductores de Estados Unidos. Representa un intento de China, que tiene bloqueada la adquisición de GPU avanzadas, de encontrar una solución alternativa utilizando tecnología de interconexión que sustituye el cableado de cobre por señales ópticas [1]. El Nihon Keizai Shimbun lo describió como un «desafío a Nvidia y Broadcom», una medida de Huawei para asegurarse una mayor influencia en un dominio de la fabricación de chips que podría dictar los futuros estándares de computación de IA [9]. DigiTimes Asia evaluó de manera similar que Huawei no solo está lanzando un nuevo producto, sino que también está intentando «crear un nuevo estándar de interconexión óptica a medida que los clústeres de IA alcanzan sus límites» [5]. Esta competencia por el establecimiento de estándares representa un nuevo frente en la rivalidad tecnológica entre Estados Unidos y China. El foco se está desplazando del rendimiento de los semiconductores individuales a la cuestión de quién establecerá las reglas para las especificaciones de interconexión y encapsulado.
Estructura militar y de seguridad: Este cuello de botella está directamente relacionado con el ritmo de despliegue operativo de la IA para la defensa. Un ejemplo clave es la iniciativa del Departamento de Defensa de Estados Unidos para adoptar la IA en la detección de amenazas de misiles y espaciales. El objetivo es utilizar la IA para aliviar la carga de los operadores humanos que deben manejar «objetos de alta velocidad, limitaciones de tiempo cortas y datos de sensores poco claros» en escenarios de combate [16]. Sin embargo, una IA de mando y control en tiempo real de este tipo requiere recursos de computación masivos y un suministro de energía estable. Si el muro de la memoria y el cuello de botella energético persisten, el ritmo de expansión de la IA para la defensa se verá inherentemente limitado. La situación es similar para China. La Brookings Institution ha analizado que el EPL está siguiendo una estrategia de innovación agresiva para convertirse en una potencia mundial líder en IA para 2030 [10]. Sin embargo, según un análisis del EAI, incluso los investigadores dentro del EPL han evaluado que sus «aplicaciones militares de IA siguen confinadas a áreas auxiliares como preguntas y respuestas inteligentes y generación de contenido», con el uso en combate ofensivo todavía en una fase exploratoria [11]. Esta brecha se analiza como un «problema estructural que no se deriva de la falta de tecnología, sino de la cautela política en torno a las relaciones entre el Partido y el ejército y la delegación de la autoridad de mando» [11]. Cuando se combina con el cuello de botella de la computación, esta cautela política podría retrasar doblemente el progreso del EPL en la militarización de la IA.
Estructura de la cadena de suministro y seguridad económica: La escasez de HBM es un desafío común que afecta tanto a Estados Unidos como a China. Con un suministro de HBM tan ajustado que incluso Nvidia ha tenido que reducir sus diseños, la posición de las empresas chinas —cuyo acceso a la memoria avanzada ya está restringido por los controles de exportación— es aún más difícil [14][17]. Esto le da a China un fuerte incentivo para apostar su éxito en la carrera por el ancho de banda de la memoria a una vía alternativa: las interconexiones ópticas. En este contexto, la presentación por parte de Huawei de su módulo NPO funciona tanto como una estrategia industrial como una estrategia para sortear la cadena de suministro.
Estructura de vulnerabilidad geopolítica: La concentración física de la infraestructura de computación crea nuevas vulnerabilidades de seguridad. La Brookings Institution destacó el incidente de marzo en el que tres centros de datos de AWS en Oriente Medio sufrieron daños estructurales por un ataque con drones iraní. El ataque cortó la energía, activó los sistemas de extinción de incendios y causó daños adicionales por agua [2]. Los medios de comunicación estatales iraníes afirmaron que la Guardia Revolucionaria Islámica atacó la instalación en Baréin por su papel en el apoyo al ejército estadounidense [2]. Este incidente demuestra que a medida que se construye más infraestructura de IA en el extranjero, aumenta la superficie expuesta a tales ataques físicos. Esto crea una situación paradójica en la que la propia expansión de la infraestructura destinada a resolver los cuellos de botella de energía y memoria introduce nuevos riesgos de seguridad.
Estructura de disparidades regionales: La competencia por la infraestructura de computación se extiende más allá del duopolio entre Estados Unidos y China. El laboratorio de ideas Bruegel evaluó que la capacidad de computación de IA nacional de la UE es de solo unos 2 gigavatios, un mero 5 % del total mundial, y que los proyectos previstos harán poco por cerrar esta brecha [6]. Esto pone de relieve que, si bien Europa considera que una infraestructura de computación autóctona es un requisito previo para la soberanía en IA, parte de una posición de desventaja estructural. Roland Berger también analizó que Europa se está quedando cada vez más atrás en la dinámica en la que el ganador se lo lleva todo del auge de los centros de datos [4]. Esto sugiere el riesgo de que se consolide una estructura en la que un tercer polo se quede rezagado en la carrera por la infraestructura de computación liderada por Estados Unidos y China.
3. Precedentes históricos y casos comparativos
No es infrecuente en la industria de los semiconductores que un cuello de botella se convierta en un escenario para la competencia de estándares. El surgimiento de la propia HBM siguió un patrón similar, ya que fue un intento de sortear las limitaciones de ancho de banda de la memoria DDR convencional utilizando la tecnología de apilamiento 3D. El actual impulso de Huawei por las interconexiones ópticas es un intento de sortear el siguiente cuello de botella: los límites del cableado físico entre los procesadores y la memoria que ni siquiera la HBM puede resolver por completo. Se está repitiendo un patrón secuencial, en el que la resolución de un cuello de botella revela el siguiente.
Desde la perspectiva de la competencia de estándares, esta situación es paralela a cómo Huawei se aseguró influencia dentro de los organismos de estandarización internacional en la industria de las telecomunicaciones a través de sus patentes esenciales para estándares 5G. En ese momento, Huawei consolidó su posición en todo el ecosistema industrial no tanto por el rendimiento bruto del hardware como por su influencia en el proceso de establecimiento de estándares. Del mismo modo, la reciente presentación de su módulo NPO no se trata simplemente de una competencia de productos sino que, como señala el Nihon Keizai Shimbun, tiene como objetivo asegurar «una mayor influencia en un área emergente de la fabricación de chips que podría dar forma al futuro de la computación de IA de próxima generación» [9]. El escenario de la competencia se ha desplazado efectivamente de los estándares de telecomunicaciones a los de la infraestructura de semiconductores e IA.
El cuello de botella energético puede compararse con las decisiones históricas de localización en industrias de alto consumo energético. Así como las industrias de fundición de aluminio y almacenamiento de datos migraron a regiones con costes de electricidad más bajos, está surgiendo una tendencia similar con los centros de datos de IA que se reubican en áreas con energía fácilmente disponible. Sin embargo, la ubicación de los centros de datos de IA no se determina únicamente por la lógica de costes, ya que a menudo están directamente vinculados a datos de seguridad nacional. La vulnerabilidad de los centros de datos en el extranjero a ataques físicos, destacada por la Brookings Institution, ilustra esta distinción [2]. Esto implica que la lógica económica para la deslocalización de industrias de alto consumo energético no se aplica directamente a la infraestructura de IA.
4. Variables clave que configuran los desarrollos futuros
La primera variable es el ritmo de recuperación del suministro de HBM. El atractivo relativo de la estrategia de derivación óptica de China dependerá de cuánto tiempo continúe la actual situación de escasez de suministro, lo suficientemente grave como para obligar incluso a Nvidia a alterar sus diseños [14][17]. Si el suministro de HBM se normaliza, la necesidad percibida de la solución de interconexión óptica de Huawei podría disminuir.
La segunda variable es cualquier ajuste en el alcance de los controles de exportación de Estados Unidos a China. El hecho de que los módulos ópticos y las tecnologías de interconexión se añadan a la lista de control determinará el potencial de proliferación internacional del estándar de Huawei. Unos controles más estrictos probablemente lo confinarían a un ecosistema cerrado centrado en el mercado interno de China, mientras que unos controles más laxos podrían crear una oportunidad para que se extienda a los mercados no occidentales.
La tercera variable es el ritmo de expansión de la infraestructura energética y su aceptabilidad política. El aumento de la demanda de electricidad de los centros de datos podría entrar en conflicto con la oposición de la comunidad local, los desafíos en la financiación de las inversiones en la red y los objetivos de transición a energías renovables. La forma en que se resuelvan estas tensiones determinará el ritmo respectivo de expansión de la computación en Estados Unidos, China y Europa.
La cuarta variable es el progreso real de la adopción de la IA para la defensa. Un factor clave será la medida en que el proyecto de IA del Departamento de Defensa de Estados Unidos para la detección de amenazas de misiles y espaciales [16] pueda desplegarse operativamente a pesar de las limitaciones de computación y energía. Al mismo tiempo, el momento de cualquier relajación de la «cautela política» [11] dentro del EPL también es una variable. La dirección futura de la brecha de IA militar entre Estados Unidos y China dependerá de qué lado pueda resolver primero sus cuellos de botella y acelerar su ritmo de despliegue.
La quinta variable es la expansión de la infraestructura de computación por parte de terceras potencias, incluida Europa. La evolución de la baja cuota de mercado del 5 % identificada por Bruegel [6] en los próximos cinco años determinará si la competencia por la infraestructura de IA se consolida en un duopolio puro o se reconfigura en una contienda multipolar. Para potencias medias como Corea del Sur, la interacción de estas cinco variables definirá los parámetros estratégicos para asegurar su propia soberanía en IA.
A partir de aquí se necesitan 3 créditos
El contenido posterior al análisis de escenarios está disponible con créditos.
Inicia sesión para seguir leyendo*Este texto es una traducción mediante IA de un original escrito en coreano. Pueden existir errores de traducción o matices imprecisos.
Este informe es un análisis en profundidad planificado por un investigador de EAI, basado en una investigación rigurosa asistida por IA y redactado en su versión final por el investigador de EAI.