[AI y Nuevo Estándar de Civilización Informe Especial] Desafío Militar ②: Sistemas de Armas Autónomas Basados en IA, el Desarrollo de la Guerra Cognitiva y el Cambio en el Orden de Seguridad Militar

I. La Realidad de la Guerra Basada en IA Ya Ha Llegado

En la era de las tecnologías avanzadas, incluida la Inteligencia Artificial (IA), es difícil imaginar cómo será la guerra futura. James Johnson, investigador de armas nucleares basadas en IA, describe la guerra hipotética dentro de un año con el siguiente escenario.

En 2025, estalla una guerra entre Estados Unidos y China por la cuestión de Taiwán, y la guerra termina instantáneamente en una guerra nuclear. Después de la guerra, investigadores independientes concluyen que ninguna de las partes utilizó armas 'completamente autónomas' basadas en IA. Se evalúa optimísticamente que no se violaron intencionalmente las leyes del conflicto armado estipuladas en el derecho internacional ni los principios de proporcionalidad y distinción aplicables al uso de armas nucleares. Ambos países creían haber utilizado la fuerza militar legalmente justificada en legítima defensa en ese momento.

A medida que la situación política en Taiwán cambia drásticamente antes de la guerra, Estados Unidos y China despliegan tecnología de IA para apoyar el reconocimiento del campo de batalla, la recopilación de inteligencia, la vigilancia y el reconocimiento (ISR), y las respuestas tácticas a las acciones del enemigo. Con la rápida mejora de la precisión, la velocidad y la capacidad predictiva de las aplicaciones de IA de doble uso producidas comercialmente, las grandes potencias han podido utilizar el aprendizaje automático (ML), que requiere datos, para mejorar las maniobras tácticas y operativas. En particular, China, impresionada por los casos en que Rusia, Turquía e Israel utilizaron enjambres de drones autónomos para repeler ataques terroristas en sus fronteras, integró rápidamente la última tecnología de IA de doble uso, omitiendo los rigurosos procesos de prueba y evaluación.

A medida que las incursiones militares chinas en el Estrecho de Taiwán aumentan drásticamente, los líderes de Estados Unidos y China buscan el rápido despliegue de los últimos sistemas estratégicos de IA para obtener la máxima ventaja asimétrica. Los sistemas estratégicos de IA de última generación generaron nuevas alternativas estratégicas basadas en escenarios de combate históricos, juegos de guerra experimentales, toma de decisiones racionales basada en la teoría de juegos, datos de inteligencia y el aprendizaje de versiones anteriores. La alta complejidad de estos sistemas superó las conjeturas de sus diseñadores y operadores.

Las feroces retóricas y las campañas de desinformación en las redes sociales alcanzaron su punto álgido, y las voces que abogaban por la urgencia de la reunificación forzada con Taiwán se intensificaron dentro de China. A medida que la situación en el Pacífico se volvía cada vez más tensa, Estados Unidos decidió desplegar el 'Sistema Estratégico de Predicción y Recomendación (SPRS)' autónomo basado en IA para actividades no combativas, sin haber completado las pruebas y la evaluación. En respuesta, China también desplegó un sistema similar, el 'Sistema de Asesoramiento Estratégico e Inteligencia (SIAS)', para prepararse para todas las situaciones de crisis.

Finalmente, una reacción en cadena de eventos impulsada por la IA superó los límites predefinidos de Beijing y se salió de control. Las operaciones de inteligencia culminaron con un aumento de los ciberataques a los sistemas del Comando del Indo-Pacífico de EE. UU. y del ejército taiwanés, movimientos para defender los activos espaciales chinos y la activación de los sistemas de adquisición automatizada del Ejército Popular de Liberación (EPL). El SPRS de EE. UU. evaluó estas acciones como una amenaza importante para la seguridad nacional y recomendó una demostración contundente de fuerza y una postura defensiva. En consecuencia, Estados Unidos autorizó vuelos de bombarderos estratégicos autónomos en el Estrecho de Taiwán. El SIAS recomendó a los líderes chinos obtener una ventaja temprana mediante un ataque preventivo limitado contra los activos clave del Pacífico de EE. UU. El SPRS advirtió a Washington de un inminente ataque preventivo chino, y EE. UU. recomendó un ataque nuclear limitado inmediato. Se predijo que el sistema de defensa antimisiles de EE. UU. interceptaría con éxito la mayoría de los ataques nucleares tácticos chinos y que China se abstendría de represalias contra el territorio continental de EE. UU. Las predicciones del SPRS resultaron ser correctas. Después de un intercambio nuclear limitado entre EE. UU. y China en el Pacífico, en el que murieron millones y resultaron heridos decenas de millones, ambas partes acordaron un alto el fuego.

En el análisis posterior, ambas partes intentaron un análisis detallado de los procesos de toma de decisiones del SPRS y SIAS, pero los diseñadores de IA concluyeron que era imposible explicar la lógica y las razones de la IA para todos los subconjuntos de decisiones. Debido a diversas restricciones de tiempo, cifrado y privacidad, no fue posible conservar los registros de prueba y los protocolos posteriores. No se pudo llegar a una conclusión clara sobre si la tecnología de IA fue la causa de esta guerra (Johnson 2023).[1]

La reciente guerra en Ucrania y la guerra en Gaza demuestran claramente que la IA ya se está utilizando en la guerra en diversas dimensiones, y que esta tendencia continuará en el futuro. Cuando la IA se combine con las tres dimensiones de las armas nucleares, las armas convencionales, la guerra psicológica y la guerra de información, evolucionará rápidamente hacia armas nucleares basadas en IA, sistemas de armas autónomas (AWS) y guerra cognitiva (cognitive war) que utiliza IA.

La IA es una tecnología de propósito general y una tecnología de aumento meta que mejora las tecnologías existentes. No solo mejorará armas específicas, sino que también se convertirá en una tecnología multidimensional que cambiará los sistemas operativos de las armas, la toma de decisiones relacionadas con la guerra, los gobiernos y los ejércitos que libran la guerra, y la percepción y respuesta de la sociedad (Britt 2023; Hale 2023). Al igual que todos usan las matemáticas, la tecnología de IA se usará en todos los niveles, y ya lo está haciendo en gran medida. Es difícil saber qué cambios traerá la tecnología de IA en el campo de la seguridad militar y, además, cuál será el efecto de la tecnología de IA en la política internacional en general. La propia tecnología de IA está cambiando rápidamente, y los esfuerzos para regularla o controlarla se quedan muy atrás en comparación con la velocidad del cambio tecnológico. El desarrollo de la tecnología de IA coincide con el llamado regreso de la geopolítica, por lo que se está llevando a cabo en medio de una feroz competencia, y los esfuerzos internacionales para controlar los problemas de la IA tienen pocas posibilidades de éxito.

En medio de la competencia geopolítica entre países, la posibilidad de prevenir el uso militar de la tecnología de IA es escasa. Además, podemos considerar la posibilidad de que la tecnología de IA se desarrolle rápidamente en direcciones no deseadas y escape al control humano. Dado que los países aceptan la IA como un medio útil e innovador para fortalecer su propia seguridad, es difícil crear una conciencia preventiva sobre la tecnología militar de IA hasta que ocurra un incidente que confirme el daño común a la comunidad internacional.

Es necesario comenzar una discusión seria para comprender la realidad de la tecnología de IA que se está utilizando actualmente en armas nucleares, sistemas de armas autónomas y guerra cognitiva, y para prever los problemas comunes que pueden surgir en el futuro. En el caso de las armas nucleares, surgió un tabú después de su uso, y en la década de 2020 se firmó el Tratado sobre la Prohibición de las Armas Nucleares (TPNW). Dado que la guerra futura es una cuestión de vida o muerte para los ciudadanos de todos los países, es importante prestar atención y responder a ella. Corea del Sur también debe considerar cómo percibir y responder a los sistemas de armas basados en IA y las estrategias de seguridad militar en medio de la carrera armamentista entre las grandes potencias y el riesgo de guerra. Este artículo, tras el análisis de las armas nucleares basadas en IA, aborda los sistemas de armas autónomas y la guerra cognitiva.

II. Desarrollo de Sistemas de Armas Autónomas Combinados con IA

Según la Directiva 3000.09 del Departamento de Defensa de EE. UU. sobre la autonomía de los sistemas de armas, publicada en 2012, un sistema de armas autónomas puede definirse como "un sistema de armas que, una vez activado, puede seleccionar y atacar objetivos sin intervención adicional de un operador humano". Es decir, es un sistema de armas letal que identifica objetivos enemigos potenciales y, basándose en algoritmos e IA, decide atacarlos de forma independiente. Puede referirse a la autonomía de armas individuales específicas o a un sistema operativo general que utiliza armas.

Aunque actualmente no existe un consenso internacional sobre la definición de sistemas de armas autónomas, estos se han evaluado en función de su nivel de autonomía respecto al control humano. El concepto de autonomía relacionado con los sistemas de armas autónomas puede definirse como la capacidad de un sistema para realizar tareas o una serie de operaciones a través de la acción o interacción con su entorno sin la intervención humana. Lo importante en la definición de sistemas de armas autónomas parece ser el tipo de decisiones o funciones que se ejecutan de forma autónoma, sin el control de un operador humano (Dresp-Langley 2023).

Se suelen utilizar tres niveles de clasificación según el grado de autonomía de un arma. En primer lugar, armas autónomas supervisadas o sistemas de 'human on-the-loop'. Estos son sistemas de armas autónomas diseñados para permitir que un operador humano intervenga y finalice el compromiso antes de que se produzca un nivel de daño inusualmente alto. Un ejemplo son los sistemas de armas defensivas, que seleccionan y atacan objetivos de forma independiente según lo programado, pero todas las operaciones son supervisadas completamente por humanos, quienes pueden desactivar el sistema en un tiempo limitado si es necesario.

En segundo lugar, armas semi-autónomas o sistemas de 'human in-the-loop', que, una vez activados, están destinados a atacar solo objetivos individuales o grupos de objetivos específicos seleccionados por un operador humano. Un ejemplo son las municiones como misiles guiados, que, una vez lanzados a una ubicación objetivo específica, buscan y atacan objetivos dentro de esa área según categorías preprogramadas.

En tercer lugar, armas completamente autónomas o sistemas de 'human out-of-the-loop', que, una vez activados, pueden seleccionar objetivos y entablar combate sin intervención adicional de un operador humano. Un ejemplo son las armas de merodeo, que, una vez lanzadas, buscan y atacan objetivos en un área específica y operan sin intervención humana adicional. Los sistemas de armas que interfieren con las comunicaciones mediante interferencias electrónicas autónomas también pueden incluirse aquí (Kallenborn 2021).

Los sistemas de armas autónomas son el resultado de una larga historia de experiencia y esfuerzo. El primer ejemplo de vehículo autónomo se remonta a 'The American Wonder', desarrollado en 1925. Era un vehículo que circulaba por las calles de la ciudad de Nueva York, controlado remotamente por otros vehículos que lo seguían, y se movía en convoy bajo control automático inicial.

Los sistemas de armas autónomas requieren la integración de varios elementos clave: una plataforma de combate móvil, varios tipos de sensores que pueden monitorear con precisión el entorno de la plataforma, un sistema de procesamiento que clasifica los objetos detectados por los sensores y algoritmos que inician el ataque cuando se detectan objetivos aceptables. Un ejemplo representativo es el robot asesino o 'slaughter bot', un sistema robótico autónomo que puede seleccionar y atacar objetivos sin la intervención de un operador humano. Equipados con sensores avanzados e IA, pueden operar en esfuerzos cooperativos para abrumar a las fuerzas defensoras, y pueden operar de forma autónoma y sin tripulación en grupos de combate de superficie distribuidos o buques de guerra electrónica.

Los drones también son un arma representativa de los sistemas de armas autónomas. En octubre de 2013, la Oficina de Capacidades Estratégicas de EE. UU. lanzó 103 drones Perdix, que utilizaron un 'cerebro distribuido' para ensamblarse en formaciones complejas, moverse por el campo de batalla o reorganizarse en nuevas formaciones. Este enjambre de drones fue fabricado por estudiantes del Instituto Tecnológico de Massachusetts (MIT) utilizando componentes y diseños disponibles comercialmente. En teoría, un enjambre de drones podría expandirse a decenas de miles, lo que lo convertiría en un arma autónoma comparable a un dispositivo nuclear a pequeña escala.

Actualmente, las armas letales autónomas y los sistemas de armas autónomas que utilizan o están en desarrollo o ya en uso incluyen torretas centinela autónomas fijas, estaciones de armas remotas, robots asesinos programados para disparar contra humanos y vehículos, y drones y enjambres de drones con capacidad de designación de objetivos autónoma. También se han desarrollado funciones como RADAR, LIDAR, cámaras de 360 grados de alta resolución y, en última instancia, control de crucero adaptativo y predictivo combinado con IA. Las nuevas armas de destrucción masiva de mayor riesgo podrían ser enjambres de drones y armas químicas, biológicas, radiológicas y nucleares (CBRN) autónomas, incluidos drones de insectos en miniatura capaces de inyectar agentes bioquímicos letales.

También se están desarrollando torretas centinela autónomas fijas. Una torreta centinela es un arma remota que apunta y dispara automáticamente a los objetivos detectados por los sensores. Las primeras torretas centinela militares funcionales se utilizaron como armas de defensa cercana para detectar y destruir misiles y aeronaves enemigas que se aproximaban a corta distancia. Estas armas se utilizaron inicialmente solo en buques de guerra, pero ahora también se utilizan para la defensa terrestre. El primer sistema integrado de este tipo de armas, que incluye vigilancia, seguimiento, disparo y reconocimiento de voz, es el SGR-A1, un proyecto altamente secreto desarrollado conjuntamente por Hanwha Aerospace y la Universidad de Corea, utilizado para apoyar al ejército surcoreano en la Zona Desmilitarizada de Corea.

Estos sistemas de armas autónomas basados en IA están apareciendo en los campos de batalla actuales o en los procesos de entrenamiento para prepararse para el futuro. Los vehículos aéreos no tripulados se han convertido en un problema importante en la guerra en curso en Ucrania, y el Departamento de Defensa de EE. UU. anunció recientemente una nueva inversión de mil millones de dólares para mejorar su flota de drones. Los robots asesinos autónomos chinos se utilizarán con fines militares en el campo de batalla en dos años, y un experto ha descrito esto como "la mayor amenaza para la supervivencia humana", anunciando una nueva era de guerra basada en IA.

Varias potencias importantes han ido un paso más allá en estos desarrollos, comenzando a desarrollar robots asesinos autónomos basados en IA para reemplazar a los soldados en el campo de batalla. Se sabe que China y Rusia ya han colaborado en el desarrollo de armas autónomas basadas en IA. Durante los ejercicios militares con Camboya en mayo de 2024, el Ejército Popular de Liberación de China presentó perros robot con rifles fabricados por la empresa china Unitree Robotics. Rusia, en una feria de armas cerca de Moscú en 2022, exhibió un perro Unitree Robotics modificado y armado con un lanzagranadas propulsado por cohete, rebautizado como perro robot M-81.

China ya ha comenzado a desarrollar armas utilizando máquinas basadas en IA, y algunos expertos predicen que la producción de bombas y proyectiles podría triplicarse para 2028. En marzo de 2023, en la reunión de la ONU sobre Sistemas de Armas Letales Autónomas, el representante de EE. UU. argumentó que no era el momento adecuado para comenzar a regular su desarrollo. Estos desarrollos ilimitados han provocado numerosas advertencias de que las armas no tripuladas no podrán cumplir con las leyes de la guerra y que los países estarán más dispuestos a participar en conflictos sin temor a la pérdida de tropas (Cameron 2024).

III. Competencia Estratégica entre EE. UU. y China y la Estrategia de EE. UU. sobre Sistemas de Armas Autónomas

El Departamento de Defensa de EE. UU. publicó por primera vez en el mundo una directiva sobre el despliegue de sistemas de armas autónomas o semi-autónomas en 2012. Esta Directiva 3000.09 fue una de las primeras políticas en considerar seriamente el impacto de las tecnologías autónomas y la IA en el ámbito militar. Antes de eso, estos conceptos aparecían principalmente en la ciencia ficción. Tras la publicación de esta directiva, hubo un gran interés y debate entre el público, la sociedad civil y las ONG, pero es cierto que se produjeron confusión y malentendidos sobre el contenido exacto de la directiva. Por ejemplo, Human Rights Watch (HRW) interpretó erróneamente esta directiva como "la primera moratoria mundial sobre armas letales completamente autónomas". Sin embargo, la política en sí no restringió el desarrollo o uso de armas autónomas, sino que solo estipuló que debía ser revisada, cancelada o renovada cada diez años. La directiva exigía procedimientos de revisión adicionales para los sistemas de armas que alcanzaran cierto nivel de autonomía, pero el alcance y el propósito de la revisión no estaban claros.

Durante la última década, la Directiva 3000.09 se ha convertido en la principal política estadounidense relacionada con los sistemas de armas que aplican tecnologías autónomas. Sin embargo, la falta de claridad de esta directiva ha causado confusión, especialmente en el debate sobre el desarrollo de nuevas tecnologías, incluida la IA. Cuando la validez de diez años de la directiva expiró a finales de 2022, el Departamento de Defensa presentó una directiva revisada en 2023. La versión revisada mantiene la definición de sistemas de armas autónomas utilizada en la directiva de 2012, definiéndolos como "un sistema de armas que, una vez activado, puede seleccionar y atacar objetivos sin intervención adicional de un operador". La directiva de 2023 eliminó la palabra 'humano' antes de 'operador', pero define 'operador' como "una persona que opera una plataforma o sistema de armas". Al igual que la directiva anterior, la directiva de 2023 no restringe la proliferación de sistemas de armas autónomas. No solo EE. UU., sino también Australia, China, India, Irán, Israel, Corea del Sur, Rusia, Turquía y el Reino Unido están invirtiendo fuertemente en aplicaciones militares de IA y tecnologías relacionadas, desarrollando sistemas de armas autónomas basados en aire, tierra y mar.

El Artículo 1.2(e) de la directiva permite "ventas y transferencias internacionales" "aprobadas de acuerdo con los requisitos y procedimientos de seguridad tecnológica y divulgación extranjera existentes". Una vez que estas armas salen de EE. UU., EE. UU. pierde el control exclusivo sobre ellas. Además, la directiva permite el desarrollo y adquisición continuos de sistemas de armas autónomas de acuerdo con las leyes existentes, los procedimientos del Departamento de Defensa y los principios éticos.

La directiva de 2023 no regula de manera más clara las ambigüedades de la directiva de 2012. Según el Artículo 1.2(a), la directiva de 2023, adoptando las disposiciones de la directiva anterior, estipula que "los sistemas de armas autónomas y semi-autónomas deben diseñarse para permitir que los comandantes y operadores ejerzan un nivel apropiado de juicio humano sobre el uso de la fuerza". Si bien esta redacción reconoce el valor del juicio humano, que es esencial para cumplir con el derecho internacional humanitario, ni la directiva anterior ni la actual especifican qué constituye un "nivel apropiado" de juicio humano ni quién lo determinará (Human Rights Watch 2023).

Sin embargo, la directiva revisada refleja de manera más realista cómo se pueden aplicar las tecnologías en rápida evolución. Por ejemplo, se agregó una nueva mención a la IA y se estableció una distinción clara entre IA y autonomía. También se estipula que incluso cuando se agregan funciones autónomas a los sistemas existentes, se debe pasar por este proceso de revisión adicional, y esto se aplica incluso si el sistema se ha utilizado durante muchos años (Lamberth 2023).

La estrategia estadounidense se tiene en cuenta la competencia estratégica con China. El programa 'Replicator' de EE. UU., anunciado en agosto de 2023, aborda desafíos técnicos y humanos significativos en la adquisición y el desarrollo del Departamento de Defensa, ya que la revolución de la IA promete cambiar la forma de hacer la guerra.

En el momento del anuncio, el Subsecretario de Defensa, Hicks, enfatizó la necesidad de desarrollar sistemas de armas autónomas estadounidenses en el contexto de la competencia estratégica con China.

Nos enfrentaremos a las masivas fuerzas del Ejército Popular de Liberación (EPL) de China con una fuerza masiva, pero nuestra fuerza será impredecible, difícil de alcanzar y aún más difícil de superar. A través de talento superior, conceptos inteligentes y tecnología avanzada, nuestras fuerzas serán más ágiles gracias al apoyo y la urgencia del sector comercial.

Como hemos visto en Ucrania, las nuevas tecnologías desarrolladas por empresas comerciales y no tradicionales, desde Starlink hasta Switchblade y las imágenes satelitales comerciales, pueden desempeñar un papel decisivo en la defensa contra los ataques militares modernos. Estas tecnologías son un complemento importante a las capacidades tradicionales, que siguen siendo esenciales. Hemos establecido un gran objetivo para 'Replicator' porque necesitamos derribar barreras y acelerar el cambio con urgencia: desplegar miles de sistemas autónomos consumibles en múltiples dominios en los próximos 18 a 24 meses... Y 'Replicator' no se tratará solo de producción. También nos centraremos en replicar e infundir las formas de lograr este objetivo, para poder expandir iterativamente lo que es relevante en el futuro. De acuerdo con la Estrategia de Defensa Nacional y el Concepto de Guerra Conjunta, utilizaremos capacidades autónomas de manera que aprovechemos nuestra ventaja continua... En este sentido, los sistemas autónomos en todos los dominios ayudarán a abordar el desafío de los sistemas de negación de acceso/área (A2AD). Neutralizaremos su A2AD con nuestro A2AD (Hicks 2023).

Actualmente, la cartera del Departamento de Defensa incluye más de 800 proyectos desclasificados relacionados con la IA, y se sabe que muchos de ellos aún están en fase de prueba. En general, el aprendizaje automático y las redes neuronales ayudan a los humanos a obtener información y generar eficiencia. Para una red más eficiente entre los combatientes, el Departamento de Defensa está persiguiendo el desarrollo de una red de combate llamada Comando y Control Integrado Conjunto de Todos los Dominios (JADC2), que automatiza el procesamiento de datos entre todas las fuerzas. Sin embargo, esta tarea es masiva y presenta el desafío de superar la burocracia.

Por ejemplo, el programa 'Loyal Wingman' de la Fuerza Aérea planea emparejar aeronaves tripuladas con aeronaves autónomas. Por ejemplo, un piloto de F-16 podría enviar un dron para reconocimiento, para atraer ataques enemigos o para atacar objetivos. Los líderes de la Fuerza Aérea tienen como objetivo poner en marcha este programa a finales de la década de 2020. Sin embargo, el cronograma de Loyal Wingman es demasiado ambicioso y también hay problemas de compatibilidad con el cronograma de 'Replicator'. Actualmente, los únicos sistemas de armas que se consideran confiables para operar de forma autónoma son los puramente defensivos, como el sistema de defensa antimisiles 'Phalanx'. Los problemas, como que los sistemas no funcionen según lo previsto o dañen a no combatientes o aliados, son más importantes que las decisiones autónomas de las armas (Bajak 2023).

IV. Esfuerzos de Regulación de Sistemas de Armas Autónomas

Se han realizado esfuerzos continuos para controlar la destructividad de las armas autónomas, especialmente los problemas impredecibles cuando se combinan con la IA. Existen esfuerzos para regular la IA en general, como la Cumbre de Alto Nivel de Seúl sobre el Uso Responsable de la IA en el Dominio Militar (REAIM Summit 2024) que se celebrará en septiembre, y también se han realizado esfuerzos para regular los sistemas de armas autónomas letales en sí mismos. Históricamente, la Convención sobre Prohibiciones o Restricciones de Ciertas Armas Convencionales (CCW) entró en vigor en diciembre de 1983, un tratado internacional que prohíbe y restringe el uso de ciertas armas convencionales que producen resultados inhumanos. En 2010, la Asamblea General de la ONU presentó un informe del Relator Especial Philip Alston señalando los problemas de la tecnología de robots asesinos, lo que inició el debate sobre la regulación de las armas autónomas letales.

En 2011, el Comité Internacional de la Cruz Roja (CICR) inició discusiones formales sobre sistemas de armas autónomas, y en la reunión del CICR celebrada ese año se discutieron los problemas y el concepto de sistemas de armas autónomas. En noviembre de 2013, la Conferencia de las Partes en la CCW decidió iniciar discusiones sobre Sistemas de Armas Autónomas Letales (LAWS). Posteriormente, se celebraron tres reuniones informales de expertos en la CCW de mayo de 2014 a 2016, en las que se discutieron los sistemas de armas autónomas letales.

En diciembre de 2016, la Quinta Conferencia de Revisión de la CCW decidió establecer un Grupo de Expertos Gubernamentales sobre Sistemas de Armas Autónomas Letales (GGE LAWS) con la participación de todas las partes. A partir de 2017, las reuniones de la CCW se transformaron en reuniones abiertas del Grupo de Expertos Gubernamentales sin restricciones de participación. En 2018, la reunión del Grupo de Expertos Gubernamentales sobre Sistemas de Armas Autónomas Letales (GGE LAWS) adoptó un informe que incluía 10 Principios Rectores Posibles, a través de discusiones sobre las características de las armas letales que utilizan tecnologías autónomas como la IA, el control humano, las políticas y las aplicaciones militares. En la Conferencia de las Partes de la CCW de 2019, se adoptaron finalmente 11 Principios Rectores, que incluían la "interacción humano-máquina" (Yoo Jun-gu 2019a; 2019b).

El 22 de diciembre de 2023, la Asamblea General de la ONU adoptó la primera resolución sobre los peligros de los sistemas de armas autónomas letales. La resolución se aprobó con 152 votos a favor, 4 en contra y 11 abstenciones, y reconoció los "serios desafíos y preocupaciones" planteados por las nuevas aplicaciones tecnológicas en el ámbito militar, incluida la IA y la autonomía. Dentro del marco de la CCW, las reuniones del Grupo de Expertos Gubernamentales sobre Sistemas de Armas Autónomas Letales continuaron en 2020 y 2021. En noviembre de 2023, las Partes en la CCW acordaron reunirse durante 20 días en 2024 y 2025 para "considerar y formular los elementos de un documento jurídicamente vinculante por consenso".

China mantiene una ambigüedad estratégica sobre los sistemas de armas autónomas. Aunque abogó por la prohibición de los sistemas de armas autónomas en la Convención de la ONU sobre Ciertas Armas Convencionales (CCW) en 2016, ha estado impulsando el desarrollo de sistemas de armas autónomas al anunciar su plan de desarrollo de IA en 2017. En general, adopta una postura de restringir el uso de sistemas de armas completamente autónomas, pero China también tiene el objetivo de obtener una ventaja militar a través del desarrollo, y para ello está promoviendo una estrategia de fusión civil-militar.

Mientras tanto, las voces que piden la negociación de un nuevo tratado internacional para regular los sistemas de armas autónomas letales están creciendo en la comunidad internacional. Las ONG, incluida Human Rights Watch, exigen el inicio de negociaciones para un tratado internacional vinculante, aprovechando la adopción de la resolución de la Asamblea General de la ONU. Estas tendencias demuestran que la preocupación de la comunidad internacional por los sistemas de armas autónomas letales está aumentando y que las discusiones para regularlos se están volviendo más activas.

Los principales puntos de controversia en estos esfuerzos de regulación son los siguientes. En primer lugar, la definición de sistemas de armas autónomas. Dado que el alcance de los sistemas de armas autónomas es muy amplio y la complejidad técnica aumenta, se vuelve más difícil comprender cómo funcionan los sistemas de armas, sus aplicaciones y sus posibles consecuencias, y también surgen desafíos para garantizar la responsabilidad y la rendición de cuentas humanas.

En segundo lugar, la discusión sobre la forma que adoptará la nueva regulación. El consenso sobre cómo funcionará realmente la regulación está lejos. Algunos países abogan por la promulgación de normas sobre el uso y la transferencia de estos sistemas, mientras que otros abogan por una prohibición estricta de ciertos tipos de sistemas de armas. Muchos otros países desean un enfoque dual que combine prohibición y regulación.

En tercer lugar, la discusión sobre la necesidad de una nueva herramienta global. Existe un amplio consenso entre las Naciones Unidas, la Cruz Roja y casi todos los países con la voluntad política de regular los sistemas de armas autónomas de que el derecho internacional humanitario y el derecho internacional de los derechos humanos se aplican a su desarrollo y uso. Sin embargo, todavía se debate si el derecho internacional existente es suficiente o si se necesitan nuevas reglas específicas para la tecnología para controlarla de manera efectiva.

En cuarto lugar, la discusión sobre qué foro utilizar. Hasta la fecha, el debate entre países sobre sistemas de armas autónomas se ha centrado principalmente dentro de la Convención sobre Ciertas Armas Convencionales, y los gobiernos convocaron por primera vez una reunión sobre el tema de los sistemas de armas completamente autónomas en 2013. En 2017, se estableció un Grupo de Expertos Gubernamentales sobre Sistemas de Armas Autónomas Letales bajo el marco de la CCW, cuya misión era promover una comprensión común sobre este tema. Sin embargo, este grupo solo acordó consideraciones adicionales para abordar el problema, sin llegar a discutir opciones legales o regulatorias, y no logró un progreso sustancial en la solicitud del Secretario General de la ONU de una regulación internacional. Las recientes reuniones regionales sobre sistemas de armas autónomas han instado a los países a considerar la promoción de discusiones sobre regulación a través de otros foros, como la Asamblea General de la ONU. La idea de que los tratados y acuerdos internacionales puedan lograr un amplio, aunque no unánime, apoyo, ha sido un factor que ha permitido el progreso en otras áreas, como la adopción del Tratado sobre el Comercio de Armas.

Si bien hay muchas preguntas difíciles que muchos países deberán considerar en los próximos meses, el objetivo del Secretario General de la ONU para 2026 de acordar una regulación internacional sobre sistemas de armas autónomas proporciona una fecha límite que debemos tener en cuenta. La resolución de la Asamblea General sobre sistemas de armas autónomas letales ordena al Secretario General que prepare un informe a finales de este año que refleje las diversas opiniones de países, organizaciones internacionales y regionales, el CICR, la sociedad civil y la comunidad científica e industrial.

Otro punto clave de las futuras discusiones será la participación significativa de los países no occidentales y la sociedad civil. Las organizaciones de la sociedad civil han desempeñado un papel importante en la dirección de las discusiones internacionales sobre la regulación de la IA militar y los sistemas de armas autónomas, transmitiendo las preocupaciones de los ciudadanos de todo el mundo y desarrollando una profunda comprensión de los avances tecnológicos y los riesgos que pueden afectar a toda la humanidad (Linney y Tang 2024).

Si la regulación de los sistemas de armas autónomas se materializa en el futuro, surgirán muchas cuestiones. Como se mencionó anteriormente, la definición de sistemas de armas autónomas y el marco regulatorio son problemas, pero también puede surgir el problema de la desigualdad entre las grandes potencias y las potencias débiles en torno al desarrollo de sistemas de armas autónomas. Comparado con el Tratado de No Proliferación Nuclear (TNP), ha sido criticado por ser intrínsecamente desigual porque estableció un sistema que permite que solo unos pocos países posean armas nucleares mientras prohíbe a otros adquirirlas. De manera similar, un sistema regulatorio para sistemas de armas autónomas podría permitir que algunos países posean sistemas de armas autónomas mientras prohíben a otros adquirirlos, lo que podría conducir a otra forma de sistema internacional desigual.

Otra razón por la que el marco regulatorio para los sistemas de armas autónomas es difícil es la dificultad de verificación y aplicación. Los sistemas de armas autónomas se basan en software y pueden tener doble uso, lo que hace muy difícil detectar o regular su desarrollo. La velocidad del avance tecnológico también puede superar los esfuerzos de regulación, y los estados pueden no estar de acuerdo con la regulación por temor a perder su ventaja tecnológica. En particular, la IA, como tecnología de propósito general, se desarrolla para diversos intereses y utilidades comerciales y civiles, lo que hace muy difícil su regulación. Teniendo en cuenta que los desarrolladores no son solo los gobiernos, sino muchas empresas de alta tecnología, sus opiniones son inevitables. En última instancia, la comunidad internacional debe considerar de manera integral las posiciones de las diversas partes interesadas y, tomando como lección la desigualdad del régimen de no proliferación nuclear, se enfrenta a la dificultad de establecer un marco integral, equitativo y transparente para los sistemas de armas autónomas.

V. Competencia de las Grandes Potencias en Torno a los Sistemas de Armas Autónomas y el Futuro

No hay gran desacuerdo entre científicos, expertos de la industria y funcionarios del Departamento de Defensa en que Estados Unidos tendrá armas letales completamente autónomas en los próximos años. En el caso de EE. UU., los funcionarios del Departamento de Defensa afirman que los humanos siempre mantendrán el control, pero los expertos dicen que la velocidad del procesamiento de datos y los avances en la comunicación entre máquinas finalmente empujarán a las personas a roles de supervisión. Esto es especialmente cierto cuando las armas letales se despliegan en grandes cantidades, como en el caso de los enjambres de drones. Tampoco está claro si el Departamento de Defensa de EE. UU. está evaluando actualmente los sistemas de armas autónomas para su despliegue a través de canales oficiales de acuerdo con la directiva de 2012 y la directiva revisada. El problema es aún más grave en el caso de otros países además de EE. UU., ya que las directivas claras son aún más ambiguas.

Teniendo en cuenta estos puntos, la competencia entre las grandes potencias en torno a los sistemas de armas autónomas se intensificará en el futuro, y el futuro de la regulación de los mismos parece difícil. En primer lugar, los sistemas de armas autónomas plantean problemas en el sentido de que su comportamiento es peligrosamente impredecible. La compleja interacción entre los algoritmos basados en aprendizaje automático y los entornos operativos dinámicos hace que sea muy difícil predecir el comportamiento de estas armas en situaciones reales. Estos sistemas de armas están diseñados para ser intrínsecamente impredecibles. Esto se debe a que están programados para actuar de forma impredecible a propósito para adelantarse a los sistemas del enemigo.

En segundo lugar, los sistemas de armas autónomos, debido a su velocidad y escala operativa, plantean el riesgo de una escalada accidental y rápida de conflictos. Un estudio reciente del RAND Institute concluyó que “la velocidad de los sistemas autónomos condujo a una escalada no intencionada del conflicto en un ejercicio de guerra” y que “la proliferación de IA y sistemas autónomos podría conducir a una escalada no intencionada del conflicto y a la inestabilidad de la crisis”. El Instituto de las Naciones Unidas para la Investigación del Desarme (UNIDIR) coincidió con las conclusiones del RAND Institute. La Comisión Nacional de Seguridad sobre Inteligencia Artificial (NSCAI), una agencia cuasi gubernamental de los Estados Unidos, también reconoció que “la escalada no intencionada del conflicto puede ocurrir con sistemas autónomos aplicados por IA en el campo de batalla si los sistemas no funcionan como se pretendía, o debido a las interacciones complejas y no probadas entre la IA y los sistemas autónomos”. Se afirmó que “es muy probable que los sistemas de IA aumenten la velocidad y la automatización de la guerra en general, reduciendo el tiempo y el espacio para las medidas de mitigación de conflictos”.

En tercer lugar, debido a la facilidad de adquisición de ciertas armas, los llamados "Slaughterbots" son muy baratos de producir en masa, ya que no requieren materias primas caras o difíciles de obtener. Tienen la característica de ser seguros de transportar y difíciles de detectar. Si las principales potencias militares comienzan a fabricar estos sistemas de armas, pronto se propagarán. En última instancia, es probable que estas armas aparezcan en el mercado negro y caigan en manos de terroristas, dictadores y señores de la guerra, utilizándose para llevar a cabo limpiezas étnicas o masacres. De hecho, la Comisión Nacional de Seguridad de los Estados Unidos identificó la reducción del riesgo de proliferación como una tarea importante para mitigar los riesgos estratégicos de la IA en el ámbito militar.

En cuarto lugar, tradicionalmente, la guerra ha servido como un elemento disuasorio debido al alto costo de producción de armas convencionales y al costo de las pérdidas humanas, y por otro lado, ha fomentado la diplomacia. Sin embargo, la aparición de armas baratas y escalables puede debilitar estos criterios disuasorios. El riesgo de escalada rápida y no intencionada de conflictos, combinado con la proliferación de armas autónomas, puede tener el mismo efecto de reducir la barrera de entrada a la guerra.

En quinto lugar, los sistemas de armas autónomos son fáciles de escalar y proliferar. Esto significa que la escala del daño causado por las armas autónomas depende únicamente del número de robots asesinos, no del número de personas que operan las armas. Esto contrasta marcadamente con las armas convencionales. Las potencias militares no pueden infligir el doble de daño simplemente comprando el doble de armas de fuego; deben reclutar el doble de soldados para dispararlas. Sin embargo, un enjambre de robots asesinos, grande o pequeño, puede ser activado por una sola persona, y los robots asesinos que lo componen se dispararán por sí mismos.

La amenaza de escalabilidad y proliferación combinada crea la amenaza de destrucción masiva. Las armas de destrucción masiva se caracterizan por la capacidad de causar un gran número de muertes por parte de una sola persona, y con armas autónomas, una sola persona podría teóricamente activar un enjambre de cientos o miles de robots asesinos. La proliferación aumenta la probabilidad de que estas grandes cantidades de armas caigan en manos de personas con intenciones caóticas, y la escalabilidad multiplica el poder de esa persona. Debido a estas consideraciones, algunos clasifican ciertos tipos de sistemas de armas autónomas, es decir, robots, como armas de destrucción masiva.

En sexto lugar, basarse únicamente en datos de sensores, especialmente para seleccionar y matar individuos a través del reconocimiento facial u otra información biométrica, aumenta significativamente el riesgo de apuntar selectivamente a grupos específicos en función de la edad, el sexo, la raza, la etnia o la vestimenta religiosa. Combinado con el riesgo de proliferación, las armas autónomas podrían aumentar drásticamente la violencia contra grupos específicos, hasta la limpieza étnica y el genocidio. Además, el software de reconocimiento facial ha demostrado reforzar los sesgos y aumentar las tasas de error en la identificación correcta de minorías, especialmente mujeres o personas de color. El impacto desproporcionado que los sistemas de armas autónomas pueden tener en la raza y el género es un área de gran preocupación para la sociedad civil.

Estas amenazas son particularmente notables en el contexto del creciente uso del reconocimiento facial en la labor policial y la discriminación étnica. Algunas empresas citan su interés en el desarrollo de sistemas letales debido a su negativa a firmar un compromiso contra la militarización del software de reconocimiento facial.

En séptimo lugar, evitar una carrera armamentista de IA es un principio fundamental de la IA ética, pero se considera que la carrera armamentista de IA ya ha comenzado en ausencia de esfuerzos globales unificados para enfatizar los peligros de los sistemas de armas autónomas y generar presión política. La dinámica de la carrera armamentista prioriza la velocidad sobre la seguridad, exacerbando aún más los riesgos inherentes de imprevisibilidad y escalada de conflictos (Autonomous Weapons 2024).

La competencia en torno a los sistemas de armas autónomos continuará en el futuro, y los esfuerzos de la sociedad internacional y civil para controlarlos enfrentarán dificultades. La Marina de los Estados Unidos ya completó una demostración en octubre de 2023 en la que un barco no tripulado atacó con éxito un objetivo enemigo simulado utilizando un cohete real. El Pentágono parece estar trabajando en más de 800 proyectos de IA militar, incluidos drones enjambre como el programa Loyal Wingman y los drones aéreos V-BAT. China está desarrollando sistemas de armas autónomas basándose en su doctrina de fusión civil-militar. A partir de 2022, se ha confirmado evidencia de un enjambre de drones completamente autónomo compuesto por 10 drones atravesando un bosque en China. En respuesta, la Armada Australiana también está desarrollando submarinos autónomos impulsados por IA llamados "Ghost Sharks".

Además, no se puede tener certeza sobre el control de los sistemas de armas autónomos combinados con la IA. Por ejemplo, en junio de 2023, el Coronel de la Fuerza Aérea de los Estados Unidos Tucker Hamilton, responsable de pruebas y operaciones de IA, describió una prueba de simulación en la que un dron operado por IA fue entrenado para destruir sistemas de defensa aérea enemigos. El dron fue entrenado de tal manera que se le otorgaban "puntos" cada vez que eliminaba una amenaza. Sin embargo, cuando el operador humano le ordenó que no destruyera el objetivo, el dron destruyó la torre de comunicaciones utilizada para operarlo, efectivamente "eliminando" al operador. El Coronel Hamilton afirmó que nadie resultó herido en este ejercicio, y posteriormente retiró por completo sus declaraciones. Un portavoz de la Fuerza Aérea de los Estados Unidos negó que esta simulación hubiera ocurrido. Aunque los detalles exactos siguen siendo poco claros, puede verse como un ejemplo de cómo el uso imprudente de la IA puede conducir a resultados catastróficos no intencionados (Tripathi 2024).

A largo plazo, se espera que el desarrollo de sistemas de armas autónomos traiga consigo cambios significativos en la naturaleza de la guerra y la competencia estratégica militar. Si bien automatizan el combate y aceleran la velocidad al tiempo que reducen el riesgo de combate al minimizar o eliminar la intervención humana, la posibilidad de errores de juicio y mal funcionamiento puede exacerbar las tensiones entre países. En particular, en el contexto de la competencia estratégica entre Estados Unidos y China, China busca obtener una ventaja militar integrando la IA y las tecnologías emergentes, mientras que Estados Unidos, al perseguir la victoria en la competencia, puede desencadenar una carrera armamentista y amenazar la estabilidad estratégica. La intensa competencia tecnológica entre ambos países está teniendo un impacto significativo en el equilibrio de poder militar, y estos cambios también están vinculados a cuestiones éticas y legales en la comunidad internacional.

VI. La aparición y evolución de la guerra cognitiva

1. Definición de guerra cognitiva

Junto con los sistemas de armas autónomos, la guerra cognitiva se convertirá en un campo importante que caracterizará la guerra futura en la era de la IA. La guerra cognitiva es una estrategia que busca cambiar la forma de pensar de un objetivo y, a través de ello, cambiar su comportamiento. Su objetivo es influir en la opinión pública (1) y desestabilizar las instituciones públicas (2) al instrumentalizar la opinión pública por parte de actores hostiles extranjeros. La guerra cognitiva es un desarrollo reciente que ha evolucionado a partir de formas de ataque anteriores, como las operaciones psicológicas (PSYOP) y la guerra de información, que surgieron en la década de 1920 después de la Primera Guerra Mundial. La guerra cognitiva depende cada vez más de las nuevas tecnologías de comunicación e información, incluida la IA. Una característica clave de la guerra cognitiva es que se dirige a toda la población. Por ejemplo, a diferencia de las tácticas anteriores que se dirigían únicamente a los ejércitos en tiempos de guerra. La guerra cognitiva no se limita a proporcionar información falsa sobre un tema específico, ni busca simplemente cambiar el comportamiento del objetivo, sino que se centra en cambiar la forma de pensar del oponente para inducir un cambio de comportamiento.

La guerra cognitiva se está volviendo cada vez más sofisticada gracias a los avances en las ciencias cognitivas y la neurociencia. También se discute la posibilidad de utilizar técnicas de manipulación psicológica y técnicas neurofisiológicas como la estimulación transcraneal por corriente directa (TDCS). La guerra cognitiva tiene como objetivo desestabilizar las instituciones públicas, como los gobiernos, pero a menudo busca lograr su objetivo indirectamente al desestabilizar primero las instituciones relacionadas con la información y el conocimiento, como los medios de comunicación y las universidades. Es importante destacar que la guerra cognitiva puede aprovechar los nuevos canales de comunicación masiva, como las redes sociales, de los que dependen cada vez más las masas (Miller 2023, 46).

La guerra cognitiva es, en esencia, una amenaza habilitada por la ubicuidad de las máquinas y los big data. Internet no solo permite la transmisión rápida de información a nivel mundial utilizando computadoras personales y teléfonos inteligentes, sino que los humanos y las máquinas están cada vez más entrelazados, especialmente con el reciente auge de Internet de las Cosas (IoT) y la tecnología 5G. Esto ofrece aún más posibilidades de explotación y manipulación (Firth et al. 2019, 119-129).

2. Diferencias entre guerra cognitiva y guerra de información, guerra cibernética, etc.

La guerra cognitiva presenta un nuevo patrón de conflicto que difumina las líneas entre la guerra y la paz. No es una guerra abierta en el campo de batalla, sino una guerra encubierta para influir en los mecanismos cognitivos del adversario o competidor, especialmente en sus procesos de toma de decisiones. La OTAN define la guerra de información como "operaciones llevadas a cabo para obtener una ventaja informativa sobre el adversario". La guerra de información se centra en la información en sí misma, la manipulación de la información, el flujo de información, los métodos para proteger o capturar información y cómo se utiliza. Por otro lado, la guerra cognitiva se describe como "un ataque a la forma en que pensamos, procesamos la información y la convertimos en conocimiento". En otras palabras, la guerra cognitiva es "una lucha para controlar o alterar la forma en que las personas reaccionan a la información". Si la guerra de información se relaciona con el proceso de construcción del conocimiento, la guerra cognitiva no solo se enfoca en la información táctica del campo de batalla, sino que también influye en la información para el público en general (Morelle et al. 2023).

La guerra cognitiva se distingue de la guerra cibernética, los conflictos cibernéticos previos a la guerra, el terrorismo cibernético, el crimen cibernético, el espionaje cibernético y las operaciones encubiertas conocidas como guerra cognitiva encubierta. Estas diversas formas de actos de agresión pueden causar los siguientes daños. Primero, daño físico o psicológico a los humanos. Aquí, el daño psicológico incluye actos engañosos o manipuladores que inducen creencias falsas o actitudes emocionales injustificadas con la intención de debilitar la autonomía humana. Segundo, hay daño a edificios, hardware de tecnología de la información y comunicación y otros artefactos humanos (y al medio ambiente natural que sustenta la vida humana). Tercero, se pueden mencionar daños cibernéticos como daños a software y datos. Cuarto, hay daño institucional o perjuicio que socava los procesos y propósitos de ciertas instituciones. Por ejemplo, una fuga significativa de secretos en una agencia de seguridad o la pérdida del control institucional sobre un territorio. Socavar ciertos procesos y propósitos institucionales puede tener como objetivo debilitar la institución en sí, y especialmente cuando las creencias y actitudes de los actores institucionales o las personas a las que sirven son el objetivo. Por ejemplo, la erosión de la confianza en el sistema electoral que ocurrió en las elecciones presidenciales de EE. UU. de 2020 puede considerarse un caso de esto. El enfoque principal de la guerra cognitiva puede decirse que está en el primer tipo de daño, especialmente el daño psicológico, y el cuarto tipo de daño, es decir, el daño o perjuicio institucional (Miller 2023, 46).

Fuente: Hung, Tzu-Chieh, y Tzu-Wei Hung. "Cómo funciona la guerra cognitiva de China: una perspectiva de primera línea de las guerras contra la desinformación de Taiwán". Journal of Global Security Studies 7, 4: 3.

VII. La aparición y evolución de la guerra cognitiva

La introducción de la IA está cambiando fundamentalmente la forma en que se lleva a cabo la guerra cognitiva. Los avances en la tecnología de IA permiten estrategias más sofisticadas y eficientes en el dominio cognitivo, y estos cambios conllevan diversos problemas de seguridad. La IA, a través de su capacidad para imitar o reemplazar los procesos cognitivos humanos, puede ser utilizada de maneras que influyen profundamente en el pensamiento y el comportamiento humanos. Esto redefine la naturaleza de la guerra cognitiva y presenta una amenaza de una dimensión diferente a la guerra psicológica tradicional.

En primer lugar, la IA puede generar contenido falso muy convincente a través de la tecnología de deepfake. Esto puede aparecer en forma de imágenes, videos o grabaciones de audio, creando información falsa a un nivel indistinguible de la realidad. Estos deepfakes pueden usarse para difundir información falsa, manipular la opinión pública e incluso chantajear a individuos. En consecuencia, estas tecnologías pueden ser utilizadas de manera efectiva por actores hostiles en la guerra cognitiva para destruir la estabilidad psicológica del adversario.

En segundo lugar, la IA puede difundir rápidamente información falsa y errónea. Los algoritmos de IA tienen la capacidad de amplificar ciertos mensajes y propagarlos ampliamente a través de redes sociales. Esto puede tener consecuencias como la distorsión de los procesos políticos, la creación de inestabilidad social y la erosión de la confianza en las instituciones. En particular, esta manipulación de la información puede servir como una poderosa herramienta para guiar la opinión pública en la dirección deseada por los actores hostiles, al nublar la percepción y el juicio del público.

En tercer lugar, los sistemas de IA pueden aprender y perpetuar los sesgos inherentes en los datos. Esto tiene el potencial de exacerbar las desigualdades sociales y reforzar la discriminación contra ciertos grupos. En la guerra cognitiva, estos sistemas de IA sesgados pueden ser utilizados para apuntar a poblaciones específicas y manipular sus comportamientos y creencias.

En cuarto lugar, la tecnología de IA puede provocar violaciones de la privacidad. Tecnologías como el reconocimiento facial, el procesamiento del lenguaje natural y la minería de datos ofrecen la capacidad de rastrear la ubicación, los patrones de comportamiento e incluso los pensamientos de los individuos. Esto puede ser utilizado como una herramienta para limitar la libertad cognitiva de individuos o grupos específicos a través de la vigilancia y el control.

En quinto lugar, la IA permite la entrega de contenido personalizado, lo que facilita a los actores maliciosos la realización de manipulaciones psicológicas dirigidas a individuos o grupos específicos. Este enfoque personalizado puede conducir a ideologías o comportamientos extremos, lo que a su vez puede causar división social.

En sexto lugar, la IA permite ataques cibernéticos automatizados. Por ejemplo, la IA puede generar correos electrónicos de phishing difíciles de detectar o proporcionar herramientas que descubren y explotan automáticamente las vulnerabilidades del software. Estos ataques automatizados pueden ser utilizados en la guerra cognitiva para destruir la infraestructura de información del adversario o causar confusión.

En séptimo lugar, los sistemas de IA son vulnerables a ataques adversarios. Los atacantes pueden manipular cuidadosamente los datos de entrada de un sistema de IA para inducir predicciones o clasificaciones erróneas. Esto puede dañar la integridad del sistema y, por lo tanto, ser utilizado como un medio para distorsionar u ocultar información importante en la guerra cognitiva.

Finalmente, a medida que la IA desempeña un papel importante en la guerra cognitiva, existe el riesgo de una disminución de las capacidades de pensamiento crítico y la autonomía humana. La dependencia excesiva de los sistemas de IA reduce la capacidad de los individuos y las organizaciones para adaptarse cuando los sistemas de IA fallan o no están disponibles, lo que en última instancia debilita el liderazgo humano en la guerra cognitiva (Huang et al. 2023).

VIII. Los efectos perjudiciales de la manipulación cognitiva

Los efectos perjudiciales de la manipulación cognitiva ya se experimentan ampliamente en la política interna. La desinformación política y el discurso de odio provocan división social y polarización. Esto no solo erosiona la confianza entre individuos y grupos, sino que también socava los procesos democráticos y la estabilidad social. La desinformación difunde hechos falsos, distorsiona la percepción de las personas y puede ser utilizada para fines políticos específicos. La desinformación aborda temas emocionalmente sensibles para provocar fuertes reacciones en las personas, amplificando así los conflictos sociales.

El discurso de odio se dirige a grupos específicos, atacando sus identidades y socavando la cohesión social. Crea una atmósfera de exclusión u hostilidad hacia ciertos grupos dentro de la sociedad, lo que en última instancia exacerba la división social (Vasist et al. 2023).

A nivel internacional, la guerra cognitiva llevada a cabo por actores hostiles es una forma de conflicto en el ciberespacio en la que grupos organizados participan en programas continuos que utilizan desinformación, propaganda y tácticas manipuladoras para controlar el discurso en línea y desacreditar a los oponentes políticos. Esto incluye no solo destruir la reputación del oponente con afirmaciones infundadas, sino también dirigirse a grupos vulnerables basados en perfiles para desestabilizar las instituciones políticas. Esto podría conducir potencialmente a amplias rebeliones violentas y al colapso del orden político existente.

La IA tiene el potencial de revolucionar la forma en que se lleva a cabo la guerra cognitiva, permitiendo estrategias más sofisticadas y efectivas. La IA es un campo de la informática que se centra en el desarrollo de máquinas inteligentes capaces de realizar tareas que normalmente requieren inteligencia humana. La IA ha demostrado capacidades notables en diversos campos, como la visión por computadora, el aprendizaje automático, la atención médica, la robótica y los sistemas autónomos. Los cambios que la IA aporta a la guerra cognitiva son significativos y de gran alcance. La manipulación de emociones, la difusión de información falsa y el uso de tácticas psicológicas para influir en las creencias y comportamientos de las personas pueden tener un impacto negativo en los individuos, las sociedades y los procesos democráticos (Sârbu y Gavrilaș 2023).

Una de las razones por las que es difícil prevenir los efectos perjudiciales de la guerra cognitiva es el "problema de la atribución de responsabilidad". A diferencia de la guerra tradicional, donde la mayoría de los ataques, o delitos similares como la agresión tradicional o el robo, implican un problema significativo en la atribución confiable de responsabilidad en relación con la guerra cognitiva. Cuando un estado lleva a cabo guerra cognitiva contra otro, existe el problema de la atribución de responsabilidad y, como resultado, la credibilidad de la negación se convierte en un problema. Dado que los estados democráticos liberales que son atacados suelen valorar la libertad de comunicación, la guerra cognitiva se convierte en una estrategia muy útil para los estados autoritarios que buscan debilitar a las democracias liberales mientras evitan la guerra total (Miller 2023, 46).

IX. La estrategia de guerra cognitiva de China

1. El sistema de guerra cognitiva de China

China considera que la guerra cognitiva es una nueva forma de operación, que se ha convertido en otra nueva área de confrontación, siguiendo la confrontación de fuerzas militares, la confrontación de potencia de fuego y la confrontación de información. A diferencia del dominio físico y el dominio de la información, el objetivo de las operaciones en el dominio cognitivo son el pensamiento y la ideología, por lo que tiene requisitos internos claramente distintos de otras formas de operación.

La guerra cognitiva considera que la ocupación de las alturas dominantes del valor es una condición previa para la victoria. Para asegurar el liderazgo en la guerra cognitiva, es necesario investigar a fondo la búsqueda de valor del adversario, acceder a los grupos lingüísticos de la cultura del adversario y comprender claramente las creencias políticas y las demandas de intereses del adversario, de modo que la eficacia de las operaciones cognitivas pueda llegar hasta la base de creencias y el núcleo del alma del adversario. Al mismo tiempo, es importante explicar y difundir científicamente el contenido y la esencia de los valores superiores de la propia nación, para convertir al adversario a los valores superiores y a los logros de la civilización humana superior. En última instancia, China considera el cerebro cognitivo como el principal campo de batalla. En comparación con la 'guerra de desgaste' que se centra en aniquilar las fuerzas principales del enemigo, o la 'guerra de movimiento' que se centra en destruir el sistema del enemigo, las operaciones en el ámbito cognitivo utilizan el cerebro humano como el principal espacio de combate, centrándose en golpear, debilitar y desintegrar la voluntad de lucha del enemigo, y utilizando las debilidades psicológicas humanas como el miedo, la ansiedad y la duda como puntos de ruptura, para lograr el objetivo de 'ganar sin luchar' al depender de medios de 'soft kill' para crear una atmósfera de ansiedad, incertidumbre y desconfianza dentro del enemigo, aumentar los conflictos internos y el desgaste, y cuestionar la toma de decisiones.

Se cree que con el rápido avance de la militarización de la IA en el futuro, la superioridad intelectual en la guerra de IA será el factor principal de victoria, los sistemas de armas de IA se convertirán en la principal fuerza de combate, y la obtención de "autoridad intelectual" será la nueva altura a conquistar en la guerra. Se cree que utilizando equipos cognitivos, se puede impedir que el enemigo obtenga información efectiva, obligarlo a usar información falsa, retrasar la velocidad cognitiva, guiar el modo cognitivo y bloquear la salida cognitiva, lo que puede confundir la toma de decisiones del mando enemigo, desmoralizar a las tropas y lograr el efecto de un "ataque psicológico".

China otorga gran importancia a la guerra de opinión pública, considerando que es importante presionar al adversario y obtener la percepción pública controlando y manipulando diversas herramientas de opinión pública, y cree que se debe utilizar la red social y la tecnología de medios fusionados para romper el bloqueo y las restricciones del adversario y llegar directamente a los grupos objetivo.

Se explica que en el futuro, las ciencias cognitivas son un campo de investigación emergente, una disciplina avanzada que explora los mecanismos de funcionamiento del cerebro y la mente humana, y que la tecnología de interfaz cerebro-máquina realiza la combinación humano-máquina en el nivel cognitivo, permitiendo externamente el control de la conciencia, es decir, el control del cerebro, y fortaleciendo internamente la autonomía, es decir, un cerebro fuerte, lo que permite controlar directamente sistemas de armas complejos con la conciencia y el pensamiento. Se considera que actualmente se han logrado avances significativos en medios tecnológicos relacionados como el reconocimiento de emociones multimodales basado en big data, la activación y la protección, y que la recopilación de expresiones faciales, movimientos, lenguaje y tono, ondas cerebrales y varios indicadores fisiológicos de las personas para construir asociaciones emocionales, y a través de esto, reconocer las emociones e intenciones de las personas, proporciona nuevos medios para llevar a cabo operaciones de control cognitivo. Por lo tanto, se argumenta que los nuevos medios tecnológicos cognitivos y los medios tecnológicos cognitivos tradicionales deben formar un método que combine la inyección por encima del umbral y la infiltración por debajo del umbral, fortaleciendo aún más la sutileza y la eficacia de la influencia cognitiva (Zhang et al. 2022).

Además, la Academia de Ciencias Militares de China (AMS) ha publicado una obra titulada "Captando la esencia de las operaciones en el dominio cognitivo", que analiza ocho características operativas para tener éxito en el dominio cognitivo. Este trabajo proporciona información sobre cómo la tecnología, la superioridad de la información y los componentes militares y civiles desempeñan un papel en la lucha por asegurar una posición dominante en el dominio cognitivo. Es un material que ofrece una visión de la mentalidad estratégica del Ejército Popular de Liberación de China (Baughman 2023; Jamestown Foundation 2022).

Los ocho elementos de la guerra cognitiva según China son los siguientes. Primero, es importante convertir la superioridad militar en victoria política. El dominio cognitivo va más allá de la mera victoria militar, apuntando en última instancia a resultados políticos. Segundo, es necesario controlar las decisiones y acciones del adversario cambiando su percepción. A través de esto, se induce al adversario a malinterpretar la situación y tomar decisiones equivocadas. Tercero, todo el gobierno debe participar en el ataque y la defensa. La guerra cognitiva es omnidireccional, se desarrolla a lo largo del tiempo y requiere la coordinación de todos los departamentos del gobierno para ser efectiva. Cuarto, se deben asegurar las "tres autoridades". Es importante dominar la definición de eventos, el control del proceso y el juicio de resultados para liderar la percepción pública. Quinto, se debe luchar por la superioridad de la moralidad y la ley para obtener el apoyo público. A través de esto, se puede debilitar la legitimidad moral y legal del adversario. Sexto, la información debe ser utilizada como "munición". La información se transmite rápidamente a través de plataformas como las redes sociales, suprimiendo la narrativa del adversario y difundiendo la propia. Séptimo, las operaciones militares y las narrativas cognitivas deben ir de la mano para garantizar la victoria en la guerra. Junto con la victoria militar, la narrativa cognitiva juega un papel importante en la determinación del resultado de la guerra. Por último, las herramientas de guerra cognitiva deben utilizarse directamente en la guerra. Se pretende influir directamente en la cognición del adversario y lograr los resultados deseados utilizando nuevas tecnologías como la inteligencia artificial y la biotecnología.

2. Estado actual de la guerra cognitiva de China contra Taiwán

Se discute que la guerra cognitiva de China contra Taiwán probablemente se llevará a cabo de cuatro maneras. Primero, ejerce presión psicológica sobre la cuestión de la reunificación de Taiwán a través de amenazas militares. China ha anunciado una fuerte respuesta militar a los movimientos que buscan la independencia de Taiwán, con el objetivo de reprimir la voluntad del pueblo taiwanés de apoyar la independencia. Estas amenazas militares infunden en el pueblo taiwanés la percepción de que la independencia equivale a la guerra, y de hecho, muchos taiwaneses perciben estas amenazas como una realidad. Por ejemplo, a finales de 2020, el 61,8% de los taiwaneses creía que China atacaría si Taiwán declaraba su independencia.

Segundo, expandir la influencia a través del intercambio bilateral. China intenta aumentar la dependencia de Taiwán proporcionando beneficios económicos y socioculturales a los residentes taiwaneses, y basándose en esto, intenta ejercer un mayor control. Por ejemplo, China ofrece becas y oportunidades de empleo a los jóvenes taiwaneses, intentando guiarlos hacia el sistema de China. Estas actividades se utilizan como un medio para difundir una percepción positiva de China dentro de Taiwán y expandir la influencia de China.

Tercero, intervención religiosa. China intenta fortalecer los lazos culturales y políticos con Taiwán utilizando la fe Mazu, que es popular en Taiwán. China fomenta el intercambio cultural entre ambos lados del estrecho a través de la cultura Mazu, y a través de esto, intenta infundir la percepción de que Taiwán comparte las mismas raíces culturales que China. Esta intervención religiosa contribuye a fortalecer el vínculo emocional con China dentro de Taiwán.

Cuarto, desinformación a través de Internet y operación de granjas de contenido. China opera granjas de contenido dentro de Taiwán para difundir desinformación y, a través de esto, intenta manipular la opinión pública de los taiwaneses. Esta desinformación se utiliza para crear confusión sobre situaciones políticas específicas en Taiwán y para socavar la credibilidad del gobierno taiwanés. Por ejemplo, en las elecciones locales de Taiwán de 2018, China difundió desinformación para dañar gravemente la confianza en el gobierno del Partido Progresista Democrático de Taiwán.

El principio de ejecución de la guerra cognitiva de China consiste en perturbar el sistema cognitivo del adversario a través de estímulos repetidos. Esto es similar a las técnicas de publicidad comercial, donde se busca debilitar la resistencia psicológica del adversario a través de la exposición repetida y guiar gradualmente su comportamiento en la dirección deseada. China transmite repetidamente el mismo mensaje a través de medios tradicionales y en línea, así como redes fuera de línea, con el objetivo de ejercer una influencia a largo plazo en el espacio cognitivo de los taiwaneses.

En el caso de Taiwán, la guerra cognitiva de China tiene principalmente el objetivo de reprimir la voluntad del pueblo taiwanés de apoyar la independencia y difundir una percepción positiva de la reunificación con China. Sin embargo, estos intentos no siempre tienen éxito. Por ejemplo, la propaganda positiva de China no tuvo éxito en Taiwán, y en cambio, el pueblo taiwanés está perdiendo la confianza en la prosperidad económica de China. Por otro lado, la propaganda negativa de China ha tenido un mayor efecto en Taiwán, lo que ha erosionado la confianza en el gobierno entre el pueblo taiwanés.

La guerra cognitiva de China es a largo plazo y se está desarrollando de manera sutil. En el futuro, es probable que se produzca una entrega de información precisa utilizando tecnología de inteligencia artificial, y se llevará a cabo una guerra cognitiva más efectiva a través de la manipulación de información personalizada dirigida a individuos o grupos específicos. En este contexto, es importante que Taiwán minimice la influencia de China mediante reformas estructurales sociales e intervenciones cognitivas para prepararse para la guerra cognitiva. Para ello, es necesario fortalecer la transparencia, mantener una competencia justa y construir un sistema de defensa.

En última instancia, la guerra cognitiva de China es una actividad estratégica que tiene como objetivo la reunificación a través de la presión política y psicológica sobre Taiwán. Taiwán necesita responder fortaleciendo las reformas estructurales sociales y la capacidad de respuesta cognitiva de sus ciudadanos (Hung y Hung 2020).

3. Percepción estadounidense de la guerra cognitiva de China

Estados Unidos considera que China está llevando a cabo una guerra cognitiva continua contra su país y critica los siguientes ejemplos. Primero, existe preocupación por TikTok. El gobierno de EE. UU. está preocupado por la posibilidad de que TikTok se utilice como una herramienta de guerra cognitiva para China. Ha habido llamados dentro de EE. UU. para prohibir TikTok a menos que sus propietarios chinos vendan sus participaciones, citando preocupaciones de seguridad nacional.

Segundo, hay operaciones en redes sociales. Estados Unidos ha acusado a China de librar una guerra cognitiva a través de operaciones masivas en redes sociales. Esto incluye la creación de cuentas falsas en plataformas como Facebook, Instagram, TikTok, X y Substack para difundir información falsa.

Tercero, intervención en las elecciones de Taiwán. Estados Unidos ha criticado a China por intentar influir en las elecciones de Taiwán a través de tácticas de guerra cognitiva. Esto incluye intentos de manipular la opinión pública difundiendo imágenes falsas en las redes sociales y realizando ejercicios militares.

Cuarto, preocupación por la recopilación de datos. Existe la preocupación de que China esté recopilando grandes cantidades de datos personales y biométricos de ciudadanos estadounidenses, que podrían utilizarse con fines de guerra cognitiva.

Quinto, investigación militar. El gobierno de EE. UU. ha incluido en la lista negra a institutos y empresas chinas que investigan "armas de control mental" y otras tecnologías de guerra cognitiva.

Sexto, existe la propaganda y la desinformación. Estados Unidos ha acusado a China de intentar subvertir a Estados Unidos y a los países occidentales a través de amplias operaciones de propaganda y desinformación.

Séptimo, existe la influencia ideológica. Algunos expertos estadounidenses ven los esfuerzos de China por difundir sus propios conceptos y terminología ideológicos en el discurso occidental como parte de una guerra cognitiva.

Estas acusaciones y críticas han sido planteadas por funcionarios y expertos estadounidenses, pero China a menudo niega estas afirmaciones o presenta narrativas alternativas. El alcance y la naturaleza completos de las actividades de guerra cognitiva pueden ser difíciles de probar de manera concluyente debido a su naturaleza encubierta.

X. Competencia futura entre países en torno a la guerra cognitiva

A medida que las tecnologías emergentes como la inteligencia artificial y las neurotecnologías actúan como importantes facilitadores de la guerra cognitiva, es probable que los estados sientan la necesidad de militarizar estas tecnologías de doble uso. Esto, a su vez, podría acelerar una carrera armamentista tecnológica en este campo. La dinámica de una carrera armamentista podría tener el efecto de pasar por alto las limitaciones éticas, legales y normativas en el desarrollo y uso de estas tecnologías. A medida que los estados teman quedarse atrás, es probable que renuncien a regulaciones estrictas para explotar las capacidades más destructivas en asuntos de seguridad nacional. Esto, en última instancia, podría normalizar la militarización de las mentes y conducir a una situación en la que las acciones irresponsables en el dominio cognitivo ocurran sin restricciones. Esta dinámica podría obstaculizar la formación de normas sobre la privacidad mental, la manipulación, la influencia, la autodeterminación y la integridad. A medida que estas tecnologías se convierten en importantes facilitadores de la subversión y herramientas esenciales para la seguridad nacional, la tendencia de desvinculación tecnológica entre las grandes potencias que ya está en marcha podría acelerarse aún más.

La guerra cognitiva también puede tener implicaciones generales para el equilibrio entre ataque y defensa. Los defensores de la teoría del equilibrio ataque-defensa argumentan que la estabilidad internacional depende de si vivimos en un entorno en el que el ataque tiene la ventaja o la defensa tiene la ventaja, y que el primero promueve la inestabilidad y el conflicto, mientras que el segundo promueve la estabilidad y la paz. También argumentan que la principal variable que influye en este equilibrio es la tecnología, que puede inclinar el equilibrio en cualquier dirección. En este sentido, la capacidad de librar una guerra cognitiva efectiva puede aumentar las presiones de escalada y favorecer el uso ofensivo de estas capacidades. De hecho, existe una dificultad inherente para detectar cuándo está ocurriendo un ataque cognitivo y para defenderse de él. La posibilidad de estar bajo un ataque cognitivo en un momento dado puede proporcionar un motivo de "uso preventivo" para librar la guerra cognitiva.

Cuando se utilizan intermediarios en la guerra, especialmente intermediarios tecnológicos, la negación plausible es un incentivo importante. En el caso de la guerra cognitiva, la naturaleza indefinida y no regulada de las herramientas utilizadas para llevarla a cabo, junto con su eficacia, puede facilitar esta negación plausible y fomentar aún más el "uso preventivo". Además, la guerra cognitiva se volverá aún más desestabilizadora a medida que las tecnologías que la permiten se democratizan y proliferan, haciendo que la capacidad de influir en un gran número de personas sea accesible para actores no estatales, corporaciones e incluso individuos (Rickli et al. 2023).

XI. Contramedidas a la guerra cognitiva

En la Conferencia de Seguridad de Múnich de 2024, las discusiones sobre la guerra cognitiva, en particular, surgieron como un tema importante. La guerra cognitiva se refiere a las tácticas complejas modernas en las que los actores hostiles buscan manipular o controlar las percepciones, acciones y decisiones de sus adversarios. Estas discusiones reflejan el hecho de que la guerra moderna está cambiando cada vez más de combates físicos a guerra de información y guerra psicológica.

Las discusiones sobre contramedidas a la guerra cognitiva se centran principalmente en reconocer las amenazas que plantea la guerra cognitiva y en desarrollar estrategias para abordarlas. Los elementos importantes en esta discusión incluyen aumentar la conciencia pública, fortalecer la regulación de la guerra cognitiva y las tecnologías que la permiten, y aprovechar las nuevas tecnologías para mejorar la resiliencia democrática.

Primero, es importante aumentar la conciencia y la comprensión de la guerra cognitiva. Dado que el concepto de guerra cognitiva aún no está claramente definido, es esencial que el mundo académico, la industria y el sector de la defensa colaboren para definirlo concretamente y comprender sus mecanismos. Además, es importante que los ciudadanos desarrollen la capacidad de evaluar críticamente el entorno informativo y resistir la desinformación o el contenido manipulado.

Segundo, es necesario desarrollar un marco regulatorio para la guerra cognitiva y las tecnologías que la permiten. Además de aumentar la conciencia sobre las amenazas de la guerra cognitiva, los responsables de la formulación de políticas deben establecer un sistema regulatorio integral para responder a estas amenazas. Esto requiere una definición clara que abarque las diversas formas y tácticas de la guerra cognitiva, y se debe debatir cómo las leyes internacionales actuales se aplican al dominio cognitivo. Además, cuando los marcos legales existentes no se aplican, se deben desarrollar nuevos marcos legales para determinar la responsabilidad y la rendición de cuentas de las actividades de guerra cognitiva.

Tercero, es necesario aprovechar el poder de las nuevas tecnologías para fortalecer la resiliencia social y democrática. Para contrarrestar eficazmente las amenazas de la guerra cognitiva, se deben abordar las vulnerabilidades internas y utilizar las nuevas tecnologías para fortalecer los procesos democráticos. Por ejemplo, los complejos sistemas de IA pueden promover una participación y colaboración democrática efectiva a través de análisis de opinión pública a gran escala, y la tecnología de realidad virtual (RV) puede usarse para entrenar sesgos inconscientes. Al utilizar estas tecnologías de manera apropiada, se puede fortalecer la resiliencia social y mejorar la defensa contra la guerra cognitiva.

Cuarto, es necesaria una mayor cooperación internacional. Dado que la guerra cognitiva trasciende las fronteras, es difícil responder eficazmente sin la cooperación de la comunidad internacional. Se deben desarrollar planes de respuesta conjuntos a la guerra cognitiva a través del intercambio de información y la cooperación entre países. En particular, las organizaciones internacionales como la OTAN pueden desempeñar un papel importante en el establecimiento de estrategias de respuesta a la guerra cognitiva y la promoción de la cooperación entre los estados miembros.

Quinto, es importante establecer y cumplir normas éticas. Si se ignoran las normas éticas en el proceso de respuesta a la guerra cognitiva, la propia respuesta puede ser vista como otra forma de guerra cognitiva. Por lo tanto, la transparencia de las operaciones de información debe aumentar y las respuestas deben darse de manera que respeten la privacidad individual y los derechos humanos. Esto es esencial para mantener la confianza social en la guerra cognitiva a largo plazo (Pujol et al. 2024; Ibrahim et al. 2023).

En conclusión, la guerra cognitiva futura utilizando IA desempeñará un papel muy importante en la competencia estratégica entre las grandes potencias, especialmente entre Estados Unidos y China, y esto puede tener varios efectos catastróficos. Puede causar inestabilidad social y caos político a través de la manipulación de la opinión pública, la interferencia electoral y la difusión de información falsa. Para minimizar estos riesgos, se requiere cooperación y regulación internacionales, y se deben fortalecer los estándares éticos y las medidas de seguridad para el desarrollo y uso seguros de la tecnología de IA. Sin embargo, todavía existen muchas barreras para alcanzar un consenso a nivel internacional y, mientras exista una utilidad geopolítica, la controversia en torno a la guerra cognitiva continuará durante un período considerable. ■

Referencias

Yoo, Jun-gu. 2019a. “Tendencias y cuestiones en el debate sobre sistemas de armas autónomas letales.” "Serie de Investigación de Políticas de IFANS" 2019-18. Diciembre.

____. 2019b. “Cuestiones y implicaciones en el debate sobre la creación de normas para sistemas de armas autónomas letales (LAWS).” "Análisis de Asuntos Internacionales Clave de IFANS" 2019-54. 19 de diciembre.

Autonomous Weapons. 2024. “Los riesgos de las armas autónomas.” Autonomous Weapons, https://autonomousweapons.org/the-risks/.

Bajak, Frank. 2023. “Las iniciativas de IA del Pentágono aceleran las decisiones difíciles sobre armas autónomas letales.” Associated Press. 26 de noviembre. https://apnews.com/...2.

Britt Baughman, Josh. 2023. “Cómo China gana el dominio cognitivo.” China Aerospace Studies Institute. 23 de enero. https://www.airuniversity.af.edu/...domain/.

Beauchamp-Mustafaga, Nathan. 2019. "Operaciones de Dominio Cognitivo: El Nuevo Concepto Holístico del EPL para Operaciones de Influencia." China Brief 19: 16. https://jamestown.org/....ain

Cameron, Hugh. 2024. “Los robots asesinos de China están llegando.” Newsweek. 26 de junio. https://www.newsweek.com/...9.

Dresp-Langley, Birgitta. 2023. “La militarización de la inteligencia artificial: De qué debe ser consciente el público.” Frontiers in Artificial Intelligence 6. https://doi.org/10.3389/frai.2023.1154184.

Firth, Joseph, John Torous, Brendon Stubbs, Ivan P. Ipser, P. Murali Doraiswamy, y Felipe Schuch. 2019. "El 'Cerebro en Línea': Cómo Internet Puede Estar Cambiando Nuestra Cognición." World Psychiatry 18, 2: 119–129.

Hale, Amber. 2023. “La teoría de la guerra de Clausewitz en la era de la guerra cognitiva.” The Defence Horizon Journal. https://tdhj.org/...warfare/.

Huang, Ruiyang, Xiaoqing Zheng, Yuting Shang y Xiangyang Xue. 2023. "Sobre los desafíos de la IA para la seguridad y la protección cognitiva." Security and Safety 2. https://doi.org/10.1051/sands/2023012.

Hung, Tzu-Chieh y Tzu-Wei Hung. 2020. "Cómo funciona la guerra cognitiva de China: una perspectiva de primera línea de las guerras contra la desinformación de Taiwán." Journal of Global Security Studies 7, 4: 1–18.

Human Rights Watch. 2023. “Revisión de la política de EE. UU. de 2023 sobre autonomía en sistemas de armas.” Human Rights Watch. 14 de febrero. https://www.hrw.org/...systerns.

Ibrahim, Fabio, Steffen Rhode, y Monika Daseking. 2023. "A Systematic Review of Cognitive and Psychological Warfare." The Defence Horizon Journal, 1 de diciembre. https://tdhj.org/...warfare.

Johnson, James. 2023. AI and the Bomb: Nuclear Strategy and Risk in the Digital Age. Oxford: Oxford University Press.

Kallenborn, Zachary. 2021. “Meet the Future Weapon of Mass Destruction, the Drone Swarm.” Bulletin of the Atomic Scientists. 5 de abril. https://thebulletin.org/...swarm/.

Lamberth, Catherine A. 2023. “Decoding the Defense Department’s Updated Directive on Autonomous Weapons.” Lawfare. 17 de agosto. https://www.lawfaremedia.org/...weapons.

Linney, Charlie, y Xiaomin Tang. 2024. “AI and Autonomous Weapons Systems: The Time for Action Is Now.” Saferworld. 15 de mayo. https://www.saferworld.org.uk/...now.

Miller, Seumas. 2023. "Cognitive Warfare: An Ethical Analysis." Ethics and Information Technology 25: 46. https://doi.org/10.1007/s10676-023-09717-7.

Morelle, Marie, Julien Cegarra, Damien Marion, y Jean-Marc André. 2023. "Towards a Definition of Cognitive Warfare." Ponencia presentada en la Conferencia sobre Inteligencia Artificial para la Defensa, DGA Maîtrise de l’Information. https://hal.science/...1.

Pujol Chica, Irene, y Quynh Dinh Da Xuan. 2024. "The Battle for the Mind: Understanding and Addressing Cognitive Warfare and Its Enabling Technologies." IE Center for the Governance of Change. https://coilink.org/20.500.12592/zs7hb9h.

Rickli, Jean-Marc, Federico Mantellassi, y Gwyn Glasser. 2023. Peace of Mind: Cognitive Warfare and the Governance of Subversion in the 21st Century. GCSP Policy Brief No. 9, Geneva Centre for Security Policy. https://www.gcsp.ch/...century.

Sârbu, Annamaria, y Anca Gavrilaș. 2023. "Using Artificial Intelligence Tools for Obtaining Cognitive Warfare Advantages." The Defence Horizon Journal. 23 de octubre. https://tdhj.org/...twitter/.

Tripathi, Prateek. 2024. “When AI Crosses the Line: The Impending Threat of Autonomous Weapons Systems.” Observer Research Foundation. 6 de mayo. https://www.orfonline.org/...systems.

U.S. Department of Defense. 2023. “Deputy Secretary of Defense Kathleen Hicks Keynote Address: ‘The Urgency to Innovate’ (As Delivered).” 28 de agosto. https://www.defense.gov/...innov/.

Vasist, Pramukh Nanjundaswamy, Debashis Chatterjee, y Satish Krishnan. 2023. "The Polarizing Impact of Political Disinformation and Hate Speech: A Cross-country Configural Narrative." Information Systems Frontiers, 1–26.

Zhang, Guangshen, Yongli Li, Haoxian Wang. 2022. “A Brief Analysis of the Basics of Cognitive Domain Operations [浅析认知域作战的基本要义].” PLA Daily. 8 de septiembre. http://www.81.cn/...323692.htm.

[1] Resumen y complementación de lo expuesto en la introducción.

■ Jeon Jae-seong_Director del Centro de Investigación de Seguridad Nacional de EAI. Profesor del Departamento de Ciencias Políticas y Relaciones Internacionales de la Universidad Nacional de Seúl.

■ Responsable y edición:Park Ji-soo, Investigador de EAI

    Consultas y edición: 02 2277 1683 (ext. 208) | jspark@eai.or.kr