[Trabajo Conjunto Corea-Japón sobre el Mundo 2050] ⑦ Directrices de Seguridad y Ética para la Cooperación en IA entre Corea del Sur y Japón

I. La Rápida Evolución de la IA y la Importancia de Abordar los Desafíos Éticos

En los últimos años, la rápida evolución de la inteligencia artificial (IA) ha transformado una amplia gama de dominios sociales, desde la industria hasta nuestra vida cotidiana. La IA puede considerarse una de las tecnologías más impactantes en la sociedad humana desde la popularización de Internet en la década de 1990. En particular, la llegada de la IA generativa puede afectar significativamente los procesos de pensamiento humano y los entornos laborales. Cuando OpenAI lanzó ChatGPT el 30 de noviembre de 2022, la IA generativa se hizo accesible al público. ChatGPT alcanzó un millón de usuarios en una semana (Altman 2022) y, en dos meses, se estimó que superó los cien millones de usuarios (Hu 2023).

ChatGPT presenta una interfaz conversacional que parece una interacción humano a humano. Técnicamente, está construido combinando un Modelo de Lenguaje Grande (LLM) y Aprendizaje por Refuerzo a partir de Retroalimentación Humana. La tecnología que permite la generación avanzada de texto de ChatGPT se llama "Transformer", un sistema compuesto por el Mecanismo de Atención y Perceptrones Multicapa (MLP). Introducido en 2017 por Ashish Vaswani y colegas de Google en "Attention is All You Need", el mecanismo de atención extrae información necesaria de una serie de palabras, mientras que el MLP recupera contenido aprendido relevante de datos a gran escala durante el procesamiento. Al predecir iterativamente la siguiente palabra más probable, los Transformers generan texto coherente.

Los LLM como ChatGPT se integran cada vez más en nuestra vida cotidiana. LINE Yahoo, una empresa japonesa de Internet, se financia a través de una sociedad holding conjunta de SoftBank de Japón y NAVER de Corea del Sur, bien conocida en Japón. NAVER ha desarrollado y opera HyperCLOVA X, un LLM diseñado para comprender el idioma coreano en contextos sociales. NAVER informa que HyperCLOVA X utiliza 6.500 veces más datos en coreano que el GPT-4 de OpenAI, lo que lo hace altamente capaz de reflejar la cultura, las normas sociales y los valores coreanos. HyperCLOVA X puede generar respuestas que resuenan con los usuarios coreanos, reflejando las normas sociales en las salidas del modelo de lenguaje. Aunque HyperCLOVA X también maneja inglés, japonés y chino, su enfoque principal en datos coreanos de alta calidad garantiza que los valores socioculturales de Corea estén integrados en su sistema. Como ilustra HyperCLOVA X, los LLM entrenados con vastos conjuntos de datos lingüísticos tienden a reflejar el conocimiento y los valores contenidos en esos idiomas, incluidas las normas éticas de las sociedades donde se utilizan esos idiomas.

Un desafío común con los LLM es que su contenido generado puede contener imprecisiones o referirse a entidades inexistentes, un fenómeno conocido como "alucinación". Dado que los LLM predicen la siguiente palabra estadísticamente más probable, pueden generar combinaciones que no existen. Los errores también pueden surgir si los datos utilizados para el entrenamiento contienen imprecisiones. Dado que la IA se desarrolla utilizando tales procesos de aprendizaje, cierto grado de error se vuelve inevitable. En consecuencia, se necesitan intervenciones políticas globales para abordar los posibles problemas sociales causados por la IA.

Antes de la era de la IA generativa, la IA se utilizaba para funciones como el reconocimiento facial y el análisis de las preferencias de los usuarios en aplicaciones de video como YouTube o TikTok para maximizar el tiempo de visualización. La IA se ha vuelto tan omnipresente en el software cotidiano que hemos llegado a un punto en el que no siempre podemos discernir si nuestro interlocutor en una conversación es humano o IA. A medida que la IA avanza, es cada vez más crítico desarrollarla con respeto por los valores humanos, la privacidad y la equidad para prevenir impactos negativos en la sociedad humana. Todas las naciones deberían cooperar para abordar las cuestiones éticas que rodean a la IA. Este artículo discutirá los debates recientes sobre ética de la IA en Japón y considerará las posibilidades de colaboración entre Corea del Sur y Japón en el dominio de la ética de la IA.

II. Riesgos de la IA y el Desarrollo de las Directrices de IA de Japón

Para aprovechar el potencial de la IA y al mismo tiempo mitigar sus riesgos, es esencial establecer directrices que garanticen el uso seguro y ético de las tecnologías de IA. Estas directrices proporcionan marcos para desarrolladores, empresas y responsables políticos, promoviendo la rendición de cuentas, la transparencia y la confianza pública. En Japón, las directrices de IA desempeñan un papel crucial para garantizar que la IA se alinee con los valores y prioridades sociales.

En abril de 2024, el gobierno japonés publicó las "Directrices para Operadores Empresariales de IA (METI 2024)", que consisten en seis anexos detallados diseñados para traducir la orientación principal en medidas prácticas. Estas directrices sirven como una referencia integral para las diversas partes interesadas que implementan iniciativas relacionadas con la IA. El gobierno se considera un actor principal en las discusiones globales sobre principios de IA, dentro del G7, G20, OCDE y otros foros internacionales, y cree que el establecimiento de estas directrices permite a Japón promover la identificación correcta de los riesgos de la IA, guiado por las tendencias internacionales y las preocupaciones de las partes interesadas. El objetivo final es facilitar medidas voluntarias y prácticas en la vida cotidiana.

Las Directrices para Operadores Empresariales de IA de Japón integran y se basan en los "Principios de una Sociedad de IA Centrada en el Ser Humano (2019)", las "Directrices de Desarrollo de IA (2017)", las "Directrices de Utilización de IA (2019)" y las "Directrices de Gobernanza para la Implementación de Principios de IA (2022)". Los "Principios de una Sociedad de IA Centrada en el Ser Humano (2019)", formulados por el Consejo de Innovación Integrada del gobierno, tienen como objetivo utilizar la IA para abordar desafíos globales como los problemas ambientales, la creciente desigualdad y el agotamiento de los recursos, un enfoque denominado "Sociedad 5.0". En el Quinto Plan Básico de Ciencia y Tecnología, la Sociedad 5.0 se describe como una "sociedad centrada en el ser humano que equilibra el avance económico con la resolución de problemas sociales a través de un sistema altamente integrado de ciberespacio y espacio físico". Aquí, el gobierno enfatiza la armonización del desarrollo económico con la resolución de desafíos sociales.

Las ideas centrales de los Principios de una Sociedad de IA Centrada en el Ser Humano incluyen:

1. Respeto por la dignidad humana: la IA debe aumentar y mejorar las capacidades humanas.

2. Diversidad e inclusividad: permitir que individuos diversos persigan sus propias formas de felicidad.

3. Sostenibilidad: aprovechar la IA para abordar problemas como la desigualdad y la degradación ambiental.

Basándose en estas ideas, los Principios describen siete directrices: (1) Principio Centrado en el Ser Humano, (2) Principio de Educación y Alfabetización, (3) Principio de Protección de la Privacidad, (4) Principio de Seguridad, (5) Principio de Competencia Justa, (6) Principio de Equidad, Rendición de Cuentas y Transparencia, y (7) Principio de Innovación. El gobierno japonés afirma que estas directrices se actualizarán periódicamente para reflejar los cambios en las tendencias internacionales y las nuevas tecnologías.

Las Directrices para Operadores Empresariales de IA enfatizan tres conceptos centrales:

1. Apoyo a los esfuerzos voluntarios de las empresas,

2. Coordinación con las discusiones internacionales,

3. Claridad para los lectores.

Están destinadas a garantizar la eficacia y la legitimidad mediante una revisión repetida por parte de múltiples partes interesadas, incluidas instituciones educativas y de investigación, la sociedad civil y empresas privadas, y funcionan como un documento vivo que continuará evolucionando. El gobierno japonés busca la coherencia entre la visión de la Sociedad 5.0 y los principios de IA centrados en el ser humano, motivado en parte por los desafíos demográficos de Japón, como el rápido envejecimiento de la población y la escasez de mano de obra.

En 2023 y 2024, el gobierno japonés aceleró su política de IA. Un "Consejo de Estrategia de IA", presidido por el profesor Yutaka Matsuo de la Universidad de Tokio, lidera las discusiones gubernamentales. El consejo estableció un presupuesto de 164.090 millones de yenes (un aumento del 44% respecto al año fiscal anterior) para iniciativas de IA y decidió subsidiar entre un tercio y la mitad de los costos de las principales empresas para expandir la infraestructura de GPU (unidad de procesamiento gráfico), un recurso crítico de IA. En 2023, el consejo compiló "Puntos Intermedios de Discusión sobre IA", centrándose en los desarrollos recientes en IA generativa. Este informe señala la afinidad de larga data de Japón por la tecnología y la IA, sugiriendo que a pesar del prolongado estancamiento económico, la llegada de la IA podría proporcionar un impulso renovado para el crecimiento. El informe también identifica siete riesgos principales:

1. Fuga de información confidencial y uso indebido de datos personales: la IA generativa puede recopilar datos de interacción del usuario y utilizarlos para publicidad dirigida. Además, al entrenarse con datos de Internet, los sistemas de IA corren el riesgo de recopilar información personal de manera inadecuada.

2. Mayor facilidad y sofisticación del crimen: la IA generativa puede facilitar actividades ilegales, como la creación de voces o imágenes de "deepfake" realistas a bajo costo, lo que podría permitir fraudes o producción de drogas. Si bien el Código Penal de Japón y las leyes contra la piratería informática pueden cubrir algunos casos, los delitos emergentes requieren nuevas medidas legales.

3. Disrupción social a través de desinformación: la IA generativa puede producir y difundir sin esfuerzo noticias falsas o información sesgada, causando malestar público o interferencia en los procesos democráticos. Son necesarias herramientas para detectar la desinformación y frenar su propagación.

4. Ciberataques más sofisticados: los ciberataques asistidos por IA pueden volverse más avanzados. La IA generativa puede ayudar a crear correos electrónicos que evaden la detección, suplantar a humanos o incluso atacar los propios sistemas de IA.

5. Impactos en la educación: el uso de la IA para completar tareas o escribir informes puede obstaculizar la creatividad de los estudiantes. Sin embargo, el aprendizaje personalizado basado en IA podría mejorar los resultados educativos. El Ministerio de Educación debe establecer urgentemente directrices y aumentar la alfabetización en IA.

6. Infracciones de derechos de autor: el contenido generado por IA puede parecerse mucho a obras existentes, lo que plantea la posibilidad de un aumento de las infracciones de derechos de autor. El gobierno debe promover la concienciación sobre la ley de derechos de autor actual y considerar una mayor regulación de los resultados generados por IA.

7. Creciente riesgo de desempleo: la capacidad de la IA generativa para automatizar tareas creativas, como la escritura y la creación de imágenes, podría provocar pérdidas de empleo. El gobierno debe estudiar el impacto de la IA en el empleo y promover la recualificación y la movilidad laboral.

III. Estrategia Nacional de IA de Corea del Sur

En 2019, el gobierno de Corea del Sur publicó su Estrategia Nacional de IA, en la que Choi Ki-yong, Ministro de Ciencia y TIC, enfatizó la realización de una "IA centrada en el ser humano". En 2020, el Ministerio de Ciencia y TIC y el Instituto de Desarrollo de la Sociedad de la Información de Corea introdujeron el "Marco Ético Nacional de IA", que establece estándares básicos y completos para que todos los miembros de la sociedad los observen al desarrollar e implementar IA (Instituto Coreano de Ciencia y Diseño de Información n.d.).

El valor más alto del Marco es la humanidad, y bajo tres principios centrales (1) Dignidad Humana, (2) Bien Público y (3) Idoneidad Tecnológica, se encuentran diez requisitos clave que abarcan el ciclo de vida de la IA: (1) Garantía de Derechos Humanos, (2) Protección de la Privacidad, (3) Respeto por la Diversidad, (4) No Maleficencia, (5) Publicidad, (6) Solidaridad, (7) Gobernanza de Datos, (8) Responsabilidad, (9) Seguridad y (10) Transparencia.

En 2020, Corea del Sur también publicó una Hoja de Ruta de IA con treinta prioridades, incluidos estándares para IA de alto riesgo. Notablemente, una disposición discute la posibilidad de otorgar personalidad jurídica a la IA. El gobierno ha dirigido agresivamente el desarrollo del ecosistema de IA, y el presidente Yoon Suk-yeol declaró en abril de 2024 el objetivo de Corea del Sur de convertirse en una de las tres principales naciones de IA. Dado que la Estrategia Nacional de IA de Corea enfatiza la "IA centrada en el ser humano", la dirección fundamental de la ética de la IA coreana no difiere marcadamente de la de Japón, lo que sugiere que comparten suficiente terreno común para la colaboración.

IV. El Papel de los Enfoques Basados en el Riesgo y el "Proceso de IA de Hiroshima"

Las Directrices para Operadores Empresariales de IA de Japón adoptan un enfoque basado en el riesgo, que implica identificar los posibles daños sociales, como la discriminación o la desinformación, de manera temprana y evaluar su gravedad y probabilidad. Luego se toman medidas de acuerdo con el nivel de riesgo, con una gestión de riesgos continua a lo largo del ciclo de vida de la IA. Múltiples partes interesadas participan en este proceso y se enfatiza la transparencia. Al adaptar las regulaciones a diferentes niveles de riesgo, los gobiernos buscan evitar inhibir la innovación a través de leyes excesivamente restrictivas, al tiempo que maximizan los beneficios sociales de la IA. Este enfoque es ampliamente aceptado internacionalmente, incluida la OCDE y el G7, lo que facilita el consenso global.

Un esfuerzo diplomático crítico para avanzar en la cooperación internacional sobre seguridad y ética de la IA fue el "Proceso de IA de Hiroshima (2023)" de Japón. Realizado el año antes de que Japón finalizara sus Directrices para Operadores Empresariales de IA, el Proceso de IA de Hiroshima fue un paso clave hacia el establecimiento de directrices internacionales. En la Reunión de Ministros de Digital y Tecnología del G7 de abril de 2023 (Reunión de Ministros de Digital y Tecnología del G7 2023), los participantes adoptaron una declaración ministerial que destacaba la "IA Responsable y la Gobernanza de la IA". Reafirmaron que "las políticas y regulaciones de IA deben estar centradas en el ser humano, defender los derechos humanos y las libertades fundamentales (incluida la privacidad y la protección de datos personales) de acuerdo con los valores democráticos, y ser basadas en el riesgo y con visión de futuro".

En septiembre de 2023, la Declaración de Ministros de Digital y Tecnología del G7 reconoció además la necesidad de abordar los riesgos que plantean los rápidos avances de la IA y al mismo tiempo aprovechar sus beneficios. La Declaración de Líderes del G7 de octubre de 2023 sobre el Proceso de IA de Hiroshima (Ministerio de Asuntos Exteriores de Japón 2023) también subraya las "oportunidades innovadoras" y el "potencial transformador" de los sistemas de IA de vanguardia, lo que demuestra el enfoque global en la IA generativa en ese momento.

El documento publicado bajo el Proceso de IA de Hiroshima, titulado "Principios Rectores Internacionales del Proceso de Hiroshima para Organizaciones que Desarrollan Sistemas de IA Avanzados" (Gobierno Japonés 2023), comienza señalando su objetivo de promover una IA segura, confiable y digna de confianza en todo el mundo. Subraya que "las organizaciones no deben desarrollar ni implementar sistemas de IA avanzados de manera que socaven los valores democráticos, sean particularmente perjudiciales para individuos o comunidades, faciliten el terrorismo, permitan el uso criminal o planteen riesgos sustanciales para la seguridad, la protección y los derechos humanos".

El Proceso de IA de Hiroshima destaca los valores democráticos, las prácticas éticas de IA, la gestión de riesgos y la cooperación internacional. Esta iniciativa contribuyó significativamente al emitir un marco rector para abordar la evolución global de la IA. Dicho énfasis en los valores democráticos podría servir como base para la cooperación entre Japón y Corea del Sur en ética de la IA.

V. La Evolución de la Política de IA en Japón

El entorno de desarrollo de IA de Japón difiere del de las grandes empresas tecnológicas al estilo estadounidense o de las empresas privadas reguladas por el estado en China. La "Estrategia de Tecnología de Inteligencia Artificial" (Oficina del Gabinete, Gobierno de Japón 2017), publicada por el gobierno japonés en marzo de 2017, señaló que Japón está rezagado respecto a EE. UU. y China en publicaciones académicas relacionadas con la IA, y priorizó la creación de entornos sólidos de investigación y desarrollo que involucren tanto al sector público como al privado, así como la solución a la apremiante escasez de talento en IA en Japón. La estrategia categorizó el desarrollo de la IA en tres fases:

Fase 1: Promoción de la utilización de IA basada en datos en dominios específicos.

Fase 2: Avance del uso más amplio de IA y datos a través de las fronteras de campos individuales.

Fase 3: Vinculación de múltiples dominios de maneras complejas para formar un ecosistema de IA.

También describió tres enfoques principales para cultivar talento en IA:

1. Diseño e implementación de programas educativos para producir personal inmediatamente desplegable.

2. Fomento de la investigación conjunta y colaboraciones de desarrollo de la fuerza laboral entre universidades e industria.

3. Construcción sobre las iniciativas del gobierno y las instituciones de investigación para fortalecer aún más estos programas.

Japón no depende principalmente de un ecosistema de startups al estilo estadounidense alimentado por inversiones masivas de capital de riesgo. En cambio, su enfoque implica una estrecha colaboración entre universidades, industria y gobierno para la investigación, el desarrollo y la comercialización de IA. En mayo de 2015, el Instituto Nacional de Ciencia y Tecnología Industrial Avanzada (AIST) estableció el "Centro de Investigación de Inteligencia Artificial". El profesor Junichi Tsujii, un experto líder en procesamiento del lenguaje natural y minería de texto, fue nombrado director inaugural. Tsujii señaló que, dado que la IA impregna todos los sectores industriales, no mantenerse al día pondría en peligro industrias enteras.

La agenda de desarrollo de IA de Japón refleja fuertemente las condiciones sociales nacionales. Según la "Estrategia de Tecnología de Inteligencia Artificial", Japón está en camino de experimentar la primera gran ola de rápido envejecimiento de la población del mundo. Aprovechar la IA para transformar la inmensa cantidad de datos médicos y de atención en un "sistema líder mundial de atención médica y cuidado avanzado" es un objetivo prominente. Para 2030, más del 40% de la población de Japón serán personas mayores, y el gobierno prevé una sociedad donde las personas permanezcan activamente empleadas incluso a los 80 años. Por lo tanto, se espera que la IA resuelva problemas sociales como el envejecimiento de la población y la escasez de mano de obra. Los mismos objetivos aparecen en los "Principios de una Sociedad de IA Centrada en el Ser Humano (2019)" del gobierno, que tiene como objetivo utilizar la IA para abordar las crisis ambientales, la desigualdad y el agotamiento de los recursos. El enfoque de Japón en la "centralidad humana" sustenta así su ética de IA. Aunque las preocupaciones de Corea del Sur difieren en cierta medida, por ejemplo, la IA está conectada a capacidades militares debido a desafíos demográficos, Corea del Sur y Japón comparten preocupaciones demográficas apremiantes.

VI. Directrices Empresariales de IA y Estándares Éticos para el Desarrollo de IA

Anticipando las aplicaciones empresariales generalizadas de la IA, la Sociedad Japonesa de Inteligencia Artificial (JSAI) debatió la formación de un comité de ética ya en 2014. En ese momento, Hitoshi Matsubara, entonces presidente de la JSAI y profesor de la Future University Hakodate, solicitó a Yutaka Matsuo de la Universidad de Tokio que considerara establecer dicho comité. La primera reunión del Comité de Ética de la JSAI se celebró en la Universidad de Tokio en diciembre de 2014 (Sociedad Japonesa de Inteligencia Artificial, Comité de Ética 2015).

Inicialmente, la JSAI debatió si llamarlo "Comité de Ética" o "Comité de IA y Sociedad Futura". De hecho, un Comité de Ética de la JSAI había existido desde 2007 pero se había vuelto inactivo. Su restablecimiento en 2014 atrajo considerable atención mediática. Notablemente, el Comité de Ética incluyó al escritor de ciencia ficción Satoshi Hase, lo que ilustra el enfoque amplio de la JSAI para los desafíos futuros. En 2017, el Comité de Ética publicó las "Directrices Éticas de la Sociedad Japonesa de Inteligencia Artificial" (Sociedad Japonesa de Inteligencia Artificial 2017). Estas directrices se centran en la ética profesional de los investigadores, pero el Artículo 9 establece que si la IA "va a convertirse en un miembro de la sociedad o su equivalente, debe adherirse a las mismas directrices éticas que los miembros de la JSAI", extendiendo así las obligaciones éticas a los propios artefactos de IA.

Una década después, en 2024, el Ministerio de Asuntos Internos y Comunicaciones de Japón y el Ministerio de Economía, Comercio e Industria publicaron las "Directrices para Operadores Empresariales de IA", basadas en el principio gubernamental de 2019 de una "Sociedad de IA Centrada en el Ser Humano". También en 2019, el Ministerio de Asuntos Internos y Comunicaciones (MIC) publicó las "Directrices de Utilización de IA" (Ministerio de Asuntos Internos y Comunicaciones 2019). Ese documento señala que en 2016, en la Reunión de Ministros de TIC del G7 (organizada por Japón), el gobierno japonés propuso un borrador inicial de principios de desarrollo de IA, y en 2018, los representantes de Japón presentaron sus "Principios de una Sociedad de IA Centrada en el Ser Humano", "Borrador de Directrices de Desarrollo de IA" y "Borrador de Directrices de Utilización de IA" en el Grupo de Expertos en IA de la OCDE. Japón sostiene que la Recomendación de la OCDE sobre Inteligencia Artificial de 2019 se alinea con los principios y directrices japonesas.

Las iniciativas del sector privado japonés para la ética de la IA se han acelerado desde entonces. En 2018, Sony Group anunció sus "Directrices de Ética de IA de Sony Group" (Sony Group 2023), aplicables a todos los directivos y empleados que participan en el desarrollo y uso de IA. En 2019, NEC Group estableció su "Política de IA y Derechos Humanos" (NEC Group 2019). En 2021, Hitachi formuló sus "Principios de Ética de IA", que reflejan tanto las discusiones de la OCDE como el espíritu de negocio de Innovación Social de la empresa.

En resumen, los círculos académicos, los organismos gubernamentales y las empresas privadas de Japón han adoptado un enfoque basado en el riesgo, identificando los dominios de alto riesgo y centrándose en ellos. En cuanto a la regulación, Japón no tiene una ley integral de IA; se basa en directrices emitidas por el gobierno y códigos de conducta del sector privado. Japón se ha abstenido hasta ahora de promulgar legislación específica para la IA, optando en cambio por un enfoque de "soft law" (ley blanda). Sin embargo, ha habido un ligero cambio en esta estrategia. Basándose en los principios de "equilibrar la gestión de riesgos con la promoción de la innovación" y la "cooperación internacional", el gobierno tiene previsto presentar un proyecto de ley en enero de 2025 que permitirá investigar a los operadores de IA. Un enfoque de "soft law" en contraste con el "hard law" (ley dura) más estricto de la UE. La UE, que aplicará su Ley de IA alrededor de 2026, busca proteger los derechos y libertades humanos regulando los datos de entrenamiento y categorizando la IA en cuatro grupos: inaceptable, alto riesgo, requiere transparencia y riesgo mínimo o nulo. Los sistemas de alto riesgo y que requieren transparencia se enfrentan a obligaciones obligatorias. Mientras tanto, en Estados Unidos, la Casa Blanca emitió una "Orden Ejecutiva sobre el Desarrollo y Uso Seguro, Protegido y Confiable de la Inteligencia Artificial", pidiendo estándares, requisitos de prueba, medidas contra la discriminación algorítmica y protección de la privacidad, al tiempo que se fomenta la innovación y la competitividad.

En noviembre de 2024, el Comité de Ciencia, TIC, Radiodifusión y Comunicaciones de Corea del Sur aprobó la "Ley de Promoción de la Industria de Inteligencia Artificial y Garantía de Confianza" para debate parlamentario. Esta legislación requeriría que las obras generadas por IA se etiqueten como generadas por IA e impone multas de hasta 30 millones de wones por incumplimiento. El enfoque de Corea del Sur parece estar más alineado con el "hard law" de la UE, lo que podría exigir estrictos estándares de seguridad para los sistemas de IA. Sin embargo, debido a la declaración de ley marcial en diciembre de 2024 y la crisis de destitución del presidente, el destino del proyecto de ley es incierto.

VII. El Futuro de la Cooperación entre Corea del Sur y Japón en Ética de la IA

Como dos naciones democráticas, Corea del Sur y Japón comparten amplios valores —particularmente los conceptos de “centralidad humana”, “diversidad” y “sostenibilidad” en el núcleo de sus principios de ética de la IA. Corea del Sur aclara sus compromisos con los derechos humanos y el bien público a través de su Estrategia Nacional de IA y el “Marco Nacional de Ética de la IA”, mientras que Japón basa su enfoque en los “Principios de la Sociedad de la IA Centrada en el Ser Humano” y las “Directrices para Operadores de Negocios de IA”, empleando un enfoque basado en riesgos arraigado en el consenso internacional. Ambos países deberían participar proactivamente en discusiones globales —a través de plataformas como el Proceso de IA de Hiroshima, el G7 y la OCDE— para influir y alinearse con las normas internacionales emergentes. En diciembre de 2024, el G7 llegó a un acuerdo sobre los aspectos fundamentales de un marco que exige a los desarrolladores de IA informar sobre los riesgos. La implementación de este marco también está programada para comenzar en febrero de 2025.

En el escenario global, la guerra en Ucrania y otros conflictos han dado lugar al uso de drones y otras nuevas armas, lo que ha generado preocupación sobre el papel de la IA en la guerra moderna. Durante algún tiempo, la comunidad internacional ha debatido los riesgos de los sistemas de armas autónomas letales (LAWS), que delegan la toma de decisiones a la IA. Corea del Sur, enfrentando tensiones con Corea del Norte, ha desplegado robots de vigilancia a lo largo de la Zona Desmilitarizada (DMZ). A medida que su industria de defensa prospera, Corea del Sur suministra armamento —particularmente en Europa, que desconfía de Rusia— y puede continuar expandiéndose en este dominio. En contraste, muchas empresas privadas japonesas han abandonado el sector de defensa. Por lo tanto, Corea del Sur tiene una experiencia y conocimientos más concretos en IA relacionada con armas, lo que le permite una contribución potencialmente significativa al discurso internacional sobre la ética de los sistemas de armas equipados con IA.

En febrero de 2024, Japón estableció el Instituto de Seguridad de la IA, nombrando a Akiko Murakami como Directora Ejecutiva. Este instituto evalúa métodos de seguridad de la IA, establece estándares y facilita la cooperación internacional de Japón. El informe de 2024 del Consejo para la Estrategia de Innovación Integrada menciona tres áreas clave para el fortalecimiento: (1) Estrategias integradas para tecnologías críticas, (2) Colaboración global y (3) Mejora de la competitividad de la IA garantizando la seguridad y la protección. Específicamente, Japón tiene como objetivo liderar la elaboración de normas internacionales para la IA. Para lograr esto, el gobierno planea aprovechar estratégicamente los marcos bilaterales y multilaterales con aliados y naciones afines, así como con socios de la ASEAN, en coordinación con la industria y el mundo académico. Desde el punto de vista de Corea del Sur, estos esfuerzos sugieren vías para una cooperación más profunda con Japón.

Como países vecinos con industrias estrechamente entrelazadas, Corea del Sur y Japón poseen fortalezas complementarias en contextos tecnológicos y sociales. Con el auge global de la IA generativa, la forma en que cada país integra su idioma y sus normas socioculturales en los modelos de IA se convertirá en un tema clave, uno que subraya la importancia de la “soberanía de la IA”. Distanciándose de los gigantes de la IA de EE. UU. y China, Corea del Sur y Japón pueden colaborar para resaltar la importancia de la soberanía nacional en la IA, reflejando normas socioculturales distintas y preocupaciones demográficas compartidas, como las bajas tasas de natalidad y el envejecimiento de la población.

Los esfuerzos conjuntos entre Corea del Sur y Japón en ética de la IA podrían generar un ecosistema colaborativo. Las vías potenciales incluyen refinar las directrices mutuas y los estándares técnicos, compartir datos, emprender investigación y desarrollo conjuntos, y reforzar la coordinación en foros multilaterales para dar forma a las reglas de gobernanza de la IA. Dicha cooperación aceleraría la realización de una sociedad impulsada por la IA caracterizada por la “confiabilidad”, la “transparencia” y la “rendición de cuentas”, reforzando la posición de liderazgo de los dos países en el discurso internacional. Sus valores democráticos compartidos, el énfasis en los principios éticos, las aplicaciones prácticas para resolver desafíos sociales y el compromiso activo en la definición de normas internacionales forman una base sólida para una “sociedad de la IA centrada en el ser humano”. Al trabajar juntos, Corea del Sur y Japón pueden presentar un modelo avanzado de ética de la IA a la comunidad global y, por lo tanto, contribuir a dar forma a un orden internacional más equitativo. ■

Referencias

Altman, Sam. 2022. “¡ChatGPT se lanzó el miércoles. Hoy superó 1 millón de usuarios!” X, 5 de diciembre. https://x.com/sama/status/1599668808285028353 (Consultado el 22 de diciembre de 2024).

Oficina del Gabinete, Gobierno de Japón. 2017. Estrategia de Tecnología de Inteligencia Artificial 2017. https://www.ai-japan.go.jp/menu/learn/ai-strategy-1/75ddfd6ab65e8bcd6fe80e4676d902967c53ca4d.pdf (Consultado el 22 de diciembre de 2024).

Reunión de Ministros de Digital y Tecnología del G7. 2023. Declaración Ministerial. 30 de abril. Consultado el 22 de diciembre de 2024. https://www.digital.go.jp/assets/contents/node/information/field_ref_resources/efdaf817-4962-442d-8b5d-9fa1215cb56a/5c1391d9/20230519_news_g7_results_japanese_00.pdf.

Hu, Krystal. 2023. “ChatGPT establece un récord como la base de usuarios de más rápido crecimiento - Nota de analista.” Reuters, 3 de febrero. https://www.reuters.com/technology/chatgpt-sets-record-fastest-growing-user-base-analyst-note-2023-02-01/. (Consultado el 22 de diciembre de 2024).

Gobierno Japonés. 2023. Principios Rectores Internacionales del Proceso de Hiroshima para Organizaciones que Desarrollan Sistemas Avanzados de IA. https://www8.cao.go.jp/cstp/ai/ai_senryaku/6kai/kokusaishishin.pdf. (Consultado el 22 de diciembre de 2024).

Sociedad Japonesa de Inteligencia Artificial, Comité de Ética. 2015. Propósito para el Establecimiento del Comité de Ética de la Sociedad Japonesa de Inteligencia Artificial. https://www.ai-gakkai.or.jp/ai-elsi/about/purpose. (Consultado el 22 de diciembre de 2024).

Sociedad Japonesa de Inteligencia Artificial. 2017. Directrices Éticas. https://www.ai-gakkai.or.jp/ai-elsi/wp-content/uploads/sites/19/2017/02/%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD%E5%AD%A6%E4%BC%9A%E5%80%AB%E7%90%86%E6%8C%87%E9%87%9D.pdf. (Consultado el 22 de diciembre de 2024).

Instituto Coreano de Ciencia y Diseño de Información (KISDI). n.d. Estándares de Inteligencia Artificial (En coreano). https://ai.kisdi.re.kr/aieth/main/contents.do?menuNo=400029. (Consultado el 22 de diciembre de 2024).

Ministerio de Economía, Comercio e Industria (METI). 2024. “Directrices para Operadores de Negocios de IA (Versión 1.0) (En japonés).” 19 de abril. https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20240419_3.pdf. (Consultado el 22 de diciembre de 2024).

Ministerio de Asuntos Exteriores de Japón. 2023. Documentos Finales de la Cumbre de Hiroshima del G7 (En japonés). https://www.mofa.go.jp/mofaj/files/100573465.pdf. (Consultado el 22 de diciembre de 2024).

Ministerio de Asuntos Internos y Comunicaciones. 2019. Directrices de Utilización de IA (En japonés). https://www.soumu.go.jp/main_content/000624438.pdf. (Consultado el 22 de diciembre de 2024).

NEC Group. 2019. Política de IA y Derechos Humanos (En japonés). https://jpn.nec.com/press/201904/images/0201-01-01.pdf. (Consultado el 22 de diciembre de 2024).

Sony Group. 2023. Actividades de Ética de la IA (En japonés). https://www8.cao.go.jp/cstp/ai/ningen/r5_1kai/siryo1.pdf. (Consultado el 22 de diciembre de 2024).

■ Makoto Shiono es Jefe de Grupo de Tecnologías Emergentes y Director de Gestión en el Instituto de Geoeconomía, International House of Japan.

■ Composición tipográfica a cargo de Chaerin Kim, Asistente de Investigación

    Para consultas: 02 2277 1683 (ext. 208) | crkim@eai.or.kr