[Совместная работа Кореи и Японии над проектом «Мир 2050»] ⑦ Руководящие принципы сотрудничества Южной Кореи и Японии в области искусственного интеллекта в вопросах безопасности и этики

I. Быстрая эволюция ИИ и важность решения этических проблем

В последние годы стремительное развитие искусственного интеллекта (ИИ) трансформировало широкий спектр общественных сфер, от промышленности до нашей повседневной жизни. ИИ можно считать одной из самых влиятельных технологий для человеческого общества со времен популяризации Интернета в 1990-х годах. В частности, появление генеративного ИИ может существенно повлиять на мыслительные процессы и рабочую среду человека. Когда OpenAI выпустила ChatGPT 30 ноября 2022 года, генеративный ИИ стал доступен общественности. ChatGPT достиг миллиона пользователей в течение недели (Altman 2022), а через два месяца, по оценкам, превысил сто миллионов пользователей (Hu 2023).

ChatGPT имеет диалоговый интерфейс, который выглядит как взаимодействие человека с человеком. Технически он построен путем объединения большой языковой модели (LLM) и обучения с подкреплением на основе обратной связи от человека. Технология, обеспечивающая продвинутое создание текста в ChatGPT, называется «Трансформер» — система, состоящая из механизма внимания и многослойных перцептронов (MLP). Представленный в 2017 году Ашишем Васвани и его коллегами в Google в статье «Attention is All You Need», механизм внимания извлекает необходимую информацию из последовательности слов, в то время как MLP извлекает соответствующий изученный контент из больших данных в процессе обработки. Итеративно предсказывая наиболее вероятное следующее слово, Трансформеры генерируют связный текст.

Большие языковые модели, такие как ChatGPT, все чаще интегрируются в нашу повседневную жизнь. LINE Yahoo, японская интернет-компания, финансируется через совместную холдинговую компанию японской SoftBank и южнокорейской NAVER — хорошо известной в Японии. NAVER разработала и управляет HyperCLOVA X, LLM, разработанной для понимания корейского языка в социальном контексте. NAVER сообщает, что HyperCLOVA X использует в 6500 раз больше данных на корейском языке, чем GPT-4 от OpenAI, что делает ее высокоспособной отражать корейскую культуру, социальные нормы и ценности. HyperCLOVA X может генерировать ответы, которые резонируют с корейскими пользователями, отражая социальные нормы в выходных данных языковой модели. Хотя HyperCLOVA X также работает с английским, японским и китайским языками, ее основной упор на высококачественные корейские данные гарантирует, что социально-культурные ценности Кореи встроены в ее систему. Как показывает HyperCLOVA X, LLM, обученные на обширных лингвистических наборах данных, как правило, отражают знания и ценности, содержащиеся в этих языках, включая этические нормы обществ, в которых эти языки используются.

Общей проблемой LLM является то, что сгенерированный контент может содержать неточности или ссылаться на несуществующие сущности — явление, известное как «галлюцинация». Поскольку LLM предсказывают наиболее статистически вероятное следующее слово, они могут генерировать комбинации, которые не существуют. Ошибки также могут возникать, если данные, используемые для обучения, содержат неточности. Поскольку ИИ разрабатывается с использованием таких процессов обучения, некоторая степень ошибки становится неизбежной. Соответственно, необходимы глобальные политические меры для решения потенциальных социальных проблем, вызванных ИИ.

До эпохи генеративного ИИ ИИ использовался для таких функций, как распознавание лиц и анализ предпочтений пользователей в видеоприложениях, таких как YouTube или TikTok, для максимизации времени просмотра. Теперь ИИ стал настолько вездесущим в повседневном программном обеспечении, что мы достигли точки, когда мы не всегда можем различить, является ли наш собеседник человеком или ИИ. По мере развития ИИ становится все более важным разрабатывать его с уважением к человеческим ценностям, конфиденциальности и справедливости, чтобы предотвратить негативное воздействие на человеческое общество. Все страны должны сотрудничать для решения этических проблем, связанных с ИИ. В этой статье будут обсуждаться недавние дебаты по этике ИИ в Японии и рассмотрены возможности для сотрудничества между Южной Кореей и Японией в области этики ИИ.

II. Риски ИИ и разработка японских руководящих принципов по ИИ

Для использования потенциала ИИ при одновременном снижении его рисков необходимо установить руководящие принципы, обеспечивающие безопасное и этичное использование технологий ИИ. Эти руководящие принципы предоставляют основу для разработчиков, бизнеса и политиков, способствуя подотчетности, прозрачности и общественному доверию. В Японии руководящие принципы по ИИ играют решающую роль в обеспечении соответствия ИИ общественным ценностям и приоритетам.

В апреле 2024 года японское правительство опубликовало «Руководящие принципы для операторов бизнеса в области ИИ (METI 2024)», которые состоят из шести подробных приложений, разработанных для преобразования основного руководства в практические меры. Эти руководящие принципы служат всеобъемлющим справочником для различных заинтересованных сторон, реализующих инициативы, связанные с ИИ. Правительство считает, что оно сыграло ведущую роль в глобальных дискуссиях по принципам ИИ — в рамках G7, G20, ОЭСР и других международных форумов — и полагает, что установление этих руководящих принципов позволяет Японии способствовать правильному выявлению рисков ИИ, руководствуясь международными тенденциями и обеспокоенностью заинтересованных сторон. Конечная цель — содействие добровольным, практическим мерам в повседневной жизни.

Руководящие принципы для операторов бизнеса в области ИИ в Японии объединяют и развивают «Принципы общества, ориентированного на человека в области ИИ (2019)», «Руководящие принципы разработки ИИ (2017)», «Руководящие принципы использования ИИ (2019)» и «Руководящие принципы управления для реализации принципов ИИ (2022)». «Принципы общества, ориентированного на человека в области ИИ (2019)», разработанные Советом по интегрированным инновационным стратегиям правительства, направлены на использование ИИ для решения глобальных проблем, таких как экологические проблемы, растущее неравенство и истощение ресурсов — подход, известный как «Общество 5.0». В Пятом основном плане развития науки и техники Общество 5.0 описывается как «общество, ориентированное на человека, которое балансирует экономический прогресс с решением социальных проблем посредством высокоинтегрированной системы киберпространства и физического пространства». Здесь правительство подчеркивает гармонизацию экономического развития с решением социальных проблем.

Основные идеи Принципов общества, ориентированного на человека в области ИИ включают:

1. Уважение человеческого достоинства — ИИ должен дополнять и расширять возможности человека.

2. Разнообразие и инклюзивность — предоставление разнообразным людям возможности pursuing their own forms of happiness.

3. Устойчивость — использование ИИ для решения таких проблем, как неравенство и деградация окружающей среды.

На основе этих идей Принципы излагают семь руководящих принципов: (1) Принцип ориентации на человека, (2) Принцип образования и грамотности, (3) Принцип защиты конфиденциальности, (4) Принцип безопасности, (5) Принцип добросовестной конкуренции, (6) Принцип справедливости, подотчетности и прозрачности, и (7) Принцип инноваций. Японское правительство заявляет, что эти руководящие принципы будут периодически обновляться для отражения изменений в международных тенденциях и новых технологий.

Руководящие принципы для операторов бизнеса в области ИИ подчеркивают три основные концепции:

1. Поддержка добровольных усилий бизнеса,

2. Координация с международными дискуссиями,

3. Ясность для читателей.

Они предназначены для обеспечения эффективности и легитимности посредством повторного рассмотрения с участием многих заинтересованных сторон — включая образовательные и исследовательские учреждения, гражданское общество и частные компании — и функционируют как живой документ, который будет продолжать развиваться. Японское правительство стремится к соответствию видения Общества 5.0 и принципов ИИ, ориентированных на человека, отчасти из-за демографических проблем Японии, таких как быстрое старение населения и нехватка рабочей силы.

В 2023 и 2024 годах японское правительство ускорило свою политику в области ИИ. «Совет по стратегии ИИ» под председательством профессора Ютаки Мацуо из Токийского университета руководит правительственными дискуссиями. Совет установил бюджет в размере 164,09 млрд иен (увеличение на 44% по сравнению с предыдущим финансовым годом) для инициатив в области ИИ и решил субсидировать от одной трети до половины расходов крупных фирм на расширение инфраструктуры графических процессоров (GPU) — критически важного ресурса для ИИ. В 2023 году совет подготовил «Промежуточные пункты обсуждения по ИИ», посвященные последним разработкам в области генеративного ИИ. В этом отчете отмечается давняя приверженность Японии технологиям и ИИ, предполагая, что, несмотря на длительный экономический застой, появление ИИ может придать новый импульс росту. В отчете также выделены семь основных рисков:

1. Утечка конфиденциальной информации и неправомерное использование персональных данных: Генеративный ИИ может собирать данные о взаимодействии пользователей и использовать их для таргетированной рекламы. Более того, при обучении на интернет-данных системы ИИ рискуют ненадлежащим образом собирать личную информацию.

2. Повышение простоты и изощренности преступлений: Генеративный ИИ может способствовать незаконной деятельности, такой как создание реалистичных дипфейков голоса или изображений с низкими затратами, что потенциально может привести к мошенничеству или производству наркотиков. Хотя Уголовный кодекс Японии и законы о борьбе с взломом могут охватывать некоторые случаи, новые преступления требуют новых правовых мер.

3. Социальные потрясения из-за дезинформации: Генеративный ИИ может легко создавать и распространять фейковые новости или предвзятую информацию, вызывая общественные беспорядки или вмешательство в демократические процессы. Необходимы инструменты для обнаружения дезинформации и ограничения ее распространения.

4. Более изощренные кибератаки: Кибератаки с использованием ИИ могут стать более продвинутыми. Генеративный ИИ может помочь создавать электронные письма, которые избегают обнаружения, выдают себя за людей или даже нацелены на сами системы ИИ.

5. Влияние на образование: Использование ИИ для выполнения домашних заданий или написания докладов может препятствовать творчеству учащихся. Однако персонализированное обучение на основе ИИ может улучшить результаты обучения. Министерство образования должно срочно разработать руководящие принципы и повысить грамотность в области ИИ.

6. Нарушение авторских прав: Контент, сгенерированный ИИ, может быть очень похож на существующие произведения, что повышает вероятность нарушений авторских прав. Правительство должно повышать осведомленность о действующем законодательстве об авторском праве и рассматривать дальнейшее регулирование результатов, сгенерированных ИИ.

7. Растущий риск безработицы: Способность генеративного ИИ автоматизировать творческие задачи, такие как написание текстов и создание изображений, может привести к потере рабочих мест. Правительство должно изучить влияние ИИ на занятость и способствовать переквалификации и мобильности рабочей силы.

III. Национальная стратегия Южной Кореи в области ИИ

В 2019 году правительство Южной Кореи опубликовало свою Национальную стратегию в области ИИ, в которой министр науки и ИКТ Чхве Ки Ён подчеркнул реализацию «ИИ, ориентированного на человека». В 2020 году Министерство науки и ИКТ и Корейский институт развития информационного общества представили «Национальную основу этики ИИ», которая устанавливает базовые и всеобъемлющие стандарты для всех членов общества при разработке и развертывании ИИ (Korean Institute of Science and Design Information n.d.).

Высшей ценностью Основы является человечество, а под тремя основными принципами — (1) Человеческое достоинство, (2) Общественное благо и (3) Технологическая целесообразность — лежат десять ключевых требований, охватывающих весь жизненный цикл ИИ: (1) Гарантия прав человека, (2) Защита конфиденциальности, (3) Уважение разнообразия, (4) Непричинение вреда, (5) Публичность, (6) Солидарность, (7) Управление данными, (8) Ответственность, (9) Безопасность и (10) Прозрачность.

В 2020 году Южная Корея также опубликовала Дорожную карту ИИ, содержащую тридцать приоритетов, включая стандарты для ИИ высокого риска. Примечательно, что одно положение обсуждает возможность предоставления ИИ правосубъектности. Правительство активно направляет развитие экосистемы ИИ, а президент Юн Сок Ёль в апреле 2024 года заявил о стремлении Южной Кореи стать одной из трех ведущих стран в области ИИ. Учитывая, что Национальная стратегия Кореи в области ИИ подчеркивает «ИИ, ориентированный на человека», фундаментальное направление корейской этики ИИ существенно не отличается от японского, что предполагает наличие достаточной общей основы для сотрудничества.

IV. Роль риск-ориентированных подходов и «Хиросимского процесса по ИИ»

Японские руководящие принципы для операторов бизнеса в области ИИ принимают риск-ориентированный подход, который включает раннее выявление потенциального социального вреда — такого как дискриминация или дезинформация — и оценку его серьезности и вероятности. Затем принимаются меры в соответствии с уровнем риска, при этом осуществляется постоянное управление рисками на протяжении всего жизненного цикла ИИ. В этом процессе участвуют различные заинтересованные стороны, и подчеркивается прозрачность. Адаптируя регулирование к различным уровням риска, правительства стремятся избежать подавления инноваций чрезмерно ограничительными законами, одновременно максимизируя социальные выгоды от ИИ. Этот подход широко принят на международном уровне, в том числе ОЭСР и G7, что способствует достижению глобального консенсуса.

Важным дипломатическим усилием по развитию международного сотрудничества в области безопасности и этики ИИ стал «Хиросимский процесс по ИИ (2023)» Японии. Проведенный за год до того, как Япония завершила разработку своих руководящих принципов для операторов бизнеса в области ИИ, Хиросимский процесс по ИИ стал ключевым шагом на пути к установлению международных руководящих принципов. На встрече министров цифровых технологий и информационных технологий стран «Большой семерки» в апреле 2023 года (G7 Digital and Technology Ministers’ Meeting 2023) участники приняли декларацию министров, подчеркивающую «Ответственный ИИ и управление ИИ». Они подтвердили, что «политика и регулирование в области ИИ должны быть ориентированы на человека, соблюдать права человека и основные свободы (включая конфиденциальность и защиту персональных данных) в соответствии с демократическими ценностями, а также быть риск-ориентированными и дальновидными».

В сентябре 2023 года в Заявлении министров цифровых технологий и информационных технологий стран «Большой семерки» далее признавалась необходимость решения проблем, связанных с быстрым развитием ИИ, при одновременном использовании его преимуществ. Заявление лидеров «Большой семерки» по Хиросимскому процессу по ИИ от октября 2023 года (Ministry of Foreign Affairs of Japan 2023) также подчеркивает «инновационные возможности» и «трансформационный потенциал» передовых систем ИИ, демонстрируя глобальное внимание к генеративному ИИ в то время.

Документ, опубликованный в рамках Хиросимского процесса по ИИ под названием «Международные руководящие принципы Хиросимского процесса для организаций, разрабатывающих передовые системы ИИ» (Japanese Government 2023), начинается с заявления о цели содействия безопасному, надежному и заслуживающему доверия ИИ во всем мире. В нем подчеркивается, что «организации не должны разрабатывать или развертывать передовые системы ИИ таким образом, который подрывает демократические ценности, особенно вреден для отдельных лиц или сообществ, способствует терроризму, допускает злоупотребления со стороны преступников или представляет существенные риски для безопасности, надежности и прав человека».

Хиросимский процесс по ИИ подчеркивает демократические ценности, этические практики в области ИИ, управление рисками и международное сотрудничество. Эта инициатива внесла значительный вклад, выпустив руководящую основу для решения глобальной эволюции ИИ. Такое внимание к демократическим ценностям может служить основой для сотрудничества Японии и Южной Кореи в области этики ИИ.

V. Эволюция политики в области ИИ в Японии

Среда разработки ИИ в Японии отличается от среды американских Big Tech-компаний или китайских частных фирм, регулируемых государством. «Стратегия развития технологий искусственного интеллекта» (Cabinet Office, Government of Japan 2017), опубликованная японским правительством в марте 2017 года, отмечала, что Япония отстает от США и Китая по количеству научных публикаций, связанных с ИИ, и ставила приоритетом создание надежной среды для исследований и разработок с участием как государственного, так и частного секторов, а также решение насущной проблемы нехватки талантов в области ИИ в Японии. Стратегия разделяла развитие ИИ на три этапа:

Этап 1: Содействие использованию ИИ на основе данных в конкретных областях.

Этап 2: Продвижение более широкого использования ИИ и данных за пределами отдельных областей.

Этап 3: Связывание множества областей сложными способами для формирования экосистемы ИИ.

Она также наметила три основных подхода к развитию талантов в области ИИ:

1. Разработка и внедрение образовательных программ для подготовки специалистов, готовых к немедленному применению.

2. Поощрение совместных исследований и разработок рабочей силы между университетами и промышленностью.

3. Использование инициатив правительства и научно-исследовательских институтов для дальнейшего укрепления этих программ.

Япония не полагается в первую очередь на стартап-экосистему в американском стиле, подпитываемую крупными венчурными инвестициями. Вместо этого ее подход включает тесное сотрудничество между университетами, промышленностью и правительством в области исследований, разработок и коммерциализации ИИ. В мае 2015 года Национальный институт передовой промышленной науки и технологий (AIST) учредил «Исследовательский центр искусственного интеллекта». Профессор Дзюничи Цудзи, ведущий эксперт в области обработки естественного языка и текстовой аналитики, был назначен первым директором. Цудзи отметил, что, поскольку ИИ проникает во все промышленные секторы, неспособность идти в ногу с ним поставит под угрозу целые отрасли.

Повестка дня Японии в области развития ИИ в значительной степени отражает национальные социальные условия. Согласно «Стратегии развития технологий искусственного интеллекта», Япония находится на пути к первому в мире крупному этапу быстрой старения населения. Использование ИИ для преобразования огромных объемов медицинских данных и данных по уходу в «ведущую в мире передовую систему здравоохранения и ухода» является одной из главных целей. К 2030 году более 40% населения Японии составят пожилые люди, и правительство предполагает общество, в котором люди будут активно работать даже в возрасте 80 лет. Таким образом, ожидается, что ИИ решит социальные проблемы, такие как старение населения и нехватка рабочей силы. Те же цели отражены в правительственных «Принципах общества, ориентированного на человека в области ИИ (2019)», которые направлены на использование ИИ для решения экологических кризисов, неравенства и истощения ресурсов. Таким образом, ориентация Японии на «человекоцентричность» лежит в основе ее этики ИИ. Хотя проблемы Южной Кореи в некоторой степени отличаются — например, ИИ связан с военным потенциалом из-за демографических проблем — Южная Корея и Япония разделяют насущные демографические проблемы.

VI. Руководящие принципы для бизнеса в области ИИ и этические стандарты для разработки ИИ

Предвидя широкое применение ИИ в бизнесе, Японское общество искусственного интеллекта (JSAI) обсуждало создание комитета по этике еще в 2014 году. В то время Хироси Мацубара, тогдашний президент JSAI и профессор Университета будущего Хакодате, просил Ютаку Мацуо из Токийского университета рассмотреть возможность создания такого комитета. Первое заседание Комитета по этике JSAI состоялось в Токийском университете в декабре 2014 года (Japanese Society for Artificial Intelligence, Ethics Committee 2015).

Первоначально JSAI обсуждало, следует ли называть его «Комитетом по этике» или «Комитетом по ИИ и будущему обществу». Фактически, Комитет по этике JSAI существовал с 2007 года, но стал неактивным. Его повторное создание в 2014 году привлекло значительное внимание СМИ. Примечательно, что в Комитет по этике входил писатель-фантаст Сатоси Хасэ, что иллюстрирует широкий подход JSAI к будущим вызовам. В 2017 году Комитет по этике опубликовал «Этические руководящие принципы Японского общества искусственного интеллекта» (Japanese Society for Artificial Intelligence 2017). Эти руководящие принципы сосредоточены на профессиональной этике для исследователей, но Статья 9 гласит, что если ИИ «становится членом общества или его эквивалентом, он должен придерживаться тех же этических руководящих принципов, что и члены JSAI», тем самым распространяя этические обязательства на сами артефакты ИИ.

Десять лет спустя, в 2024 году, Министерство внутренних дел и коммуникаций Японии и Министерство экономики, торговли и промышленности опубликовали «Руководящие принципы для операторов бизнеса в области ИИ», основанные на правительственном принципе 2019 года «Общество, ориентированное на человека в области ИИ». Также в 2019 году Министерство внутренних дел и коммуникаций (MIC) опубликовало «Руководящие принципы использования ИИ» (Ministry of Internal Affairs and Communications 2019). В этом документе отмечается, что в 2016 году на встрече министров ИКТ стран «Большой семерки» (организованной Японией) японское правительство предложило первоначальный проект принципов разработки ИИ, а в 2018 году представители Японии представили свои «Принципы общества, ориентированного на человека в области ИИ», «Проект руководящих принципов разработки ИИ» и «Проект руководящих принципов использования ИИ» в Экспертной группе ОЭСР по ИИ. Япония утверждает, что Рекомендация ОЭСР по искусственному интеллекту 2019 года соответствует японским принципам и руководящим указаниям.

Инициативы частного сектора Японии в области этики ИИ ускорились с тех пор. В 2018 году Sony Group объявила о своих «Этических руководящих принципах Sony Group в области ИИ» (Sony Group 2023), применимых ко всем должностным лицам и сотрудникам, занимающимся разработкой и использованием ИИ. В 2019 году NEC Group разработала свою «Политику в области ИИ и прав человека» (NEC Group 2019). В 2021 году Hitachi сформулировала свои «Принципы этики ИИ», отражающие как дискуссии ОЭСР, так и философию бизнеса компании «Социальные инновации».

Таким образом, академические круги, государственные органы и частные фирмы Японии приняли риск-ориентированный подход, выявляя области высокого риска и фокусируясь на них. Что касается регулирования, то в Японии нет всеобъемлющего закона об ИИ; она полагается на руководящие принципы, issued by the government, and private-sector codes of conduct. Japan has thus far refrained from enacting legislation specifically targeting AI, opting instead for a soft law approach. However, there has been a slight shift in this strategy. Building on the principles of “balancing risk management with the promotion of innovation” and “international cooperation,” the government is scheduled to submit a bill in January 2025 that will enable investigations into AI operators. An approach of soft law in contrast to the EU’s more stringent “hard law.” The EU, set to enforce its AI Act around 2026, seeks to protect human rights and freedoms by regulating training data and categorizing AI into four groups—unacceptable, high-risk, transparency-required, and minimal or no risk. High-risk and transparency-required systems face mandatory obligations. Meanwhile, in the United States, the White House issued an “Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence,” calling for standards, testing requirements, measures against algorithmic discrimination, and privacy protection, while aiming to foster innovation and competitiveness.

В ноябре 2024 года Комитет по науке, ИКТ, вещанию и коммуникациям Южной Кореи одобрил «Закон о содействии развитию индустрии искусственного интеллекта и обеспечении доверия» для парламентских дебатов. Этот закон потребует маркировки работ, сгенерированных ИИ, как таковых и предусматривает штрафы до 30 миллионов вон за несоблюдение. Подход Южной Кореи, по-видимому, больше соответствует жесткому праву ЕС, потенциально предписывая строгие стандарты безопасности для систем ИИ. Однако из-за объявления военного положения в декабре 2024 года и кризиса импичмента президента судьба законопроекта неопределенна.

VII. Будущее сотрудничества Южной Кореи и Японии в области этики ИИ

Как два демократических государства, Южная Корея и Япония разделяют общие ценности — в частности, концепции «ориентации на человека», «разнообразия» и «устойчивости» в основе их принципов этики ИИ. Южная Корея уточняет приверженность правам человека и общественному благу посредством своей Национальной стратегии в области ИИ и «Национальной системы этических принципов в области ИИ», в то время как Япония основывает свой подход на «Принципах общества, ориентированного на человека в области ИИ» и «Руководящих принципах для операторов бизнеса в области ИИ», применяя подход, основанный на оценке рисков и укорененный в международном консенсусе. Обе страны должны активно участвовать в глобальных дискуссиях — через такие платформы, как Хиросимский процесс по ИИ, G7 и ОЭСР — для влияния на формирующиеся международные нормы и согласования с ними. В декабре 2024 года G7 достигли соглашения по основополагающим аспектам системы, требующей от разработчиков ИИ сообщать о рисках. Внедрение этой системы также запланировано на февраль 2025 года.

На мировой арене война на Украине и другие конфликты привели к использованию дронов и другого нового вооружения, вызвав обеспокоенность по поводу роли ИИ в современной войне. Уже некоторое время международное сообщество обсуждает риски летальных автономных систем вооружений (LAWS), которые делегируют принятие решений ИИ. Южная Корея, сталкиваясь с напряженностью в отношениях с Северной Кореей, разместила роботов-наблюдателей вдоль Демилитаризованной зоны (ДМЗ). Поскольку ее оборонная промышленность процветает, Южная Корея поставляет вооружение — особенно в Европу, которая с опаской относится к границе с Россией — и может продолжать расширяться в этой области. В отличие от этого, многие японские частные фирмы покинули оборонный сектор. Следовательно, Южная Корея имеет более конкретный опыт и экспертизу в области ИИ, связанного с вооружениями, что позволяет ей внести потенциально значимый вклад в международный дискурс по этике систем вооружений, оснащенных ИИ.

В феврале 2024 года Япония учредила Институт безопасности ИИ, назначив Акико Мураками исполнительным директором. Этот институт оценивает методы обеспечения безопасности ИИ, устанавливает стандарты и способствует международному сотрудничеству Японии. В отчете Совета по комплексной инновационной стратегии за 2024 год упоминаются три ключевые области для укрепления: (1) комплексные стратегии для критически важных технологий, (2) глобальное сотрудничество и (3) повышение конкурентоспособности ИИ при обеспечении безопасности и надежности. В частности, Япония стремится лидировать в международном нормотворчестве в области ИИ. Для достижения этой цели правительство планирует стратегически использовать двусторонние и многосторонние рамки с союзниками и странами-единомышленниками, а также партнерами из АСЕАН, в координации с промышленностью и академическими кругами. С точки зрения Южной Кореи, эти усилия указывают на возможности для более глубокого сотрудничества с Японией.

Являясь соседними странами с тесно связанными отраслями промышленности, Южная Корея и Япония обладают взаимодополняющими сильными сторонами в технологическом и социальном контекстах. С глобальным ростом генеративного ИИ, то, как каждая страна встраивает свой язык и социально-культурные нормы в модели ИИ, станет ключевым вопросом — вопросом, подчеркивающим важность «суверенитета в области ИИ». Отличаясь от гигантов в области ИИ США и Китая, Южная Корея и Япония могут сотрудничать, чтобы подчеркнуть важность национального суверенитета в области ИИ, отражая отличительные социально-культурные нормы и общие демографические проблемы, включая низкую рождаемость и старение населения.

Совместные усилия Южной Кореи и Японии в области этики ИИ могут привести к созданию совместной экосистемы. Потенциальные направления включают совершенствование взаимных руководящих принципов и технических стандартов, обмен данными, проведение совместных исследований и разработок, а также усиление координации на многосторонних форумах для формирования правил управления ИИ. Такое сотрудничество ускорит реализацию общества, основанного на ИИ, характеризующегося «надежностью», «прозрачностью» и «подотчетностью», укрепляя лидерские позиции двух стран в международном дискурсе. Их общие демократические ценности, акцент на этических принципах, практические применения для решения социальных проблем и активное участие в установлении международных норм формируют прочную основу для «общества, ориентированного на человека в области ИИ». Работая вместе, Южная Корея и Япония могут представить передовую модель этики ИИ мировому сообществу и тем самым внести вклад в формирование более справедливого международного порядка. ■

Ссылки

Altman, Sam. 2022. “ChatGPT Launched on Wednesday. Today It Crossed 1 Million Users!” X, December 5. https://x.com/sama/status/1599668808285028353 (Accessed December 22, 2024).

Cabinet Office, Government of Japan. 2017. Artificial Intelligence Technology Strategy 2017. https://www.ai-japan.go.jp/menu/learn/ai-strategy-1/75ddfd6ab65e8bcd6fe80e4676d902967c53ca4d.pdf (Accessed December 22, 2024).

G7 Digital and Technology Ministers’ Meeting. 2023. Ministerial Declaration. April 30. Accessed December 22, 2024. https://www.digital.go.jp/assets/contents/node/information/field_ref_resources/efdaf817-4962-442d-8b5d-9fa1215cb56a/5c1391d9/20230519_news_g7_results_japanese_00.pdf.

Hu, Krystal. 2023. “ChatGPT Sets Record for Fastest-Growing User Base - Analyst Note.” Reuters, February 3. https://www.reuters.com/technology/chatgpt-sets-record-fastest-growing-user-base-analyst-note-2023-02-01/. (Accessed December 22, 2024).

Japanese Government. 2023. Hiroshima Process International Guiding Principles for Organizations Developing Advanced AI Systems. https://wwwwww.cao.go.jp/cstp/ai/ai_senryaku/6kai/kokusaishishin.pdf. (Accessed December 22, 2024).

Japanese Society for Artificial Intelligence, Ethics Committee. 2015. Цель создания Комитета по этике Японского общества искусственного интеллекта. https://www.ai-gakkai.or.jp/ai-elsi/about/purpose. (Accessed December 22, 2024).

Japanese Society for Artificial Intelligence. 2017. Ethical Guidelines. https://www.ai-gakkai.or.jp/ai-elsi/wp-content/uploads/sites/19/2017/02/%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD%E5%AD%A6%E4%BC%9A%E5%80%AB%E7%90%86%E6%8C%87%E9%87%9D.pdf. (Accessed December 22, 2024).

Korean Institute of Science and Design Information (KISDI). n.d. Artificial Intelligence Standards (In Korean). https://ai.kisdi.re.kr/aieth/main/contents.do?menuNo=400029. (Accessed December 22, 2024).

Министерство экономики, торговли и промышленности (METI). 2024. «Руководство для операторов ИИ (Версия 1.0) (на японском языке)». 19 апреля.https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20240419_3.pdf. (Accessed December 22, 2024).

Ministry of Foreign Affairs of Japan. 2023. G7 Hiroshima Summit Outcome Documents (In Japanese). https://www.mofa.go.jp/mofaj/files/100573465.pdf. (Accessed December 22, 2024).

Ministry of Internal Affairs and Communications. 2019. AI Utilization Guidelines (In Japanese). https://www.soumu.go.jp/main_content/000624438.pdf. (Accessed December 22, 2024).

NEC Group. 2019. AI and Human Rights Policy (In Japanese). https://jpn.nec.com/press/201904/images/0201-01-01.pdf. (Accessed December 22, 2024).

Sony Group. 2023. AI Ethics Activities (In Japanese). https://www8.cao.go.jp/cstp/ai/ningen/r5_1kai/siryo1.pdf. (По состоянию на 22 декабря 2024 г.).

■ Макото Шионо является руководителем группы по новым технологиям и директором по управлению Института геоэкономики при Международном доме Японии.

■ Набор текста: Черрин Ким, Младший научный сотрудник

    По вопросам: 02 2277 1683 (доб. 208) | crkim@eai.or.kr