Предложение Сингапура по рамочной конвенции ООН по безопасности ИИ: конкуренция норм между средними державами и последствия для Южной Кореи

Краткое содержание

В ходе своего выступления на Генеральной Ассамблее ООН министр иностранных дел Сингапура Балакришнан предложил создать новую международную организацию и рамочную конвенцию ООН для установления защитных мер и стандартов на фоне ускоряющегося соперничества между США и Китаем в сфере ИИ. Это интерпретируется как стратегическое позиционирование города-государства Сингапур с целью превратить свое структурное невыгодное положение в конкуренции масштабов в конкуренцию норм. Логика Балакришнана — о том, что ООН является единственным всеобъемлющим органом с универсальной структурой членства — проистекает из опасения, что если выработка норм будет предоставлена исключительно двусторонним переговорам между США и Китаем, средние державы будут низведены до роли простых исполнителей чужих правил. Если фундаментальное недоверие между великими державами не будет преодолено, дискуссии с высокой долей вероятности останутся на уровне декларации принципов, и ожидаются значительные задержки до заключения предметного договора. Южной Корее следует стремиться к раннему участию в рабочей группе по разработке проекта наряду с независимыми внутренними реформами регулирования безопасности ИИ, принимая во внимание то ограничение, что структура ее союза в сфере безопасности затрудняет прямое принятие сингапурской дипломатии равного удаления.

I. Анализ проблемы

Предложение Сингапура по рамочной конвенции ООН по безопасности ИИ: Анализ проблемы

1. Предыстория и развитие вопроса

26 сентября министр иностранных дел Сингапура Вивиан Балакришнан выступил с национальным заявлением Сингапура в ходе общих прений на Генеральной Ассамблее ООН в Нью-Йорке. В своем обращении он отметил ускоряющееся соперничество в сфере ИИ между Соединенными Штатами и Китаем, оценив, что этап призывов к остановке разработок ради безопасности уже пройден [1]. Вместо этого он заявил о необходимости создания новой международной организации, способной устанавливать защитные меры и стандарты [1]. Он отметил: «Для новых технологий мы должны вместе писать новые правила, и мы должны быть готовы создавать новые институты в случае необходимости» [1]. Концепция рамочной конвенции на уровне ООН также была представлена в рамках этих замечаний [1].

Это предложение возникло не на пустом месте. В течение этого года Сингапур последовательно озвучивал позицию средних держав в дискуссиях по безопасности ИИ. Премьер-министр Лоуренс Вонг подписал совместное заявление вместе с лидерами более чем 20 стран, призывающее к внедрению мер безопасности для передового ИИ [7]. До этого Жозефин Тео, министр цифрового развития и информации, представила подход Сингапура к ИИ на платформе ООН, подчеркнув, что мерилом инноваций должна быть не производительность моделей, а их ощутимое влияние на жизнь людей [9]. Последнее предложение министра Балакришнана является продолжением этой серии дипломатических позиционирований.

В основе этой тенденции лежат уникальные структурные ограничения Сингапура. Будучи городом-государством с населением 6 миллионов человек и площадью территории 730 квадратных километров, Сингапур не может участвовать в конкуренции инфраструктур и полупроводников в тех же масштабах, что США и Китай [3]. Заявление премьер-министра Вонга в его речи на митинге в честь Национального дня в августе о том, что Сингапур будет «использовать мощь новых технологий, но делать это по-своему», проистекает из признания этого ограничения [3]. Направление многостороннего проектирования правил и стандартов верификации соответствует стратегии Сингапура по обеспечению своего голоса в конкуренции норм, а не в конкуренции масштабов.

2. Текущая ситуация

Телеканал Channel NewsAsia сообщил о высказываниях министра Балакришнана как о «предложении по рамочной программе ООН для глобальных гарантий безопасности ИИ», отметив, что он перечислил категории рисков, с которыми сталкиваются правительства, начиная от выхода автономных систем из-под контроля и заканчивая использованием ИИ в разработке оружия массового уничтожения [4]. Он утверждал, что ООН, как единственная всеобъемлющая международная организация с универсальной структурой членства, должна играть центральную роль в формировании общих правил [4].

Сингапурские СМИ не отделяют это предложение от соперничества между США и Китаем. Газета The Business Times сообщила, что во время диалога с бывшим премьер-министром Австралии Кевином Раддом 25 сентября министр Балакришнан охарактеризовал стремление Китая к лидерству в сфере ИИ как явление, качественно отличающееся от космической гонки времен холодной войны между США и СССР [12]. Он объяснил, что Китай подходит к ИИ с решимостью не повторять свою неудачу с отставанием во время промышленной революции 150 лет назад [12]. Это демонстрирует, что Сингапур позиционирует себя как посредник, объясняющий логику обеих сторон, а не солидаризирующийся с нарративом США или Китая.

Примерно в то же время министр обороны Чань Чун Синг также заявил в интервью местным СМИ, что «Сингапур не избегает принятия чьей-либо стороны на фоне обострения соперничества между США и Китаем, а скорее делает выбор, исходя из собственных национальных интересов» [14]. Это подтверждает мнение о том, что предложение по рамочной программе безопасности ИИ является не поддержкой конкретного лагеря, а скорее продолжением прагматичной дипломатии Сингапура.

Тем временем вашингтонские аналитические центры также анализируют международный контекст, в котором было сделано это предложение. Фонд Карнеги за международный мир указал, что рамки реагирования на кризисы в сфере передового ИИ обнажают ограниченность существующих подходов [2]. Институт Брукингса обратился к дискуссии о том, могут ли Соединенные Штаты замедлить темпы развития ИИ, не отстав при этом от Китая [10]. Совет по международным отношениям представил дискуссии, исследующие возможность соглашения между США и Китаем по контролю над вооружениями в сфере ИИ [5][8]. В интервью изданию Foreign Policy Амандип Сингх Гилл, посланник Генерального секретаря ООН по технологиям, поделился, что риски ИИ и роль ООН были среди наиболее обсуждаемых тем во время недели высокого уровня Генеральной Ассамблеи ООН [13].

3. Ключевые акторы и позиции

Министерство иностранных дел Сингапура является главным инициатором этого предложения. Министр Балакришнан определяет ООН как универсальную многостороннюю платформу, аргументируя необходимость общих правил и стандартов верификации в рамках ООН, а не стандартов, устанавливаемых отдельными государствами или горсткой великих держав [1][4]. Это интерпретируется как попытка Сингапура, который не может конкурировать по масштабам ни с США, ни с Китаем в гонке полупроводников и центров обработки данных, застолбить за собой долю средней державы на этапе проектирования норм [3].

Соединенные Штаты пока не объявили официальную позицию по этому предложению. Однако в вашингтонских политических кругах все чаще звучат призывы к потенциальным переговорам по безопасности ИИ между администрацией Трампа и председателем Си Цзиньпином [5]. Это говорит о том, что опасения по поводу пробелов в регулировании существуют и в США. В то же время, учитывая представление о том, что поддержание технологического превосходства над Китаем является вопросом национальной безопасности, ожидается, что США займут осторожную позицию в отношении возможности многосторонних норм, ограничивающих их технологическое превосходство [10].

Китай самостоятельно возвел развитие ИИ в ранг ключевого столпа своей национальной стратегии [6]. Газета South China Morning Post сообщила, что в ходе форума, прошедшего в Сингапуре, представители академических и промышленных кругов как США, так и Китая упомянули о необходимости создания совместных защитных мер для управления рисками ИИ [11]. Однако остается неясным, приведет ли этот консенсус к соглашению по конкретной структуре верификации. Подъем Китая в сфере ИИ описывается как национальная решимость, проистекающая из исторической травмы отставания в промышленной революции [12], что предвещает нежелание Китая легко уступать свой суверенный технологический авторитет в процессе проектирования норм.

В Секретариате ООН Офис посланника по технологиям участвует в создании рамок для устранения рисков ИИ. Посланник Амандип Сингх Гилл сравнил ситуацию со «скорпионами в банке», подчеркнув как ограничения, так и возможности роли ООН в контексте, где сосуществуют взаимное сдерживание и недоверие [13].

4. Ключевые вопросы

Первый вопрос — это эффективность предлагаемой новой международной организации. Хотя министр Балакришнан предложил создать организацию, оснащенную стандартами верификации [1][4], остается неясным, в какой степени США и Китай согласятся на внешнюю верификацию своих ключевых технологических возможностей.

Второй вопрос — лидерство в нормотворчестве. Если рамочная программа ООН действительно дойдет до стола переговоров, и США, и Китай с высокой долей вероятности попытаются продавить дизайн правил, выгодный их соответствующим интересам. Ключевой момент заключается в том, смогут ли средние державы, включая Сингапур, обеспечить себе весомый голос в этом процессе.

Третий вопрос — сосуществование дискуссий о безопасности и логики конкуренции. Анализ Брукингса и Совета по международным отношениям разделяет опасение, что меры безопасности, замедляющие развитие ИИ, могут привести к технологическому отставанию от конкурентов [10][5][8]. Это указывает на возможность того, что рамочная конвенция в конечном итоге может остаться на декларативном уровне, а не стать обязательной нормой.

Четвертый вопрос — устойчивость позиционирования Сингапура. Хотя замечания министра обороны Чань Чун Синга о «выборе, основанном на национальных интересах» [14] и многостороннее предложение министра Балакришнана дополняют друг друга, еще предстоит выяснить, сможет ли эта роль неприсоединившегося посредника сохраняться в долгосрочной перспективе в условиях структуры, где одновременно действуют стимулы Пекина и давление Вашингтона [3].

II. Углубленный анализ

Предложение Сингапура по рамочной конвенции ООН по безопасности ИИ: Углубленный анализ

1. Анализ первопричин

Основным драйвером этого предложения является пробел в регулировании. Отправной точкой служит оценка того, что возможности передовых моделей ИИ развиваются быстрее, чем рамки верификации безопасности [10]. Институт Брукингса формулирует этот пробел как спор между экзистенциальным риском и непосредственным риском. Хотя некоторые контраргументы предполагают, что предупреждения о катастрофических рисках преувеличены, само отставание регулирования рассматривается как неоспоримый факт [10].

Более непосредственной причиной в высказываниях министра Балакришнана является восприятие времени — в частности, то, что «уже слишком поздно призывать к остановке разработок ради безопасности» [1]. Это предполагает, что неоднократные призывы к мораторию на разработки с 2023 года не принесли результатов. Вместо этого путь, который он выбрал, — это не регулирование, а орган верификации. Логика того, что новая международная организация необходима для установления защитных мер и стандартов, проистекает из опасения, что доверие не может быть гарантировано исключительно за счет индивидуального национального саморегулирования или добровольных корпоративных деклараций [1][4].

Более фундаментальной причиной является вакуум норм, созданный двухполюсной структурой США и Китая. В то время как США и Китай сдерживают друг друга в гонке разработок ИИ, в вопросах безопасности они полагаются на свои соответствующие внутренние регуляторные рамки. В докладе Фонда Карнеги за международный мир эта ситуация резюмируется вопросом: «Кто устанавливает барьеры для ИИ?» [2]. Аргумент министра Балакришнана о том, что ООН, как орган с универсальным членством, может заполнить этот вакуум, также возникает из этого контекста [4]. С точки зрения Сингапура, существует расчет на то, что если выработка норм будет предоставлена исключительно двусторонним переговорам между США и Китаем, средние державы неизбежно будут низведены до роли исполнителей чужих правил.

2. Структурный контекст

2.1 Политическая структура: Структурные ограничения города-государства и переход к конкуренции норм

За предложением Сингапура о рамочной программе ООН кроется фундаментальное ограничение его национального масштаба. Будучи городом-государством с населением 6 миллионов человек и площадью территории 730 квадратных километров, он не может сравниться по объемам с гонкой инфраструктур центров обработки данных и полупроводников между США и Китаем [3]. Предложение премьер-министра Лоуренса Вонга в его речи на митинге в честь Национального дня в августе о «дисциплине и исполнении, а не конкуренции масштабов» в качестве альтернативы проистекает из признания этого ограничения [3]. Газета The Business Times оценила эту стратегию как «попытку изменить игру на ту, в которой Сингапур может играть значимую роль и побеждать» [3].

В этом контексте предложение о рамочной программе ООН можно прочитать как попытку заменить конкуренцию объемов конкуренцией норм. В дискуссиях по стандартам верификации и дизайну международных организаций переговорная сила и авторитет — а не площадь территории и население — определяют вес голоса. Именно поэтому Сингапур неоднократно заявлял о себе на многосторонних платформах. Неслучайно выступление министра Жозефин Тео в ООН, подписание премьер-министром Вонгом совместного заявления по безопасности передового ИИ и речь министра Балакришнана на ГА ООН последовали друг за другом в течение одного года [7][9][1].

2.2 Структура безопасности: Избегание принятия чьей-либо стороны и принцип приоритета национальных интересов

22 сентября министр обороны Чань Чун Синг заявил: «Сингапур не избегает принятия чьей-либо стороны на фоне обострения соперничества между США и Китаем, а скорее делает выбор, исходя из собственных национальных интересов» [14]. Этот принцип напрямую отражен в предложении по рамочной программе безопасности ИИ. Сингапур не солидаризируется полностью ни с нарративом США о доминировании в сфере ИИ, ни с нарративом Китая о догоняющем развитии. В своем диалоге с бывшим премьер-министром Австралии Кевином Раддом министр Балакришнан объяснил стремление Китая к лидерству в сфере ИИ как «решимость не повторять свою неудачу с отставанием во время промышленной революции 150 лет назад», одновременно отличая его от космической гонки времен холодной войны между США и СССР [12]. Это риторический подход, который объясняет логику как США, так и Китая, не ограничиваясь лагерным мышлением ни одной из сторон.

Это позиционирование в сфере безопасности также тесно переплетено с экономической уязвимостью. Согласно стресс-тесту Валютного управления Сингапура, примерно 32% компаний, зарегистрированных на Сингапурской бирже, пострадали бы при сценарии резкого падения инвестиций, связанных с ИИ [14]. Чем выше экономическая зависимость от цепочки поставок ИИ, тем сильнее стимул к снижению международной неопределенности вокруг норм безопасности. Предложение о рамочной программе ООН — это политика, возникшая на стыке управления рисками безопасности и управления экономическими рисками.

2.3 Экономическая структура: Упреждение норм и стратегия хаба

Как видно на примере конференции по ИИ, организованной банком DBS, Сингапур позиционирует себя как «надежный и нейтральный посредник» для роста ИИ в Азии [15]. Это согласуется с его стратегией финансового хаба. Участвуя на ранних этапах в нормотворчестве, Сингапур рассчитывает закрепить за собой статус законодателя стандартов в последующих дискуссиях по управлению ИИ в Азиатском регионе. Предложение такой универсальной структуры, как рамочная программа ООН, также тесно связано с экономическим расчетом оказывать влияние на процесс выработки правил через участие, а не подчиняться стандартам конкретного лагеря.

3. Исторические прецеденты и сравнительные случаи

Договор о нераспространении ядерного оружия (ДНЯО) и опыт создания МАГАТЭ — это случаи, которые часто приводятся в качестве ориентиров для этого предложения. В интервью с посланником ООН по технологиям Амандипом Сингхом Гиллом издание Foreign Policy объяснило проблему безопасности ИИ, используя метафору ядерного сдерживания времен холодной войны о «скорпионах в банке» [13]. Аргумент заключается в том, что опыт Соединенных Штатов и Советского Союза по созданию верифицируемого режима разоружения, несмотря на страх взаимного гарантированного уничтожения, мог бы послужить ориентиром для проектирования рамок верификации безопасности ИИ [13]. Однако, в отличие от ядерных технологий, ИИ разрабатывается преимущественно частными компаниями и распространяется гораздо быстрее, что делает верификацию значительно более сложной.

Опыт контроля над вооружениями во время холодной войны между США и СССР также обсуждается. Обращаясь к возможности соглашения между США и Китаем по контролю над вооружениями в сфере ИИ, Совет по международным отношениям сослался на мнение бывшего чиновника, курировавшего политику разоружения США и России в Совете национальной безопасности, чтобы подчеркнуть трудности проектирования механизмов верификации [5]. Сам министр Балакришнан отличал стремление Китая к лидерству в сфере ИИ от космической гонки [12]. Это можно прочитать как попытку признать сходства с холодной войной, одновременно подчеркивая особый характер сегодняшней конкуренции в сфере ИИ — а именно то, что это диффузная конкуренция с участием множества акторов, а не простая двухполюсная структура.

Международный режим изменения климата — еще одна точка сравнения. Рамочная конвенция ООН об изменении климата (РКИК ООН) предполагала универсальное участие, но создание обязательной структуры верификации заняло десятилетия. Если рамочная программа безопасности ИИ пойдет по этому пути, она с высокой долей вероятности изначально останется на уровне декларации принципов, а механизмы верификации и реализации будут отложены на последующие переговоры. Тот факт, что Сингапур уже испытывает напряженность между расширением своих внутренних центров обработки данных ИИ и своей климатической политикой, подтверждает это сравнение. Шаблон, при котором расширение инфраструктуры ИИ увеличивает спрос на энергию и сталкивается с повесткой дня климатической дипломатии, является структурным шаблоном, также наблюдаемым в случаях негативной реакции против центров обработки данных в Соединенных Штатах.

4. Ключевые переменные, определяющие будущее развитие

Первая переменная — это реакция Соединенных Штатов и Китая. Чтобы рамочная программа ООН имела реальную обязательную силу, по крайней мере и США, и Китай должны продемонстрировать готовность к участию. Совет по международным отношениям сообщает, что в США нарастают голоса, призывающие к соглашению между США и Китаем по контролю над вооружениями в сфере ИИ [5]. Однако это вопрос двусторонних каналов между Вашингтоном и Пекином, и он не обязательно требует прохождения через многостороннюю структуру, такую как ООН. Если США и Китай создадут структуру верификации через отдельные двусторонние каналы без использования рамочной программы ООН, предложение Сингапура рискует быть низведенным до символического формирования повестки дня.

Вторая переменная — дизайн новой международной организации. Министр Балакришнан лишь упомянул, что «мы должны быть готовы создавать новые институты», не представив конкретной организационной структуры или объема полномочий [1]. Ее эффективность будет существенно различаться в зависимости от того, будет ли она нацелена на организацию с инспекционными полномочиями в стиле МАГАТЭ или останется на уровне консультативного органа, ограничивающегося обменом информацией и рекомендациями по стандартам. Как обосновать создание отдельной организации, когда уже существует Офис посланника ООН по технологиям, также является ключевым вопросом [13].

Третья переменная — способ участия частного сектора. Развитие ИИ стимулируется не государствами, а горсткой крупных технологических компаний. Хотя имел место беспрецедентный случай, когда руководители ведущих лабораторий ИИ совместно призвали к сдержанности в целях безопасности, остается неясным, выльется ли это в межправительственные соглашения [8]. Совместное заявление лидеров более чем 20 стран, включая премьер-министра Лоуренса Вонга, также было оформлено как призыв к реализации мер как компаниями, так и государствами-членами [7]. Степень, в которой межправительственное соглашение сможет обеспечить добровольное соблюдение со стороны корпораций, определит реальный вес рамочной программы.

Четвертая переменная — поддержка со стороны АСЕАН и других средних держав. Предложение одного лишь Сингапура имеет ограничения для того, чтобы стать официальным пунктом повестки дня Генеральной Ассамблеи ООН. Подпишут ли государства-члены АСЕАН или европейские страны это предложение совместно или разовьют его в отдельную резолюцию, определит динамику этого вопроса. В данных, представленных на сегодняшний день, центральное место по-прежнему занимают отдельные высказывания официальных лиц правительства Сингапура, а формирование многосторонней базы поддержки все еще находится на ранней стадии.