Значение нового канала экстренной связи между США и Китаем по вопросам ИИ и введение термина «суперинтеллект»

Краткое содержание

Диалог по суперинтеллекту (СИ) и канал уведомления об инцидентах в сфере ИИ, о которых было объявлено на саммите США и Китая 25 сентября, являются не результатом независимых потребностей в сфере безопасности, а скорее побочным продуктом более широких пакетных торговых переговоров, охватывающих тарифы, критически важные минералы и вопросы, связанные с Ираном. Введение термина «суперинтеллект» также было заранее предопределено президентом Трампом в качестве внутриполитического дискурса в социальной сети Truth Social перед его выступлением на Генеральной Ассамблее ООН; поскольку Китай еще официально не принял этот термин, трудно рассматривать это как предметное нормативное соглашение между двумя сторонами. В Вашингтоне трек Белого дома, сигнализирующий о сотрудничестве, и регуляторный трек, направленный на экспортный контроль передовых чипов и расследование дистилляции моделей, функционируют обособленно, что означает, что символические соглашения между лидерами не препятствуют продолжению применения индивидуальных санкций против Китая. Ключевым тестом реальной надежности этого канала станет то, будут ли конкретизированы процедуры уведомления на последующей встрече в Шэньчжэне в ноябре, наряду с корректировкой экспортного контроля после истечения срока действия Пусанского соглашения. Вместо того чтобы согласовывать свои политические приоритеты с символическими заявлениями по двустороннему каналу США — Китай, Южной Корее необходимо самостоятельно управлять рисками в цепочке поставок полупроводников посредством системы двойного реагирования, которая разграничивает сферы, связанные с безопасностью, и коммерческие области.

I. Анализ проблемы

Создание канала экстренной связи между США и Китаем по вопросам ИИ и введение термина «суперинтеллект»: Анализ проблемы

1. Предыстория и ход развития вопроса

Данное соглашение не является неожиданным результатом. На саммите в Пекине в мае президент Трамп и председатель Си Цзиньпин уже достигли принципиального согласия начать межправительственный диалог по ИИ [9]. Встреча в Вашингтоне 24 сентября служит продолжением этого соглашения [9]. Визит председателя Си имеет символическое значение, поскольку это его первый визит в Белый дом за последние 11 лет [9]. Этот символизм дополнительно подчеркивается личным заявлением президента Трампа о том, что он подготовил государственный обед [9].

Подготовка на рабочем уровне велась еще до саммита. 20 сентября министр финансов США Бессент и вице-премьер Госсовета КНР Хэ Лифэн встретились в штаб-квартире JPMorgan Chase в Нью-Йорке [3]. Во встрече приняли участие представитель США на торговых переговорах Грир, представитель Китая на международных торговых переговорах Ли Чэнган и заместитель министра финансов Ляо Минь [3]. Примечательно, что это обсуждение не начиналось как независимая консультация по безопасности ИИ; скорее, оно рассматривалось как часть пакетных переговоров, охватывающих тарифы, критически важные минералы и вопросы, связанные с Ираном [3]. Определение и процедуры для инцидентов с ИИ, подлежащих уведомлению, остаются нерешенными и были отложены до последующей встречи в Шэньчжэне в ноябре [3].

Споры вокруг изменения терминологии имеют свой собственный контекст. В своей публикации в Truth Social от 19 сентября президент Трамп охарактеризовал дебаты о безопасности ИИ как «продолжение мистификации, созданной радикальными левыми демократами для уничтожения Америки» [6]. В том же посте он провел опрос среди своих подписчиков с целью переименовать ИИ, предложив такие варианты, как «высший интеллект» [6]. Три дня спустя, в своем выступлении на Генеральной Ассамблее ООН 22 сентября, он наотрез отверг концепцию международного совместного органа по контролю за ИИ и заявил, что в официальных правительственных документах вместо ИИ будет использоваться термин «суперинтеллект» [6]. Это отражает последовательную модель поведения администрации Трампа, предпочитающей реагировать через структуры безопасности, а не через регулирование [6].

2. Текущая ситуация

В информационном бюллетене, опубликованном 25 сентября (по местному времени) по завершении саммита, Белый дом указал два ключевых результата. Одним из них является учреждение Диалога по суперинтеллекту (СИ) между США и Китаем для «обмена мнениями о рисках и преимуществах суперинтеллекта» [1], причем следующая встреча запланирована на ноябрь [1]. Другим результатом является двусторонний канал связи для взаимного уведомления в случае инцидентов в сфере ИИ [16]. На саммите в этом месяце две страны согласились использовать в будущем термин «суперинтеллект» применительно к новым технологиям, связанным с «искусственным интеллектом» [16].

Существует явное расхождение в отношении к принятию новой терминологии. Издание «Ханкёре» указало, что «суперинтеллект» интерпретируется как «политическое выражение» президента Трампа, делающее упор на развитие, а не на контроль над технологиями, и сообщило, что Китай еще не использовал это выражение официально [1]. Иными словами, изменение терминологии ближе к фреймингу для внутренней политики США, и нет никаких подтвержденных доказательств того, что Китай принял его по существу.

Примерно в то же время председатель Си отметил, что ИИ не должен выходить из-под контроля человека, в то время как президент Трамп заявил, что они согласились с отсутствием необходимости в новых правилах регулирования [9]. Это представляется скорее жестом для внутренней политики обеих сторон, нежели нормативно обязывающим достижением [9]. В Вашингтоне трек Белого дома, подчеркивающий сотрудничество, и регуляторный трек, осуществляющий экспортный контроль передовых чипов и расследования дистилляции моделей, функционируют отдельно [3]. Учитывая прецедент краха диалога по ИИ между США и Китаем в 2024 году после того, как он оказался переплетен с вопросами торговли и Тайваня, это соглашение с высокой вероятностью останется символическим пунктом для заполнения списка достижений саммита, а не будет функционировать как жизнеспособная инфраструктура кризисного управления [3]. В ноябре, когда истечет срок действия Пусанского соглашения между США и Китаем, то, будут ли снова ужесточены меры экспортного контроля, послужит первым испытанием надежности этого канала [3].

3. Ключевые акторы и позиции

Белый дом / Президент Трамп: Приоритетом президента Трампа является поддержание темпов развития ИИ. Введение термина «суперинтеллект» и отказ от международных регуляторных рамок воспринимаются как символические меры, поддерживающие этот приоритет [6]. Министерство финансов (министр Бессент) выдвигает прагматичную концепцию обеспечения прозрачности в отношениях с Китаем. Министр Бессент отметил: «Как и в случае с другими видами трансграничной деятельности, переход от непрозрачности к прозрачности между первой и второй державами мира в области ИИ чрезвычайно важен» [12]. Однако это заявление отражает позицию Министерства финансов, подчеркивающую необходимость сотрудничества, и отличается по тону от подходов ведомств, нацеленных на противодействие Китаю, таких как Министерство торговли и Конгресс [3][9].

Китайская сторона (Председатель Си Цзиньпин, вице-премьер Хэ Лифэн, линия Министерства коммерции): Китай демонстрирует стремление использовать дискуссии по безопасности как средство обеспечения своего авторитета в разработке глобальных правил [9]. Замечание председателя Си о «контроле человека» можно интерпретировать как выражение принципиального согласия с рисками ИИ при одновременном сигнале о том, что Китай не будет подчиняться регуляторной модели американского типа [9]. Непринятие им термина «суперинтеллект» также согласуется с этим дистанцированием [1].

Конгресс США и регулирующие органы: Экспортный контроль в отношении полупроводников и расследования дистилляции моделей продолжаются независимо от сигналов Белого дома о сотрудничестве [3][6]. Это демонстрирует, что символические соглашения между лидерами не препятствуют продолжению применения индивидуальных мер регулирования [9].

Индустрия ИИ (ведущие американские лаборатории): В этом же контексте примечательно, что руководители конкурирующих американских компаний в сфере ИИ недавно выступили с необычным совместным призывом к «сдержанности» [8]. Это отражает ощущение кризиса внутри индустрии в отношении необходимости управления рисками моделей уровня суперинтеллекта.

Международные аналитические центры и экспертные группы: Такие организации, как Совет по международным отношениям (CFR), Брукингский институт и Фонд Карнеги за международный мир, последовательно заявляли о необходимости проведения переговоров между США и Китаем по контролю над вооружениями в сфере ИИ [2][5][11]. Полуофициальный диалог (Track II) между Брукингским институтом и Университетом Цинхуа, в рамках которого с 2019 года обсуждаются принципы контроля человека над военным ИИ, служит прецедентом и может рассматриваться как часть концептуальной основы для этого соглашения на уровне лидеров [13].

4. Ключевые вопросы

Первым вопросом является эффективность канала связи. Определение и процедуры уведомления об инцидентах в сфере ИИ еще не согласованы окончательно [3]. Существует прецедент краха диалога по ИИ между США и Китаем в 2024 году после того, как он оказался переплетен с вопросами торговли и Тайваня [3]. Обстоятельства, при которых данное соглашение обсуждалось в пакете с тарифами, критически важными минералами и вопросами, связанными с Ираном, вызывают вопросы о независимости этого канала [3].

Вторым вопросом являются последствия изменения терминологии. Использование названия «суперинтеллект», по всей видимости, является внутриполитическим фреймингом администрации Трампа, а не действенной мерой по управлению рисками [1][6]. Тот факт, что Китай еще официально не принял этот термин, указывает на то, что две страны не разделяют общую концептуальную основу [1].

Третьим вопросом является то, сохранится ли двухтрековая структура. Сосуществование трека сотрудничества под руководством Белого дома и трека давления под руководством Министерства торговли и Конгресса не устраняется этим соглашением [3][6][9]. То, будут ли снова ужесточены меры экспортного контроля по истечении срока действия Пусанского соглашения в ноябре, послужит тестом для оценки реального направления этой двойной структуры [3].

Четвертым вопросом является расхождение в целях, которые США и Китай ставят перед дискуссиями по безопасности. В то время как Китай подходит к дискурсу безопасности как к средству обеспечения своего авторитета в разработке глобальных правил, США рассматривают безопасность исключительно в рамках сохранения своего конкурентного преимущества над Китаем [9]. Это фундаментальное расхождение в целях является переменной, которая определит, насколько эффективно будут функционировать Диалог по СИ и канал уведомления об инцидентах в будущем.

II. Глубокий анализ

Создание канала экстренной связи между США и Китаем по вопросам ИИ и введение термина «суперинтеллект»: Глубокий анализ

1. Анализ первопричин

Внешним обоснованием этого соглашения является управление безопасностью ИИ. Однако прослеживание реального пути его выработки демонстрирует иную картину. Обсуждение создания канала началось на встрече министра финансов США Бессента и вице-премьера Госсовета КНР Хэ Лифэна в штаб-квартире JPMorgan Chase в Нью-Йорке 20 сентября [3]. Повесткой дня этой встречи были пакетные переговоры, охватывающие тарифы, критически важные минералы и вопросы, связанные с Ираном [3]. Безопасность ИИ была лишь вставлена в качестве одного из пунктов в этот переговорный пакет. Иными словами, канал кризисного управления в сфере ИИ возник не из независимых потребностей безопасности, а был создан как побочный продукт торговых и ресурсных переговоров.

Путь развития изменения терминологии еще проще. 19 сентября президент Трамп в социальной сети Truth Social определил сами дебаты о безопасности ИИ как «продолжение мистификации, созданной радикальными левыми демократами для уничтожения Америки» [6]. В том же посте он собрал варианты названий для нового термина с помощью опроса подписчиков [6]. Три дня спустя в своем выступлении на Генеральной Ассамблее ООН он отверг концепцию международного совместного органа по регулированию ИИ и официально закрепил принятие термина «суперинтеллект» [6]. Исходя из этой последовательности, термин «суперинтеллект» не был продуктом международных переговоров, а был сначала внедрен во внутриполитический дискурс США, а затем добавлен к результатам саммита. Издание «Ханкёре» также указало, что это выражение является «политическим выражением» президента Трампа, делающим упор на развитие, а не на контроль над технологиями, и что китайская сторона еще не использовала его официально [1]. Первопричиной является не общее восприятие рисков ИИ США и Китаем, а скорее пересечение внутриполитического ландшафта США и необходимости управления переговорным пакетом.

2. Структурный контекст

Данную проблему определяют три уровня структуры.

В политической структуре трек Белого дома и треки регулирующих органов/Конгресса функционируют раздельно. В анализе EAI отмечается, что «в Вашингтоне трек Белого дома, подчеркивающий сотрудничество, и регуляторный трек, осуществляющий экспортный контроль передовых чипов и расследования дистилляции моделей, функционируют отдельно» [3]. Это означает, что символические соглашения между лидерами не препятствуют продолжению применения индивидуальных мер регулирования, таких как экспортный контроль полупроводников [9]. Эта двойная структура представляет собой модель, которая повторяется с начала администрации Трампа, когда вовне проецируются жесты сотрудничества, в то время как регулирующие органы на рабочем уровне сохраняют позицию давления на Китай.

В экономической структуре решающим фактором является то, что канал по ИИ обсуждался в пакете с тарифами, критически важными минералами и вопросами, связанными с Ираном [3]. Это демонстрирует, что сотрудничество в области безопасности ИИ рассматривается не как независимый пункт повестки дня, а как разменная монета в более широком пакете торговых соглашений между США и Китаем. Анализ, предполагающий, что предстоящее решение о том, следует ли снова ужесточить экспортный контроль в преддверии истечения срока действия Пусанского соглашения в ноябре, послужит тестом надежности канала, укладывается в тот же контекст [3].

В структуре безопасности цели, которые Китай и США ставят перед дискуссиями по безопасности, принципиально различаются. В анализе EAI отмечается, что «в то время как Китай стремится использовать дискуссии по безопасности как средство обеспечения своего авторитета в разработке глобальных правил, США рассматривают безопасность исключительно в рамках сохранения своего конкурентного преимущества над Китаем, что означает, что цели, преследуемые двумя сторонами, принципиально различны» [9]. Наблюдение о том, что председатель Си отметил на встрече в Вашингтоне, что ИИ не должен выходить из-под контроля человека, в то время как президент Трамп согласился с отсутствием необходимости в новых правилах регулирования [9], заслуживает доверия как отражающее скорее жесты для внутренней политики обеих сторон, нежели обязывающее нормативное соглашение. Это структурное несовпадение целей является фундаментальным условием, затрудняющим превращение канала в жизнеспособную инфраструктуру кризисного управления.

3. Сравнение с историческими прецедентами и аналогичными случаями

Наиболее прямым прецедентом является диалог по ИИ между США и Китаем в 2024 году. Этот диалог потерпел крах после того, как оказался переплетен с вопросами торговли и Тайваня [3]. Текущее соглашение имеет ту же структуру, поскольку оно также рассматривалось в пакете с тарифами, критически важными минералами и вопросами, связанными с Ираном [3]. В свете этого прецедента в анализе EAI делается вывод, что «это соглашение с высокой вероятностью останется символическим пунктом для заполнения списка достижений саммита, а не будет функционировать как жизнеспособная инфраструктура кризисного управления» [3].

Другим ориентиром служит полуофициальный диалог (Track II), проводимый Брукингским институтом и Университетом Цинхуа с 2019 года [13]. Этот диалог затрагивал риски военного ИИ на уровне частных экспертов, а не по официальным межправительственным каналам. Несмотря на то, что он продолжается в течение длительного периода, он не привел к официальным межправительственным соглашениям. Это вновь подтверждает модель, при которой диалог по безопасности ИИ между США и Китаем жизнеспособен на более низких уровнях, но подчиняется другим торговым вопросам в тот момент, когда он выносится на уровень соглашения лидеров.

В СМИ часто проводят сравнения с горячей линией ядерной связи между США и СССР времен холодной войны, однако структурные различия весьма существенны. Ядерная горячая линия была создана с конкретно согласованными объектами и процедурами уведомления на основе четкого баланса страха, известного как взаимное гарантированное уничтожение. Напротив, нынешний канал по ИИ отложил само определение и процедуры инцидентов с ИИ, подлежащих уведомлению, до последующей встречи в Шэньчжэне в ноябре [3]. Иными словами, хотя этот канал и называют горячей линией, он был запущен без какого-либо согласия относительно того, о чем именно следует сообщать.

4. Ключевые переменные, определяющие будущее развитие событий

Первой переменной является истечение срока действия Пусанского соглашения в ноябре и то, будет ли снова ужесточен экспортный контроль. EAI определяет этот момент как «первое испытание надежности этого канала» [3]. Если экспортный контроль будет снова ужесточен даже при работающем канале сотрудничества, разрыв между символизмом канала и реальной позицией давления на Китай станет очевидным.

Второй переменной является то, будут ли фактически конкретизированы объекты и процедуры уведомления об инцидентах в сфере ИИ на последующей встрече, которая состоится в Шэньчжэне в ноябре [3]. Если сохранится ситуация, при которой существует только канал без определений и процедур, высока вероятность повторения пути краха диалога 2024 года.

Третьей переменной является то, примет ли Китай термин «суперинтеллект». На сегодняшний день Китай официально не использовал это выражение [1]. Если Китай продолжит придерживаться существующего термина «ИИ», соглашение между двумя странами останется в состоянии несовпадения, начиная с терминологии в официальных документах. Это могло бы послужить лакмусовой бумажкой для оценки уровня взаимного доверия перед фактическим запуском канала.

Четвертой переменной является согласованность политики между треком Белого дома и треками Конгресса/регулирующих органов [3]. Если достижения саммита и меры регулирования на рабочем уровне будут постоянно расходиться, канал вряд ли будет функционировать как нечто большее, чем показатель эффективности для внутренней политики как в США, так и в Китае.

С точки зрения Южной Кореи, эти четыре переменные не действуют изолированно. В частности, в анализе EAI неоднократно подчеркивается, что правительственные ведомства, ответственные за управление цепочкой поставок полупроводников, должны отслеживать символические заявления канала отдельно от мер экспортного контроля на рабочем уровне [3][9].