Рост дискурса о переговорах по контролю над вооружениями в сфере ИИ между США и Китаем: анализ ситуации и стратегии реагирования

Краткое содержание

На сентябрьском саммите в Вашингтоне США и Китай согласились создать канал взаимного уведомления об инцидентах в сфере ИИ и новый «Диалог по сверхинтеллекту». Однако это лишь жест в рамках управления кризисами, и его вряд ли можно рассматривать как предметный режим контроля над вооружениями. Сразу после саммита президент Трамп заявил, что США не будут делить управление ИИ с Китаем, подтвердив политическую установку на «достижение сверхинтеллекта» и принцип «победитель получает все» в качестве официального курса. Между тем Китай настаивает на том, что совместное определение понятия безопасности и применение идентичных стандартов к американским компаниям являются обязательными условиями, что делает поиск точек соприкосновения структурно сложным. Учитывая внутреннюю структуру США, где трек сотрудничества Белого дома и трек давления Конгресса и регулирующих органов функционируют раздельно, символические соглашения между лидерами крайне маловероятно предотвратят продолжение индивидуального регулирования, такого как экспортный контроль в отношении полупроводников и ИИ. Наиболее вероятным путем является базовый сценарий (вероятность 55–60%), при котором диалог будет поддерживаться номинально, в то время как предметная конкуренция продолжится. Южная Корея должна одновременно создать двойную систему реагирования, отделяющую секторы, связанные с безопасностью, от коммерческих областей, обеспечить себе право голоса на многосторонних треках установления норм и превентивно проанализировать диверсификацию цепочек поставок. В частности, поспешное расширение инвестиций или контрактов с Китаем, основанное исключительно на дружественных сигналах из Белого дома, несет в себе высокие риски, что требует создания системы двойного мониторинга, отдельно отслеживающей изменения в правилах Министерства торговли США.

I. Анализ ситуации по проблеме

Рост дискурса о переговорах по контролю над вооружениями в сфере ИИ между США и Китаем: анализ ситуации по проблеме

1. Предпосылки и ход развития проблемы

Саммит Трампа и Си, состоявшийся в Вашингтоне 24 сентября, вновь обнажил характер двусторонних отношений вокруг ИИ. Сразу после саммита Белый дом объявил, что две страны согласились создать канал связи для взаимного уведомления в случае инцидента в сфере ИИ [7][15]. Было решено провести следующую встречу к ноябрю [4][7]. Создание этого канала не является первым соглашением, достигнутым в этом году. На пекинском саммите в мае прошлого года два лидера уже договорились инициировать межправительственный диалог по ИИ [3][9]. Сентябрьский саммит в Вашингтоне служит продолжением этого соглашения [9].

Примечательным аспектом саммита стала словесная война вокруг терминологии. Белый дом объявил, что в дальнейшем будет использовать термин «сверхинтеллект» вместо «ИИ» [4]. Президент Трамп использовал термин «сверхинтеллект» как политическую риторику, которая делает упор на развитие, а не на контроль [4]. Китайская сторона никогда официально не использовала этот термин [4]. Это расхождение в терминологии согласуется с предыдущими анализами Восточноазиатского института, показывающими, что две страны связывают разные политические цели с термином «безопасность ИИ» [9]. Администрация Трампа рассматривает дискуссии о безопасности только в рамках сохранения конкурентного преимущества над Китаем, в то время как Китай требует в качестве предварительных условий совместного определения понятия безопасности и применения идентичных стандартов к американским компаниям [9].

В ходе саммита председатель Си Цзиньпин упомянул, что ИИ не должен выйти из-под контроля человека [6]. Президент Трамп заявил, что они согласились с отсутствием необходимости в новых правилах [6]. Эти высказывания оцениваются как «скорее жесты для внутреннего политического потребления с обеих сторон, нежели нормативные достижения, имеющие реальную обязательную силу» [6]. Данная интерпретация подтверждается тем фактом, что создание «горячей линии по ИИ» для взаимного уведомления об инцидентах в сфере ИИ уже обсуждалось в Нью-Йорке за два дня до саммита [6].

2. Текущая ситуация

Менее чем через неделю после саммита позиция президента Трампа стала еще более ясной. Во время встречи с руководителями индустрии ИИ в Белом доме 29 сентября президент Трамп заявил, что США не будут участвовать в совместном управлении ИИ с Китаем [12]. Причина заключалась в том, что это затруднило бы американским компаниям сохранение лидерства [12][14]. Он отметил, что хотя и обсуждал ИИ во время саммита с председателем Си, они «не особо это обсуждали», и добавил: «Я не хочу ничего делать» [12]. На мероприятии, посвященном запуску портала America.gov, он заметил: «Кто бы ни достиг сверхинтеллекта, он побеждает», добавив: «Будут победители и проигравшие, и второго места, вероятно, не будет» [14]. Он ясно дал понять, что США в настоящее время опережают Китай и все остальные страны и намерены сохранять этот разрыв [14].

Эти заявления прозвучали на фоне серии хакерских инцидентов. Несмотря на случаи взлома с участием «неконтролируемого ИИ» в нескольких странах, включая Австралию, и предупреждения со стороны лидеров индустрии, президент Трамп продолжал сопротивляться давлению в пользу регулирования технологий [12].

Реакция Китая была не столь публичной, как реакция США. После саммита председатель Си Цзиньпин ограничился сдержанным комментарием, заявив, что они договорились о «стратегической стабильности, основанной на уважении, равенстве и взаимности» [10]. Пекин и Вашингтон согласились расширить диалог по безопасности ИИ, активизировать контакты между своими военными ведомствами и снизить тарифы на «нечувствительные» товары на сумму около 30 миллиардов долларов [10]. Комментарии китайских государственных СМИ сохраняют позицию смещения дискуссий о безопасности в сторону вопроса о глобальных полномочиях по установлению правил [9].

В Кремниевой долине также настроены скептически. В Кремниевой долине возникли сомнения относительно предложенной Вашингтоном горячей линии с Пекином [17]. На государственном обеде Дженсен Хуанг из Nvidia, Лиза Су из AMD, Илон Маск и Тим Кук из Apple сидели за одним столом с Трампом и Си [17]. Само присутствие лидеров индустрии на переднем плане дипломатии саммитов демонстрирует, что диалог по безопасности ИИ неотделим от корпоративных интересов.

3. Ключевые акторы и позиции

Администрация Трампадопускает сотрудничество в области безопасности ИИ только в рамках сохранения конкурентного преимущества. Сам президент Трамп неоднократно утверждает, что совместное управление с Китаем помешает американским компаниям обеспечить технологическое доминирование [12][14]. Он также пассивно относится к введению новых правил и напрямую отверг призывы представителей индустрии замедлить темпы развития [6][9]. Тем не менее, он согласился создать горячую линию для взаимного уведомления в случае инцидентов с ИИ, что является лишь каналом кризисного управления и не означает расширения коммерческого сотрудничества в сфере ИИ [6].

Правительство Китаястремится использовать дискуссии о безопасности как средство обеспечения глобальных полномочий по установлению правил [6][9]. Отвергая требования США о замедлении темпов развития, Пекин демонстрирует двойственное отношение, одновременно повышая внутреннюю осведомленность о рисках ИИ [3]. Заявления председателя Си Цзиньпина о «контроле человека» в значительной степени носят характер месседжа для внутреннего политического потребления [6].

Бывший чиновник СНБ (Крис Макгуайр)является ключевым сторонником дискурса о переговорах по контролю над вооружениями в сфере ИИ. Он курировал политику США и Китая в области ИИ в СНБ во время администрации Байдена, а до этого занимал должность старшего эксперта Государственного департамента по политике контроля над вооружениями между США и Россией во время первой администрации Трампа [2]. Опираясь на этот опыт и ссылаясь на предупреждения ведущих американских экспертов по ИИ, он призывает к переговорам по безопасности ИИ между Трампом и Си [2]. В попытке применить опыт холодной войны в области контроля над ядерными вооружениями к сектору ИИ были выдвинуты предложения в конечном итоге оформить нормативную базу в виде законодательства, закрепленного в соглашении между США и Китаем [8].

Крупные технологические компании Кремниевой долинысталкиваются с противоречивыми интересами, особенно компании, приглашенные на государственный обед в рамках саммита, такие как Nvidia, AMD и Apple. Хотя они желают получить доступ на китайский рынок и добиться смягчения экспортного контроля, они сохраняют скептическое отношение к официальным каналам сотрудничества, таким как горячая линия с Пекином [17].

Трек сотрудничества Белого дома и трек давления Конгресса и регулирующих органовфункционируют раздельно [3][6][9]. Аналитики сходятся во мнении, что даже в случае достижения символических соглашений между лидерами, индивидуальные меры регулирования, такие как экспортный контроль в отношении полупроводников и ИИ, с высокой вероятностью продолжат действовать независимо [3][6][9].

4. Ключевые проблемы

Первая проблема заключается в политической асимметрии термина «безопасность». США используют безопасность как средство сохранения своего конкурентного преимущества, тогда как Китай использует ее как средство обеспечения глобальных полномочий по установлению правил [9]. Если эта асимметрия не будет устранена, процедурные соглашения, подобные горячим линиям, могут накапливаться, но они вряд ли приведут к предметным нормативным соглашениям.

Вторая проблема — это разрыв между переговорными предложениями и реальной политикой. В то время как предложения по контролю над вооружениями со стороны бывших чиновников, включая Макгуайра, содержат конкретные детали [2][8], сам президент Трамп прямо отверг совместное управление с Китаем сразу после саммита [12][14]. Это создает структуру, в которой переговорный дискурс политических элит расходится с реальными решениями, принимаемыми лидером в Белом доме.

Третья проблема — структурная красная линия тайваньского вопроса. Высказывались опасения, что диалог по безопасности ИИ может переплестись с этой красной линией и рассматриваться лишь как побочный результат саммита [3][9]. Это структура, в которой дискуссии, касающиеся рисков военной вепонизации ИИ, не могут быть отделены от более фундаментального конфликта безопасности в отношениях между двумя берегами пролива.

Четвертая проблема — эффективность горячей линии. Хотя было объявлено о создании канала уведомления об инцидентах в сфере ИИ [7][15][16], даже в Кремниевой долине существует скептицизм относительно того, обладает ли он основой доверия, необходимой для функционирования в условиях реального кризиса [17]. Хотя процедура создана, опыт ее практического применения полностью отсутствует.

II. Углубленный анализ проблемы

Рост дискурса о переговорах по контролю над вооружениями в сфере ИИ между США и Китаем: углубленный анализ проблемы

1. Анализ первопричин

В основе отказа президента Трампа вести переговоры о контроле над вооружениями в сфере ИИ лежит восприятие гегемонии, выходящее за рамки простой переговорной стратегии. На мероприятии, посвященном запуску портала America.gov, он заявил: «Кто бы ни достиг сверхинтеллекта, он побеждает» [14]. Он добавил: «Будут победители и проигравшие, и второго места, вероятно, не будет» [14]. Это замечание раскрывает восприятие, рассматривающее потенциал ИИ как ресурс с нулевой суммой, подобный военной или экономической мощи. В гонке ядерных вооружений баланс страха, известный как взаимное гарантированное уничтожение, служил стимулом для переговоров по контролю над вооружениями. Однако в конкуренции в сфере ИИ восприятие исхода по принципу «победитель получает все» структурно лишает стимулов к переговорам [14].

Китай действует исходя из других расчетов. Согласно анализу Совета по международным отношениям, Китай стремится использовать дискуссии о безопасности ИИ под руководством США как средство обеспечения глобальных полномочий по установлению правил [9]. Замечание председателя Си Цзиньпина о том, что «ИИ не должен выйти из-под контроля человека» [6], ближе к стратегическому шагу по обеспечению права голоса Китая в процессе формирования международных норм. В комментариях китайских государственных СМИ в качестве предварительных условий выдвигались совместное определение понятия безопасности и применение идентичных стандартов к американским компаниям [9]. Это реакция на двойные стандарты, когда США применяют мягкие стандарты к собственным компаниям, одновременно вводя жесткий экспортный контроль в отношении китайских фирм.

Используемая обеими сторонами терминология также является фундаментальной причиной. Белый дом объявил, что будет использовать термин «сверхинтеллект» вместо «ИИ» [4]. Эта формулировка представляет собой политическую риторику президента Трампа, которая делает упор на развитие, а не на контроль [4]. Китай никогда официально не использовал этот термин [4]. Неспособность прийти к согласию даже относительно названия технологии, являющейся предметом переговоров, — лишь поверхностный симптом того, что две страны связывают разные политические цели со словом «безопасность» [9].

2. Структурный контекст

Политическая структура: два раздельных трека

Ведомый Белым домом трек сотрудничества и ведомый Конгрессом и регулирующими органами трек давления уже функционируют раздельно [9][6]. Это структура, в которой символические соглашения между лидерами не могут предотвратить продолжение индивидуального регулирования, такого как экспортный контроль в отношении полупроводников и ИИ [9]. Президент Трамп прямо заявил, что хотя они и обсуждали ИИ на саммите, они «не особо это обсуждали» [12]. Он также заметил: «Я не хочу ничего делать» [12]. Это демонстрирует, что символические жесты на уровне дипломатии саммитов и политические решения на рабочем уровне с самого начала развиваются на совершенно разных треках. Другой анализ Совета по международным отношениям прогнозирует, что эта структура может в конечном итоге привести к «режиму внутреннего регулирования США, закрепленному в соглашении между США и Китаем, и, возможно, со временем к законодательству», но отмечает, что еще предстоит выяснить, будет ли Китай открыт к диалогу в таких рамках [8].

Экономическая структура: интересы крупных технологических компаний

Коммерческие интересы крупных технологических компаний Кремниевой долины глубоко переплетены с дискуссиями о безопасности ИИ. На государственном обеде в Белом доме генеральный директор Nvidia Дженсен Хуанг и генеральный директор AMD Лиза Су сидели за одним столом с Трампом и Си [17]. Илон Маск и генеральный директор Apple Тим Кук также присутствовали [17]. Предложенная Вашингтоном Пекину горячая линия вызывает скептицизм даже в Кремниевой долине [17]. Американские компании опасаются, что рамки сотрудничества с Китаем могут ограничить их технологическое преимущество. Отказ президента Трампа сотрудничать с Китаем в сфере управления ИИ со ссылкой на то, что «это затруднило бы американским компаниям сохранение лидерства» [12][14], тесно увязан с этими интересами индустрии.

Структура безопасности: красная линия тайваньского вопроса

Диалог по безопасности ИИ невозможно рассматривать в отрыве от структурной красной линии тайваньского вопроса [9][3]. Пока военная напряженность вокруг Тайваня не будет ослаблена, меры укрепления доверия в военной сфере, связанные с ИИ, вряд ли выйдут за рамки побочного результата [9]. Сразу после саммита Пекин и Вашингтон также согласились расширить контакты между военными ведомствами [10]. Однако, как и диалог по безопасности ИИ, это скорее минимальный предохранительный механизм для предотвращения случайных столкновений в случае кризиса, нежели соглашение, меняющее характер фундаментального стратегического соперничества.

4. Исторические прецеденты и сравнительные случаи

Крис Макгуайр, бывший чиновник Совета национальной безопасности Белого дома, возглавляющий эту дискуссию, занимал должность старшего эксперта Государственного департамента по политике контроля над вооружениями между США и Россией во время первой администрации Трампа, после чего курировал политику США и Китая в области ИИ при администрации Байдена [2]. Его попытка применить опыт контроля над вооружениями между США и СССР времен холодной войны к сектору ИИ высвечивает как факторы успеха, так и ограничения контроля над ядерными вооружениями.

Анализ Economic Times указывает на то, что логика нынешнего соперничества между США и Китаем в сфере ИИ напоминает гонку ядерных вооружений времен холодной войны. Это модель, при которой обе страны развивают все более разрушительный потенциал, одновременно создавая ограниченные механизмы кризисного управления [1]. Это сходство подтверждается тем фактом, что хотя Трамп и Си согласились поддерживать связь в случае кризиса в сфере ИИ, президент Трамп отказался от более глубокого сотрудничества по снижению рисков [1].

Однако существует решающее различие между контролем над ядерными вооружениями и контролем над вооружениями в сфере ИИ. Ядерным оружием обладает ограниченное число государств, его испытания и развертывание можно проверить с помощью спутников, а его разрушительная сила при применении мгновенна и очевидна. Напротив, ИИ имеет размытые границы между гражданским и военным использованием, его алгоритмы и веса моделей практически невозможно проверить, а ущерб от него часто проявляется кумулятивно или косвенно. Хакерские инциденты с участием «неконтролируемого ИИ» в нескольких странах, включая Австралию [12], представляют собой одну из граней этих асимметричных рисков. Именно поэтому сложно напрямую применить к ИИ рамки верифицируемости и сдерживания, выработанные в ходе контроля над вооружениями в годы холодной войны.

Сравнение с саммитом АТЭС в Сан-Франциско в 2023 году также является обоснованным. Если тот саммит характеризовался сглаживанием отношений, обострившихся из-за инцидента со шпионским аэростатом [9], то саммит в Вашингтоне стал возможностью подчеркнуть преемственность в управлении отношениями, опираясь на предшествующую дипломатию саммитов в рамках майского визита в Пекин [9]. Однако суть результатов существенно не отличается. Оба саммита завершились лишь процедурными достижениями, такими как создание каналов кризисного управления, в то время как фундаментальная структура соперничества за технологическую гегемонию осталась нетронутой.

4. Ключевые переменные, определяющие дальнейшее развитие событий

Первая переменная — это итоги следующего диалога, запланированного на ноябрь [4][7]. Ожидается, что то, будет ли следующая встреча в рамках «Диалога по сверхинтеллекту» посвящена предметной повестке дня или останется символическим контактом, послужит индикатором для оценки характера двусторонних отношений в сфере ИИ на предстоящий год.

Вторая переменная — интенсивность регуляторного давления внутри США. По мере накопления предупреждений со стороны лидеров индустрии и хакерских инцидентов [12] Конгресс и регулирующие органы могут попытаться ограничить линию Белого дома на отказ от сотрудничества. Однако, поскольку президент Трамп на мероприятии America.gov вновь подтвердил свою позицию против регулирования, назвав это «единственным способом сохранить этот разрыв» [14], вероятность изменения политики внутри администрации в настоящее время представляется низкой.

Третья переменная — изменение внутреннего восприятия рисков в Китае. Официально отвергая требования США о замедлении темпов развития, Китай демонстрирует двойственное отношение, повышая внутреннюю осведомленность о рисках ИИ [3]. То, останутся ли заявления председателя Си Цзиньпина о «контроле человека» [6] риторическим жестом или приведут к реальному укреплению внутреннего управления ИИ, определит степень доверия к Пекину на переговорах.

Четвертая переменная — ситуация на Тайване. В случае эскалации военной напряженности вокруг Тайваня существует риск того, что даже создаваемый в настоящее время канал уведомления об инцидентах в сфере ИИ может прекратить работу. И наоборот, если напряженность удастся удерживать на контролируемом уровне, у горячей линии по ИИ появится возможность служить минимальной инфраструктурой кризисного управления между двумя странами.