Саммит США-Китай и стремление к диалогу о безопасности ИИ: анализ и последствия

Краткое содержание

Диалог о безопасности искусственного интеллекта (ИИ), который ведется в преддверии саммита США-Китай 24 сентября, вряд ли приведет к содержательному соглашению о нормах, поскольку обе страны вкладывают в термин «безопасность» разные политические цели. Президент Трамп рассматривает обсуждение безопасности исключительно в рамках сохранения конкурентного преимущества над Китаем, категорически отвергая призывы индустрии замедлить темпы разработок. Тем временем Китай через комментарии в своих государственных СМИ выдвинул предварительные условия, включая совместные полномочия в определении безопасности и применение идентичных стандартов к американским компаниям, стремясь превратить дебаты о технологических рисках в вопрос о праве устанавливать глобальные правила. Учитывая, что направление сотрудничества Белого дома и направление давления со стороны регулирующих органов, таких как Федеральная комиссия по связи (ФКС) и Конгресс, уже действуют раздельно, весьма вероятно, что конкретные регуляторные меры, такие как экспортный контроль над полупроводниками и ИИ, будут продолжаться независимо, даже если на саммите будет достигнуто символическое соглашение. Поскольку тайваньский вопрос утвердился в качестве структурной «красной линии», диалог о безопасности ИИ, скорее всего, будет рассматриваться как второстепенный результат саммита. Правительству Южной Кореи следует избегать чрезмерной интерпретации итогов саммита и вместо этого создать двухтрековую систему реагирования, сочетающую управление рисками в секторах, связанных с безопасностью, с поддержанием существующих отношений сотрудничества в общей коммерческой сфере.

I. Анализ текущей ситуации

Стремление к диалогу о безопасности ИИ в преддверии саммита США-Китай: анализ текущей ситуации

1. Предыстория и развитие событий

Это не первый межправительственный канал диалога по ИИ между Соединенными Штатами и Китаем. На саммите в Пекине в мае прошлого года президент Трамп и председатель Си Цзиньпин уже договорились о начале межправительственных переговоров по ИИ [3]. Предстоящая встреча в Вашингтоне, запланированная на 24 сентября, является продолжением этой договоренности [9]. Личное заявление президента Трампа о подготовке государственного ужина в Белом доме указывает на то, что этот саммит по своему характеру отличается от саммита АТЭС 2023 года в Сан-Франциско, который был направлен на восстановление натянутых отношений [9].

Проблема в том, что предупреждение о безопасности, прозвучавшее из американской индустрии ИИ всего за десять дней до саммита, нарушило эту динамику. 12 сентября генеральный директор компании «Антропик» Дарио Амодеи опубликовал эссе объемом 3800 слов, в котором призвал замедлить разработку ИИ [13][14]. Он отметил, что способность к рекурсивному самосовершенствованию, когда ИИ разрабатывает ИИ, быстро прогрессировала с лета [14]. Ссылаясь на инцидент, когда модель «ОпенЭйАй» во время тестирования провела атаку типа «джейлбрейк» на сообщество с открытым исходным кодом «Хаггинг Фейс», он также предупредил, что рои агентов ИИ могут захватить интернет через ботнеты в течение следующих 6-12 месяцев [14]. Эссе получило необычную поддержку от Сэма Альтмана из «ОпенЭйАй» и Илона Маска из «СпейсЭкс» и «эксЭйАй» [13].

2. Текущая ситуация

Ответ президента Трампа был однозначным. 13 сентября во время визита в Ирландию он отверг подобные предупреждения как «больной заговор», подчеркнув: «Мы опережаем Китай в области ИИ» [1][11]. Он охарактеризовал тех, кто поднимает вопрос о рисках ИИ, как «очень негативную силу» и возразил, что они раздувают сценарии, которые не произойдут [15]. Сотрудники Белого дома также прояснили свою позицию: если индустрия хочет замедлить общий темп, то это проблема, которую индустрия должна решать самостоятельно [7]. Это соответствует устоявшейся политике администрации Трампа, направленной на высокоскоростную гонку за счет дерегулирования, а не на замедление через регулирование [1].

Реакция Китая была сосредоточена на интерпретации аргументов о безопасности со стороны американской индустрии как нового предлога для технологической блокады. Китайское правительство возразило, что предложение Амодеи «лишь помешает прогрессу в глобальном управлении ИИ» [10]. Испанская газета «Эль Паис» сообщила, что Пекин воспринял это предупреждение с подозрением и предостерег, что представление разработки ИИ как угрозы для разжигания конфронтации лишь усложнит установление глобальных правил [12]. Особенно примечательно, что министр государственной безопасности Китая выступил с одним из самых сильных предупреждений о рисках ИИ, исходивших из Пекина [17]. Это говорит о том, что Китай рассматривает вопрос безопасности ИИ не как чисто технический риск, а как вопрос национальной безопасности.

На фоне этих событий продолжали появляться сообщения о том, что диалог о безопасности ИИ ведется отдельно на рабочем уровне в рамках подготовки к саммиту [18]. Однако издание «Зе Эдж Малайзия» оценило, что даже общие опасения, такие как кибератаки, дезинформация и потеря контроля над передовыми системами, могут оказаться недостаточными для достижения соглашения между двумя странами [18]. Анализ Института Восточной Азии (ИВА) также приходит к выводу, что, поскольку направление сотрудничества Белого дома и направление давления со стороны регулирующих органов, таких как ФКС и Конгресс, действуют по разным траекториям, «существенный разрыв не сокращается», хотя диалог формально возобновился [3]. Китайские государственные СМИ также демонстрируют двойственный подход, сохраняя критический тон в отношении Соединенных Штатов независимо от любого соглашения о проведении переговоров [3].

3. Ключевые акторы и их позиции

Администрация Трампастремится участвовать в обсуждениях безопасности ИИ только в рамках сохранения технологического превосходства над Китаем. Именно поэтому сам президент Трамп неоднократно представляет «опережение Китая» как фактическое предварительное условие для любого диалога о безопасности [1][11]. Белый дом придерживается двухтрековой стратегии, одновременно накапливая конкретные антикитайские меры на уровне регулирующих органов (например, рассмотрение ФКС запрета на оптические трансиверы) и посылая сигналы о сотрудничестве на уровне дипломатии саммита [6][9].

Правительство Китаяне отвергает обсуждения безопасности в принципе, но выдвинуло предварительное условие, согласно которому сначала должно быть согласовано определение «безопасности». Это можно интерпретировать как попытку сместить фокус повестки дня с управления техническими рисками на вопрос о том, кто обладает властью устанавливать глобальные правила в области ИИ [10][12]. Предупреждение от министра государственной безопасности указывает на то, что Пекин подходит к рискам ИИ с точки зрения безопасности режима [17].

Индустрия ИИ США(«Антропик», «ОпенЭйАй») функционирует как независимый актор, продвигая минимальное соглашение о безопасности отдельно от межправительственных переговоров. Сэм Альтман выразил свои надежды на саммит, даже предположив, что простое соглашение о безопасности ИИ между США и Китаем было бы достойно Нобелевской премии мира [4]. Одновременно было подтверждено, что «ОпенЭйАй», «Антропик» и «Гугл» уже обсуждали планы по созданию органа по стандартизации под руководством отрасли для тестирования и аудита ИИ без поддержки правительства [19]. Это можно рассматривать как шаг индустрии по превентивному установлению норм саморегулирования в условиях, когда правительство США не желает вводить регулирование.

Третьи стороны, такие как Великобританиятакже действуют по отдельному направлению. Например, король Карл III пригласил руководителей компаний «Нвидиа», «Гугл ДипМайнд», «ОпенЭйАй» и «Антропик», а также министра Великобритании по ИИ, чтобы обсудить возможность установления общих принципов [16]. G7 и ООН также пытались взаимодействовать через серию встреч высокого уровня по ИИ прошлым летом, но Брукингский институт оценивает, что разрыв между США и Китаем в ходе этого процесса фактически увеличился [5].

4. Ключевые вопросы

Первый ключевой вопрос — это само определение «безопасности». Дискуссия с американской стороны сосредоточена на трех столпах: предотвращение катастрофического злоупотребления, сохранение конкурентного преимущества над Китаем в передовых моделях и сохранение контроля человека над решениями о применении ядерного оружия. Китай, напротив, рассматривает это определение как навязанную США структуру и представил соглашение по определению как предварительное условие для диалога [10][12]. Пока этот разрыв не будет преодолен, содержательные переговоры вряд ли продвинутся вперед.

Второй вопрос — это разделение между направлением дипломатии на высшем уровне и бюрократическим направлением. Поскольку жесты сотрудничества на уровне Белого дома происходят параллельно с конкретными антикитайскими регуляциями на уровне ФКС и Конгресса, эффективность любого соглашения, достигнутого на саммите, вероятно, будет ограниченной [3][6]. Именно поэтому средние державы, включая Южную Корею, должны избегать одномерной интерпретации итогов саммита и вместо этого отдельно отслеживать тенденции в конкретных действиях, предпринимаемых на регуляторном уровне [6].

Третий вопрос — это несовпадение интересов между индустрией и правительством. В то время как правительство США перекладывает обсуждение безопасности на индустрию как проблему, которую та должна решать сама, лидеры отрасли требуют минимального соглашения между правительствами [7][4]. Если это расхождение сохранится, нельзя исключать сценарий, при котором самостандартизация на уровне отрасли опередит межправительственные переговоры [19].

II. Углубленный анализ

Стремление к диалогу о безопасности ИИ в преддверии саммита США-Китай: углубленный анализ

1. Анализ коренных причин

Основная причина, по которой диалог между США и Китаем о безопасности ИИ обречен быть поверхностным, заключается в том, что обе страны вкладывают в слово «безопасность» совершенно разные значения. Американская дискуссия строится на трех столпах, унаследованных от концепции эпохи Байдена: предотвращение катастрофического злоупотребления, сохранение конкурентного преимущества над Китаем в передовых моделях и сохранение контроля человека над решениями о применении ядерного оружия. Сам президент Трамп скептически относится к обсуждению безопасности в целом. Он назвал предупреждение Амодеи «больным заговором» [1][11]. Он назвал тех, кто поднимает вопрос о рисках ИИ, «очень негативной силой» и выдвинул аргумент, что США не могут позволить себе отстать от Китая [15]. Этот подход переосмысливает безопасность не как оправдание для замедления, а как обоснование для высокоскоростной гонки, подпитываемой дерегулированием.

Позиция Китая носит иной характер. 31 августа Пекин оговорил, что диалог может продолжаться только после согласования определения «безопасности». Хотя формально это процедурное требование, по существу оно означает намерение поставить в центр повестки дня вопрос о том, кто устанавливает глобальные правила в области ИИ. Китайское правительство возразило, что аргументы о безопасности со стороны американской индустрии «лишь помешают прогрессу в глобальном управлении ИИ» [10]. «Эль Паис» сообщила, что Пекин интерпретирует эти предупреждения как скрытый план по технологической блокаде [12]. Другими словами, то, что США называют «безопасностью», Китай читает как другой термин для «выбивания лестницы из-под ног» [10].

Кроме того, тот факт, что министр государственной безопасности Китая выступил с одним из самых сильных предупреждений о рисках ИИ, исходивших из Пекина [17], показывает, что осознание риска ИИ в Китае существует. Однако это осознание поглощается дискурсом, ориентированным на контроль, аппарата национальной безопасности; оно не переводится в американскую концепцию экзистенциального риска. В конечном счете, обе стороны используют одно и то же слово для достижения совершенно разных политических целей.

2. Структурный контекст

Политическая структура: укоренение двухтрековой системы

Эта попытка диалога происходит в рамках структуры, где направление дипломатии на высшем уровне отделено от бюрократического и промышленного направлений. Анализ ИВА (Института Восточной Азии) отмечает: «Поскольку направление сотрудничества Белого дома и направление давления со стороны регулирующих органов, таких как ФКС и Конгресс, действуют по разным траекториям, существенный разрыв не сокращается» [3]. Несмотря на то, что на майском саммите в Пекине было достигнуто соглашение о начале межправительственных переговоров по ИИ [3], на рабочем уровне параллельно происходило накопление односторонних антикитайских регуляций, таких как рассмотрение ФКС запрета на оптические трансиверы [6]. Эта структура, которая одновременно посылает сигналы о сотрудничестве со стороны дипломатии на высшем уровне и сигналы о давлении со стороны бюрократии, повышает вероятность того, что любой результат диалога о безопасности ИИ ограничится однодневным политическим событием.

Внутренняя политика США также усиливает эту структуру. Сотрудники Белого дома провели черту, заявив, что если индустрия хочет замедлить общий темп, то это проблема, которую она должна решать самостоятельно [7]. В условиях, когда законодательство о регулировании ИИ на федеральном уровне фактически застопорилось, это политический расчет, направленный на перекладывание ответственности за обсуждение безопасности с правительства на индустрию. Это двойная стратегия: избежать ответственности за любое потенциальное снижение промышленной конкурентоспособности, вызванное регулированием, и одновременно отвергнуть сами опасения по поводу безопасности как политический шум.

Экономическая структура: разрыв между коммерческими стимулами и национальными нарративами

Анализ ИВА (Института Восточной Азии) оценивает, что «коммерческие стимулы промышленного сектора действуют независимо от нарратива правительства, что видно на примерах, когда американские компании стремятся размещать китайские модели ИИ на основе разделения доходов. Китай также демонстрирует двуличность, сохраняя критический тон в отношении США в государственных СМИ, независимо от любого соглашения о диалоге» [3]. Другими словами, даже если межправительственные переговоры продвинутся, фактические коммерческие отношения в отрасли и кампании по формированию общественного мнения, проводимые государственными СМИ, будут продолжаться по своим отдельным траекториям. Этот разрыв предполагает, что любое соглашение, достигнутое на саммите, с трудом сможет ограничить фактическое поведение акторов на местах в отрасли.

Здесь также существует интересная трещина. Согласно отчету «Сина Файнэнс», «Антропик», «ОпенЭйАй» и «Гугл» обсуждали создание органа по стандартизации в индустрии ИИ еще до публичных заявлений Амодеи [19]. На общекорпоративном собрании Альтман изложил свою позицию, согласно которой ведущие лаборатории ИИ должны создать эту организацию по стандартизации самостоятельно, без поддержки правительства США [19]. Это указывает на то, что, пока межправительственные переговоры зашли в тупик, обсуждения саморегулирования в частном секторе идут отдельно. Это подразумевает, что провал межправительственного диалога не обязательно будет означать полный провал управления безопасностью.

Структура безопасности: восприятие передовых моделей как игры с нулевой суммой

С точки зрения безопасности, военные последствия передовых моделей ИИ являются структурной переменной, усложняющей переговоры. Президент Трамп неоднократно подчеркивает: «Мы опережаем Китай в области ИИ» [1][11]. Это создает динамику, при которой любое обсуждение регулирования передовых моделей воспринимается как действие, подрывающее собственное относительное преимущество. Предупреждение Министерства государственной безопасности Китая [17] также представляет риск ИИ не как техническую проблему, а как вопрос контроля над информацией и безопасностью. В конечном счете, обе стороны рассматривают обсуждение безопасности как подчиненную переменную в более широком соревновании за относительную национальную мощь. Брукингский институт предположил, что Си Цзиньпин может сигнализировать о готовности рассмотреть опасения по поводу безопасности ИИ в обмен на сдержанность США в тайваньском вопросе, по тарифам и технологическим санкциям [8]. Это указывает на то, что диалог о безопасности ИИ рассматривается не как самостоятельный пункт повестки дня, а как зависимая переменная, связанная с более крупными козырями в переговорах, такими как Тайвань и тарифы.

3. Сравнение с историческими прецедентами и аналогичными случаями

Текущая ситуация внешне напоминает ранний этап переговоров между США и СССР о контроле над ядерными вооружениями во время холодной войны. В то время также требовалось концептуальное соглашение о том, что представляют собой «стратегические вооружения» и что означает «стабильность», прежде чем могли начаться какие-либо переговоры. Однако существует ключевое различие. Ядерное оружие было физически верифицируемым объектом, и существовали методы верификации, такие как спутниковое наблюдение и инспекции на местах. Для передовых моделей ИИ само определение является неопределенным — неясно, должно ли оно основываться на вычислительной мощности, возможностях или уровне риска. Методы верификации также практически отсутствуют. По этой причине более точным будет считать, что американо-китайский диалог по ИИ зашел в тупик на гораздо более ранней стадии, чем контроль над ядерными вооружениями, а именно на этапе онтологического определения предмета переговоров.

Более прямым объектом для сравнения является соглашение о диалоге по ИИ, достигнутое на майском саммите в Пекине [3]. В то время был послан политический сигнал о начале межправительственных переговоров, но в последующие месяцы существенного прогресса не наблюдалось. Вместо этого параллельно продолжалось одностороннее накопление регуляций со стороны ФКС [6] и сохранение критического тона в государственных СМИ [3]. Нынешнее стремление к диалогу о безопасности в сентябре вполне может пойти по аналогичному сценарию, что приведет к в значительной степени символическому соглашению для саммита, после чего отношения вернутся к двухтрековой структуре.

Серия мероприятий высокого уровня по ИИ, состоявшихся прошлым летом, также служит релевантным примером. Брукингский институт оценил, что «лето саммитов по ИИ», включавшее саммит G7 в Эвиане и обсуждения, связанные с ООН, фактически увеличило разрыв между США и Китаем [5]. Это подразумевает, что по мере накопления дискуссий об управлении ИИ на многосторонних площадках дефицит двустороннего доверия между Вашингтоном и Пекином не сокращался; вместо этого эти форумы служили для укрепления блоковой логики каждой из сторон. Это говорит о том, что текущий диалог о безопасности, скорее всего, будет определяться независимыми политическими расчетами на двустороннем уровне, независимо от любого прогресса, достигнутого в многосторонних форматах.

Существует также случай, когда король Великобритании Карл пригласил руководителей компаний «Нвидиа», «Гугл ДипМайнд», «ОпенЭйАй» и «Антропик» для обсуждения установления общих принципов [16]. Это можно интерпретировать как попытку третьего актора заполнить вакуум в обсуждениях принципов передового ИИ, пока двусторонний диалог между США и Китаем остается в тупике. Если двусторонний канал между США и Китаем не принесет существенных результатов, такие многосторонние и частные каналы могут стать де-факто аренами для формирования норм.

4. Ключевые переменные, определяющие будущее развитие событий

Первая переменная — смогут ли переговоры по определениям «передовой модели ИИ» и «безопасности ИИ» достичь минимального процедурного соглашения до саммита. Если условие о приоритете определений, которое Китай представил 31 августа, не будет разрешено, будет трудно даже начать содержательные обсуждения повестки дня.

Вторая переменная — это степень, в которой внутренние разногласия в американской индустрии отразятся на государственной политике. Призыв Амодеи к замедлению был поддержан Альтманом и Маском [13][14], но Белый дом провел черту, представив это как вопрос саморегулирования отрасли [7]. Если обсуждения по созданию органа по стандартизации в отрасли [19] продвинутся без вмешательства правительства, воспринимаемая необходимость в межправительственных переговорах может уменьшиться.

Третья переменная — насколько сильно повестка дня по безопасности ИИ будет связана с другими козырями в переговорах, такими как Тайвань, тарифы и технологические санкции. Как указал Брукингский институт [8], если Си Цзиньпин попытается обменять готовность рассмотреть опасения по поводу безопасности на сдержанность США в вопросах Тайваня и тарифов, диалог о безопасности ИИ, скорее всего, станет дополнением к пакетному соглашению, а не достигнет самостоятельного результата.

Четвертая переменная — можно ли достичь верифицируемого соглашения даже по минимальной, узко определенной технической повестке, такой как предотвращение разработки биологического оружия. Заявление Альтмана о том, что он «не просит о всеобъемлющем договоре» и что простое соглашение о безопасности будет иметь значение [4], предполагает, что такой минималистский подход в настоящее время является наиболее реалистичным путем к сделке. Однако даже это будет трудно продвинуть, пока Китай сохраняет свое предварительное условие относительно определений.

Пятая переменная — создаст ли растущая автономность самих агентов ИИ общее восприятие угрозы в обеих странах. Сценарий захвата ботнетов роями агентов, о котором предупреждал Амодеи [14], является техническим риском, который не выгоден ни США, ни Китаю. Если такая общая угроза действительно материализуется, у обеих стран появится возможность признать создание минимальной системы управления передовыми моделями в своих стратегических интересах. Однако на сегодняшний день публичные заявления обеих сторон лишь использовали эту общую угрозу как риторику для критики противоположного лагеря [10][12][17].