Американо-российские разногласия по поводу совместного блокирования регулирования систем вооружения на основе ИИ: предпосылки и последствия

Краткое резюме

В ходе Генеральной Ассамблеи ООН подтвердилось, что США и Россия совместно заблокировали включение положения, предписывающего обязательное участие человека в принятии решений о выборе целей системами вооружения на основе ИИ. Это стало результатом сочетания скептического отношения администрации Трампа к международному надзору за ИИ и недоверия России к многосторонним нормам под руководством Запада, что отражает структурное положение, разделяемое обеими странами как постоянными членами Совета Безопасности ООН и ядерными державами в рамках норм разоружения. Между тем, 22 государства, включая европейские страны, отдельно приняли декларацию о принципе человеческого контроля в попытке восполнить этот нормативный пробел. В результате управление ИИ фрагментируется на три направления: двусторонний канал США и Китая, американо-российский трек блокирования и многосторонняя декларация средних держав. Поскольку формирование официальных многосторонних норм с высокой вероятностью застопорится, Южной Корее необходимо уделить приоритетное внимание участию в неформальных рабочих консультативных органах по типу СИПРИ и созданию собственных процедур верификации ИИ. В ситуации, когда США применяют двойственный подход — блокируют регулирование вместе с Россией, сохраняя при этом канал уведомления об инцидентах с Китаем, — Южная Корея должна оценить как возможности для своего независимого реагирования, так и пределы своего переговорного потенциала.

I. Анализ проблемы

Американо-российские разногласия по поводу совместного блокирования регулирования систем вооружения на основе ИИ: анализ проблемы

1. Предпосылки и развитие ситуации

Эта проблема впервые стала достоянием общественности благодаря репортажу с места событий на Генеральной Ассамблее ООН итальянской газеты «Ла Репубблика», которая сослалась на сообщение «Вашингтон Пост» [1]. Суть публикации сводится к тому, что США и Россия совместно заблокировали введение международных ограничений на использование ИИ в системах вооружения [1]. В частности, подчеркивалось, что предложение сделать обязательным принятие окончательных решений по предложенным ИИ целям человеком, а не компьютером, было отклонено [1].

Эти разногласия не являются единичным инцидентом. Они возникли в том же контексте, что и скептическое отношение США к регулированию ИИ, которое прослеживалось на протяжении всей недели Генеральной Ассамблеи ООН в сентябре. Президент Трамп в своем выступлении на Генеральной Ассамблее ООН назвал требования о международном надзоре за ИИ «глобалистской уловкой» [4]. Он также заявил, что правительство США будет использовать термин «суперинтеллект» вместо «искусственного интеллекта» в официальных документах [4]. Примерно в то же время министр иностранных дел России Сергей Лавров, выступая в ООН, обвинил Европу в препятствовании миру в контексте войны на Украине [1]. Тот факт, что две страны разделили общие интересы на отдельном треке — регулировании вооружений на основе ИИ, — придает весомости этому сообщению.

В ходе той же Генеральной Ассамблеи ООН 22 государства, включая европейские страны, приняли декларацию, в которой утверждается, что ИИ должен оставаться «под руководством, надзором и контролем человека» [10]. В этой декларации предлагалось создать глобальную структуру надзора и содержалось предупреждение о том, что стремительное развитие передовых моделей ИИ представляет серьезную угрозу для безопасности, если им не управлять должным образом [10]. Противодействие со стороны США и России произошло именно в точке прямого столкновения с этими многосторонними попытками нормализации.

2. Текущая ситуация

Примерно во время проведения Генеральной Ассамблеи ООН дискуссии по управлению ИИ разделились на две противоположные тенденции. Первая — это двусторонний трек США и Китая. По итогам саммита Трампа и Си Цзиньпина в Вашингтоне стороны согласились создать канал взаимного уведомления на случай инцидентов с ИИ, а следующий раунд консультаций запланирован на ноябрь [16]. Генеральный секретарь ООН Антониу Гутерриш публично призвал две ведущие державы в области ИИ, США и Китай, начать диалог [18]. Однако в анализе Института Восточной Азии оценивается, что это соглашение между США и Китаем «ближе к жесту для внутренней политики обеих сторон, нежели к нормативному достижению, обладающему реальной обязательной силой» [9]. Кроме того, указывается, что эта горячая линия является «всего лишь каналом управления кризисами в сфере национальной безопасности и не означает расширения коммерческого сотрудничества в области ИИ» [9].

Вторая тенденция — это трек регулирования систем вооружения, к которому относится совместное американо-российское блокирование. 9–10 сентября Стокгольмский международный институт исследования проблем мира (СИПРИ) провел закрытые дискуссии по вопросам сотрудничества между государством и промышленностью в целях законной разработки и использования военного ИИ, пригласив представителей министерств обороны и иностранных дел, Международного комитета Красного Креста (МККК), НАТО и Института ООН по исследованию проблем разоружения (ЮНИДИР) [8]. Хотя это свидетельствует о том, что усилия по установлению норм для военного ИИ продолжаются на рабочем уровне, это резко контрастирует с тем фактом, что ключевое положение о сохранении за человеком окончательного права на определение целей было отклонено из-за сговора США и России [1][8].

Случай, отдельно проанализированный Институтом Восточной Азии, подчеркивает безотлагательность этой проблемы. Весной этого года американские военные подготовили операцию по перехвату и задержанию китайского судна в водах Ближнего Востока на основе разведывательного отчета, составленного при участии чат-бота с ИИ, но отменили операцию в самый последний момент, когда истребители уже были подняты в воздух [6]. Институт Восточной Азии указывает, что «источником ошибки была не дезинформация со стороны противника, а собственный процесс подготовки разведданных вооруженными силами США», и оценивает, что «это демонстрирует, что ключ к кризисной стабильности лежит не в каналах уведомления, а в своевременности процедур верификации человеком» [6]. Иными словами, пока принцип человеческого контроля обсуждается на формальном уровне, в реальных военных операциях уже проявился пробел в верификации.

3. Ключевые акторы и их позиции

Соединенные Штатыявляются ключевой стороной в этом вопросе. Администрация Трампа сделала приоритетом сохранение темпов развития ИИ в качестве национальной стратегии и рассматривает международные структуры надзора как механизмы, ограничивающие технологическое лидерство США [4]. В своем выступлении в ООН президент Трамп заявил: «Вместо того чтобы подавлять ИИ, Соединенные Штаты продолжат поощрять его развитие» [17]. Эта позиция формирует политический курс, соответствующий сообщениям о блокировании международных ограничений на военный ИИ. В то же время США демонстрируют двойственное отношение: создают канал уведомления об инцидентах с Китаем [16], одновременно разделяя интересы с Россией в блокировании регулирования вооружений.

Россиябыла названа наряду с США вторым участником блокирования регулирования [1]. Высказывания министра иностранных дел Лаврова в ООН демонстрируют противоречивый подход: противостоя Западу из-за войны на Украине, Россия вступает в прагматичное сотрудничество с США по отдельному вопросу милитаризации ИИ [1]. Институт международной экономики Петерсона отмечает потенциал для сотрудничества Китая и России в передовых областях ИИ, прогнозируя при этом, что США, Запад и Украина также будут сотрудничать в сфере систем вооружения на основе ИИ [13]. Это говорит о том, что союзы вокруг милитаризации ИИ не образуют простой дихотомии «США и Россия против Запада», а представляют собой сложную картину интересов, перестраивающуюся в зависимости от конкретной проблемы.

Европейские страныпредставляют собой лагерь, инициировавший декларацию 22 государств и требующий нормализации принципа человеческого контроля [10]. Учитывая, что их требования были фактически сорваны совместным американо-российским блокированием, Европу можно рассматривать как непосредственного заинтересованного участника и пострадавшую сторону в данном вопросе.

Китайне фигурирует напрямую в данном отчете, но использует отдельный переговорный потенциал на параллельном треке США-Китай. В то время как Китай стремится использовать дискуссии по безопасности ИИ как средство для получения глобальных полномочий по установлению правил, США рассматривают вопросы безопасности исключительно в рамках поддержания своего конкурентного преимущества перед Китаем, что приводит к оценкам, согласно которым стороны преследуют принципиально разные цели [9].

4. Ключевые проблемы

Первая проблема — это выхолащивание принципа человеческого контроля. Положение, предписывающее, чтобы человек принимал окончательное решение по предложенным ИИ целям, рассматривалось как минимальный консенсус в дискуссиях по управлению военным ИИ. Отклонение этого положения демонстрирует, что принцип «руководства, надзора и контроля со стороны человека» в европейской декларации 22 государств может быть нейтрализован в сфере систем вооружения консенсусом великих держав [1][10].

Вторая проблема — нейтрализация многосторонних норм посредством сговора великих держав. Тот факт, что США и Россия — две идеологически и стратегически противостоящие друг другу ядерные военные державы — сформировали общий интерес по конкретному вопросу, чтобы заблокировать введение международных ограничений, выявляет структурное ограничение: регулирование военного ИИ трудно обеспечить исключительно волей средних держав или многосторонних организаций.

Третья проблема — фрагментация направлений регулирования. В то время как между США и Китаем ведется диалог, пусть и в ограниченной форме канала уведомления об инцидентах [16], США и Россия активно заблокировали прогресс по более фундаментальному вопросу регулирования систем вооружения. Это свидетельствует о том, что вместо сближения в рамках единого международного режима управление ИИ разворачивается на нескольких направлениях, фрагментированных по великим державам и проблемным областям. Для средних держав это делает все более неясным, на каком именно треке они могут заявить о себе.

II. Углубленный анализ

Американо-российские разногласия по поводу совместного блокирования регулирования систем вооружения на основе ИИ: углубленный анализ

1. Анализ первопричин

Хотя видимым оправданием сговора США и России являются споры о технической эффективности, реальная мотивация заключается в сохранении военного превосходства. Дискуссии по установлению норм для смертоносных автономных систем вооружения (САСВ) ведутся в рамках Конвенции ООН о конкретных видах обычного оружия (КНО) с середины 2010-х годов, но неоднократно терпели неудачу в достижении обязательного соглашения из-за противодействия со стороны ведущих военных держав. Данный вопрос является продолжением этой тенденции. США полагают, что обязательное участие человека в принятии решений ИИ по выбору целей поставит их в невыгодное положение с точки зрения скорости проведения операций по сравнению с конкурентами. Россия также уже развернула системы идентификации целей с поддержкой ИИ на поле боя на Украине и не имеет стимулов соглашаться на нормы, которые задним числом ограничили бы их использование.

Позиция администрации Трампа демонстрирует последовательную логическую структуру в этом вопросе. В своем выступлении на Генеральной Ассамблее ООН президент Трамп назвал требования о международном надзоре за ИИ «глобалистской уловкой» [4]. Он заявил, что вместо подавления ИИ Соединенные Штаты продолжат его развивать [17]. Это показывает, что неприятие регулирования коммерческого ИИ и неприятие регулирования военного ИИ действуют в рамках одной политической парадигмы. Иными словами, Белый дом применяет дискурс, определяющий ИИ не как объект регулирования, а как источник национальной конкурентоспособности, не разделяя гражданскую и военную сферы [4][17].

Расчеты России отличаются, но результаты совпадают. Высказывания министра иностранных дел Лаврова в ходе той же Генеральной Ассамблеи ООН с обвинениями в адрес Европы в препятствовании миру [1] свидетельствуют о том, что Россия испытывает фундаментальное недоверие к многосторонним нормам под руководством Запада. Для России регулирование вооружений на основе ИИ с высокой вероятностью воспринимается как еще одна навязанная Западом норма, ограничивающая ее свободу военных действий при ведении войны на Украине. Тот факт, что две страны с различными глубинными интересами пришли к одинаковому результату — срыву регулирования, — является не случайным совпадением, а отражением структурного положения, разделяемого обеими странами как постоянными членами Совета Безопасности ООН и ядерными державами в рамках многосторонних норм разоружения.

2. Структурный контекст

С точки зрения структуры безопасности, эта проблема демонстрирует модель, схожую с распадом режима ядерного разоружения. В период холодной войны США и СССР, как две сверхдержавы, обладающие колоссальной разрушительной силой ядерного оружия, применяли двойственный подход: сотрудничали в целях предотвращения распространения, но при этом неохотно шли на сокращение собственных вооружений. Эта же структура воспроизводится и в системах вооружения на основе ИИ. Хотя США и Россия сотрудничают, чтобы заблокировать формирование международных норм, регулирующих милитаризацию ИИ, это является лишь пассивным сотрудничеством, направленным на сохранение собственной свободы разработки и развертывания. Это объясняет, почему США и Россия определяются как ключевые акторы в межгосударственной конкуренции за нормы, касающиеся военного использования ИИ в новых и нетрадиционных сферах безопасности.

В плане политической структуры заметно разделение политики США в области ИИ на два направления. В анализе Института Восточной Азии ранее указывалось, что в отношениях между США и Китаем «направление сотрудничества под руководством Белого дома и направление давления под руководством Конгресса и регулирующих органов уже действуют обособленно» [9]. Совместное американо-российское блокирование демонстрирует, что эта двухтрековая структура аналогичным образом проявляется и в отношениях с Россией. В то время как Белый дом разделяет практические интересы с Россией в отношении регулирования военного ИИ, он сохраняет позицию давления, такую как контроль над экспортом полупроводников, в своей конкуренции с Китаем [9]. Это указывает на то, что дипломатия США в сфере ИИ гибко перестраивается на основе интересов по конкретным вопросам, а не строгого разделения на союзников и конкурентов.

В экономическом аспекте совпадение интересов оборонной промышленности и индустрии ИИ формирует материальную основу для блокирования регулирования. Тот факт, что СИПРИ провел в сентябре закрытые дискуссии с участием представителей министерств обороны и иностранных дел, промышленности, МККК и НАТО по вопросам «сотрудничества между государством и промышленностью для законной разработки и использования ИИ в военной сфере» [8], указывает на структуру, в которой формирование норм фактически решается внутри государственно-промышленных комплексов, а не путем межправительственных переговоров. Независимо от отклонения положения об обязательном участии человека в принятии решений по выбору целей на многосторонней арене ООН, рабочие кооперативные органы ведут дискуссии, исходя из предпосылки «законного использования», а не регулирования [8]. Это свидетельствует о том, что путь формирования международных режимов регулирования смещается от многосторонности в стиле Генеральной Ассамблеи ООН к минилатеральному сетевому управлению на стыке государства и промышленности.

3. Исторические прецеденты и сравнительные примеры

Наиболее близким прецедентом являются неоднократные неудачи дискуссий Группы правительственных экспертов (ГПЭ) по САСВ в рамках КНО. Продолжаясь уже более десятилетия с 2014 года, эти дискуссии раз за разом не приводили к выработке обязательного договора из-за противодействия со стороны ведущих стран в области военных технологий, таких как США, Россия и Израиль. Совместное американо-российское блокирование является последним примером этой модели неудач, представляя собой более продвинутую информацию по сравнению с прошлым, поскольку акторы, выступающие против регулирования, были названы публично.

Вторым сравнительным примером является структура сговора великих держав, наблюдавшаяся в режиме Договора о нераспространении ядерного оружия (ДНЯО). В годы холодной войны США и СССР сотрудничали в регулировании взаимных ядерных испытаний, однако это было в значительной степени направлено на укрепление существующего порядка путем предотвращения появления новых ядерных государств. Аналогичный вывод можно сделать и из блокирования регулирования вооружений на основе ИИ. Те, кто выигрывает от отклонения требования об обязательном участии человека, — это США и Россия, которые уже обладают передовыми системами целеуказания на основе ИИ, в то время как относительно отставшие страны будут нести бремя создания собственных стандартов в нормативном вакууме при разработке подобных систем в будущем.

Третьим примером является недавний инцидент с ложной командой, вызванной галлюцинацией ИИ в вооруженных силах США, проанализированный Институтом Восточной Азии. В ходе этого инцидента операция по перехвату и задержанию китайского судна в водах Ближнего Востока готовилась на основе разведывательного отчета, составленного при участии чат-бота с ИИ, но была отменена в самый последний момент, когда истребители уже были подняты в воздух [6]. В анализе Института Восточной Азии отмечалось, что «источником ошибки была не дезинформация со стороны противника, а собственный процесс подготовки разведданных вооруженными силами США» [6]. Этот инцидент можно трактовать как пример того, когда вмешательство человека действительно сработало для предотвращения катастрофических последствий. Тем не менее, тот факт, что США на площадке ООН примерно в то же время присоединились к России, чтобы заблокировать именно это требование об обязательном участии человека [1], демонстрирует разрыв между восприятием рисков на рабочем уровне и политическим выбором на уровне норм.

4. Ключевые переменные, определяющие будущее развитие

Первая переменная — продвинется ли диалог между США и Китаем по ИИ. По итогам саммита Трампа и Си Цзиньпина в Вашингтоне стороны согласились создать канал взаимного уведомления об инцидентах с ИИ, а последующие консультации запланированы на ноябрь [16]. Однако этот канал оценивается как «всего лишь канал управления кризисами в сфере национальной безопасности и не означает расширения коммерческого сотрудничества в области ИИ» [9]. Расширит ли этот диалог свою повестку дня, включив в нее решения по выбору целей военным ИИ, или останется в узких рамках уведомления об инцидентах, определит направление будущего формирования норм.

Вторая переменная — расширение декларации 22 государств. Инициированная европейскими странами, эта декларация зафиксировала, что ИИ должен оставаться «под руководством, надзором и контролем человека», и предложила создать глобальную структуру надзора [10]. Ключевой вопрос заключается в том, расширится ли число стран-участниц за пределы 22, чтобы сформировать коалицию такого масштаба, которая способна оказать давление на постоянных членов Совета Безопасности ООН. В настоящее время три ведущие державы в области военного ИИ — США, Россия и Китай — отсутствуют среди подписавших эту декларацию, что ограничивает ее нормативную обязательную силу.

Третья переменная — достижения в области саморегулирования рабочих сетей государства и промышленности. Если закрытый диалог между министерствами обороны, министерствами иностранных дел, промышленностью и международными организациями под эгидой СИПРИ [8] приведет к выработке предметных кодексов поведения или технических стандартов, может возникнуть альтернативный нормативный путь в обход зашедших в тупик межправительственных договоров. Однако, поскольку этот путь изначально исходит из предпосылки «законного использования» [8], существует риск получения результатов, которые будут ближе к оправданию, нежели к регулированию.

Четвертая переменная — степень раскрытия информации о реальном применении оружия с ИИ на поле боя на Украине. По мере появления конкретных доказательств того, что Россия уже использует системы целеуказания с поддержкой ИИ в боевых действиях, общественное неприятие отклонения требования об участии человека, вероятно, будет расти. Это потенциальная переменная, которая может привести к давлению с целью возобновления переговоров на площадке ООН.

Последствия для Южной Кореи зависят от сочетания этих четырех переменных. Исходя из предположения, что обязательная норма в отношении военного ИИ на уровне ООН вряд ли появится в ближайшее время, приоритетной задачей остается создание независимых процедур верификации разведданных, генерируемых ИИ, которые поступают в совместную разведывательную систему Республики Корея и США. В то же время необходимо параллельно прилагать многосторонние дипломатические усилия, такие как участие в коалиционных треках средних держав по типу декларации 22 государств, чтобы восполнить нормативный пробел, созданный двусторонним сговором США и России.