[Специальный доклад «ИИ и новый цивилизационный стандарт»] Военный вызов ①: Нексус «Искусственный интеллект — ядерное оружие» (AI-Nuclear Nexus) и перспективы мирового военного порядка

I. Введение

В связи с проведением в Сеуле в 2024 году трех крупных международных конференций по нормам искусственного интеллекта (ИИ) в корейском обществе наблюдается повышенный интерес к ИИ. В марте прошла 3-я <Встреча на высшем уровне за демократию> на тему «ИИ и цифровые технологии и демократия», в мае — 2-я <Сеульская встреча на высшем уровне по ИИ>, а 9-10 сентября состоится 2-я <Встреча на высоком уровне по ответственному военному применению ИИ (REAIM)>. Проведение в Корее последовательных международных конференций по обсуждению норм, связанных с передовыми технологиями, несомненно, является прекрасной возможностью для повышения статуса и влияния Кореи в международном сообществе. Однако, чтобы Корея продолжала играть ведущую роль в международном сообществе как глобальный ключевой игрок, необходимо не только представить универсальные нормы, контролирующие неразборчивое военное применение передовых технологий, но и одновременно продумать меры противодействия экзистенциальной угрозе со стороны Северной Кореи, которая держит под прицелом всю территорию Республики Корея, угрожая превентивными ядерными ударами.

В данном специальном докладе рассматривается «связка ИИ-ядерное оружие» (AI-Nuclear Nexus), которая является наиболее важной для Кореи проблемой военного применения ИИ из-за угрозы северокорейского ядерного оружия. Во-первых, кратко обсуждается, что такое ИИ и какие изменения происходят при его применении в военной сфере. Во-вторых, рассматривается, как сочетание технологий ИИ с ядерным оружием и стратегией влияет на существующий баланс нападения и обороны (Offense-Defense Balance). В-третьих, на основе этого анализа прогнозируется, как «связка ИИ-ядерное оружие» изменит мировой военный порядок в будущем.

II. Концепция и военное применение ИИ: мультипликативный эффект увеличения скорости операций

Хотя официального консенсуса относительно концепции ИИ не существует, большинство исследований сходятся во мнении, что это машины, способные выполнять задачи, требующие «человеческого интеллекта», такие как оценка ситуации, распознавание закономерностей, выводы, прогнозирование, планирование, обучение и коммуникация (Horowitz 2018, 40; Haenlein and Kaplan 2019, 5; US Department of Defense 2019, 5; Congressional Research Service 2020, 2). С момента начала летнего исследовательского проекта по искусственному интеллекту в Дартмутском колледже (Dartmouth Summer Research Project on Artificial Intelligence: DSRPAI) в 1956 году при поддержке Фонда Рокфеллера, исследования ИИ пережили «весну» и «лето», но в 1990-х годах наступила «зима» из-за разочарования правительств ведущих стран, таких как США и Великобритания, в производительности ИИ, которая не превышала уровня «опытного любителя», что привело к прекращению финансовой поддержки. Хотя разработка IBM Deep Blue, победившего чемпиона мира по шахматам Гарри Каспарова в 1997 году, вызвала кратковременный интерес, ограничения были очевидны, поскольку системы экспертных систем, основанные на определенных правилах, не позволяли ИИ демонстрировать производительность в различных областях, выходящих за рамки конкретной сферы (Haenlein and Kaplan 2019, 6-8).

Второе «лето» исследований ИИ началось в 2015 году, когда AlphaGo от Google победила Кэ Цзе и Ли Седоля в го, считающейся гораздо более сложной игрой, чем шахматы, и завоевала мировой титул по го (Haenlein and Kaplan 2019, 9). Машинное обучение (machine learning) на основе искусственных нейронных сетей (Artificial Neural Network: ANN), которое использует бесчисленные веса (weight) и смещения (bias), называемые параметрами, для вывода результатов на основе введенных данных, стало новым прорывом (Bode et al. 2024, 3-5). В частности, с середины 2010-х годов доступность данных резко возросла благодаря активизации социальных сетей, а вычислительная мощность компьютеров значительно улучшилась благодаря развитию GPU-чипов (например, A100, H100, B100), подходящих для машинного обучения, поскольку данные могут обрабатываться параллельно путем их распределения.

На этой основе были созданы условия для реализации моделей ИИ, которые ранее существовали только на теоретическом уровне. Теперь стало возможным глубокое обучение (Deep Learning), при котором машины самостоятельно классифицируют данные и находят пути обучения независимо от типа входных необработанных данных (raw data). Мы вступили в эру генеративного ИИ (Generative AI: GAI), такого как ChatGPT от OpenAI, который мгновенно создает истории, музыку, изображения, видео, код и даже стратегии по команде (prompt). Появление генеративного ИИ ясно показало, что искусственный интеллект является «технологией-посредником» (enabler), которая делает возможным то, что ранее было невозможно, в широком спектре областей. Следовательно, ИИ является универсальной технологией, такой как электричество или двигатель внутреннего сгорания, а не военной технологией, такой как танки или подводные лодки (Horowitz 2018, 41). В этом контексте технологии ИИ могут выступать в качестве «множителя силы» (force multiplier) при интеграции с существующими системами командования, управления, связи, компьютеров и разведки (C4I) и вооружениями (Johnson 2019, 150).

Какие изменения принесет развитие генеративного ИИ, являющегося универсальной технологией, в сфере военно-безопасностных отношений? Связанные исследования единодушно указывают на связь с «скоростью». Как было показано выше, ИИ, основанный на машинном и глубоком обучении, демонстрирует выдающиеся способности в анализе огромных объемов информации за доли секунды и поиске наиболее эффективных решений из доступных вариантов в данной ситуации. Учитывая, что военные инновации, непрерывно осуществлявшиеся с 21 века, касались вопросов (1) скорости, (2) расстояния и (3) точности (Metz 2000, 73-81; Lieber and Press 2017; Schneider and Macdonald 2024, 174-177), революционные изменения в «скорости», привносимые ИИ, означают, что его военное применение может дать преимущество в гонке военных инноваций.

В частности, быстрая обработка информации на поле боя ускоряет не только обнаружение, идентификацию и отслеживание целей, но и скорость реагирования на тактические маневры противника, что может привести к мультипликативному эффекту в аспектах «расстояния» и «точности». Более того, в контексте интеграции национальных оборонных возможностей (сухопутных, морских, воздушных, космических, кибернетических, невоенных) и многодоменных операций, подчеркиваемых в концепциях «интегрированного сдерживания» США или «интеллектуализированной войны» Китая, применение технологий ИИ становится очень важным, поскольку оно позволяет быстро рассчитывать наиболее эффективные комбинации.

Текущие планы военного применения ИИ в США, занимающих лидирующие позиции в области ИИ, наглядно демонстрируют этот аспект. Стратегия Министерства обороны США по внедрению данных, аналитики и искусственного интеллекта (Data, Analytics, and Artificial Intelligence Adoption Strategy), опубликованная в июне 2023 года, имеет подзаголовок «Ускорение преимущества в принятии решений» (Accelerating Decision Advantage). В начале этой стратегии подчеркивается, что причина, по которой американские военные должны уделять внимание ИИ, заключается в том, что он «позволяет лидерам принимать лучшие решения быстрее» (U.S. Department of Defense 2023, 3). Это свидетельствует о значительном влиянии технологий ИИ на скорость военных операций.

Кроме того, подчеркивается, что для достижения «преимущества в принятии решений», к которому стремятся США, необходимо обеспечить (1) осведомленность и понимание обстановки на поле боя (battlespace awareness and understanding), (2) адаптивное планирование и применение сил (adaptive force planning and application), (3) быстрые, точные и устойчивые цепи поражения (fast, precise, and resilient kill chains), (4) устойчивую поддержку материально-технического обеспечения (resilient sustainment support) и (5) эффективную организацию оперативных задач (efficient enterprise business operations). Для этого также необходимы человеко-машинное сотрудничество на основе ИИ и быстрая обработка информации.

Конкретно, «Стратегия внедрения данных, аналитики и искусственного интеллекта» определяет стратегические цели милитаризации ИИ США как (1) повышение «способности к ведению совместных боевых действий» на основе (2) «создания качественных данных» и (3) достижения «ответственного военного применения ИИ». Здесь совместные боевые действия означают «устранение пробелов в совместных возможностях на операционном и стратегическом уровнях» путем повышения операционной совместимости между организациями и укрепления боеспособности.

В этом отношении военное применение ИИ, вероятно, будет иметь очень широкие последствия. Существующие исследования классифицируют формы военного применения ИИ следующим образом, основываясь на том, (1) будет ли ИИ использоваться стратегически или тактически, и (2) будет ли человек контролировать ИИ или машина будет автономной (Lushenko 2023).

<Таблица 1> Типы военного применения ИИ

Тактическое применение ИИ означает минимизацию времени от «обнаружения до поражения» (sensor-to-shooter) на поле боя путем быстрой обработки большого объема информации, полученной от датчиков, для обеспечения реагирования на цели. Стратегическое применение ИИ означает использование ИИ для определения вариантов того, как вести войну и какие силы комбинировать и развертывать для достижения военных целей. Уровень контроля определяется тем, будет ли машина принимать решения и действовать автономно, или машина будет предоставлять результаты анализа, которые могут помочь человеку, а окончательное решение будет принимать человек. В соответствии с этими критериями возможны четыре модели военного применения ИИ.

«Кентавр» — мифическое существо из греко-римской мифологии, имеющее верхнюю часть тела человека и нижнюю часть тела лошади. То есть, это форма, при которой ИИ используется тактически для обеспечения эффективности военных операций на поле боя, но окончательное решение принимает человек. «Минотавр» — мифическое существо с головой чудовища и телом человека; все решения для проведения операций на поле боя, от размещения патрульных сил до размещения эскадрилий истребителей, принимаются машиной, и человек следует им. Автономные системы вооружения (Autonomous Weapon System: AWS), управляемые ИИ дронами, относятся к этой категории. «Мозаичная война» — это форма, при которой ИИ используется на стратегическом уровне для определения оптимальной комбинации сил для прогнозирования действий противника и максимальной эксплуатации его уязвимостей, но окончательное решение принимает человек. Планы военного применения ИИ, которые в настоящее время реализуются США, согласно классификации Пола Лушенко, относятся к мозаичной войне. Наконец, «ИИ-генерал» — это форма, при которой все стратегические решения страны по использованию военной мощи передаются ИИ, и человек не вмешивается.

Лушенко провел опрос среди американских полевых командиров относительно предпочтений по четырем вышеуказанным моделям использования ИИ. В плане «надежности» респонденты показали следующие предпочтения: мозаичная война (1-е место), война кентавров (2-е место), война минотавров (3-е место), ИИ-генерал (4-е место). На вопрос «Какую модель ИИ вы бы хотели, чтобы армия фактически приняла?» поддержка распределилась следующим образом: война минотавров (1-е место), мозаичная война (2-е место), война кентавров (3-е место), ИИ-генерал (4-е место). Эти результаты показывают, что в условиях неопределенности относительно стабильности применения технологий ИИ в военной сфере, универсальная человеческая психология имеет тенденцию предпочитать контроль человека над ИИ как на тактическом, так и на стратегическом уровнях.

Интересно, что в вопросе о том, какую роль ИИ должен играть на поле боя, наблюдается несколько противоречивая (ambivalent) тенденция: на «тактическом» уровне, связанном с ведением боевых действий на индивидуальном поле боя, предпочтение отдается повышению эффективности за счет использования автономных систем вооружения путем предоставления права принятия решений ИИ; на «стратегическом» уровне, связанном с планированием войны и интеграцией национальных оборонных возможностей, предпочтение отдается тому, чтобы человек играл ведущую роль, а ИИ оставался вспомогательным инструментом, помогающим человеческим решениям. Это свидетельствует о том, что большинство военных командиров не имеют полной уверенности в стабильности технологий ИИ, но, по крайней мере, не испытывают большого отторжения к использованию ИИ на тактическом уровне. Конечно, данное исследование проводилось только среди американских командиров, и неизвестно, по каким критериям отбирались респонденты, поэтому делать поспешные обобщения затруднительно. Тем не менее, если военные командиры действительно испытают повышение скорости принятия решений и эффективности, предоставляемые ИИ, роль ИИ на поле боя, вероятно, будет постепенно расширяться.

В следующем разделе мы рассмотрим, как военное применение ИИ повлияет на полезность ядерного оружия, которое считается самым революционным из когда-либо созданных человечеством систем вооружения, и на будущую ядерную стратегию. В этот момент мы рассмотрим, как внедрение технологий ИИ повлияет на баланс нападения и обороны (Offense-Defense Balance) (Jervis 1978), и какой стороне — нападению или обороне — оно, скорее всего, даст преимущество в области ядерной стратегии, и, в конечном итоге, рассмотрим вопрос о том, дополняет ли военное применение ИИ существующее оружие, такое как ядерное оружие, или заменяет его.

III. ИИ и ядерное оружие: переход от контрценностного удара (Countervalue) к контрсиловому удару (Counterforce)

1. Ядерная революция (Nuclear Revolution) и важность потенциала второго удара

Ядерное оружие — это «чрезмерно мощное» оружие, применение которого настолько трудно оправдать, что оно ни разу не было использовано после Второй мировой войны, когда оно было применено в Хиросиме и Нагасаки. Ядерное оружие — это ужасное оружие, которое, мгновенно после применения, создает интенсивное тепло на уровне солнечной радиации, экстремальные изменения атмосферного давления из-за быстрого нагрева воздуха и, как следствие, мощные ветры, подобные урагану, а затем радиоактивные осадки, которые делают жизнь невозможной в радиусе десятков километров от точки сброса, в зависимости от мощности ядерной боеголовки (Wolfson and Dalnoki-Veress 2022). Поскольку оно способно с огромной скоростью доставлять неизбирательное разрушительное оружие как комбатантам, так и некомбатантам (Fetter 1991; Pape 1996), в войне с применением ядерного оружия не может быть победителей, и первоочередной задачей стратегии национальной безопасности становится избежание ядерной войны любыми средствами. Однако, парадоксальным образом, именно из-за этого аспекта все страны в ядерную эпоху проводили осторожную политику безопасности, избегая войн и опасаясь случайной эскалации. Это принесло революционные изменения человечеству, как показывает история стратегической стабильности в период холодной войны, когда между США и СССР не было прямого военного столкновения в течение 40 лет (Carnesale et al. 1983; Jervis 1989; Waltz 2003).

До сих пор самой важной концепцией при построении стратегии безопасности в отношении ядерного оружия был «потенциал второго удара» (second-strike capability) (Wohlstetter 1959). Это означает способность нанести ответный ядерный удар после получения ядерной атаки от противника, чтобы отомстить противнику. Состояние, при котором обе стороны обладают потенциалом второго удара и взаимное уничтожение происходит при использовании ядерного оружия, называется «взаимное гарантированное уничтожение» (Mutual Assured Destruction: MAD). Когда MAD сформировано, ни одна из противоборствующих ядерных держав не может угрожать другой ядерным оружием, поскольку обе стороны могут нанести друг другу «неприемлемый ущерб». Это ситуация, когда обе страны, держа жизни своих граждан в заложниках, парадоксальным образом могут обеспечить свою безопасность (Jervis 1989). Потенциал второго удара также называют «контрценностным ударом» (countervalue attack), поскольку он предполагает ответный удар по жизни граждан противника за угрозу жизни граждан своей страны («око за око, зуб за зуб») (Kahn 1960).

С другой стороны, способность нейтрализовать потенциал второго удара противника называется потенциалом первого удара (first-strike capability), и поскольку она сосредоточена на уничтожении ядерных сил противника, ее также называют «контрсиловым ударом» (counterforce attack). История развертывания ядерных стратегий в период американо-советской холодной войны показывает, что стратегическая стабильность повышается, когда ядерные державы стремятся укрепить свой потенциал второго удара, а стратегическая нестабильность возрастает, когда они стремятся обеспечить потенциал первого удара (Kaplan 1983; Jervis 1989; Freedman 2003). Типичным примером является система противоракетной обороны (Missile Defense: MD). Хотя MD внешне выглядит как оборонительное средство для защиты собственной территории и граждан от ядерных ударов противника, если удастся создать MD со 100% надежностью, это приведет к разрушению MAD, поскольку нейтрализует потенциал второго удара противника. Именно поэтому в ходе переговоров об ограничении стратегических вооружений (Strategic Arms Limitation Talks: SALT), первой попытки ядерного разоружения между США и СССР, обсуждался Договор о противоракетной обороне (Anti-Ballistic Missile Treaty: ABM Treaty), и этот договор стал первым соглашением о разоружении между США и СССР в 1972 году вместе с SALT I.

2. Военное применение ИИ и ядерное оружие: усиление потенциала первого удара и углубление ядерной асимметрии

Поэтому, чтобы определить, какие изменения принесет внедрение технологий ИИ в области ядерной стратегии, необходимо рассмотреть, какой из них — потенциал первого удара (контрсиловый удар) или потенциал второго удара (контрценностный удар) — ИИ принесет больше преимуществ. В области ядерной стратегии потенциал первого удара является переменной, способствующей усилению «преимущества нападения», а потенциал второго удара — элементом, обеспечивающим «преимущество обороны».

Прежде чем приступить к подробному обсуждению, следует придерживаться одного важного принципа: изменение баланса нападения и обороны нельзя объяснить только одной технологической переменной. Как упоминалось выше, самое большое преимущество военного применения ИИ заключается в увеличении «темпа» операций. ИИ может демонстрировать превосходную эффективность по сравнению с человеческими когнитивными способностями в таких областях, как идентификация целей, анализ и понимание оперативной обстановки, расчет оптимальной комбинации вооружений для поражения целей, что позволяет принимать точные и быстрые решения, и этот эффект, вероятно, распространится на весь цикл применения военной силы. Однако эта способность сама по себе может способствовать как нападению, так и обороне. Поэтому трудно утверждать, что наступит эпоха преимущества нападения или обороны только на основе переменной ИИ. В конечном счете, важна не сама технология, а то, как она используется (Biddle 2023).

Учитывая это, давайте рассмотрим, какие изменения принесет «связка ИИ-ядерное оружие» (AI-Nuclear Nexus) на поле боя с точки зрения баланса нападения и обороны. Во-первых, области, в которых ИИ может способствовать нападению или контрсиловому удару, включают разведку, наблюдение и рекогносцировку (Intelligence, Surveillance, and Reconnaissance: ISR), ядерное командование и управление (Nuclear Command and Control: NC2) и операции контрсилового удара на основе обычных сил (conventional counterforce operations) (Johnson 2023, 18-23; 78-84; 87-90).

Во-первых, усиленные благодаря ИИ возможности ISR представляют большую угрозу для ядерных держав, стремящихся обеспечить выживаемость ядерного оружия и потенциал второго удара путем рассредоточения, перемещения, укрытия и защиты. Китай, Северная Корея и даже Россия имеют значительные ограничения в отношении своих подводных сил в рамках «ядерной триады». Поэтому эти страны пытаются повысить живучесть своих ядерных активов, например, путем сокрытия или защиты межконтинентальных баллистических ракет (Intercontinental Ballistic Missile: ICBM) в укрепленных ракетных шахтах (hardened missile silos) или подземных сооружениях (Underground Facilities: UGF), или путем использования мобильных пусковых установок (Transporter Erector Launchers: TELs) для уклонения от обнаружения противником. Однако эти тактики могут быть легко нейтрализованы, если США интегрируют технологии ИИ с существующими ресурсами ISR, такими как дроны и спутники. Например, даже подводные лодки, которые до сих пор считались конечным средством обеспечения потенциала второго удара из-за трудностей с их обнаружением и отслеживанием, становятся более уязвимыми с разработкой DARPA (Defense Advanced Research Projects Agency) беспилотного дрона Sea Hunter для идентификации и отслеживания подводных лодок. То есть, повышение возможностей идентификации и обнаружения ведет к усилению возможностей точного удара, поэтому разведка, наблюдение и рекогносцировка являются технологиями, способствующими усилению потенциала первого удара.

Во-вторых, ядерное командование и управление (NC2) могут стать уязвимыми для кибератак и радиоэлектронной борьбы, усиленных ИИ. Например, если страна, обладающая превосходством в технологиях ИИ, проводит операции типа «продвинутая постоянная угроза» (Advanced Persistent Threat: APT) против противника, против системы командования и управления целевой страны непрерывно осуществляются процессы взлома компьютеров. В этом случае можно найти слабые места в системе киберзащиты противника и вызвать сбои, внедрив необнаружимые вирусы, вредоносное ПО и т.д. Также можно использовать стратегии отравления данных (data poisoning) или спуфинга (spoofing), внедряя ложные изображения или информацию о целях. Хотя такие кибератаки не направлены на физическое разрушение системы командования противника, в отличие от точечных ударов с использованием обычных вооружений, они в конечном итоге приводят к нарушению нормального функционирования NC2, поэтому их фактический эффект не отличается от физического нападения. Следовательно, усиление кибернетических возможностей и радиоэлектронной борьбы также следует рассматривать как усиление потенциала первого удара. В частности, страны, считающие себя отстающими в области киберзащиты, могут попытаться решить эту проблему, приняв доктрину «пуск по предупреждению» (Launch on Warning: LOW), что значительно увеличивает нестабильность.

В-третьих, контрсиловые удары на основе обычных сил являются типичным потенциалом первого удара. Внедрение технологий ИИ может значительно повысить точность беспилотных систем вооружения, что облегчает прорыв обороны противника. В частности, это становится очень эффективным средством противодействия вражеским оборонительным системам, прорыв которых с использованием существующих пилотируемых систем потребовал бы слишком больших затрат, как, например, в стратегии Китая «запрет доступа и воспрепятствование вторжению» (Anti-Access Area Denial: A2/AD). И наоборот, если в системы противоракетной обороны добавить автоматическое распознавание целей (Automatic Target Recognition: ATR) на основе ИИ, возможности обнаружения, отслеживания и перехвата резко возрастут, а в сочетании с роением дронов (drone swarming) значительно повысится потенциал сдерживания путем отказа (deterrence by denial). Как упоминалось выше, такое повышение возможностей, хотя и выглядит как оборонительная мера по защите собственных стратегических активов и территории, на самом деле имеет агрессивный характер, поскольку нейтрализует потенциал второго удара противника.

Итак, приводит ли внедрение технологий ИИ к абсолютному преимуществу нападения в области ядерной стратегии, лишь увеличивая нестабильность? Не обязательно. Технологии ИИ также существуют в области ядерной стратегии, способствуя усилению оборонительных возможностей. Например, технологии ИИ значительно развивают возможности дальнего наблюдения, а также сбора и анализа информации в реальном времени по сложной местности, что способствует повышению точности раннего предупреждения и улучшению ситуационной осведомленности и готовности обороняющейся стороны. Возможности наблюдения и разведки, которые могут быть использованы для нейтрализации оборонительных систем противника, могут также нейтрализовать внезапные атаки противника в оборонительной фазе.

В области кибервойны против систем ядерного командования и управления, упомянутых выше, можно противодействовать, улучшая киберзащиту с помощью технологий ИИ, обнаруживая уязвимости в собственной системе киберзащиты и выявляя попытки противника по отравлению данных и спуфингу. В случае роения дронов, поскольку обороняющаяся сторона, как правило, обладает гораздо большим объемом информации о своих военных активах, чем нападающая сторона, этот асимметричный обмен данными неизбежно приводит к более выгодным результатам для обороны, чем для нападения, с точки зрения производительности ИИ на основе глубокого обучения. Кроме того, существуют исследования, предполагающие, что возможности дронов с применением ИИ делают обороняющуюся сторону более выгодной, чем нападающую, учитывая текущие ограничения дальности полета дронов и их скорость маневрирования (King 2024). Таким образом, возможности защиты ядерных активов на основе ИИ предоставляют эффективное средство противодействия операциям контрсилового удара с использованием ИИ и обычных вооружений.

Более того, открылся путь к преодолению фундаментального ограничения в построении надежности существующей стратегии ядерного сдерживания — «воли» к ответному удару с использованием ядерного оружия, как в случае российского «мертвого руки» (Dead hand). Повторно поднимался вопрос о «ядерном сдерживании» (nuclear deterrence) в предыдущих исследованиях ядерного оружия: даже если обороняющаяся страна обладает физическим потенциалом второго удара, возникают сомнения в стабильности MAD из-за иррациональности самого ядерного возмездия. Как сказал президент Эйзенхауэр: «Нет ничего хуже, чем выиграть ядерную войну» (the only thing worse than losing a global war was winning one), поскольку для страны, уже пострадавшей от ядерной атаки, почти нет выгоды от ответного ядерного удара по противнику, чтобы нанести ему такой же ущерб.

Чтобы решить эту проблему, Томас Шеллинг предложил «угрозы, оставляющие что-то на волю случая» (Threats That Leave Something to Chance) в рамках игровой модели, намеренно снижая контроль над ядерным оружием. Недавние исследования (McDermott et al 2017) предлагают способ сигнализировать о воле к ядерному возмездию, полагаясь на «психологическое удовлетворение» от наказания противника за причиненную боль, чтобы ядерное возмездие было надежным. Однако, как и в случае с «мертвой рукой», если ИИ будет запрограммирован на «автоматический ответ ядерным оружием» в случае «ядерной атаки противника» и «потери связи с субъектом, контролирующим ядерное оружие», то проблема надежности ядерного возмездия и потенциала второго удара может быть полностью решена.

Таким образом, «связка ИИ-ядерное оружие» (AI-Nuclear Nexus) не обязательно приводит к преимуществу нападения или обороны в ядерной стратегии. Результаты могут быть совершенно разными в зависимости от того, какая модель применяется и как она применяется.

3. Военное применение ИИ и будущее ядерного оружия: снижение полезности ядерного оружия

Еще один важный вопрос, который необходимо обсудить, заключается в том, что внедрение технологий ИИ резко снижает необходимость использования ядерного оружия на поле боя. Технологии ИИ обладают наибольшим эффектом в повышении скорости быстрого реагирования и точности ударов, и в этом случае чрезмерная летальность ядерного оружия не имеет большого тактического значения. Например, контрценностные удары на основе ИИ более подходят для точечных ударов по командным пунктам противника и устранения командиров, чем для массовых убийств гражданского населения. Упоминание «конца режима Ким Чен Ына» в Обзоре ядерной политики (Nuclear Posture Review: NPR) США, опубликованном в 2022 году, также, по-видимому, связано с этим.

Контрсиловые удары на основе ИИ также демонстрируют высокую эффективность при точечных ударах по уязвимым частям противника для нейтрализации его потенциала второго удара, или при реагировании и уничтожении сил противника, пытающихся осуществить такую нейтрализацию. В этом случае ядерное оружие будет действовать лишь как фоновый фактор, формирующий контекст в стратегической игре, и ситуация, когда возникнет необходимость использовать ядерное оружие на поле боя, скорее всего, не возникнет.

В то же время, как показывает расчет баланса нападения и обороны в «связке ИИ-ядерное оружие», если обе стороны обладают схожим уровнем возможностей ИИ, это не дает одностороннего преимущества ни нападающей, ни обороняющейся стороне. Однако, если одна сторона (США) имеет подавляющее превосходство в возможностях ИИ над другой стороной (Северная Корея), как в случае США и Северной Кореи, превосходящая сторона, вероятно, будет обладать подавляющим потенциалом первого удара, поскольку она сможет максимально повысить обороноспособность своего потенциала второго удара и одновременно эффективно уничтожить ядерные активы противника. В этом случае ядерное оружие Северной Кореи, вероятно, не будет иметь никакой пользы перед интегрированной военной мощью США на основе ИИ в условиях вооруженного конфликта и противостояния политики принуждения между США и Северной Кореей.

IV. «Связка ИИ-ядерное оружие» и прогноз будущего военного порядка: возможность катастрофических последствий стратегической конкуренции между США и Китаем

Принимая во внимание все вышесказанное, военное применение технологий ИИ, скорее всего, будет действовать не как множитель силы, усиливающий «ядерный потенциал» или повышающий важность ядерного оружия, а скорее как фактор, который резко повышает эффективность существующей «обычной военной мощи», тем самым устраняя саму необходимость использования ядерного оружия. В этом контексте военная мощь на основе ИИ в большей степени является заменителем, который значительно снижает стратегическую необходимость и полезность ядерного оружия, чем дополнением, усиливающим ядерное оружие.

Учитывая, что производительность ИИ зависит от объема и качества данных, а также от вычислительной мощности, необходимой для его надлежащего функционирования, в долгосрочной перспективе асимметрия между США и Китаем в возможностях ИИ будет увеличиваться. В плане данных, касающихся изображений, видео и характеристик оборудования, которые могут быть собраны только в реальных боевых условиях (Horowitz 2018, 52-54), США обладают беспрецедентными данными, а США контролируют 90% цепочки поставок оборудования для производства передовых полупроводников в мире (Allen 2023). Поэтому весьма вероятно, что США, являясь существующей сверхдержавой, сохранят свое эксклюзивное положение и в области передовых возможностей ИИ. В этом случае гегемонистский порядок, возглавляемый США, будет продолжаться, и не произойдет мультиполяризации мирового политического порядка. Конечно, если Китай найдет новое направление развития в области вычислительной мощности или военных данных, совершенно отличное от пути, пройденного США (например, квантовые вычисления, кража информации о продажах и безопасности китайских дронов), нельзя исключать будущего, в котором США не смогут получить подавляющее преимущество в конкуренции с Китаем.

Однако этот долгосрочный мировой военный порядок, возглавляемый США, скорее всего, пройдет через весьма нестабильный период в среднесрочной и краткосрочной перспективе. В связи с военным применением ИИ существуют «хрупкость» (brittleness) — проблема, связанная с неспособностью ИИ к аналогии или адаптации на уровне человека (Johnson 2023, 12-14), и «этические проблемы» (Bode et al. 2024, 8-9) передачи машине решения о применении насилия против человека. Однако, помимо этого, существует серьезная проблема, связанная с конкуренцией между США и Китаем в области ИИ, которая неизбежно приведет к значительному повышению военной нестабильности в процессе ее развития.

Во-первых, проблема «ядерной запутанности» (nuclear entanglement). Эта проблема возникает в контексте текущей ядерной конкуренции между США и Китаем, когда Китай, Россия и другие страны пытаются максимизировать эффект ограниченного количества ядерных боеголовок, намеренно переплетая обычные и ядерные силы на этапах развертывания и применения ядерного оружия, например, путем использования двуцелевых (dual-use) средств доставки, которые могут нести как ядерные, так и неядерные боеголовки, и организации подразделений, управляющих ядерным оружием, совместно с подразделениями, управляющими обычными силами. Ядерная запутанность приводит к тому, что даже если противник намеревается атаковать только обычные силы, ядерное оружие, связанное с ними, также становится уязвимым, ставя страну в ситуацию «использовать или потерять» (use-it-or-lose-it). Это значительно повышает вероятность случайной ядерной войны (Acton et al 2017; Talmadge 2017). Ограниченная война с использованием обычных вооружений легко перерастает в ядерную войну.

Аналогичная проблема может возникнуть и в процессе построения «ядерно-ИИ-связки». Если не будет предоставлено достаточно данных, ИИ будет трудно точно определить, оснащены ли ракеты, бомбардировщики и подводные лодки, развернутые странами, построившими текущую стратегию ядерного сдерживания, обычными или ядерными боеголовками. В частности, из-за проблемы «черного ящика» в выводе на основе параметров, на котором основана технология машинного обучения ИИ, даже если ИИ строго контролируется, чтобы помогать только в анализе информации, а все тактические решения принимаются людьми (Johnson 2023, 17-18), неопределенность, связанная с ядерным сдерживанием, может быть усилена ИИ, что приведет к еще более серьезной нестабильности. Другими словами, если искусственный интеллект не предоставляет дополнительных объяснений, почему он пришел к определенному суждению, рекомендуя определенные военные действия, или если даже предоставленные объяснения невозможно перекрестно проверить на истинность, человеческий командир неизбежно окажется под значительным психологическим давлением при принятии решений в условиях ограниченного времени. В этом случае весьма вероятно, что выбор будет сделан в пользу следования суждению ИИ.

Во-вторых, когда проблема «черного ящика» технологии ИИ сочетается с неопределенностью обстановки на поле боя в условиях ядерного сдерживания, значительно возрастает вероятность «непреднамеренной эскалации». Джеймс Джонсон приводит убедительный сценарий того, как взаимное сдерживание на уровне кибервойны между США и Китаем в Тайваньском проливе может перерасти в ядерную войну, если Китай проведет демонстрацию силы в ответ на визит высокопоставленного американского чиновника на Тайвань, при условии, что обе страны имеют оборонные возможности на основе ИИ (Johnson 2023, 1-3). Ключевой момент, когда стратегическое соперничество между США и Китаем переходит порог войны, заключается в том, что системы наблюдения, разведки и стратегического принятия решений на основе ИИ рекомендуют превентивный удар для достижения «преимущества ранней эскалации». В частности, для Китая, который принял стратегию ядерного сдерживания, имея меньше ядерных боеголовок, чем США, будет крайне трудно игнорировать рекомендацию своей оборонной системы на основе ИИ о необходимости скорейшего нанесения превентивного удара, поскольку США нацелены не только на обычные силы Китая, но и на ядерное оружие, чтобы нейтрализовать ядерный потенциал сдерживания Китая против США. И даже для США, которые хорошо осведомлены о ситуации Китая, если их оборонная система на основе ИИ прогнозирует, что следующим шагом Китая будет атака на американские спутниковые активы в космосе или удар гиперзвуковой ракетой по ключевым американским объектам на базе Гуам, высока вероятность того, что США нанесут превентивный удар по военным объектам в ответ. Все это создает условия для легкого возникновения войны в Индо-Тихоокеанском регионе.

V. Заключение

Таким образом, хотя США, вероятно, займут доминирующее положение в долгосрочной перспективе в гонке «ядерно-ИИ-связки», в краткосрочной и среднесрочной перспективе существует вероятность серьезного вооруженного конфликта между США и Китаем из-за ядерного сдерживания и непреднамеренной эскалации. Чем более невозможным будет казаться Китаю догнать США в долгосрочной перспективе, тем сильнее будет давление в пользу выбора войны в настоящее время. Если не подготовиться должным образом к этим возможностям уже сейчас, нельзя исключать сценарий взаимного уничтожения, который в узком смысле затронет Индо-Тихоокеанский регион, а в широком смысле — все человечество. Именно поэтому остро необходимо установить универсальные нормы использования искусственного интеллекта в военных целях. Необходимо проводить диалог по стратегии ИИ, сосредоточившись на повестках дня, по которым США и Китай имеют более высокую вероятность достижения согласия по сравнению с другими вопросами, включая вопрос о том, следует ли привлекать ИИ к принятию решений об использовании ядерного оружия, а также обсуждение «ядерного сдерживания» и «непреднамеренной эскалации», которые предвещают катастрофический путь. ■

Список литературы

Acton, James, et al. 2017. Entanglement: Chinese and Russian Perspective on Non-nuclear Weapons and Nuclear Risks. Washington, DC: Carnegie Endowment for International Peace.

Alarcon, Nefi. 2020. “OpenAI Presents GPT-3, a 175 Billion Parameters Language Model.” 7 июля. https://developer.nvidia.com/blog/openai-presents-gpt-3-a-175-billion-parameters-language-model/. (Дата обращения: 20.11.2023.)

Allen, Gregory C. 2023. “Blocking China’s Access to AI Chips Matters to U.S. National Security.” CSIS Commentary. 31 июля. https://www.csis.org/analysis/blocking-chinas-access-ai-chips-matters-us-national-security. (Дата обращения: 04.01.2024.)

Bai, Yunyi. 2023. “Wang-Sullivan talks last more than 12 hours; Taiwan question takes up longest time, Chinese FM official told GT.” Global Times.18 сентября. https://www.globaltimes.cn/page/202309/1298392.shtml. (Дата обращения: 20.11.2023.)

Biddle, Stephen. 2023. “Back in the Trenches: Why New Technology Hasn’t Revolutionized Warfare in Ukraine.” Foreign Affairs.10 августа. https://www.foreignaffairs.com/ukraine/back-trenches-technology-warfare (Дата обращения: 04.01.2024.)

Bode, Ingvild, et al. 2024. “Algorithmic Warfare: Taking Stock of a Research Programme.” Global Society 38(1): 1–23.

Bremmer, Ian and Mustafa Suleyman. 2023. “The Al Power Paradox: Can States Learn to Govern Artificial Intelligence - before It’s Too Late?” Foreign Affairs 102: 26.

Carnesale, Albert, et al. 1983. Living with Nuclear Weapons. New York: Bantam Books.

Congressional Research Service. 2020. “Artificial Intelligence and National Security.” 10 ноября. https://sgp.fas.org/crs/natsec/R45178.pdf. (Дата обращения: 16.01.2024.)

Elimian, Godfrey. 2023. “ChatGPT costs $700,000 to run daily, OpenAI may go bankrupt in 2024- report.” TechNext.14 августа. https://technext24.com/2023/08/14/chatgpt-costs-700000-daily-openai/ (Дата обращения: 16.01.2024.).

Fetter, Steve. 1991. “Ballistic Missiles and Weapons of Mass Destruction: What Is the Threat? What Should be Done?” International Security 16(1): 5-41.

Freedman, Lawrence. 2003. The Evolution of Nuclear Strategy. London: Palgrave Macmillan London.

Gilpin, Robert. 1981. War and Change in World Politics. Cambridge: Cambridge University Press.

Government of the Netherlands. 2023. “REAIM Call to Action.” Summit on Responsible Artificial Intelligence in the Military Domain. 16 февраля.

Haenlein, Michael and Andreas Kaplan. 2019. “A Brief History of Artificial Intelligence: On the Past, Present, and Future of Artificial Intelligence.” California Management Review 61(4): 5–14.

Horowitz, Michael C. 2018. “Artificial Intelligence, International Competition, and the Balance of Power.” Texas National Security Review 1(3). Май.

Jervis, Robert. 1978. “Cooperation Under the Security Dilemma.” World Politics 30(2): 167-214.

______. 1989. The Meaning of the Nuclear Revolution. New York: Cornell University Press.

Johnson, James. 2019. “Artificial intelligence & future warfare: implications for international security.” Defense & Security Analysis 35(2): 147-169. https://doi.org/10.1080/14751798.2019.1600800.

Johnson, James. 2023. AI and the Bomb: Nuclear Strategy and Risk in the Digital Age. Oxford University Press.

Kaplan, Fred. 1983. The Wizards of Armageddon. New York: Simon and Schuster.

Kahn, Herman. 1960. On Thermonuclear War. Princeton University Press.

Kissinger, Henry A. and Graham Allison. 2023. “The Path to AI Arms Control.” Foreign Affairs. October 13. https://www.foreignaffairs.com/united-states/henry-kissinger-path-artificial-intelligence-arms-control

Lindsay, Jon R. 2023/2024. “War Is from Mars, AI Is from Venus: Rediscovering the Institutional Context of Military Automation.” Texas National Security Review 7(1): 29-47.

Lushenko, Paul. 2023. “AI and the future of warfare: The troubling evidence from the US military.” Bulletin of the Atomic Scientists. November 29.

Metz, Steven. 2000. Armed Conflict in the 21st Century: The Information Revolution and Post-Modern Warfare. Carlisle Barracks: Strategic Studies Institute.

Modelski, G., Thompson, W.R. 1988. “The Long Cycle of World Leadership.” In Seapower in Global Politics, 1494–1993. London: Palgrave Macmillan. https://doi.org/10.1007/978-1-349-09154-6_5.

Pape, Robert A. 1996. Bombing to Win: Air Power and Coercion in War. Ithaca: Cornell University Press.

Schneider, Jacquelyn and Julia Macdonald. 2024. “Looking back to look forward: Autonomous systerns, military revolutions, and the importance of cost.” Journal of Strategic Studies 47(2): 162–184. https://doi.org/10.1080/01402390.2022.2164570

Snyder, Jack. 1984. “Civil-Military Relations and the Cult of the Offensive, 1914 and 1984.” International Security 9(1): 108-146.

Talmadge, Caitlin. 2017. “Would China Go Nuclear? Assessing the Risk of Chinese Nuclear Escalation in a Conventional War with the United States.” International Security 41(4): 50-92.

U.S. Department of Defense. 2018. “Summary of the 2018 Department of Defense Artificial Intelligence Strategy.” https://media.defense.gov/2019/Feb/12/2002088963/-1/-1/1/SUMMARY-OF-DOD-AISTRATEGY.PDF. (Дата обращения: 2024. 1. 16.).

______. 2023. “Data, Analytics, and Artificial Intelligence Adoption Strategy: Accelerating Decision Advantage.” July 27. https://media.defense.gov/2023/Nov/02/2003333300/-1/-1/1/DOD_DATA_ANALYTICS_AI_ADOPTION_STRATEGY.PDF. (Дата обращения: 2024. 1. 16.)

Wagner, R. Harrison. 1991. “Nuclear Deterrence, Counterforce Strategies, and the Incentive to Strike First.” American Political Science Review 85(3): 727-750.

Waltz, Kenneth N. 2003. “Waltz Responds to Sagan.” In Scott D. Sagan and Kenneth N. Waltz, The Spread of Nuclear Weapons: A Debate Renewed. New York: W.W. Norton & Company.

Wolfson, Richard and Ferenc Dalnoki-Veress. 2022. “The Devastating Effects of Nuclear Weapons.” The MIT Press Reader. March 2.

Ким Ян Гю. 2023. «Космос как поле боя» и будущая стратегия сдерживания: изменения в стратегии безопасности США и Китая и Корея». В сборнике «Вызовы будущей войны и аэрокосмическая промышленность». Под ред. Шин Бом Сика. Сеул: издательство «Социальная критика».

Ким Ян Гю. 2024. «Мировой военный порядок в 2024 году и Корея: Политика безопасности Кореи в эпоху превосходства в нападении, обусловленного революцией точности и прозрачности». Специальная серия комментариев к Новому году 3. 20 ноября. https://www.eai.or.kr/new/ko/pub/view.asp?intSeq=22234 (Дата доступа: 2. 6. 2024).

■ Ким Ян Гю, старший научный сотрудник EAI, преподаватель факультета международных отношений Сеульского национального университета.

■ Ответственные и редакторы:Пак Чжи Су, научный сотрудник EAI

    Запросы и редактура: 02 2277 1683 (доб. 208) | jspark@eai.or.kr