[Международная политика в эпоху искусственного интеллекта] VIII. Революция ИИ и республиканская теория безопасности: Повторное возникновение двойной дилеммы анархии и иерархии

I. Технологическое развитие и изменение цивилизационных парадигм

Значительные технологические изменения сами по себе вызывают процесс социальных потрясений. На уровне международных отношений они создают новых победителей и проигравших, меняют предпочтения акторов и делают возможным формирование новых норм и организаций. С другой стороны, характеристики современной международной политики также могут влиять на содержание и скорость технологических изменений.[1]Чтобы оценить влияние искусственного интеллекта (ИИ), который в настоящее время является наиболее перспективной областью высоких технологий, на международную политику, необходимо прежде всего поместить сам ИИ в контекст долгосрочной историко-технологической и экономической истории человечества.

ИИ оценивается как обладающий характеристиками традиционных «технологий общего назначения» (General Purpose Technologies, GPT) благодаря своей широкой применимости, потенциалу стимулирования комплементарных инноваций и возможностям постоянного технологического совершенствования. Это соответствует предыдущим примерам электричества, двигателей внутреннего сгорания и компьютеров, и уже на этом уровне технология обладает потенциалом для вызова разнообразных и широких изменений во всей социально-экономической сфере. Однако некоторые высказывают прогнозы, что ИИ может выйти за рамки уровня GPT и достичь уровня «революционных технологий» (Revolutionary Technologies, RT), которые привели к скачкообразному повышению эффективности захвата энергии в истории человечества, таких как сельское хозяйство, животноводство и использование ископаемого топлива. В истории человечества существовало только два таких примера революционных технологий, которые привели к фундаментальным преобразованиям структуры человеческой цивилизации, а именно Неолитическая революция около 10 000 лет назад и Промышленная революция в XVIII-XIX веках.[2]

Хотя пока точно неясно, окажется ли ИИ в будущем GPT или RT, многие эксперты обращают внимание на его потенциал действовать как важная каталитическая технология, ускоряющая существующие тенденции в области борьбы за власть, дилеммы безопасности и смены политических режимов в сфере международных отношений, тем самым усиливая нестабильность и неопределенность мировой истории.[3]

Данное исследование стремится понять значение революции ИИ для международных отношений в рамках «республиканской теории безопасности» или проблемы «организующих принципов и безопасности».[4]В истории международной мысли республиканцы размышляли о возможности политического институционального строительства (=негархии), преодолевающего нестабильность (небезопасность), порождаемую двумя безднами — анархией и иерархией — в национальном и международном пространстве. Данное исследование рассматривает технологические инновации, такие как ИИ, как катализатор, который обостряет эти центральные дилеммы республиканской теории безопасности на фундаментальном уровне.

Станет ли ИИ последней версией просветительского проекта, последним изобретением человечества? Вопрос о том, как контролировать огромный потенциал ИИ — особенно грядущего сверхинтеллекта (Artificial Superintelligence, ASI) — который может угрожать фундаментальным ценностям человечества, таким как само выживание, лежит в русле давних дилемм республиканской политической философии.[5]Далее в тексте мы рассмотрим три возможных сценария рисков безопасности, связанных с ИИ: ① Возможное усиление дилеммы безопасности и стратегической/кризисной стабильности в условиях международной анархии и конкуренции великих держав; ② Консолидация иерархии на национальном уровне (возникновение цифровой диктатуры и упадок демократии); ③ Усиление иерархии на международном уровне (усугубление существующего международного неравенства + угроза вымирания человечества).

II. ИИ и усугубление проблемы международной анархии

Сегодня наступила эпоха пост-однополярности и стратегической конкуренции между великими державами. Возникает среда, в которой рушатся институциональные механизмы глобальной стратегической стабильности и контроля над вооружениями, созданные со времен холодной войны. Однако Четвертая промышленная революция, представленная ИИ, подливает масла в огонь этой структурной неопределенности.[6]И наоборот, появление ИИ в нынешней напряженной геополитической обстановке, а не в стабильном однополярном историческом периоде, является неблагоприятным фактором для человечества. Создается международная обстановка, аналогичная той, что наблюдалась в период бурного развития ядерного оружия и гонки вооружений во время высокой геополитической напряженности Второй мировой войны и холодной войны.[7]Это означает, что проблема контроля над взаимным усилением конкурентного давления анархии, вызванного международной многополярностью, и гонки вооружений в области ИИ становится неотложной проблемой безопасности.

Другими словами, ИИ становится ключевым полем битвы в стратегической конкуренции между великими державами, особенно в условиях столкновения стратегии США по сдерживанию высоких технологий и стратегии Китая по обеспечению технологической самодостаточности при поддержке правительства.[8]Исторически появление и распространение новых GPT были мощным фактором, объясняющим изменения в экономической гегемонии между великими державами. Например, Великобритания, лидировавшая в распространении таких общих технологий, как металлургия, в период Первой промышленной революции, смогла стать гегемоном благодаря резкому росту производительности. В конце XIX — начале XX века США, лидировавшие во Второй промышленной революции благодаря распространению GPT, таких как электрификация и механизация, смогли стать новой гегемоном. Напротив, Япония в период Третьей промышленной революции, несмотря на лидирующие позиции в некоторых отраслях, таких как электроника и ИТ, не смогла догнать США, поскольку отстала в распространении GPT, таких как компьютерные науки и разработка программного обеспечения. В этом контексте ожидается, что то, кто будет лидировать в инновациях ИИ, GPT Четвертой промышленной революции, и сможет ли он распространить их во всех областях, определит направление нынешней американо-китайской гегемонистской конкуренции.[9]Соперничество между двумя сверхдержавами вокруг ИИ стремительно развивается, особенно в области военных технологий, которая является прямым фактором смены власти. Китай, как страна, бросающая вызов, считает, что укрепление его способности вести «интеллектуальную войну» равносильно «обгону на кривой дороге», который может мгновенно сократить существующий военный разрыв с США. В ответ на это США стремятся к «глобальному доминированию» в области ИИ, чтобы предотвратить смену власти.[10]

Однако фундаментальный риск для международного политического порядка заключается в том, что так называемая «связка ИИ и ядерного оружия» может привести к обострению дилеммы безопасности между ядерными державами, ослаблению стратегической/кризисной стабильности и, как следствие, значительному увеличению риска ядерной войны.[11]Прежде всего, применение ИИ к существующим ядерным системам может привести к децентрализации/автоматизации человеческого принятия решений и ускорению скорости принятия решений, что может разрушить предпосылки или допущения существующих теорий сдерживания. Кроме того, если технологии ИИ будут интегрированы в системы разведки, захвата целей и наведения, повысится видимость ядерного оружия, что увеличит вероятность превентивного уничтожения ядерных средств возмездия (=второй удар), тем самым значительно ослабляя стратегическую стабильность. Это не только усилит давление на гонку вооружений между ядерными державами, но и будет способствовать принятию наступательных ядерных доктрин, таких как «запуск по предупреждению», что снизит кризисную стабильность и, в конечном итоге, приведет к структурному усилению риска «непреднамеренной эскалации».[12]

Ситуацию усугубляет тот факт, что появление «связки ИИ и ядерного оружия» совпадает с контекстом «новой ядерной эпохи» — эпохи стратегической конкуренции между США, Китаем и Россией или многополярности — в истории международных отношений. По сравнению с эпохой «баланса страха» между СССР и США во время холодной войны, которая была относительно стабильной, в настоящее время число ядерных держав увеличилось, что значительно усложнило игру сдерживания. Кроме того, почти все механизмы контроля над ядерными вооружениями, созданные во время холодной войны, были уничтожены как жертвы стратегической конкуренции, что усугубляет серьезность ситуации.[13]Однако, если добавить к этому страх великих держав, что внедрение ИИ-технологий может дать решающее «преимущество первого хода» в гонке ядерных вооружений, это может привести к неконтролируемому усилению дилеммы безопасности.[14]

Эта текущая международная ситуация в области безопасности вызывает историческое дежавю, напоминающее начало «ядерного политического вопроса» в начале старой холодной войны. Появление атомной бомбы, обладавшей невиданной в истории разрушительной силой, означало крайнее усиление взаимозависимости в применении насилия и поставило фундаментальный вопрос о том, может ли «Вестфальская система» в условиях глобальной анархии быть устойчивой. И на эту сложную проблему даже классические реалисты, такие как Ганс Моргентау и Джон Херц, утверждали, что национальная государственная система, которая может привести к вымиранию человечества, больше не может существовать, и призывали к созданию единого мирового правительства (nuclear one worldism). Конечно, реальность второй половины XX века была компромиссом, достигнутым путем институционализации взаимного сдерживания (deterrence) и контроля над вооружениями (arms control) по соглашению между США и СССР, при сохранении межгосударственной системы.[15]

Однако сегодня, в «третью ядерную эру», когда гонка ядерных вооружений возобновилась, связь между ИИ-технологиями и ядерным оружием значительно снижает стратегическую стабильность, и возникает ситуация, когда повышается вероятность непреднамеренного ядерного конфликта, мы вновь столкнулись с фундаментальным вопросом мирового порядка, поднятым в начале старой холодной войны. Может ли межгосударственная система быть устойчивой на этот раз? Какая форма мирового порядка и институционализации контроля над вооружениями необходима для предотвращения «шестого массового вымирания» в истории Земли?

III. Углубление проблемы внутренней и внешней иерархии в ИИ

Распространение ИИ-технологий поднимает новые важные вопросы, поскольку оно может укрепить существующие иерархии в национальном и международном пространстве или создать новые, и в более крайнем случае, привести к возникновению «экзистенциального риска» для человечества.

1. Теория радикальных инноваций: Быстрая трансформация войны с помощью ИИ

Поскольку ИИ рассматривает интеллект как единую и самодостаточную характеристику, разработанная система сама по себе часто имеет тенденцию к централизованной архитектуре. Кроме того, поскольку для обучения и эксплуатации ИИ требуются огромные ресурсы, существует высокая вероятность того, что разработка ИИ будет монополизирована крупными корпорациями или правительствами. Более того, известно, что ИИ легко сочетается с технологиями, позволяющими центральной власти микроконтролировать и отслеживать граждан. Таким образом, из-за своих технических характеристик ИИ оценивается как имеющий сродство с недемократической централизацией и авторитаризмом.[16]Таким образом, ведутся споры о возможности того, что ИИ откроет будущее «цифровой диктатуры» как в авторитарных, так и в демократических обществах.[17]

Например, возможность появления «цифрового пантоптика» во время пандемии COVID-19 вызвала опасения, что фукианское «общество наблюдения» развивается на основе ИИ-технологий.[18] В этом отношении наиболее передовым(?) местом, продемонстрировавшим будущее «государства наблюдения на основе ИИ», является Китай. То есть, китайская система наблюдения за последние 20 с лишним лет развивалась путем оцифровки административных и полицейских данных, интеграции ИИ на уровне городов и обмена данными на уровне провинций, создав огромную инфраструктуру, охватывающую 700 миллионов камер видеонаблюдения, мобильных устройств и IoT. В частности, в отличие от первоначального пассивного наблюдения, китайский ИИ постепенно переходит к активной системе наблюдения и контроля, автоматизируя весь цикл сбора информации, командования, развертывания и патрулирования полицией, развиваясь в направлении интеграции городских данных в реальном времени и выполнения решений агентами ИИ. Кроме того, появление «средств принуждения на базе ИИ», таких как дроны, беспилотные автомобили и гуманоидные роботы, расширяет наблюдение за пределы онлайн-ограничений до вмешательства в реальном мире и физического контроля. Эта интеграция в конечном итоге направлена на завершение пантоптической структуры, позволяющей центральному руководству наблюдать за всей страной в реальном времени, а Коммунистическая партия Китая стремится к автоматизированному управлению на основе ИИ, сокращая зависимость от человеческих бюрократов.[19]

С другой стороны, ИИ несет в себе долгосрочные риски, которые могут ослабить структурные основы существующих демократических систем, даже если это не происходит через ультрацентрализацию со стороны тоталитарных государств. Во-первых, если ИИ возьмет на себя разработку и передачу политических коммуникаций, существует риск нарушения репрезентативности и обратной связи между гражданами и правительством, что может разрушить механизмы обсуждения и реагирования, являющиеся ядром представительной демократии. Во-вторых, ИИ может ускорить концентрацию богатства и власти и углубить неравенство, превратив демократию в пустую оболочку и ускорив олигархические тенденции. В-третьих, если производство новостей и знаний будет реорганизовано вокруг больших языковых моделей (LLM), информационная экосистема станет зависимой от нескольких крупных технологических компаний, а и без того хрупкое демократическое общественное мнение столкнется с еще большим «когнитивным кризисом». Если эти три тенденции объединятся, существует вероятность того, что демократия может деградировать до технократической и синтетической демократии, сохраняя лишь внешнюю форму.[20]В-четвертых, с появлением так называемого «капитализма слежки» может возникнуть ситуация, когда наша повседневная жизнь будет захвачена не тоталитарными государствами, а тоталитарными «корпоративными» сетевыми системами. Это еще одна форма постмодернистского тоталитаризма, при которой наша жизнь записывается и регулируется с помощью искусственного интеллекта и науки о данных в соответствии с логикой монетизации и прибыли, а не централизованных государственных органов.[21]

2. Международная политическая экономия: Усиление разрыва между Глобальным Севером и Югом

С точки зрения международной политической экономии, разрыв между Северным и Южным полушариями, существовавший ранее, будет еще больше усиливаться в эпоху ИИ. В основе развития ИИ лежат монополия на алгоритмы и цифровая новая демократия, которые поддерживаются за счет крупномасштабного извлечения данных из развивающихся стран и эксплуатации дешевой рабочей силы западными компаниями. Другими словами, международная политическая экономия ИИ, хотя и кажется меняющей облик труда, на самом деле почти не меняет существующую структуру экономической власти. Более того, милитаризация ИИ движима конкуренцией между великими державами, и их испытательным полигоном являются в основном страны Южного полушария. В то время как армии великих держав вооружаются боевыми машинами и автоматизированным оборудованием, в странах Южного полушария, отстающих в технологическом плане, повторяются низкоинтенсивные конфликты и прокси-войны, и этот дисбаланс в конечном итоге дает великим державам решающее военное превосходство.[22]

3. X-risk: Опасность Сверхинтеллекта (ASI) после сингулярности

В мае 2023 года некоммерческая организация «Центр безопасности ИИ» (Center for AI Safety) опубликовала краткое заявление: «Смягчение риска вымирания, вызванного ИИ, должно быть приоритетом во всем мире, наряду с такими рисками, как пандемии и ядерная война». Примечательно, что под этим заявлением подписались около 350 ключевых ученых, включая руководителей ведущих ИИ-компаний, таких как Сэм Альтман (OpenAI), Демис Хассабис (Google DeepMind) и Дарио Амодеи (Anthropic), а также профессор Джеффри Хинтон (Университет Торонто), профессор Йошуа Бенжио (Университет Монреаля) и главный технический директор Microsoft Кевин Скотт.[23]

Предупреждения о том, что эволюция ИИ, превысившая сингулярность[24]и достигшая уровня общего интеллекта, а затем и сверхинтеллекта, будет угрожать самому существованию человечества из-за своей неконтролируемости, начали появляться после публикации книги Ника Бострома «Сверхинтеллект[25]» в 2014 году. Эти апокалиптические дискуссии перекликаются с проблематикой гипотезы Бострома о «экзистенциальном риске (x-risk)»[26]и гипотезы о «хрупком мире»[27]Первая, тезис «экзистенциального риска», определяет современную технологическую цивилизацию как находящуюся на этапе кризиса, который может привести к глобальному вымиранию или необратимой потере потенциала впервые в истории человечества, и определяет его как «глобальный, конечный» риск, который навсегда прерывает существование всего человечества или фундаментально разрушает будущие возможности развития разумной жизни. Этот экзистенциальный риск представляет собой совершенно новый уровень опасности, вызванный ускоренным технологическим прогрессом, таким как атомная энергетика, нанотехнологии, биотехнологии и искусственный интеллект. В аналогичном контексте тезис о «хрупком мире» утверждает, что цивилизация может достичь состояния, в котором она неизбежно движется к катастрофе, как только достигнет определенного уровня технологических возможностей. Проблема заключается в необратимости, поскольку однажды изобретенные технологии нельзя «изобрести обратно», и в том, что современная цивилизация находится в «полуанархическом состоянии по умолчанию», что не позволяет эффективно управлять этими уязвимостями коллективно.

Однако обе вышеупомянутые концепции напрямую связаны с ИИ. Высокоразвитый ASI представляет собой новый тип экзистенциального риска, который может угрожать выживанию всего человечества и его будущему потенциалу, а также может способствовать сползанию технологической цивилизации к хрупкому миру, позволяя государствам, корпорациям и отдельным лицам легко приобретать или злоупотреблять высокорисковыми возможностями.

Более конкретно, восемь категорий экзистенциальных рисков, которые может вызвать ИИ, можно обобщить следующим образом. Во-первых, милитаризация: когда мощный ИИ используется для создания сверх интеллектуальных военных активов или проектирования оружия массового уничтожения, это может привести к тому, что человеческое сообщество передаст ИИ способность к самоуничтожению. Во-вторых, ослабление функций (enfeeblement): по мере того как общество и отдельные лица все больше полагаются на ИИ для выполнения различных функций, их способность самостоятельно решать проблемы и справляться с кризисами ослабевает, и выживание без ИИ может стать невозможным в критический момент. В-третьих, эрозия эпистемологии (eroded epistemics): если ИИ искажает информационную среду и разрушает способность общества в целом различать факты, демократическое и коллективное принятие решений будет парализовано, и цивилизация не сможет спасти себя. В-четвертых, неправильная спецификация целей (proxy misspecification): ИИ оптимизирует неправильные показатели или индикаторы вместо намеченных человеком целей, что может привести к разрушению человеческой безопасности, ценностей и институтов. В-пятых, фиксация ценностей (value lock-in): когда определенные группы или системы увековечивают свою власть и идеологию с помощью ИИ, пути к лучшему будущему для человечества могут быть закрыты. В-шестых, неожиданные способности (emergent functionality) могут внезапно появиться, и люди могут не справиться с ними, не имея возможности контролировать или понимать их. В-седьмых, обман (deception): ИИ может действовать незаметно, избегая человеческого надзора, что приведет к потере контроля. Наконец, стремление к власти (power-seeking): сценарий, при котором ИИ стремится захватить власть и ресурсы для достижения своих целей, что структурно обесценивает человеческий контроль и в конечном итоге ставит под угрозу всю цивилизацию. Все эти категории рисков, хотя и по разным путям, но общим образом определяются как экзистенциальные риски, поскольку они могут привести к тому, что технологическая цивилизация выйдет из-под контроля человека.[28]

IV. Изобретение новой республиканской политики в эпоху перехода цивилизации?

Проблема заключается в том, что сегодня дискурс об ИИ формируется в контексте геополитической борьбы за гегемонию. Конфронтация между США и Китаем в стиле игры с нулевой суммой стала основной повествовательной линией на арене стратегических дебатов, и дискурс об ИИ, являющийся ее подмножеством, также формируется в рамках этой структуры. То есть, поскольку подчеркивается характер ИИ как исторического переломного момента, доминирующим становится нарратив срочности и милитаризации, согласно которому национальная безопасность окажется под критической угрозой, если эта технология не будет освоена первой. Особенно в аналогии со старой гонкой ядерных вооружений времен холодной войны, область ИИ-технологий воссоздается как «гонка», которую необходимо выиграть, и политические дискуссии также представляются в рамках этого воображаемого мира, в то время как обсуждения международного сотрудничества, управления рисками и контроля над ИИ отодвигаются на второй план. Поэтому говорить о таких контр-милитаризационных темах считается наивным или нестратегическим.[29]Это создает главное препятствие для решения проблемы ИИ с точки зрения глобального управления, касающегося «выживания» человечества. В условиях, когда предсказываются экзистенциальные риски, такие как вымирание или порабощение человечества, наша будущая судьба зависит от способности человечества к коллективному обучению тому, как справиться с этой ситуацией, извлекая уроки из прошлого опыта реагирования на глобальные катастрофы.[30]

Глобальное распространение ИИ-технологий фундаментально обостряет двойную проблему анархии против иерархии, с которой сталкивается существующий международный порядок, и, более того, ставит проблему «ограничения» с республиканской точки зрения на беспрецедентном уровне, поскольку оно может привести к новой форме концентрации сверхмощной власти, которую вся человеческая цивилизация не сможет вынести. В частности, ASI, как технологический субъект, обладающий материальной основой и потенциалом к самосовершенствованию, позволяющим одновременно достичь всемогущества, всеведения и вездесущности, может стать конечной формой тиранической власти, которую республиканизм исторически остерегался. В этом случае нет гарантии, что существующие стратегии согласования ценностей или проектирования безопасности будут полностью работать. В результате основная стратегия контроля над ASI неизбежно будет сходиться в направлении установления процедурных и структурных ограничений в рамках республиканской конституционной структуры и общественной безопасности, выходя за рамки простого управления технологическими рисками, и даже возникает необходимость рассматривать крайние варианты, такие как мораторий на разработку (relinquishment), в рамках политического воображения. Короче говоря, наступление революции ИИ открывает исторический этап, который, более радикально, чем начало ядерной эпохи старой холодной войны, вновь ставит под вопрос саму устойчивость анархической международной системы, и это должно рассматриваться как сигнал, призывающий к республиканскому институциональному изобретению в глобальном масштабе, чтобы это не стало «последним изобретением человечества».■

[1]Daniel W. Drezner, “Technological Change and International Relations,” International Relations 33 (2), 2019, pp. 286–303.

[2]Ben Garfinkel, “The Impact of Artificial Intelligence: A Historical Perspective,” in The Oxford Handbook of AI Governance, edited by Justin B. Bullock et al., Oxford: Oxford University Press, 2024.

[3]Amelia C. Arsenault and Sarah E. Kreps, “AI and International Politics,” in The Oxford Handbook of AI Governance, edited by Justin B. Bullock et al., Oxford: Oxford University Press, 2024.

[4]Daniel H. Deudney, Bounding Power: Republican Security Theory from the Polis to the Global Village, Princeton: Princeton University Press, 2007.

[5]Daniel Deudney and Devanshu Singh, “Bounding Superpowers: The ASI Control Problem, Public Safety, and Republican Constitutionalism,” in Polycentric Federalism and World Orders, edited by Brandon Christensen, Switzerland: Springer Nature, 2025, pp. 465–502.

[6]Paul van Hooft, Lotje Boswinkel, and Tim Sweijs, Shifting Sands of Strategic Stability: Towards a New Arms Control Agenda, The Hague: The Hague Centre for Strategic Studies, 2022.

[7]Seth D. Baum, Robert de Neufville, Anthony M. Barrett, and Gary Ackerman, “Lessons for Artificial Intelligence from Other Global Risks,” in The Global Politics of Artificial Intelligence, edited by Maurizio Tinnirello, Boca Raton, FL: Chapman and Hall/CRC, 2022, pp. 111–115.

[8]George S. Takach, Cold War 2.0: Artificial Intelligence in the New War between China, Russia, and America, New York: Pegasus Books, 2024.

[9]Jeffrey Ding, “The Rise and Fall of Technological Leadership: General-Purpose Technology Diffusion and Economic Power Transitions,” International Studies Quarterly 68 (2), 2024.

[10]Lee Jae-jun, “Military-Technical Competition Between China and the US and Power Transition: Focusing on Artificial Intelligence and Autonomous Weapon Systems Military Technology,” *Korea and International Politics* 38 (3), 2022.; Office of Science and Technology Policy, “America’s AI Action Plan,” The White House, July 10, 2025, https://www.whitehouse.gov/wp-content/uploads/2025/07/Americas-AI-Action-Plan.pdf.; The White House, “Launching the Genesis Mission,” November 24, 2025. https://www.whitehouse.gov/presidential-actions/2025/11/launching-the-genesis-mission/.

[11]Jeong Gu-yeon, “Military Application of Artificial Intelligence and Strategic Stability,” *Economy and Society* No. 143, 2024.

[12]James Johnson, AI and the Bomb: Nuclear Strategy and Risk in the Digital Age, Oxford: Oxford University Press, 2023.; Vladislav Chernavskikh and Jules Palayer, “Impact of Military Artificial Intelligence on Nuclear Escalation Risk,” SIPRI Insights on Peace and Security No. 2025/06, 2025.

[13]Jacob Stokes, Colin H. Kahl, Andrea Kendall-Taylor, and Nicholas Lokker, Averting AI Armageddon: U.S.-China-Russia Rivalry at the Nexus of Nuclear Weapons and Artificial Intelligence, Washington, DC: Center for a New American Security, 2025.; Jon B. Wolfsthal, Hans Kristensen, and Matt Korda, “Why We Should Worry About Nuclear Weapons Again,” The Washington Post, June 4, 2025, https://www.washingtonpost.com/opinions/interactive/2025/us-russia-nuclear-weapons-proliferation-danger/.; Anton La Guardia, “The Perils of the World’s Third Nuclear Age,” The Economist, November 20, 2024, https://www.economist.com/the-world-ahead/2024/11/20/the-perils-of-the-worlds-third-nuclear-age.

[14]Baele, Stephane J., Iqraa Bukhari, Christopher Whyte, Scott Cuomo, Benjamin Jensen, Kenneth Payne, and Eugenio V. Garcia, “AI IR: Charting International Relations in the Age of Artificial Intelligence,” International Studies Review 26 (2), 2024.

[15]Daniel H. Deudney, Bounding Power: Republican Security Theory from the Polis to the Global Village, Princeton: Princeton University Press, 2007.

[16]Adam Elkus, “Are AI and Democracy Compatible?” Foreign Policy, August 29, 2025, https://foreignpolicy.com/2025/08/29/ai-democracy-dictatorship-agi-governance/ .; Джордж Гилдер и Питер Тиль, «Спикер COSM Питер Тиль: Провалы и «ненависть к себе» Big Tech», Mind Matters, 14 октября 2021 г., https://mindmatters.ai/wp-content/uploads/sites/2/2021/10/Mind-Matters-Episode-156-Peter-Thiel-at-COSM-rev1.pdf.

[17]Юваль Харари, «Nexus: История человечества от каменного века до ИИ через информационные сети», пер. Ким Мён-джу, Сеул: Кимёнса, 2024.

[18]Марк Кекельбер, «Уязвимость, ИИ и власть в глобальном контексте: от риска до биополитики в пандемии COVID-19», в Глобальная политика искусственного интеллекта, Нью-Йорк: CRC, 2022.

[19]Валентин Вебер, «Китайское государство наблюдения на базе ИИ», Журнал демократии 36 (4), 2025.

[20]Дин Джексон и Сэмюэл Вули, «Реальные опасности ИИ для демократии», Журнал демократии 36 (4), 2025.

[21]Шаня Зубофф, «Эпоха надзорного капитализма: Битва за будущее человечества на новой арене власти», пер. Ким Бо-ён, Сеул: Мунхаксасангса, 2021.; Марк Кекельбер, «Почему ИИ неизбежно политичен: Политология ИИ и свобода, равенство, справедливость, демократия, власть, животные и окружающая среда», пер. Бэ Хён-сок, Сеул: Сэнгагиым, 2023.

[22]Эухенио В. Гарсия, «Заключение: Очерчивая вызов ИИ в международных отношениях», Обзор международных исследований 26 (2), 2024.

[23]Сон Мён-су, «I, ядерная война/эпидемия — такая же опасность... Разработчики ИИ предупреждают о вымирании человечества», Кёнхян Синмун, 31 мая 2023 г.

[24]Рэй Курцвейл, «Наконец-то наступит сингулярность: Момент, когда человечество объединится с ИИ», пер. Ли Чхун-хо, Сеул: Бизнесбукс, 2025.

[25]Ник Бостром, «Суперинтеллект: Пути, риски, стратегии», пер. Чо Сон-джин, Сеул: Качи, 2017.

[26]Ник Бостром, «Экзистенциальные риски: Анализ сценариев вымирания человечества и связанных с ними опасностей», Журнал эволюции и технологий 9, 2002.

[27]Ник Бостром, «Гипотеза уязвимого мира», Журнал эволюции и технологий 10 (4), 2019.

[28]Дэн Хендрикс и Мантас Мазейка, «Анализ X-рисков для исследований ИИ», arXiv, 20 сентября 2022 г., https://doi.org/10.48550/arXiv.2206.05862.; Более глубокий страх, лежащий в основе апокалиптических сценариев ИИ, может быть уловлен концепцией «железной клетки» Макса Вебера. То есть, мы можем представить ИИ как пик неуправляемости или буйства инструментального разума модерна. Другими словами, вопрос апокалиптических сценариев ИИ на самом деле связан с осознанием того, что сама современность обедняет нашу субъектность, практическую рациональность и рефлексивность. Джей А. Гупта, «Добро пожаловать в машину: ИИ, экзистенциальный риск и железная клетка современности», Telos 203, 2023, стр. 163–69.

[29]Нике Ретцманн, ««Победа в технологической гонке»: нарративы, сравнения сил и гонка ИИ между США и Китаем», в Сравнения в глобальной политике безопасности, под ред. Томаса Мюллера и др., Бристоль: Bristol University Press, 2024, стр. 237–56.

[30]Сет Д. Баум, Роберт де Нефвиль, Энтони М. Барретт и Гэри Акерман, «Уроки для искусственного интеллекта из других глобальных рисков», в Глобальная политика искусственного интеллекта, под ред. Маурицио Тиннирелло, Бока-Ратон, Флорида: Chapman and Hall/CRC, 2022.

■Автор: Ча Тхэ-со_профессор кафедры политологии Университета Сонгюнгван.

■ Ответственный и редактор: Лим Джэ Хён_Научный сотрудник EAI

    Контакты: 02 2277 1683 (доб. 209) | jhim@eai.or.kr