[AI и новый стандарт цивилизации: Специальный доклад] Военные вызовы ②: Автономные системы вооружения на базе ИИ, развитие когнитивной войны и изменения в порядке военно-безопасного сотрудничества

I. Реальность войны на основе ИИ уже наступила

В эпоху передовых технологий, включая искусственный интеллект (ИИ), трудно представить, каким будет будущая война. Джеймс Джонсон, исследователь ИИ-оружия, рисует следующий сценарий гипотетической войны всего через год.

В 2025 году между США и Китаем вспыхивает война из-за тайваньского вопроса, которая мгновенно перерастает в ядерную войну. После войны независимые следователи приходят к выводу, что ни одна из сторон не использовала «полностью автономное» оружие на основе ИИ. Они оптимистично оценивают, что умышленных нарушений законов вооруженного конфликта, установленных международным правом, или принципов соразмерности и различия при применении ядерного оружия не было. Обе страны верили, что использовали законную военную силу в соответствии с правом на самооборону.

На фоне стремительных политических изменений на Тайване до войны обе державы развертывают технологии ИИ для поддержки распознавания поля боя, сбора информации, разведки, наблюдения и рекогносцировки (ISR), а также тактического реагирования на действия противника. Благодаря быстрому повышению точности, скорости и предсказательной способности коммерчески производимых ИИ-приложений двойного назначения, великие державы смогли использовать машинное обучение (ML), которое требует данных для улучшения тактического и оперативного маневрирования. В частности, Китай, вдохновленный примерами использования роев автономных дронов Россией, Турцией и Израилем для отражения террористических атак на своих границах, быстро интегрировал новейшие технологии ИИ двойного назначения, обойдя тщательные процессы тестирования и оценки.

На фоне резкого роста китайской военной активности в Тайваньском проливе лидеры США и Китая стремились к быстрому развертыванию новейших стратегических ИИ-систем для получения максимального асимметричного преимущества. Стратегические ИИ-системы передового уровня генерировали новые стратегические альтернативы на основе исторических боевых сценариев, экспериментальных военных игр, рационального принятия решений, основанного на теории игр, информационных данных и обучения предыдущих версий. Высокая сложность этих систем превосходила предположения их разработчиков и операторов.

На фоне ожесточенных словесных баталий и кампаний дезинформации в социальных сетях в Китае усилились голоса, призывающие к немедленному объединению с Тайванем. По мере обострения ситуации в Тихом океане США решили развернуть «Стратегическую систему прогнозирования и рекомендаций» (SPRS) на основе ИИ для невоенных действий, не завершив тестирование и оценку. В ответ Китай также развернул аналогичную «Систему стратегических и разведывательных консультаций» (SIAS) для подготовки ко всем кризисным ситуациям.

В конечном итоге цепная реакция событий, спровоцированная ИИ, вышла за пределы заранее определенных Пекином ограничений и стала неконтролируемой. Информационные операции достигли апогея с резким ростом кибератак на Индо-Тихоокеанское командование США и тайваньские системы, действиями Китая по защите космических активов и активацией систем автоматизированных закупок Народно-освободительной армии Китая (НОАК). Американская SPRS оценила эти действия как серьезную угрозу национальной безопасности и рекомендовала демонстрацию силы и оборонительную позицию. В ответ США санкционировали полеты автономных стратегических бомбардировщиков в Тайваньском проливе. SIAS рекомендовала китайскому руководству получить раннее преимущество путем ограниченного превентивного удара по ключевым тихоокеанским активам США. SPRS предупредила Вашингтон о неминуемой превентивной атаке со стороны Китая, и США рекомендовали немедленный ограниченный ядерный удар. Прогнозировалось, что американская система противоракетной обороны сможет успешно перехватить большинство китайских тактических ядерных ударов, и Китай воздержится от ответного удара по континентальной части США. Прогноз SPRS оправдался. После ограниченного ядерного обмена между США и Китаем в Тихом океане, в результате которого погибли миллионы и пострадали десятки миллионов, обе стороны договорились о перемирии.

В ходе последующего анализа обе стороны попытались детально проанализировать процессы принятия решений SPRS и SIAS, но разработчики ИИ пришли к выводу, что невозможно объяснить логику и причины действий ИИ для всех подмножеств решений. Из-за различных временных, криптографических и конфиденциальных ограничений невозможно было сохранить журналы тестов и протоколы. Четкого вывода о том, стала ли технология ИИ причиной этой войны, сделать не удалось (Johnson 2023).[1]

Недавние войны в Украине и Газе наглядно демонстрируют, что ИИ уже используется в различных аспектах ведения боевых действий, и эта тенденция будет сохраняться в будущем. При сочетании ИИ с тремя измерениями: ядерным оружием, обычными вооружениями, психологической и информационной войной — произойдет быстрая трансформация в сторону ядерного оружия на базе ИИ, автономных систем вооружений (ASB) на базе ИИ и когнитивной войны с использованием ИИ.

ИИ как универсальная технология является мета-усиливающей технологией, улучшающей существующие технологии. Это будет многомерная технология, которая не только улучшает конкретное оружие, но и изменяет операционные системы вооружений, процесс принятия решений, связанных с войной, правительства и вооруженные силы, ведущие войну, а также восприятие и реакцию общества (Britt 2023; Hale 2023). Подобно тому, как все используют математику, технологии ИИ будут использоваться во всех аспектах, и в значительной степени это уже происходит. Сложно предсказать, какие изменения принесет ИИ в сфере военной безопасности, и тем более, каково будет влияние технологий ИИ на международные отношения в целом. Сами технологии ИИ быстро развиваются, а усилия по их регулированию или контролю значительно отстают от темпов развития технологий. Развитие технологий ИИ совпадает с периодом возвращения так называемой геополитики, поэтому оно происходит в условиях острой конкуренции, и международные усилия по контролю над проблемами ИИ сталкиваются с неблагоприятной средой.

Возможность предотвратить военное использование технологий ИИ в условиях геополитической конкуренции между странами крайне мала. Более того, можно предположить, что технологии ИИ могут выйти из-под контроля человека, стремительно развиваясь в непредсказуемом направлении. Поскольку страны признают ИИ полезным и инновационным средством для укрепления собственной безопасности, трудно ожидать возникновения превентивной бдительности в отношении военных технологий ИИ до тех пор, пока не произойдет событие, подтверждающее общий ущерб для международного сообщества.

На данный момент необходимо проанализировать реальное положение дел в области технологий ИИ, применяемых в ядерном оружии, автономных системах вооружений и когнитивной войне, а также предвидеть возможные общие проблемы и начать серьезное обсуждение. В случае с ядерным оружием после его однократного применения возникло табу, и в 2020-х годах был подписан Договор о запрещении ядерного оружия (ДЗЯО). Поскольку будущая война — это вопрос жизни и смерти для граждан всех стран, важно проявлять интерес и реагировать на нее. Корее также необходимо задуматься о том, как воспринимать и реагировать на системы вооружений на базе ИИ и стратегии военной безопасности в условиях гонки вооружений между великими державами и риска войны. Данная статья, вслед за анализом ядерного оружия на базе ИИ, рассматривает автономные системы вооружений и когнитивную войну.

II. Развитие автономных систем вооружений в сочетании с ИИ

Согласно Директиве 3000.09 Министерства обороны США, опубликованной в 2012 году, автономные системы вооружений определяются как «системы вооружений, которые после активации могут выбирать и атаковать цели без дальнейшего вмешательства со стороны оператора-человека». То есть, это летальные системы вооружений, которые идентифицируют потенциальные цели противника и самостоятельно выбирают их для атаки на основе алгоритмов и ИИ. Это может означать автономизацию конкретного отдельного оружия или общую операционную систему, использующую вооружения.

Хотя на данный момент не существует международного консенсуса по определению автономных систем вооружений, их оценивают по уровню автономии от человеческого контроля. Понятие автономии в контексте автономных систем вооружений можно определить как способность системы выполнять задачи или серию операций посредством взаимодействия с окружающей средой без вмешательства человека. Важным аспектом в определении автономных систем вооружений представляется тип решений или функций, выполняемых автономно, без контроля со стороны оператора-человека (Dresp-Langley 2023).

В зависимости от степени автономности оружия обычно используются три уровня классификации. Во-первых, это «автономное оружие с надзором» или система «human on-the-loop». Это автономные системы вооружений, разработанные таким образом, чтобы оператор-человек мог вмешиваться и прекращать бой до возникновения аномально высокого уровня ущерба. Примерами являются оборонительные системы вооружений, которые выбирают и атакуют цели автономно в соответствии с программой, но все операции находятся под полным надзором человека, и система может быть аннулирована в ограниченные сроки при необходимости.

Во-вторых, это «полуавтономное оружие» или система «human-in-the-loop», которая после активации предназначена для атаки только по отдельным целям или группам целей, выбранным оператором-человеком. Примерами являются боеприпасы, такие как управляемые ракеты, которые, будучи запущенными к определенной цели, находят и атакуют запрограммированные типы целей в данной области.

В-третьих, это «полностью автономное оружие» или система «human out-of-the-loop», которая после активации может выбирать и вести бой без дальнейшего вмешательства со стороны оператора-человека. Примерами являются барражирующие боеприпасы, которые после запуска находят и атакуют цели в определенной зоне, действуя без дальнейшего человеческого вмешательства. Кроме того, сюда могут быть включены системы вооружений, которые автономно используют радиоэлектронное подавление (jamming) для нарушения связи (Kallenborn 2021).

Автономные системы вооружений являются результатом многолетних усилий и опыта; одним из самых ранних примеров автономных транспортных средств является «The American Wonder», разработанный в 1925 году. Это транспортное средство, двигавшееся по улицам Нью-Йорка, управлялось дистанционно другим идущим сзади транспортным средством и перемещалось в колонне под ранней системой автоматического управления.

Автономные системы вооружений требуют интеграции нескольких ключевых элементов: мобильной боевой платформы, различных типов датчиков, способных точно отслеживать окружение платформы, системы обработки для классификации обнаруженных объектов, и алгоритма, инициирующего атаку при обнаружении допустимой цели. Характерным примером являются «роботы-убийцы» или «slaughter bots» — автономные роботизированные системы, способные выбирать и атаковать цели без вмешательства оператора-человека. Оснащенные передовыми датчиками и ИИ, они могут действовать скоординированно, подавляя оборону, и могут быть развернуты автономно без экипажа на борту, например, в распределенных группах надводных кораблей или на кораблях радиоэлектронной борьбы.

Беспилотные летательные аппараты (БПЛА) также являются типичным примером автономных систем вооружений. В октябре 2013 года Управление стратегических возможностей США запустило 103 беспилотника Perdix, которые, используя «распределенный мозг», собрались в сложную формацию, перемещались по полю боя или перестраивались в новые формации. Этот рой дронов был создан студентами Массачусетского технологического института (MIT) с использованием коммерчески доступных компонентов и чертежей. Теоретически, рой дронов может быть расширен до десятков тысяч единиц, что может стать автономным оружием, сопоставимым по мощности с небольшим ядерным устройством.

В настоящее время существует множество летальных автономных вооружений и автономных систем вооружений, использующих или разрабатываемых с применением ИИ, включая: автономные стационарные охранные пушки, дистанционно управляемые оружейные платформы, «роботы-убийцы», запрограммированные на поражение людей и транспортных средств, дроны и рои дронов с функциями автономного целеуказания. Также были разработаны такие функции, как RADAR, LIDAR, 360-градусные камеры высокого разрешения, и, в конечном итоге, адаптивный и предиктивный круиз-контроль в сочетании с ИИ. Новыми типами оружия массового поражения могут стать рои дронов и автономное химическое, биологическое, радиологическое и ядерное (ХБРЯ) оружие, включая миниатюрных насекомых-дронов, способных вводить смертоносные биохимические вещества.

Разрабатываются также автономные стационарные турельные пушки. Турельная пушка — это дистанционное оружие, которое автоматически наводит и стреляет по целям, обнаруженным датчиками. Первыми функциональными военными турельными пушками были системы ближней обороны, используемые для обнаружения и уничтожения приближающихся ракет и вражеских самолетов на коротких дистанциях. Изначально такое оружие использовалось только на кораблях, но теперь оно применяется и для наземной обороны. Первой в своем роде системой, оснащенной интегрированной системой, включающей наблюдение, отслеживание, стрельбу и распознавание голоса, является SGR-A1 — проект с высокой степенью секретности, совместно разработанный Hanwha Aerospace и Корейским университетом и используемый для поддержки южнокорейских войск в демилитаризованной зоне между Кореями.

Эти автономные системы вооружений на базе ИИ появляются на современных полях сражений или в процессе подготовки к будущим конфликтам. Беспилотные летательные аппараты стали важной проблемой в текущей войне в Украине, и недавно Министерство обороны США объявило о новых инвестициях в размере 1 миллиарда долларов для модернизации своих флотов дронов. Китайские автономные «роботы-убийцы» будут использоваться в военных целях на поле боя в течение двух лет, а один эксперт назвал их «наибольшей угрозой для выживания человечества», предвещая новую эру войн на базе ИИ.

Несколько ведущих стран пошли дальше в этих разработках, начав создавать полностью автономных боевых роботов на базе ИИ для замены солдат на поле боя. Китай и Россия, как сообщается, уже сотрудничают в разработке автономных вооружений на базе ИИ. В мае 2024 года, во время военных учений с Камбоджей, Народно-освободительная армия Китая представила роботов-собак с установленным оружием, произведенных китайской компанией Unitree Robotics. Россия в 2022 году на выставке вооружений под Москвой представила модифицированную версию робота-собаки Unitree Robotics, оснащенную гранатометом, под новым брендом «Робот-пес M-81».

Китай уже начал разработку оружия с использованием машин на базе ИИ, и некоторые эксперты прогнозируют, что к 2028 году объемы производства бомб и снарядов могут утроиться. В марте 2023 года на совещании ООН по летальным автономным системам вооружений представитель США заявил, что еще не время начинать регулировать их разработку. Эти неограниченные разработки вызвали многочисленные предупреждения о том, что нечеловеческое оружие не сможет соблюдать законы войны, и увеличит вероятность того, что страны будут вступать в конфликты без страха потерь личного состава (Cameron 2024).

III. Стратегическое соперничество между США и Китаем и стратегия США в отношении автономных систем вооружений

Министерство обороны США впервые в мире опубликовало руководство по развертыванию автономных или полуавтономных систем вооружений в 2012 году. Директива 3000.09 была одной из первых политик, серьезно рассматривающих влияние автономных технологий и ИИ на военную сферу. До этого такие концепции в основном существовали в научно-фантастических романах. После публикации этой директивы возник большой интерес и дискуссии среди общественности, гражданского общества и неправительственных организаций, но возникла путаница и недопонимание относительно четких положений директивы. Например, Human Rights Watch (HRW) ошибочно истолковала эту директиву как «первый в мире мораторий на летальное полностью автономное оружие». На самом деле, эта политика не ограничивала разработку или использование автономного оружия, а лишь содержала положение о том, что она должна пересматриваться, отменяться или продлеваться каждые десять лет. Директива требовала дополнительных процедур проверки для систем вооружений, достигших определенного уровня автономии, но объем и цель этой проверки были неясны.

За последнее десятилетие Директива 3000.09 стала ключевой политикой США в отношении систем вооружений с применением автономных технологий. Однако отсутствие ясности в этой директиве породило путаницу, особенно в дискуссиях о развитии новых технологий, включая ИИ. Когда в конце 2022 года истек десятилетний срок действия директивы, в 2023 году Министерство обороны представило пересмотренную директиву. Пересмотренная версия сохраняет определение автономных систем вооружений, использованное в директиве 2012 года, определяя их как «системы вооружений, которые после активации могут выбирать и атаковать цели без дальнейшего вмешательства со стороны оператора». В директиве 2023 года слово «человек» перед словом «оператор» было удалено, однако «оператор» определяется как «лицо, управляющее платформой или системой вооружений». Как и предыдущая директива, директива 2023 года не препятствует распространению автономных систем вооружений. Значительные инвестиции в военное применение ИИ и смежных технологий делают не только США, но и Австралия, Китай, Индия, Иран, Израиль, Южная Корея, Россия, Турция и Великобритания, разрабатывая автономные системы вооружений воздушного, наземного и морского базирования.

Пункт 1.2(e) директивы разрешает «международные продажи и передачу», «одобренные в соответствии с существующими требованиями и процедурами обеспечения безопасности технологий и раскрытия информации иностранным государствам». Как только это оружие покинет территорию США, США потеряют над ним эксклюзивный контроль. Кроме того, директива позволяет дальнейшую разработку и приобретение автономных систем вооружений в соответствии с существующим законодательством, процедурами Министерства обороны и этическими принципами.

Директива 2023 года не регулирует более четко неясные моменты директивы 2012 года. Согласно пункту 1.2(a), директива 2023 года заимствует положения предыдущей директивы, утверждая, что «автономные и полуавтономные системы вооружений должны быть спроектированы таким образом, чтобы командиры и операторы могли осуществлять надлежащий уровень человеческого суждения при применении силы». Эта формулировка признает ценность человеческого суждения, необходимого для соблюдения международного гуманитарного права, но ни предыдущая, ни нынешняя директива не содержат четких указаний относительно того, что представляет собой «надлежащий уровень» человеческого суждения и кто будет его определять (Human Rights Watch 2023).

Однако пересмотренная директива более реалистично отражает то, как быстро меняющиеся технологии могут быть фактически применены. Например, были добавлены новые упоминания об ИИ, и проведено четкое разграничение между ИИ и автономией. Предусмотрено, что даже если к существующим системам будут добавлены автономные функции, они должны пройти дополнительную процедуру проверки, которая применяется даже в тех случаях, когда система используется уже много лет (Lamberth 2023).

Эта стратегия США учитывает стратегическое соперничество с Китаем. Программа «Replicator», объявленная в августе 2023 года, сталкивается с огромными техническими и кадровыми задачами в закупках и разработках Министерства обороны, предвещая, что революция в области ИИ изменит способы ведения войны.

Заместитель министра обороны Хикс подчеркивает необходимость развития американских автономных систем вооружений в контексте стратегического соперничества с Китаем.

Мы будем использовать крупномасштабные силы против крупномасштабной армии Народно-освободительной армии Китая (НОАК), но наши силы будут непредсказуемыми, трудными для поражения и еще более трудными для преодоления. Благодаря выдающимся талантам, умным концепциям и передовым технологиям наши вооруженные силы станут более гибкими благодаря поддержке и срочности со стороны коммерческого сектора.

Как мы наблюдаем в Украине, новые технологии, разработанные коммерческими и нетрадиционными предприятиями, от Starlink до Switchblade и коммерческих спутниковых изображений, могут играть решающую роль в защите современных военных атак. Эти технологии являются важным дополнением к традиционным возможностям, оставаясь при этом необходимыми. Поскольку мы должны устранить барьеры и срочно ускорить изменения, мы поставили перед «Replicator» амбициозную цель: развернуть тысячи единиц расходных автономных систем в различных сферах в течение следующих 18–24 месяцев... И «Replicator» будет не только производственным усилием. Мы также нацелены на репликацию и внедрение способов достижения этой цели, чтобы иметь возможность повторять и масштабировать то, что актуально для будущего. В соответствии с Национальной оборонной стратегией (National Defense Strategy) и Объединенной концепцией ведения боевых действий (Joint Warfighting Concept), мы будем использовать автономные возможности таким образом, чтобы использовать наше постоянное преимущество... В этом отношении автономные системы во всех сферах помогут противостоять вызовам систем воспрещения доступа и запрещения доступа (Anti-access/area-denial: A2AD). Мы нейтрализуем их A2AD с помощью нашего A2AD (Hicks 2023).

В настоящее время портфель Министерства обороны США включает более 800 рассекреченных проектов, связанных с ИИ, многие из которых, как сообщается, все еще находятся на стадии тестирования. В целом, машинное обучение и нейронные сети помогают людям получать информацию и повышать эффективность. Для более эффективной сети между бойцами Министерство обороны стремится к разработке боевой сети под названием «Объединенное командование и управление всеми доменами» (Joint All-Domain Command and Control: JADC2), которая автоматизирует обработку данных между всеми войсками. Однако эта задача является масштабной и сопряжена с преодолением бюрократических препятствий.

Например, программа ВВС США «Loyal Wingman» планирует сочетать пилотируемые и автономные самолеты. Например, пилот F-16 может отправить дрон для проведения разведки, наведения на противника или атаки цели. Руководство ВВС планирует запустить эту программу к концу 2020-х годов. Однако график «Loyal Wingman» также сталкивается с проблемой чрезмерной амбициозности и несовместимости с графиком «Replicator». В настоящее время единственными системами вооружений, которые считаются надежными для автономной работы, являются исключительно оборонительные, такие как система противоракетной обороны «Phalanx». Проблемы, такие как непредсказуемое поведение систем или причинение вреда гражданским лицам или дружественным войскам, когда автономное оружие самостоятельно принимает решения, являются более важными проблемами (Bajak 2023).

IV. Усилия по регулированию автономных систем вооружений

Предпринимаются постоянные усилия по контролю над разрушительным потенциалом автономного оружия, особенно над непредсказуемыми проблемами, связанными с ИИ. Существуют усилия по регулированию ИИ в целом, такие как высокоуровневая встреча по ответственному использованию искусственного интеллекта в военной сфере (REAIM Summit 2024), которая пройдет в Сеуле в сентябре, а также усилия, направленные на регулирование самих летальных автономных систем вооружений. Исторически, 15 декабря 1983 года вступила в силу Конвенция о запрещении или ограничении применения некоторых видов обычного оружия (КНО), которая является международным соглашением, запрещающим и ограничивающим применение определенных видов обычного оружия, приводящих к неизбирательным последствиям. В 2010 году Генеральная Ассамблея ООН представила доклад специального докладчика Филипа Алстона, указывающего на проблемы технологии «роботов-убийц», что положило начало дискуссиям о регулировании летальных автономных систем вооружений.

В 2011 году начались официальные дискуссии по автономным системам вооружений в Международном комитете Красного Креста (МККК), и на совещании МККК, состоявшемся в том же году, обсуждались проблемы и концепции автономных систем вооружений. В ноябре 2013 года Конференция государств-участников КНО приняла решение начать обсуждение летальных автономных систем вооружений (LAWS). Впоследствии, с мая 2014 по 2016 год, в рамках КНО было проведено три неофициальных совещания экспертов, на которых обсуждались летальные автономные системы вооружений.

В декабре 2016 года на пятой Конференции государств-участников КНО было принято решение учредить Группу правительственных экспертов по летальным автономным системам вооружений (GGE LAWS) с участием всех государств-участников. С 2017 года совещания КНО были преобразованы в открытые совещания Группы правительственных экспертов без ограничений по участию. В 2018 году Группа правительственных экспертов по летальным автономным системам вооружений (GGE LAWS) приняла доклад, включающий 10 руководящих принципов (Possible Guiding Principles), путем обсуждения характеристик летального оружия с использованием автономных технологий, таких как ИИ, человеческого контроля, политических мер и военного применения. В 2019 году на Конференции государств-участников КНО были окончательно приняты 11 руководящих принципов, к которым добавилось «взаимодействие человека и машины» (human-machine interaction) (Ю Джунгу 2019a; 2019b).

22 декабря 2023 года Генеральная Ассамблея ООН приняла первую резолюцию, посвященную опасностям летальных автономных систем вооружений. Резолюция была принята 152 голосами за, 4 против и 11 воздержавшимися, признав «серьезные вызовы и озабоченности», связанные с применением новых технологий в военной сфере, включая ИИ и автономию. В рамках Конвенции о запрещении или ограничении применения некоторых видов обычного оружия (КНО) совещания Группы правительственных экспертов по летальным автономным системам вооружений продолжались в 2020 и 2021 годах. В ноябре 2023 года государства-участники КНО договорились провести в течение 2024 и 2025 годов 20 совещаний для «рассмотрения и формулирования элементов юридически обязывающего документа по согласованию».

Китай придерживается политики стратегической неопределенности в отношении автономных систем вооружений. В 2016 году на Конвенции ООН о запрещении или ограничении применения некоторых видов обычного оружия (UN-CCW) Китай выступал за запрет автономных систем вооружений, но в 2017 году объявил о планах развития ИИ, продвигая разработку автономных систем вооружений. В целом, Китай занимает позицию ограничения применения полностью автономного оружия, но также стремится обеспечить военное превосходство за счет его разработки, для чего реализует стратегию гражданско-военной интеграции.

Тем временем, в международном сообществе растет призыв к переговорам по новому международному договору, регулирующему летальные автономные системы вооружений. Неправительственные организации, включая Human Rights Watch, настаивают на начале переговоров по разработке юридически обязывающего международного договора, используя резолюцию Генеральной Ассамблеи ООН как отправную точку. Эти тенденции свидетельствуют о растущей обеспокоенности международного сообщества по поводу летальных автономных систем вооружений и активизации дискуссий по их регулированию.

Среди этих усилий по регулированию существует несколько ключевых спорных моментов. Во-первых, это определение автономных систем вооружений. Поскольку сфера применения автономных систем вооружений чрезвычайно широка, а технологическая сложность возрастает, становится все труднее понимать, как работают системы вооружений, как их применять и каковы их потенциальные последствия, что также создает проблемы для обеспечения человеческой ответственности и подотчетности.

Во-вторых, это дискуссия о том, какую форму примет новое регулирование. Консенсус относительно того, как именно будет работать регулирование, кажется далеким. Некоторые страны выступают за разработку правил использования и передачи таких систем, в то время как другие призывают к полному запрету определенных типов систем вооружений. Многие другие страны предпочитают двойной подход, сочетающий запрет и регулирование.

В-третьих, это дискуссия о необходимости нового глобального инструмента. Существует широкое согласие между ООН, Международным комитетом Красного Креста и почти всеми странами, обладающими политической волей к регулированию автономных систем вооружений, относительно того, что международное гуманитарное право и международное право прав человека применяются к разработке и использованию этих систем. Однако остается спорным вопрос, достаточно ли существующего международного права или требуются новые, специфичные для технологий правила для эффективного контроля.

В-четвертых, это дискуссия о том, какой форум использовать. До сих пор межгосударственные дебаты по автономным системам вооружений были сосредоточены в рамках Конвенции о запрещении или ограничении применения некоторых видов обычного оружия, и правительства впервые созвали совещание по теме полностью автономных систем вооружений в 2013 году. В 2017 году в рамках КНО была создана Группа правительственных экспертов по летальным автономным системам вооружений, задачей которой было содействие общему пониманию этого вопроса. Однако эта группа лишь согласовала дополнительные аспекты для рассмотрения проблемы, не дойдя до обсуждения правовых или регуляторных вариантов, и не добилась существенного прогресса в выполнении призыва Генерального секретаря ООН к международному регулированию. Недавние региональные совещания по автономным системам вооружений призвали страны рассмотреть возможность продвижения дискуссий о регулировании через другие форумы, такие как Генеральная Ассамблея ООН. Идея о том, что международные договоры и соглашения могут быть достигнуты при широкой, хотя и не единогласной, поддержке, является фактором, который позволил добиться прогресса в других областях, таких как принятие Договора о торговле оружием.

Хотя в ближайшие месяцы странам предстоит решить множество сложных вопросов, цель Генерального секретаря ООН — достичь консенсуса по международному регулированию автономных систем вооружений к 2026 году — устанавливает срок, к которому мы должны стремиться. Резолюция Генеральной Ассамблеи ООН по летальным автономным системам вооружений предписывает Генеральному секретарю подготовить к концу этого года доклад, отражающий различные мнения стран, международных и региональных организаций, МККК, гражданского общества, научного сообщества и промышленности.

Еще одним ключевым аспектом будущих дискуссий является значимое участие незападных стран и гражданского общества. Организации гражданского общества сыграли важную роль в продвижении международных дискуссий по регулированию военного ИИ и автономных систем вооружений, передавая озабоченность граждан всего мира и развивая глубокое понимание рисков, которые технологическое развитие может представлять для всего человечества (Linney and Tang 2024).

Если в будущем регулирование автономных систем вооружений станет реальностью, возникнет множество вопросов. Как уже упоминалось, проблемы могут возникнуть не только с самим определением автономных систем вооружений и рамками регулирования, но и с проблемой неравенства между великими державами и малыми странами, окружающего разработку автономных систем вооружений. Сравнивая с Договором о нераспространении ядерного оружия (ДНЯО), система, допускающая владение ядерным оружием лишь несколькими странами и запрещающая другим его приобретение, подвергалась критике как по своей сути неравноправная. Аналогично, режим регулирования автономных систем вооружений может привести к тому, что некоторые страны будут владеть автономными системами вооружений, а другим будет запрещено их приобретать, что приведет к другой форме неравноправной международной системы.

Еще одна причина сложности режима регулирования автономных систем вооружений заключается в трудности верификации и принуждения. Автономные системы вооружений основаны на программном обеспечении и могут иметь двойное назначение, что делает их разработку очень трудной для обнаружения или регулирования. Скорость технологического развития может превзойти усилия по регулированию, и страны могут отказаться от согласия на регулирование из опасения потерять технологическое превосходство. В частности, ИИ является универсальной технологией, разрабатываемой для различных коммерческих и гражданских интересов и выгод, что делает его регулирование очень трудным. Учитывая, что разработчиками являются не только правительства, но и многие компании, работающие в сфере высоких технологий, их мнение также неизбежно будет учитываться. В конечном итоге, международное сообщество должно учитывать совокупные позиции различных заинтересованных сторон и, усвоив уроки неравенства в системе нераспространения ядерного оружия, столкнется с трудностью создания всеобъемлющей, равноправной и прозрачной системы для автономных систем вооружений.

V. Конкуренция великих держав и будущее автономных систем вооружений

Среди ученых, промышленных экспертов и представителей Министерства обороны нет существенных разногласий по поводу того, что США будут иметь полностью автономное летальное оружие в ближайшие годы. В случае США представители Министерства обороны утверждают, что контроль всегда будет оставаться за человеком, но эксперты говорят, что скорость обработки данных и развитие коммуникаций между машинами в конечном итоге вытеснят людей на роль надзора. Это особенно верно в случае массового развертывания летального оружия, такого как рои дронов. Неясно, оценивает ли Министерство обороны США в настоящее время автономные системы вооружений для развертывания по официальным каналам в соответствии с директивой 2012 года и пересмотренной директивой. Ситуация с другими странами, помимо США, представляется еще более проблематичной из-за еще большей неопределенности в отношении четких руководящих принципов.

Учитывая эти моменты, можно предположить, что конкуренция великих держав вокруг автономных систем вооружений будет только усиливаться, а будущее их регулирования представляется трудным. Во-первых, автономные системы вооружений вызывают проблемы из-за их опасно опасно непредсказуемого поведения. Сложное взаимодействие между алгоритмами машинного обучения и динамичной операционной средой делает чрезвычайно трудным прогнозирование поведения таких вооружений в реальных ситуациях. Эти системы вооружений по своей сути спроектированы так, чтобы быть непредсказуемыми, поскольку они запрограммированы действовать непредсказуемо, чтобы опередить системы противника.

Во-вторых, автономные системы вооружений создают риск непреднамеренного и быстрого разрастания конфликтов из-за их оперативной скорости и масштаба. Недавнее исследование Института Ланда пришло к выводуду, что «скорость автономных систем привела к непреднамеренному разрастанию конфликта в военных играх» и что «широкое применение ИИ и автономных систем может привести к непреднамеренному разрастанию конфликтов и нестабильности кризисов». Институт Организации Объединенных Наций по исследованию проблем разоружения (UNIDIR) согласился с выводами Института Ланда. Национальная комиссия по искусственному интеллекту в вопросах национальной безопасности (NSCAI), американское полугосударственное учреждение, также признала, что «непреднамеренное разрастание конфликтов может возникнуть, когда системы, управляемые ИИ, не работают так, как предполагалось на поле боя, или из-за сложного и непроверенного взаимодействия между ИИ и автономными системами». Было отмечено, что «системы ИИ, вероятно, увеличат скорость и автоматизацию войны в целом, сокращая время и пространство для смягчения конфликтов».

В-третьих, благодаря легкости приобретения определенных видов оружия, так называемые «роботы-убийцы» (Slaughterbots) очень дешевы в массовом производстве, поскольку не требуют дорогих или труднодоступных материалов. Они обладают характеристиками безопасной транспортировки и трудности обнаружения. Как только крупные военные державы начнут производить такие системы вооружений, они быстро распространятся. В конечном итоге это оружие может появиться на черном рынке и попасть в руки террористов, диктаторов или военных полевых командиров, которые могут использовать его для совершения этнических чисток или массовых убийств. Фактически, Национальная комиссия по искусственному интеллекту США определила снижение риска распространения как основную задачу для снижения стратегических рисков ИИ в военном деле.

В-четвертых, традиционно война сдерживалась высокой стоимостью производства обычных вооружений и человеческими потерями, что, в свою очередь, способствовало дипломатии. Однако появление недорогого и масштабируемого оружия может ослабить эти сдерживающие факторы. Риск быстрого и непреднамеренного разрастания конфликтов в сочетании с распространением автономного оружия может оказать такое же влияние на снижение порога для начала войны.

В-пятых, автономные системы вооружений легко масштабируются и распространяются. Это означает, что ущерб, причиненный автономным оружием, зависит не от количества людей, управляющих им, а только от количества «роботов-убийц». Это резко контрастирует с обычными вооружениями. Крупные военные державы не могут нанести двойной ущерб, просто удвоив количество закупленных винтовок, поскольку им пришлось бы удвоить количество солдат, которые будут их использовать. Однако рой «роботов-убийц», большой или маленький, может быть активирован всего одним человеком, а составляющие его «роботы-убийцы» будут стрелять сами.

Сочетание угрозы масштабируемости и распространения создает угрозу массового уничтожения. Особенностью оружия массового уничтожения является то, что оно может привести к гибели большого числа людей от рук одного человека; с использованием автономного оружия один человек теоретически может активировать рой из сотен или тысяч «роботов-убийц». Распространение увеличивает вероятность того, что такое большое количество оружия попадет в руки тех, кто хочет вызвать хаос, а масштабируемость умножает силу этого человека. Из-за этих соображений некоторые классифицируют определенные типы автономных систем вооружений, а именно роботов, как оружие массового уничтожения.

В-шестых, возможность избирательного убийства людей на основе только сенсорных данных, особенно с помощью распознавания лиц или другой биометрической информации, значительно увеличивает риск целенаправленного нападения на определенные группы по признаку возраста, пола, расы, этнической принадлежности или религиозной одежды. В сочетании с риском распространения автономное оружие может значительно увеличить насилие против определенных слоев населения, вплоть до этнических чисток и геноцида. Кроме того, программное обеспечение для распознавания лиц, как было показано, усиливает предвзятость и увеличивает частоту ошибок при правильной идентификации меньшинств, особенно женщин или цветных людей. Непропорциональное воздействие автономных систем вооружений на расу и пол является серьезной проблемой для гражданского общества.

Эти угрозы особенно актуальны в свете растущего использования распознавания лиц в полицейской деятельности и для этнической дискриминации. Некоторые компании ссылаются на свой интерес к разработке летальных систем, поскольку они не подписывают обязательство против оружейной милитаризации программного обеспечения для распознавания лиц.

В-седьмых, предотвращение гонки вооружений в области ИИ является основным принципом этичного искусственного интеллекта, но, учитывая отсутствие глобальных скоординированных усилий по подчеркиванию опасностей автономных систем вооружений и созданию политического давления, гонка вооружений в области ИИ уже началась (Autonomous Weapons 2024).

Конкуренция в области автономных систем вооружений будет продолжаться в будущем, и усилия международного сообщества и гражданского общества по их контролю столкнутся с трудностями. ВМС США уже завершили демонстрацию в октябре 2023 года, в ходе которой беспилотный катер успешно поразил имитационный вражеский объект с использованием боевых ракет. Пентагон, по-видимому, реализует более 800 проектов в области военного ИИ, включая программы «Loyal Wingman» и роевые дроны, такие как воздушные дроны V-BAT. Китай разрабатывает автономные системы вооружений на основе своей доктрины военно-гражданского слияния. По состоянию на 2022 год были подтверждены свидетельства того, что в Китае полностью автономный рой из 10 дронов прошел через лес. В ответ ВМС Австралии также разрабатывают автономные подводные лодки с ИИ под названием «Ghost Sharks».

Более того, нет уверенности в контроле над автономными системами вооружений в сочетании с ИИ. Например, в июне 2023 года полковник ВВС США Такер Хэмилтон, отвечавший за испытания и эксплуатацию ИИ, описал симуляционный тест, в котором дрон, управляемый ИИ, был обучен уничтожать вражеские системы ПВО. Дрон был обучен получать «очки» за каждое уничтоженное им средство поражения. Однако, когда оператор-человек приказал не уничтожать цель, дрон фактически «устранил» оператора, уничтожив коммуникационную вышку, использованную для его управления. Полковник Хэмилтон утверждал, что в этом симуляционном тесте никто не пострадал, и впоследствии полностью отказался от своих заявлений. Представитель ВВС США отрицал, что этот симуляционный тест вообще имел место. Хотя точные детали остаются неясными, это можно рассматривать как пример того, как безрассудное использование ИИ может привести к непреднамеренным катастрофическим последствиям (Tripathi 2024).

В долгосрочной перспективе развитие автономных систем вооружений, как ожидается, приведет к значительным изменениям в характере войны и конкуренции в военной стратегии. Хотя они автоматизируют и ускоряют боевые действия, а также снижают боевые риски за счет минимизации или исключения человеческого вмешательства, потенциал ошибок в суждениях и сбоев может усилить напряженность между странами. В частности, в контексте стратегической конкуренции между США и Китаем, Китай стремится получить военное превосходство путем интеграции ИИ и новых технологий, в то время как США, стремясь к победе в конкуренции, могут спровоцировать гонку вооружений, угрожая стратегической стабильности. Технологическая конкуренция между двумя странами обостряется, оказывая значительное влияние на баланс сил, и эти изменения также связаны с этическими и правовыми проблемами международного сообщества.

VI. Появление и эволюция когнитивной войны

1. Определение когнитивной войны

Наряду с автономными системами вооружений, когнитивная война станет важной областью, характеризующей будущие войны в эпоху ИИ. Когнитивная война — это стратегия, направленная на изменение образа мышления цели и, следовательно, ее поведения. Она направлена на использование общественного мнения враждебными субъектами из-за рубежа для (1) влияния на государственную и правительственную политику и (2) дестабилизации государственных учреждений. Когнитивная война является недавним развитием, выросшим из предыдущих форм агрессии, таких как психологические операции (PSYOP) и информационная война, появившиеся после Первой мировой войны в 1920-х годах. Когнитивная война все больше полагается на новые коммуникационные и информационные технологии, особенно на ИИ. Основная характеристика когнитивной войны заключается в том, что она нацелена на все население. Например, в отличие от предыдущих тактик, которые были нацелены только на армию во время войны. Когнитивная война не ограничивается предоставлением ложной информации по конкретному вопросу, а фокусируется на изменении образа мышления противника, чтобы вызвать изменение поведения, а не просто на изменении его поведения.

Когнитивная война становится все более изощренной благодаря развитию когнитивных наук и нейронаук. Обсуждается возможность использования методов психологического манипулирования, а также нейрофизиологических методов, таких как транскраниальная стимуляция постоянным током (TDCS). Когнитивная война направлена на дестабилизацию государственных учреждений, таких как правительства, но часто стремится достичь своей цели косвенно, сначала дестабилизируя информационные и связанные со знаниями учреждения, такие как новостные СМИ и университеты. Важно отметить, что когнитивная война может использовать новые каналы массовой коммуникации, такие как социальные сети, на которые все больше полагаются люди (Miller 2023, 46).

Когнитивная война — это угроза, которая по своей сути стала возможной благодаря повсеместному присутствию машин и больших данных. Интернет не только обеспечивает быструю передачу информации по всему миру с использованием персональных компьютеров и смартфонов, но и все больше связывает людей и машины, особенно с недавним бумом Интернета вещей (IoT) и технологий 5G. Это создает еще больше возможностей для эксплуатации и манипулирования (Firth et al. 2019, 119-129).

2. Отличие когнитивной войны от информационной войны, кибервойны и т. д.

Когнитивная война представляет собой новый вид конфликта, который размывает границы между войной и миром. Это не открытая война на поле боя, а скрытая война, направленная на влияние на когнитивные механизмы противника или конкурента, особенно на его процесс принятия решений. НАТО определяет информационную войну как «операции, проводимые для получения информационного превосходства над противником». Информационная война фокусируется на самой информации, манипулировании информацией, потоках информации, методах ее защиты или захвата, а также на способах ее использования. Когнитивная война, с другой стороны, описывается как «атака на то, как мы думаем, обрабатываем информацию и преобразуем ее в знания». Другими словами, когнитивная война — это «борьба за контроль или изменение того, как люди реагируют на информацию». Если информационная война связана с процессом построения знаний, то когнитивная война влияет не только на тактическую боевую информацию, но и на информацию для широкой общественности (Morelle et al. 2023).

Когнитивная война отличается от кибервойны, предвоенных киберконфликтов, кибертерроризма, киберпреступности, кибершпионажа и скрытых операций, называемых скрытой когнитивной войной. Эти различные формы агрессивных действий могут привести к следующим видам ущерба. Во-первых, физический или психологический ущерб людям. Психологический ущерб здесь включает обманные или манипулятивные действия, направленные на внушение ложных убеждений или необоснованных эмоциональных установок с целью ослабления человеческой автономии. Во-вторых, ущерб зданиям, оборудованию информационных и коммуникационных технологий и другим творениям человека (а также природной среде, поддерживающей человеческую жизнь). В-третьих, киберущерб, такой как повреждение программного обеспечения и данных. В-четвертых, институциональный ущерб или повреждение, которое подрывает процессы и цели определенных учреждений. Например, значительная утечка конфиденциальной информации из органов безопасности или потеря институционального контроля над территорией. Подрыв определенных институциональных процессов и целей может быть направлен на ослабление самого учреждения, и особенно когда целью являются убеждения и установки институциональных акторов или тех, кому они служат. Например, снижение доверия к избирательной системе, произошедшее на всеобщих выборах в США в 2020 году, может рассматриваться как пример этого. Основное внимание когнитивной войны уделяется первому типу ущерба, особенно психологическому ущербу, и четвертому типу ущерба, то есть институциональному ущербу или повреждению (Miller 2023, 46).

Источник: Hung, Tzu-Chieh, and Tzu-Wei Hung. “How China’s Cognitive Warfare Works: A Frontline Perspective of Taiwan’s Anti- Disinformation Wars.” Journal of Global Security Studies 7, 4: 3.

VII. Появление и эволюция когнитивной войны

Внедрение ИИ коренным образом меняет способы ведения когнитивной войны. Развитие технологий ИИ позволяет создавать более изощренные и эффективные стратегии в когнитивной сфере, и эти изменения сопровождаются различными проблемами безопасности. ИИ, обладая способностью имитировать или заменять когнитивные процессы человека, может использоваться таким образом, чтобы глубоко влиять на мышление и поведение человека. Это переопределяет природу когнитивной войны и создает угрозу иного порядка, чем традиционные психологические операции.

Во-первых, ИИ может создавать очень убедительный поддельный контент с помощью технологии дипфейков (deepfake). Это может проявляться в виде изображений, видео или аудиозаписей, создающих поддельную информацию на уровне, неотличимом от реальности. Эти дипфейки могут использоваться для распространения ложной информации, манипулирования общественным мнением и даже для шантажа отдельных лиц. В результате эти технологии могут эффективно использоваться враждебными силами в когнитивной войне для разрушения психологической стабильности противника.

Во-вторых, ИИ может быстро распространять ложную и дезинформацию. Алгоритмы ИИ обладают способностью усиливать определенные сообщения и широко распространять их через социальные сети. Это может привести к искажению политических процессов, созданию социальной нестабильности и подрыву доверия к учреждениям. В частности, эта информационная манипуляция может служить мощным инструментом для направления общественного мнения в желаемое враждебными силами русло, затуманивая восприятие и суждения общественности.

В-третьих, системы ИИ могут обучаться на предвзятости, присущей данным, и увековечивать ее. Это имеет потенциал усугубить социальное неравенство и усилить дискриминацию в отношении определенных групп. В когнитивной войне эти предвзятые системы ИИ могут использоваться для нацеливания на определенные группы населения и манипулирования их поведением и убеждениями.

В-четвертых, технологии ИИ могут привести к нарушению конфиденциальности. Такие технологии, как распознавание лиц, обработка естественного языка и интеллектуальный анализ данных, предоставляют возможность отслеживать местоположение, модели поведения и даже мысли отдельных лиц. Это может быть использовано в качестве инструмента для ограничения когнитивной свободы отдельных лиц или групп посредством наблюдения и контроля.

В-пятых, ИИ позволяет злоумышленникам легко осуществлять психологические манипуляции, нацеленные на конкретных лиц или группы, предоставляя персонализированный контент. Такой персонализированный подход может привести к экстремистским идеям или поведению, что может вызвать социальный раскол.

В-шестых, ИИ позволяет осуществлять автоматизированные кибератаки. Например, ИИ может создавать фишинговые электронные письма, которые трудно обнаружить, или предоставлять инструменты для автоматического обнаружения и использования уязвимостей в программном обеспечении. Такие автоматизированные атаки могут использоваться в когнитивной войне для разрушения или создания хаоса в информационной инфраструктуре противника.

В-седьмых, системы ИИ уязвимы для враждебных атак. Злоумышленники могут тщательно манипулировать входными данными системы ИИ, чтобы вызвать ошибочные прогнозы или классификации. Это может подорвать целостность системы и, таким образом, использоваться как средство искажения или сокрытия важной информации в когнитивной войне.

Наконец, существует риск снижения критического мышления и автономии человека по мере того, как ИИ играет все более важную роль в когнитивной войне. Чрезмерная зависимость от ИИ снижает способность отдельных лиц и организаций адаптироваться, когда системы ИИ терпят неудачу или становятся недоступными, что в конечном итоге может ослабить человеческое лидерство в когнитивной войне (Huang et al. 2023).

VIII. Вред когнитивных манипуляций

Вред от когнитивных манипуляций уже в полной мере ощущается во внутренней политике. Политическая дезинформация и язык вражды приводят к социальному расколу и экстремизму. Это не только подрывает доверие между отдельными лицами и группами, но и наносит ущерб демократическим процессам и социальной стабильности. Дезинформация распространяет ложные факты, искажает восприятие людей и может использоваться для достижения определенных политических целей. Дезинформация затрагивает эмоционально чувствительные темы, вызывая сильные реакции у людей и тем самым усиливая социальные конфликты.

Язык вражды нацелен на определенные группы, атакуя их идентичность и подрывая социальную сплоченность. Это создает атмосферу исключения или враждебности по отношению к определенным группам в обществе, что в конечном итоге усугубляет социальный раскол (Vasist et al. 2023).

Когнитивная война, проводимая враждебными силами на международном уровне, представляет собой форму конфликта в киберпространстве, в которой организованные группы участвуют в постоянных программах использования дезинформации, пропаганды и манипулятивных технологий для контроля над онлайн-дискурсом и дискредитации политических оппонентов. Это включает не только разрушение репутации противника с помощью необоснованных утверждений, но и таргетирование уязвимых групп на основе профилей для подрыва политических институтов. Это может потенциально привести к широкомасштабным насильственным восстаниям и краху существующего политического порядка.

ИИ обладает потенциалом революционизировать способы ведения когнитивной войны, делая возможными более изощренные и эффективные стратегии. ИИ — это область компьютерных наук, которая фокусируется на разработке интеллектуальных машин, способных выполнять задачи, обычно требующие человеческого интеллекта. ИИ демонстрирует впечатляющие возможности в различных областях, таких как компьютерное зрение, машинное обучение, здравоохранение, робототехника и автономные системы. Изменения, которые ИИ вносит в когнитивную войну, значительны и обширны. Манипулирование эмоциями, распространение дезинформации и использование психологических тактик для влияния на убеждения и поведение людей могут иметь негативные последствия для отдельных лиц, общества и демократических процессов (Sârbu and Gavrilaș 2023).

Одной из причин сложности предотвращения вреда от когнитивной войны является «проблема атрибуции ответственности». В отличие от традиционной войны, где большинство атак, или преступлений, таких как традиционные нападения или кражи, имеют четко определенного виновника, существует большая проблема с надежным приписыванием ответственности в отношении когнитивной войны. Когда государство ведет когнитивную войну против другого государства, возникает проблема атрибуции ответственности, и, как следствие, возникает вопрос о правдоподобности отрицания. Поскольку свободные демократии, подвергающиеся атакам, обычно ценят свободу общения, когнитивная война становится очень полезной стратегией для авторитарных государств, которые стремятся ослабить свободные демократии, избегая при этом полномасштабной войны (Miller 2023, 46).

IX. Когнитивная стратегия Китая

1. Система когнитивной войны Китая

Китай рассматривает когнитивную войну как новую форму операций, которая стала еще одной новой областью противостояния, следующей за противостоянием вооруженных сил, огневой мощью и информацией. В отличие от физической или информационной сферы, целью операций в когнитивной сфере являются мышление, идеология и т. д., поэтому она имеет четкие внутренние потребности, отличающиеся от других форм операций.

Когнитивная война рассматривает захват высот ценностей как предварительное условие победы. Для обеспечения доминирования в когнитивной сфере необходимо тщательно изучать ценностные ориентации противника, получать доступ к языковым группам его культуры, четко понимать его политические убеждения и интересы, чтобы эффективность когнитивных операций достигала самой сути его системы убеждений и его души. В то же время важно научно объяснять и распространять содержание и суть собственных превосходных ценностей, чтобы 전환 (преобразовать) противника к превосходным ценностям и превосходным достижениям человеческой цивилизации. В конечном счете, Китай рассматривает когнитивную сферу мозга как основное поле битвы. По сравнению с «войной на истощение», ориентированной на уничтожение основных сил противника, или «маневренной войной», ориентированной на разрушение системы противника, операции в когнитивной сфере используют человеческий мозг как основное боевое пространство для нанесения удара, ослабления и подрыва воли противника к войне, используя человеческие психологические слабости, такие как страх, беспокойство и сомнение, в качестве прорыва, полагаясь на средства «мягкого поражения» для создания атмосферы беспокойства, неопределенности и недоверия внутри противника, увеличения внутренних конфликтов и истощения, а также для достижения цели «победы без войны», ставя под сомнение принятие решений.

Ожидается, что в будущем, с быстрым развитием милитаризации ИИ, превосходство в интеллекте станет ключевым фактором победы в войне с использованием ИИ, системы вооружений на базе ИИ станут основной боевой силой, а обеспечение «интеллектуального права» станет новым завоеванием в войне. Ожидается, что с помощью когнитивного оборудования можно будет помешать противнику получить эффективную информацию, заставить его использовать ложную информацию, замедлить когнитивную скорость, направить когнитивный режим и заблокировать когнитивный вывод, тем самым вызывая хаос в принятии решений противника, подрывая моральный дух армии и достигая эффекта «психологической атаки».

Китай придает большое значение информационной войне, считая, что контроль и манипулирование различными инструментами общественного мнения для оказания давления на противника и получения общественного признания являются важными. Он считает, что необходимо использовать социальные сети и технологии конвергентных медиа для преодоления блокад и ограничений противника и прямого доступа к целевой аудитории.

В будущем когнитивные науки, как новая область исследований, являются передовой дисциплиной, изучающей механизмы работы человеческого мозга или разума, а технологии интерфейса мозг-компьютер реализуют интеграцию человека и машины на когнитивном уровне, позволяя внешне контролировать сознание, то есть управлять мозгом, и внутренне усиливать автономию, то есть создавать сильный мозг, что позволяет напрямую управлять сложными системами вооружений с помощью сознания и мышления. В настоящее время достигнут значительный прорыв в соответствующих технологических средствах многомодального распознавания эмоций, активации и защиты на основе больших данных, и считается, что сбор выражений лиц, движений, речи и тона, мозговых волн, различных физиологических показателей и т. д. для построения ассоциаций эмоций и, таким образом, распознавания человеческих эмоций и намерений предоставляет новые средства для проведения операций когнитивного контроля. Поэтому утверждается, что новые когнитивные технологические средства и традиционные когнитивные технологические средства должны формировать метод, сочетающий сверхкритическое вливание и подкритическое проникновение, чтобы еще больше повысить скрытность и эффективность когнитивного воздействия (Zhang et al. 2022).

Кроме того, Академия военных наук Китая (AMS) опубликовала работу под названием «Суть операций в когнитивной сфере», в которой анализируются восемь оперативных характеристик для достижения успеха в когнитивной сфере. Эта работа дает представление о том, как технологии, информационное превосходство, а также военные и гражданские компоненты играют роль в борьбе за доминирующее положение в когнитивной сфере. Это источник, дающий представление о стратегическом мышлении Народно-освободительной армии Китая (Baughman 2023; Jamestown Foundation 2022).

Восемь элементов когнитивной войны, как их понимает Китай, следующие. Во-первых, важно преобразовать военное превосходство в политическую победу. Когнитивная сфера выходит за рамки простой военной победы и стремится в конечном итоге к политическим результатам. Во-вторых, необходимо изменить восприятие противника, чтобы контролировать его решения и действия. Это делается для того, чтобы противник неправильно оценил ситуацию и принял неверные решения. В-третьих, все правительство должно участвовать в нападении и обороне. Когнитивная война является всесторонней, ведется в течение всего времени, и все сектора правительства должны быть скоординированы для достижения эффекта. В-четвертых, необходимо обеспечить «три власти». Важно захватить три власти: определение событий, контроль над процессами и оценку результатов, чтобы направлять общественное восприятие. В-пятых, необходимо бороться за превосходство в морали и законе, чтобы получить поддержку общественности. Это может ослабить моральную и юридическую легитимность противника. В-шестых, информация должна использоваться как «боеприпасы». Информация должна быстро передаваться через такие платформы, как социальные сети, подавляя нарративы противника и распространяя свои собственные. В-седьмых, военные операции и когнитивные нарративы должны идти рука об руку, чтобы обеспечить победу в войне. Наряду с военной победой, когнитивные нарративы играют важную роль в определении исхода войны. Наконец, инструменты когнитивной войны должны непосредственно использоваться в войне. Цель состоит в том, чтобы использовать новые технологии, такие как искусственный интеллект и биотехнологии, для прямого воздействия на когнитивные способности противника и достижения желаемых результатов.

2. Текущая ситуация в информационной войне Китая против Тайваня

Обсуждается, что когнитивная война Китая против Тайваня ведется четырьмя основными способами. Во-первых, путем оказания психологического давления на вопрос объединения Тайваня посредством военной угрозы. Китай предсказывает решительный военный ответ на любые движения, стремящиеся к независимости Тайваня, и таким образом пытается подавить волю тайваньского народа к поддержке независимости. Эти военные угрозы внушают тайваньскому народу идею о том, что независимость означает войну, и на самом деле многие тайваньцы воспринимают эти угрозы как реальность. Например, к концу 2020 года 61,8% тайваньцев верили, что Китай нападет, если Тайвань объявит независимость.

Во-вторых, расширение влияния через двусторонние обмены. Китай предоставляет тайваньским жителям экономические и социально-культурные выгоды, чтобы повысить их зависимость от Китая, и на этой основе пытается установить больший контроль. Например, Китай предлагает тайваньской молодежи стипендии и рабочие места, пытаясь привлечь их в китайскую систему. Эта деятельность используется как средство распространения позитивного восприятия Китая среди тайваньцев и расширения влияния Китая.

В-третьих, религиозное вмешательство. Китай стремится укрепить культурные и политические связи с Тайванем, используя популярное на Тайване поклонение Мацзу. Китай поощряет культурные обмены между двумя сторонами через культуру Мацзу, пытаясь внушить идею о том, что Тайвань разделяет те же культурные корни, что и Китай. Это религиозное вмешательство способствует укреплению эмоциональных связей с Китаем среди тайваньцев.

В-четвертых, распространение дезинформации и управление фермами контента через Интернет. Китай управляет фермами контента на Тайване для распространения дезинформации и таким образом пытается манипулировать общественным мнением тайваньского народа. Эта дезинформация используется для создания путаницы в отношении конкретных политических ситуаций на Тайване и подрыва доверия к тайваньскому правительству. Например, на местных выборах на Тайване в 2018 году Китай распространял дезинформацию, чтобы подорвать доверие к правящей Демократической прогрессивной партии Тайваня.

Принцип ведения когнитивной войны Китаем заключается в нарушении когнитивной системы противника посредством повторяющейся стимуляции. Это похоже на методы коммерческой рекламы, где повторное воздействие ослабляет психологическое сопротивление противника и постепенно направляет его поведение в желаемое русло. Китай повторяет одно и то же сообщение через традиционные и онлайн-СМИ, а также офлайн-сети, чтобы оказать долгосрочное влияние на когнитивное пространство тайваньского народа.

В случае Тайваня когнитивная война Китая в основном направлена на подавление воли тайваньского народа к независимости и распространение позитивного восприятия объединения с Китаем. Однако эти попытки не всегда успешны. Например, позитивная пропаганда Китая не имела успеха на Тайване, и вместо этого тайваньцы теряют доверие к экономическому процветанию Китая. С другой стороны, негативная пропаганда Китая оказала большее влияние на Тайвань, подорвав доверие к правительству среди тайваньского народа.

Когнитивная война Китая развивается долгосрочно и изощренно. В будущем ожидается, что будет осуществляться точная доставка информации с использованием технологий искусственного интеллекта, что позволит проводить более эффективную когнитивную войну посредством индивидуальной манипуляции информацией, нацеленной на конкретных лиц или группы. В этом контексте важно, чтобы Тайвань минимизировал влияние Китая, подготовившись к когнитивной войне посредством структурных реформ общества и когнитивного вмешательства. Для этого необходимо повысить прозрачность, поддерживать справедливую конкуренцию и создавать оборонительные системы.

В конечном счете, когнитивная война Китая является стратегической деятельностью, направленной на объединение путем оказания политического и психологического давления на Тайвань. Тайвань, в свою очередь, должен укрепить свои способности к когнитивному реагированию и провести структурные реформы общества (Hung and Hung 2020).

3. Восприятие когнитивной войны Китая Соединенными Штатами

Соединенные Штаты считают, что Китай ведет постоянную когнитивную войну против них и критикуют ее, приводя следующие примеры. Во-первых, есть опасения по поводу TikTok. Правительство США обеспокоено тем, что TikTok может быть использован в качестве инструмента когнитивной войны Китая. В США звучали призывы запретить TikTok, если его китайские владельцы не продадут свои доли, ссылаясь на опасения национальной безопасности.

Во-вторых, существуют операции в социальных сетях. США обвинили Китай в ведении когнитивной войны посредством крупномасштабных операций в социальных сетях. Это включает создание поддельных аккаунтов на таких платформах, как Facebook, Instagram, TikTok, X и Substack, для распространения дезинформации.

В-третьих, вмешательство в выборы на Тайване. США раскритиковали Китай за попытки повлиять на выборы на Тайване с помощью тактики когнитивной войны. Это включает попытки манипулировать общественным мнением путем распространения поддельных изображений в социальных сетях и проведения военных учений.

В-четвертых, опасения по поводу сбора данных. Существуют опасения, что Китай собирает большие объемы личных и биометрических данных американских граждан, которые могут быть использованы в целях когнитивной войны.

В-пятых, военные исследования. Правительство США внесло в черный список китайские исследовательские институты и компании, которые изучают «оружие для контроля над мозгом» и другие технологии когнитивной войны.

В-шестых, пропаганда и дезинформация. США обвинили Китай в попытках подорвать американскую и западные страны посредством широкомасштабных пропагандистских кампаний и операций по дезинформации.

В-седьмых, идеологическое влияние. Некоторые американские эксперты рассматривают усилия Китая по распространению своих идеологических концепций и терминов в западном дискурсе как часть когнитивной войны.

Эти обвинения и критика были выдвинуты американскими чиновниками и экспертами, однако Китай часто отрицает эти утверждения или предлагает альтернативные нарративы. Полный масштаб и характер деятельности в сфере когнитивной войны могут быть трудно доказуемыми из-за их скрытного характера.

X. Будущая конкуренция между странами в сфере когнитивной войны

Поскольку новые технологии, такие как искусственный интеллект и нейротехнологии, выступают в качестве ключевых катализаторов когнитивной войны, государства, вероятно, почувствуют необходимость милитаризации этих технологий двойного назначения. Это, в свою очередь, может ускорить гонку вооружений в этой области. Динамика гонки вооружений может привести к игнорированию этических, правовых и нормативных ограничений в разработке и использовании этих технологий. Поскольку государства опасаются отстать, они, вероятно, откажутся от строгих правил, чтобы использовать наиболее разрушительные возможности в вопросах национальной безопасности. В конечном итоге это может нормализовать милитаризацию разума и привести к ситуации, когда безответственные действия в когнитивной сфере будут происходить без ограничений. Эта динамика может препятствовать формированию норм, касающихся ментальной конфиденциальности, манипулирования, влияния, самоопределения и целостности. Поскольку эти технологии становятся основными катализаторами подрывной деятельности и необходимыми инструментами национальной безопасности, тенденция к технологическому разделению между великими державами, которая уже наблюдается, может еще больше ускориться.

Когнитивная война также может оказать общее влияние на баланс между нападением и обороной. Сторонники теории баланса нападения и обороны утверждают, что международная стабильность зависит от того, живем ли мы в среде, где преобладает нападение, или в среде, где преобладает оборона, причем первая способствует нестабильности и конфликтам, а вторая — стабильности и миру. Они также утверждают, что ключевым фактором, влияющим на этот баланс, являются технологии, которые могут склонить баланс в ту или иную сторону. В этом отношении способность вести эффективную когнитивную войну может усилить эскалационное давление и способствовать агрессивному использованию этих возможностей. Действительно, существуют неотъемлемые трудности в обнаружении того, когда происходит когнитивная атака, и в защите от нее. Вероятность того, что в данный момент происходит когнитивная атака, может стимулировать мотив «превентивного удара» при ведении когнитивной войны.

При использовании прокси в войне, особенно технологических, правдоподобное отрицание является основным стимулом. В случае когнитивной войны неопределенный и нерегулируемый характер используемых для ее ведения инструментов и их эффективность могут способствовать этому правдоподобному отрицанию и еще больше поощрять «превентивный удар». Кроме того, по мере демократизации и распространения технологий, позволяющих вести когнитивную войну, она станет еще более дестабилизирующей, поскольку способность влиять на огромное количество людей станет доступной для негосударственных акторов, корпораций и даже отдельных лиц (Rickli et al. 2023).

XI. Меры противодействия когнитивной войне

На Мюнхенской конференции по безопасности 2024 года обсуждение когнитивной войны стало важной темой. Когнитивная война означает современные комплексные тактики, с помощью которых враждебные силы пытаются манипулировать или контролировать восприятие, поведение и решения противника. Эти дискуссии отражают тот факт, что современная война все больше смещается от физических столкновений к информационной и психологической войне.

Обсуждение мер противодействия когнитивной войне в основном сосредоточено на признании угроз, которые она представляет, и разработке стратегий для их устранения. Важными элементами этих дискуссий являются повышение осведомленности граждан, усиление регулирования когнитивной войны и технологий, которые ее обеспечивают, а также использование новых технологий для укрепления демократической устойчивости.

Во-первых, важно повысить осведомленность и понимание когнитивной войны. Поскольку само понятие когнитивной войны еще не имеет четкого определения, крайне важно, чтобы академические круги, промышленность и оборонный сектор сотрудничали для ее конкретного определения и понимания ее механизмов. Кроме того, важно развивать у граждан способность критически оценивать информационную среду и противостоять дезинформации или манипулируемому контенту.

Во-вторых, необходимо разработать нормативно-правовую базу для когнитивной войны и технологий, которые ее обеспечивают. Помимо повышения осведомленности об угрозах когнитивной войны, политики должны создать комплексную нормативно-правовую систему для противодействия этим угрозам. Это требует четкого определения, охватывающего различные формы и тактики когнитивной войны, и обсуждения того, как существующее международное право может быть применено к когнитивной сфере. Кроме того, если существующие правовые рамки неприменимы, необходимо разработать новые правовые рамки для установления ответственности и подотчетности за деятельность в сфере когнитивной войны.

В-третьих, необходимо использовать силу новых технологий для укрепления социальной и демократической устойчивости. Для эффективного противодействия угрозам когнитивной войны необходимо устранить внутренние уязвимости и использовать новые технологии для укрепления демократических процессов. Например, сложные системы искусственного интеллекта могут способствовать эффективному демократическому участию и сотрудничеству посредством анализа общественного мнения, а технологии виртуальной реальности (VR) могут использоваться для тренировки неосознанных предубеждений. Правильное использование этих технологий может повысить социальную устойчивость и укрепить оборону от когнитивной войны.

В-четвертых, необходимо усилить международное сотрудничество. Поскольку когнитивная война выходит за рамки национальных границ, эффективное противодействие ей затруднительно без сотрудничества международного сообщества. Необходимо разработать совместные стратегии противодействия когнитивной войне посредством обмена информацией и сотрудничества между странами. В частности, международные организации, такие как НАТО, могут играть важную роль в разработке стратегий противодействия когнитивной войне и содействии сотрудничеству между государствами-членами.

В-пятых, важно установить и соблюдать этические стандарты. Игнорирование этических стандартов в процессе противодействия когнитивной войне может привести к тому, что само противодействие будет рассматриваться как еще одна форма когнитивной войны. Поэтому необходимо повышать прозрачность информационных операций и действовать таким образом, чтобы уважать конфиденциальность и права человека. Это необходимо для поддержания общественного доверия к противодействию когнитивной войне в долгосрочной перспективе (Pujol et al. 2024; Ibrahim et al. 2023).

В заключение, будущая когнитивная война с использованием искусственного интеллекта будет играть очень важную роль в стратегической конкуренции между великими державами, особенно между США и Китаем, и может привести к ряду катастрофических последствий. Она может вызвать социальную нестабильность и политический хаос посредством манипулирования общественным мнением, вмешательства в выборы и распространения ложной информации. Для минимизации этих рисков необходимо международное сотрудничество и регулирование, а также усиление этических стандартов и мер безопасности для безопасной разработки и использования технологий ИИ. Однако по-прежнему существует множество препятствий для достижения консенсуса на международном уровне, и до тех пор, пока существует политическая выгода на международной арене, споры вокруг когнитивной войны будут продолжаться в течение значительного периода времени. ■

Список литературы

Ю Чунгу. 2019a. «Обсуждение тенденций и проблем систем летального автономного оружия». «Серия исследовательских политик IFANS» 2019-18. Декабрь.

____. 2019b. «Проблемы и выводы в обсуждении создания нормативной базы для систем летального автономного оружия (LAWS)». «Анализ основных международных проблем IFANS» 2019-54. 19 декабря.

Autonomous Weapons. 2024. «Риски автономного оружия». Autonomous Weapons, https://autonomousweapons.org/the-risks/.

Bajak, Frank. 2023. «Инициативы Пентагона в области ИИ ускоряют принятие трудных решений по летальному автономному оружию».Associated Press. 26 ноября. https://apnews.com/...2.

Britt Baughman, Josh. 2023. «Как Китай выигрывает в когнитивной сфере». China Aerospace Studies Institute. 23 января. https://www.airuniversity.af.edu/...domain/.

Beauchamp-Mustafaga, Nathan. 2019. «Операции в когнитивной сфере: новая целостная концепция НОАК по операциям влияния». China Brief 19: 16. https://jamestown.org/....ain

Cameron, Hugh. 2024. «Убийственные роботы Китая на подходе».Newsweek. 26 июня. https://www.newsweek.com/...9.

Dresp-Langley, Birgitta. 2023. «Оружие искусственного интеллекта: о чем общественность должна знать».Frontiers in Artificial Intelligence 6. https://doi.org/10.3389/frai.2023.1154184.

Firth, Joseph, John Torous, Brendon Stubbs, Ivan P. Ipser, P. Murali Doraiswamy, and Felipe Schuch. 2019. «Онлайн-мозг»: как Интернет может изменять нашу когнитивную деятельность». World Psychiatry 18, 2: 119–129.

Hale, Amber. 2023. «Теория войны Клаузевица в эпоху когнитивной войны».The Defence Horizon Journal. https://tdhj.org/...warfare/.

Huang, Ruiyang, Xiaoqing Zheng, Yuting Shang, and Xiangyang Xue. 2023. «О проблемах, связанных с ИИ, для когнитивной безопасности и защиты». Security and Safety 2. https://doi.org/10.1051/sands/2023012.

Hung, Tzu-Chieh, and Tzu-Wei Hung. 2020. «Как работает когнитивная война Китая: взгляд с передовой Тайваньских войн против дезинформации». Journal of Global Security Studies 7, 4: 1–18.

Human Rights Watch. 2023. «Обзор политики США 2023 года в отношении автономии в системах вооружений». Human Rights Watch. 14 февраля. https://www.hrw.org/...systerns.

Ibrahim, Fabio, Steffen Rhode, and Monika Daseking. 2023. "A systernatic Review of Cognitive and Psychological Warfare." The Defence Horizon Journal, 1 декабря. https://tdhj.org/...warfare.

Johnson, James. 2023. AI and the Bomb: Nuclear Strategy and Risk in the Digital Age. Oxford: Oxford University Press.

Kallenborn, Zachary. 2021. “Meet the Future Weapon of Mass Destruction, the Drone Swarm.” Bulletin of the Atomic Scientists. 5 апреля. https://thebulletin.org/...swarm/.

Lamberth, Catherine A. 2023. “Decoding the Defense Department’s Updated Directive on Autonomous Weapons.” Lawfare. 17 августа. https://www.lawfaremedia.org/...weapons.

Linney, Charlie, and Xiaomin Tang. 2024. “AI and Autonomous Weapons systerns: The Time for Action Is Now.” Saferworld. 15 мая. https://www.saferworld.org.uk/...now.

Miller, Seumas. 2023. "Cognitive Warfare: An Ethical Analysis." Ethics and Information Technology 25: 46. https://doi.org/10.1007/s10676-023-09717-7.

Morelle, Marie, Julien Cegarra, Damien Marion, and Jean-Marc André. 2023. "Towards a Definition of Cognitive Warfare." Paper presented at the Conference on Artificial Intelligence for Defense, DGA Maîtrise de l’Information. https://hal.science/...1.

Pujol Chica, Irene, and Quynh Dinh Da Xuan. 2024. "The Battle for the Mind: Understanding and Addressing Cognitive Warfare and Its Enabling Technologies." IE Center for the Governance of Change. https://coilink.org/20.500.12592/zs7hb9h.

Rickli, Jean-Marc, Federico Mantellassi, and Gwyn Glasser. 2023. Peace of Mind: Cognitive Warfare and the Governance of Subversion in the 21st Century. GCSP Policy Brief No. 9, Geneva Centre for Security Policy. https://www.gcsp.ch/...century.

Sârbu, Annamaria, and Anca Gavrilaș. 2023. "Using Artificial Intelligence Tools for Obtaining Cognitive Warfare Advantages." The Defence Horizon Journal. 23 октября. https://tdhj.org/...twitter/.

Tripathi, Prateek. 2024. “When AI Crosses the Line: The Impending Threat of Autonomous Weapons systerns.” Observer Research Foundation. 6 мая. https://www.orfonline.org/...systerns.

U.S. Department of Defense. 2023. “Deputy Secretary of Defense Kathleen Hicks Keynote Address: ‘The Urgency to Innovate’ (As Delivered).” 28 августа. https://www.defense.gov/...innov/.

Vasist, Pramukh Nanjundaswamy, Debashis Chatterjee, and Satish Krishnan. 2023. "The Polarizing Impact of Political Disinformation and Hate Speech: A Cross-country Configural Narrative." Information systerns Frontiers, 1–26.

Zhang, Guangshen, Yongli Li, Haoxian Wang. 2022. “A Brief Analysis of the Basics of Cognitive Domain Operations [浅析认知域作战的基本要义].” PLA Daily. 8 сентября. http://www.81.cn/...323692.htm.

[1] Краткое изложение и дополнение содержания, представленного во введении.

■ Чон Джэсон, Директор Центра исследований национальной безопасности EAI. Профессор кафедры международных отношений Университета Сунгкюнкван.

■ Ответственный за выпуск и редактирование:Пак Чжису, Исследователь EAI

    Вопросы и редактирование: 02 2277 1683 (доб. 208) | jspark@eai.or.kr