Министерство государственной безопасности Китая публично предупреждает о рисках ИИ и последствиях для американо-китайского соперничества в области безопасности ИИ

Краткое содержание

Заявления об угрозах ИИ, сделанные министром государственной безопасности Чэнь Исинем, прозвучали в преддверии американо-китайского саммита 24 сентября. На внешнем уровне Китай отвергает призывы во главе с США замедлить развитие ИИ, рассматривая их как тактику в гегемонистском соперничестве. В то же время Министерство государственной безопасности конкретно определило модели от компаний «ОпенЭйАй» и «Антропик» как угрозы политической, идеологической и кибербезопасности. Это выявляет двойственную структуру, в которой внешняя риторика и внутреннее восприятие угроз развиваются по отдельным направлениям. Вместо того чтобы полностью присоединяться к американо-китайскому дискурсивному соперничеству, Южной Корее следует уделить первоочередное внимание созданию собственного оборонного потенциала и каналов обмена информацией для противодействия возникающей угрозе безопасности, связанной со злоупотреблением ИИ при поддержке государства.

I. Анализ текущей ситуации

Министерство государственной безопасности Китая публично предупреждает о рисках ИИ: анализ ситуации

1. Предыстория и развитие событий

Заявления министра государственной безопасности Чэнь Исиня прозвучали в преддверии американо-китайского саммита [1]. Безопасность ИИ стала ключевым пунктом повестки дня вашингтонского саммита, запланированного на 24 сентября [1]. Министерство государственной безопасности является главным разведывательным ведомством Китая, выполняющим двойные функции: службы внешней разведки и органа по надзору за инакомыслящими внутри страны. Публичное упоминание угроз ИИ главой этого ведомства считается наиболее конкретным на сегодняшний день выражением обеспокоенности Пекина в сфере безопасности [4].

Время для этих заявлений было выбрано не случайно. 12 сентября генеральный директор компании «Антропик» Дарио Амодей опубликовал статью, призывающую к замедлению развития ИИ, и этот призыв был подхвачен «ОпенЭйАй» и несколькими американскими политиками [14]. Амодей предупредил, что рои автономных агентов ИИ могут захватить интернет через ботнеты в течение 6-12 месяцев [9][14]. В основе этого заявления лежала посылка о том, что американские компании должны сохранять свое конкурентное преимущество над Китаем [17].

Китайское правительство немедленно опровергло эти аргументы. Официальный представитель МИД Го Чжакунь заявил: «Нагнетание страха, конфронтация и злонамеренная конкуренция лишь помешают прогрессу в глобальном управлении ИИ и не послужат ничьим интересам» [16]. Государственное издание «Глобал Таймс» также раскритиковало позицию США, представляющую ИИ как соревнование, и их нарратив о «китайской угрозе» за раскол в глобальном управлении [17]. Согласно сообщению газеты «Хангёре», призыв США к замедлению рассматривается в Китае как попытка «выбить лестницу из-под ног» путем создания барьеров для входа на рынок, в то время как в самих США это вызывает опасения, что Китай догонит их, что приводит к смешанной реакции в обеих странах [7].

2. Текущая ситуация

В отрыве от внешних опровержений, заявления Чэнь Исиня носят иной характер, отражая внутреннее восприятие угрозы. Он особо указал на угрозы, которые ИИ может представлять для политической, институциональной и идеологической безопасности [10]. Предупреждая, что передовой ИИ может обнаруживать киберуязвимости и проводить крупномасштабные хакерские операции, он конкретно упомянул модели «Клод-Мифос» от «Антропик» и «ЧатДжиПиТи-5.5-Сайбер» от «ОпенЭйАй» [10]. Зарубежные СМИ, включая «Рейтер», оценили это как самое подробное на сегодняшний день заявление Пекина о рисках безопасности ИИ [4][8].

«Дойче Велле» (DW) проанализировало, что это предупреждение отражает обеспокоенность китайских спецслужб по трем направлениям: политическая стабильность, кибербезопасность и контроль над информацией [12]. Ребекка Арчезати из Института китаеведения им. Меркатора (MERICS) отметила, что Пекин обеспокоен не только киберрисками, но и самой зависимостью от иностранных моделей [12]. Это согласуется с оценками, согласно которым, несмотря на создание собственной экосистемы ИИ, Китай все еще отстает на несколько месяцев от возможностей передовых американских моделей от таких компаний, как «ОпенЭйАй» и «Антропик» [8].

Газета «Гардиан» сообщила о совпадении по времени предупреждения от главы китайской разведки и падения цен на акции американских компаний, связанных с ИИ, после призывов к замедлению со стороны руководителей крупных технологических компаний [18]. Это указывает на то, что дискурс о рисках ИИ развивается одновременно по двум отдельным направлениям: внутренние дебаты в технологической индустрии США и логика национальной безопасности в Китае.

3. Ключевые акторы и их позиции

Министерство государственной безопасности КитаяМГБ занимает двойственную позицию: на внешнем уровне оно критикует американский нарратив об «угрозе», а на внутреннем — признает необходимость собственных мер по управлению безопасностью. Заявления Чэнь Исиня вытекают из основной миссии разведывательного ведомства — поддержания стабильности правления Коммунистической партии [4]. Фраза «политическая и идеологическая безопасность» отражает уникальную китайскую концепцию риска, сосредоточенную на стабильности режима, что отличает ее от западных дискуссий о безопасности ИИ.

Министерство иностранных дел КитаяМинистерство иностранных дел выступает с посланием, которое по тону отличается от заявлений МГБ. Официальный представитель Го Чжакунь прямо опроверг возглавляемый США нарратив об угрозе ИИ, назвав его нагнетанием страха, продиктованным коммерческими интересами [16]. Сосуществование внутреннего предупреждения МГБ и внешнего опровержения МИД предполагает, что Китай действует на двух треках: критикуя политизацию дебатов о безопасности в своем взаимодействии с Соединенными Штатами, и в то же время внутренне признавая свои собственные существенные уязвимости.

«Антропик» и «ОпенЭйАй»Эти компании заняли позицию проактивного призыва к регулированию, публично раскрывая риски, связанные с их собственными моделями. В 154-страничном отчете, опубликованном 10 сентября, компания «Антропик» уже представила доказательства попытки базирующегося в Китае актора использовать ее модель «Клод» для нейтрализации сети ПВО Тайваня и для кибершпионажа [6]. Тот факт, что «Клод-Мифос» был вновь выделен в заявлениях Чэнь Исиня, иллюстрирует динамику взаимных отсылок, где раскрытие рисков американскими фирмами ИИ и восприятие угроз китайскими спецслужбами взаимно информируют друг друга.

Администрация ТрампаАдминистрация Трампа придерживается своей позиции, рассматривая обсуждения вопросов безопасности исключительно в рамках сохранения конкурентного преимущества над Китаем и отвергая призывы индустрии к замедлению [3][9]. Это создает структурный контекст, который затрудняет превращение внутреннего предупреждения МГБ в содержательную повестку дня для сотрудничества на американо-китайском саммите.

4. Ключевые вопросы

Первый ключевой вопрос — это разрыв между внутренним восприятием Китая и его внешними сообщениями. В то время как предупреждение МГБ, по-видимому, исходит из признания существенных уязвимостей, Министерство иностранных дел и государственные СМИ представляют те же риски как политическую тактику Соединенных Штатов [16][17]. Этот разрыв является ключевой переменной для оценки позиции, которую Китай займет в будущих американо-китайских диалогах по безопасности ИИ.

Второй вопрос — это зависимость Китая от иностранных моделей. Тот факт, что Китай выражает особую обеспокоенность по поводу хакерских возможностей моделей «ОпенЭйАй» и «Антропик», даже развивая собственную индустрию ИИ, указывает на то, что он по-прежнему ориентируется на американские модели для оценки реальных возможностей реагирования на угрозы. Это не отменяет оценок, согласно которым разрыв в производительности сократился всего до нескольких месяцев [8][12].

Третий вопрос — это то, как дискурс о безопасности используется в политических целях. В предыдущем анализе EAI отмечалось, что дискурс о безопасности, инициированный Амодеем, в сочетании с призывами к контролю над экспортом чипов в Китай, превратился в новый фронт в американо-китайском технологическом соперничестве. Оценка, согласно которой «язык безопасности используется обеими странами не как повестка дня для предметного сотрудничества, а как разменная монета и средство обеспечения конкурентного преимущества» [9], предполагает, что заявления Чэнь Исиня также следует интерпретировать в этих рамках.

II. Углубленный анализ

Министерство государственной безопасности Китая публично предупреждает о рисках ИИ: углубленный анализ

1. Анализ первопричин

Первопричина заявлений Чэнь Исиня кроется в двойной обеспокоенности, свойственной системе Коммунистической партии Китая. Министерство государственной безопасности является одновременно и органом внешней контрразведки, и аппаратом внутреннего идеологического контроля. Тот факт, что это ведомство определило ИИ как угрозу, подразумевает большую озабоченность потерей контроля, нежели самой технологией.

Чэнь прямо заявил, что ИИ может угрожать политической, институциональной и идеологической безопасности [10]. Эта фраза напрямую затрагивает легитимность правления Коммунистической партии Китая и ее систему контроля над информацией. Румынское СМИ Digi24 оценило это как первый случай, когда глава китайской разведки определил ИИ как прямую угрозу власти Коммунистической партии [4]. Совет по международным отношениям (CFR) также анализирует эти заявления как наиболее конкретное на высшем уровне выражение Пекином рисков безопасности ИИ [8].

Существуют также причины технологического уровня. Чэнь конкретно назвал «Клод-Мифос» от «Антропик» и «ЧатДжиПиТи-5.5-Сайбер» от «ОпенЭйАй» [10]. Это не абстрактная оценка угрозы, а предупреждение с указанием названий реальных моделей. В интервью «Дойче Велле» (DW) исследователь MERICS Ребекка Арчезати отметила, что опасения Пекина выходят за рамки возможности кибератак и распространяются на его структурную зависимость от иностранных моделей [12]. Эта обеспокоенность подкрепляется оценками, согласно которым Китай, несмотря на создание собственной экосистемы ИИ, по ключевым показателям все еще отстает от американских моделей всего на несколько месяцев [8].

2. Структурный контекст

Политическая структура: Система контроля над информацией в Китае является ключевой опорой легитимности режима. Генеративный ИИ может подорвать эту систему двумя способами: во-первых, через приток информации, обходящей цензуру с помощью иностранных моделей, и, во-вторых, через генерацию непредсказуемого дискурса внутренними пользователями ИИ. Прямое упоминание МГБ «политической, институциональной и идеологической безопасности» можно интерпретировать как нацеленное на оба этих пути [10].

Структура безопасности: С точки зрения кибербезопасности, в основе проблемы лежит двойное назначение ИИ. В 154-страничном отчете об угрозах, опубликованном «Антропик» 10 сентября, подробно изложены доказательства попыток акторов, поддерживаемых Китаем, Россией и Ираном, использовать ее модель «Клод» для нейтрализации сетей ПВО и для кибершпионажа [6]. В отчете первопричина была определена как «асимметричная структура, в которой двойное назначение моделей ИИ общего назначения нейтрализует существующие методы контроля над распространением вооружений, снижая стоимость атаки и повышая стоимость защиты» [6]. Предупреждение Чэнь Исиня отражает признание того, что эта асимметричная структура может быть обращена и против Китая. Отдельный анализ CFR оценивает, что Соединенные Штаты также весьма уязвимы для киберугроз со стороны Китая, что указывает на то, что киберриск является взаимной, а не однонаправленной структурой [13].

Экономическая структура: Дискурс о «замедлении» со стороны американских компаний ИИ переплетается с призывами к ужесточению контроля над экспортом полупроводников в Китай [9]. «Глобал Таймс» раскритиковала это сочетание, утверждая, что конкурентный настрой Америки в отношении ИИ и ее нарратив о «китайской угрозе» раскалывают глобальное управление [17]. Таким образом, в структуре, где дискурс о безопасности перепрофилируется в инструмент контроля экономической безопасности, Китай придерживается двуединого подхода: внешне отвергая эти рамки, а внутренне проводя собственные отдельные оценки угроз.

3. Исторические прецеденты и сравнение с аналогичными случаями

Этот случай структурно схож с тем, как закрытые режимы реагировали на распространение информационно-коммуникационных технологий во время холодной войны. С последовательным появлением спутникового вещания, интернета и социальных сетей Китай последовательно проводил двойную политику: внедрял новые технологии, одновременно усиливая контроль над ними. ИИ является последним в этом ряду, но характер угрозы, которую он представляет, иной; в отличие от прошлых технологий, он автоматизирует не только распространение информации, но и возможности для кибератак.

Прямым объектом для сравнения является отчет «Антропик» о злоупотреблениях со стороны акторов, поддерживаемых государством. В этом отчете была раскрыта попытка базирующегося в Китае актора использовать «Клод» для нейтрализации сети ПВО Тайваня [6]. Хотя роли атакующего и цели поменялись местами, предупреждение Чэнь Исиня выявляет симметричное признание того, что продемонстрированный в отчете «потенциал вепонизации ИИ» может быть направлен и на Китай. Случай несанкционированного доступа компании «Алибаба» к «Клод» является еще одним прецедентом, иллюстрирующим неразрывность вопросов безопасности и борьбы за технологическую гегемонию [6].

Еще одной осью для сравнения является дискурсивное соревнование между США и Китаем, развернувшееся после призыва Амодея к замедлению 12 сентября. Американская сторона стремилась использовать аргумент о замедлении как средство сохранения своего конкурентного преимущества над Китаем, и президент Трамп на этом основании отверг призывы к ужесточению внутреннего регулирования [9]. Министерство иностранных дел Китая немедленно ответило, назвав это «нагнетанием страха, конфронтацией и злонамеренной конкуренцией» [16]. Особенность заявлений Чэнь Исиня в этом контексте заключается в том, что он одновременно публично раскрыл внутреннее восприятие, полностью отличное от внешнего опровержения Китая. Это демонстрирует модель, в которой дискурс о безопасности используется раздвоенным образом: внешне — как инструмент торга, а внутренне — как содержательная основа для политики [9].

4. Ключевые переменные, определяющие будущее развитие событий

Переменная 1: Итоги диалога по безопасности ИИ на американо-китайском саммите 24 сентября. Диалог по безопасности, который будет обсуждаться на саммите, вряд ли приведет к существенному соглашению о нормах, поскольку обе страны вкладывают разные политические цели в термин «безопасность» [3]. Президент Трамп рассматривает обсуждения вопросов безопасности исключительно в рамках сохранения конкурентного преимущества над Китаем, в то время как Китай выдвинул предварительные условия, такие как разделение полномочий по определению безопасности и применение одинаковых стандартов к американским компаниям [3]. Ключевым индикатором будущего развития событий станет то, будет ли ориентированное на внутреннюю аудиторию предупреждение Чэня в какой-либо форме отражено в этом переговорном треке, или же оно останется полностью обособленным.

Переменная 2: Подход Китая к управлению своей зависимостью от иностранных моделей. Если обеспокоенность зависимостью от иностранных моделей, на которую указала Арчезати [12], воплотится в реальную политику, это может проявиться в виде ограничений на доступ к моделям «ОпенЭйАй» и «Антропик» внутри Китая или ускоренной замены их отечественными моделями. Этот вопрос напрямую связан с самодостаточностью экосистемы ИИ Китая и также повлияет на практику несанкционированного использования иностранных моделей отечественными компаниями, такими как «Алибаба» [6].

Переменная 3: Будут ли раскрыты дополнительные случаи злоупотребления ИИ при поддержке государства. Обнаружение и раскрытие случаев злоупотребления компанией «Антропик» полностью оставлено на усмотрение самой компании, поскольку официальных каналов для вмешательства со стороны правительств или международных организаций не существует [6]. Если в будущем будут опубликованы аналогичные отчеты, дискурсивное преимущество между двумя странами может сместиться в зависимости от фокуса отчета — например, будут ли в нем подробно описаны атаки на США из Китая или риски, создаваемые для Китая американскими моделями.

Переменная 4: Сохранится ли разрыв между дискурсом и реализацией. Дискурс о безопасности, вероятно, будет реализовываться разными темпами в секторах, связанных с безопасностью, и в коммерческих секторах [9]. Подобно случаю США, где трек сотрудничества Белого дома и трек давления со стороны Конгресса и регулирующих органов уже действуют раздельно [3], Китай также с высокой вероятностью будет придерживаться своей внешней критической позиции и внутренней политики управления рисками на параллельных треках. То, как долго будет сохраняться этот разрыв, определит сроки любых существенных изменений в политике.