Дискуссия о темпах развития ИИ и рамка новой холодной войны: геополитические последствия дискурса безопасности компании Anthropic

Резюме

Призыв генерального директора компании Anthropic Дарио Амодея замедлить темпы развития искусственного интеллекта (ИИ) превратился в новый фронт американо-китайского технологического соперничества, поскольку дискурс о безопасности оказался переплетен с требованиями ужесточить контроль над экспортом чипов в Китай. Министерство иностранных дел Китая и государственные СМИ немедленно выступили с контрмерами, назвав этот шаг тактикой холодной войны, продиктованной коммерческими интересами, в то время как администрация Трампа отвергла внутренние призывы к ужесточению регулирования, сославшись на необходимость сохранения конкурентного преимущества над Китаем. В преддверии американо-китайского саммита 24 сентября становится очевидным, что риторика «безопасности» используется обеими странами не как искренняя повестка для сотрудничества, а как разменная монета и инструмент для обеспечения конкурентного превосходства. Дальнейшее развитие событий может пойти по одному из трех путей: институционализация диалога по безопасности, сохранение разрыва между дискурсом и его реализацией или ускорение фрагментации управления и формирование технологических блоков. Наиболее вероятным путем является сохранение разрыва между дискурсом и реализацией. Южной Корее потребуется двуединый подход: избегать полного принятия ни американского, ни китайского нарратива, раздельно управлять секторами, связанными с безопасностью и коммерцией, и одновременно наращивать собственный потенциал в области управления рисками.

I. Анализ текущей ситуации

Дискуссия о темпах развития ИИ: призыв генерального директора Anthropic к замедлению и рамка новой холодной войны между США и Китаем

1. Предыстория и хронология

Отправной точкой стала публикация в блоге генерального директора компании Anthropic Дарио Амодея в субботу, 12 сентября (по местному времени) [3][9]. Заголовок гласил: «Нам необходимо умерить темпы развития передовых технологий» [3]. В своей статье Амодей выступил за замедление темпов совершенствования моделей ИИ [10]. Он предупредил, что рои автономных агентов ИИ могут захватить весь интернет через ботнеты в течение 6-12 месяцев, причинив ущерб на сотни миллиардов долларов [4][11].

Это предупреждение прозвучало всего через несколько дней после того, как исследователь Джейкоб Коксон, перешедший из OpenAI в Anthropic, покинул индустрию, раскритиковав американские компании за то, что они «играют нашими жизнями» [15]. Сочетание инцидентов, связанных с потерей контроля над автономным ИИ, и уход ключевого исследователя придали эмпирический вес дискурсу о безопасности [3]. Вскоре после публикации Амодея Сэм Альтман (OpenAI), Демис Хассабис (Google DeepMind) и Илон Маск (xAI) последовательно выразили свое согласие [2][16]. Единая позиция глав конкурирующих разработчиков передовых моделей была воспринята американскими СМИ как необычное явление [10][16].

Проблема заключалась в том, что предложение Амодея не ограничилось дискурсом о безопасности. В той же публикации он также призвал к ужесточению ограничений на экспорт чипов для ИИ, нацеленных на Китай [7][17]. Регулирование безопасности и сдерживание Китая были представлены как единый пакет. В этот момент дебаты немедленно перешли в плоскость американо-китайского технологического соперничества.

2. Текущая ситуация

Министерство иностранных дел Китая немедленно выступило с опровержением. Официальный представитель Го Цзяцунь, сменивший на брифинге Ван Вэньбиня, заявил: «Нагнетание страха, конфронтация и злонамеренная конкуренция лишь помешают прогрессу в глобальном управлении ИИ и не послужат ничьим интересам» [14]. Он добавил, что развитие ИИ является вопросом, касающимся общего блага человечества [14]. Государственное издание «Глобал Таймс» пошло еще дальше, охарактеризовав высказывания Амодея как продукт «враждебных и необоснованных» коммерческих интересов [17]. В редакционной статье аффилированного с «Жэньминь жибао» издания, цитируемой испаноязычным порталом 14ymedio, это было названо попыткой определенных кругов в технологическом секторе США разыграть «сценарий холодной войны» против китайского ИИ [18].

Реакция в самих Соединенных Штатах неоднозначна. Президент Трамп неоднократно выступал против ужесточения регулирования ИИ, ссылаясь на конкуренцию с Китаем [1]. Южнокорейская газета «Ханкёре» отметила, что призыв к замедлению нежелателен для обеих сторон: Китай видит в этом попытку «выбить лестницу из-под ног», чтобы повысить барьеры для входа на рынок, в то время как США опасаются, что это может позволить Китаю наверстать упущенное [1]. Телеканал «Аль-Джазира» назвал ситуацию «тихой холодной войной», проанализировав, что требование замедлить развитие ИИ, как это ни парадоксально, провело новую технологическую линию фронта между США и Китаем [7].

Тот факт, что эти дебаты разгорелись непосредственно перед запланированным на 24 сентября американо-китайским саммитом, придает им дополнительный вес. Две страны уже договорились о запуске межправительственного диалога по ИИ на майском саммите в Пекине, и предстоящая встреча в Вашингтоне должна стать его продолжением [6]. Однако администрация Трампа рассматривает обсуждение вопросов безопасности исключительно в рамках сохранения конкурентного преимущества над Китаем и категорически отвергла призывы индустрии к замедлению. Тем временем Китай пытается сместить дискуссию в сторону права устанавливать глобальные правила, настаивая на том, что сначала необходимо согласовать само определение безопасности [6]. Учитывая, что трек сотрудничества Белого дома и трек давления со стороны Конгресса и регулирующих органов уже действуют раздельно, весьма вероятно, что отдельные регуляторные меры, такие как контроль над экспортом полупроводников и ИИ, будут продолжаться независимо, даже если на саммите будет достигнуто символическое соглашение [6].

3. Ключевые акторы и их позиции

Anthropic (Дарио Амодей)является эпицентром дебатов, одновременно подняв вопросы безопасности и аргументы в пользу сдерживания Китая. Позже Амодей попытался сгладить последствия разгоревшейся полемики, уточнив, что его компания никогда не выступала за полный запрет моделей с открытыми весами [5]. В интервью телеканалу Си-би-эс он также, по-видимому, смягчил свой тон, заявив: «Сегодня нет причин для паники» [13].

ОпенАИ, Гугл ДипМайнд и эксЭйАйподдержали призыв к замедлению, но их политические интересы не полностью совпадают. ОпенАИ сообщила правительству США, что следует избегать «преждевременного регулирования» моделей с открытыми весами, исходя из логики, что регулирование может вытеснить инновации за границу, что в конечном итоге принесет пользу Китаю [5]. Это показывает, что, хотя они и присоединяются к дискурсу о безопасности, их интересы расходятся, когда речь заходит о методах и интенсивности регулирования.

Администрация Трампафактически отвергает призывы к ужесточению регулирования ИИ, противопоставляя им опасения по поводу подрыва конкурентоспособности в борьбе с Китаем [1]. Даже в преддверии саммита она придерживается позиции, согласно которой диалог по безопасности является второстепенной задачей по отношению к главной цели — сохранению конкурентного преимущества [6].

Правительство Китаяреагирует посредством сочетания официальной критики со стороны Министерства иностранных дел и редакционных статей в государственных СМИ. Брифинг официального представителя Го Цзяцуня представил возглавляемый США дискурс о безопасности как акт препятствования управлению [14], в то время как редакционные статьи в «Глобал Таймс» и аффилированных с «Жэньминь жибао» изданиях охарактеризовали его как попытку сдерживания в стиле холодной войны, основанную на коммерческих интересах [17][18]. С точки зрения Китая, реальная угроза — это не сама дискуссия о безопасности, а лежащее в ее основе требование контроля над экспортом полупроводников.

4. Ключевые вопросы

Суть этой проблемы заключается в том, что дискурс о безопасности неотделим от логики промышленной конкуренции. Предложение Амодея было представлено на универсальном языке экзистенциального риска для человечества, но одновременно содержало меру, направленную на сдерживание конкретной страны: ограничение экспорта чипов в Китай [7][17]. Ссылаясь на это, Китай пытается представить сам дискурс о безопасности как прикрытие для стратегии сдерживания, тем самым переводя дебаты в плоскость борьбы за легитимность международных дискуссий по управлению ИИ [14][18].

Даже в самих Соединенных Штатах политическая поддержка замедления темпов развития невелика. В условиях дерегуляторной, ориентированной на конкуренцию позиции администрации Трампа вероятность введения существенного федерального регулирования низка, а фактические меры ограничиваются саморегулированием, таким как введение сторонних оценочных организаций [3]. Именно поэтому ожидается, что разрыв между риторикой и реализацией будет сохраняться в течение значительного времени [3].

Еще один момент, который следует учитывать, — это возможность того, что диалог по безопасности и отдельные меры экспортного контроля будут управляться по разным трекам, поскольку эти дебаты совпадают с саммитом. Поскольку обе страны придают термину «безопасность» разные политические цели, весьма вероятно, что даже в случае достижения символического соглашения на саммите, существенные регуляторные меры, такие как контроль над экспортом полупроводников и ИИ, будут продолжаться по отдельному треку [6]. Учитывая, что тайваньский вопрос уже закрепился в качестве структурной красной черты, обсуждение безопасности ИИ, скорее всего, будет рассматриваться как вторичный вопрос, накладывающийся на фундаментальную конфликтную структуру американо-китайских отношений, а не смягчающий ее [6].

II. Углубленный анализ

Дискуссия о темпах развития ИИ: призыв генерального директора Anthropic к замедлению и рамка новой холодной войны между США и Китаем

1. Анализ первопричин

Формальной причиной этих дебатов являются опасения по поводу безопасности. Однако истинная природа проблемы раскрывается только тогда, когда мы анализируем, почему этот дискурс о безопасности возник именно в данный момент и почему он был представлен в тандеме с призывами к контролю над экспортом чипов в Китай. В своей публикации от 12 сентября Амодей сослался на эмпирические сигналы риска, такие как потеря контроля над автономными агентами ИИ и уход ключевого исследователя [3][15]. Тем не менее, в том же тексте он также призвал к ужесточению ограничений на экспорт чипов для ИИ, нацеленных на Китай [7][17]. По сути, безопасность и геополитика были представлены как неразделимый политический пакет.

За этим сочетанием стоит рыночная позиция компании Anthropic. Anthropic — новичок, отстающий от OpenAI и Google DeepMind по коммерческим масштабам. Тот факт, что компания, построившая свою идентичность на безопасности, возглавляет кампанию за «замедление», одновременно призывая к экспортному контролю, который исключил бы ее китайских конкурентов, можно рассматривать, как отметила «Глобал Таймс», как структуру, в которой коммерческие интересы и дискурс о безопасности переплетены [17]. Характеристика китайскими государственными СМИ этого высказывания как «враждебного и необоснованного» была прямым ответом, нацеленным на эту комбинированную структуру [17].

Немедленный отказ президента Трампа от призывов к ужесточению правил безопасности можно трактовать в том же контексте [1]. С точки зрения Белого дома, существует серьезное опасение, что ужесточение регулирования ИИ может привести к замедлению в конкурентной борьбе с Китаем [1]. В конечном счете, первопричина заключается в том, что риторика «безопасности» используется как инструмент для обеспечения конкурентного преимущества как внутри США, так и в американо-китайских отношениях.

2. Структурный контекст

Политическая структура: двойное использование дискурса о безопасности

Причина, по которой эти дебаты не закончились простым спором о безопасности между компаниями, заключается в том, что они совпали с политическим событием: американо-китайским саммитом. Две страны уже договорились о запуске межправительственного диалога по ИИ на майском саммите в Пекине, а встреча 24 сентября в Вашингтоне была запланирована как его продолжение [6]. Высказывания Амодея в этот момент создали динамику, при которой дискурс о безопасности был мобилизован как разменная монета как для США, так и для Китая в преддверии саммита.

Проблема в том, что две страны придают слову «безопасность» разные политические цели. Администрация Трампа рассматривала «обсуждение вопросов безопасности исключительно в рамках сохранения конкурентного преимущества над Китаем» и категорически отвергла призывы индустрии к замедлению [6]. Китай, настаивая на том, что «сначала необходимо согласовать само определение безопасности», пытается «превратить обсуждение технологических рисков в вопрос о праве устанавливать глобальные правила» [6]. Акцент официального представителя Го Цзяцуня на том, что «развитие ИИ является вопросом, касающимся общего блага человечества» [14], также можно рассматривать как попытку переопределить безопасность как универсальную проблему управления, а не как инструмент для получения преимущества одной страной. В этой структуре, где трек сотрудничества Белого дома и трек давления со стороны Конгресса и регулирующих органов уже действуют раздельно [6], весьма вероятно, что отдельные регуляторные меры, такие как контроль над экспортом полупроводников и ИИ, будут продолжаться независимо, даже если на саммите будет достигнуто символическое соглашение [6].

Экономическая структура: экспортный контроль и перестройка цепочек поставок

Призыв Амодея к ограничению экспорта чипов является продолжением американской системы контроля над экспортом полупроводников в Китай, действующей с 2022 года. Необычно, что американская компания в сфере ИИ добровольно призывает к ужесточению государственного контроля. Обычно индустрия выступала против мер, сокращающих доступ к рынку, но на этот раз разработчики передовых моделей громче правительства требовали ужесточения регулирования. Это неразрывно связано с тем, что для компаний, уже обеспечивших себе преимущество в цепочке поставок, экспортный контроль имеет эффект исключения конкурентов. С другой стороны, в американской индустрии также звучат голоса, утверждающие, что следует избегать «преждевременного регулирования» моделей с открытыми весами. Логика заключается в том, что если ужесточить регулирование, инновации могут переместиться за границу, и Китай сможет заполнить образовавшуюся пустоту [5]. Anthropic сознательно дистанцировалась от этих дебатов, но самому Амодею пришлось опубликовать отдельный пост, разъясняющий, что он «никогда не выступал за запрет моделей с открытыми весами» [5]. Это указывает на то, что интересы в отношении экспортного контроля и открытости разделены даже внутри американской индустрии ИИ.

Структура безопасности: секьюритизация дискурса частного сектора

Выдающейся структурной особенностью этого инцидента является то, как публикация в блоге генерального директора частной компании мгновенно превратилась в международный дискурс о безопасности. Определение этого явления телеканалом «Аль-Джазира» как «тихой холодной войны» [7] отражает тот факт, что заявление частного актора, а не официальное правительственное объявление или договор, стало спусковым крючком для проведения новых линий конфронтации между нациями. Это иллюстрирует двойное назначение индустрии ИИ и текущую структуру власти, в которой несколько крупных технологических компаний непосредственно участвуют в формировании дискурса национальной безопасности. Тот факт, что неправомерное использование ИИ поддерживаемыми государством акторами уже было эмпирически зафиксировано [3], является еще одним фактором, ускоряющим эту секьюритизацию.

3. Исторические прецеденты и сравнительные случаи

Этот инцидент имеет структурные параллели с дебатами о контроле над ядерными технологиями эпохи холодной войны. Тогда также технологически превосходящий блок стремился заблокировать доступ противостоящего блока под предлогом нераспространения, в то время как другая сторона противодействовала этому, представляя это как гегемонистскую стратегию для подавления технологического прогресса. Ключевое отличие, однако, заключается в том, что, в отличие от ядерных технологий, у ИИ нет четкого физического пути распространения, что затрудняет целенаправленный контроль над моделями и алгоритмами с открытым исходным кодом. Следовательно, эффективность экспортного контроля по своей природе более ограничена, чем у режима ядерного нераспространения.

Более свежим прецедентом является эскалация ситуации с контролем над экспортом полупроводников с 2018 года. Ряд мер, включая санкции против Хуавэй и ограничения на экспорт передового литейного оборудования, были введены под предлогом «соображений безопасности», и Китай последовательно опровергал их как меры по «препятствованию технологическому прогрессу» [1]. Формулировки, используемые Китаем в текущих дебатах о темпах развития ИИ, такие как «нагнетание страха» и «сценарий холодной войны» [14][18], следуют той же схеме, что и его повторяющиеся ответы во время прошлых эпизодов контроля над полупроводниками. Разница на этот раз в том, что отправной точкой стал генеральный директор частной компании, а не правительство, и на передний план было выдвинуто моральное оправдание «безопасности».

Еще одним объектом для сравнения являются дискуссии на Саммите по безопасности ИИ, которые ведутся с 2023 года. Хотя различные страны обязались сотрудничать в области безопасности ИИ со времен саммита в Блетчли-Парке в Великобритании, реализация, как правило, подчинялась логике защиты отечественных отраслей и обеспечения конкурентного преимущества. В текущем случае также фактические меры «ограничиваются саморегулированием, таким как введение сторонних оценочных организаций», а давление в пользу регулирования на федеральном уровне в США остается низким [3]. Это следует повторяющейся схеме разрыва между декларативными соглашениями и их существенной реализацией, аналогично прошлым попыткам формирования международных технологических норм.

4. Ключевые переменные, формирующие развитие событий

Первая переменная — это итоги американо-китайского саммита 24 сентября. Даже если диалог по безопасности ИИ будет обсуждаться в повестке дня саммита, он, «вероятно, будет рассматриваться как второстепенный результат саммита» [6]. Учитывая, что тайваньский вопрос уже закрепился в качестве «структурной красной черты» [6], обсуждению безопасности ИИ трудно приобрести самостоятельное значение. Считается, что даже если на саммите будет опубликовано символическое совместное заявление, отдельные регуляторные меры, такие как контроль над экспортом полупроводников и ИИ, будут продолжаться по отдельному треку [6].

Вторая переменная — это внутренние разногласия в американской индустрии. Внешнеполитическая позиция США может измениться в зависимости от того, как требования о замедлении и ужесточении экспортного контроля со стороны лагеря Anthropic будут согласованы с противодействием «преждевременному регулированию» со стороны лагеря моделей с открытыми весами [5]. Пока администрация Трампа сохраняет свою дерегуляторную позицию [3], маловероятно, что призывы к регулированию со стороны индустрии воплотятся в федеральную политику. Однако этот баланс может быть нарушен, если произойдут новые реальные инциденты с участием автономных агентов ИИ.

Третья переменная — это ответ Китая. До сих пор Китай ограничивался словесными опровержениями на брифингах Министерства иностранных дел и в редакционных статьях государственных СМИ [14][17][18]. Однако, если экспортный контроль со стороны США действительно будет ужесточен, Китай может ускорить развитие собственной экосистемы ИИ или принять ответные меры. Это может послужить катализатором для закрепления глобальной цепочки поставок ИИ и системы стандартов в виде бифуркационной американо-китайской структуры.

Четвертая переменная — это то, материализуются ли на самом деле риски, связанные с автономными агентами ИИ. Если сценарий, о котором предупреждал Амодей — «захват интернета через ботнеты в течение 6-12 месяцев» [4][11] — реализуется, или если произойдет сопоставимый инцидент, это может спровоцировать переход от текущих дискуссий о безопасности на основе саморегулирования к обязательному режиму регулирования. И наоборот, если такого инцидента не произойдет, эти дебаты могут войти в историю как случай, когда коммерческие интересы были замаскированы под дискурс о безопасности и в конечном итоге сошли на нет.