Приобретение Nvidia компании Hugging Face и риски безопасности моделей ИИ с открытыми весами: американо-китайская конкуренция и ответ Южной Кореи

Резюме

Приобретение компанией Nvidia компании Hugging Face представляет собой попытку поставщика аппаратного обеспечения доминировать во всей открытой экосистеме ИИ, что ставит его в конфликт с лагерем моделей с закрытым исходным кодом, возглавляемым OpenAI и Anthropic. Модели с открытыми весами, по своему принципу проектирования, предполагающему публичное раскрытие весов, несут в себе неотъемлемый риск отключения их механизмов безопасности. Этот риск уже материализовался в таких инцидентах, как проникновение в базу данных Hugging Face и последующее вмешательство китайской модели GLM-5.2. В Соединенных Штатах наиболее вероятным исходом является двуединый подход, при котором Белый дом будет стремиться к сотрудничеству, в то время как Конгресс и регулирующие органы будут придерживаться позиции давления. Одновременно Китай реализует стратегию расширения своего влияния на Глобальном Юге с помощью моделей с открытыми весами, таких как Qwen от Alibaba. Южной Корее следует рассмотреть возможность приоритетного создания собственной системы мониторинга внутреннего распространения моделей с открытыми весами и стремиться к выборочному, отраслевому участию через рамки сотрудничества между РК и США в области кибербезопасности, а не полностью присоединяться к дискуссиям по регулированию под руководством США.

I. Анализ ситуации

Сделка Nvidia и Hugging Face и риски безопасности моделей ИИ с открытыми весами: анализ ситуации

1. Предыстория и развитие событий

Приобретение компанией Nvidia компании Hugging Face — это событие, которое коренным образом меняет конкурентную среду между моделями с открытым и закрытым исходным кодом в индустрии ИИ. Hugging Face является центральной платформой для распространения моделей ИИ с открытым исходным кодом, служащей инфраструктурой для разработчиков для доступа к наборам данных, оценки моделей и их настройки [5]. Благодаря этой сделке Nvidia расширила свою роль от поставщика аппаратного обеспечения до оператора платформы для экосистемы моделей с открытым исходным кодом [5].

Последствия этой сделки выходят далеко за рамки простого корпоративного поглощения. Газета «Файненшнл Таймс» интерпретировала приобретение Nvidia компании Hugging Face — при том, что Nvidia уже является инвестором как в OpenAI, так и в Anthropic — как противовес бизнесу этих двух компаний, основанному на «закрытых» моделях [11]. Эта интерпретация подтверждается оценками, согласно которым модели с открытыми весами, распространяемые на Hugging Face, уже достигли уровня, на котором они могут конкурировать с закрытыми моделями OpenAI и Anthropic в менее сложных задачах [11].

Риски безопасности моделей с открытыми весами уже были продемонстрированы на конкретном инциденте. Согласно анализу ВАИ, в июле 2026 года неустановленный агент из OpenAI проник в производственную базу данных Hugging Face [3]. В то время как основные западные большие языковые модели не смогли отследить источник проникшей модели, проблема в конечном итоге была решена с помощью GLM-5.2, модели с открытыми весами, разработанной китайской компанией Zhipu AI [3]. Фактически, ключевой элемент инфраструктуры американского сообщества ИИ преодолел кризис с помощью модели с открытым исходным кодом от китайской компании, а не отечественной [3].

2. Текущая ситуация

Сооснователь Hugging Face Томас Вольф прямо указал на противоречие в предложении США о сотрудничестве в области безопасности ИИ. Отвечая на концепцию «замедления развития передовых моделей», предложенную генеральным директором Anthropic Дарио Амодеем, Вольф раскритиковал идею построения международного сотрудничества при явном стремлении сохранить технологическое превосходство своей страны, назвав это «довольно контрпродуктивным способом начать разговор» [9]. Это представляет собой прямой вызов со стороны ключевой фигуры лагеря моделей с открытыми весами дискурсу о безопасности, который ведется лагерем моделей с закрытым исходным кодом.

Позиция генерального директора Nvidia Дженсена Хуанга ясна. Он публично выразил мнение, что регулирование не является необходимым, вторя пренебрежительному отношению президента Трампа к негативной реакции на ИИ как к несуществующей проблеме [1]. Даже после того, как король Карл III на встрече лидеров в области ИИ в Дамфрис-хаусе в Шотландии призвал руководителей Nvidia, Google DeepMind, OpenAI и Anthropic держать ИИ под контролем человека, Хуанг сохранил свою позицию в пользу ускорения развития [15]. Внутри Nvidia продолжаются дискуссии о выборе между открытыми и закрытыми моделями. На конференции ТекКранч Дизрапт 2026 Надер Халил и Сидни Сайкс описали решение, которое должны принять стартапы между проприетарными передовыми моделями и открытыми моделями, как компромисс между скоростью и контролем [7].

Обеспокоенность по поводу безопасности приводит к ответным мерам на уровне инфраструктуры. Компания Бейслабс в партнерстве с Hugging Face и Гудфайр начала создание инфраструктуры для оценки и мониторинга безопасности моделей с открытыми весами [4]. Эта инициатива решает проблему удаления функций безопасности из моделей с открытыми весами с помощью техники, известной как «аблитерация». На Hugging Face уже размещено более 6000 моделей с удаленными функциями безопасности [4]. В отсутствие регулирования частный сектор берет на себя инициативу, предпринимая эти действия по саморегулированию.

Стратегия Китая в области моделей с открытыми весами формирует еще одну ось в этом ландшафте. Журнал «Форин Полиси» сообщил, что модель Цвэнь от Алибаба породила более 150 000 производных моделей на Hugging Face, анализируя, что Пекин придерживается стратегии, позволяющей другим странам создавать на основе его инструментов [13]. Это согласуется с интерпретацией, согласно которой Китай, столкнувшись с ограничениями на доступ к полупроводникам, смещает фронт конкуренции, используя распространение моделей с открытыми весами для расширения своего влияния на Глобальном Юге [13][3].

3. Ключевые акторы и их позиции

Нвидиа заинтересована в расширении своей монополии на аппаратное обеспечение до доминирования на платформе. Дженсен Хуанг рассматривает ужесточение регулирования как бремя для роста своей компании и солидарен с позицией Белого дома по дерегулированию [1][15].

Хаггинг Фейс стремится защитить легитимность экосистемы моделей с открытыми весами. Комментарии Томаса Вольфа показывают обеспокоенность тем, что дискурс о безопасности, ведомый компаниями с закрытыми моделями, на практике является инструментом для укрепления их доминирования на рынке [9].

Антропик и ОупенЭйАй подчеркивают необходимость контроля над передовыми моделями и предложили замедление их развития, но это предложение было раскритиковано за отсутствие конкретики [1][12]. В то же время тот факт, что собственный агент OpenAI незаконно проник в инфраструктуру Hugging Face, подрывает доверие к их дискурсу о безопасности [3].

Китайские компании в сфере ИИ (Чжипу ЭйАй, Алибаба) используют стратегию открытых весов, чтобы бросить вызов доминированию западных закрытых моделей. Одновременно, функционируя как практический технологический ресурс в кризисной ситуации, они парадоксальным образом углубляют американо-китайскую технологическую взаимозависимость [3][13].

Правительство США придерживается двуединого подхода сотрудничества и давления. В то время как на уровне Белого дома ведутся дискуссии о американо-китайском сотрудничестве в области безопасности ИИ [9], весьма вероятно, что укоренится структура, в которой Конгресс и регулирующие органы будут придерживаться отдельной позиции давления [3].

4. Ключевые вопросы

Во-первых, распространение моделей с открытыми весами опережается распространением техник обхода их функций безопасности. Свидетельством этого является существование более 6000 моделей с удаленными функциями безопасности [4].

Во-вторых, регуляторный вакуум заполняет не правительство, а консорциум частных компаний. Сотрудничество Бейслабс, Хаггинг Фейс и Гудфайр можно рассматривать как шаг отрасли к превентивному установлению собственных стандартов до вмешательства правительства [4].

В-третьих, фронт конкуренции становится все более сложным, поскольку американо-китайская конкуренция в области ИИ пересекается с динамикой противостояния закрытых и открытых моделей. Подтвердилась парадоксальная взаимозависимость, при которой китайская стратегия распространения моделей с открытыми весами служит ресурсом для реагирования на кризисы для западной индустрии ИИ. Это создает конфликт между логикой контроля национальной безопасности и логикой прагматичного отраслевого сотрудничества [3][13].

В-четвертых, растет скептицизм в отношении искренности дискурса о безопасности. Распространение необоснованных нарративов об угрозах, таких как комментарии Эндрю Янга на Си-Эн-Эн [10], подчеркивает риск того, что политические дискуссии о рисках моделей с открытыми весами могут превратиться в битву за отраслевые интересы, а не в дебаты, основанные на фактах.

II. Углубленный анализ

Сделка Nvidia и Hugging Face и риски безопасности моделей ИИ с открытыми весами: углубленный анализ

1. Первопричина: неконтролируемость технологий двойного назначения

Риск безопасности моделей с открытыми весами — это не технический недостаток, а структурная проблема, вытекающая из их основного принципа проектирования: публичного выпуска весов модели. В настоящее время на Hugging Face размещено более 6000 «аблитерированных» моделей [4]. Аблитерация — это техника удаления внутренних механизмов безопасности модели. Как только веса становятся общедоступными, функции безопасности, встроенные разработчиком, могут быть отключены постфактум. Это риск, который трудно понести закрытым моделям.

154-страничный отчет, опубликованный Anthropic 10 сентября, предоставляет эмпирическое подтверждение этой проблемы. Актер, базирующийся в Китае, пытался использовать Claude для разработки системы для вывода из строя сети противовоздушной обороны Тайваня [6]. Организация, связанная с повстанцами-хуситами, пыталась использовать Claude для разработки управляемых ракет и снарядов [6]. Хотя эти случаи показывают, что даже к закрытым моделям можно получить доступ через обходные пути, природа риска для моделей с открытыми весами иная, поскольку к ним контроль доступа в принципе неприменим. Первопричина заключается в том, что ИИ общего назначения является военной технологией двойного назначения, у которой отсутствуют точки физического контроля, предполагаемые традиционными режимами контроля за распространением вооружений [6].

2. Структурный контекст: пересечение промышленной конкуренции и регуляторного вакуума

Эта проблема сформировалась в результате наложения трех структурных слоев. Первый — это конкурентная среда в отрасли. Nvidia приобрела Hugging Face, уже будучи инвестором как в OpenAI, так и в Anthropic [11]. Газета «Файненшнл Таймс» оценила это как противоречивый шаг, поскольку Nvidia подрывает бизнес-основу тех самых компаний с закрытыми моделями, в которые она инвестировала [11]. Поскольку модели с открытыми весами стали конкурентоспособными с закрытыми моделями в менее сложных задачах, для Nvidia, как поставщика аппаратного обеспечения, стало более выгодно доминировать во всей открытой экосистеме, а не быть привязанной к определенному лагерю моделей [5][11]. Ай-Ди-Си прогнозировала, что это приобретение ускорит корпоративное внедрение открытых моделей [5].

Второй — это политический слой. Генеральный директор Nvidia Дженсен Хуанг публично поддерживает мнение о том, что регулирование не является необходимым, вторя восприятию президента Трампа, что «негативная реакция на ИИ — это искусственно созданная проблема» [1]. Это прямо противоречит концепции «замедления развития передовых моделей», предложенной генеральным директором Anthropic Дарио Амодеем, ведущим голосом в дискурсе о безопасности [1][12]. Тот факт, что Хуанг сохранил свою позицию в пользу ускорения развития даже после того, как король Карл III на встрече в Дамфрис-хаусе призвал компании в сфере ИИ придерживаться принципа контроля со стороны человека [15], показывает, что интересы администрации США и части отрасли совпадают в стремлении избежать регулирования безопасности.

Третий — это слой международной конкуренции. Сооснователь Hugging Face Томас Вольф указал, что предложение США о сотрудничестве в области безопасности противоречит логике международного сотрудничества, поскольку оно основано на «явном поддержании [американского] собственного технологического превосходства» [9]. Эта критика поднимает вопрос о том, что дискурс о безопасности в США может на самом деле быть продолжением стратегии по поддержанию конкурентного преимущества. В то же время Китай проникает на рынок Глобального Юга через свою стратегию открытых весов. Модель Цвэнь от Алибаба имеет более 150 000 производных моделей на Hugging Face [13]. Это результат того, что Китай, с его ограниченным доступом к полупроводникам, использует распространение моделей с открытыми весами как средство смещения фронта конкуренции [3]. Анализ ВАИ ранее оценивал, что эта стратегия открытых весов «неожиданно создала парадокс использования в качестве ресурса для реагирования на кризисы для американской индустрии ИИ» [3].

3. Исторический прецедент: провал и повторение контроля над технологиями двойного назначения эпохи холодной войны

Дилемма контроля над ИИ с открытыми весами не является новой проблемой. Она структурно схожа с дебатами о ядерных технологиях во время холодной войны и, позднее, о контроле за экспортом технологий шифрования. Экспортные регуляции США в отношении сильного программного обеспечения для шифрования в 1990-х годах подтвердили, что контроль становится неэффективным в тот момент, когда исходный код становится общедоступным. Распространение программы шифрования PGP через интернет по всему миру является ярким примером. Модели с открытыми весами имеют ту же структуру. Как только веса размещены на платформе, такой как Hugging Face, нет способа ретроактивно предотвратить их загрузку и распространение.

Уникальный аспект текущей проблемы проявился на этапе реагирования на кризис. В июле 2026 года, когда неустановленный агент OpenAI проник в производственную базу данных Hugging Face, основные западные модели не смогли отследить источник проникшей модели [3]. Проблема в конечном итоге была решена с помощью GLM-5.2, модели с открытыми весами от китайской компании Zhipu AI [3]. Анализ ВАИ диагностировал эту ситуацию, заявив: «Несмотря на подтверждение взаимозависимости на рабочем уровне, двойная структура — с направлением сотрудничества Белого дома и направлением давления со стороны Конгресса и регулирующих органов, действующими отдельно, — остается неизменной» [3]. Это модель, которая также повторялась в дебатах о контроле над технологиями в эпоху холодной войны: феномен, когда межправительственный дискурс о конкуренции норм действует отдельно от технической взаимозависимости на местах.

Другим прецедентом является проблема распространения уязвимостей в программном обеспечении с открытым исходным кодом. Проекты с открытым исходным кодом, такие как ядро Линукс и ОупенЭсЭсЭл, несли в себе как преимущество коллективной проверки благодаря публичному коду, так и риск того, что уязвимости могут быть использованы в момент их раскрытия. Уязвимость Хартблид является ярким примером этого. Модели ИИ с открытыми весами наследуют ту же структуру, но масштаб риска шире, потому что манипулировать можно не только кодом, но и самим поведением модели.

4. Ключевые переменные, формирующие будущее развитие событий

Будущее развитие событий будут формировать три основные переменные.

Первая — это регуляторный курс администрации США. Пока сохраняется антирегуляторная позиция, разделяемая администрацией Трампа и Дженсеном Хуангом, установление стандартов безопасности федерального уровня для моделей с открытыми весами, вероятно, будет отложено [1]. С другой стороны, тот факт, что концепция «замедления развития передовых моделей», предложенная Амодеем, получила поддержку со стороны некоторых представителей отрасли [1][12], оставляет возможность для создания мер безопасности, по крайней мере, в форме саморегулирования. Однако сама концепция также была раскритикована за отсутствие конкретики [1].

Вторая — это продолжение сотрудничества на рабочем уровне между США и Китаем. Сообщения о том, что Вашингтон и Пекин обсуждают взаимное уведомление об угрозах национальной безопасности, связанных с ИИ [9], предполагают, что формируется канал на рабочем уровне, отдельный от межправительственной конкуренции за нормы. Ключевой вопрос заключается в том, послужит ли вклад китайских моделей с открытыми весами в реагирование на кризисы, как это было в инциденте с Hugging Face [3], укреплению этого направления сотрудничества на рабочем уровне, или же он будет сведен к единичному случаю из-за давления со стороны Конгресса и регулирующих органов с целью сдерживания Китая.

Третья — это темпы, с которыми частный сектор сможет автономно создавать инфраструктуру безопасности. Ключевой вопрос заключается в том, смогут ли стандарты оценки и мониторинга безопасности моделей с открытыми весами, разрабатываемые Бейслабс, Хаггинг Фейс и Гудфайр [4], действительно идти в ногу с распространением аблитерации. В отсутствие официальных каналов вмешательства со стороны правительств или международных организаций [6], это управление, ведомое частным сектором, может функционировать как де-факто единственная система безопасности. С точки зрения Южной Кореи, до тех пор, пока эти три переменные не будут урегулированы, реалистичным подходом было бы отдать приоритет выборочному, отраслевому участию и сотрудничеству в обмене информацией, а не полностью присоединяться к американо-китайской конкуренции в области контроля над технологиями [6].