Полемика вокруг системы целеуказания с ИИ Palantir Maven и ее последствия для военных ИИ-систем средних держав

Резюме

В феврале 2026 года, во время американо-иранской войны, система наведения на цели с использованием ИИ Palantir Maven ошибочно определила начальную школу в иранском городе Минаб в качестве цели. В результате удара погибло более 150 человек, в том числе 120 детей. Миссия ООН по установлению фактов пришла к выводу, что инцидент может представлять собой военное преступление, однако Белый дом немедленно опроверг эти выводы. Данный случай высвечивает структурную проблему, заключающуюся в том, что скорость наведения на цели с помощью ИИ сокращает время, доступное для проверки человеком. Он также вскрывает риск распространения ошибки при поставке стандартизированной системы нескольким союзникам. Средним державам, включая Южную Корею, следует проактивно рассмотреть вопрос об обеспечении независимого контроля над своими уровнями данных и процедурами верификации по мере внедрения стандартов командования и управления с использованием ИИ (AI-C2) под руководством США.

I. Ситуационный анализ

Система наведения на цели с использованием ИИ Palantir Maven и полемика вокруг жертв среди гражданского населения в Иране: ситуационный анализ

1. Предыстория и развитие событий

28 февраля 2026 года Соединенные Штаты и Израиль нанесли удар по Ирану. В результате авиаударов погиб Верховный лидер Али Хаменеи, а также были повреждены ядерные и военные объекты Ирана[5]. Хотя крупномасштабные боевые действия прекратились после заключения в июне соглашения о прекращении огня при посредничестве Пакистана, обе стороны продолжали обмениваться эпизодическими ударами, ссылаясь на нарушения[5].

В течение первых 38 дней войны для определения около 13 000 целей использовалась система наведения на основе ИИ[4]. Среди них была начальная школа в городе Минаб на юге Ирана. 28 февраля ракета «Томагавк» нанесла удар по школе, в результате чего погибло более 150 человек, в том числе более 120 детей[14][11]. Шведская газета SvD сообщила, что в результате удара погибло 120 детей, добавив, что подробности инцидента постепенно становятся известны из источников в Министерстве обороны[1]. В ходе другого авиаудара в том же феврале был также поражен спортивный центр в Ламерде, что привело к гибели еще 22 человек[16][17].

Местное иранское издание Tehran Times сравнило этот инцидент с массовым убийством в Сонгми во время войны во Вьетнаме, прямо поставив под сомнение ответственность американских военных под заголовком «Вопрос, который должен задать себе каждый американец»[11]. Это указывает на то, что в Иране данное событие воспринимается не как простая ошибка при наведении на цель, а как часть систематической практики убийства гражданских лиц со стороны США.

2. Текущая ситуация

17 сентября 2026 года Независимая международная миссия ООН по установлению фактов в Иране опубликовала 18-страничный доклад, в котором говорится о наличии «разумных оснований» полагать, что авиаудары по начальной школе в Минабе и спортивному центру в Ламерде могут представлять собой военные преступления[13][17]. Доклад планируется официально представить Совету ООН по правам человека в Женеве 21 сентября[12]. Миссия ООН пришла к выводу, что оба удара были неизбирательными атаками, которые привели к гибели гражданских лиц и повреждению гражданской инфраструктуры[17].

Белый дом немедленно отверг эти выводы, назвав их «бессмыслицей»[12]. В ходе слушаний в Конгрессе в марте американские военные подтвердили использование передовых инструментов ИИ для быстрой обработки информации во время конфликта с Ираном, но подчеркнули, что окончательное решение по целям принимается людьми[15]. Однако австрийская газета Der Standard со ссылкой на репортаж Си-эн-эн заявила, что ИИ компании Palantir не смог распознать, что данные изображений, приведшие к удару по школе в Минабе, были устаревшими[10]. В том же репортаже освещался и другой инцидент, когда ошибка ИИ едва не спровоцировала военную операцию против Китая[10]. Это говорит о том, что инцидент в Минабе — не единичная ошибка, а часть более широкой проблемы надежности системы Palantir.

Этот вопрос также был официально поднят в Конгрессе США. На слушаниях Комиссии по правам человека имени Тома Лантоса 16 сентября свидетели указали, что одного лишь процесса утверждения человеком недостаточно для гарантии значимого контроля над решениями, принимаемыми на основе ИИ[7]. Высказывается обеспокоенность тем, что по мере расширения роли ИИ в идентификации и рекомендации целей время, доступное для вмешательства человека, сокращается[7].

3. Ключевые акторы и их позиции

Министерство обороны США и Белый домОни неоднократно заявляли о принципе, согласно которому последнее слово в принятии решений о целях остается за человеком. Эта позиция, по-видимому, направлена на то, чтобы ограничить ответственность рамками командной цепи, а не возлагать ее на систему[15]. Однако их реакция на расследование ООН свелась к отрицанию его выводов без предоставления доказательств, что вызвало критику в их адрес за пассивность в установлении фактов[11][12].

Правительство Ирана и местные СМИОни представляют инцидент как продолжение бесчеловечных военных действий США. Сравнение, проведенное газетой Tehran Times с массовым убийством в Сонгми, показывает, что общественное мнение в Иране воспринимает это событие через призму исторического военного преступления[11]. Кроме того, в марте 2026 года Иран осуществил атаку беспилотников под названием «Операция „Эпическая ярость“», в результате которой были повреждены три связанных с США центра обработки данных AWS на Ближнем Востоке. Иранские государственные СМИ заявили, что эти объекты были выбраны в качестве целей, поскольку они оказывали поддержку американским военным[2]. Это указывает на то, что Иран в качестве ответной меры нацеливается на саму операционную инфраструктуру вооруженных сил США, основанную на ИИ.

Миссия ООН по установлению фактовСделав вывод о том, что действия США могут представлять собой военные преступления, миссия придала вес аргументам в пользу ответственности за нарушения международного гуманитарного права[13][17]. В то же время миссия сохранила критический баланс, указав также, что иранское правительство использовало «репрессивное законодательство» и «смертоносную силу» для подавления протестов, связанных с ростом стоимости жизни, таким образом, подвергнув критике обе стороны[13].

ПалантирКомпания находится в центре полемики из-за предоставления программного обеспечения с ИИ американским, израильским и британским вооруженным силам для поддержки авиаударов в секторе Газа и Иране. Утверждение о том, что ее система ошибочно приняла устаревшие изображения за актуальные данные, что привело к жертвам среди гражданского населения[10], перерастает в более широкие вопросы о технической надежности компании.

Комиссия по правам человека имени Тома ЛантосаОфициально подняв на двухпартийной основе вопрос о структурном риске, связанном со скоростью наведения на цели с помощью ИИ, превышающей возможности человека по верификации, комиссия выступает в качестве сдерживающего фактора для исполнительной власти, занимая иную позицию[7].

4. Ключевые вопросы

Первый вопрос заключается в том, был ли эффективно реализован принцип «человеческого контроля». Хотя американские военные объяснили, что окончательные решения принимают люди[15], вскрывшийся факт, что система не смогла даже отфильтровать устаревшую информацию[10], подогрел подозрения в том, что процесс утверждения человеком был лишь формальной мерой предосторожности.

Второй вопрос — это вопрос ответственности по международному праву. Разрыв между квалификацией действий миссией ООН в качестве военного преступления[13][17] и категорическим отрицанием со стороны Белого дома[12] демонстрирует, что международные нормы для возложения юридической ответственности в военных операциях, опосредованных ИИ, еще не установлены.

Третий вопрос — это распространение системы среди стран-союзников. Примером может служить включение Министерством обороны Японии в бюджет на 2027 финансовый год расходов на приобретение системы Palantir Maven для Объединенного оперативного командования Сил самообороны[3][6]. Это показывает, что система, несущая в себе риски, подобные тем, что проявились в инциденте в Минабе, распространяется в союзнических структурах командования и управления при отсутствии проверенных альтернатив. Такие решения по интеграции собственных систем данных страны в онтологический стандарт вооруженных сил США оцениваются как «вероятно, создающие структурную зависимость из-за возросших издержек переключения»[3]. Это напрямую связано с дискуссиями об оперативной совместимости систем командования и управления в рамках трехстороннего сотрудничества в области безопасности между США, Республикой Корея и Японией, а также с вопросом оперативной автономии Южной Кореи после передачи ей оперативного контроля в военное время (OPCON)[6].

II. Углубленный анализ проблемы

Система наведения на цели с использованием ИИ Palantir Maven и полемика вокруг жертв среди гражданского населения в Иране: углубленный анализ

1. Анализ первопричин

Видимой причиной инцидента в Минабе стала ошибка, связанная с устаревшими данными изображений. Газета Der Standard со ссылкой на Си-эн-эн сообщила, что ИИ компании Palantir не смог распознать, что данные изображений, приведшие к удару по школе, были устаревшими[10]. Система не смогла отфильтровать вероятность того, что назначение здания на момент выбора цели отличалось от его назначения на момент нанесения удара.

Однако это не столько технический недостаток, сколько результат структурного противоречия между скоростью и верификацией. На слушаниях в Конгрессе свидетели указали, что по мере расширения роли ИИ в идентификации и рекомендации целей время, доступное для вмешательства человека, сокращается[7]. Даже если окончательный процесс утверждения человеком сохраняется, это утверждение становится простой формальностью, если отведенный на него промежуток времени не позволяет успевать за скоростью информационного потока, генерируемого ИИ. Тот факт, что за первые 38 дней войны было определено 13 000 целей, иллюстрирует масштаб этого сжатия времени[4]. В рамках рабочего процесса, обрабатывающего в среднем более 300 целей в день, способность человека-верификатора индивидуально проверять каждую цель на предмет устаревших изображений или контекстуальных ошибок структурно ограничена.

Более того, проблема усугубляется тем, что это была не единичная ошибка системы Palantir. Сообщалось, что в тот же период другая ошибка ИИ едва не спровоцировала военную операцию против Китая[10]. Повторение этих инцидентов в рамках одного и того же семейства систем позволяет предположить, что причина ошибок может быть не случайной для отдельных случаев, а представлять собой уязвимость, присущую общей конструкции системы и операционным процедурам.

2. Структурный контекст

С точки зрения структуры безопасности, этот инцидент произошел в рамках структуры, где компания Палантир поставляет одно и то же семейство программного обеспечения с ИИ американским, израильским и британским вооруженным силам. Система Palantir Maven уже имела опыт поддержки авиаударов в секторе Газа, и аналогичная архитектура использовалась в войне с Ираном. Это подразумевает риск того, что онтология целеуказания, созданная одним поставщиком, при многократном использовании на нескольких театрах военных действий может иметь кумулятивный эффект в различных операциях до тех пор, пока не будет обнаружен конкретный недостаток. В предыдущем анализе ВАИ отмечалось, что система Palantir Maven построена «на концепции CJADC2 и онтологических стандартах, которые Министерство обороны США накапливало почти 20 лет»[3]. Это означает, что преимущество стандартизации имеет и обратную сторону: потенциал для распространения ошибки.

С точки зрения политической структуры, отвержение Белым домом выводов расследования ООН как «бессмыслицы» показывает, что в администрации США инцидент рассматривается не как вопрос легитимности военных операций, а как проблема политической защиты[12]. Министерство обороны повторяет принцип, согласно которому окончательные решения о целях принимают люди, однако не предоставило конкретных ответов об информационных и временных ограничениях, в которых эти человеческие решения фактически принимались. Это неразрывно связано с политическим стимулом намеренно сохранять центр ответственности неоднозначным, где-то между человеком и ИИ.

С точки зрения структуры международных норм, заключение Независимой международной миссии ООН по установлению фактов в Иране о том, что удары по школе в Минабе и спортивному центру в Ламерде могут представлять собой военные преступления[13][17], вскрывает нормативный пробел в вопросе о том, как системы наведения на цели с ИИ должны соответствовать принципам различения и соразмерности согласно международному гуманитарному праву. Для гибридных структур принятия решений, где ИИ определяет цель, а человек ее утверждает, международно-правовые стандарты возложения ответственности за военные преступления еще не установлены.

3. Сравнение с историческими прецедентами и аналогичными случаями

Газета Tehran Times сравнила инцидент с массовым убийством в Сонгми во время войны во Вьетнаме под заголовком «Вопрос, который должен задать себе каждый американец»[11]. Это сравнение показывает, что общественное мнение в Иране воспринимает это событие не как техническую ошибку, а как еще один случай в повторяющейся практике убийств гражданских лиц американскими военными. Однако фундаментальное отличие от массового убийства в Сонгми заключается в том, что если то событие включало прямые убийства наземными войсками, то инцидент в Минабе был опосредован идентификацией цели на основе алгоритма и ударом с большого расстояния. Новаторский характер этого инцидента заключается в том, что центр ответственности сместился с нарушения приказа отдельным солдатом на проблему проектирования системы и операционной процедуры.

Более прямым прецедентом является история использования системы Palantir и аналогичных систем наведения на цели с ИИ в секторе Газа. Компания Палантир уже имела опыт поддержки авиаударов в секторе Газа, и в этом контексте отмечались аналогичные противоречия между скоростью и верификацией. Тот факт, что та же проблема повторилась в войне с Ираном, подтверждает мнение о том, что недостаток в системе Palantir — это не исключительная проблема, связанная с конкретным полем боя, а повторяющийся риск, присущий самой системе.

Кроме того, инцидент с ложной тревогой, связанный с Китаем, который произошел в тот же период, служит важным моментом для сравнения[10]. Он демонстрирует, что ошибка в ИИ для наведения на цели влечет за собой не только гуманитарное последствие в виде вреда гражданскому населению, но и стратегический риск развязывания случайного военного конфликта между крупными державами. Это структурно схоже с различными инцидентами времен холодной войны, когда сбои в системах раннего предупреждения создавали кризисы, которые могли привести к ядерной войне. Разница на этот раз в том, что сбой был опосредован ИИ, предназначенным для помощи человеческому суждению.

4. Ключевые переменные, формирующие будущее развитие событий

Последующие действия Совета ООН по правам человекаЭто первая переменная. Приведут ли выводы расследования, которые будут доложены в Женеве 21 сентября, к передаче дела в Совет Безопасности или Международный уголовный суд, или же все закончится политическими дебатами на фоне отрицаний со стороны США, — от этого будут зависеть последствия инцидента в международном праве[12][17].

Уровень законодательной реакции со стороны Конгресса СШАЭто вторая переменная. Ключевой вопрос заключается в том, приведет ли проблема значимого человеческого контроля, поднятая на слушаниях Комиссии по правам человека имени Тома Лантоса[7], к правовому регулированию или введению обязательных процедур верификации для систем наведения на цели с ИИ, или же все ограничится общим ответом Министерства обороны о том, что «окончательное решение принимают люди».

Темпы распространения системы Palantir среди союзниковЭто третья переменная. Учитывая, что Министерство обороны Японии уже включило в бюджет на 2027 финансовый год расходы на приобретение системы Maven Smart для Объединенного оперативного командования Сил самообороны[3][6], остается неясным, насколько такой недостаток, как в инциденте в Минабе, повлияет на дискуссии союзников о ее внедрении. Если стимул к обеспечению оперативной совместимости возобладает даже после того, как о недостатке станет известно, это, в сочетании с проблемой «структурной зависимости», на которую указал ВАИ, увеличивает риск повторения той же ошибки при отсутствии у союзников автономных возможностей верификации[3].

Прозрачность контрактных отношений между компанией Palantir и Министерством обороны СШАЭто четвертая переменная. Пока не будет четко определено, лежит ли ответственность за ошибку на недостатке в проектировании программного обеспечения поставщика или на операционных процедурах Министерства обороны, будет трудно снизить вероятность повторения подобных инцидентов на других театрах военных действий.