[AI и новый стандарт цивилизации: специальный доклад] Введение

I. Почему ИИ?

Современная человеческая цивилизация сталкивается с серьезными вызовами: геополитическое противостояние между великими державами, сосредоточенное на стратегической конкуренции между США и Китаем; распространение протекционизма и фрагментация цепочек поставок, ведущие к обращению вспять глобализации и большому хаосу в либеральном международном экономическом порядке; климатический кризис и кризисы в области инфекционных заболеваний/здравоохранения; растущая вероятность ядерного распространения и ядерного терроризма; неконтролируемая технологическая гонка. Если человечество, подобно нынешнему, не сможет выбраться из болота суверенитета, преследующего узкие национальные интересы, и продолжит конфронтацию между блоками великих держав, всей Земле может угрожать полное уничтожение.

В центре этих будущих изменений находится искусственный интеллект (ИИ). ИИ можно определить как базовую (обеспечивающую) или мета-технологию, которая действует как «обеспечивающий фактор» и «усилитель силы», характеризуя изменения и возможности других технологий. Следовательно, он сам удваивает скорость инноваций, усугубляя существующие проблемы или предлагая новые прорывы для их решения. ИИ, в сочетании с ядерным оружием и системами вооружений, может привести к разрушительным последствиям, или привести к фрагментации мировой экономики, возглавляемой великими державами, в борьбе за контроль над экосистемой ИИ, и ускорению глобального неравенства. Внутри стран прогнозируется усиление монополии крупных технологических компаний (Tech Giant), дисбаланс на рынке труда и безработица, укрепление авторитарных режимов, фрагментация общества вокруг определенных ценностей, убеждений или целей. С другой стороны, инновации в технологиях ИИ могут максимизировать экономические выгоды и одновременно предложить ключи к решению проблем, которые, казалось бы, неустойчивы, таких как окружающая среда или здравоохранение. В этом смысле направление развития технологий ИИ можно рассматривать как ключевой базовый фактор, определяющий выживание и процветание человеческого общества в будущем.

Исследовательская группа Института Восточной Азии (East Asia Institute: EAI) систематически анализирует макроизменения в военной безопасности и политико-экономической сферах, вызванные инновациями в технологиях ИИ как ключевым фактором изменений в мировом порядке будущего. Эта работа будет разделена на анализ гонки вооружений в сфере ИИ между США и Китаем, создания коммерческих моделей ИИ и построения глобальных цепочек поставок, расширения монопольного влияния крупных технологических компаний и изменений в отношениях между правительством и бизнесом, а также коллективных ответных мер на регулирование технологий ИИ. Этот проект направлен на представление сценариев будущих изменений мирового порядка и, в конечном итоге, на поиск путей создания системы глобального управления (共治體制), отражающей интересы не только великих держав, но и многомерных заинтересованных сторон, для контроля и управления разрушительным воздействием технологий ИИ.

II. Каковы технологические особенности ИИ?

Как передовая технология, ИИ обладает уникальными характеристиками. Во-первых, поскольку ИИ имитирует человеческий интеллект, его злоупотребление может иметь катастрофические последствия, и при развитии до уровня общего искусственного интеллекта (Artificial General Intelligence: AGI) или сверхинтеллекта (Super Artificial Intelligence: SAI) возникает фундаментальная проблема неконтролируемости технологии. Во-вторых, ИИ имеет две стороны: «выгоду/инновационность» и «риск». Несмотря на существование рисков милитаризации, злоупотребления и неконтролируемости ИИ, его контроль и регулирование затруднены из-за его выгоды и инновационности. В-третьих, в сфере ИИ существует множество заинтересованных сторон (multi-stakeholderism), включая не только государства, но и отдельных лиц, корпорации и социальные группы. Поэтому невозможно формировать и контролировать будущее развитие технологий ИИ только посредством государственного регулирования и контроля. В-четвертых, международные политические кризисы, такие как изменение климата/экологический кризис, ядерная война, кризисы инфекционных заболеваний/здравоохранения, требуют сосредоточения на сотрудничестве по предотвращению катастроф в каждой конкретной области. Однако ИИ оказывает революционное влияние на все уровни – от индивидуального до глобального, и на все сферы – от военной до экономической, идеологической и политической, что создает проблемы многоуровневости, всеохватности и комплексности в регулировании, контроле и создании новой системы глобального управления. Наконец, будущее технологий ИИ и процессы изменений, которые технология вызовет на индивидуальном, общественном, государственном и международном уровнях, находятся только на начальной стадии. Существует безграничный потенциал и взрывная сила, затрудняющие прогнозирование долгосрочных изменений в будущем.

III. Изменения в военном и экономическом порядке, вызванные ИИ

Наша исследовательская группа предположила, что в условиях продолжающейся конкуренции между США и Китаем в области дерискинга (de-risking) экосистема ИИ будет фрагментирована в результате соперничества двух стран за военное применение ИИ и создание коммерческих моделей ИИ. Кроме того, в условиях этой конкуренции США, обладающие явным преимуществом в области инфраструктуры, вычислительных мощностей, фундаментальных моделей и приложений, займут доминирующее положение, но в результате ожесточенной конкуренции голоса ускоренцев, стремящихся к решению проблем посредством технологических инноваций, будут набирать силу в политических кругах основных стран, включая США и Китай.

В условиях конкуренции в области технологий ИИ между основными странами будет происходить фрагментация на политико-экономическом уровне, возрастет вероятность формирования экономических блоков, и может обостриться многостороннее и многоуровневое соперничество и конфликты во всех сферах, включая технологии, промышленность, экономику и политику. Кроме того, поскольку эффект сдерживания применения силы, обеспечиваемый существующей экономической взаимозависимостью, исчезнет из-за блокового формирования, потенциальные проблемы, связанные с военным применением ИИ (например, ядерное переплетение и двойное назначение, непреднамеренная эскалация и начало войны из-за проблемы «черного ящика»), могут проявиться, увеличивая вероятность реальных вооруженных столкновений и войн в геополитических точках воспламенения в Индо-Тихоокеанском регионе, таких как Тайвань, Северная Корея, Южно-Китайское и Восточно-Китайское моря.

В процессе этого Глобальный Юг, вероятно, окажется в состоянии зависимости от данных, экономики и технологий, а также политической нестабильности, с беспрецедентным разрывом в политическом, экономическом и социальном плане с развитыми странами. В то же время, из-за эксплуатации уязвимых систем безопасности стран Глобального Юга, их критически важная инфраструктура и финансовые системы могут подвергнуться атакам, что приведет к серьезной нестабильности. Кроме того, крупные технологические компании, лидирующие в гонке ИИ, могут стать новой гегемонистской силой, которую невозможно контролировать, проявляя тенденции к рыночной монополии, захвату рынка труда и массовой безработице, предвзятости данных и нарушению конфиденциальности, а также бросая вызов государственной власти. Следовательно, если нынешняя тенденция гонки ИИ сохранится, человечество может столкнуться с очень серьезным кризисом в ближайшем будущем.

IV. Сценарии будущего и новый стандарт цивилизации

Как будет развиваться мировой порядок будущего, если реализуются риски милитаризации ИИ, экономической фрагментации, массового злоупотребления ИИ и, в конечном итоге, подчинения человечества ИИ? Как показывает наше исследование, будущий порядок будет проявляться в виде комбинации изменений, обусловленных технологиями ИИ, и динамики существующего порядка (Рисунок 1).

<Рисунок 1> Сценарии развития ИИ по областям и трансформации будущего порядка

Это будет (1) международная система, характеризующаяся хаосом и фрагментацией международных норм и порядка (путь 1), институтов, разделением и конфронтацией, вызванными суверенной конкуренцией великих держав, новых держав и т. д. в условиях отсутствия глобального лидерства; (2) система, достигающая взаимного сосуществования на основе определенного сотрудничества по глобальным вызовам, наряду с конкуренцией за влияние между великими державами, технологическое господство и стратегическое превосходство (путь 2); (3) появление всеобъемлющей и комплексной системы глобального управления (путь 3) посредством демократического и многомерного участия государств и негосударственных акторов. Эта серия специальных докладов представит логику и теорию, лежащие в основе вышеупомянутых сценариев, и в конечном итоге будет искать чертеж для построения мирового порядка, соответствующего новому стандарту цивилизации. ■

■ Ким Янг ГюГлавный научный сотрудник EAI. Преподаватель факультета политологии и международных отношений Сеульского национального университета.

■ Сон ЁльДиректор EAI. Профессор Высшей школы международных исследований Университета Ёнсе.

■ Чон Джэ СонДиректор Центра исследований национальной безопасности EAI. Профессор факультета политологии и международных отношений Сеульского национального университета.

■ Ха Ён СонПредседатель EAI. Почетный профессор Сеульского национального университета.

■ Ответственный за выпуск и редактирование:Пак Чжи Су, научный сотрудник EAI

    Запросы и редактирование: 02 2277 1683 (доб. 208) | jspark@eai.or.kr