[AI и новый стандарт цивилизации: специальный доклад] Экономические вызовы ②: вызовы ИИ и мировой политики – проблемы Глобального Юга (Global South) и Больших Технологий (Big Tech)

I. ИИ и Глобальный Юг

1. Постановка проблемы

Технологии искусственного интеллекта (ИИ), в первую очередь ChatGPT, вызывают изменения в различных сферах общества, таких как экономика, военное дело, образование, здравоохранение и культура, и ожидается, что их развитие ускорится в XXI веке. Наряду с потенциалом ИИ стимулировать экономический рост, обсуждаются и различные негативные аспекты. В этом контексте данная статья уделяет особое внимание тому факту, что разработка, распространение и использование технологий ИИ в основном осуществляются развитыми странами, такими как США, и Китаем, в то время как Глобальный Юг остается относительно в стороне.

Разрыв между развитыми и развивающимися странами в мировом политико-экономическом порядке, так называемая проблема Севера и Юга, давно является одной из важных тем международной политики. С началом информатизации в XXI веке было предложено множество анализов влияния ИТ-технологий, таких как Интернет и смартфоны, на разрыв между Севером и Югом (United Nations Trade and Development (UNCTAD) 2020). Исследования, анализирующие среднесрочные и долгосрочные последствия ускоренной автоматизации, расширения умных фабрик и роста онлайн-торговли, наблюдавшиеся во время пандемии COVID-19, показывают, что цифровая трансформация имеет комплексное значение для развития развивающихся стран, проявляясь как в позитивных, так и в негативных аспектах (Бэ Ён-джа, 2022).

Развивающиеся страны, по сравнению с развитыми, имеют более низкий уровень цифровой инфраструктуры и технологических инноваций, обладают меньшими возможностями для цифровой трансформации и располагают ограниченными ресурсами, кроме рабочей силы. В этих условиях, в связи с цифровой трансформацией в традиционных производственных секторах, таких как автомобилестроение, особенно с распространением автоматизации и умных фабрик, относительно простая и повторяющаяся работа, выполняемая развивающимися странами в рамках глобальных цепочек создания стоимости, может быть легко заменена машинами. Следовательно, существует высокая вероятность того, что позиции развивающихся стран не усилятся, а сократятся, что еще больше увеличит разрыв между развитыми и развивающимися странами. С другой стороны, существуют аспекты цифровой трансформации в развитых странах, которые могут стать возможностью для роста развивающихся стран. Действительно, некоторые регионы развивающихся стран, такие как Мексика, получили выгоду от увеличения торговли с развитыми странами, более активно участвуя в глобальных цепочках создания стоимости. Распространение умных фабрик с использованием роботов и 3D-технологий в развитых странах привело к увеличению производительности и доходов, что, в свою очередь, увеличило спрос на конечные продукты и активизировало торговлю с развивающимися странами, поставляющими компоненты и промежуточные товары (UNCTAD 2020).

Что касается онлайн-торговли, то с распространением цифровых устройств и Интернета действительно увеличились возможности для участия компаний из развивающихся стран в глобальных цепочках создания стоимости в качестве поставщиков и производителей через онлайн-рынки. Увеличилось число случаев, когда мелкие производители из развивающихся стран, используя цифровые технологии, заключают сделки с потребителями из развитых стран через крупные платформы онлайн-торговли, такие как Alibaba, Amazon, eBay, Taobao и Mercado Libre. Однако способы ведения бизнеса, доставки, платежные системы, а также правила возврата и обмена, требуемые платформами, становятся барьерами для участия компаний из развивающихся стран. Кроме того, антиконкурентная политика со стороны компаний, занимающихся онлайн-торговлей, такая как монополизация данных и хищническое ценообразование и высокие комиссии, злоупотребляющие своим рыночным положением, усугубляет трудности мелких производителей из развивающихся стран. Другими словами, хотя цифровая трансформация может стать окном возможностей для развития развивающихся стран, существует немало аспектов, негативно влияющих на развитие развивающихся стран, таких как платформизация компаний онлайн-торговли, монополизация данных и сокращение занятости из-за изменений в цепочках создания стоимости.

В условиях продолжающейся тенденции цифровой трансформации, как развитие и использование технологий ИИ, особенно ускоряющиеся в последнее время, влияют на разрыв между развитыми и развивающимися странами? Усугубит ли ИИ существующий разрыв? Или же ИИ станет окном возможностей для развивающихся стран и будет способствовать сокращению разрыва? Какие кризисы могут возникнуть в долгосрочной перспективе при отставании развивающихся стран в развитии и использовании ИИ? Каковы меры по минимизации негативного влияния ИИ на развитие развивающихся стран и увеличению позитивного влияния? В данном разделе мы рассмотрим различия между развитыми и развивающимися странами в инвестициях и использовании инфраструктуры ИИ, проанализируем дискуссии об ИИ и развивающихся странах и попытаемся найти пути усиления политико-экономического положения Глобального Юга за счет ИИ.

2. Инвестиции в инфраструктуру и использование технологий ИИ: перспектива разрыва между развитыми и развивающимися странами

Оценим степень разрыва между развитыми и развивающимися странами в процессе разработки, распространения и использования ИИ с помощью различных показателей. Прежде всего, рассмотрим показатель проникновения Интернета, который является основой для работы ИИ. Как показано на Рисунке 1, из примерно 8 миллиардов населения мира около 2,7 миллиарда человек не имеют доступа к Интернету. В частности, известно, что в Индии 680 миллионов человек, а в Китае 340 миллионов человек не имеют доступа к Интернету. Проникновение Интернета в странах Африки к югу от Сахары составляет менее 40%, а в Юго-Восточной Азии – 51%, что является очень низким показателем.

Рисунок 1. Проникновение Интернета

Источник: Datareportal. 2024

Инвестиции в искусственный интеллект, которые ускоряются с 2020 года, также в основном осуществляются некоторыми развитыми странами. Согласно Рисунку 2, за период с 2013 по 2023 год США лидируют с инвестициями в размере 330 миллиардов долларов в области ИИ, за ними следует Китай с объемом около 100 миллиардов долларов. Кроме того, Великобритания, Израиль, Канада и Германия инвестировали десятки миллиардов долларов. Инвестиции США настолько значительны, что общая сумма инвестиций Китая (второй в рейтинге) и всех стран до Швеции (пятнадцатой) составляет лишь немногим более половины инвестиций США.

Рисунок 2. Инвестиции в ИИ по странам (2013-2023 гг.)

Источник: HAI, Stanford. 2024.

Недостаток инфраструктуры и инвестиций в области ИИ в развивающихся странах естественным образом приводит к низкому уровню исследований и патентов в этой области. Исследования в области ИИ в основном проводятся в США, Китае и странах ЕС. Согласно Рисунку 3, за период с 2014 по 2023 год в области исследований ИИ (рецензируемые статьи в ключевых областях ИИ) американские исследовательские институты опубликовали более 772 000 статей, заняв 30% доли рынка, а Китай – около 465 000 статей, или 18%. Кроме того, Великобритания, Германия, Япония, Индия, Бразилия и Иран являются центрами исследований ИИ, производящими от 10 000 до 140 000 статей соответственно, в то время как исследования ИИ в Африке, Латинской Америке и большинстве азиатских стран составляют менее 5%. За период с 2010 по 2022 год доля стран Южной Азии, Латинской Америки и Африки к югу от Сахары в патентах на ИИ составила менее 1%, а большинство патентов было выдано Китаю (61,1%) и США (20,9%).

Рисунок 3. Доля исследований и патентов в области ИИ

Источник: Digital Science. 2024.

Фундаментальные модели, такие как GPT-4, Claude 3 и Llama 2, которые являются моделями машинного или глубокого обучения, обученными на обширных данных для применения в широком спектре случаев, в настоящее время стимулируют распространение ИИ. Их выпущено около 150, что является представительным для исследований и использования ИИ. По странам происхождения: США имеют 109, Китай – 20, Великобритания – 8, а ОАЭ, Канада, Сингапур, Израиль, Германия и Финляндия имеют по 2 модели.

Интересен тот факт, что в развивающихся странах, которые значительно отстают от развитых стран по всем показателям – инфраструктура ИИ, инвестиции, исследования, патенты – уровень осведомленности и использования ChatGPT относительно высок. Согласно данным, доля респондентов, использующих ChatGPT ежедневно/еженедельно, особенно в Индии, Кении и Пакистане, составляет 75%, 69% и 62% соответственно, что значительно превышает среднемировой показатель и выше, чем в Германии (41%), Японии (38%) и Великобритании (38%). Это можно интерпретировать по-разному, но важными факторами являются активное проникновение компаний Больших Технологий на новые рынки и относительно недорогое расширение услуг ИИ в секторах здравоохранения и образования в наименее развитых странах. Такие компании, как Google, Microsoft и Meta, расширялись, открывая центры исследований и разработок или инженерные офисы в развивающихся странах (Okolo 2023). IBM основала IBM Research India в 1998 году, а затем открыла исследовательские центры в Сан-Паулу и Рио-де-Жанейро (2010), Найроби (2013) и Йоханнесбурге (2016). В 2005 году Microsoft открыла Microsoft Research India в Бангалоре, а также два африканских центра разработки в Найроби и Лагосе. Google основал исследовательские лаборатории ИИ в Аккре в 2018 году и в Бангалоре в 2019 году.

Важно то, что, несмотря на слабость в инвестициях в инфраструктуру, распространение и использование ИИ в развивающихся странах происходит более активно, чем ожидалось. Кроме того, доля компаний и организаций, внедряющих генеративный ИИ, составляет 40% в США, в то время как в Китае – 31%, а в развивающихся странах, включая Индию и Латинскую Америку, – 33%. Это оставляет возможности для того, чтобы ИИ стал окном возможностей для развивающихся стран, учитывая его использование.

Рисунок 4. Частота использования ChatGPT в мире (2023 г.)

Источник: Stanford University AI Index Report. 2024.

Согласно отчету UNCTAD, разрыв между развитыми и развивающимися странами увеличивался с началом информатизации в 1980-х годах. Как показано выше, развитые страны лидируют во всех аспектах, таких как инвестиции в инфраструктуру ИИ, исследования и фундаментальные модели, а присутствие развивающихся стран очень незначительно. Поэтому трудно с оптимизмом смотреть на то, что текущее ускоренное развитие и использование технологий ИИ приведет к сокращению существующего разрыва. PwC оценивает, что к 2030 году ИИ может внести до 15,7 трлн долларов в мировой экономический рост, при этом экономическое влияние на регионы Глобального Юга, за исключением Китая, составит всего 1,7 трлн долларов. Однако, поскольку наблюдается активное принятие и использование ИИ в наименее развитых странах, необходимо активно искать пути сокращения разрыва, наблюдая за тем, какое общее влияние ИИ окажет на развитие наименее развитых стран.

Рисунок 5. Историческая динамика разрыва между развитыми и развивающимися странами

Источник: UNCTAD, Technology and Innovation Report. 2023.

3. Дискуссии об ИИ и Глобальном Юге

1) Алгоритмический империализм

Возникла дискуссия о так называемом алгоритмическом империализме, согласно которой доминирование Запада в области ИИ выходит за рамки простого технологического развития и отставания наименее развитых стран, принимая формы господства и контроля над социальными, политическими и культурными дискурсами (Birhane 2023). Согласно этой логике, если традиционный колониализм осуществлялся под руководством государств, то колониализм алгоритмов осуществляется под руководством корпораций. В то время как первый имел форму неизбирательного насильственного господства, колониализм в эпоху ИИ отличается тем, что принимает форму «передовых алгоритмов» и «решений на основе ИИ» для решения социальных проблем. Большая часть цифровой инфраструктуры и экосистем Африки управляется ведущими западными компаниями, такими как Google, Meta, Netflix, Uber и др. Например, Meta, создавая карту населения Африки на основе данных, полученных с помощью технологий компьютерного зрения, демографических данных и спутниковых снимков высокого разрешения, естественно получает полномочия по созданию и контролю знаний о населении континента. Для извлечения данных и максимизации прибыли Meta не только свободно использует информацию об африканцах и их передвижениях, но и авторитетно определяет, какие знания о населении являются легитимными. Это очень похоже на то, как в прошлом западные люди утверждали, что они лучше знают, что нужно колониям, что они их спасут, и что они должны быть им благодарны, чтобы оправдать колониальное правление, только с изменением используемых технологий.

В Нигерии, которая является относительно развитой в технологическом плане страной Африки, около 90% используемого программного обеспечения импортируется, что создает барьер для самостоятельного развития технологий. ИИ, разработанный Западом, не только не подходит для африканских проблем, но и вторжение западных алгоритмов препятствует разработке продуктов, адаптированных к местным условиям, и одновременно делает континент зависимым от западного программного обеспечения и инфраструктуры. Например, ИИ-диагностика с использованием маммотома, которая успешно применяется для диагностики рака молочной железы на Западе, не дала ожидаемых результатов в Африке, и, как сообщается, самодиагностика оказалась более полезной. Это предполагает, что системы ИИ, связанные со здоровьем, разработанные на основе западного образа жизни и окружающей среды, могут иметь ограниченную полезность в наименее развитых странах и должны использоваться с осторожностью.

Из-за предвзятости, присущей моделям ИИ и данным, проблемы часто формулируются и решения находятся таким образом, который отражает западное восприятие. Например, утверждается, что результаты ответов на один и тот же вопрос, полученные с помощью ИИ-моделей, имеют тенденцию к смещению в сторону Запада, в отличие от результатов, полученных в автономном режиме через WVS (World Values Survey) и Pew Research Center. Как показано на Рисунке 5 ниже, на вопрос об оценке относительной важности демократии и экономического роста, в то время как 83% в России, 72% в Индонезии и 59% в США выбрали экономический рост, ИИ-модель выбрала экономический рост в 98% случаев. В этом же контексте выдвигается утверждение, что системы ИИ, монополизированные компаниями развитых стран, в конечном итоге будут монополизировать и контролировать знания, что приведет к «интеллектуальному рабству» для развивающихся стран (UNCTAD 2023).

Рисунок 6. Сравнение результатов опросов (2023 г., HAI)

Источник: HAI. 2023.

Доминирование западной инфраструктуры и использования ИИ выходит за рамки простой монополизации технологий и данных, сопровождаясь распространением западных способов мышления или образа жизни, что приводит к непродуманному принятию западной модели как легитимной. Принятие моделей ИИ, лишенных политико-экономического и культурного контекста наименее развитых стран, часто не подходит для решения стоящих перед ними проблем и, скорее всего, станет инструментом углубления зависимости инфраструктуры и данных наименее развитых стран.

2) Дискуссия об окне возможностей

С другой стороны, выдвигаются утверждения о том, что ИИ является полезным инструментом для решения различных проблем, стоящих перед развивающимися странами, и что ИИ может способствовать увеличению демократии путем поощрения участия граждан (Okolo 2023). Эти сторонники рассматривают ИИ как окно возможностей для развития развивающихся стран и активно рекомендуют его использование. За последнее десятилетие наименее развитые страны начали использовать инструменты ИИ для решения традиционных проблем отсталости, и наблюдается рост случаев применения ИИ, особенно в сельском хозяйстве, здравоохранении и образовании. Например, для поддержки фермеров в развивающихся странах были разработаны модели глубокого обучения для диагностики на местах таких заболеваний, как банановая болезнь и инфекции сельскохозяйственных культур, а также системы наблюдения за изображениями для поддержки мониторинга сельского и лесного хозяйства. В сферах здравоохранения и образования были разработаны и проходят испытания услуги, которые могут кардинально сократить расходы и компенсировать нехватку инфраструктуры с помощью ИИ. В Индии была создана прогностическая модель для обеспечения постоянного участия беременных женщин из отдаленных районов в программах дистанционной медицинской помощи, а в Гане – система клинической поддержки для борьбы с устойчивостью к антибиотикам. В сфере образования в Колумбии ИИ используется для выявления учащихся, подверженных различным рискам, в Таиланде – для улучшения изучения английского языка учащимися, а в Западной Африке – для поддержки естественнонаучного образования с помощью ИИ-ассистентов.

Они утверждают, что можно демократизировать текущие практики ИИ, поощрять разработку более инклюзивных систем ИИ и увеличивать участие сообществ, недостаточно представленных в разработке ИИ. В настоящее время растет потребность в региональной специализации и разработке систем ИИ, и в этой области предпринимаются активные усилия. Общественные организации, такие как Masakhane и Ghana NLP, пытаются разрабатывать наборы данных и инструменты машинного перевода, которые помогут расширить доступ к африканским языкам. Кроме того, такие организации, как Deep Learning Indaba, Khipu, AI Saturdays Lagos и Data Science Africa, способствуют созданию местного экспертного потенциала в области ИИ и росту сообществ исследователей и разработчиков ИИ в Африке и Латинской Америке.

4. Кризисы, вызванные разрывом в области ИИ, и меры реагирования

С какой ситуацией столкнется мир, если разработка и использование ИИ будут осуществляться в основном небольшим числом развитых стран, исключая развивающиеся? Какие конкретно кризисы можно предвидеть? В Таблице 1 мы обобщили содержание кризисов и меры реагирования, разделив их на следующие категории: экономический разрыв между развитыми и развивающимися странами, зависимость развивающихся стран от данных и технологий, расширение социального и культурного неравенства, предвзятости и дискриминации, а также военная и политическая нестабильность.

Таблица 1. Кризисы и меры реагирования, вызванные расширением разрыва в области ИИ между развитыми и развивающимися странами

Для решения проблемы растущего разрыва в области ИИ между развитыми и развивающимися странами необходимы не только усилия на индивидуальном уровне каждой развитой и развивающейся страны, но и международные усилия по осознанию и реагированию на этот кризис, а также построение глобального управления ИИ, способствующего сокращению разрыва в области ИИ.

5. Глобальное управление ИИ и Глобальный Юг

Хотя технологии ИИ могут усилить колониализм алгоритмов, существует также потенциал для активного использования ИИ в таких областях, как сельское хозяйство, здравоохранение и образование, особенно в наименее развитых странах. Однако существуют проблемы, которые необходимо решить, чтобы наименее развитые страны могли эффективно использовать возможности, предоставляемые ИИ. Несмотря на постоянный рост уровня электрификации и доступа к Интернету в африканском регионе, большая часть населения к югу от Сахары по-прежнему не имеет доступа к Интернету. По оценкам Всемирного банка, для подключения 100 миллионов человек в отдаленных районах Африки потребуется не менее 100 миллиардов долларов инвестиций. Необходимо дальнейшее расширение инфраструктуры в африканском регионе. В настоящее время развертывается 2Africa, самый длинный подводный интернет-кабель в мире. Большинство из примерно 485 подводных интернет-кабелей, используемых во всем мире, принадлежат крупным телекоммуникационным компаниям, а крупные технологические компании, включая Amazon, Google, Meta и Microsoft, также увеличивают инвестиции в подводную инфраструктуру, совместно владея примерно 30 кабелями. Необходимо обсудить пути расширения этой инфраструктуры с учетом интересов наименее развитых регионов.

Наименее развитые страны занимаются маркировкой данных, и часто поднимаются вопросы эксплуатации работников данных и модераторов контента в Восточной и Южной Африке, нанятых такими компаниями, как Sama и Scale AI. Кроме того, отсутствие защиты данных и политики в области ИИ в большинстве наименее развитых стран может привести к более частому злоупотреблению данными. В настоящее время опасения и дискуссии по поводу негативного воздействия ИИ в основном сосредоточены на развитых странах, и требуется активное внимание и обсуждение ситуации в наименее развитых странах.

Более активные усилия со стороны правительств наименее развитых стран также важны. Правительства наименее развитых стран должны развивать возможности для обучения местных исследователей и разработчиков посредством партнерства с внешними организациями, чтобы помочь расширить их собственную экосистему ИИ, а также поддерживать создание и поддержание экосистемы ИИ, которая способствует развитию предпринимательства и поддерживает местные инновации. Нигерия заключила партнерство с Microsoft, чтобы предоставить цифровые навыки своим гражданам, а Google с 2017 года обучает цифровым навыкам около 8 миллионов человек в Латинской Америке. В инициативах по цифровым инновациям в Бразилии, Коста-Рике, Индии, Ямайке, Малайзии, Панаме, Руанде и Южной Африке упоминаются планы по интеграции тем, связанных с компьютерной грамотностью, ИКТ-навыками, программированием, цифровой гражданственностью и безопасностью в Интернете, в учебные программы K-12.

В условиях растущего влияния технологий ИИ важно создать среду, в которой наименее развитые страны смогут справедливо получить доступ к технологиям ИИ, обеспечивая справедливую конкуренцию и использование. Различные международные организации, такие как ООН, Всемирный банк, МВФ и G20, выступают за продвижение ИИ, которое способствует интересам человечества, одновременно обеспечивая стабильность, безопасность и суверенитет развивающихся стран. Были также предложены такие идеи, как структура систем цифровой общественной инфраструктуры и Глобальный репозиторий цифровой общественной инфраструктуры (Global Digital Public Infrastructure Repository: GDPIR). Инициатива G20 по устранению разрыва в данных 3 (DGI-3) поддерживает развивающиеся страны в эксплуатации моделей ИИ с использованием общедоступных наборов данных в области изменения климата.

В то время как различные международные организации и конференции, связанные с технологиями ИИ и их распространением, постоянно обсуждают разрыв между Севером и Югом в области ИИ, пути его сокращения и меры поддержки развивающихся стран, существует запрос на открытость и приглашение развивающихся стран к участию в глобальном управлении ИИ. Через это необходимо повысить осведомленность о кризисах, которые может вызвать разрыв в области ИИ, и искать пути реагирования на них.

II. ИИ и крупные технологические компании

1. Инновации и регулирование ИИ

Крупные технологические компании, такие как Google, Amazon, Apple, Meta и Microsoft, владеющие или контролирующие крупные цифровые платформы, предоставляют монопольные услуги, основанные на сетевых эффектах. Кроме того, они собирают и накапливают в реальном времени данные, важные для понимания предпочтений потребителей и прогнозирования их поведения, формируя ядро цифровой экосистемы. Google работает в более чем 200 странах, Meta имеет 2,3 миллиарда ежемесячных пользователей по всему миру, а число пользователей Microsoft Office и Windows превышает 1,2 миллиарда и 1,4 миллиарда соответственно. Основываясь на монополии, они получили огромные финансовые ресурсы, составляя 22% рыночной капитализации компаний из списка S&P 500, а размер отдельных компаний превышает ВВП Канады и Италии.

Появление генеративного ИИ еще больше усиливает доминирование крупных технологических компаний. Для разработки генеративного ИИ требуются человеческие ресурсы, данные и вычислительные мощности. Лишь немногие компании, кроме крупных технологических, могут позволить себе десятки тысяч высококвалифицированных специалистов, огромные объемы данных и вычислительные мощности для быстрой обработки данных, а также приобрести более 10 000 ГП. Как показано на Рисунке 7, в настоящее время работающие генеративные ИИ управляются небольшим числом крупных технологических компаний.

Рисунок 7. Доля мирового рынка генеративного ИИ

Источник: IoT Analytics Research 2023-Generative AI Market Report. 2023-2030.

Важным вопросом, связанным с ИИ, является поиск баланса между инновациями в технологиях ИИ и их регулированием. В то время как конкуренция между крупными технологическими компаниями ускоряет инновации и распространение ИИ, возникают и связанные с этим риски и негативные аспекты. Поскольку технологии ИИ могут принести пользу в различных областях общества, таких как транспорт, здравоохранение, образование и производство, в настоящее время страны спешат разрабатывать стратегии в области ИИ и поддерживать инновации компаний. С другой стороны, активно обсуждаются способы минимизации и регулирования рисков и проблем, вызванных ИИ. Наиболее неотложной проблемой является предотвращение и регулирование разработки вредоносных или неэтичных систем ИИ, систем, содержащих предвзятость или дискриминацию, или систем, которые могут быть использованы в злонамеренных целях, таких как кибервойны. Кроме того, важно найти решения проблемы того, что ожесточенная конкуренция между крупными технологическими компаниями и монополия со стороны небольшого числа компаний в конечном итоге подавляет инновации и ограничивает потенциальные преимущества ИИ. Требуется глобальное управление ИИ, которое позволит разрабатывать и использовать ИИ ответственно и этично, а также совместно использовать разработку, использование и последствия технологий ИИ.

2. Расширение роли крупных технологических компаний и их отношения с правительством

В эпоху ИИ крупные технологические компании не только обладают экономическим влиянием, но и на его основе участвуют в установлении повестки дня, предоставлении дискурса для решения проблем и процессе реализации политики. Крупные технологические компании играют центральную роль в выявлении проблем и определении приоритетов. Например, они могут эффективно устанавливать повестку дня, используя онлайн-контент по вопросам, которые активно обсуждаются, а также участвовать в проведении академических и политических исследований для изучения этих вопросов и поиска решений. Крупные технологические компании влияют на исследования, проводя их самостоятельно, финансируя исследования академических и исследовательских учреждений или используя вращающиеся двери между исследователями. Частота и доля самостоятельных исследований крупных технологических компаний увеличивается, и они поднимают новые политические вопросы, анализируя огромные объемы данных. Подобно тому, как Amazon владеет Washington Post или Apple запускает Apple News, крупные технологические компании пытаются превратиться из модераторов контента в поставщиков контента, напрямую владея средствами массовой информации.

В прошлом основная инфраструктура, такая как железные дороги и дороги, принадлежала или управлялась правительством. Однако новая информационная инфраструктура, такая как поисковые системы и браузеры, серверы данных и облачные вычисления, электронная почта и мгновенные сообщения, социальные сети, магазины приложений, платежные системы, хостинг видео, геоинформационные и навигационные услуги, полностью принадлежит крупным технологическим компаниям. Правительства вынуждены обращаться за помощью к крупным технологическим компаниям, когда сталкиваются с особыми проблемами, такими как период COVID. Фактически, многие правительства приглашали представителей крупных технологических компаний для разработки политики управления COVID-19. С их помощью были созданы карты распространения эпидемий, разработаны инструменты отслеживания для формирования политики профилактики заболеваний и распространения лекарств и вакцин. Сотрудничество и поддержка со стороны крупных технологических компаний становятся все более важными во многих областях политики. По мере роста экономического и социального влияния крупных технологических компаний растет и запрос на их социальную ответственность, и они все чаще участвуют в качестве прямых поставщиков политических услуг. Активно разворачивается деятельность крупных технологических компаний по поддержке в таких областях, как здравоохранение, образование и финансы в наименее развитых странах.

С появлением генеративного ИИ крупные технологические компании начали не только устанавливать повестку дня и переопределять и предлагать социальные проблемы, но и предлагать решения на этапе разработки политики и играть роль лиц, принимающих решения. Поскольку крупные технологические компании исторически накапливали прибыли в огромных масштабах, выходящих за пределы национальных границ, и обладают огромным политическим влиянием, их иногда рассматривают как субъектов, обладающих статусом, подобным суверенитету. Например, правительство Дании назначило «технического посла» (Tech Ambassador), работающего в Кремниевой долине, для налаживания отношений с крупными технологическими компаниями и выполнения миссии по представлению интересов своей страны, демонстрируя тем самым восприятие того, что крупные технологические компании имеют статус, аналогичный государству. Некоторые ученые наблюдают, как будут перестраиваться отношения с государствами по мере роста статуса крупных технологических компаний.

Поскольку крупные технологические компании воспринимаются как компании, подобные государствам, или квазигосударственные компании, внимание сосредоточено на том, как будут строиться отношения между государствами и крупными технологическими компаниями. Как показано на Рисунке 2, отношения между ними будут развиваться по различным путям. Во-первых, неизбежны конкуренция и прямое столкновение между суверенными государствами и крупными технологическими компаниями. В частности, могут возникнуть конфликты, когда правительства усиливают регулирование крупных технологических компаний, а те, в свою очередь, сопротивляются (конкуренция). С другой стороны, когда правительства стремятся строго регулировать крупные технологические компании, они могут избегать прямого столкновения с государством и стремиться согласовывать свою стратегию с государственной политикой (кооптация). Напротив, когда правительства не усиливают регулирование крупных технологических компаний и бездействуют, ссылаясь на логику свободного рынка, отношения между крупными технологическими компаниями и правительствами могут стать очень кооперативными (сотрудничество). По мере роста влияния крупных технологических компаний может возникнуть ситуация, когда правительства, наоборот, попадают под их влияние (захват). Четыре направления не являются взаимоисключающими, а могут пересекаться.

Рисунок 8. Матрица отношений правительства с крупными технологическими компаниями

Источник: Khanal et al. 2024.

3. Кризисы и меры реагирования, связанные с разработкой и использованием ИИ под руководством крупных технологических компаний

Мы обобщили предсказуемые кризисы и меры реагирования, связанные с разработкой ИИ крупными технологическими компаниями, разделив их на монополизацию рынка и ограничение конкуренции, изменения на рынке труда и безработицу и экономическое неравенство, предвзятость данных и нарушение конфиденциальности, контроль над технологиями и угрозу демократии, вызов государственному суверенитету со стороны крупных технологических компаний, алгоритмический империализм крупных технологических компаний, как показано в Таблице 2.

Таблица 2. Кризисы и меры реагирования, вызванные развитием технологий ИИ под руководством крупных технологических компаний

4. Текущее состояние норм в области ИИ

Как известно, генеративный ИИ, как ожидается, будет способствовать повышению производительности компаний за счет снижения затрат и принятия решений на основе данных. Генеративный ИИ стимулирует появление новых услуг в таких областях, как создание текстов, изображений и музыки. С другой стороны, генеративный ИИ обучается на огромных объемах данных, но из-за ограниченности данных иногда генерирует неточные или предвзятые ответы. Данные, используемые генеративным ИИ, могут содержать конфиденциальную личную информацию или информацию о частной жизни, что создает риск нарушения конфиденциальности. Поскольку генеративный ИИ получает данные из существующих произведений, существует высокая вероятность нарушения авторских прав. Генеративный ИИ может использоваться для распространения ложной информации и манипулирования общественным мнением.

Различные риски, присущие технологиям ИИ, могут усиливаться, когда крупные технологические компании возглавляют развитие и использование технологий ИИ. Это связано с тем, что в условиях ожесточенной конкуренции за долю рынка и ускорения инвестиций между крупными технологическими компаниями, приоритет отдается борьбе за лидерство, и трудно соблюдать нормы развития надежных, ответственных и этичных технологий ИИ. В настоящее время в отношении крупных технологических компаний в основном обсуждается регулирование монополий на национальном уровне. На международном уровне существует широкий консенсус относительно необходимости разработки этических норм для реагирования на негативные аспекты технологий ИИ и создания глобального управления ИИ для их реализации, однако трудно с оптимизмом смотреть на появление согласованных международных норм и эффективного глобального управления ИИ, поскольку позиции США, Европы и Китая в отношении регулирования ИИ несколько различаются.

ЕС первым принял Закон об искусственном интеллекте (Artificial Intelligence Act: AIA) в 2024 году, создав самую раннюю правовую основу для 본격ного регулирования ИИ. Целью AIA является содействие использованию человеко-ориентированного и надежного ИИ, а также минимизация вредного воздействия ИИ для защиты здоровья, безопасности, основных прав и демократии. ЕС AIA классифицирует уровень риска, который системы ИИ представляют для пользователей, как недопустимый риск, высокий риск, низкий риск и минимальный риск, и устанавливает различную степень регулирования в зависимости от уровня. В частности, системы, которые ① используют подсознательные или обманные технологии для манипулирования решениями людей, ② используют уязвимость людей или определенных групп, ③ несправедливо относятся к людям или определенным группам, или оценивают или классифицируют социальные баллы (social scoring), или ④ используют технологии удаленной идентификации в реальном времени в общедоступных пространствах, были определены как недопустимые и их использование было полностью запрещено. Технологии ИИ, используемые в образовании, здравоохранении и военных секторах и представляющие риск для основных прав, должны соответствовать новым стандартам, установленным ЕС, а компании должны прозрачно раскрывать методы разработки моделей и нести ответственность за ущерб. ЕС оказывает давление на крупные технологические компании, такие как OpenAI GPT-4 и Google Gemini, заявляя, что они могут представлять риск и требуют дополнительной работы для соответствия стандартам ЕС.

За тем, что ЕС первым кодифицировал регулирование ИИ и возглавил формирование международных норм, стоит намерение контролировать деятельность американских крупных технологических компаний в Европе и лидировать в стандартах безопасности, учитывая, что в Европе нет собственных крупных технологических компаний с крупными цифровыми платформами. Вместо того чтобы опережать технологии ИИ, ЕС активно реагирует на нормы безопасности ИИ и их оценку. Кроме того, существует ожидание создания европейских центров оценки безопасности и оценочных органов, возглавляя формирование международных стандартов безопасности ИИ.

В США в основном придерживаются позиции, что саморегулирование компаний является адекватным в отношении безопасности ИИ, и правительство публикует политику для дополнения саморегулирования компаний. Большинство крупных технологических компаний сами разработали и опубликовали этические нормы, но никто не считает, что этого достаточно. Администрация Байдена, после публикации Федерального билля о правах в области ИИ (Federal AI Bill of Rights) в 2022 году, подписала Исполнительный указ о безопасном, защищенном и надежном искусственном интеллекте (Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence) в 2023 году. Этот исполнительный указ является ключевым, поскольку он обязывает проводить оценку безопасности ИИ, устанавливать стандарты безопасности для инструментов ИИ, создавать стандарты сертификации контента и усиливать защиту личной информации, чтобы США на федеральном уровне способствовали безопасной и ответственной разработке и использованию ИИ, а также регулировали разработку и использование технологий ИИ, угрожающих национальной безопасности, здоровью и безопасности. В Национальном институте стандартов и технологий (NIST) будет создан Американский институт безопасности ИИ (US AISI), который будет управлять фреймворком управления рисками ИИ, включая руководства, инструменты и бенчмарки для оценки и смягчения рисков ИИ.

Министерство внутренней безопасности США учредило в 2024 году Совет по безопасности и защищенности ИИ (AI Safety and Security Board), в который вошли 22 генеральных директора ведущих американских ИИ-компаний, таких как OpenAI, Anthropic, MS, Google, Nvidia, IBM, Adobe и AWS, в качестве консультантов, что привлекло внимание. Это демонстрирует позицию правительства США по поиску способов повышения безопасности и защищенности технологий ИИ на основе их опыта в сотрудничестве с крупными технологическими компаниями, а не путем одностороннего регулирования.

Недавно ЕС принял Закон об искусственном интеллекте, и многие американские компании теперь обязаны указывать контент, использованный в процессе обучения ИИ, соблюдать обязательные меры по предотвращению рисков и ограничивать использование систем удаленной биометрической идентификации в реальном времени. В то время как крупные технологические компании ищут способы реагирования на это, правительство США также прилагает усилия, чтобы не упустить лидерство в области норм ИИ от Европы. В мае 2024 года США представили в ООН резолюцию (Seizing the opportunities of safe, secure and trustworthy artificial intelligence systerns for sustainable development) по содействию безопасному и надежному ИИ, которая была одобрена большинством голосов: 143 за, 9 против, 25 воздержались. Резолюция подчеркивает пагубное воздействие ненадлежащего или злонамеренного использования ИИ на права человека, а также риски усиления неравенства и дискриминации из-за предвзятых данных, и содержит положения о необходимости координации глобальных норм, но не имеет обязательной силы. Резолюция конкретно призывает к международному сотрудничеству и глобальному консенсусу для безопасной разработки и внедрения ИИ, к сотрудничеству и обмену исследованиями и технологиями между заинтересованными сторонами, к развитию регулирования на национальном и международном уровнях, к запрету злоупотреблений при проектировании, разработке, развертывании и использовании ИИ, а также к передаче технологий и финансовой поддержке для устранения цифрового разрыва между развитыми и развивающимися странами.

Китай также стремится обеспечить надежность ИИ и создать систему сертификации, представив ряд принципов и руководящих указаний. В мае 2019 года были опубликованы «Пекинские принципы ИИ». Принципы излагают принципы разработки, использования и управления ИИ, направленные на благополучие человечества, а также на поощрение разнообразия и инклюзивности. Были представлены 7 принципов для разработки ИИ (использование на благо человечества, преследование правильных целей, ответственность, возможность контроля рисков, этичность, прозрачность, разнообразие, инклюзивность, открытость), 3 принципа для использования ИИ (ответственность за использование, права человека и управление данными, образование и обучение) и 5 принципов для управления ИИ (оптимизация занятости, гармоничное сотрудничество в экосистеме ИИ, надлежащее регулирование, дифференцированные руководства, разработка долгосрочной стратегии). На международном уровне в 2023 году на саммите «Один пояс, один путь» была предложена инициатива по глобальному управлению ИИ, призывающая все страны иметь равные права и возможности в разработке ИИ и выступающая против технологической монополии и односторонних принудительных мер.

Китай подчеркивает равные права и возможности всех стран, чтобы противостоять технологической монополии американских крупных технологических компаний, и одновременно представляет руководящие принципы для отечественных компаний, занимающихся ИИ, чтобы установить нормы, но при этом еще больше подчеркивает поддержку отечественных компаний, занимающихся ИИ. Поскольку китайские компании подверглись критике за бездумное использование технологий распознавания лиц, был опубликован проект правил безопасного управления применением технологий распознавания лиц. Признав срочную необходимость предотвращения генеративным ИИ создания ложной информации, предвзятости и манипулирования общественным мнением, были приняты временные меры по управлению услугами генеративного искусственного интеллекта. Можно видеть, что нормы и регулирование ИИ в Китае носят несколько оборонительный характер.

В 2023 году Великобритания опубликовала Блетчлийскую декларацию (Bletchley Declaration) на первой Саммите по безопасности ИИ (AI Safety Summit), состоявшемся в Блетчли-парке, призывая к совместному реагированию на потенциальные риски искусственного интеллекта. Основной повесткой дня саммита является поиск и разработка соглашений о быстрых и адекватных регуляторных мерах для обеспечения человеко-ориентированного, надежного и ответственного ИИ. В саммите приняли участие 28 стран (Австралия, Бразилия, Канада, Чили, Китай, Европейский союз, Франция, Германия, Индия, Индонезия, Ирландия, Израиль, Италия, Япония, Кения, Саудовская Аравия, Нидерланды, Нигерия, Филиппины, Руанда, Сингапур, Швейцария, Турция, Украина, ОАЭ, Великобритания, США), включая Южную Корею, и они заявили о своем намерении совместно сотрудничать в области безопасности ИИ. Великобритания, возглавляя международные конференции по безопасности ИИ с участием США, Китая, а также развивающихся стран, стремится противостоять разработке и распространению технологий ИИ, ориентированных на США или Китай, и сформировать более представительную и прочную международную солидарность.

Из-за ожесточенной конкуренции между странами в области технологий ИИ и несколько отличающихся позиций по нормам, ожидаются трудности в появлении международно согласованных норм или управления. Однако растет консенсус относительно необходимости глобального управления ИИ для обеспечения безопасности и надежности ИИ, их управления и регулирования крупных технологических компаний, и обсуждается, какая форма среди существующих международных организаций будет наиболее подходящей для области ИИ. Недавний отчет сравнивает такие примеры, как Международная организация гражданской авиации (ICAO), Европейская организация ядерных исследований (CERN); Международное агентство по атомной энергии (МАГАТЭ), Межправительственная группа экспертов по изменению климата (IPCC), а также существующие международные организации для управления международными платежными системами (Банк международных расчетов: БМР; Совет по финансовой стабильности: СФС; Целевая группа по финансовому мониторингу: ФАТФ). То есть, атомная энергия, гражданская авиация и международные платежные системы, которые могут осуществлять обмен информацией, способствовать сотрудничеству, мониторингу и принуждению, предлагаются в качестве подходящих кандидатов для глобального управления ИИ.

Рисунок 9. Сравнение типов глобального управления ИИ

Источник: Microsoft. 2024.

До настоящего времени разработка и применение технологий ИИ в основном осуществлялись небольшим числом ведущих мировых технологических компаний, что вызывает растущую обеспокоенность по поводу монополизации рынка этими компаниями внутри стран и увеличения разрыва между развитыми и развивающимися странами на международном уровне. В сочетании с этими обстоятельствами и растущим осознанием рисков безопасности и надежности, связанных с технологиями ИИ, страны разрабатывают нормативные акты, касающиеся технологий ИИ, и обсуждают глобальные нормы и управление в области ИИ. Скорость разработки и применения технологий ИИ значительно опережает эти дискуссии, что не способствует снижению неопределенности вокруг технологий ИИ. В условиях, когда проявляется конкуренция и различия в позициях основных стран в отношении как технологий ИИ, так и норм в области ИИ, трудно сохранять оптимизм относительно будущего норм и управления в области ИИ. Однако, учитывая прогнозируемое дальнейшее ускорение развития технологий ИИ, вопросы этики, надежности и безопасности будут становиться все более острыми, а разрыв, вызванный технологиями ИИ, также станет важной проблемой, которую международное сообщество должно будет решать совместно. В динамичном взаимодействии между ожесточенной конкуренцией между ведущими технологическими компаниями за лидерство в разработке технологий ИИ, усилиями правительства США по разработке норм безопасности и ответственности в области ИИ в рамках поддержки превосходства отечественных технологических компаний, действиями правительств ЕС и Великобритании, стремящихся возглавить международные усилия по разработке норм в области ИИ, одновременно сдерживая американские технологические компании, действиями Китая, который противодействует, активно поддерживая отечественные компании в области ИИ и принимая руководящие принципы по управлению такими технологиями, как распознавание лиц и генеративный ИИ, а также позицией «Глобального Юга», который критикует усилия по разработке технологий и норм в области ИИ, предпринимаемые в основном развитыми странами, и призывает обратить внимание на разрыв в области ИИ, будет осуществляться поиск направлений развития технологий ИИ и управления ими. ■

Список литературы

Бэ Ён Джа. 2022. «COVID-19 и цифровая экономика: перспективы глобальных цепочек создания стоимости и развития развивающихся стран». Рабочий документ EAI. 9 февраля. https://www.eai.or.kr/...kor_workingpaper.

Бирхане, Абеба. 2020. «Алгоритмическая колонизация Африки». SCRIPTed 17, 2: 389. https://script-ed.org/?p=3888.

Дро, Элен. 2024. «Исследования искусственного интеллекта – глобальные разрывы». Digital Science, 4 января. https://www.digital-science.com/...divides/.

Робертс, Хау, Эмми Хайн, Мариаросария Таддео и Лучано Флориди. 2024. «Глобальное управление в области ИИ: барьеры и пути вперед». International Affairs 100, 3: 1275-1286. https://doi.org/10.1093/ia/iiae073.

Кемп, Саймон. 2024. «Использование Интернета в 2024 году». Datareportal, 31 января. https://datareportal.com/...adoption

Ханали, Шалин, Хонгчжоу Чжан и Араз Таехаг. 2024. «Почему и как растет влияние Big Tech на политический процесс? Случай генеративного ИИ». Policy and Society, puae012. https://doi.org/10.1093/polsoc/puae012.

Смит, Брэд и Наташа Крэмптон. 2024. «Глобальное управление: цели и уроки для ИИ». Microsoft, 17 мая. https://blogs.microsoft.com/...ai/.

Стэнфордский центр по гуманитарному искусственному интеллекту (HAI). 2024. «Индексный отчет по искусственному интеллекту за 2024 год». https://aiindex.stanford.edu/...Report.pdf.

Маслей, Нестор, Лоредана Фатторини, Раймонд Перро, Ванесса Парли, Анка Ройель, Эрик Бриньолфссон, Джон Этчеменди, Катрина Лигетт, Тера Лайонс, Джеймс Мэни, Хуан Карлос Ниблес, Йоав Шохам, Рассел Уолд и Джек Кларк. 2024. «Ежегодный отчет Индекса ИИ за 2024 год». Руководящий комитет Индекса ИИ, Институт гуманитарного искусственного интеллекта, Стэнфордский университет, апрель. https://aiindex.stanford.edu/report/.

Около, Чинаса. 2023. «ИИ на Глобальном Юге: возможности и проблемы на пути к более инклюзивному управлению». Brookings, 1 ноября. https://www.brookings.edu/...governance/.

Конференция ООН по торговле и развитию (ЮНКТАД). 2023. «Отчет о технологиях и инновациях 2023 года». https://unctad.org/tir2023.

_________. 2020. «Отчет о мировых инвестициях 2020 года». https://unctad.org/...2020.

Всемирный банк. 2020. «Отчет о мировом развитии 2020: Торговля для развития в эпоху глобальных цепочек создания стоимости». https://www.worldbank.org/...wdr2020.

■ Бэ Ён Джа, профессор кафедры политологии и международных отношений Университета Конгук.

■ Ответственный редактор:Пак Чжи Су, научный сотрудник EAI

    Запросы и редактирование: 02 2277 1683 (доб. 208) | jspark@eai.or.kr