[ИНТЕРВЬЮ EAI] Алгоритмы социальных сетей, способствующие политической поляризации и распространению фейковых новостей, и ответные меры демократических стран

Ссылка на YouTube: https://www.youtube.com/watch?v=HZXHNN9JYNI

Институт Восточной Азии (East Asia Institute: EAI) в рамках проекта Азиатской сети демократии приглашает лауреата Нобелевской премии мира 2021 года Марию Рессу (Maria Ressa), генерального директора Rappler, для обсуждения состояния свободы прессы в таких странах региона, как Филиппины, и мер по пресечению распространения фейковых новостей в социальных сетях. Ресса критикует феномен избирательного воспроизведения определенных предвзятых новостей и информации в информационной экосистеме, созданной крупными технологическими компаниями, и предупреждает, что алгоритмы социальных сетей, быстро распространяющие дезинформацию, способствуют усилению ультраправых сил и подрывают демократию. Кроме того, в качестве решения проблемы контроля над СМИ со стороны социальных сетей и политической поляризации Ресса предлагает образование, законодательство и повышение осведомленности.

■ Сук Чжон Ли: Здравствуйте, уважаемые слушатели. Для нас большая честь сегодня иметь возможность побеседовать с Марией Ресса. Она является известным журналистом и лауреатом Нобелевской премии мира, которая активно работает не только на Филиппинах, но и на международной арене. Мария, большое спасибо за ваше время.

■ Мария Ресса: Я очень рада, что все получилось. Приятно быть здесь. Спасибо, что пригласили.

I. Уровень свободы СМИ на Филиппинах после правительства Дутерте

■ Сук Чжон Ли: Во время правления Дутерте вам было выдано 10 ордеров на арест. Поскольку на Филиппинах сейчас новый президент, Бонгбонг Маркос, сын бывшего президента, я хотела бы спросить, улучшилась ли свобода СМИ.

■ Мария Ресса: Меня часто спрашивают об этом, и я сразу отвечаю: «Да».

В январе мне были предъявлены четыре обвинения в уклонении от уплаты налогов, которые могли привести к тюремному заключению на 34 года. Rappler также было предъявлено обвинение в смехотворном уголовном уклонении от уплаты налогов. Спустя четыре года и два месяца три судьи Апелляционного налогового суда отклонили эти обвинения, и мы были оправданы. И когда читаешь вердикт, действительно задумываешься: «Как эти дела вообще дошли до суда?» Независимая судебная система медленно восстанавливается, что означает, что механизмы сдержек и противовесов постепенно возвращаются. Так что это первый шаг. Предыдущая администрация использовала тактику преследований и запугивания, чтобы журналисты добровольно отказывались от своих прав, что многие назвали «эффектом замораживания». Я бы назвала это «Сибирью». Мы жили в «Сибири» в тот период, и за отстаивание своих прав перед властью пришлось заплатить свою цену.

Еще слишком рано говорить об этом, но президент Бонгбонг Маркос, единственный сын и тезка Фердинанда Маркоса, обвиняемого в краже 10 миллиардов долларов США в 1986 году, провел большую часть своих первых 100 дней за пределами Филиппин. Его волнует мнение остального мира, и он также стремится восстановить доброе имя своей семьи. Я надеюсь, что он прислушается и продолжит фокусироваться на экономике, как это делал его отец. Это трудное время для мира после COVID-19. Хотя темпы роста Филиппин значительно лучше, чем на Западе, вопрос в том, сможет ли это трансформироваться в реальные политики, помогающие нашему народу, остается вызовом впереди.

Мы были так низко в прошлом, что любое улучшение является шагом вперед.

II. Наследие медиарепрессий Дутерте и путь Филиппин вперед

■ Сук Чжон Ли: Друзья на Филиппинах говорили о возможном негативном влиянии нового президента, поскольку он может попытаться легитимизировать наследие своего отца и авторитарный период вашей страны. Каково ваше мнение по этому поводу?

■ Мария Ресса: Это происходит почти во всех странах мира. Мы испытываем историю на прочность.

С ростом правых сил и распространением лжи через социальные сети быстрее, чем фактов, каждая часть истории становится предметом споров. Факты становятся предметом споров.

Все, что мы видим в социальных сетях, работает на двух алгоритмах: первый — это алгоритм Facebook «друзья друзей», который, по сути, поляризует нас. Мы видели, как это произошло на Филиппинах в 2016 году, когда был избран Дутерте. Если вы были сторонником Дутерте, вы двигались дальше вправо. Если вы были против Дутерте, вы двигались дальше влево. Это то, что произошло в Соединенных Штатах, Венгрии и Бразилии.

[Второй алгоритм — это] рекомендательная система YouTube и Facebook, где, если вы кликаете на видео в социальных сетях, рекомендательная система предлагает что-то более экстремистское. Таким образом, происходит поляризация и нисходящая радикализация. [Оба] встроены в наше общество, а группы гражданского общества использовали такие тактики, как «назови и опозорь», чтобы определить, что есть «правильно». Но когда ложь вознаграждается, мир переворачивается с ног на голову, и это становится предметом споров.

Ваш вопрос становится более сложным для Маркоса в этой информационной экосистеме. С точки зрения действий, поскольку предыдущая администрация установила очень низкую планку, мы теперь видим некоторое профессиональное управление со стороны нового президента. Он появляется и не ругается. Политика более ясна, и назначения более ясны. Эта администрация прислушивается к общественной реакции на плохую политику; однако, несмотря на то, что мы пострадали от использования права в качестве оружия, я также придерживаюсь мнения, что мы должны быть справедливыми и смотреть на сегодняшние действия, а не обязательно на прошлое. Был ли он уклонистом от уплаты налогов? Не платил ли он налоги? Иронично, что теперь он призывает филиппинцев платить налоги.

Так что это очень запутанно — где моральное превосходство? В то же время, именно здесь я становлюсь немного прагматичной. Как журналист Rappler, моя задача — привлекать власть к ответственности. Мы предоставим вам контекст этого. И премьер-министр Индии Моди, и президент Филиппин Маркос не могли въехать в Соединенные Штаты. Но когда они были демократически избраны своим народом, они могли путешествовать. Многие из этих проблем исчезают. И они были подавляющим большинством избраны. Поэтому мы должны оставаться бдительными и продолжать освещать эти истории.

У Rappler и у меня все еще есть три уголовных дела. Есть пятое обвинение в уклонении от уплаты налогов, дело о киберклевете и дело о ценных бумагах, связанное с иностранным контролем. Мы должны быть оптимистичны; в противном случае это может привести к упадку сил.

III. Решения для борьбы с политической поляризацией, вызванной дезинформацией в социальных сетях

■ Сук Чжон Ли: Вы упомянули множество различных точек зрения на историю, и это происходит и в Корее, когда речь идет о колониальном, авторитарном периоде. Это разделяет наше гражданское общество, не говоря уже о политиках. У нас есть не только газеты, но и YouTube и социальные сети, которые затрудняют нам понимание того, существует ли истина, и могут ли разделенное общество прийти к компромиссу или достичь консенсуса относительно исторических интерпретаций. В такой среде, какой будет хороший совет по контролю над информацией и поощрению разделенной политики к выработке более конструктивной общей почвы?

■ Мария Ресса: Прежде всего, я всегда считала, что Корея находится в лучшем положении. Возвращаясь к цитате Милана Кундеры: «Борьба человека против власти — это борьба памяти против забвения».

Дизайн современных социальных сетей превращает ложь в факт — ложь, сказанная миллион раз, становится фактом. Как я сказала в своей Нобелевской речи, это стало индивидуальной битвой за честность, за факты и за ценности.

Вот почему замечательно, что Корея не только провела региональное совещание второго Саммита за демократию, но и примет следующий саммит. Хорошо, что третий Саммит за демократию пройдет в Азиатско-Тихоокеанском регионе, который, согласно последнему отчету V-Dem, пережил худший спад качества наших демократий в мире. Остальной мир вернулся к уровням 1986 года. В Азиатско-Тихоокеанском регионе мы находимся на уровнях 1978 года.

Итак, в чем решение? Во-первых, благодаря культуре Кореи, традиционные новостные организации по-прежнему обладают значительной властью. Они теряют контроль над бизнесом, и их бизнес-модель быстро умирает. Интересно, что в Корее Google не является номером один, а Naver — да. Но корейские новостные организации передали слишком много власти и отношений Naver. Мы не должны бороться вниз по течению; мы должны бороться вверх по течению. Так что долгосрочное решение — это образование.

Среднесрочное решение — законодательство, а краткосрочное — осознание того, что мы коварно манипулируемся социальными сетями. Наша биология, наши эмоции используются против нас. И в социальных сетях, согласно исследованию MIT 2018 года, ложь распространяется как минимум в 6 раз быстрее, чем факты. Тот факт, что [эта ложь] разжигает ненависть, страх и трайбализм, является частью причины нашей сильной поляризации. Они взывают к худшим сторонам человеческой природы, общества, и воздействие происходит не только на индивидуальном уровне, но и социологически на групповом уровне.

Мы ведем себя по-разному в группах. В своей книге я говорила об эксперименте Милгрэма с шоком, в котором испытуемые находились за экраном, а участникам было приказано продолжать давать все более сильные электрические разряды испытуемым и наблюдать, как они все больше и больше страдают. Под влиянием авторитета участники продолжали давать электрические разряды. Когда мы находимся в группах и когда авторитет дает нам разрешение вести себя наихудшим образом, мы это делаем. Здесь вступают в силу некоторые предупреждения Тимоти Снайдера из книги «О тирании», такие как «Не следуйте за толпой». Это второй уровень.

Третий уровень — это эмерджентное человеческое поведение нашей эволюции как вида. Это вызывает привыкание. У нашего молодого поколения более высокие уровни депрессии и бессонницы. Один из внутренних отчетов Meta, который был одним из более чем 10 000 документов, опубликованных информатором Фрэнсис Хауген, фактически показал, что у молодых девушек-подростков в Instagram увеличивается количество расстройств пищевого поведения. Последствия и вред [социальных сетей] очень ясны, помимо разрушения демократии — более того, это рост фашизма.

IV. Свобода слова против контроля информации?

■ Сук Чжон Ли: Сегодня мы ведем постоянные дебаты о социальных сетях и их ужасном дезинформационном эффекте. Но как журналист, сталкиваясь с противоречивыми принципами, а именно свободой выражения мнений и защитой частной жизни и человеческого достоинства, как вы находите компромисс между ними?

■ Мария Ресса: Ложно говорить, что они сталкиваются, потому что это не вопрос свободы слова. Это на самом деле вопрос «контроля информации». Новостные организации должны были быть стражами общественного пространства, и читатели могли привлекать [СМИ] к ответственности. Если они распространяли или повторяли ложь, на них могли подать в суд.

В настоящее время технологические компании зарабатывают больше денег на слежке ради прибыли. У нас даже не было названия для этой бизнес-модели до 2019 года, когда Шошана Зубофф написала книгу «Эпоха надзорного капитализма». В этой книге подробно описывается, как эти технологические компании используют машинное обучение для создания моделей, которые знают нас лучше, чем мы сами себя. Эти модели затем собираются искусственным интеллектом и становятся базой данных, используемой для микротаргетинга.

Микротаргетинг — это не старая рекламная стратегия, которую мы знаем. Он знает ваш самый уязвимый момент для сообщения и продает его. Эта модель рекламного маркетинга теперь используется геополитическими державами. Мы видели эксперименты раньше, но эта эксплуатация действительно началась в 2014 году, когда российская дезинформация начала нацеливаться на Крым, Америку и даже Корею. Поскольку они добились успеха, их методы были воспроизведены в разных странах по всему миру. Это одна из причин, по которой мы видим избрание нелиберальных лидеров демократическим путем, потому что если нет честности фактов, то нет и честности выборов.

V. Влияние социальных сетей на глобальную информационную экосистему

■ Сук Чжон Ли: Если расширить эту дискуссию на Северную Корею, где не только нелиберальный лидер, но и полностью закрытое общество с промытыми мозгами людей, то какой была бы хорошая возможность для демократических стран вмешаться в сознание северокорейцев по вопросам свободы и демократии? Думали ли вы о северокорейцах?

■ Мария Ресса: Если вы посмотрите на сегодняшний мир, у нас есть несколько случаев. Когда Россия вторглась в Украину, мир объединился, отреагировал, и МУС выдал ордер на арест. Это самая быстрая реакция мира со времен Второй мировой войны. Сирия, например, была очень разрозненной.

Люди думали, что демократия не нуждается в особой заботе и что она переживет все эти «смерти от тысячи порезов». У вас также есть Тайвань, который поглощен информационными операциями материкового Китая. У вас есть Кореи, и вы видите их на разных стадиях этого процесса.

Меня беспокоит то, что если мы не предпримем ничего существенного в отношении нашей информационной экосистемы, мы закончим как Северная Корея. Когда вы говорите, что Северная Корея промывает мозги, я говорю, что социальные сети — это система модификации поведения.

6 января 2021 года мы впервые увидели насилие на Капитолийском холме. 8 января этого года мы увидели насилие в Бразилии. Одним из аспектов, который еще недостаточно исследован, является роль YouTube, например, в Бразилии, в Соединенных Штатах, на Филиппинах и в Южной Корее. В исследовании Института Бельфера Гарвардского университета были сгруппированы алгоритмы YouTube по вирусу Зика, COVID, а также по Жаиру Болсонару. Их результаты показали, что Болсонару, крайне правая фигура, смог избраться благодаря алгоритмам YouTube. Рекомендуемый алгоритмами контент сгруппировал крайне правых, которые никогда не смогли бы найти друг друга в реальном мире. Они были слишком маргинальны, но у них была общая террористическая идея: враг моего врага — мой друг. Вот что произошло — кластеризующий алгоритм рекомендательных систем обеспечил базу поддержки.

Создал ли тот же кластеризующий алгоритм насилие 6 января 2021 года? Я возвращаюсь к Юрию Андропову, бывшему председателю КГБ, который говорил о дезинформации таким образом, что демократические страны воспринимают это всерьез. Он сказал: «Дезинформация — это как кокаин — нюхнешь раз или два, это может не изменить твою жизнь. Но если употреблять ее каждый день, она сделает тебя зависимым — другим человеком». Вот где мы находимся в 2023 году после того, как алгоритмы использовали нас и наши данные, чтобы изменить то, как мы думаем и действуем, через наши эмоции.

■ Ли Сок Чжон: Спасибо. Есть ли у вас какие-либо комментарии для Исследовательской сети по вопросам демократии в Азии?

■ Мария Ресса: Последнее, что я хотела бы добавить относительно ADRN: наше исследование будет неполным, если мы не получим доступ к большим данным. Крупные технологические компании обладают этими данными о нас, и, честно говоря, это единственный способ привлечь их к ответственности. Это почти так, как если бы мы были в темноте, бросая спагетти в стену, когда у них есть ресурсы, а у нас нет.

Большое спасибо, что пригласили.

■ Мария Ресса является основателем, генеральным директором и исполнительным редактором Rappler, ведущего цифрового новостного сайта, который возглавляет борьбу за свободу прессы на Филиппинах. В октябре 2021 года Мария была одной из двух журналистов, удостоенных Нобелевской премии мира за «усилия по защите свободы выражения мнений, которая является предпосылкой для демократии и прочного мира». Среди множества других наград за принципиальную позицию она получила престижную премию «Золотое перо свободы», Международную журналистскую премию Найта, Премию за свободу прессы имени Гвен Ифилл, Журналистскую премию Шоренштейна, Журналистскую премию Колумбийского университета и Премию Сергея Магнитского. Ресса работает журналистом в Азии более 30 лет, большую часть этого времени — в качестве руководителя бюро CNN в Маниле, затем в Джакарте. В 2005 году она возглавила ABS-CBN News and Current Affairs и в течение шести лет руководила более чем 1000 журналистов в крупнейшей мультиплатформенной новостной службе Филиппин.

■ Редактор и составительПак Чжи Су, научный сотрудник EAI

    По вопросам: 02 2277 1683 (доб. 208) | jspark@eai.or.kr

Видеоскрипт

иностранная аудитория Института Восточной Азии. Сегодня я, вы знаете, это прекрасная возможность пообщаться с Марией Рессой, известной журналисткой и лауреатом Нобелевской премии мира 2021 года. Мария активно боролась не только на Филиппинах, но и на международном уровне. Поэтому я хотел бы задать Марии несколько вопросов. Мария, большое спасибо, что нашли время поговорить со мной для аудитории EAI. Я так рада, что нам удалось это устроить. Да, это хорошо, что я здесь. Спасибо, что пригласили. Мне интересно

поскольку вам пришлось столкнуться с 10 ордерами на арест во время правления Дутерте, после того как пришло новое правительство, сын бывшего президента Маркоса-младшего, которого мы называем Бонго Маркос, улучшилась ли ситуация со свободой СМИ при новом правительстве? Это мой первый вопрос. Да, я думаю, вы знаете, странно, меня часто спрашивают об этом, и я почти сразу отвечаю «да». И, знаете, я указываю на то, что только в январе этого года против меня было выдвинуто четыре обвинения в уклонении от уплаты налогов, уголовные обвинения, которые могли бы привести меня в тюрьму на 34 года.

и Rappler также были предъявлены смехотворные уголовные обвинения в уклонении от уплаты налогов. И после четырех лет и двух месяцев три судьи Апелляционного суда по налоговым делам отклонили их. Нас оправдали. И когда вы читаете приговор, вы на самом деле понимаете, как это дошло до суда. Я думаю, что судьи постепенно, вы видите, что независимая судебная система начинает работать, что означает, что сдержки и противовесы постепенно возвращаются. Так что я думаю, это первый шаг, знаете, при прошлой администрации.

это была тактика преследования и запугивания, чтобы заставить журналистов добровольно отказаться от своих прав, верно? Что люди назвали бы «эффектом замораживания», я бы назвал это Сибирью. Мы жили в Сибири в тот период, и за отстаивание власти были свои издержки. Еще слишком рано, но президент Маркос, единственный сын и тезка Фердинанда Маркоса, которого обвиняли в краже 10 миллиардов долларов США в долларах 1986 года, провел больше своих первых ста дней за пределами Филиппин. Ему небезразлично, что думает остальной мир.

мир думает, что он имеет. Я думаю, что вы видите лидера страны, который также стремится оправдать имя своей семьи, и поэтому я надеюсь, что он прислушается и продолжит, как и его отец, фокусироваться на экономике. Это трудное время для всего мира, и, э-э, экономика Филиппин значительно лучше, чем на Западе, э-э, но сможет ли это воплотиться в реальные, э-э, в реальные политические решения, которые помогут нашему народу, — вот в чем заключается предстоящая задача. Я очень рад, что ситуация со свободой СМИ улучшилась, но, знаете ли

мы были так низко, что все было лишь небольшим улучшением, и друзья на Филиппинах говорили о возможном отступлении при новом президенте. Да, потому что он может, вы знаете, попытаться легитимизировать наследие своего отца и авторитарную часть вашей страны. Я думаю, что это происходит почти во всех странах мира. Вы знаете, мы испытываем историю, и с подъемом крайне правых, с подъемом, когда ложь распространяется быстрее фактов на платформе доставки информации, на технологических

платформах, в социальных сетях, это делает каждую часть истории спорной, верно? Факты спорны, тогда все. И то, что у нас есть в социальных сетях, — это два работающих алгоритма. Во-первых, это алгоритм «друзья друзей» в Facebook, который, по сути, поляризовал нас. Мы видели это на Филиппинах в 2016 году, когда был избран Дутерте: если вы были за Дутерте, вы двигались дальше вправо, если вы были против Дутерте, вы двигались дальше влево. Вот что произошло в Соединенных Штатах, в Венгрии, в

Бразилии. Вы знаете, вы видите это, но есть рекомендательный движок, и вы видите это на YouTube, вы видите это на Facebook, где, если вы нажмете на видео на YouTube, например, или в Twitter, вам будет предложено, рекомендательный движок предложит вам что-то более экстремистское. Так что есть нисходящая радикализация, есть поляризация и радикализация. Так что ваш вопрос становится более сложным в этой информационной экосистеме для Маркоса и теперь, как бы, знаете, это интересно с Кореей, с Германией

которые видели подъем правых, крайне правых, все это было встроено в наше общество. И группы гражданского общества используют такие тактики, как «назови и опозорь», чтобы определить, что правильно, верно? Но сейчас, когда ложь вознаграждается, мир переворачивается с ног на голову, и это становится спорным. Так что, с точки зрения действий самого президента Маркоса, опять же, поскольку планка была установлена так низко предыдущей администрацией, мы теперь видим немного профессионального управления, профессиональный подход к тому, как он

выступает, он не ругается, политика более ясна, назначения более ясны. Они, эта администрация, прислушиваются к общественной реакции на плохую политику. Но я думаю, несмотря на то, что мы страдали из-за использования закона в качестве оружия, я тоже придерживаюсь мнения, что мы должны быть справедливыми и смотреть на сегодняшние действия, а не обязательно на прошлое, хотя это самая трудная часть: был ли он уклонистом от уплаты налогов? Не платил ли он налоги? Иронично, что теперь он призывает филиппинцев платить налоги. Так что, знаете, у вас есть

это немного, это очень запутанно, знаете, где моральное превосходство? В то же время, вот где я становлюсь немного прагматичной. Моя задача как журналиста в Rappler, наша задача — привлекать власть к ответственности. Мы предоставим вам контекст этого. С премьер-министром Индии Моди, и Моди, и Маркос не могли путешествовать в Соединенные Штаты, но когда они были демократически избраны своим народом, они могли путешествовать. Многие из этих вещей исчезают. Так что он был подавляющим большинством избран.

Так что, я думаю, часть этого заключается в том, что мы должны оставаться бдительными, мы должны продолжать делать истории. У меня все еще есть три дела против Rappler, и у нас все еще есть три уголовных дела. Есть пятое обвинение в уклонении от уплаты налогов, есть дело о киберклевете, есть дело о ценных бумагах, связанное с иностранным контролем. Вы должны быть оптимистичны, иначе это может быть изнурительно. Хорошо. Ну, вы упомянули так много разных точек зрения на прошлую историю. Да, и это происходит и в Корее, относительно колониального периода.

Да, а также авторитарный период, верно? И это очень, очень разделяет наше гражданское общество, не говоря уже обо всех политиках, верно? И у нас так много СМИ, не только газет, но и YouTube и социальных сетей, да. Так что трудно понять, есть ли правда, или разделенное общество может пойти на компромисс или прийти к консенсусу относительно исторических интерпретаций. Так в такой среде, какой был бы хороший совет по контролю над этой дезинформацией, а также поощрению разделенного общества, чтобы оно пришло к большему конструктивному общему знаменателю?

Да, так вот, вы знаете, я всегда чувствовала, что Корея была в лучшем положении. Знаете, отчасти, я имею в виду, это когда мы возвращаемся к цитате Милана Кундеры: «Борьба человека против власти — это борьба памяти против забвения». И дизайн социальных сетей сегодня фактически превращает ложь в факт. Ложь, сказанная миллион раз, становится фактом. Я сказала это на Нобелевской лекции. Теперь это стало индивидуальной битвой за честность и индивидуальный баланс

фактов, индивидуальной битвой за ценности. Именно поэтому здорово, что Корея проводит не только второй саммит по вопросам демократии региональной группы, но и будет проводить следующий. Хорошо, что третий саммит по вопросам демократии пройдет в Азии, которая, кстати, согласно последнему отчету V-Dem, в Азиатско-Тихоокеанском регионе наблюдается худший спад качества наших демократий в мире. Знаете, остальной мир вернулся к уровням 1986 года, а в Азиатско-Тихоокеанском регионе — к уровням 1978 года. Так что же является решением? Во-первых, вы

все еще имеете часть этого из-за культуры Кореи. Традиционные новостные организации по-прежнему обладают значительной властью. Они теряют контроль над бизнесом, бизнес-модель быстро умирает. И я думаю, интересно, что в Корее Google не является номером один, Naver — да, но эти новостные организации отказались от значительной власти и отношений в пользу Naver. Я думаю, что Корее нужно сделать то же самое, что мы продвигаем в ЕС, выступая за, я думаю, это правильное слово

часть этого заключается в том, что я устала от игры «крыса-крот», либо модерации контента, либо попыток бороться с 90, 90 сообщениями в час. Это невозможно. Мы не должны бороться с этим на нижнем уровне, мы должны бороться на верхнем. Так что в долгосрочной перспективе, во-первых, это образование, в среднесрочной — законодательство, а в краткосрочной — осознание того, что нами коварно манипулируют, что наша биология, наши эмоции используются против нас, и что, знаете, в социальных сетях, это исследование MIT 2018 года

ложь распространяется как минимум в шесть раз быстрее фактов, и если она включает подстрекательство к ненависти, подстрекательство к страху, подстрекательство к трайбализму, это часть причины, по которой мы так поляризованы. Это создано, это апеллирует к худшему в человеческой природе, к худшему в обществе. И воздействие не только на индивидуальном уровне, оно социологическое, на групповом уровне. Мы ведем себя по-разному в группах. Знаете, я вернулась, в своей книге я говорила об исследовании Милгрэма, где это исследование было проведено, и оно фактически должно было быть

проведено в Германии. Стэнли Милгрэм провел его, и он не проводил его в Германии, он провел его в Соединенных Штатах в кампусе. И испытание заключалось в следующем: вы были проинструктированы, так, за экраном были испытуемые, и вам было сказано, что испытание заключается в том, что вы должны продолжать давать все более и более длительные электрические разряды людям, которых вы видите, и тогда они видят, как человек страдает все больше и больше, кто фактически действует для испытуемого, и тем не менее, под властью они продолжали давать электрические разряды, верно?

есть что-то в нас, когда мы находимся в группах, когда авторитет дает нам разрешение быть худшими самими собой, мы делаем это. И вот здесь, знаете, некоторые предупреждения, например, Тимоти Снайдера в «О тирании»: «Не следуйте за толпой». Так это второй уровень. Третий уровень — это человеческое поведение, эмерджентное человеческое поведение, наша эволюция как вида. Это вызывает привыкание. У молодого поколения более высокий уровень депрессии, бессонницы. Один из внутренних отчетов Meta, Facebook, который был одним из десяти тысяч

плюс документов, выпущенных информатором Фрэнсис Хауген, фактически показал, что у девочек-подростков в Instagram увеличивается количество расстройств пищевого поведения. Вред очевиден, помимо, да, убийства демократии, фактически более того — это подъем фашизма. Хорошо. Вы знаете, мы не много обсуждали этот мир социальных сетей, а также этот ужасный эффект дезинформации, но как журналист, когда вы сталкиваетесь с противоречивым принципом, а именно свободой выражения мнений, и другим принципом

защиты конфиденциальности, как примирить, когда эти два принципа сталкиваются? Ложно говорить, что они сталкиваются, потому что это не вопрос свободы слова, верно? Это на самом деле вопрос глубокого хранения, где новостные организации были привратниками общественного пространства. Вы могли бы привлечь нас к ответственности, если бы мы распространили ложь, если бы мы повторили ложь, нас могли бы засудить. Прямо сейчас технологические компании зарабатывают больше денег на слежке ради прибыли, и у нас даже не было названия для этой бизнес-модели до 2019 года, когда Шашана Зубофф написала

«Капитализм слежки», и «Капитализм слежки» фактически описывает, как эти технологические компании используют машинное обучение для создания моделей нас, которые знают нас лучше, чем мы сами. И знаете, я пережила это и вижу это. Эти модели затем собираются ИИ, и это становится основной базой данных, которая используется для микротаргетинга. Микротаргетинг — это не старая реклама, которую мы знаем. Микротаргетинг знает ваш самый слабый момент, чтобы отправить сообщение и продать его. И эти маркетинговые модели

начались так, а теперь эксплуатируются геополитической силой. Эта эксплуатация началась в 2014 году, как мы видели эксперименты. Но в 2014 году российская дезинформация начала нацеливаться на Крым, начала нацеливаться на Америку, начала нацеливаться на Корею. Я имею в виду, это некоторые из вещей, и поскольку они добились успеха, и они добились успеха, это было воспроизведено в разных странах по всему миру. Часть причины, по которой мы видим избрание нелиберальных лидеров демократическим путем, заключается в том, что если у вас нет целостности фактов, у вас не может быть целостности

выборов, верно? Если мы расширим эту дискуссию до Северной Кореи, это не просто нелиберальный лидер, это полностью закрытое общество, и люди подвергаются индоктринации, будь то хороший способ для демократов вмешаться в, знаете, психику северокорейцев относительно этих вопросов свободы и демократии. Думали ли вы о случае с Северной Кореей? Я имею в виду, если вы посмотрите на сегодняшний мир, у нас есть несколько случаев: Россия вторглась в Украину, мир объединился, отреагировал, и теперь МУС выдал

ордер на арест. Это самая быстрая реакция мира со времен Второй мировой войны, верно? Сирия, например, была очень разрозненной. Люди думали: «Ну, демократия не нуждается в особой заботе, она переживет все это». Я назвал это «смертью от тысячи порезов», исходя из идеи Аль-Каиды, что это способ борьбы. У вас есть Тайвань, который поглощен информационными операциями Китая, верно? Тайвань отдельно от Китая. А затем у вас есть Южная Корея и Северная Корея, у вас есть корейцы, и я думаю

вы видите их как бы на разных стадиях этого. И меня беспокоит то, что если мы не предпримем ничего существенного в отношении нашей информационной экосистемы, мы закончим как Северная Корея. Потому что подумайте об этом: в январе 2021 года, 6 января, мы впервые увидели насилие на Капитолийском холме в США. Да, это, знаете, когда вы говорите, что Северная Корея промывает мозги, я говорю, что социальные сети — это система модификации поведения. И поскольку это происходит в эхо-камерах, как далеко это зайдет? Мы видели насилие 6 января в Соединенных Штатах, мы видели

насилие 8 января этого года в Бразилии. И знаете, одна из вещей, которая увлекательна, и об этом недостаточно исследований, но роль YouTube, например, в Бразилии, в Соединенных Штатах, на Филиппинах, в Корее. Потому что YouTube, это исследование Института Бельфера, опубликованное Институтом Бельфера в Гарварде. По сути, они начали работать над кластеризующими алгоритмами YouTube и Зика до COVID, а затем работали над Болсонару. И что они показали, это

что Болсонару был крайне правым маргиналом, но, по сути, он был выдвинут в центр, стал президентом благодаря алгоритмам YouTube, которые, рекомендуя контент, сгруппировали крайне правых, маргиналов, каждую теорию заговора, которые в реальном мире никогда бы не смогли найти друг друга. Они были слишком маргинальны, но у них было общее, это террористическая идея: враг моего врага — мой друг. Вот что, по сути, произошло, и этот кластеризующий алгоритм рекомендательных

систем обеспечил базу поддержки. Это, согласно книге Макса Фишера «Машина хаоса», он утверждает, что это привело Болсонару к президентству. И если вы посмотрите, является ли это тем же кластеризующим алгоритмом, который создал насилие 8 января? Вернемся к Юрию Андропову, бывшему председателю КГБ, и он говорил о дезинформации таким образом, что, я думаю, мы в демократических странах не воспринимаем это всерьез. Его цитата такова: он сказал, «дезинформация — это как кокаин.

Примешь раз или два, ты в порядке, но если принимать постоянно, ты изменишься. Вот где мы находимся в 2023 году после того, как алгоритмы использовали нас и наши данные, чтобы изменить то, как мы думаем через наши эмоции, и, в конечном итоге, то, как мы действуем. Да, это было увлекательно. Я уверена, что наша аудитория многое узнала от Марии Рессы, которая имеет такой большой опыт в онлайн-медиа, а также, знаете, борется за демократию. Кто-то еще сказал: большое спасибо, что нашли время поговорить об этой проблеме.