[Интервью EAI] Гейткипинг спасает демократию: как фейковые новости наводняют Азию

Ссылка на YouTube: https://www.youtube.com/watch?v=HZXHNN9JYNI

31 марта 2023 года EAI пригласил Марию Рессу, генерального директора Rappler и лауреата Нобелевской премии мира 2021 года, чтобы поделиться своим видением улучшения свободы СМИ в Азии и борьбы с дезинформацией в социальных сетях. Ресса оценивает текущее состояние свободы прессы на Филиппинах и оставшиеся препятствия. Она предупреждает, что дезинформация, распространяемая алгоритмами социальных сетей, использует особенности поведения и мышления пользователей. Наконец, Ресса призывает мировую аудиторию добиваться изменений в информационном пространстве для преодоления политической поляризации и радикализации, вызванных неконтролируемым распространением фейковых новостей.

■ Ли Сок Чжон: Здравствуйте все, для меня большая честь иметь сегодня с нами Марию Рессу. Она — известный журналист и лауреат Нобелевской премии мира, которая очень активно работает не только на Филиппинах, но и на международном уровне. Мария, большое спасибо за ваше время.

■ Мария Ресса: Я очень рада, что все получилось. Приятно быть здесь. Спасибо, что пригласили.

I. Уровень свободы СМИ на Филиппинах после правительства Дутерте

■ Ли Сок Чжон: Во время правления Дутерте вам было выдано 10 ордеров на арест. Поскольку на Филиппинах сейчас новый президент, Бонгбонг Маркос, сын бывшего президента, я хотела бы спросить, улучшилась ли свобода СМИ.

■ Мария Ресса: Меня часто об этом спрашивают, и я сразу отвечаю: «Да».

В январе мне предъявили четыре обвинения в уклонении от уплаты налогов, которые могли привести к тюремному заключению на 34 года. Rappler также обвинили в смехотворном уголовном уклонении от уплаты налогов. Спустя четыре года и два месяца три судьи Апелляционного суда по налоговым делам отклонили обвинения, и мы были оправданы. И когда читаешь приговор, действительно задумываешься: «Как это вообще дошло до суда?» Независимая судебная система медленно восстанавливается, что означает, что механизмы сдержек и противовесов постепенно возвращаются. Так что это первый шаг. Последняя администрация использовала тактику преследований и запугивания, чтобы журналисты добровольно отказались от своих прав, что многие назвали «эффектом замораживания». Я бы назвала это «Сибирью». Мы жили в «Сибири» в тот период, и за отстаивание своей позиции против власти пришлось заплатить.

Еще слишком рано говорить, но президент Бонгбонг Маркос, единственный сын и тезка Фердинанда Маркоса, которого обвиняли в краже 10 миллиардов долларов США в 1986 году, провел большую часть своих первых 100 дней за пределами Филиппин. Его волнует мнение остального мира, и он также стремится восстановить доброе имя своей семьи. Я надеюсь, что он прислушается и продолжит фокусироваться на экономике, как это делал его отец. Это трудное время для мира после COVID. Хотя темпы роста Филиппин значительно лучше, чем на Западе, вопрос в том, приведет ли это к реальной политике, помогающей нашим людям, — это предстоящий вызов.

Мы были так низко в прошлом, что любое улучшение является заметным.

II. Наследие репрессий СМИ Дутерте и путь Филиппин вперед

■ Ли Сок Чжон: Друзья на Филиппинах говорили о возможном негативном отклике при новом президенте, поскольку он может попытаться легитимизировать наследие своего отца и авторитарный период вашей страны. Каково ваше мнение по этому поводу?

■ Мария Ресса: Это происходит почти во всех странах мира. Мы испытываем историю на прочность.

С подъемом крайне правых и с распространением лжи быстрее, чем фактов, через социальные сети, каждая часть истории становится предметом споров. Факты становятся предметом споров.

Все, что мы видим в социальных сетях, работает на двух алгоритмах: первый — это алгоритм Facebook «друзья друзей», который, по сути, поляризует нас. Мы видели, как это произошло на Филиппинах в 2016 году, когда был избран Дутерте. Если вы были сторонником Дутерте, вы двигались дальше вправо. Если вы были против Дутерте, вы двигались дальше влево. Это то, что произошло в Соединенных Штатах, в Венгрии и в Бразилии.

[Второй алгоритм — это] рекомендательная система YouTube и Facebook, где, если вы кликаете на видео в социальных сетях, рекомендательная система предлагает что-то более экстремистское. Таким образом, происходит поляризация и нисходящая радикализация. [Оба] встроены в наше общество, а группы гражданского общества использовали такие тактики, как «назови и опозорь», чтобы определить, что является «правильным». Но когда ложь вознаграждается, мир переворачивается с ног на голову, и это становится предметом споров.

Ваш вопрос становится более сложным для Маркоса в этой информационной среде. С точки зрения действий, поскольку предыдущая администрация установила очень низкую планку, мы теперь наблюдаем некоторую профессионализацию управления со стороны нового президента. Он появляется и не ругается. Политика более ясна, и назначения более четкие. Эта администрация прислушивается к общественной реакции на плохую политику; однако, несмотря на то, что мы пострадали от использования права в качестве оружия, я также придерживаюсь мнения, что мы должны быть справедливыми и смотреть на сегодняшние действия, а не обязательно на прошлое. Был ли он налоговым уклонистом? Не платил ли он налоги? Иронично, что теперь он призывает филиппинцев платить налоги.

Так что это очень запутанно — где моральное превосходство? В то же время, именно здесь я становлюсь немного прагматичной. Как журналист Rappler, моя задача — привлекать власть к ответственности. Мы предоставим вам контекст этого. И премьер-министр Индии Моди, и президент Филиппин Маркос не могли путешествовать в Соединенные Штаты. Но когда они были демократически избраны своим народом, они могли путешествовать. Многие из этих проблем исчезают. И они были подавляющим большинством избраны. Поэтому мы должны оставаться бдительными и продолжать делать репортажи.

У Rappler и у меня все еще есть три уголовных дела. Есть пятое обвинение в уклонении от уплаты налогов, дело о киберклевете и дело о ценных бумагах, связанное с иностранным контролем. Мы должны быть оптимистами; в противном случае это может быть изнурительно.

III. Решения для политической поляризации, вызванной дезинформацией в социальных сетях

■ Ли Сок Чжон: Вы упомянули множество различных точек зрения на историю, и это происходит и в Корее в отношении ее колониального, авторитарного периода. Это разделяет наше гражданское общество, не говоря уже о наших политиках. У нас есть не только газеты, но и YouTube и социальные сети, которые затрудняют нам понимание того, есть ли истина, или может ли разделенное общество пойти на компромисс или прийти к консенсусу относительно исторических интерпретаций. В такой среде, какой будет хороший совет по контролю информации и поощрению разделенной политики к выработке более конструктивной общей почвы?

■ Мария Ресса: Прежде всего, я всегда чувствовала, что Корея находится в лучшем положении. Возвращаясь к цитате Милана Кундеры: «Борьба человека с властью — это борьба памяти с забвением».

Дизайн социальных сетей сегодня превращает ложь в факт — ложь, сказанная миллион раз, становится фактом. Как я сказала в своей Нобелевской речи, это стало индивидуальной битвой за честность, за факты и за ценности.

Вот почему замечательно, что Корея не только провела региональное совещание второго Саммита за демократию, но и будет принимать следующий Саммит. Хорошо, что третий Саммит за демократию пройдет в Азиатско-Тихоокеанском регионе, где, согласно последнему отчету V-Dem, наблюдается самое сильное падение качества наших демократий в мире. Остальной мир вернулся к уровням 1986 года. В Азиатско-Тихоокеанском регионе мы находимся на уровне 1978 года.

Итак, в чем решение? Во-первых, благодаря культуре Кореи, традиционные новостные организации по-прежнему обладают значительной властью. Они теряют контроль над бизнесом, и их бизнес-модель быстро умирает. Интересно, что в Корее Google не номер один, а Naver. Но корейские новостные организации отдали слишком много власти и отношений Naver. Мы не должны бороться вниз по течению; мы должны бороться вверх по течению. Таким образом, долгосрочное решение — это образование.

Среднесрочное решение — это законодательство, а краткосрочное — осознание того, что мы коварно манипулируемся социальными сетями. Наша биология, наши эмоции используются против нас. И в социальных сетях, согласно исследованию MIT 2018 года, ложь распространяется как минимум в 6 раз быстрее, чем факты. Тот факт, что [эта ложь] разжигает ненависть, страх и трайбализм, является частью причины нашей сильной поляризации. Они апеллируют к худшим сторонам человеческой природы, общества, и воздействие происходит не только на индивидуальном уровне, но и социологически на групповом уровне.

Мы ведем себя по-разному в группах. В своей книге я говорила об эксперименте Милгрэма с шоком, в котором испытуемые находились за экраном, а участникам было приказано продолжать давать все более сильные электрические разряды испытуемым и наблюдать, как они все больше и больше. Под влиянием авторитета участники продолжали давать электрические разряды. Когда мы находимся в группах и когда авторитет дает нам разрешение вести себя наихудшим образом, мы это делаем. Вот где вступают в силу некоторые предупреждения из книги Тимоти Снайдера «О тирании», такие как «Не следуйте за толпой». Это второй уровень.

Третий уровень — это эмерджентное человеческое поведение нашей эволюции как вида. Это вызывает привыкание. Наше молодое поколение испытывает более высокий уровень депрессии и бессонницы. Один из внутренних отчетов Meta, который был одним из более чем 10 000 документов, опубликованных разоблачителем Фрэнсис Хауген, фактически показал, что у молодых девушек-подростков в Instagram повышается уровень расстройств пищевого поведения. Последствия и вред [социальных сетей] очень ясны, помимо разрушения демократии — более того, это рост фашизма.

IV. Свобода слова против гейткипинга?

■ Ли Сок Чжон: Сегодня у нас идут дебаты о социальных сетях и их ужасном дезинформационном эффекте. Но как журналист, сталкиваясь с противоречивыми принципами, а именно свободой выражения мнений и защитой частной жизни и человеческого достоинства, как вы примиряете их?

■ Мария Ресса: Ложно говорить, что они сталкиваются, потому что это не вопрос свободы слова. Это на самом деле вопрос «гейткипинга». Новостные организации должны были быть гейткиперами общественного пространства, и читатели могли привлекать [СМИ] к ответственности. Если они распространяли или повторяли ложь, их могли привлечь к суду.

В настоящее время технологические компании зарабатывают больше денег на слежке ради прибыли. У нас даже не было названия для этой бизнес-модели до 2019 года, когда Шошана Зубофф написала «Эпоху надзорного капитализма». Эта книга подробно описывает, как эти технологические компании используют машинное обучение для создания моделей, которые знают нас лучше, чем мы сами себя. Эти модели затем собираются искусственным интеллектом и становятся основной базой данных, используемой для микротаргетинга.

Микротаргетинг — это не старая рекламная стратегия, которую мы знаем. Он знает ваш самый слабый момент для сообщения и продает его. Эта модель рекламного маркетинга теперь эксплуатируется геополитическими силами. Мы видели эксперименты раньше, но эта эксплуатация действительно началась в 2014 году, когда российская дезинформация начала нацеливаться на Крым, Америку и даже Корею. Поскольку они добились успеха, их методы были воспроизведены в разных странах по всему миру. Это одна из причин, по которой мы видим, как нелиберальные лидеры избираются демократическим путем, потому что если у вас нет целостности фактов, у вас не может быть целостности выборов.

V. Влияние социальных сетей на глобальную информационную экосистему

■ Ли Сок Чжон: Если мы расширим эти дебаты на Северную Корею, где не только нелиберальный лидер, но и полностью закрытое общество с промытыми мозгами людей, какой будет хороший способ для демократий вмешаться в психику северокорейцев по вопросам свободы и демократии? Думали ли вы о северокорейцах?

■ Мария Ресса: Если вы посмотрите на сегодняшний мир, у нас есть несколько случаев. Когда Россия вторглась в Украину, мир объединился, отреагировал, и Международный уголовный суд выдал ордер на арест. Это самая быстрая реакция мира со времен Второй мировой войны. Сирия, например, была очень разрозненной.

Люди думали, что демократия не нуждается в развитии и что она переживет все эти «смерти от тысячи порезов». У вас также есть Тайвань, который поглощен информационными операциями материкового Китая. У вас есть Кореи, и вы видите их на разных стадиях этого.

Меня беспокоит то, что если мы не предпримем ничего существенного в отношении нашей информационной экосистемы, мы закончим как Северная Корея. Когда вы говорите, что Северная Корея промывает мозги, я говорю, что социальные сети — это система модификации поведения.

6 января 2021 года мы впервые увидели насилие на Капитолийском холме. 8 января этого года мы увидели насилие в Бразилии. Одним из аспектов, который еще недостаточно исследован, является роль YouTube, например, в Бразилии, в Соединенных Штатах, на Филиппинах и в Южной Корее. В исследовании Института Бельфера Гарвардского университета были сгруппированы алгоритмы YouTube по вирусу Зика, COVID, а также по Жаиру Болсонару. Их результаты показали, что Болсонару, крайне правый деятель, смог избраться благодаря алгоритмам YouTube. Контент, рекомендованный алгоритмами, сгруппировал крайне правых, которые никогда не смогли бы найти друг друга в реальном мире. Они были слишком маргинальны, но у них была общая террористическая идея, что враг моего врага — мой друг. Вот что произошло — алгоритм кластеризации рекомендательных систем обеспечил базу поддержки.

Создал ли тот же алгоритм кластеризации насилие 6 января 2021 года? Я возвращаюсь к Юрию Андропову, бывшему председателю КГБ, который говорил о дезинформации таким образом, что демократические страны воспринимают это всерьез. Он сказал: «Дезинформация — это как кокаин — вдохни раз или два, это может не изменить твою жизнь. Но если употреблять ее каждый день, она сделает тебя зависимым — другим человеком». Вот где мы находимся в 2023 году после того, как алгоритмы использовали нас и наши данные, чтобы изменить то, как мы думаем и действуем через наши эмоции.

■ Ли Сок Чжон: Спасибо. Есть ли у вас какие-либо комментарии для Исследовательской сети по вопросам демократии в Азии?

■ Мария Ресса: Последнее, что я хотела бы добавить относительно ADRN, это то, что наши исследования будут неполными, если мы не получим доступ к большим данным. Крупные технологические компании обладают этими данными о нас, и, честно говоря, это единственный способ привлечь их к ответственности. Это почти так, как если бы мы были в темноте, бросая спагетти в стену, когда у них есть ресурсы, а у нас нет.

Большое спасибо, что пригласили.

■ Мария Ресса является основателем, генеральным директором и исполнительным редактором Rappler, ведущего цифрового новостного издания, которое возглавляет борьбу за свободу прессы на Филиппинах. В октябре 2021 года Мария стала одним из двух журналистов, удостоенных Нобелевской премии мира за «усилия по защите свободы выражения мнений, которая является предпосылкой для демократии и прочного мира». Среди множества других наград за принципиальную позицию она получила престижную премию «Золотое перо свободы», Международную журналистскую премию Найта, Премию за свободу прессы Шорн Ифилл, Журналистскую премию Шоренштейна, Журналистскую премию Колумбийского университета и Премию Сергея Магнитского. Ресса работает журналистом в Азии более 30 лет, большую часть из которых была главой бюро CNN в Маниле, затем в Джакарте. В 2005 году она возглавила ABS-CBN News and Current Affairs и в течение шести лет руководила более чем 1000 журналистов в крупнейшей мультиплатформенной новостной организации на Филиппинах.

■ Набор текста Джису Пак, научный сотрудник

    По вопросам: 02 2277 1683 (доб. 208) | jspark@eai.or.kr

Видеоскрипт

иностранная аудитория Института Восточной Азии. Сегодня я, вы знаете, это очень большая возможность иметь Марию Рессу, известного журналиста и лауреата Нобелевской премии мира 2021 года. Мария очень активно боролась не только на Филиппинах, но и на международном уровне. Поэтому я хотел бы задать Марии несколько вопросов. Мария, спасибо вам большое, что нашли время поговорить со мной для аудитории EAI. Нет, я очень рада, что у нас получилось. Да, это хорошо, что я здесь. Спасибо, что пригласили. Мне интересно

потому что вам пришлось столкнуться с 10 ордерами на арест во время правительства Дутерте. После того, как у вас появилось новое правительство, сын бывшего президента Маркоса-младшего, мы называем его Бонго Маркос, верно? Улучшилась ли ситуация со свободой СМИ при новом правительстве? Это мой первый вопрос. Да, я думаю, вы знаете, странно, меня часто спрашивают об этом, и я скажу почти немедленно: да. И, знаете, я указываю на то, что только в январе этого года у меня было четыре обвинения в уклонении от уплаты налогов, уголовные обвинения, которые могли бы привести меня в тюрьму на 34 года.

и Rappler также были предъявлены смехотворные уголовные обвинения в уклонении от уплаты налогов. Через четыре года и два месяца три судьи Апелляционного суда по налоговым делам отклонили их. Мы были оправданы. И когда вы читаете приговор, вы на самом деле понимаете, как это дошло до суда. Я думаю, что судьи медленно, вы видите, как независимая судебная система возвращается, что означает, что сдержки и противовесы медленно возвращаются. Так что я думаю, это первый шаг, знаете ли, при прошлой администрации.

это была тактика преследования и запугивания, чтобы журналисты добровольно отказались от своих прав, верно? Что люди назвали бы «эффектом замалчивания», я бы назвал это Сибирью. Мы жили в Сибири в тот период, и за отстаивание своей позиции перед властью были последствия. Еще слишком рано, но президент Маркос, единственный сын и тезка Фердинанда Маркоса, которого обвиняли в краже 10 миллиардов долларов США в долларах 1986 года, провел больше своих первых ста дней, путешествуя за пределами Филиппин. Ему небезразлично, что думает остальной мир.

мир думает. Я думаю, что вы видите лидера страны, который также стремится оправдать имя своей семьи. И поэтому я надеюсь, что он прислушается и продолжит свой фокус, как и его отец, на экономике. Это трудное время для мира, и филиппинская экономика значительно лучше, чем западная, но перерастет ли это в реальные, в реальные политики, которые помогут нашим людям, это задача на будущее. Я очень рада, что ситуация со свободой СМИ улучшилась, но, знаете ли,

мы были так низко, что все было лишь небольшим улучшением, и друзья на Филиппинах говорили о возможном отскоке при новом президенте. Да, потому что он может, вы знаете, попытаться легитимизировать наследие своего отца и авторитарную часть вашей страны. Я думаю, что это происходит почти во всех странах мира. Знаете, мы испытываем историю, и с ростом крайне правых, с ростом, когда ложь распространяется быстрее фактов на платформе доставки информации через технологии

платформы в социальных сетях делают каждую часть истории спорной, верно? Факты спорны, тогда все, и то, что у нас есть в социальных сетях, это два работающих алгоритма, знаете ли, первый — это алгоритм «друзья друзей» в Facebook, который, по сути, поляризовал нас, верно? Мы видели это на Филиппинах в 2016 году, когда Дутерте был избран. Если вы были за Дутерте, вы двигались дальше вправо, если вы были против Дутерте, вы двигались дальше влево. Вот что произошло в Соединенных Штатах, в Венгрии, в

Бразилии. Знаете, вы видите это, но есть рекомендательный механизм, и вы видите это на YouTube, вы видите это в Facebook, где, если вы кликнете на видео на YouTube, например, или в Twitter, вам будет предложено, рекомендательный механизм принесет вам что-то более экстремистское. Так что есть нисходящая радикализация, есть поляризация и радикализация. Так что ваш вопрос становится более сложным в этой информационной экосистеме для Маркоса и теперь, своего рода, знаете ли, интересно с Кореей, с Германией

которые видели рост правых, крайне правых, все это было встроено в наше общество, и группы гражданского общества используют такие тактики, как «назови и опозорь», чтобы определить, что правильно, верно? Но сейчас, когда ложь вознаграждается, мир переворачивается с ног на голову, и это становится спорным. Так что, с точки зрения действий самого себя, знаете ли, то, что мы видели от президента Маркоса, опять же, поскольку планка была установлена так низко предыдущей администрацией, мы теперь видим немного профессионального управления, профессиональный подход, он

показывает себя, он не ругается, политика более ясна, назначения более ясны. Они, эта администрация, прислушиваются к общественной реакции на плохую политику, но я думаю, несмотря на то, что мы страдали из-за использования закона в качестве оружия, я тоже придерживаюсь мнения, что мы должны быть справедливыми и смотреть на сегодняшние действия, а не обязательно на прошлое, хотя это самая трудная часть: был ли он уклонистом от уплаты налогов? Не платил ли он налоги? Иронично, что он теперь призывает филиппинцев платить налоги. Так что, знаете ли, у вас есть

это немного, это очень запутанно, знаете ли, где моральное превосходство? В то же время, вот где я становлюсь немного прагматичной. Моя задача как журналиста в Rappler, наша задача — привлекать власть к ответственности. Мы предоставим вам контекст этого. С премьер-министром Индии Моди, и Моди, и Маркос не могли путешествовать в Соединенные Штаты, но когда они были демократически избраны своим народом, они могли путешествовать. Многие из этих вещей исчезают. Итак, мы демократически избрали его подавляющим большинством голосов.

Так что, я думаю, часть этого заключается в том, что мы должны оставаться бдительными, мы должны продолжать рассказывать истории. У меня все еще есть три дела против Rappler, и у нас все еще есть три уголовных дела. Есть пятое обвинение в уклонении от уплаты налогов, есть дело о киберклевете, есть дело о ценных бумагах, связанное с иностранным контролем. О, вы должны быть оптимистичны, иначе это может быть изнурительно. Хорошо. Ну, вы упомянули так много разных точек зрения на прошлую историю. Да, и это происходит и в Корее, касательно колониального периода.

Да, а также авторитарный период, верно? Так что это очень, очень разделяет наше гражданское общество, не говоря уже обо всех политиках, верно? И у нас так много СМИ, не только газет, но и YouTube и социальных сетей, да. Так что трудно понять, есть ли правда, или разделенное общество может пойти на компромисс или прийти к консенсусу относительно исторических интерпретаций. Так в такой среде, какой будет хороший совет по контролю над этой дезинформацией, а также поощрению разделенного общества?

прийти к более конструктивному общему знаменателю? Да. Так что, знаете ли, во-первых, я всегда считала, что Корея находится в лучшем положении. Знаете, отчасти, я имею в виду, это когда мы возвращаемся к цитате Милана Кундеры: «Борьба человека против власти — это борьба памяти против забвения», а дизайн социальных сетей сегодня фактически превращает ложь в факт. Ложь, сказанная миллион раз, становится фактом. Я сказала это на Нобелевской лекции. Это теперь стало индивидуальной битвой за честность и индивидуальный баланс.

фактов, индивидуальная битва за ценности, поэтому здорово, что Корея проводит не только второй саммит по вопросам демократии региональной группы, но и будет проводить следующий. Хорошо, что третий саммит по вопросам демократии пройдет в Азии, которая, кстати, по последнему отчету V-Dem, в Азиатско-Тихоокеанском регионе наблюдается худший спад качества наших демократий в мире. Знаете, остальной мир вернулся к уровням 1986 года, а в Азиатско-Тихоокеанском регионе — к уровням 1978 года. Так что, каково решение? Итак, во-первых, вы

все еще имеете часть этого из-за культуры Кореи. Традиционные новостные организации все еще имеют значительную власть. Они теряют контроль над бизнесом, бизнес-модель быстро умирает. И я думаю, интересно, что в Корее Google не номер один, Naver — да, но эти новостные организации отказались от значительной власти и отношений с Naver. Я думаю, то же самое, что Корея, Корея должна сделать то же самое, что мы продвигали в ЕС, выступая за, я думаю, это правильное слово.

часть этого, знаете ли, я устала играть в игру «бей крота» либо модерации контента, либо попыток бороться с 90, 90 сообщениями в час. Это невозможно. Мы не должны бороться с этим вниз по течению, мы должны бороться вверх по течению. Так что в долгосрочной перспективе, во-первых, это образование, в среднесрочной — законодательство, а в краткосрочной — осознание того, что нас коварно манипулируют, что наша биология, наши эмоции используются против нас, и что, знаете ли, в социальных сетях, это исследование MIT 2018 года.

ложь распространяется как минимум в шесть раз быстрее фактов, и если она включает подстрекательство к ненависти, подстрекательство к страху, подстрекательство к трайбализму, это одна из причин, почему мы так поляризованы. Это создает, это апеллирует к худшему в человеческой природе, к худшему в обществе, и воздействие не только на индивидуальном уровне, но и на социологическом, на групповом уровне. Знаете, мы ведем себя по-разному в группах. Я вернулась, в своей книге я говорила об исследовании Милгрэма, где это исследование было проведено, и оно на самом деле, оно должно было быть

проведено в Германии. Стэнли Милгрэм сделал это, и он не делал этого в Германии, он делал это в Соединенных Штатах в кампусе, и тест заключался в том, что вы говорили, что за экраном были испытуемые, и вам говорили, что тест заключался в том, что вы должны продолжать давать все более и более длительные электрические разряды людям, которых вы видите, и тогда они видят, как человек страдает все больше и больше, который, по сути, действует для испытуемого, и тем не менее, под властью они продолжали давать электрические разряды, верно?

есть что-то в нас, когда мы находимся в группах, когда авторитет говорит нам, дает нам разрешение быть худшими самими собой, мы делаем это. И вот здесь, знаете ли, некоторые предупреждения, например, Тимоти Снайдера в «О тирании», это: не следуйте за группой. Это второй уровень. Третий уровень — это человеческое поведение, эмерджентное человеческое поведение, наша эволюция как вида. Это вызывает привыкание. У молодого поколения более высокий уровень депрессии, бессонницы. Один из внутренних отчетов Facebook Meta, который был одним из десяти тысяч

плюс документов, выпущенных разоблачителем Фрэнсис Хауген, фактически показал, что у молодых девушек-подростков в Instagram наблюдается повышенный уровень расстройств пищевого поведения. Вред теперь очень ясен, помимо, да, убийства демократии, на самом деле, более того, это рост фашизма. Хорошо. Знаете, мы не много обсуждали этот мир социальных сетей, а также этот ужасный эффект дезинформации, но как журналист, когда вы сталкиваетесь с противоречивым принципом, а именно свободой выражения мнений и другим принципом

защиты конфиденциальности, как примирить, когда эти два принципа сталкиваются? Ложно говорить, что они сталкиваются, потому что это не вопрос свободы слова, верно? Это на самом деле проблема сохранения информации, где новостные организации были привратниками общественного пространства. Вы могли бы привлечь нас к ответственности, если бы мы распространили ложь, если бы мы повторили ложь, нас могли бы засудить. Прямо сейчас технологические компании зарабатывают больше денег на слежке ради прибыли, и у нас даже не было названия для этой бизнес-модели до 2019 года, когда Шашана Зубофф написала

«Капитализм слежки», и «Капитализм слежки» на самом деле объясняет, как эти технологические компании используют машинное обучение для создания моделей нас, которые знают нас лучше, чем мы сами. И знаете ли, я пережила это и вижу это. Эти модели затем собираются ИИ, и это становится основной базой данных, которая используется для микротаргетинга. Микротаргетинг — это не старая реклама, которую мы знаем. Микротаргетинг знает ваш самый слабый момент, чтобы отправить сообщение и продать его. И эти, эта рекламная маркетинговая модель

началась так, теперь эксплуатируется геополитической силой. Эта эксплуатация началась в 2014 году, как мы видели эксперименты, верно? Но в 2014 году российская дезинформация начала нацеливаться на Крым, начала нацеливаться на Америку, начала нацеливаться на Корею. Я имею в виду, это некоторые из вещей, и поскольку они преуспели, а они преуспели, это было воспроизведено в разных странах по всему миру. Часть причин, по которым мы видим избрание нелиберальных лидеров демократическим путем, заключается в том, что если у вас нет целостности фактов, у вас не может быть целостности

выборов, верно? Если мы расширим эту дискуссию до Северной Кореи, это не просто либеральный лидер, это полностью закрытое общество, и люди подвергаются индоктринации, будь то хороший способ для демократов вмешаться в психику северокорейцев относительно этих всех проблем свободы и демократических проблем. Вы думали о случае с Северной Кореей? Я имею в виду, если вы посмотрите на сегодняшний мир, верно? У нас есть несколько случаев, когда Россия вторглась в Украину, мир объединился, отреагировал, и теперь МУС

выдал ордер на арест. Это самая быстрая реакция мира со времен Второй мировой войны, верно? Сирия, например, была очень разрозненной. Люди думали: «Ну, демократия не нуждается в развитии, она переживет все это». Я назвал это «смертью от тысячи порезов», исходя из идеи Аль-Каиды, что это способ борьбы. У вас есть Тайвань, который поглощен информационными операциями Китая, верно? Тайвань отдельно от Китая, а затем у вас есть Южная Корея и Северная Корея. У вас есть корейцы, и я думаю,

вы видите их как бы на разных стадиях этого. И меня беспокоит то, что если мы не предпримем ничего существенного в отношении нашей информационной экосистемы, мы закончим как Северная Корея. Потому что подумайте об этом так, верно? В январе 2021 года, 6 января, мы впервые увидели насилие на Капитолийском холме в США. Да, это, знаете ли, когда вы говорите, что Северная Корея промывает мозги, я говорю, что социальные сети — это система модификации поведения. И поскольку это эхо-камеры, как далеко это зайдет? Мы видели насилие 6 января в Соединенных Штатах, мы видели

8 января насилие в этом году в Бразилии. И, знаете ли, одна из вещей, которая увлекательна, и об этом недостаточно исследований, но роль YouTube, например, в Бразилии, в Соединенных Штатах, на Филиппинах, в Корее, потому что YouTube, это исследование Института Бельфера, которое было выпущено Гарвардским Институтом Бельфера, по сути, они начали работать над алгоритмами кластеризации YouTube и Зика до COVID, а затем работали над Болсонару. И то, что они показали, было

что Болсонару был крайне правым маргиналом, но, по сути, он был выдвинут в центр, стал президентом благодаря алгоритмам YouTube, которые, рекомендуя контент, группировали крайне правых, каждую теорию заговора, которые в реальном мире никогда бы не смогли найти друг друга. Они были слишком маргинальны, но у них было общее, это террористическая идея: враг моего врага — мой друг. Вот что, по сути, произошло, и этот алгоритм кластеризации рекомендательных систем

обеспечил базу поддержки. Это, согласно книге Макса Фишера, называется «Машина хаоса», он утверждает это. Затем привел Болсонару к президентству. И если вы посмотрите, создал ли тот же алгоритм кластеризации насилие 8 января? Вернемся к Юрию Андропову, бывшему председателю КГБ, и он говорил о дезинформации таким образом, что, я думаю, мы в демократических странах не воспринимаем всерьез. Его цитата такова: он сказал, что дезинформация — это как кокаин.

вы принимаете ее один или два раза, вы в порядке, но если вы принимаете ее все время, вы измененный человек. Вот где мы находимся в 2023 году после того, как алгоритмы использовали нас и использовали наши данные, чтобы изменить то, как мы думаем через наши эмоции, и, в конечном итоге, то, как мы действуем. Да, это было увлекательно. Я уверен, что наша аудитория многому научилась у Марии Рессы, которая так опытна в онлайн-медиа, а также, знаете ли, борется за демократию. Кто-то еще сказал: большое спасибо, что нашли время поговорить об этом вопросе.