[ADRNインタビュー] 政治的二極化および偽ニュース拡散を助長するSNSアルゴリズムと民主主義国家の対応

YouTubeリンク：https://www.youtube.com/watch?v=HZXHNN9JYNI

東アジア研究所（East Asia Institute: EAI）は、アジア民主主義ネットワークプロジェクトの一環として、2021年ノーベル平和賞受賞者であるマリア・レッサ（Maria Ressa）氏、ラプラー（Rappler）CEOを招き、フィリピンを含む域内国家の言論の自由の現状とSNS発の偽ニュースの拡散を防ぐための対策について議論します。レッサ代表は、ビッグテック企業が構築している情報エコシステムが、特定の偏向したニュースや情報のみを選択的に再生産する現象を批判し、虚偽情報を急速に拡散させるソーシャルメディアのアルゴリズムが極右勢力の台頭を助長し、民主主義を破壊すると警告します。さらに、ソーシャルメディアによる言論統制と政治の二極化に対する解決策として、レッサ代表は教育、法制化、そして認識向上を提案します。

■ Sook Jong Lee: Hello everyone, it is a great opportunity to have Maria Ressa with us today. She is a well-known journalist and Nobel Peace Prize laureate, who is working very actively not only inside the Philippines but also internationally. Maria, thank you very much for your time.

■ Maria Ressa: I'm so glad that it worked. It's good to be here. Thank you for having me.

I. Level of Media Freedom in the Philippines After the Duterte Government

■ Sook Jong Lee: You faced 10 times of arrest warrant during the Duterte government. Since the Philippines has a new president now, Bongbong Marcos, the son of the former president, I would like to ask if media freedom has improved.

■ Maria Ressa: I've been asked this a lot, and I will say immediately, “Yes.”

This January, I had four tax evasion charges that could have put me in prison for 34 years. Rappler was also charged with ridiculous criminal tax evasion. After four years and two months, three justices of the Court of Tax Appeals threw it out, and we were acquitted. And when you read the verdict, you actually realize, “How did these even make their way to the court?” The independent judiciary is slowly coming up, which means that the checks and balances are slowly kicking back in. So that's a first step. The last administration used a tactic of harassment and intimidation to make journalists voluntarily give up their rights, which many have called it the “chilling effect.” I would call it “Siberia.” We lived in “Siberia” during that time period and there were costs for standing up to power.

It is still pretty early, but President Bongbong Marcos, the only son and the namesake of Ferdinand Marcos who was accused of stealing 10 billion US Dollars in 1986, has spent more of his first 100 days traveling outside the Philippines. He cares what the rest of the world thinks, and he also seeks to vindicate his family name. I hope that he listens and continues to focus on the economy like his father did. This is a difficult time for the post-COVID world. While the Philippines growth rate is significantly better than the West, whether or not this translates into real policies helping our people is a challenge ahead.

We were so low in the past that everything is in a slight improvement.

II. Duterte’s Legacy of Media Repression and the Philippine’s Way Forward

■ Sook Jong Lee: Friends in the Philippines were talking about the possible backlash under the new President, since he may try to legitimize his father's legacy and the authoritarian period of your country. What is your opinion on this view?

■ Maria Ressa: This is happening in almost every country around the world. We are testing history.

With the rise of the far right and with lies spreading faster than facts through social media, it makes every part of history debatable. The facts are debatable.

Everything that we see on social media has two algorithms working: the first is Facebook’s “friends of friends” algorithm, which essentially polarized us. We saw this happen in the Philippines in 2016 when Duterte was elected. If you were pro-Duterte, you moved further right. If you're anti-Duterte, you moved further left. This is what happened in the United States, in Hungary, and in Brazil.

[The second algorithm is] the recommendation engine in YouTube and Facebook, where if you click on a video on SNS, the recommendation engine brings something more extremist. So there's a polarization and downward radicalization. [Both] are embedded in our society, and civil society groups used tactics like name and shame to determine what “right” is. But when lies are rewarded, the world turns upside down and this becomes debatable.

Your question becomes more complicated for Marcos in this information ecosystem. In terms of actions, because the bar was set so low by the previous administration, we now see a little bit of a professional governance from the new President. He shows up and he doesn't curse. Policy is clearer and the appointments are clearer. This administration does listen to the public backlash for bad policy; however, despite the fact that we've suffered from the weaponization of the law, I'm also of the same mind that we need to be fair and look at the actions today and not necessarily the past. Was he a tax evader? Did he fail to pay his taxes? It's ironic because he now encourages Filipinos to pay their taxes.

So, it's very confusing – where is the moral high ground? At the same time, this is where I become slightly pragmatic. As a journalist in Rappler, my task is to hold power to account. We will give you the context of this. Both India's Prime Minister Modi and the Philippines President Marcos could not travel to the United States. But when they were democratically elected by their people, they could travel. A lot of these things go away. And they were overwhelmingly elected. So we need to stay vigilant and we need to keep doing the stories.

Rappler and I still have three criminal cases against us. There's a 5th tax evasion charge, cyber libel case, and securities case connected to foreign control. We have to be optimistic; otherwise, it can be debilitating.

III. Solutions to Political Polarization Caused by SNS Disinformation

■ Sook Jong Lee: You mentioned about many different perspectives about the history, and it is happening in Korea too about its colonial, the authoritarian period. It is dividing our civil society, not to mention our politicians. We also have not only newspapers, but also YouTube and social media that make us difficult to see whether there is truth or if the divided society can compromise or come up with a consensus about historical interpretations. In this kind of environment, what will be a good advice to control information and encourage the divided politics to come up with a more constructive common ground?

■ Maria Ressa: First of all, I always felt that Korea was in a better place. When we go back to Milan Kundera's quote, “The struggle of man against power is the struggle of memory against forgetting.”

The design of social media today turns a lie into a fact—a lie told a million times becomes a fact. As I said in the Nobel lecture, this has now become an individual battle for integrity, for facts, and for values.

This is why it's great that Korea not only just held the regional meeting of the Second Summit for Democracy, but also will be holding the next Summit. It is good that the Third Summit for Democracy is coming to Asia-Pacific where, according to the latest V-Dem report, it has seen the worst decline of the quality of our democracies globally. The rest of the world has gone back to 1986 levels. In Asia-Pacific, we're at 1978 levels.

So, what's the solution? First, because of the culture of Korea, traditional news organizations still have significant power. They're losing business control and their business model is dying quickly. It's interesting that in Korea, Google is not number one, and Naver is. But Korean news organizations have given up too much power and relationships to Naver. We should not be fighting downstream; we have to fight upstream. So the long-term solution is education.

The medium-term solution is legislation, and short-term is the awareness that we are being insidiously manipulated by social media. Our biology, our emotions are being used against us. And on social media, according to an MIT study from 2018, lies spread at least 6 times faster than facts. The fact that [these lies] incite hate, fear, and tribalism, is part of the reason we're so polarized. They appeal to the worst of human nature, of society, and the impact is not just at the individual level, but sociologically at the group level.

We behave differently in groups. In my book, I talked about the Milgram Shock Experiment, in which there were test subjects behind the screen and participants were told to keep giving longer and longer electric shocks to the subjects and watch as they more and more. With authority, the participants continued to give electric shocks. When we're in groups and when authority gives us permission to be our worst selves, we do it. This is where, some of the warnings from Timothy Snyder’s On Tyranny, such as “Don't follow the group,” come into play. That’s the second level.

The third level is emergent human behavior of our evolution as a species. This is addictive. Our young generation have higher levels of depression and sleeplessness. One of Meta’s own internal reports, which was one of the 10,000+ documents released by the whistleblower, Frances Haugen, actually showed that young teenager girls on Instagram have increased levels of eating disorders. The impacts and harm [of social media] are very clear aside from killing democracy—more than that is the rise of fascism.

IV. Freedom of Speech vs. Gatekeeping?

■ Sook Jong Lee: Today, we have ongoing debates about social media and its horrible disinformation effect. But as a journalist, when you face the conflicting principles, namely freedom of expression and protection of privacy and human dignity, how do you reconcile these?

■ Maria Ressa: It is false to say that they collide because this is not a freedom of speech issue. It is actually a “gatekeeping” issue. News organizations were supposed to be the gatekeepers to the public sphere, and readers were able to hold [the media] accountable. If they distributed or echoed a lie, they could be sued.

Right now, the tech companies make more money in surveillance for profit. We didn't even have a name for that business model until 2019, when Shoshana Zuboff wrote The Age of Surveillance Capitalism. This book goes into how these tech companies use machine learning to create models that know us better than we know ourselves. Those models are then scooped up by AI and become the motherload database that is used for microtargeting.

Microtargeting is not the old advertising strategy we know. It knows your weakest moment to a message and sells it. This advertising marketing model is now what is exploited by geopolitical powers. We have seen experiments before, but that exploitation really began in 2014 when Russian disinformation began to target Crimea, America, and even Korea. As they succeeded, they were replicated in different countries around the world. This is a part of the reason that we are seeing illiberal leaders being elected democratically, because if you don't have integrity of facts, you cannot have integrity of elections.

V. Social Media’s Impact on the Global Information Ecosystem

■ Sook Jong Lee: If we extend this debate to North Korea, where it not only has an illiberal leader but also a totally closed society with people indoctrinated, what would be a good way for the democracies to intervene in the psyche of North Koreans about the freedom and democracy issues? Have you thought about the North Koreans?

■ Maria Ressa:今日の世界を見ると、いくつかの事例があります。ロシアがウクライナに侵攻した際、世界は一体となり、それに対応し、ICCは逮捕状を発行しました。これは第二次世界大戦後、世界が最も迅速に行動した例です。例えば、シリアは非常にバラバラでした。

人々は、民主主義は育成される必要はなく、数千の傷による死を生き延びると考えました。また、台湾は中国本土からの情報操作に巻き込まれています。朝鮮半島も、これらが異なる段階にあると見ることができます。

私が懸念しているのは、情報エコシステムに関して何も実質的なことをしなければ、北朝鮮のようになることです。北朝鮮が教化すると言うとき、私はソーシャルメディアは行動修正システムだと言います。

2021年1月6日、私たちは初めて連邦議会議事堂での暴力を目にしました。今年の1月8日には、ブラジルでの暴力を目にしました。まだ十分に研究されていない側面の一つは、例えばブラジル、米国、フィリピン、韓国におけるYouTubeの役割です。ハーバード・ベルファー研究所の研究では、YouTubeのアルゴリズムをジカウイルス、COVID、そしてジャイール・ボルソナロに関連付けてクラスター化しました。その結果、極右の人物であるボルソナロがYouTubeのアルゴリズムのおかげで当選できたことが示されました。アルゴリズムによって推奨されたコンテンツは、現実世界では決して出会うことのできなかった極右分子をクラスター化しました。彼らはあまりにも過激で、共通のテロリスト的な考え方を持っていました。「敵の敵は味方」という考え方です。これが起こったことです。レコメンデーションエンジンのクラスター化アルゴリズムが支援基盤を提供しました。

同じクラスター化アルゴリズムが2021年1月6日の暴力を引き起こしたのでしょうか？私は、旧KGB議長のユーリ・アンドロポフに戻ります。彼は、民主主義国が真剣に受け止めるであろう偽情報について語りました。彼は、「偽情報はコカインのようなものだ。一度か二度嗅いだだけでは、人生は変わらないかもしれない。しかし、毎日使えば、あなたは中毒になり、別人になるだろう」と言いました。これが、アルゴリズムが私たちを搾取し、私たちのデータを私たちの感情を通して、私たちの考え方や行動を変えるために使用した後の、2023年の私たちの状況です。

■ Sook Jong Lee:ありがとうございます。アジア民主主義研究ネットワーク（ADRN）について何かコメントはありますか？

■ Maria Ressa:最後に、ADRNについて付け加えたいことがあります。それは、ビッグデータへのアクセスが得られなければ、私たちの研究は不十分になるということです。ビッグテック企業は私たちに関するそのデータを持っており、率直に言って、それらを説明責任に問うことができる唯一の方法です。私たちは暗闇の中で、壁にスパゲッティを投げつけているようなもので、彼らはリソースを持っていますが、私たちは持っていません。

お招きいただき、誠にありがとうございました。

■ Maria Ressaは、フィリピンの報道の自由を守る戦いをリードする、デジタル専業のトップニュースサイトであるRapplerの創設者、CEO、エグゼクティブエディターです。2021年10月、マリアは、「民主主義と永続的な平和の前提条件である表現の自由を守るための彼女の努力」が認められ、ノーベル平和賞を受賞した2人のジャーナリストのうちの1人でした。彼女の原則的な姿勢に対して贈られた数多くの賞の中でも、彼女は権威あるゴールデン・ペン・オブ・フリーダム賞、ナイト・インターナショナル・ジャーナリズム賞、グウェン・イフィル・プレス・フリーダム賞、ショレンシュタイン・ジャーナリズム賞、コロンビア・ジャーナリズム賞、セルゲイ・マニツキー賞を受賞しました。レッサーは30年以上にわたりアジアでジャーナリストとして活動し、その多くはCNNのマニラ支局長、その後ジャカルタ支局長を務めました。2005年にはABS-CBNニュース・アンド・カレント・アフェアーズのトップに就任し、6年間、フィリピン最大のマルチプラットフォーム報道機関で1,000人以上のジャーナリストを管理しました。

■ 担当および編集パク・ジス、EAI研究補助員

    For inquiries: 02 2277 1683 (ext. 208) | jspark@eai.or.kr

映像スクリプト

East Asia Instituteの視聴者の皆様、こんにちは。今日は、有名なジャーナリストであり、2021年のノーベル平和賞受賞者であるマリア・レッサー氏をお迎えできることを大変光栄に思います。マリアはフィリピン国内だけでなく、国際的にも非常に積極的に活動してきました。そこで、マリアにいくつか質問をさせていただきます。マリア、EIの視聴者のために時間を割いていただき、ありがとうございます。お話しできて嬉しいです。私も嬉しいです。お招きいただきありがとうございます。興味があります。

ドゥテルテ政権下で10回も逮捕状を請求され、その後、元大統領マルコスの息子であるジュニア、ボンゴ・マルコスと呼ばれる人物が大統領になりましたが、新しい政権下でメディアの自由の状況は改善されましたか？これが私の最初の質問です。はい、奇妙なことに、この質問は何度も聞かれましたが、すぐに「はい」と答えます。今年の1月、私は4件の脱税罪、懲役34年につながる可能性のある刑事訴訟に直面しました。

Rapplerも不条理な脱税罪で起訴されましたが、4年2ヶ月後、租税裁判所の3人の裁判官がそれを棄却しました。私たちは無罪となりました。判決を読むと、そもそもどのようにして裁判になったのか疑問に思います。私は、裁判官たちがゆっくりと、独立した司法が再び機能し始めているのを見ていると思います。これは、チェック・アンド・バランスがゆっくりと機能し始めていることを意味します。これが第一歩だと思います。過去の政権下では、それはジャーナリストが自ら権利を放棄するように仕向けるための、嫌がらせと威嚇の戦術でした。人々はそれを「萎縮効果」と呼ぶでしょうが、私はそれを「シベリア」と呼びます。私たちはその期間、シベリアで生きていました。権力に立ち向かうことには代償が伴いました。まだ時期尚早ですが、フェルディナンド・マルコスの息子であり同名の、1986年時点で100億ドルを盗んだと非難された大統領マルコスは、最初の100日間のうちのほとんどをフィリピン国外で過ごしました。彼は世界の他の国々がどう考えているかを気にしています。私は、彼が家族の名誉回復を目指し、父の経済への注力と同様に、それに焦点を当て続けることを望んでいます。これは世界にとって困難な時期であり、フィリピンの経済は欧米よりも著しく改善していますが、それが人々の助けとなる実際の政策に翻訳されるかどうか、それが今後の課題です。メディアの自由の状況が改善されたことは非常に嬉しく思いますが、

私たちは非常に低いレベルにいたため、すべてがわずかに改善しただけです。フィリピンの友人たちは、新大統領の下での反動の可能性について話しています。彼は父親の遺産と国の権威主義的な側面を正当化しようとするかもしれません。これは世界中のほとんどすべての国で起こっています。私たちは歴史を試しています。極右の台頭、嘘が事実よりも速く広がる情報伝達プラットフォーム、テクノロジー上のプラットフォーム、ソーシャルメディアにおいて、歴史のあらゆる部分が議論の的となります。事実は議論の的となり、そしてソーシャルメディア上では、2つのアルゴリズムが機能しています。1つ目はFacebookの「友達の友達」アルゴリズムで、本質的に私たちを二極化させました。2016年にフィリピンでドゥテルテが選出されたとき、私たちはこれを見ました。ドゥテルテ支持者ならさらに右へ、反ドゥテルテならさらに左へ。これは米国、ハンガリー、ブラジルでも起こりました。

世界が彼にあると思っていること、私は、彼が自分の家名を vindicate することを目指している国のリーダーであると見ている。だから、彼が耳を傾け、父親のように経済に焦点を当て続けることを願っている。これは世界にとって困難な時期であり、フィリピンの食料品は西洋よりも significantly better である。しかし、これが我々の人々を助ける実際の政策に real into real translate されるかどうか、それが今後の課題である。メディアの自由の状況が改善されたことは非常に glad であるが、 you know

これらのすべてが私たちの社会に埋め込まれており、市民社会グループは「名前を挙げて非難する」といった戦術を使用して、何が正しいかを判断します。しかし今、嘘が報われるとき、世界はひっくり返り、これは議論の的となります。したがって、マルコス大統領の行動に関しては、再び、以前の政権によって基準が非常に低く設定されていたため、私たちは今、少しプロフェッショナルな統治、プロフェッショナルなやり方を見ることができます。彼は

現れます。彼は汚い言葉を使わず、政策はより明確で、任命もより明確です。この政権は国民の反発に耳を傾け、悪い政策に対しては対応しますが、法律の武器化によって苦しんだにもかかわらず、私は公平に、今日の行動を見て、過去を必ずしも見る必要はないという同じ考えを持っています。しかし、これは難しい部分です。彼は脱税者だったのでしょうか？彼は税金を払わなかったのでしょうか？皮肉なことに、彼は今、フィリピン人に税金を払うように奨励しています。ですから、

それは少し、非常に混乱しています。道徳的な優位性はどこにあるのでしょうか？同時に、これは私が少し現実的になる部分です。ジャーナリストとしての私の仕事、Rapplerの仕事は、権力に説明責任を負わせることです。私たちはこの文脈を提供します。インドのモディ首相について、モディとマルコスは米国に旅行できませんでしたが、国民によって民主的に選出されたとき、彼らはたくさん旅行できました。これらのことの多くは消えます。彼は圧倒的に選出されました。

したがって、私たちは警戒を続け、物語を作り続ける必要があると思います。私はまだRapplerに対して3件の刑事訴訟を抱えています。5件目の脱税罪、サイバー libel事件、そして外国支配に関連する証券事件があります。あなたは楽観的でなければなりません。そうでなければ、それは衰弱させる可能性があります。ああ、あなたは受動的な物語について、多くの異なる視点について言及しましたね。そして、それは韓国でも、植民地時代について起こっています。

はい、そして権威主義時代についても。それは私たちの市民社会を非常に、非常に分裂させています。ましてや、すべての政治家は言うまでもありません。そして、私たちは新聞だけでなく、YouTubeやソーシャルメディアなど、多くのメディアを持っています。はい。ですから、真実がどこにあるのか、あるいは分裂した社会が妥協できるのか、歴史的解釈について合意に達することができるのかを見分けるのは難しいです。そのような環境で、この偽情報を制御し、分裂した社会がより建設的な共通の基盤を見つけることを奨励するための良いアドバイスは何でしょうか？

まず、私は常に韓国はより良い状況にあると感じていました。ミラ・カンダラの引用に戻ると、「人間と権力の闘いは、記憶と忘却の闘いである」と言いました。そして、今日のソーシャルメディアのデザインは、嘘を事実にするのです。百万回語られた嘘は事実になります。ノーベル講演で私はこう言いました。これは今や、個人の誠実さ、個人のバランスのための戦いとなっています。

事実、価値観のための個人の戦いです。だからこそ、韓国が第2回民主主義サミットだけでなく、地域グループのサミットを開催し、次のサミットも開催するというのは素晴らしいことです。第3回民主主義サミットがアジアに来るのは良いことです。最新のv-demレポートによると、アジア太平洋地域は世界的に見て、民主主義の質の最悪の低下を経験しています。他の地域は1986年のレベルに戻っていますが、アジア太平洋地域は1978年のレベルです。では、解決策は何でしょうか？まず、

韓国の文化の一部は、伝統的な報道機関が依然として大きな力を持っていることです。彼らはビジネス上の支配力を失っており、ビジネスモデルは急速に衰退しています。そして、韓国ではGoogleがナンバーワンではなく、Naverがナンバーワンですが、これらの報道機関はNaverにかなりの力と関係を譲り渡しています。私は、韓国がEUで推進しているのと同じことをすべきだと考えています。おそらく「提唱」が適切な言葉でしょう。

一部は、コンテンツモデレーションや、毎分90〜98件のメッセージとの戦いのどちらかという、いたちごっこにうんざりしているからです。それは不可能です。私たちは下流で戦うべきではありません。上流で戦うべきです。したがって、長期的な第一は教育、中期的なのは法制化、そして短期的なのは、私たちが陰湿に操作されており、私たちの生物学、私たちの感情が私たちに対して利用されているという認識です。そして、ソーシャルメディアでは、これはMITの2018年の研究です。

嘘は事実の少なくとも6倍の速さで広がり、憎悪、恐怖、部族主義を煽る場合、これは私たちがこれほど二極化している理由の一部です。これは人間の最悪の部分、社会の最悪の部分に訴えかけます。そして、その影響は個人のレベルだけでなく、集団レベルでの社会学的なものです。グループ内では、私たちは異なって行動します。私は本の中でミルグラム実験について言及しました。これは、スタンレー・ミルグラムがドイツで行ったとされる実験ですが、実際にはドイツではなく、米国のキャンパスで行われました。実験は、画面の後ろに被験者がいて、被験者は、電気ショックを、苦しむ人々に与え続けなければならないと告げられました。そして、彼らは苦しむ人を見るにつれて、より長く、より長い電気ショックを与え続けなければなりませんでした。実際には、被験者のために演技していた人でした。しかし、権威によって、彼らは電気ショックを与え続けました。

その一部は韓国の文化によるものである。 traditional news organizations は依然として significant power を持っている。彼らは business control を失いつつあり、 business model は quickly dying している。そして、韓国では Google が number one neighbor ではないことが興味深い。しかし、これらの news organizations は significant power と relationships を neighbor に与えた。私は、韓国が EU で推進してきたのと同じことを行う必要があると考えている。advocating が適切な言葉であろう。

その一部は、content moderation や 90 message per hour を fighting する whack-a-mole game にうんざりしていることである。それは impossible であり、 Downstream で fighting するべきではなく、 Upstream で fighting するべきである。だから、 long term ではまず education、 medium term では legislation、 short term では insidious に manipulation されており、我々の biology、我々の emotions が我々に対して使われているという awareness であり、 social media ではこれは 2018 年の MIT の study である。

lie は fact の少なくとも six times faster で spread し、 hate, fear, tribalism を inciting する場合、これは我々が so polarized な理由の一部である。これは human nature の worst、 society の worst に appeal する。そして、その impact は individual level だけでなく、 group level で sociological である。我々は groups では differently behave する。私の book では Milgram study について言及したが、これは actually supposed to have been done

監視資本主義、そして監視資本主義は、これらのテクノロジー企業が機械学習を使用して、私たち自身よりも私たちをよく知る私たちのモデルを作成する方法を実際に説明しています。そして、私はこれらを生きてきましたし、これを見ています。これらのモデルはAIによって収集され、AIはそれを使用してマイクロターゲットを生成します。マイクロターゲティングは、古い広告とは異なります。マイクロターゲティングは、あなたの最も弱い瞬間を知り、メッセージを送り、それを販売します。そして、この広告マーケティングモデルは

グループ内にいるとき、権威が私たちに最悪の自分になる許可を与えると、私たちはそうしてしまいます。そして、ティモシー・スナイダーの『専制に対する警告』などの警告の一部は、「集団に従うな」ということです。これは第二のレベルです。第三のレベルは、人間の行動、私たちの種の進化です。これは中毒性があります。若い世代は、うつ病や不眠症のレベルが高くなっています。Facebookの親会社Metaの内部報告書の一つ、内部告発者フランシス・ホーゲンによって公開された1万件以上の文書の中に、Instagramの若い10代の少女たちが摂食障害のレベルが高まっていることが示されていました。影響、損害は今や非常に明確です。民主主義を殺すこととは別に、実際にはそれ以上に、ファシズムの台頭です。私たちは、このソーシャルメディアの世界や、この恐ろしい偽情報の影響について、あまり議論していませんが、ジャーナリストとして、表現の自由という相反する原則と、

プライバシーを保護するという別の原則に直面したとき、どのように調和させますか？これらの2つの原則が衝突するとき、それらが衝突すると言うのは誤りです。なぜなら、これは表現の自由の問題ではないからです。実際には、それは情報管理の問題であり、ニュース組織が公共圏へのゲートキーパーであった時代には、私たちが嘘を広めたり、嘘を反響させたりした場合、私たちを訴えることができました。しかし今、テクノロジー企業は、監視による利益でより多くのお金を稼いでいます。そして、私たちは2019年にシュシャナ・ズボフが執筆するまで、そのビジネスモデルに名前さえ持っていませんでした。

privacy を protecting することは、 these two principles が reconcile されるとき、彼らが collide すると言うのは false である。なぜなら、これは freedom of speech issue ではないからだ。実際には deep keeping issue であり、 news organizations が public sphere への Gatekeepers であった。我々が lie を distributed したり、 lie を echoed したりした場合、我々を accountable に held することができた。我々は sued されただろう。 right now、 tech companies は surveillance for profit でより多くのお金を稼いでいる。そして、 shashana zuboff が書いた 2019 年まで、我々はその business model の名前さえ持っていなかった。

そのように始まりましたが、今では地政学的な力によって悪用されています。その悪用は2014年に始まりました。実験を見ました。しかし2014年、ロシアの偽情報はクリミアを標的にし始め、アメリカを標的にし始め、韓国を標的にし始めました。これらはそのうちのいくつかです。そして、彼らが成功し、実際に成功したため、それは世界中のさまざまな国で複製されました。私たちが非自由主義的な指導者が民主的に選出されているのを見る理由の一部は、事実の誠実さがなければ、選挙の誠実さも持てないからです。

もしこの議論を北朝鮮にまで広げると、それは単なる非自由主義的な指導者ではなく、完全に閉鎖された社会であり、人々は教化されています。北朝鮮人の心にこれらの自由の問題や民主主義の問題について、民主主義者が介入する方法はどうであれ、北朝鮮のケースについて考えたことはありますか？今日の世界を見ると、ロシアがウクライナに侵攻したように、世界は一体となり、それに対応し、ICCは逮捕状を発行しました。これは第二次世界大戦後、世界が最も迅速に行動した例です。

例えば、シリアは非常にバラバラでした。人々は、民主主義は育成される必要はなく、数千の傷による死を生き延びると考えました。これはアルカイダ自身の考え方から来ており、これが戦い方だと考えていました。台湾は中国による情報操作に巻き込まれています。台湾は中国とは別です。そして、韓国と北朝鮮、朝鮮半島があり、これらが異なる段階にあると私は思います。

そして、もし私たちが情報エコシステムに関して何も実質的なことをしなければ、北朝鮮のようになるのではないかと心配しています。なぜなら、考えてみてください。2021年1月6日、米国で初めて連邦議会議事堂での暴力を目にしました。あなたが北朝鮮が教化すると言うとき、私はソーシャルメディアは行動修正システムだと言います。そして、それがエコーチェンバー内にあるため、どこまで行くのでしょうか？米国での1月6日の暴力、そして

今年の1月8日にはブラジルでの暴力を見ました。そして、興味深いことに、そしてこれについては十分な研究がなされていませんが、例えばブラジル、米国、フィリピン、韓国におけるYouTubeの役割です。YouTubeは、ハーバード大学ベルファー研究所によって発表された研究です。彼らは、COVID以前はジカウイルスについてYouTubeのクラスター化アルゴリズムを研究し、その後ボルソナロについて研究しました。そして彼らが示したのは、

ボルソナロは極右の過激派でしたが、本質的にはYouTubeのレコメンデーションアルゴリズムがコンテンツを推奨する際に、現実世界では決して出会うことのできなかった極右、過激派、あらゆる陰謀論をクラスター化したため、中心に押し上げられ大統領になったということです。彼らはあまりにも過激でしたが、共通の、それはテロリスト的な考え方です。「敵の敵は味方」という考え方です。これが本質的に起こったことです。そして、このレコメンデーションエンジンのクラスター化アルゴリズムが

支援基盤を提供しました。これはマックス・フィッシャーの著書「カオス・マシン」によれば、ボルソナロを大統領に押し上げたとのことです。そして、もしあなたが1月8日の暴力事件を引き起こしたのが同じクラスター化アルゴリズムかどうかを見ると、旧KGB議長のユーリ・アンドロポフに戻ります。彼は偽情報について、民主主義国が真剣に受け止めないであろう方法で語りました。彼の言葉はこうです。「偽情報はコカインのようなものだ」

一度か二度摂取すれば大丈夫ですが、常に摂取すれば、あなたは変わった人間になります。これが、アルゴリズムが私たちを搾取し、私たちのデータを私たちの感情を通して、そして最終的には私たちの行動を通して、私たちの考え方を変えるために使用した後の、2023年の私たちの状況です。はい、それは興味深かったです。私たちの視聴者は、オンラインメディアでの豊富な経験を持ち、民主主義のために戦うマリア・レッサーから多くのことを学んだことでしょう。他に、この問題について話す時間を取っていただき、本当にありがとうございます。

一度か二度なら大丈夫だが、常に服用すると、あなたは changed person になる。これが 2023 年の我々の状況である。algorithms が我々を exploit し、我々の data を使って我々の emotions を通して我々の思考様式、そして ultimately 我々の行動様式を変えた後である。はい、それは fascinating だった。 audience は Maria Lessa から多くを学んだだろう。彼女は online media における経験が豊富で、democracy のために fighting している。誰かがこの issue について話す時間を持ってくれてありがとう、と感謝した。