[Entretien EAI] Le filtrage sauve la démocratie : comment les fausses nouvelles gangrènent l'Asie

Lien YouTube : https://www.youtube.com/watch?v=HZXHNN9JYNI

Le 31 mars 2023, l'EAI a invité Maria Ressa, PDG de Rappler et lauréate du prix Nobel de la paix 2021, à partager ses réflexions sur l'amélioration de la liberté des médias en Asie et la lutte contre la désinformation sur les réseaux sociaux. Ressa évalue l'état actuel de la liberté de la presse aux Philippines et les obstacles restants. Elle avertit que la désinformation diffusée par les algorithmes des médias sociaux exploite la façon dont les utilisateurs se comportent et pensent. Enfin, Ressa exhorte le public mondial à rechercher des changements dans l'écosystème de l'information pour vaincre la polarisation politique et la radicalisation causées par la propagation incontrôlée des fausses nouvelles.

■ Sook Jong Lee : Bonjour à tous, c'est une excellente occasion d'avoir Maria Ressa avec nous aujourd'hui. C'est une journaliste renommée et lauréate du prix Nobel de la paix, qui travaille très activement non seulement aux Philippines mais aussi à l'international. Maria, merci beaucoup de votre temps.

■ Maria Ressa : Je suis tellement heureuse que cela ait fonctionné. C'est un plaisir d'être ici. Merci de m'avoir invitée.

I. Niveau de liberté des médias aux Philippines après le gouvernement Duterte

■ Sook Jong Lee : Vous avez fait face à 10 mandats d'arrêt sous le gouvernement Duterte. Puisque les Philippines ont un nouveau président, Bongbong Marcos, le fils de l'ancien président, j'aimerais demander si la liberté des médias s'est améliorée.

■ Maria Ressa : On me pose souvent cette question, et je réponds immédiatement : « Oui ».

En janvier, j'avais quatre accusations d'évasion fiscale qui auraient pu me mettre en prison pendant 34 ans. Rappler a également été accusé d'évasion fiscale criminelle absurde. Après quatre ans et deux mois, trois juges de la Cour d'appel fiscale ont rejeté les accusations, et nous avons été acquittés. Et quand on lit le verdict, on réalise vraiment : « Comment ces accusations ont-elles pu arriver jusqu'au tribunal ? » Le pouvoir judiciaire indépendant se rétablit lentement, ce qui signifie que les freins et contrepoids reviennent progressivement. C'est donc un premier pas. La dernière administration a utilisé une tactique de harcèlement et d'intimidation pour amener les journalistes à renoncer volontairement à leurs droits, ce que beaucoup ont appelé « l'effet dissuasif ». Je l'appellerais la « Sibérie ». Nous avons vécu en « Sibérie » pendant cette période, et il y a eu des coûts à s'opposer au pouvoir.

Il est encore très tôt, mais le président Bongbong Marcos, fils unique et homonyme de Ferdinand Marcos, accusé d'avoir volé 10 milliards de dollars américains en 1986, a passé plus de ses 100 premiers jours à voyager à l'extérieur des Philippines. Il se soucie de ce que pense le reste du monde, et il cherche également à laver le nom de sa famille. J'espère qu'il écoutera et continuera à se concentrer sur l'économie comme son père l'a fait. C'est une période difficile pour le monde post-COVID. Bien que le taux de croissance des Philippines soit nettement meilleur que celui de l'Occident, la question de savoir si cela se traduira par des politiques réelles aidant notre peuple reste un défi à venir.

Nous étions si bas auparavant que tout est en légère amélioration.

II. L'héritage de répression médiatique de Duterte et la voie à suivre pour les Philippines

■ Sook Jong Lee : Des amis aux Philippines parlaient d'un possible retour en arrière sous le nouveau président, car il pourrait tenter de légitimer l'héritage de son père et la période autoritaire de votre pays. Quelle est votre opinion sur ce point de vue ?

■ Maria Ressa : Cela se produit dans presque tous les pays du monde. Nous testons l'histoire.

Avec la montée de l'extrême droite et la propagation des mensonges plus rapidement que les faits via les médias sociaux, chaque partie de l'histoire devient sujette à débat. Les faits sont discutables.

Tout ce que nous voyons sur les médias sociaux est régi par deux algorithmes : le premier est l'algorithme « amis d'amis » de Facebook, qui nous a essentiellement polarisés. Nous avons vu cela se produire aux Philippines en 2016 lorsque Duterte a été élu. Si vous étiez pro-Duterte, vous alliez plus à droite. Si vous étiez anti-Duterte, vous alliez plus à gauche. C'est ce qui s'est passé aux États-Unis, en Hongrie et au Brésil.

[Le second algorithme est] le moteur de recommandation de YouTube et Facebook, où si vous cliquez sur une vidéo sur les réseaux sociaux, le moteur de recommandation vous propose quelque chose de plus extrémiste. Il y a donc une polarisation et une radicalisation descendante. [Les deux] sont intégrés dans notre société, et les groupes de la société civile ont utilisé des tactiques comme le « nom et la honte » pour déterminer ce qui est « juste ». Mais lorsque les mensonges sont récompensés, le monde est bouleversé et cela devient discutable.

Votre question devient plus compliquée pour Marcos dans cet écosystème d'information. En termes d'actions, étant donné que le niveau était si bas sous l'administration précédente, nous constatons maintenant une gouvernance un peu plus professionnelle de la part du nouveau président. Il se présente et il ne jure pas. La politique est plus claire et les nominations sont plus claires. Cette administration écoute les réactions du public face aux mauvaises politiques ; cependant, malgré le fait que nous ayons souffert de la militarisation de la loi, je suis également d'avis qu'il faut être juste et examiner les actions d'aujourd'hui et pas nécessairement le passé. Était-il un fraudeur fiscal ? N'a-t-il pas payé ses impôts ? C'est ironique car il encourage maintenant les Philippins à payer leurs impôts.

C'est donc très déroutant – où est la position morale ? En même temps, c'est là que je deviens légèrement pragmatique. En tant que journaliste chez Rappler, ma tâche est de demander des comptes au pouvoir. Nous vous donnerons le contexte de cela. Le Premier ministre indien Modi et le président philippin Marcos ne pouvaient pas se rendre aux États-Unis. Mais lorsqu'ils ont été démocratiquement élus par leur peuple, ils ont pu voyager. Beaucoup de ces choses disparaissent. Et ils ont été élus massivement. Nous devons donc rester vigilants et continuer à faire des reportages.

Rappler et moi avons toujours trois affaires pénales contre nous. Il y a une 5ème accusation d'évasion fiscale, une affaire de cyberdiffamation et une affaire de valeurs mobilières liée au contrôle étranger. Nous devons être optimistes ; sinon, cela peut être débilitant.

III. Solutions à la polarisation politique causée par la désinformation des réseaux sociaux

■ Sook Jong Lee : Vous avez mentionné de nombreuses perspectives différentes sur l'histoire, et cela se produit aussi en Corée concernant sa période coloniale et autoritaire. Cela divise notre société civile, sans parler de nos politiciens. Nous avons également non seulement des journaux, mais aussi YouTube et les médias sociaux qui rendent difficile de voir s'il y a de la vérité ou si la société divisée peut faire des compromis ou parvenir à un consensus sur les interprétations historiques. Dans ce genre d'environnement, quel serait un bon conseil pour contrôler l'information et encourager la politique divisée à trouver un terrain d'entente plus constructif ?

■ Maria Ressa : Tout d'abord, j'ai toujours eu le sentiment que la Corée était dans une meilleure situation. Pour reprendre la citation de Milan Kundera, « La lutte de l'homme contre le pouvoir est la lutte de la mémoire contre l'oubli ».

La conception des médias sociaux d'aujourd'hui transforme un mensonge en fait – un mensonge répété un million de fois devient un fait. Comme je l'ai dit dans ma conférence Nobel, cela est devenu une bataille individuelle pour l'intégrité, pour les faits et pour les valeurs.

C'est pourquoi il est formidable que la Corée ait non seulement organisé la réunion régionale du Deuxième Sommet pour la Démocratie, mais qu'elle accueillera également le prochain Sommet. Il est bon que le Troisième Sommet pour la Démocratie se tienne dans la région Asie-Pacifique où, selon le dernier rapport de V-Dem, la qualité de nos démocraties a connu le pire déclin au niveau mondial. Le reste du monde est revenu aux niveaux de 1986. En Asie-Pacifique, nous sommes aux niveaux de 1978.

Alors, quelle est la solution ? Premièrement, en raison de la culture de la Corée, les organisations de presse traditionnelles ont encore un pouvoir considérable. Elles perdent le contrôle de leurs activités et leur modèle économique disparaît rapidement. Il est intéressant qu'en Corée, Google ne soit pas le numéro un, mais Naver. Cependant, les organisations de presse coréennes ont cédé trop de pouvoir et de relations à Naver. Nous ne devons pas nous battre en aval ; nous devons nous battre en amont. La solution à long terme est donc l'éducation.

La solution à moyen terme est la législation, et à court terme, la prise de conscience que nous sommes insidieusement manipulés par les médias sociaux. Notre biologie, nos émotions sont utilisées contre nous. Et sur les médias sociaux, selon une étude du MIT de 2018, les mensonges se propagent au moins 6 fois plus vite que les faits. Le fait que [ces mensonges] incitent à la haine, à la peur et au tribalisme, explique en partie pourquoi nous sommes si polarisés. Ils font appel au pire de la nature humaine, de la société, et l'impact n'est pas seulement au niveau individuel, mais sociologiquement au niveau du groupe.

Nous nous comportons différemment en groupe. Dans mon livre, j'ai parlé de l'expérience de Milgram sur les chocs électriques, dans laquelle des sujets d'essai étaient derrière un écran et les participants devaient continuer à infliger des chocs électriques de plus en plus longs aux sujets et à observer leur réaction. Avec l'autorité, les participants ont continué à infliger des chocs électriques. Lorsque nous sommes en groupe et que l'autorité nous donne la permission d'être notre pire nous-mêmes, nous le faisons. C'est là que certains des avertissements de « De la tyrannie » de Timothy Snyder, comme « Ne suivez pas le groupe », entrent en jeu. C'est le deuxième niveau.

Le troisième niveau est le comportement humain émergent de notre évolution en tant qu'espèce. C'est addictif. Notre jeune génération a des niveaux plus élevés de dépression et d'insomnie. L'un des rapports internes de Meta, qui faisait partie des plus de 10 000 documents publiés par la lanceuse d'alerte Frances Haugen, a montré que les jeunes filles adolescentes sur Instagram ont des niveaux plus élevés de troubles alimentaires. Les impacts et les dommages [des médias sociaux] sont très clairs, au-delà de la destruction de la démocratie – plus que cela, c'est la montée du fascisme.

IV. Liberté d'expression contre filtrage ?

■ Sook Jong Lee : Aujourd'hui, nous avons des débats en cours sur les médias sociaux et leur horrible effet de désinformation. Mais en tant que journaliste, lorsque vous êtes confronté à des principes contradictoires, à savoir la liberté d'expression et la protection de la vie privée et de la dignité humaine, comment conciliez-vous cela ?

■ Maria Ressa : Il est faux de dire qu'ils entrent en collision car il ne s'agit pas d'une question de liberté d'expression. Il s'agit en fait d'une question de « filtrage ». Les organisations de presse étaient censées être les gardiennes de la sphère publique, et les lecteurs pouvaient [les tenir] responsables. Si elles diffusaient ou répétaient un mensonge, elles pouvaient être poursuivies en justice.

Actuellement, les entreprises technologiques gagnent plus d'argent grâce à la surveillance à des fins lucratives. Nous n'avions même pas de nom pour ce modèle économique avant 2019, lorsque Shoshana Zuboff a écrit « L'Âge du capitalisme de surveillance ». Ce livre explique comment ces entreprises technologiques utilisent l'apprentissage automatique pour créer des modèles qui nous connaissent mieux que nous ne nous connaissons nous-mêmes. Ces modèles sont ensuite récupérés par l'IA et deviennent la base de données principale utilisée pour le micro-ciblage.

Le micro-ciblage n'est pas l'ancienne stratégie publicitaire que nous connaissons. Il connaît votre moment le plus faible pour vous envoyer un message et le vendre. Ce modèle de marketing publicitaire est maintenant exploité par des puissances géopolitiques. Nous avons déjà vu des expériences, mais cette exploitation a vraiment commencé en 2014 lorsque la désinformation russe a commencé à cibler la Crimée, l'Amérique, et même la Corée. Comme elles ont réussi, elles ont été reproduites dans différents pays du monde. C'est en partie la raison pour laquelle nous voyons des dirigeants illibéraux être élus démocratiquement, car si vous n'avez pas l'intégrité des faits, vous ne pouvez pas avoir l'intégrité des élections.

V. L'impact des médias sociaux sur l'écosystème mondial de l'information

■ Sook Jong Lee : Si nous étendons ce débat à la Corée du Nord, où il y a non seulement un dirigeant illibéral mais aussi une société totalement fermée avec un peuple endoctriné, quelle serait une bonne façon pour les démocraties d'intervenir dans la psyché des Nord-Coréens concernant les questions de liberté et de démocratie ? Avez-vous pensé aux Nord-Coréens ?

■ Maria Ressa : Si vous regardez le monde aujourd'hui, nous avons plusieurs cas. Lorsque la Russie a envahi l'Ukraine, le monde s'est uni, a réagi, et la CPI a émis un mandat d'arrêt. C'est la réaction la plus rapide du monde depuis la Seconde Guerre mondiale. La Syrie, par exemple, a été très désordonnée.

Les gens pensaient que la démocratie n'avait pas besoin d'être nourrie et qu'elle survivrait à toutes ces « morts par mille coupures ». Vous avez aussi Taïwan, qui est englouti par les opérations d'information de la Chine continentale. Vous avez les Corées, et vous les voyez à différents stades de cela.

Ce qui m'inquiète, c'est que si nous ne faisons rien de significatif concernant notre écosystème informationnel, nous finirions comme la Corée du Nord. Quand vous dites que la Corée du Nord endoctrine, je dis que les médias sociaux sont un système de modification du comportement.

Le 6 janvier 2021, nous avons vu pour la première fois de la violence sur Capitol Hill. Le 8 janvier de cette année, nous avons vu de la violence au Brésil. L'un des aspects qui n'a pas encore été suffisamment étudié est le rôle de YouTube, par exemple, au Brésil, aux États-Unis, aux Philippines et en Corée du Sud. Dans une recherche du Harvard Belfer Institute, ils ont regroupé les algorithmes de YouTube sur le virus Zika, le COVID, et aussi sur Jair Bolsonaro. Leurs résultats ont montré que Bolsonaro, une figure d'extrême droite, a pu être élu grâce aux algorithmes de YouTube. Les contenus recommandés par les algorithmes ont regroupé les extrêmes droits qui n'auraient jamais pu se trouver dans le monde réel. Ils étaient trop marginaux, mais ils avaient une idée terroriste commune : l'ennemi de mon ennemi est mon ami. C'est ce qui s'est passé : l'algorithme de regroupement des moteurs de recommandation a fourni une base de soutien.

Cet algorithme de regroupement a-t-il créé la violence du 6 janvier 2021 ? Je reviens à Yuri Andropov, ancien président du KGB, qui parlait de désinformation d'une manière que les pays démocratiques prennent au sérieux. Il a dit : « la désinformation, c'est comme la cocaïne — reniflez une ou deux fois, cela ne changera peut-être pas votre vie. Si vous l'utilisez tous les jours, cependant, cela vous rendra dépendant — un homme différent. » C'est là où nous en sommes en 2023 après que les algorithmes nous ont exploités et ont utilisé nos données pour changer notre façon de penser et notre façon d'agir par le biais de nos émotions.

■ Sook Jong Lee : Merci. Avez-vous des commentaires pour l'Asia Democracy Research Network ?

■ Maria Ressa : Une dernière chose que j'aimerais ajouter concernant l'ADRN est que nos recherches seront inadéquates si nous n'avons pas accès aux données massives. Les grandes entreprises technologiques détiennent ces données sur nous, et elles sont franchement le seul moyen de les tenir responsables. C'est presque comme si nous étions dans le noir, lançant des spaghettis contre le mur alors qu'elles ont les ressources et pas nous.

Merci beaucoup de m'avoir reçue.

■ Maria Ressa est la fondatrice, PDG et rédactrice en chef de Rappler, le principal site d'information numérique qui mène la lutte pour la liberté de la presse aux Philippines. En octobre 2021, Maria a été l'une des deux journalistes à recevoir le prix Nobel de la paix en reconnaissance de ses « efforts pour sauvegarder la liberté d'expression, qui est une condition préalable à la démocratie et à une paix durable ». Parmi de nombreux autres prix pour sa position de principe, elle a reçu le prestigieux Golden Pen of Freedom Award, le Knight International Journalism Award, le Gwen Ifill Press Freedom Award, le Shorenstein Journalism Award, le Columbia Journalism Award et le Sergei Magnitsky Award. Ressa est journaliste en Asie depuis plus de 30 ans, la plupart du temps en tant que chef de bureau de CNN à Manille, puis à Jakarta. En 2005, elle a pris la direction d'ABS-CBN News and Current Affairs, et pendant six ans, elle a géré plus de 1 000 journalistes pour la plus grande opération d'information multiplateforme des Philippines.

■ Composition par Jisoo Park, Assistante de recherche

    Pour toute demande : 02 2277 1683 (poste 208) | jspark@eai.or.kr

Script vidéo

public étranger de l'East Asia Institute aujourd'hui, je suis, vous savez, c'est une très belle opportunité d'avoir Maria Lessa, la célèbre journaliste et lauréate du prix Nobel de la paix 2021, et Maria s'est battue très activement non seulement aux Philippines mais aussi à l'international. Je vais donc poser plusieurs questions à Maria. Maria, merci beaucoup d'avoir pris le temps de me parler pour le public de l'EAI. Je suis tellement heureuse que nous ayons pu... Oui, c'est bien d'être ici, merci de m'avoir invitée. Je suis curieuse

parce que vous avez dû faire face à 10 mandats d'arrêt sous le gouvernement de Duterte. Après votre nouveau gouvernement, le fils de l'ancien président Marcos, Marcos Junior, que nous appelons Bongbong Marcos, la situation de la liberté des médias s'est-elle améliorée sous le nouveau gouvernement ? C'est ma première question. Oui, je pense que vous savez, j'ai été beaucoup interrogée à ce sujet et je dirai presque immédiatement oui, et je souligne que juste en janvier de cette année, j'avais quatre accusations d'évasion fiscale, des accusations criminelles qui auraient pu me mettre en prison pendant 34 ans.

et Rappler a également été accusé de charges ridicules d'évasion fiscale criminelle. Après quatre ans et deux mois, trois juges de la Cour d'appel fiscale les ont rejetées. Nous avons été acquittés et quand vous lisez le verdict, vous réalisez en fait... comment cela est-il arrivé au tribunal ? Je pense que les juges voient lentement la justice indépendante revenir, ce qui signifie que les freins et contrepoids se remettent lentement en place. Je pense que c'est la première étape. Dans le passé, sous la dernière administration,

c'était une tactique de harcèlement et d'intimidation pour que les journalistes renoncent volontairement à leurs droits, ce que les gens appellent l'effet dissuasif. J'appelle cela la Sibérie. Nous avons vécu en Sibérie pendant cette période, et il y avait des coûts à s'opposer au pouvoir. Il est trop tôt, mais le président Marcos, le fils unique et homonyme de Ferdinand Marcos, qui a été accusé de détourner 10 milliards de dollars américains en dollars de 1986, eh bien, il a passé plus de ses cent premiers jours à voyager à l'extérieur des Philippines. Il se soucie de ce que le reste

du monde pense. Il a, je pense, ce que vous voyez, c'est un leader du pays qui cherche également à réhabiliter le nom de sa famille. Et donc j'espère qu'il écoutera et continuera également son focus, comme son père, sur l'économie. C'est une période difficile pour le monde et l'épicerie philippine est significativement meilleure que l'Occident, mais que cela se traduise ou non par de réelles politiques qui aident notre peuple, c'est le défi à venir. Je suis très heureuse que la situation de la liberté des médias se soit améliorée, mais vous savez,

nous étions si bas que tout était une légère amélioration et les amis aux Philippines parlaient d'un possible retour de bâton sous le nouveau président. Oui, parce qu'il pourrait essayer de légitimer l'héritage de son père et la partie autoritaire de votre pays. Je pense que cela se produit dans presque tous les pays du monde. Nous testons l'histoire et avec la montée de l'extrême droite, avec la montée de quand les mensonges se propagent plus vite que les faits sur la plateforme de diffusion d'informations sur la technologie

sur les médias sociaux, cela rend chaque partie de l'histoire sujette à débat. Les faits sont sujets à débat, alors tout, et ce que nous avons sur les médias sociaux, ce sont deux algorithmes qui fonctionnent. Le premier est l'algorithme des amis d'amis sur Facebook, qui nous a essentiellement polarisés. Nous avons vu cela se produire aux Philippines en 2016, lorsque Duterte a été élu. Si vous étiez pro-Duterte, vous alliez plus à droite ; si vous étiez anti-Duterte, vous alliez plus à gauche. C'est ce qui s'est passé aux États-Unis, en Hongrie, en

Brésil. Vous voyez cela, mais il y a un moteur de recommandation et vous le voyez sur YouTube, vous le voyez sur Facebook, où si vous cliquez sur une vidéo sur YouTube, par exemple, ou sur Twitter, vous serez ensuite alimenté par le moteur de recommandation qui vous apportera quelque chose de plus extrémiste. Il y a donc une radicalisation vers le bas, une polarisation et une radicalisation. Votre question devient donc plus compliquée dans cet écosystème informationnel pour Marcos et maintenant, c'est intéressant avec la Corée, avec l'Allemagne

qui a vu la montée de l'extrême droite, toutes ces choses étaient intégrées dans notre société et les groupes de la société civile utilisent des tactiques comme le nom et la honte pour déterminer ce qui est juste, ce qui est bien. Mais maintenant, quand les mensonges sont récompensés, le monde est bouleversé et cela devient sujet à débat. Donc, en termes d'actions lui-même, vous savez, ce que nous avons vu du président Marcos, encore une fois, parce que le niveau était si bas sous l'administration précédente, nous voyons maintenant un peu de professionnalisme dans la gouvernance, une manière professionnelle dont il

se présente, il ne jure pas, la politique est plus claire, les nominations sont plus claires. Ils font, cette administration écoute les réactions du public face aux mauvaises politiques, mais je pense que malgré le fait que nous ayons souffert à cause de la judiciarisation de la loi, je suis également d'avis que nous devons être justes et regarder les actions d'aujourd'hui et pas nécessairement le passé, bien que ce soit la partie difficile. Était-il un évadé fiscal ? A-t-il omis de payer ses impôts ? C'est ironique parce qu'il encourage maintenant les Philippins à payer leurs impôts. Donc, vous avez

c'est un peu, c'est très déroutant. Où est le terrain moralement élevé ? En même temps, c'est là que je deviens légèrement pragmatique. Ma tâche en tant que journaliste chez Rappler, notre tâche est de demander des comptes au pouvoir. Nous vous donnerons le contexte de cela. Avec le Premier ministre indien Modi, Modi et Marcos ne pouvaient pas voyager aux États-Unis, mais lorsqu'ils ont été démocratiquement élus par leur peuple, ils ont pu voyager. Beaucoup de ces choses disparaissent. Donc, il a été massivement élu démocratiquement.

Donc, je suppose qu'une partie de cela est que nous devons rester vigilants, nous devons continuer à faire les reportages. J'ai toujours trois cas contre Rappler et trois cas criminels contre nous. Il y a une cinquième accusation d'évasion fiscale, il y a une affaire de cyberdiffamation, il y a l'affaire des valeurs mobilières qui est liée au contrôle étranger. Vous devez être optimiste, sinon cela peut être débilitant. D'accord. Eh bien, vous avez mentionné tellement de perspectives différentes sur l'histoire du passé. Oui, et cela se produit aussi en Corée concernant la période coloniale.

Oui, et aussi la période autoritaire, correct. C'est donc une division très, très importante de notre société civile, sans parler de tous les politiciens. Et nous avons tellement de médias, pas seulement des journaux, mais aussi YouTube et les médias sociaux. Oui, il est donc difficile de savoir où se trouve la vérité ou si la société divisée peut faire des compromis ou parvenir à un consensus sur les interprétations historiques. Dans ce genre d'environnement, quels seraient les bons conseils pour contrôler cette désinformation et aussi encourager la société divisée

à trouver un terrain d'entente plus constructif ? Oui, alors vous savez, je pense d'abord, j'ai toujours pensé que la Corée était dans une meilleure situation. En partie, je veux dire, c'est quand nous revenons à la citation de Milan Kundera : la lutte de l'homme contre le pouvoir est la lutte de la mémoire contre l'oubli, et la conception des médias sociaux aujourd'hui transforme un mensonge en fait. Un mensonge répété un million de fois devient un fait. Je l'ai dit dans la conférence Nobel. Cela est devenu une bataille individuelle pour l'intégrité et un équilibre individuel pour

les faits, une bataille individuelle pour les valeurs, c'est pourquoi il est formidable que la Corée organise non seulement le deuxième sommet sur la démocratie de ce groupe régional, mais qu'elle organisera également le prochain. Il est bon que le troisième sommet sur la démocratie vienne en Asie, qui, selon le dernier rapport v-dem, l'Asie-Pacifique a connu le pire déclin de la qualité de nos démocraties au niveau mondial. Le reste du monde est revenu aux niveaux de 1986, en Asie-Pacifique, nous sommes aux niveaux de 1978. Alors, quelle est la solution ? Premièrement, vous

avez toujours une partie de cela à cause de la culture coréenne. Les organisations de presse traditionnelles ont encore un pouvoir important. Elles perdent le contrôle de leurs activités, le modèle économique disparaît rapidement, et je pense qu'il est intéressant qu'en Corée, Google ne soit pas le numéro un, Naver l'est, mais ces organisations de presse ont cédé un pouvoir et des relations importants à Naver. Je pense que la Corée doit faire la même chose que ce que nous avons préconisé dans l'UE, je suppose que le mot approprié est

une partie de cela, vous savez, je suis fatiguée de jouer au jeu du « whack-a-mole » de la modération de contenu ou d'essayer de combattre les 90, les 90 messages par heure. C'est impossible. Nous ne devrions pas nous battre en aval, nous devons nous battre en amont. Donc, à long terme, d'abord l'éducation ; à moyen terme, la législation ; et à court terme, la prise de conscience que nous sommes insidieusement manipulés, que notre biologie, nos émotions sont utilisées contre nous, et que, sur les médias sociaux, c'est une étude du MIT de 2018

les mensonges se propagent au moins six fois plus vite que les faits, et s'ils incitent à la haine, incitent à la peur, incitent au tribalisme, c'est une partie de la raison pour laquelle nous sommes si polarisés. Cela crée, cela fait appel au pire de la nature humaine, au pire de la société, et l'impact n'est pas seulement au niveau individuel, il est sociologiquement au niveau du groupe. Nous nous comportons différemment en groupe. Je suis retournée dans mon livre, j'ai parlé de l'étude de Milgram où cette étude a été réalisée et elle était censée avoir été

réalisée en Allemagne. Stanley Milgram l'a fait et il ne l'a pas faite en Allemagne, il l'a faite aux États-Unis, sur un campus, et le test était, vous savez, on vous disait qu'il y avait des sujets de test derrière l'écran et on vous disait que le test consistait à continuer à donner des chocs électriques de plus en plus longs aux personnes que vous voyez et puis elles voient la personne souffrir de plus en plus, qui agissent essentiellement pour le sujet, et pourtant, avec l'autorité, elles ont continué à donner des chocs électriques.

il y a quelque chose en nous, quand nous sommes en groupe, quand l'autorité nous dit, nous donne la permission d'être notre pire nous-mêmes, nous le faisons. Et c'est là que, par exemple, certains des avertissements de Timothy Snyder dans « Sur la tyrannie » sont : ne suivez pas le groupe. C'est le deuxième niveau. Le troisième niveau est le comportement humain, le comportement humain émergent, notre évolution en tant qu'espèce. C'est addictif. La jeune génération a des niveaux plus élevés de dépression, d'insomnie. Un des rapports internes de Facebook, Meta, l'un des plus de dix mille

documents publiés par la lanceuse d'alerte Frances Haugen a montré que les jeunes adolescentes sur Instagram ont des niveaux accrus de troubles alimentaires. Les impacts, les préjudices sont maintenant très clairs, en dehors du fait qu'ils tuent la démocratie, en fait, plus que cela, c'est la montée du fascisme. Nous n'avons pas beaucoup débattu de ce monde des médias sociaux et aussi de cet horrible effet de désinformation, mais en tant que journaliste, lorsque vous êtes confronté au principe contradictoire, à savoir la liberté d'expression et un autre principe de

protéger la vie privée, comment concilier lorsque ces deux principes entrent en collision ? Il est faux de dire qu'ils entrent en collision parce qu'il ne s'agit pas d'une question de liberté d'expression. Il s'agit en fait d'une question de contrôle, où les organisations de presse étaient les gardiennes de la sphère publique. Vous pouviez nous tenir responsables si nous distribuions un mensonge, si nous faisions écho à un mensonge, nous pouvions être poursuivis. Maintenant, les entreprises technologiques gagnent plus d'argent grâce à la surveillance à des fins lucratives, et nous n'avions même pas de nom pour ce modèle économique avant 2019, lorsque Shoshana Zuboff a écrit

sur le capitalisme de surveillance, et le capitalisme de surveillance explique comment ces entreprises technologiques utilisent l'apprentissage automatique pour créer des modèles de nous qui nous connaissent mieux que nous ne nous connaissons nous-mêmes. Et vous savez, j'ai vécu cela et je le vois. Ces modèles sont ensuite récupérés par l'IA et deviennent la base de données principale qui est utilisée pour le micro-ciblage. Le micro-ciblage n'est pas la vieille publicité que nous connaissons. Le micro-ciblage connaît votre moment le plus faible pour un message et le vend. Et ces modèles publicitaires marketing

ont commencé ainsi, et sont maintenant exploités par le pouvoir géopolitique. Cette exploitation a commencé en 2014, comme nous l'avons vu lors d'expériences. Mais en 2014, la désinformation russe a commencé à cibler la Crimée, a commencé à cibler l'Amérique, a commencé à cibler la Corée. Ce sont certaines des choses, et comme elles ont réussi, et elles ont réussi, cela a été reproduit dans différents pays du monde. Une partie de la raison pour laquelle nous voyons des dirigeants illibéraux élus démocratiquement, c'est que si vous n'avez pas l'intégrité des faits, vous ne pouvez pas avoir l'intégrité des

élections. Si nous étendons ce débat à la Corée du Nord, ce n'est pas seulement un leader illibéral, c'est une société totalement fermée et les gens sont endoctrinés. Qu'il s'agisse de la bonne manière pour les démocrates d'intervenir dans, vous savez, la psyché des Nord-Coréens à propos de ces questions de liberté et de démocratie, avez-vous pensé au cas nord-coréen ? Si vous regardez le monde aujourd'hui, nous avons plusieurs cas : la Russie a envahi l'Ukraine, le monde s'est uni, a réagi, et maintenant la CPI a émis

un mandat d'arrêt. C'est la réaction la plus rapide du monde depuis la Seconde Guerre mondiale. La Syrie, par exemple, a été très désordonnée. Les gens pensaient que la démocratie n'avait pas besoin d'être nourrie, qu'elle survivrait à toutes ces choses que j'ai appelées « mort par mille coupures » venant de l'idée d'Al-Qaïda que c'est ainsi que l'on se bat. Vous avez Taïwan qui est englouti par les opérations d'information de la Chine. Taïwan est séparé de la Chine, et vous avez la Corée du Sud et la Corée du Nord, vous avez les Coréens, et je pense

que vous les voyez comme des stades différents. Et ce qui m'inquiète, c'est que si nous ne faisons rien de significatif avec notre écosystème informationnel, nous finirons comme la Corée du Nord, car pensez-y comme ceci : en janvier 2021, le 6 janvier, nous avons vu pour la première fois de la violence sur Capitol Hill aux États-Unis. Oui, c'est quand vous dites que la Corée du Nord endoctrine, je dis que les médias sociaux sont un système de modification du comportement, et parce que c'est dans des chambres d'écho, jusqu'où cela ira-t-il ? Nous avons vu la violence du 6 janvier aux États-Unis, nous avons vu

la violence du 8 janvier cette année au Brésil. Et l'une des choses fascinantes, sur lesquelles pas assez de recherches ont été faites, est le rôle de YouTube, par exemple, au Brésil, aux États-Unis, aux Philippines, en Corée. Parce que YouTube, c'est une recherche du Belfort Institute qui a été publiée par le Belfort Institute à Harvard. Essentiellement, ils ont commencé à travailler sur les algorithmes de clustering de YouTube et Zika avant le COVID, puis ils ont travaillé sur Bolsonaro. Et ce qu'ils ont montré était

que Bolsonaro était une figure d'extrême droite, mais il a été amené au centre, est devenu président, parce que les algorithmes de YouTube, en recommandant du contenu, ont regroupé l'extrême droite, la marge, chaque théorie du complot qui, dans le monde réel, n'aurait jamais pu se trouver. Ils étaient trop marginaux, mais ils avaient en commun une idée terroriste : l'ennemi de mon ennemi est mon ami. C'est essentiellement ce que vous avez vu se produire, et cet algorithme de clustering des moteurs de recommandation a fourni la base de soutien.

Ceci est, et ceci est dans un livre de Max Fisher, il l'appelle « The Chaos Machine ». Il affirme que cela a amené Bolsonaro à la présidence. Et si vous regardez ensuite, est-ce le même algorithme de clustering qui a créé la violence du 8 janvier ? Revenons à Yuri Andropov, ancien président du KGB, qui parlait de désinformation d'une manière que je ne pense pas que nous, dans les pays démocratiques, prenons au sérieux. Sa citation est la suivante : il a dit que la désinformation, c'est comme la cocaïne.

vous en prenez une ou deux fois, vous allez bien, mais si vous en prenez tout le temps, vous êtes une personne changée. C'est là où nous en sommes en 2023 après que les algorithmes nous ont exploités et ont utilisé nos données pour changer notre façon de penser par le biais de nos émotions et finalement notre façon d'agir. Oui, c'était fascinant. Je suis sûr que notre public a beaucoup appris de Maria Lessa, qui a tant d'expérience dans les médias en ligne et aussi dans la lutte pour la démocratie. Quelqu'un d'autre a dit : merci beaucoup d'avoir pris le temps de parler de ce problème.