[Interview ADRN] Algorithmes des réseaux sociaux qui favorisent la polarisation politique et la propagation de fausses nouvelles, et les réponses des pays démocratiques

Lien YouTube : https://www.youtube.com/watch?v=HZXHNN9JYNI

Dans le cadre de son projet de Réseau pour la Démocratie en Asie, l'East Asia Institute (EAI) a invité Maria Ressa, lauréate du prix Nobel de la paix 2021 et PDG de Rappler, pour discuter de la liberté de la presse dans les pays de la région, y compris les Philippines, et des mesures à prendre pour contrer la propagation des fausses nouvelles sur les réseaux sociaux. Mme Ressa critique le système d'information construit par les grandes entreprises technologiques, qui reproduit sélectivement des nouvelles et des informations d'un certain biais, et avertit que les algorithmes des médias sociaux qui diffusent rapidement de fausses informations sapent la démocratie en favorisant la montée des forces d'extrême droite. En outre, comme solutions au contrôle des médias par les médias sociaux et à la polarisation politique, Mme Ressa propose l'éducation, la législation et la sensibilisation.

■ Sook Jong Lee: Bonjour à tous, c'est une excellente occasion d'avoir Maria Ressa avec nous aujourd'hui. C'est une journaliste renommée et lauréate du prix Nobel de la paix, qui est très active non seulement aux Philippines mais aussi sur la scène internationale. Maria, merci beaucoup de prendre votre temps.

■ Maria Ressa: Je suis très heureuse que cela ait fonctionné. C'est un plaisir d'être ici. Merci de m'avoir invitée.

I. Niveau de liberté des médias aux Philippines après le gouvernement Duterte

■ Sook Jong Lee: Vous avez fait face à 10 mandats d'arrêt sous le gouvernement Duterte. Maintenant que les Philippines ont un nouveau président, Bongbong Marcos, le fils de l'ancien président, je voudrais vous demander si la liberté des médias s'est améliorée.

■ Maria Ressa: On me pose souvent cette question, et je réponds immédiatement : « Oui ».

En janvier, j'ai fait face à quatre accusations d'évasion fiscale qui auraient pu me conduire en prison pendant 34 ans. Rappler a également été accusé d'évasion fiscale criminelle absurde. Après quatre ans et deux mois, trois juges de la Cour d'appel fiscale ont rejeté les accusations, et nous avons été acquittés. Et quand on lit le verdict, on se rend compte : « Comment ces accusations ont-elles pu arriver jusqu'au tribunal ? » Le pouvoir judiciaire indépendant se rétablit lentement, ce qui signifie que les freins et contrepoids se remettent en place. C'est donc un premier pas. L'administration précédente a utilisé des tactiques de harcèlement et d'intimidation pour que les journalistes renoncent volontairement à leurs droits, ce que beaucoup ont appelé « l'effet dissuasif ». Je l'appellerais « la Sibérie ». Nous avons vécu en « Sibérie » pendant cette période, et il y a eu des coûts à s'opposer au pouvoir.

Il est encore très tôt, mais le président Bongbong Marcos, fils unique et homonyme de Ferdinand Marcos, accusé d'avoir détourné 10 milliards de dollars américains en 1986, a passé une plus grande partie de ses 100 premiers jours à voyager à l'extérieur des Philippines. Il se soucie de ce que le reste du monde pense, et il cherche également à réhabiliter le nom de sa famille. J'espère qu'il écoutera et continuera à se concentrer sur l'économie comme l'a fait son père. C'est une période difficile pour le monde post-COVID. Bien que le taux de croissance des Philippines soit nettement meilleur que celui de l'Occident, la question de savoir si cela se traduira par des politiques réelles aidant notre peuple reste un défi.

Nous étions si bas auparavant que tout est en légère amélioration.

II. L'héritage de répression médiatique de Duterte et la voie à suivre pour les Philippines

■ Sook Jong Lee: Des amis aux Philippines parlaient d'un possible retour de bâtons sous le nouveau président, car il pourrait tenter de légitimer l'héritage de son père et la période autoritaire de votre pays. Quelle est votre opinion sur ce point de vue ?

■ Maria Ressa: Cela se produit dans presque tous les pays du monde. Nous testons l'histoire.

Avec la montée de l'extrême droite et la propagation des mensonges plus rapidement que les faits via les médias sociaux, chaque partie de l'histoire devient sujette à débat. Les faits sont sujets à débat.

Tout ce que nous voyons sur les médias sociaux est régi par deux algorithmes : le premier est l'algorithme « amis d'amis » de Facebook, qui nous a essentiellement polarisés. Nous avons vu cela se produire aux Philippines en 2016 lorsque Duterte a été élu. Si vous étiez pro-Duterte, vous alliez plus à droite. Si vous étiez anti-Duterte, vous alliez plus à gauche. C'est ce qui s'est passé aux États-Unis, en Hongrie et au Brésil.

[Le second algorithme est] le moteur de recommandation de YouTube et Facebook, où si vous cliquez sur une vidéo sur les réseaux sociaux, le moteur de recommandation vous propose quelque chose de plus extrémiste. Il y a donc une polarisation et une radicalisation vers le bas. [Les deux] sont intégrés dans notre société, et les groupes de la société civile ont utilisé des tactiques comme le dénigrement pour déterminer ce qui est « juste ». Mais lorsque les mensonges sont récompensés, le monde est sens dessus dessous et cela devient sujet à débat.

Votre question devient plus compliquée pour Marcos dans cet écosystème informationnel. En termes d'actions, parce que le niveau était si bas sous l'administration précédente, nous constatons maintenant une gouvernance un peu plus professionnelle de la part du nouveau président. Il se présente et il ne jure pas. La politique est plus claire et les nominations sont plus claires. Cette administration écoute les réactions du public face aux mauvaises politiques ; cependant, malgré le fait que nous ayons souffert de la militarisation du droit, je suis également d'avis que nous devons être justes et examiner les actions d'aujourd'hui et pas nécessairement le passé. Était-il un fraudeur fiscal ? N'a-t-il pas payé ses impôts ? C'est ironique car il encourage maintenant les Philippins à payer leurs impôts.

C'est donc très déroutant – où est la position morale ? En même temps, c'est là que je deviens légèrement pragmatique. En tant que journaliste chez Rappler, ma tâche est de demander des comptes au pouvoir. Nous vous donnerons le contexte de cela. Le Premier ministre indien Modi et le président philippin Marcos n'ont pas pu se rendre aux États-Unis. Mais lorsqu'ils ont été démocratiquement élus par leur peuple, ils ont pu voyager. Beaucoup de ces choses disparaissent. Et ils ont été élus massivement. Nous devons donc rester vigilants et continuer à faire des reportages.

Rappler et moi avons encore trois affaires pénales contre nous. Il y a une 5ème accusation d'évasion fiscale, une affaire de cyberdiffamation et une affaire de valeurs mobilières liée au contrôle étranger. Nous devons être optimistes ; sinon, cela peut être débilitant.

III. Solutions à la polarisation politique causée par la désinformation des réseaux sociaux

■ Sook Jong Lee: Vous avez mentionné de nombreuses perspectives différentes sur l'histoire, et cela se produit également en Corée concernant sa période coloniale et autoritaire. Cela divise notre société civile, sans parler de nos politiciens. Nous avons non seulement des journaux, mais aussi YouTube et les médias sociaux qui rendent difficile de voir s'il y a de la vérité ou si la société divisée peut faire des compromis ou parvenir à un consensus sur les interprétations historiques. Dans ce type d'environnement, quel serait un bon conseil pour contrôler l'information et encourager la politique divisée à trouver un terrain d'entente plus constructif ?

■ Maria Ressa: Tout d'abord, j'ai toujours eu l'impression que la Corée était dans une meilleure situation. Pour revenir à la citation de Milan Kundera, « La lutte de l'homme contre le pouvoir est la lutte de la mémoire contre l'oubli ».

La conception des médias sociaux d'aujourd'hui transforme un mensonge en fait – un mensonge répété un million de fois devient un fait. Comme je l'ai dit dans ma conférence Nobel, cela est devenu une bataille individuelle pour l'intégrité, pour les faits et pour les valeurs.

C'est pourquoi il est formidable que la Corée non seulement ait accueilli la réunion régionale du deuxième Sommet pour la démocratie, mais qu'elle accueillera également le prochain Sommet. Il est bon que le troisième Sommet pour la démocratie se tienne dans la région Asie-Pacifique où, selon le dernier rapport de V-Dem, la qualité de nos démocraties a connu le pire déclin au niveau mondial. Le reste du monde est revenu aux niveaux de 1986. En Asie-Pacifique, nous sommes aux niveaux de 1978.

Alors, quelle est la solution ? Premièrement, en raison de la culture de la Corée, les organisations de presse traditionnelles ont encore un pouvoir considérable. Elles perdent le contrôle de leurs activités et leur modèle économique disparaît rapidement. Il est intéressant qu'en Corée, Google ne soit pas le numéro un, mais Naver. Cependant, les organisations de presse coréennes ont cédé trop de pouvoir et de relations à Naver. Nous ne devrions pas nous battre en aval ; nous devons nous battre en amont. La solution à long terme est donc l'éducation.

La solution à moyen terme est la législation, et à court terme, la prise de conscience que nous sommes insidieusement manipulés par les médias sociaux. Notre biologie, nos émotions sont utilisées contre nous. Et sur les médias sociaux, selon une étude du MIT de 2018, les mensonges se propagent au moins 6 fois plus vite que les faits. Le fait que [ces mensonges] incitent à la haine, à la peur et au tribalisme est une partie de la raison pour laquelle nous sommes si polarisés. Ils font appel au pire de la nature humaine, de la société, et l'impact n'est pas seulement au niveau individuel, mais sociologiquement au niveau du groupe.

Nous nous comportons différemment en groupe. Dans mon livre, j'ai parlé de l'expérience de Milgram sur les chocs électriques, dans laquelle des sujets d'essai étaient derrière un écran et les participants devaient continuer à infliger des chocs électriques de plus en plus longs aux sujets et à les regarder de plus en plus. Avec l'autorité, les participants ont continué à infliger des chocs électriques. Lorsque nous sommes en groupe et que l'autorité nous donne la permission d'être notre pire nous-mêmes, nous le faisons. C'est là que certains des avertissements de Timothy Snyder dans « On Tyranny », tels que « Ne suivez pas le groupe », entrent en jeu. C'est le deuxième niveau.

Le troisième niveau est le comportement humain émergent de notre évolution en tant qu'espèce. C'est addictif. Notre jeune génération présente des niveaux plus élevés de dépression et d'insomnie. L'un des rapports internes de Meta, qui faisait partie des plus de 10 000 documents publiés par la lanceuse d'alerte Frances Haugen, a montré que les jeunes adolescentes sur Instagram ont des niveaux accrus de troubles alimentaires. Les impacts et les préjudices [des médias sociaux] sont très clairs, au-delà du fait de tuer la démocratie – plus que cela, c'est la montée du fascisme.

IV. Liberté d'expression contre « gatekeeping » ?

■ Sook Jong Lee: Aujourd'hui, nous avons des débats en cours sur les médias sociaux et leur horrible effet de désinformation. Mais en tant que journaliste, lorsque vous êtes confronté à des principes contradictoires, à savoir la liberté d'expression et la protection de la vie privée et de la dignité humaine, comment les conciliez-vous ?

■ Maria Ressa: Il est faux de dire qu'ils entrent en collision car il ne s'agit pas d'une question de liberté d'expression. Il s'agit en fait d'une question de « gatekeeping » (contrôle d'accès). Les organisations de presse étaient censées être les gardiennes de la sphère publique, et les lecteurs pouvaient [les tenir] responsables. Si elles diffusaient ou répétaient un mensonge, elles pouvaient être poursuivies en justice.

Actuellement, les entreprises technologiques gagnent plus d'argent grâce à la surveillance à des fins lucratives. Nous n'avions même pas de nom pour ce modèle économique avant 2019, lorsque Shoshana Zuboff a écrit « L'Âge du capitalisme de surveillance ». Ce livre explique comment ces entreprises technologiques utilisent l'apprentissage automatique pour créer des modèles qui nous connaissent mieux que nous ne nous connaissons nous-mêmes. Ces modèles sont ensuite récupérés par l'IA et deviennent la base de données principale utilisée pour le micro-ciblage.

Le micro-ciblage n'est pas l'ancienne stratégie publicitaire que nous connaissons. Il identifie votre moment le plus faible pour vous envoyer un message et le vendre. Ce modèle de marketing publicitaire est maintenant exploité par des puissances géopolitiques. Nous avons déjà vu des expériences, mais cette exploitation a vraiment commencé en 2014 lorsque la désinformation russe a commencé à cibler la Crimée, l'Amérique, et même la Corée. Comme elles ont réussi, elles ont été reproduites dans différents pays du monde. C'est en partie la raison pour laquelle nous voyons des dirigeants illibéraux être élus démocratiquement, car si vous n'avez pas l'intégrité des faits, vous ne pouvez pas avoir l'intégrité des élections.

V. L'impact des médias sociaux sur l'écosystème mondial de l'information

■ Sook Jong Lee: Si nous étendons ce débat à la Corée du Nord, où il n'y a pas seulement un dirigeant illibéral mais aussi une société totalement fermée avec un peuple endoctriné, quelle serait une bonne façon pour les démocraties d'intervenir dans la psyché des Nord-Coréens concernant les questions de liberté et de démocratie ? Avez-vous pensé aux Nord-Coréens ?

■ Maria Ressa: Si vous regardez le monde aujourd'hui, nous avons plusieurs cas. Lorsque la Russie a envahi l'Ukraine, le monde s'est uni, a réagi et la CPI a émis un mandat d'arrêt. C'est la réaction la plus rapide du monde depuis la Seconde Guerre mondiale. La Syrie, par exemple, a été très désordonnée.

Les gens pensaient que la démocratie n'avait pas vraiment besoin d'être nourrie et qu'elle survivrait à tous ces « morts par mille coupures ». Vous avez aussi Taïwan, qui est englouti par les opérations d'information de la Chine continentale. Vous avez les Corées, et vous les voyez à différentes étapes de ce processus.

Ce qui m'inquiète, c'est que si nous ne faisons rien de significatif avec notre écosystème informationnel, nous finirons comme la Corée du Nord. Quand vous dites que la Corée du Nord endoctrine, je dis que les médias sociaux sont un système de modification du comportement.

Le 6 janvier 2021, nous avons vu pour la première fois de la violence sur Capitol Hill. Le 8 janvier de cette année, nous avons vu de la violence au Brésil. L'un des aspects qui n'a pas encore été suffisamment étudié est le rôle de YouTube, par exemple, au Brésil, aux États-Unis, aux Philippines et en Corée du Sud. Dans une recherche de l'Institut Belfer de Harvard, ils ont regroupé les algorithmes de YouTube sur le virus Zika, le COVID, et aussi sur Jair Bolsonaro. Leurs résultats ont montré que Bolsonaro, une figure d'extrême droite, a pu être élu grâce aux algorithmes de Youtube. Les contenus recommandés par les algorithmes ont regroupé les extrêmes droits qui n'auraient jamais pu se trouver dans le monde réel. Ils étaient trop marginaux, mais ils avaient une idée terroriste commune : l'ennemi de mon ennemi est mon ami. C'est ce qui s'est passé : l'algorithme de regroupement des moteurs de recommandation a fourni une base de soutien.

Cet algorithme de regroupement a-t-il créé la violence du 6 janvier 2021 ? Je reviens à Yuri Andropov, ancien président du KGB, qui parlait de désinformation d'une manière que les pays démocratiques prennent au sérieux. Il a dit : « la désinformation, c'est comme la cocaïne – reniflez une ou deux fois, cela ne changera peut-être pas votre vie. Si vous l'utilisez tous les jours, cependant, cela vous rendra dépendant – un homme différent. » C'est là que nous en sommes en 2023 après que les algorithmes nous ont exploités et ont utilisé nos données pour changer notre façon de penser et notre façon d'agir par le biais de nos émotions.

■ Sook Jong Lee: Merci. Avez-vous des commentaires pour l'Asia Democracy Research Network ?

■ Maria Ressa: Une dernière chose que j'aimerais ajouter concernant l'ADRN est que nos recherches seront inadéquates si nous n'avons pas accès aux données massives. Les grandes entreprises technologiques détiennent ces données sur nous, et elles sont franchement le seul moyen de les tenir responsables. C'est presque comme si nous étions dans le noir, lançant des spaghettis contre le mur alors qu'elles ont les ressources et pas nous.

Merci beaucoup de m'avoir reçue.

■ Maria Ressa est la fondatrice, PDG et rédactrice en chef de Rappler, le principal site d'information numérique qui mène la lutte pour la liberté de la presse aux Philippines. En octobre 2021, Maria a été l'une des deux journalistes à recevoir le prix Nobel de la paix en reconnaissance de ses « efforts pour sauvegarder la liberté d'expression, qui est une condition préalable à la démocratie et à une paix durable ». Parmi de nombreux autres prix pour sa position de principe, elle a reçu le prestigieux Golden Pen of Freedom Award, le Knight International Journalism Award, le Gwen Ifill Press Freedom Award, le Shorenstein Journalism Award, le Columbia Journalism Award et le Sergei Magnitsky Award. Ressa est journaliste en Asie depuis plus de 30 ans, la plupart du temps comme chef de bureau de CNN à Manille, puis à Jakarta. En 2005, elle a pris la direction d'ABS-CBN News and Current Affairs, et pendant six ans, elle a géré plus de 1 000 journalistes pour la plus grande opération d'information multiplateforme des Philippines.

■ Responsable et éditeurPark Ji-soo, Assistant de recherche à l'EAI

    Pour toute demande : 02 2277 1683 (poste 208) | jspark@eai.or.kr

Script vidéo

Chers auditeurs de l'East Asia Institute, je suis... c'est une très belle opportunité d'avoir Maria Ressa, la journaliste bien connue et lauréate du prix Nobel de la paix 2021. Maria s'est battue très activement non seulement aux Philippines mais aussi à l'international. Je voudrais donc poser plusieurs questions à Maria. Maria, merci beaucoup d'avoir pris le temps de parler avec moi pour le public de l'EAI. Je suis tellement heureuse que nous ayons pu... Oui, c'est bien d'être ici. Merci de m'avoir invitée. Je suis curieuse

parce que vous avez dû faire face à 10 mandats d'arrêt sous le gouvernement Duterte. Après vous avez un nouveau gouvernement, le fils de l'ancien président Marcos, Junior, que nous appelons Bongbong Marcos, est-ce que la situation de la liberté des médias s'est améliorée sous le nouveau gouvernement ? C'est ma première question. Oui, je pense que... on me pose souvent cette question et je dirai presque immédiatement oui. Et je souligne que... juste en janvier de cette année, j'avais quatre accusations d'évasion fiscale, des accusations criminelles qui auraient pu me mettre en prison pendant 34 ans.

et Rappler a également été accusé de charges ridicules d'évasion fiscale criminelle. Après quatre ans et deux mois, trois juges de la cour d'appel fiscale les ont rejetées. Nous avons été acquittés. Et quand vous lisez le verdict, vous réalisez vraiment... comment cela a-t-il pu aller au tribunal ? Je pense que les juges voient lentement le pouvoir judiciaire indépendant revenir, ce qui signifie que... les freins et contrepoids se remettent lentement en place. Je pense que c'est la première étape. Dans le passé, sous la dernière administration,

c'était une tactique de harcèlement et d'intimidation pour que les journalistes renoncent volontairement à leurs droits. Ce que les gens appelleraient l'effet dissuasif, j'appellerais cela la Sibérie. Nous avons vécu en Sibérie pendant cette période, et il y avait des coûts à s'opposer au pouvoir. Il est trop tôt, mais le président Marcos, le fils unique et homonyme de Ferdinand Marcos, qui a été accusé de détourner 10 milliards de dollars américains en dollars de 1986... eh bien, il a passé plus de ses cent premiers jours à voyager à l'extérieur des Philippines. Il se soucie de ce que le reste

du monde pense. Il a, je pense, ce que vous voyez, c'est un leader du pays qui cherche également à faire amende honorable pour le nom de sa famille. Et donc j'espère qu'il écoutera et continuera également son... son objectif, comme son père, sur l'économie. C'est une période difficile pour le monde et... et l'épicerie philippine est significativement meilleure qu'en Occident... mais que cela se traduise ou non par de vraies... par de vraies politiques qui aident notre peuple, c'est le défi à venir. Je suis très heureuse que la situation de la liberté des médias se soit améliorée, mais vous savez,

c'est comme si nous étions si bas, tout s'est légèrement amélioré et les amis aux Philippines parlaient d'un possible retour de flamme sous le nouveau président. Oui, parce qu'il pourrait... essayer de légitimer l'héritage de son père et la partie autoritaire de votre pays. Je pense que cela se produit dans presque tous les pays du monde. Vous savez, nous testons l'histoire et avec la montée de l'extrême droite, avec la montée de... quand les mensonges se propagent plus vite que les faits sur la plateforme de diffusion d'informations sur la technologie

les plateformes, sur les médias sociaux, cela rend chaque partie de l'histoire discutable. Les faits sont discutables, alors tout... et ce que nous avons sur les médias sociaux, c'est... ce sont deux algorithmes qui fonctionnent. Le premier est l'algorithme des amis d'amis sur Facebook, qui nous a essentiellement polarisés. Nous avons vu cela se produire aux Philippines en 2016, lorsque Duterte a été élu. Si vous étiez pro-Duterte, vous alliez plus à droite ; si vous étiez anti-Duterte, vous alliez plus à gauche. C'est ce qui s'est passé aux États-Unis, en Hongrie, au

Brésil. Vous voyez cela, mais il y a un moteur de recommandation, et vous le voyez sur YouTube, vous le voyez sur Facebook... où si vous cliquez sur une vidéo sur YouTube, par exemple, ou sur Twitter, vous serez alors alimenté par le moteur de recommandation qui vous apportera quelque chose de plus extrémiste. Il y a donc une radicalisation vers le bas, une polarisation et une radicalisation. Votre question devient donc plus compliquée dans cet écosystème informationnel pour Marcos et... et maintenant, c'est intéressant avec la Corée, avec l'Allemagne

qui a vu la montée de l'extrême droite, de l'extrême droite, toutes ces choses étaient intégrées dans notre société et les groupes de la société civile utilisent des tactiques comme le déshonneur pour déterminer ce qui est juste, ce qui est juste. Mais maintenant, quand les mensonges sont récompensés, le monde est bouleversé et cela devient discutable. Donc, en termes d'actions lui-même, vous savez, ce que nous avons vu du président Marcos, encore une fois, parce que le niveau était si bas sous l'administration précédente, nous voyons maintenant un peu de professionnalisme... une gouvernance professionnelle, une façon professionnelle dont il

se présente, il ne jure pas, la politique est plus claire, les nominations sont plus claires. Ils font... cette administration écoute les réactions du public face aux mauvaises politiques. Mais je pense que malgré le fait que nous ayons souffert... à cause de l'arme juridique, je suis également d'avis que nous devons être justes et regarder les actions d'aujourd'hui et pas nécessairement le passé, bien que ce soit la partie difficile. Était-il un évadé fiscal ? A-t-il omis de payer ses impôts ? C'est ironique parce qu'il encourage maintenant les Philippins à payer leurs impôts. Alors, vous avez

c'est un peu... c'est très déroutant. Où est le terrain moral ? En même temps, c'est là que je deviens légèrement pragmatique. Ma tâche en tant que journaliste chez Rappler, notre tâche est de demander des comptes au pouvoir. Nous vous donnerons le contexte de cela. En Inde, le Premier ministre Modi, Modi et Marcos ne pouvaient pas voyager aux États-Unis, mais lorsqu'ils ont été démocratiquement élus par leur peuple, ils ont pu voyager. Beaucoup de ces choses disparaissent. Il a été massivement élu démocratiquement.

Donc, je suppose qu'une partie de cela est que nous devons rester vigilants, nous devons continuer à faire les reportages. J'ai toujours trois... Rappler et j'ai toujours trois affaires pénales contre nous. Il y a une cinquième accusation d'évasion fiscale, il y a une affaire de cyberdiffamation, il y a l'affaire des valeurs mobilières qui est liée au contrôle étranger. Vous devez être optimiste, sinon cela peut être débilitant. Oh, eh bien, vous avez mentionné tellement de perspectives différentes sur l'histoire passive. Oui, et cela se produit aussi en Corée, à propos de la période coloniale,

oui, et aussi la période autoritaire, correct. C'est donc une division très, très... de notre société civile, sans parler de tous les politiciens. Et nous avons tellement de médias, pas seulement des journaux, mais aussi YouTube et les médias sociaux. Oui, il est donc difficile de savoir s'il y a la vérité ou si la société divisée peut faire des compromis ou parvenir à un consensus sur les interprétations historiques. Dans ce genre d'environnement, quels seraient les bons conseils pour contrôler cette... cette désinformation et aussi encourager la société divisée

à trouver un terrain d'entente plus constructif ? Oui, alors vous savez, je ressens... Tout d'abord, j'ai toujours eu l'impression que la Corée était dans une meilleure situation. En partie, je veux dire, c'est quand nous revenons à la citation de Milan Kundera : la lutte de l'homme contre le pouvoir est la lutte de la mémoire contre l'oubli. Et la conception des médias sociaux aujourd'hui transforme en fait un mensonge en fait. Un mensonge répété un million de fois devient un fait. Je l'ai dit dans mon discours Nobel. Cela est devenu une bataille individuelle pour l'intégrité et un équilibre individuel pour

les faits, une bataille individuelle pour les valeurs. C'est pourquoi il est formidable que la Corée organise non seulement ce deuxième sommet sur la démocratie du groupe régional, mais qu'elle accueillera également le prochain. Il est bon que le troisième sommet sur la démocratie vienne en Asie, qui, selon le dernier rapport v-dem, l'Asie-Pacifique a connu le pire déclin de la qualité de nos démocraties au niveau mondial. Le reste du monde est revenu aux niveaux de 1986, en Asie-Pacifique, nous sommes aux niveaux de 1978. Alors... quelle est la solution ? Premièrement, vous

avez toujours une partie de cela à cause de la culture coréenne. Les organisations de presse traditionnelles ont encore un pouvoir significatif. Elles perdent le contrôle de leurs activités, le modèle économique meurt rapidement. Et je pense qu'il est intéressant qu'en Corée, Google ne soit pas le numéro un, mais que ces organisations de presse aient cédé un pouvoir et des relations considérables à Naver. Je pense que la Corée doit faire la même chose que ce que nous avons préconisé dans l'UE, le mot juste est peut-être

une partie de cela est... je suis fatiguée de jouer au jeu du « whack-a-mole » de la modération de contenu ou d'essayer de combattre les 90, les 98 messages par heure. C'est impossible. Nous ne devrions pas le combattre en aval, nous devons le combattre en amont. Donc, à long terme, d'abord l'éducation, à moyen terme la législation, et à court terme la prise de conscience que nous sommes insidieusement manipulés, que notre biologie, nos émotions sont utilisées contre nous, et que... sur les médias sociaux, c'est une étude du MIT de 2018

les mensonges se propagent au moins six fois plus vite que les faits, et si cela inclut l'incitation à la haine, l'incitation à la peur, l'incitation au tribalisme, c'est une partie de la raison pour laquelle nous sommes si polarisés. Cela crée... cela fait appel au pire de la nature humaine, au pire de la société. Et l'impact n'est pas seulement au niveau individuel, il est sociologiquement au niveau du groupe. Nous nous comportons différemment en groupe. Je suis retournée... dans mon livre, j'ai parlé de l'étude Milgram, où cette étude a été réalisée et elle était censée avoir été

réalisée en Allemagne. Stanley Milgram l'a fait, et il ne l'a pas faite en Allemagne, il l'a faite aux États-Unis, sur un campus. Et l'expérience était... vous deviez... il y avait des sujets d'essai derrière l'écran, et vous deviez... le sujet d'essai devait... on lui disait qu'il devait continuer à donner des chocs électriques de plus en plus longs aux personnes qu'il voyait, et puis ils voyaient la personne souffrir de plus en plus, qui agissait essentiellement pour le... pour le sujet, et pourtant, avec l'autorité, ils continuaient à... à donner des chocs électriques, n'est-ce pas ?

il y a quelque chose en nous, quand nous sommes en groupe, quand l'autorité nous dit, nous donne la permission d'être notre pire nous-mêmes, nous le faisons. Et c'est là que... certains des avertissements, par exemple, de Timothy Snyder dans « Sur la tyrannie » sont... ne suivez pas le groupe. C'est donc le deuxième niveau. Le troisième niveau est le comportement humain, le comportement humain émergent, notre évolution en tant qu'espèce. C'est addictif. La jeune génération a des niveaux plus élevés de dépression, d'insomnie. Un rapport interne de Facebook, l'un des documents de Meta, qui a été publié par la lanceuse d'alerte Frances Haugen, a montré que les jeunes adolescentes sur Instagram... ont des niveaux plus élevés de troubles alimentaires. Les dommages sont maintenant très clairs, en dehors de... oui, tuer la démocratie, en fait, plus que cela, c'est la montée du fascisme. D'accord. Vous savez, nous n'avons pas beaucoup débattu de ce monde des médias sociaux et aussi de cet horrible effet de désinformation, mais en tant que journaliste, lorsque vous êtes confronté au principe contradictoire, à savoir la liberté d'expression et un autre principe de

protéger la vie privée, comment concilier lorsque ces deux principes entrent en collision ? Il est faux de dire qu'ils entrent en collision, car il ne s'agit pas d'une question de liberté d'expression. Il s'agit en fait d'une question de contrôle de l'information, où les organisations d'information étaient les gardiennes de la sphère publique. Vous pouviez nous tenir responsables si nous diffusions un mensonge, si nous faisions écho à un mensonge, nous pouvions être poursuivis. Maintenant, les entreprises technologiques gagnent plus d'argent grâce à la surveillance à des fins lucratives, et nous n'avions même pas de nom pour ce modèle économique avant 2019, lorsque Shoshana Zuboff a écrit

sur le capitalisme de surveillance. Et le capitalisme de surveillance explique comment ces entreprises technologiques utilisent l'apprentissage automatique pour créer des modèles de nous qui nous connaissent mieux que nous ne nous connaissons nous-mêmes. Et vous savez, j'ai vécu cela et je le vois. Ces modèles sont ensuite récupérés par l'IA et cela devient la base de données principale qui est utilisée pour le micro-ciblage. Le micro-ciblage n'est pas la vieille publicité que nous connaissons. Le micro-ciblage connaît votre moment le plus faible pour un message et le vend. Et ces... ce modèle de publicité et de marketing

a commencé ainsi, est maintenant exploité par le pouvoir géopolitique. Cette exploitation a commencé en 2014, comme nous l'avons vu lors d'expériences. Mais en 2014, la désinformation russe a commencé à cibler la Crimée, a commencé à cibler l'Amérique, a commencé à cibler la Corée. Ce sont certaines des choses, et comme elles ont réussi, et elles ont réussi, cela a été reproduit dans différents pays du monde. Une partie de la raison pour laquelle nous voyons des dirigeants illibéraux élus démocratiquement, c'est que si vous n'avez pas l'intégrité des faits, vous ne pouvez pas avoir l'intégrité des

élections. Si nous étendons ce débat à la Corée du Nord, ce n'est pas seulement un leader illibéral, c'est une société totalement fermée et les gens sont endoctrinés, que ce soit de la bonne manière pour les... les démocrates d'intervenir dans... la psyché des Nord-Coréens à propos de ces questions de liberté et de démocratie. Avez-vous pensé au cas de la Corée du Nord ? Si vous regardez le monde aujourd'hui, nous avons plusieurs cas. La Russie a envahi l'Ukraine, le monde s'est uni, a réagi, et maintenant la CPI a émis

un mandat d'arrêt. C'est la réaction la plus rapide du monde depuis la Seconde Guerre mondiale. La Syrie, par exemple, a été très désordonnée. Les gens pensaient que la démocratie n'avait pas besoin d'être nourrie, qu'elle survivrait à tout cela. Je l'ai appelé la mort par mille coupures, venant de l'idée d'Al-Qaïda que c'est ainsi que l'on se bat. Vous avez Taïwan, qui est englouti par les opérations d'information de la Chine. Taïwan est séparé de la Chine. Et puis vous avez la Corée du Sud et la Corée du Nord. Vous avez les Coréens, et je pense

que vous les voyez comme des étapes différentes. Et ce qui m'inquiète, c'est que si nous ne faisons rien de significatif avec notre écosystème informationnel, nous finirons comme la Corée du Nord. Parce que pensez-y comme ceci : en janvier 2021, le 6 janvier, nous avons vu pour la première fois de la violence sur Capitol Hill aux États-Unis. Oui, c'est... quand vous dites que la Corée du Nord endoctrine, je dis que les médias sociaux sont un système de modification du comportement. Et parce que c'est dans des chambres d'écho, jusqu'où cela ira-t-il ? Nous avons vu la violence du 6 janvier aux États-Unis, nous avons vu

la violence du 8 janvier cette année au Brésil. Et l'une des choses fascinantes, sur lesquelles on n'a pas fait assez de recherches, c'est le rôle de YouTube, par exemple, au Brésil, aux États-Unis, aux Philippines, en Corée. Parce que YouTube... c'est une recherche de l'Institut Belfort, publiée par l'Institut Belfort à Harvard. Essentiellement, ils ont commencé à travailler sur les algorithmes de regroupement de YouTube et Zika avant le COVID, puis ils ont travaillé sur Bolsonaro. Et ce qu'ils ont montré, c'est que

Bolsonaro était une figure d'extrême droite marginale, mais il a été amené au centre, est devenu président, parce que les algorithmes de YouTube, en recommandant du contenu, ont regroupé l'extrême droite, la marge, chaque théorie du complot qui, dans le monde réel, n'aurait jamais pu se trouver. Ils étaient trop marginaux, mais ils avaient en commun... c'est une idée terroriste : l'ennemi de mon ennemi est mon ami. C'est essentiellement ce que vous avez vu se produire, et cet algorithme de regroupement des moteurs de recommandation

a fourni la base de soutien. Ceci est conforme... et c'est dans un livre de Max Fisher, il l'appelle « La machine à chaos ». Il affirme que cela a amené Bolsonaro à la présidence. Et si vous regardez ensuite, est-ce le même algorithme de regroupement qui a créé la violence du 8 janvier ? Revenons à Yuri Andropov, ancien président du KGB, qui parlait de désinformation d'une manière que je ne pense pas que nous, dans les pays démocratiques, prenons au sérieux. Sa citation est la suivante : il a dit que la désinformation, c'est comme la cocaïne.

vous en prenez une ou deux fois, vous allez bien, mais si vous en prenez tout le temps, vous êtes une personne changée. C'est là que nous en sommes en 2023, après que les algorithmes nous ont exploités... et ont utilisé nos données pour changer notre façon de penser par le biais de nos émotions, et finalement notre façon d'agir. Oui, c'était fascinant. Je suis sûr que notre public a beaucoup appris de Maria Ressa, qui a tant d'expérience dans les médias en ligne et aussi... qui se bat pour la démocratie. Quelqu'un d'autre a dit : merci beaucoup d'avoir pris le temps de parler de cette question.

Vous le prenez une ou deux fois, ça va, mais si vous le prenez tout le temps, vous êtes une personne changée. C'est là où nous en sommes en 2023, après que les algorithmes nous aient exploités, aient utilisé nos données pour changer notre façon de penser, nos émotions et, finalement, notre façon d'agir. Oui, c'était fascinant. Je suis sûr que notre public a beaucoup appris de Maria Lessa, qui a tant d'expérience dans les médias en ligne et qui se bat aussi pour la démocratie. Quelqu'un d'autre a dit : merci beaucoup d'avoir pris le temps de parler de cette question.