[ADRN Interview] Algoritmos de redes sociales que fomentan la polarización política y la propagación de noticias falsas, y la respuesta de las democracias

Enlace de YouTube: https://www.youtube.com/watch?v=HZXHNN9JYNI

El East Asia Institute (EAI), como parte de su proyecto Asian Democracy Network (ADRN), invita a Maria Ressa, CEO de Rappler y ganadora del Premio Nobel de la Paz 2021, a discutir el estado de la libertad de prensa en países de la región, incluida Filipinas, y las contramedidas para detener la propagación de noticias falsas en las redes sociales. Ressa critica el fenómeno de que el ecosistema de información construido por las grandes empresas tecnológicas reproduce selectivamente solo noticias e información de un sesgo particular, y advierte que los algoritmos de las redes sociales que difunden rápidamente información falsa socavan la democracia al fomentar el auge de la extrema derecha. Además, como solución al control de los medios por parte de las redes sociales y la polarización política, Ressa propone la educación, la legislación y la concienciación.

■ Sook Jong Lee:Hola a todos, es una gran oportunidad tener a Maria Ressa con nosotros hoy. Es una periodista muy conocida y galardonada con el Premio Nobel de la Paz, que trabaja muy activamente no solo en Filipinas sino también a nivel internacional. Maria, muchas gracias por su tiempo.

■ Maria Ressa:Me alegra mucho que haya funcionado. Es bueno estar aquí. Gracias por invitarme.

I. Nivel de libertad de prensa en Filipinas tras el gobierno de Duterte

■ Sook Jong Lee:Usted enfrentó 10 órdenes de arresto durante el gobierno de Duterte. Dado que Filipinas tiene ahora un nuevo presidente, Bongbong Marcos, hijo del expresidente, me gustaría preguntar si la libertad de prensa ha mejorado.

■ Maria Ressa:Me han preguntado esto muchas veces, y diré inmediatamente: “Sí”.

En enero, tuve cuatro cargos de evasión fiscal que podrían haberme llevado a prisión durante 34 años. Rappler también fue acusado de ridícula evasión fiscal criminal. Después de cuatro años y dos meses, tres jueces de la Corte de Apelaciones Fiscales desestimaron los cargos y fuimos absueltos. Y al leer el veredicto, uno se da cuenta: “¿Cómo llegaron estos cargos siquiera a los tribunales?”. El poder judicial independiente está resurgiendo lentamente, lo que significa que los controles y equilibrios están volviendo a funcionar. Ese es un primer paso. La administración anterior utilizó tácticas de acoso e intimidación para que los periodistas renunciaran voluntariamente a sus derechos, lo que muchos han llamado el “efecto desalentador”. Yo lo llamaría “Siberia”. Vivimos en “Siberia” durante ese período y hubo costos por enfrentarse al poder.

Todavía es muy pronto, pero el presidente Bongbong Marcos, el único hijo y homónimo de Ferdinand Marcos, acusado de robar 10 mil millones de dólares estadounidenses en 1986, ha pasado más de sus primeros 100 días viajando fuera de Filipinas. Le importa lo que piensa el resto del mundo y también busca vindicar el nombre de su familia. Espero que escuche y continúe enfocándose en la economía como lo hizo su padre. Este es un momento difícil para el mundo post-COVID. Si bien la tasa de crecimiento de Filipinas es significativamente mejor que la de Occidente, el desafío que tenemos por delante es si esto se traduce en políticas reales que ayuden a nuestra gente.

Estábamos tan bajos en el pasado que todo es una ligera mejora.

II. El legado de represión mediática de Duterte y el camino a seguir para Filipinas

■ Sook Jong Lee:Amigos en Filipinas hablaban de una posible reacción negativa bajo el nuevo presidente, ya que podría intentar legitimar el legado de su padre y el período autoritario de su país. ¿Cuál es su opinión sobre esta visión?

■ Maria Ressa:Esto está sucediendo en casi todos los países del mundo. Estamos poniendo a prueba la historia.

Con el auge de la extrema derecha y la propagación de mentiras más rápido que los hechos a través de las redes sociales, cada parte de la historia se vuelve debatible. Los hechos son debatibles.

Todo lo que vemos en las redes sociales tiene dos algoritmos funcionando: el primero es el algoritmo de “amigos de amigos” de Facebook, que esencialmente nos polarizó. Vimos esto suceder en Filipinas en 2016 cuando Duterte fue elegido. Si eras pro-Duterte, te movías más a la derecha. Si eras anti-Duterte, te movías más a la izquierda. Esto es lo que sucedió en los Estados Unidos, en Hungría y en Brasil.

[El segundo algoritmo es] el motor de recomendación en YouTube y Facebook, donde si haces clic en un video en las redes sociales, el motor de recomendación te trae algo más extremista. Por lo tanto, hay una polarización y una radicalización descendente. [Ambos] están incrustados en nuestra sociedad, y los grupos de la sociedad civil utilizaron tácticas como nombrar y avergonzar para determinar qué es lo “correcto”. Pero cuando las mentiras son recompensadas, el mundo se pone patas arriba y esto se vuelve debatible.

Su pregunta se vuelve más complicada para Marcos en este ecosistema de información. En términos de acciones, dado que la vara la dejó muy baja la administración anterior, ahora vemos un poco de gobernanza profesional por parte del nuevo presidente. Se presenta y no maldice. La política es más clara y los nombramientos son más claros. Esta administración escucha la reacción pública ante las malas políticas; sin embargo, a pesar de que hemos sufrido la <em>weaponization</em> de la ley, también soy de la misma opinión de que debemos ser justos y mirar las acciones de hoy y no necesariamente el pasado. ¿Fue un evasor de impuestos? ¿No pagó sus impuestos? Es irónico porque ahora anima a los filipinos a pagar sus impuestos.

Por lo tanto, es muy confuso: ¿dónde está la superioridad moral? Al mismo tiempo, aquí es donde me vuelvo un poco pragmática. Como periodista en Rappler, mi tarea es exigir cuentas al poder. Le daremos el contexto de esto. Tanto el Primer Ministro de la India, Modi, como el Presidente de Filipinas, Marcos, no pudieron viajar a los Estados Unidos. Pero cuando fueron elegidos democráticamente por su pueblo, pudieron viajar. Muchas de estas cosas desaparecen. Y fueron elegidos abrumadoramente. Así que debemos mantenernos vigilantes y debemos seguir contando las historias.

Rappler y yo todavía tenemos tres casos penales en nuestra contra. Hay un quinto cargo de evasión fiscal, un caso de ciberdifamación y un caso de valores relacionado con el control extranjero. Tenemos que ser optimistas; de lo contrario, puede ser debilitante.

III. Soluciones a la polarización política causada por la desinformación en redes sociales

■ Sook Jong Lee:Mencionó muchas perspectivas diferentes sobre la historia, y en Corea también está sucediendo lo mismo sobre su período colonial y autoritario. Está dividiendo a nuestra sociedad civil, por no mencionar a nuestros políticos. También tenemos no solo periódicos, sino también YouTube y redes sociales que nos dificultan ver si hay verdad o si la sociedad dividida puede llegar a un compromiso o alcanzar un consenso sobre las interpretaciones históricas. En este tipo de entorno, ¿cuál sería un buen consejo para controlar la información y animar a la política dividida a llegar a un terreno común más constructivo?

■ Maria Ressa:En primer lugar, siempre sentí que Corea estaba en una mejor situación. Cuando volvemos a la cita de Milan Kundera, “La lucha del hombre contra el poder es la lucha de la memoria contra el olvido”.

El diseño de las redes sociales de hoy convierte una mentira en un hecho; una mentira dicha un millón de veces se convierte en un hecho. Como dije en el discurso del Nobel, esto se ha convertido ahora en una batalla individual por la integridad, por los hechos y por los valores.

Es por eso que es genial que Corea no solo haya celebrado la reunión regional de la Segunda Cumbre por la Democracia, sino que también sea sede de la próxima Cumbre. Es bueno que la Tercera Cumbre por la Democracia llegue a Asia-Pacífico, donde, según el último informe de V-Dem, se ha visto el peor declive en la calidad de nuestras democracias a nivel mundial. El resto del mundo ha vuelto a los niveles de 1986. En Asia-Pacífico, estamos en niveles de 1978.

Entonces, ¿cuál es la solución? Primero, debido a la cultura de Corea, las organizaciones de noticias tradicionales todavía tienen un poder significativo. Están perdiendo el control de su negocio y su modelo de negocio está muriendo rápidamente. Es interesante que en Corea, Google no sea el número uno, sino Naver. Pero las organizaciones de noticias coreanas han cedido demasiado poder y relaciones a Naver. No debemos luchar río abajo; tenemos que luchar río arriba. Por lo tanto, la solución a largo plazo es la educación.

La solución a medio plazo es la legislación, y a corto plazo es la concienciación de que estamos siendo manipulados insidiosamente por las redes sociales. Nuestra biología, nuestras emociones están siendo utilizadas en nuestra contra. Y en las redes sociales, según un estudio del MIT de 2018, las mentiras se propagan al menos 6 veces más rápido que los hechos. El hecho de que [estas mentiras] inciten al odio, al miedo y al tribalismo, es parte de la razón por la que estamos tan polarizados. Apelan a lo peor de la naturaleza humana, de la sociedad, y el impacto no es solo a nivel individual, sino sociológicamente a nivel de grupo.

Nos comportamos de manera diferente en grupo. En mi libro, hablé sobre el Experimento de la Descarga Eléctrica de Milgram, en el que había sujetos de prueba detrás de una pantalla y se les dijo a los participantes que siguieran dando descargas eléctricas cada vez más largas a los sujetos y observaran cómo lo hacían cada vez más. Con autoridad, los participantes continuaron dando descargas eléctricas. Cuando estamos en grupos y cuando la autoridad nos da permiso para ser nuestro peor yo, lo hacemos. Aquí es donde entran en juego algunas de las advertencias de Timothy Snyder en “Sobre la tiranía”, como “No sigas al grupo”. Ese es el segundo nivel.

El tercer nivel es el comportamiento humano emergente de nuestra evolución como especie. Esto es adictivo. Nuestra generación joven tiene niveles más altos de depresión y insomnio. Uno de los informes internos de Meta, que fue uno de los más de 10.000 documentos publicados por la denunciante Frances Haugen, mostró que las adolescentes en Instagram tienen niveles más altos de trastornos alimentarios. Los impactos y daños [de las redes sociales] son muy claros, además de matar la democracia; más que eso es el auge del fascismo.

IV. ¿Libertad de expresión vs. control de acceso?

■ Sook Jong Lee:Hoy en día, tenemos debates en curso sobre las redes sociales y su horrible efecto de desinformación. Pero como periodista, cuando se enfrenta a principios en conflicto, a saber, la libertad de expresión y la protección de la privacidad y la dignidad humana, ¿cómo reconcilia esto?

■ Maria Ressa:Es falso decir que chocan porque no se trata de un problema de libertad de expresión. En realidad, es un problema de “control de acceso” (gatekeeping). Las organizaciones de noticias debían ser los guardianes de la esfera pública, y los lectores podían exigirles responsabilidades. Si distribuían o hacían eco de una mentira, podían ser demandados.

En este momento, las empresas tecnológicas ganan más dinero en vigilancia con fines de lucro. Ni siquiera teníamos un nombre para ese modelo de negocio hasta 2019, cuando Shoshana Zuboff escribió “La era del capitalismo de vigilancia”. Este libro profundiza en cómo estas empresas tecnológicas utilizan el aprendizaje automático para crear modelos que nos conocen mejor de lo que nos conocemos a nosotros mismos. Esos modelos son luego recopilados por la IA y se convierten en la base de datos principal que se utiliza para la microsegmentación.

La microsegmentación no es la vieja estrategia publicitaria que conocemos. Conoce tu momento más débil para enviar un mensaje y venderlo. Este modelo de marketing publicitario es ahora explotado por potencias geopolíticas. Hemos visto experimentos antes, pero esa explotación realmente comenzó en 2014, cuando la desinformación rusa comenzó a apuntar a Crimea, América e incluso a Corea. A medida que tuvieron éxito, se replicaron en diferentes países de todo el mundo. Esta es parte de la razón por la que estamos viendo líderes iliberales elegidos democráticamente, porque si no tienes integridad de hechos, no puedes tener integridad de elecciones.

V. Impacto de las redes sociales en el ecosistema global de información

■ Sook Jong Lee:Si extendemos este debate a Corea del Norte, donde no solo hay un líder iliberal sino también una sociedad totalmente cerrada con personas adoctrinadas, ¿cuál sería una buena manera para que las democracias intervengan en la psique de los norcoreanos sobre los temas de libertad y democracia? ¿Ha pensado en los norcoreanos?

■ Maria Ressa: Si observan el mundo actual, tenemos varios casos. Cuando Rusia invadió Ucrania, el mundo se unió, reaccionó y la CPI emitió una orden de arresto. Es lo más rápido que el mundo ha actuado desde la Segunda Guerra Mundial. Siria, por ejemplo, fue muy desarticulada.

La gente pensó que la democracia no necesitaba ser nutrida y que sobreviviría a todas estas "muertes por mil cortes". También tienen Taiwán, que está envuelto en operaciones de información de la China continental. Tienen las Coreas, y las ven en diferentes etapas de ello.

Lo que me preocupa es que si no hacemos nada significativo con nuestro ecosistema de información, terminaremos como Corea del Norte. Cuando dices que Corea del Norte adoctrina, yo digo que las redes sociales son un sistema de modificación de conducta.

El 6 de enero de 2021, vimos violencia en el Capitolio por primera vez. El 8 de enero de este año, vimos violencia en Brasil. Uno de los aspectos que aún no se ha investigado suficientemente es el papel de YouTube, por ejemplo, en Brasil, en Estados Unidos, en Filipinas y en Corea del Sur. En una investigación del Harvard Belfer Institute, agruparon los algoritmos de YouTube sobre el virus Zika, la COVID y también sobre Jair Bolsonaro. Sus resultados mostraron que Bolsonaro, una figura de extrema derecha, pudo ser elegido gracias a los algoritmos de Youtube. Los contenidos recomendados por los algoritmos agruparon a los de extrema derecha que nunca habrían podido encontrarse en el mundo real. Estaban demasiado al margen, pero tenían una idea terrorista común de que el enemigo de mi enemigo es mi amigo. Esto es lo que sucedió: el algoritmo de agrupación de los motores de recomendación proporcionó una base de apoyo.

¿El mismo algoritmo de agrupación creó la violencia del 6 de enero de 2021? Vuelvo a Yuri Andropov, ex presidente de la KGB, quien habló de la desinformación de una manera que los países democráticos toman en serio. Dijo: "la desinformación es como la cocaína: si la consumes una o dos veces, puede que no cambie tu vida. Sin embargo, si la usas todos los días, te convertirá en un adicto, en un hombre diferente". Aquí es donde estamos en 2023 después de que los algoritmos nos han explotado y han utilizado nuestros datos para cambiar nuestra forma de pensar y actuar a través de nuestras emociones.

■ Sook Jong Lee:¿Tiene algún comentario para la Red de Investigación para la Democracia en Asia?

■ Maria Ressa:Una última cosa que me gustaría añadir sobre la ADRN es que nuestra investigación será inadecuada a menos que obtengamos acceso a los macrodatos. Las grandes empresas tecnológicas tienen esos datos sobre nosotros, y francamente son la única forma en que podemos hacerlas responsables. Es casi como si estuviéramos a oscuras, lanzando espaguetis contra la pared cuando ellas tienen los recursos y nosotros no.

Muchas gracias por invitarme.

■ Maria Ressa es la fundadora, CEO y editora ejecutiva de Rappler, el principal sitio de noticias exclusivamente digital que lidera la lucha por la libertad de prensa en Filipinas. En octubre de 2021, Maria fue una de las dos periodistas galardonadas con el Premio Nobel de la Paz en reconocimiento a sus "esfuerzos por salvaguardar la libertad de expresión, que es una condición previa para la democracia y la paz duradera". Entre muchos otros premios por su postura de principios, recibió el prestigioso Premio Pluma de Oro de la Libertad, el Premio Internacional de Periodismo Knight, el Premio a la Libertad de Prensa Gwen Ifill, el Premio de Periodismo Shorenstein, el Premio de Periodismo de Columbia y el Premio Sergei Magnitsky. Ressa ha sido periodista en Asia durante más de 30 años, la mayoría de ellos como jefa de la oficina de CNN en Manila, luego en Yakarta. En 2005, asumió la dirección de ABS-CBN News and Current Affairs, y durante seis años dirigió a más de 1.000 periodistas para la mayor operación de noticias multiplataforma de Filipinas.

■ Responsable y editorPark Ji-soo, Asistente de Investigación de EAI

    Para consultas: 02 2277 1683 (ext. 208) | jspark@eai.or.kr

Guion de video

Estimada audiencia del East Asia Institute, hoy es una gran oportunidad para tener a Maria Ressa, la conocida periodista y ganadora del Premio Nobel de la Paz de 2021. Maria ha luchado muy activamente no solo en Filipinas sino también internacionalmente, así que me gustaría hacerle varias preguntas a Maria. Maria, muchas gracias por tomarse el tiempo para hablar conmigo para la audiencia del EI. No, estoy muy contenta de que hayamos podido hacerlo. Sí, es bueno estar aquí, gracias por invitarme. Tengo curiosidad

porque tuvo que enfrentarse a 10 órdenes de arresto durante el gobierno de Duterte. Después de tener un nuevo gobierno, el hijo del expresidente Marcos, Bongbong Marcos, ¿la situación de la libertad de prensa ha mejorado bajo el nuevo gobierno? Esa es mi primera pregunta. Sí, creo que me han preguntado esto mucho y diré que casi inmediatamente sí, y señalo que, por ejemplo, en enero de este año tuve cuatro cargos de evasión fiscal, cargos criminales que podrían haberme llevado a prisión durante 34 años.

y Rappler también fue acusado de ridículos cargos criminales de evasión fiscal y después de cuatro años y dos meses, tres jueces del Tribunal de Apelación Fiscal los desestimaron. Fuimos absueltos y cuando lees el veredicto, te das cuenta de cómo llegó esto a los tribunales. Creo que los jueces están viendo lentamente cómo resurge el poder judicial independiente, lo que significa que los controles y equilibrios están volviendo a funcionar lentamente. Así que creo que ese es el primer paso. En el pasado, bajo la última administración,

fue una táctica de acoso e intimidación para que los periodistas renunciaran voluntariamente a sus derechos, lo que la gente llamaría el "efecto disuasorio". Yo lo llamaría Siberia. Vivimos en Siberia durante ese período y hubo costos por enfrentarse al poder. Es demasiado pronto, pero el presidente Marcos, el único hijo y homónimo de Ferdinand Marcos, a quien se acusó de robar 10.000 millones de dólares en dólares de 1986, ha pasado más de sus primeros cien días viajando fuera de Filipinas. Le importa lo que piensa el resto del mundo. Creo que lo que se ve es un líder del país que también busca vindicar el nombre de su familia y, por lo tanto, espero que escuche y también continúe su enfoque, como el de su padre, en la economía. Este es un momento difícil para el mundo y la economía filipina es significativamente mejor que la de Occidente, pero si esto se traduce en políticas reales que ayuden a nuestra gente, ese es el desafío que tenemos por delante. Me alegra mucho que la situación de la libertad de prensa haya mejorado, pero

el mundo piensa que tiene. Creo que lo que se ve es un líder del país que también busca vindicar el nombre de su familia y espero que escuche y continúe con su enfoque, como su padre, en la economía. Este es un momento difícil para el mundo y la economía filipina está significativamente mejor que la occidental, pero si esto se traduce en políticas reales que ayuden a nuestra gente, ese es el desafío que tenemos por delante. Me alegra mucho que la situación de la libertad de prensa haya mejorado, pero, ya sabe

en las plataformas, en las redes sociales, hace que cada parte de la historia sea debatible. Los hechos son debatibles, entonces todo. Y lo que tenemos en las redes sociales son dos algoritmos funcionando. El primero es el algoritmo de amigos de amigos de Facebook, que esencialmente nos polarizó. Vimos esto suceder en Filipinas en 2016 cuando Duterte fue elegido. Si eras pro-Duterte, te movías más a la derecha; si eras anti-Duterte, te movías más a la izquierda. Esto es lo que sucedió en Estados Unidos, en Hungría, en

Brasil. Lo ves, pero hay un motor de recomendación y lo ves en YouTube, lo ves en Facebook, donde si haces clic en un video en YouTube, por ejemplo, o en Twitter, entonces se te alimentará, el motor de recomendación te traerá algo más extremista. Así que hay una radicalización descendente, hay una polarización y una radicalización. Por lo tanto, tu pregunta se vuelve más complicada en este ecosistema de información para Marcos y ahora, es interesante con Corea, con Alemania,

que ha visto el auge de la extrema derecha, todas estas cosas estaban incrustadas en nuestra sociedad y los grupos de la sociedad civil utilizan tácticas como "nombrar y avergonzar" para determinar lo que es correcto, ¿verdad? Pero ahora, cuando se recompensa la mentira, el mundo se pone patas arriba y esto se vuelve debatible. Así que, en términos de acciones, lo que hemos visto del presidente Marcos, de nuevo, porque el listón estaba muy bajo por la administración anterior, ahora vemos un poco de gobernanza profesional, una forma profesional en la que

se presenta, no maldice, la política es más clara, los nombramientos son más claros. Ellos, esta administración, escuchan la reacción pública ante las malas políticas, pero creo que a pesar de que hemos sufrido debido a la "weaponización" de la ley, también estoy de acuerdo en que debemos ser justos y mirar las acciones de hoy y no necesariamente el pasado, aunque esta es la parte difícil: ¿fue un evasor de impuestos? ¿No pagó sus impuestos? Es irónico porque ahora anima a los filipinos a pagar sus impuestos. Así que, ya sabes, tienes

es un poco, es muy confuso. ¿Dónde está la superioridad moral? Al mismo tiempo, aquí es donde me vuelvo un poco pragmática. Mi tarea como periodista en Rappler, nuestra tarea es exigir cuentas al poder. Te daremos el contexto de esto. En cuanto al Primer Ministro de la India, Modi, tanto Modi como Marcos no podían viajar a Estados Unidos, pero cuando fueron elegidos democráticamente por su pueblo, podían viajar. Muchas de estas cosas desaparecen. Así que, demócrata, fue abrumadoramente elegido.

Así que supongo que parte de ello es que debemos permanecer vigilantes, debemos seguir contando las historias. Todavía tengo tres casos criminales contra Rappler y contra mí. Hay un quinto cargo de evasión fiscal, hay un caso de ciberdifamación, está el caso de valores que está relacionado con el control extranjero. Tienes que ser optimista, de lo contrario puede ser debilitante. Oh, bueno, sabes que mencionaste tantas perspectivas diferentes sobre la historia pasiva. Sí, y también está sucediendo en Corea sobre el período colonial,

sí, y también el período autoritario, correcto. Así que está dividiendo mucho a nuestra sociedad civil, por no mencionar a todos los políticos. Y tenemos tantos medios, no solo periódicos, sino todos los YouTube y las redes sociales, sí. Así que es difícil ver si existe la verdad o si la sociedad dividida puede llegar a un compromiso o alcanzar un consenso sobre las interpretaciones históricas. Entonces, en ese tipo de entorno, ¿cuál sería el buen consejo para controlar esta desinformación y también para animar a la sociedad dividida, sí,

a llegar a un terreno común más constructivo? Sí, así que, ya sabes, siento que, en primer lugar, siempre sentí que Corea estaba en una mejor situación. Parte de ello, quiero decir, esto es cuando volvemos a la cita de Milan Kundera: la lucha del hombre contra el poder es la lucha de la memoria contra el olvido, y el diseño de las redes sociales de hoy en día convierte una mentira en un hecho. Una mentira dicha un millón de veces se convierte en un hecho. Lo dije en la conferencia Nobel. Esto se ha convertido ahora en una batalla individual por la integridad y un equilibrio individual por

los hechos, una batalla individual por los valores, por eso es genial que Corea esté celebrando no solo la segunda Cumbre por la Democracia de este grupo regional, sino que también albergará la próxima. Es bueno que la tercera Cumbre por la Democracia venga a Asia, que, por cierto, según el último informe v-dem, Asia y el Pacífico han experimentado el peor declive en la calidad de nuestras democracias a nivel mundial. El resto del mundo ha vuelto a los niveles de 1986, en Asia y el Pacífico estamos en los niveles de 1978. Entonces, ¿cuál es la solución? En primer lugar, usted

todavía tiene parte de ello debido a la cultura de Corea. Las organizaciones de noticias tradicionales todavía tienen un poder significativo. Están perdiendo control de negocios, el modelo de negocio está muriendo rápidamente y creo que es interesante que en Corea Google no sea el número uno, Naver sí, pero estas organizaciones de noticias han cedido un poder y unas relaciones significativas a Naver. Creo que Corea necesita hacer lo mismo que hemos estado impulsando en la UE, abogando, supongo que esa es la palabra correcta.

Parte de ello es que estoy cansada de jugar al juego del "topo" de la moderación de contenidos o de intentar luchar contra los 90, los 98 mensajes por hora. Es imposible. No deberíamos luchar contra ello "aguas abajo", debemos luchar "aguas arriba". Así que, a largo plazo, primero es la educación; a medio plazo, la legislación; y a corto plazo, la concienciación de que estamos siendo manipulados insidiosamente, de que nuestra biología, nuestras emociones están siendo utilizadas en nuestra contra y de que, en las redes sociales, este es un estudio del MIT de 2018.

las mentiras se propagan al menos seis veces más rápido que los hechos, y si incluyen incitar al odio, incitar al miedo, incitar al tribalismo, esta es parte de la razón por la que estamos tan polarizados. Esto se crea, apela a lo peor de la naturaleza humana, a lo peor de la sociedad, y el impacto no es solo a nivel individual, es sociológicamente a nivel de grupo. Nos comportamos de manera diferente en grupos. Volví, en mi libro, hablé del estudio de Milgram, donde este estudio se realizó y se suponía que se había

realizado en Alemania. Stanley Milgram lo hizo y no lo hizo en Alemania, lo hizo en Estados Unidos en un campus y la prueba era, ya sabes, había sujetos de prueba detrás de la pantalla y se le decía al sujeto de prueba que tenía que seguir dando descargas eléctricas cada vez más largas a las personas que veía y luego veían sufrir cada vez más a la persona que esencialmente actuaba para el sujeto y, sin embargo, con autoridad, continuaron dando descargas eléctricas, ¿verdad? Allí

hay algo en nosotros. Cuando estamos en grupos, cuando la autoridad nos dice, nos da permiso para ser lo peor de nosotros mismos, lo hacemos. Y aquí es donde, por ejemplo, algunas de las advertencias de Timothy Snyder en "On Tyranny" son: no sigas al grupo. Ese es el segundo nivel. El tercer nivel es el comportamiento humano emergente, nuestra evolución como especie. Esto es adictivo. La generación joven tiene niveles más altos de depresión, de insomnio. Un informe interno de Facebook, uno de los Meta, de más de diez mil

documentos publicados por la denunciante Frances Haugen, en realidad mostró que las adolescentes en Instagram tienen niveles más altos de trastornos alimentarios. Los daños ahora son muy claros, además de, oh sí, matar la democracia. En realidad, más que eso, es el auge del fascismo. Hemos debatido mucho sobre este mundo de las redes sociales y también sobre este horrible efecto de desinformación, pero como periodista, cuando te enfrentas al principio contradictorio, a saber, la libertad de expresión y otro principio de

proteger la privacidad, ¿cómo se reconcilian cuando estos dos principios chocan? Es falso decir que chocan porque esto no es una cuestión de libertad de expresión. En realidad, es una cuestión de "deep keeping", donde las organizaciones de noticias eran los guardianes de la esfera pública. Podías hacernos responsables si distribuíamos una mentira, si repetíamos una mentira, podíamos ser demandados. Ahora las empresas tecnológicas ganan más dinero en vigilancia con fines de lucro, y ni siquiera teníamos un nombre para ese modelo de negocio hasta 2019, cuando Shoshana Zuboff escribió

sobre el capitalismo de vigilancia. Y el capitalismo de vigilancia explica cómo estas empresas tecnológicas utilizan el aprendizaje automático para crear modelos de nosotros que nos conocen mejor de lo que nos conocemos a nosotros mismos. Y esto, lo he vivido y lo veo. Esos modelos son luego recogidos por la IA y se convierten en la base de datos principal que se utiliza para microsegmentar. La microsegmentación no es la vieja publicidad que conocemos. La microsegmentación conoce tu momento más débil para un mensaje y lo vende. Y esta publicidad, este modelo de marketing

que comenzó así, es ahora lo que explotan las potencias geopolíticas. Esa explotación comenzó en 2014, como vimos experimentos. Pero en 2014, la desinformación rusa comenzó a dirigirse a Crimea, comenzó a dirigirse a Estados Unidos, comenzó a dirigirse a Corea. Estas son algunas de las cosas, y a medida que tuvieron éxito, y tuvieron éxito, se replicaron en diferentes países del mundo. Parte de la razón por la que vemos líderes iliberales elegidos democráticamente es que si no tienes integridad de los hechos, no puedes tener integridad de

las elecciones. Si extendemos este debate a Corea del Norte, no es solo un líder iliberal, es una sociedad totalmente cerrada y la gente es adoctrinada. Ya sea de buena manera para que los demócratas intervengan en la psique de los norcoreanos sobre estas cuestiones de libertad y cuestiones democráticas. ¿Han pensado en el caso de Corea del Norte? Quiero decir, si miran el mundo hoy, tenemos varios casos. Rusia invadió Ucrania, el mundo se unió, reaccionó y ahora la CPI

ha emitido una orden de arresto. Es lo más rápido que el mundo ha actuado desde la Segunda Guerra Mundial. Siria, por ejemplo, fue muy desarticulada. La gente pensó, bueno, la democracia no necesita ser nutrida, sobrevivirá a todo esto. Lo llamé "muerte por mil cortes" proveniente de la propia idea de Al Qaeda de que esta es la forma de luchar por ella. Tienes Taiwán, que está envuelto en operaciones de información por parte de China. Taiwán separado de China. Y luego tienes Corea del Sur y Corea del Norte. Tienes a los coreanos y creo

que los ves como en diferentes etapas. Y lo que me preocupa es que si no hacemos nada significativo con nuestro ecosistema de información, terminaremos como Corea del Norte. Porque piénsalo así: en enero de 2021, el 6 de enero, vimos por primera vez violencia en el Capitolio en EE. UU. Sí. Esto es, cuando dices que Corea del Norte adoctrina, yo digo que las redes sociales son un sistema de modificación de conducta. Y debido a que está en cámaras de eco, ¿hasta dónde llegará? Vimos la violencia del 6 de enero en Estados Unidos, vimos

la violencia del 8 de enero de este año en Brasil. Y una de las cosas que es fascinante y de la que no se ha investigado lo suficiente es el papel de YouTube, por ejemplo, en Brasil, en Estados Unidos, en Filipinas, en Corea. Porque YouTube, esta es una investigación del Belfort Institute que fue publicada por el Belfort Institute en Harvard. Básicamente, empezaron a trabajar en algoritmos de agrupación de YouTube y Zika antes de la COVID, y luego trabajaron en Bolsonaro. Y lo que mostraron fue

que Bolsonaro era una figura de extrema derecha, pero esencialmente fue llevado al centro, se convirtió en presidente, porque los algoritmos de YouTube, al recomendar contenido, agruparon a la extrema derecha, a los marginales, a todas las teorías de conspiración que en el mundo real nunca habrían podido encontrarse. Estaban demasiado al margen, pero tenían en común, es una idea terrorista: el enemigo de mi enemigo es mi amigo. Esto es esencialmente lo que viste suceder, y este algoritmo de agrupación de los motores de recomendación

proporcionó la base de apoyo. Esto es, y esto está en un libro de Max Fisher, se llama "The Chaos Machine". Él afirma esto. Y luego llevó a Bolsonaro a la presidencia. Y si miras entonces, ¿es este el mismo algoritmo de agrupación el que creó la violencia del 8 de enero? Volvamos a Yuri Andropov, que fue presidente de la KGB, y habló de la desinformación de una manera que creo que nosotros, en los países democráticos, no tomamos en serio. Su cita es esta: "La desinformación es como la cocaína.

Si la tomas una o dos veces, estás bien, pero si la tomas todo el tiempo, eres una persona cambiada. Aquí es donde estamos en 2023 después de que los algoritmos nos han explotado y han utilizado nuestros datos para cambiar nuestra forma de pensar a través de nuestras emociones y, en última instancia, la forma en que actuamos. Sí, fue fascinante. Estoy segura de que nuestra audiencia aprendió mucho de Maria Ressa, que tiene tanta experiencia en medios en línea y también en la lucha por la democracia. Alguien más dijo: Muchas gracias por tomarse el tiempo para hablar sobre este tema.

lo tomas una o dos veces, estás bien, pero si lo tomas todo el tiempo, eres una persona cambiada. Aquí es donde estamos en 2023 después de que los algoritmos nos han explotado y han utilizado nuestros datos para cambiar la forma en que pensamos a través de nuestras emociones y, en última instancia, la forma en que actuamos. Sí, fue fascinante. Estoy seguro de que nuestra audiencia aprendió mucho de Maria Lessa, que tiene tanta experiencia en medios en línea y también lucha por la democracia. Alguien más dijo: "Muchas gracias por tomarse el tiempo para hablar sobre este tema."