El republicano Josh Hawley se encaró con Mark Zuckerberg y no vaciló en encadenar estas preguntas: “¿Ha compensado usted a sus familias? Aquí están hoy familiares de las víctimas. ¿Les ha pedido perdón? ¿Le gustaría disculparse por lo que le ha hecho a esta buena gente?”. Zuckerberg se levantó y giró su mirada hacia los familiares que seguían la sesión desde la fila de invitados. Algunos levantaron fotografías de sus hijos muertos. El dueño de Meta aseguró que no deberían haber sido sometidos a un sufrimiento tan atroz y reiteró el compromiso de su empresa para luchar contra los efectos no deseados de su modelo de negocio.
Este mal rato para Zuckerberg, propietario de Meta (Facebook, Instagram y WhatsApp), tuvo lugar el pasado 31 de enero. Junto a otros prominentes líderes tecnológicos, Zuckerberg había acudido al Senado estadounidense para testificar ante miembros de la Comisión Judicial en torno a los ya documentados riesgos que para la salud mental de los niños y adolescentes puede representar el uso de las redes sociales. Los parlamentarios hablaron de acoso en línea, de explotación y abuso sexual dentro de las redes y recordaron los casos en que los niños y los jóvenes, encerrados en una espiral algorítmica perversa y oculta, no pueden más y acaban suicidándose. Sucede en redes como Instagram, sin que Zuckerberg ponga los medios para evitarlo, según le reprocharon de forma directa.
El mismo hombre al que los senadores estadounidenses pusieron contra las cuerdas por su falta de empatía y responsabilidad hacia los clientes más vulnerables, horas más tarde subía al cielo de los mercados financieros al hacerse públicos los resultados de la compañía durante 2023. Meta obtuvo el año pasado un beneficio neto de 39.000 millones de dólares, lo que supone un 69% más que el año anterior gracias, en buena parte, a las mejoras que algunas técnicas de inteligencia artificial han introducido en su ya imponente plataforma publicitaria. Esto permite a Zuckerberg un análisis más sofisticado y rápido de grandes volúmenes de datos sobre los usuarios y, gracias a él, ofrece a los anunciantes una segmentación de audiencias de alta precisión, así como la posibilidad de modificar las campañas en tiempo real si no están consiguiendo el alcance deseado. Los ingresos por publicidad han crecido, de esta forma, un 25% durante el último ejercicio.
La mejora de los mecanismos de publicidad ha sido posible gracias al alto grado de conocimiento que las redes sociales han alcanzado sobre su principal producto: nosotros. La forma en que hemos interactuado, durante años, dentro de una plataforma deja una huella a partir de la cual los algoritmos son capaces de clonarnos, crear una segunda identidad, esta vez digital. Cada vídeo consultado, cada publicación compartida, la hora en que nos entretenemos con el móvil constituyen los elementos a partir de los cuales las redes construyen un retrato completo de lo que somos. Saben lo que nos gusta y a lo que somos más sensibles. La explotación de nuestras vulnerabilidades ha resultado ser una gran parte del negocio, como no dejan de confirmarlo decenas de trabajos científicos.
Uno de los hallazgos más recientes ha visto la luz en Gran Bretaña gracias a una investigación coordinada por expertos de la Universidad de Kent y de la University College de Londres . El estudio denominado Safer Scrolling fue realizado a partir de un experimento propio en el que se abrieron cuentas de TikTok que imitaban perfiles de jóvenes vulnerables, con más tendencia a la ansiedad o a una salud mental inestable. Los investigadores consultaron, con estas cuentas, un millar de vídeos relacionados con “masculinidad” o “soledad”. A los cinco días, el algoritmo de recomendación de TikTok había llevado a dichos perfiles cuatro veces más vídeos con contenido misógino, lo que incluía cosificación de la mujer o acoso sexual. El estudio denuncia cómo estos vídeos se muestran como si fueran un mero entretenimiento, algo que facilita que sean consultados e interiorizados. Para Kaitlyn Regehr, la investigadora principal, la vida digital de los jóvenes está afectando a sus comportamientos en la vida real, “fuera de las pantallas y de los patios escolares”. La sospecha de que las redes sociales pueden operar como una escuela de masculinidad tóxica para los jóvenes de la generación Z coincide con la publicación, durante el último año, de varios estudios en países occidentales que confirman un sentimiento creciente de rechazo al feminismo entre adolescentes y jóvenes. Esta es la dualidad en la que viven algunos de los grandes gigantes tecnológicos de nuestro tiempo: llueven sobre ellos informes, denuncias e investigaciones judiciales por las disfunciones que provocan en las sociedades a las que sirven, pero ello no es obstáculo para que, año tras año, se consoliden como actores globales que atesoran mucho más poder que la mayoría de las naciones del mundo. “La tecnología es política. Se trata de un hecho radicalmente poco reconocido no solo por nuestros dirigentes sino incluso por quienes crean la propia tecnología. A veces, esta politización sutil pero omnipresente es casi invisible, y no debería serlo. Las redes sociales no son más que el recordatorio más reciente de que la tecnología y la organización política no pueden disociarse”. Entre los científicos preocupados por la consolidación del tecnofeudalismo destaca Mustafá Suleyman, cofundador de DeepMind, una de las más influyentes compañías de inteligencia artificial. En su obra La ola que viene. Tecnología, poder y el gran dilema del siglo XXI (Debate), Suleyman alerta sobre el peligro del actual modelo de comunicación, acentuado por lo que se acerca con la revolución tecnológica. Para Suleyman, la “adopción irreflexiva” de la inteligencia artificial supone un peligro para la supervivencia del “Estado-nación, moderno, liberal, democrático e industrializado” y apuesta por políticas nacionales capaces de “reaccionar con rapidez y decisión con medidas legislativas, y sobre todo, con una estrecha coordinación internacional”.
En torno a las grandes redes sociales se juega en 2024 una batalla de poder que enfrenta en silencio a gobiernos e instituciones supranacionales con popes tecnológicos que, por acción u omisión, podrían influir en el desarrollo de los numerosos comicios que se celebrarán este año en todo el mundo. Desde México a India, pasando por Estados Unidos o la Unión Europea, más de la mitad de la población del mundo acudirá este año a las urnas. Elon Musk, propietario de Twitter, X desde abril de 2023, ha convertido la plataforma en una herramienta ideológica desde la que, en nombre de una “absolutista” libertad de expresión, ha dado paso al caos. Las soflamas racistas, xenófobas o antisemitas circulan desbocadas junto a los vídeos porno, las estafas publicitarias o las cuentas anónimas que ensalzan a personajes como Hitler. El multimillonario no quiere mirar los toros desde la barrera. Ha hecho de su cuenta un púlpito ideológico desde el que transmitir sus obsesiones o amplificar los mensajes de personajes de extrema derecha como Alex Jones. Recientemente, Musk puso Twitter a disposición del ultra Tucker Carlson, experiodista de la cadena estadounidense Fox News, para que difundiera en la plataforma dos horas de entrevista con el presidente ruso Vladimir Putin.
Desinformación con impunidad
El Twitter de 2024 es un paraíso para practicar la desinformación con toda impunidad. Si antes de que llegara Musk un signo azul distinguía las cuentas reales o relevantes, ahora con unos pocos euros cualquier usuario puede comprar dicha insignia y parecer respetable antes de diseminar bulos o montajes. Miles de cuentas falsas presentan ahora galones de autenticidad comprados, lo que complica el ejercicio de distinguir la realidad de la impostura. Una transformación que puede, sin embargo, resultar anecdótica porque el mundo se encuentra inmerso ya en otra era de la desinformación mucho más sofisticada, barata, masiva y difícil de detectar.
La presentadora de BBC Sarah Campbell aparece en pantalla para comentar la que sin duda será una de las noticias del día. El primer ministro británico, Rishi Sunak, ha ganado miles de libras en pocos meses gracias a una aplicación alimentada con inteligencia artificial que permite invertir en Bolsa con garantías totales de éxito. La periodista da paso a un vídeo en el que el propio Sunak narra su experiencia durante una comparecencia pública durante la que agradece a su creador, Elon Musk, por haber elegido Gran Bretaña como el país pionero para ponerla en práctica. La publicación de la BBC ha sido colgada en Facebook e Instagram y ha suscitado el interés de miles de personas. Sin embargo, nada es real en el vídeo: la imagen y la voz tanto de la presentadora como de Sunak han sido clonadas y recreadas con nuevos mensajes. La empresa de comunicación Fenimore Harper detectó el pasado enero 42 vídeos adicionales del falso Sunak que, realizados con técnicas de deep fake, consiguieron llegar a las cuentas de Meta de medio millón de personas antes de ser detectados y retirados. Se trata de una de las primeras operaciones de desinformación política del año y un aperitivo de lo que está por llegar.
En este estado de cosas, crece el número de aquellos expertos en comunicación que apuestan por abordar el problema partiendo de una premisa diferente: es imposible evitar la desinformación, tendremos que combatirla al tiempo que convivimos con ella. Como sugiere Suleyman, conviene ser ágiles en la regulación, rápidos en el aprendizaje, exigentes con el deber de transparencia de las tecnológicas y generosos en la divulgación de esta nueva realidad de la comunicación a cuantos más ciudadanos, mejor. El periodista Max Fisher se refiere en su obra Las redes del caos (Península) a otra medida más radical que parecen defender algunos expertos: desactivar parcialmente el algoritmo. “Eso conduciría a un internet menos atractivo y menos cautivador”, imagina Fisher, pero también con menos víctimas de acoso, desinformación o de campañas de odio como las que han pagado con sus vidas en Birmania o Sri Lanka, las consecuencias de aplicar la ira racial a un mecanismo de viralidad.
Paradójicamente, todo sucede cuando las grandes redes sociales se encuentran en un proceso de transformación en el que fomentar la conversación entre humanos pasa a un segundo plano en detrimento de la interacción entre personas y negocios que pueda ser rentabilizada de alguna forma. Elon Musk sueña con hacer de Twitter la “app para todo” donde un usuario pueda llamar por teléfono, celebrar una videoconferencia, adquirir criptomonedas o pagar a un amigo la cena que compartieron la noche anterior. El mortífero algoritmo, que hace de navegar por TikTok una experiencia tan adictiva, trabaja ya al servicio de TikTok Shop, una tienda en línea en la que adquirir, en tiempo real, los productos que las influencers recomiendan en sus vídeos. La compañía ha establecido un sistema de recompensas para los usuarios que promocionen con éxito productos en línea y ha creado así legiones de aspirantes a jóvenes comisionistas que están saturando TikTok, pese a las quejas de otros clientes de la red social.
Chiclana y el apocalipsis
El espejismo de un sencillo diálogo agradable entre ciudadanos, como el que disfrutaron los primeros moradores de Twitter, tiene, sin embargo, posibilidades de sobrevivir. La nueva forma de socializar digitalmente llega de la mano de otra generación de redes diseñadas para evitar las disfunciones que hicieron tan tóxicas a sus hermanas mayores. Bluesky o Mastodon son redes algorítmicas más pequeñas y descentralizadas, no pertenecen a una sola compañía y caminan hacia la interconexión, es decir, que el usuario de una de ellas podrá mudarse, con su perfil y sus seguidores, a otra de las redes conectadas sin necesidad de cerrar y abrir un nuevo perfil. En la nueva generación de redes, los usuarios pueden elegir los algoritmos que alimentan su oferta de contenidos y configurar sus opciones de privacidad y de moderación de contenidos. El propio Zuckerberg ha mostrado su interés en que Threads, la nueva red de Meta, sea compatible con redes descentralizadas. Toda una sorpresa para el dueño de un conglomerado tecnológico que ha hecho del hermetismo una de sus señas de identidad.
_____________________________
Carmela Ríos es periodista y profesora especialista en desinformación y redes sociales.
El republicano Josh Hawley se encaró con Mark Zuckerberg y no vaciló en encadenar estas preguntas: “¿Ha compensado usted a sus familias? Aquí están hoy familiares de las víctimas. ¿Les ha pedido perdón? ¿Le gustaría disculparse por lo que le ha hecho a esta buena gente?”. Zuckerberg se levantó y giró su mirada hacia los familiares que seguían la sesión desde la fila de invitados. Algunos levantaron fotografías de sus hijos muertos. El dueño de Meta aseguró que no deberían haber sido sometidos a un sufrimiento tan atroz y reiteró el compromiso de su empresa para luchar contra los efectos no deseados de su modelo de negocio.