La UE abre 'la caja negra' de Google, Facebook o TikTok, ¿qué habrá dentro?

"Más responsabilidad, menos opacidad". Con estas palabras resumió el comisario de Mercado Interior de la UE, Thierry Breton, las obligaciones que deberán cumplir antes del próximo 25 de agosto las 19 grandes plataformas y motores de búsqueda con más de 45 millones de usuarios activos mensuales. Bruselas hizo público la semana pasada el listado de tecnológicas que serán consideradas como very large online platforms, es decir, aquellas que según la nueva Ley de Servicios Digitales adquieren relevancia sistemática y tendrán responsabilidades especiales.

¿Qué suponen estas responsabilidades especiales de las que habla la UE? La nueva directiva busca "abrir la caja negra de los algoritmos" aumentando su transparencia e imponiendo más claridad sobre los sistemas de recomendación de las tecnológicas. 

Hasta ahora, este secretismo y ocultismo han supuesto un peligro para los usuarios. "Quizás en algunas ocasiones, hemos podido ver contenido que no hemos entendido porque se nos muestra, que no es apropiado o que haya podido condicionar una compra", explica Natalia Martos Díaz, abogada especializada en derecho digital y CEO y fundadora de Legal Army. Eduardo Valpuesta, director del Máster de Derecho Digital de la Universidad de Navarra reconoce que las tecnológicas "están abusando de ser una gran plataforma para imponer sus criterios. Tienen que abusar menos". Además, este profesor defiende que los algoritmos "al no ser transparentes, ocultaban cosas" y se trataba de "una verdad sesgada". 

Las plataformas elegidas para asumir todas estas responsabilidades extra son Alibaba AliExpress, Amazon Store, Apple AppStore, Booking.com, Facebook, Google Play, Google Maps, Google Shopping, Instagram, LinkedIn, Pinterest, Snapchat, TikTok, Twitter, Wikipedia, YouTube y Zalando. Como motores de búsqueda tan solo han sido incluidos Bing y Google Search. Se quedan fuera Airbnb, eBay, Spotify o Tinder por tener menos de 45 millones de usuarios. "Estas plataformas con menos usuarios podrán ser menos transparentes", sostiene Valpuesta.

Términos y condiciones de uso "claros"

El objetivo de la nueva ley, según detalla Breton en un artículo en sus redes sociales, es hacer de Internet un "espacio seguro y confiable". Para ello, establece cuatro puntos. El primero, una mayor protección, control y elección para sus usuarios: "Estas plataformas y motores de búsqueda tendrán que abordar cualquier riesgo que representen para la sociedad, incluida la salud pública, el bienestar físico y el mental". Esto supondrá que ya no podrán esconderse detrás de términos y condiciones de uso "extensos y oscuros". Es decir, según explica Martos Díaz, "para los usuarios se materializará en unos términos y condiciones claros". 

El segundo, deberán ofrecer más protección a los niños en línea. "Tendrán que rediseñar sus sistemas para garantizar un alto nivel de privacidad, seguridad y protección de los menores", señala Breton. Así, las tecnológicas deberán incluir herramientas de verificación de edad y control parental.

El tercero, estarán obligadas a una moderación de contenido más diligente y confiable con menos contenido ilegal y desinformación en línea. "Ya no será solo una responsabilidad cívica, sino una obligación legal", advierte Breton. 

Más transparencia

Y el cuarto, tendrán que ofrecer más transparencia y rendir cuentas: "Deberán identificar claramente los anuncios y explicar a sus usuarios por qué ven un anuncio y quién lo promociona" y también tendrán que detallar "cómo funcionan sus sistemas de recomendación y qué datos recopilan". 

Es lo que en Bruselas se conoce ya como "abrir la caja negra". "Tendrán que explicar cómo funcionan los algoritmos, en concreto y especialmente los de la toma de decisiones", asegura Martos Díaz. Valpuesta pone un caso práctico: "Al buscar vuelos baratos, los resultados ahora son vuelos patrocinados. Con la nueva legislación, el usuario sabrá cuál es el criterio que rige su búsqueda". Esto supondrá quitarle el manto de secretismo a este conjunto de reglas que determinan qué vídeos ver a continuación o qué noticias aparecen en nuestros muros de una red social y que las tecnológicas guardan bajo llave como la fórmula de la Coca-Cola. 

Con este cambio se eliminan los riesgos asociados a la actual falta de transparencia: la desinformación y los sesgos. En España ya existe algo similar: la Ley de Riders obliga a las plataformas a informar a la representación legal de los trabajadores de las reglas que encierran los sistemas de inteligencia artificial que pueden incidir en sus condiciones laborales. 

"La UE no pide fuentes, pide criterios"

Eso sí, esto no implica que las tecnológicas pongan a la vista de todos sus secretos. "El objetivo es la transparencia y que los usuarios sepamos que hay un algoritmo y por qué nos muestra lo qué nos muestra", recuerda Martos Díaz que apunta que el límite será "el secreto empresarial" ya que "no es necesario para un usuario medio conocer la tecnología profunda que hay detrás del algoritmo". El profesor Valpuesta es más contundente: "No van a poder alegar criterios corporativos ni confidencialidad. La UE no pide fuentes, pide criterios". 

¿Por qué es tan necesaria esta transparencia algorítmica? "Porque la gente no sabe por qué las redes le muestran lo que le muestran", reconoce Martos Díaz que asegura que con los usuarios desconocen en su mayoría que "lo que se encuentra en su muro es un contenido perfectamente seleccionado y dirigido a él". "Si no está puesto en una norma, hasta ahora no se estaba cumpliendo. Muchos presuponemos que el criterio de las búsquedas o del orden de los vídeos es objetivo pero hay que explicar por qué no lo es", sostiene Valpuesta. 

El usuario gana conocimientos

Con esta transparencia algorítmica, el que gana es, sin duda, el usuario. "Nos empodera, vamos a tener conocimiento y a saber qué detrás de ese contenido hay una motivación", defiende Martos Díaz que apunta que cuando la ley esté totalmente en vigor se podrán tomar decisiones "de una manera más libre" que hasta ahora. En la misma línea se posiciona el profesor Valpuesta: "Sabremos los criterios con los que busca o se recomienda y el usuario puede elegir el criterio". 

Tiktok y Google, entre las plataformas que deberán informar sobre sus algoritmos a la UE

Ver más

Para asegurarse que esto se cumple, la Comisión Europea inauguró el pasado 18 de abril en Sevilla el Centro Europeo para la Transparencia Algorítmica (ECAT, por sus siglas en inglés). "Una treintena de investigadores de toda Europa van a liderar el control de nuevas herramientas de inteligencia artificial y van a tratar de trasladar a la ciudadanía confianza y seguridad en el entorno digital", explicó el alcalde de la capital andaluza, Antonio Muñoz. 

Pruebas de estrés antes del 25 de agosto

Además, Breton también recuerda que las grandes tecnológicas deberán pasar auditorías independientes anuales "muy duras" así como una "supervisión rigurosa" por parte de la Comisión Europea. Asimismo, hasta el 25 de agosto se tendrán que someter a "pruebas de estrés", es decir, "ejercicios simulados voluntarios para verificar la preparación para cumplir con las nuevas obligaciones antes de la fecha límite". Twitter ya tiene fijada su cita para finales de junio en su sede de San Francisco por invitación del propio Elon Musk. TikTok ya ha mostrado interés en fijar una fecha y Breton está "listo" para hablar con Mark Zuckerberg sobre el progreso de Meta. 

Esta ambiciosa nueva legislación, que comenzó su andadura en 2020 y que sustituyó a la directiva de comercio electrónico que Bruselas adoptó en el 2000, impone sanciones que van desde multas de hasta el 6% de la facturación global de la empresas hasta la prohibición temporal en la UE en caso de "infracciones graves reiteradas que amenacen la vida o la seguridad de las personas". Esta ley está en vigor desde el pasado noviembre, aunque habrá que esperar hasta finales de 2023 o principios de 2024 para que se empiecen a ver y notar los primeros cambios.