Uno de cada dos requerimientos de datos realizados por los tribunales a las multinacionales tecnológicas se queda sin respuesta, entorpeciendo la judicialización de los delitos de odio. Así lo ha expuesto Laia Serra i Perelló, jurista experta en moderación de contenidos a través de algoritmos por inteligencia artificial, en una jornada organizada este martes en Madrid por la Federación Estatal LGTBI+ para prevenir el odio en las redes sociales. El colectivo LGTBI+ es el blanco fácil de los insultos en Instagram y Facebook, ya hasta el 50% de las ofensas se dirige a ellos.
Helene Verbrugghe, responsable de asuntos públicos en Meta, sostiene que tienen voluntad de colaborar con la Justicia pero que tienen que trabajar en "la metodología de dar los datos". La razón por la que deniegan peticiones de información, señala, es porque los datos "no están de manera desagregada". Además expone que cuando observan un discurso de odio en un vídeo lo eliminan, por lo que cuando la víctima denuncia posteriormente en los juzgados el vídeo ya está borrado y no pueden restaurarlo.
Como la ley no obliga a las tecnológicas a monitorizar la información, la forma que han desarrollado desde Instagram y Facebook de evaluar el contenido son los reportes, es decir, que los propios usuarios avisen si encuentran discursos de odio en su plataforma. En Meta, los discursos de odio siempre son moderados por revisores humanos, aunque priorizan "el contenido más viral", según apunta Verbrugghe.
En Google, la situación cambia: a pesar de tener 25.000 revisores, "el 94% de los contenidos que se revisan los modera la Inteligencia Artificial", según apunta Jesús Elorza, encargado de Trust & Safety Intel en Google. En TikTok, la última actualización para la moderación de contenidos son las denuncias en bloque que permiten reportar un gran número de vídeos.
Fin a la era de la autorregulación
Cada plataforma tiene sus propias normas comunitarias y tienen gran margen de autorregulación. Según expone Verbrugghe, la frase "el budismo es terrorismo" sí puede escribirse en Instagram, pero "los budistas son terroristas" está prohibido. Ante esta perspectiva, Laia Serra afirma que permitir los desequilibrios en la regulación del odio en cada red social no funciona. "Ha decaído la cifra de contenido retirado", afirma Serra. Además, la moderación automática elimina discursos lícitos.
Los sistemas de detección por palabras "sobreidentifican" contenido ofensivo. El reto, según apunta la responsable de Meta, también es reconocer el lenguaje que se usa en el discurso de odio, ya que las ofensas que lanzan algunos usuarios van cambiando. La forma de responder a los nuevos insultos es añadiéndolos a su lista de prohibidos, que cada vez es mayor.
La nueva legislación, según apunta Serra, no define los contenidos ilegales pero sienta los andamiajes para una regulación común. "Se parte de una idea de sentido común: a mayor tamaño, más obligaciones", expone. Youtube y X (Twitter) alcanzan así el máximo nivel de responsabilidad.
El fiscal de delitos de odio avisa de que la mayoría de casos no se denuncian
Mientras que la Federación Estatal LGTBI+ define los delitos de odio como “delitos contra grupos vulnerables”, Meta lo califica como "un ataque a una características protegida". La Unión Europea emplea otra definición y la legislación estatal otra, lo que crea limbos legales que provocan que muchos casos no lleguen a identificarse como delito de odio, según apunta Ignacio Paredero, secretario de Organización de FELGTBI+.
La Federación expone que las dos identidades que más sufren las agresiones son las personas trans y las mujeres lesbianas y que solo dos de cada 10 delitos de odio se denuncian. Desde 2017 a 2021, ha habido 1.551 delitos de odio registrados. Paredero insiste así en que "las personas denuncian más en asociaciones que en la policía" y Charo Alises Castillo, abogada experta en delitos de odio, aclara que la justicia es gratuita para todas las entidades de interés público.
Miguel Ángel Aguilar, fiscal contra los Delitos de Odio y Discriminación, pide que se modifique la formación académica de jueces y fiscales para que pueden abordar estos casos: "Falta sensibilidad porque no hay formación en todos los ámbitos", afirma. El Ministerio de Igualdad dispone de una guía para saber qué son y cómo actuar frente a los delitos de odio LGTBIfóbicos o hacia personas LGTBI.
Uno de cada dos requerimientos de datos realizados por los tribunales a las multinacionales tecnológicas se queda sin respuesta, entorpeciendo la judicialización de los delitos de odio. Así lo ha expuesto Laia Serra i Perelló, jurista experta en moderación de contenidos a través de algoritmos por inteligencia artificial, en una jornada organizada este martes en Madrid por la Federación Estatal LGTBI+ para prevenir el odio en las redes sociales. El colectivo LGTBI+ es el blanco fácil de los insultos en Instagram y Facebook, ya hasta el 50% de las ofensas se dirige a ellos.