Después de más de 3 días de negociación continua, incluyendo una maratoniana jornada de 23 horas, la Unión Europea llegaba a un acuerdo y anunciaba este sábado que la primera ley reguladora de la inteligencia artificial del mundo era una realidad. Este texto, que previsiblemente entrará en vigor en 2026, contempla una escala de riesgos con respecto al uso de la IA, desde los menos peligrosos hasta los que la legislación califica como "inasumibles", los cuales quedarán prohibidos en territorio comunitario. Dentro de esta categoría entran, entre otros, los sistemas de categorización biométrica, la extracción no dirigida de imágenes para crear bases de datos de registro facial, el reconocimiento de emociones, sistemas de puntuación social o sistemas que manipulan el comportamiento.
Precisamente, la vigilancia biométrica, es decir, el reconocimiento de personas en los espacios públicos, y su uso por parte de las fuerzas de seguridad, ha sido uno de los principales escollos durante toda la negociación. Finalmente, se ha logrado llegar a un acuerdo limitando su uso tan solo a la "seguridad nacional", siempre que haya una orden judicial previa y para una lista de delitos estrictamente definidos.
Para conocer las interioridades de la negociación y todas las claves de esta legislación pionera, infoLibre conversa con Ibán García del Blanco, eurodiputado de los Socialistas y Demócratas (S&D), grupo en el que se integra el PSOE en el Parlamento Europeo, y uno de los políticos que ha participado activamente en las negociaciones que han dado como resultado la ley.
La Unión Europea ha logrado el hito de sacar adelante la primera legislación que regula la IA en todo el mundo, ¿Cómo ha vivido una negociación tan importante desde dentro?
Ha sido muy duro. Al final es una ley muy compleja en la que hay muchos puntos de vista diferentes y muchos intereses contrapuestos por lo que encontrar un punto de equilibrio es muy complicado. Incluso dentro de los propios equipos negociadores había posiciones distintas, es decir, que ni el Consejo tenía una única posición alrededor de cada uno de los asuntos difíciles, ni tampoco el Parlamento. Así que conciliar todo eso al mismo tiempo que sostener posiciones acordadas entre todos es muy complicado. Ha sido un ejercicio muy exigente, pero también muy satisfactorio, porque al final hemos conseguido un gran objetivo.
Las jornadas han sido maratonianas, algunas de más de 20 horas ¿Cómo ha afectado eso a la negociación?
La primera jornada fueron 23 horas, entramos a las 3 de la tarde y nos fuimos a eso de las 10 de la mañana del día siguiente, sí que es verdad que hacíamos pausas pero a veces era casi peor. Yo hacía bromas y decía ¿os dais cuenta de que empezamos esta reunión el 6 de diciembre y hoy es 8 y está terminando?
Estar tanto tiempo es complicado, pero al final la clave de que hayamos llegado a un acuerdo es que nos hemos obligado a hacerlo sin levantarnos de la mesa. Ya habíamos tenido 4 trílogos antes (órgano ordinario de legislación de la UE en las que participan el Consejo de la Unión Europea, el Parlamento Europeo y la Comisión Europea) y corríamos el riesgo de posponer muchos temas para un sexto. Sin embargo, sabíamos que de hacerlo muchas discusiones volverían a comenzar y al final nunca habríamos acabado con la negociación.
España quería dar mucha prioridad a la ley para que saliera lo antes posible ¿Cuál ha sido la importancia de la presidencia española del Consejo en la negociación?
Indispensable, entre otras cosas porque llevábamos mucho tiempo trabajando en una ley muy compleja y esto no es tan fácil como pasárselo al siguiente. Es una materia difícil, lo digo yo que llevo trabajando 5 años como regulador y que hay cosas que aún se me escapan, y además comporta muchos intereses encontrados. Por ese motivo, es complicado tener una posición de equilibrio y creo que la capacidad de resistencia, emulando a nuestro presidente del Gobierno, del equipo negociador español y su habilidad de encontrar puntos de encuentro y de convencer a los distintos miembros del Consejo, ha sido totalmente clave. Dudo mucho que cualquier otro equipo hubiera sido capaz de llegar a un acuerdo porque las dificultades eran enormes.
¿Cuáles han sido para usted los principales puntos de fricción durante las negociaciones?
Ha habido muchos. Al final no es la misma la visión que se puede tener desde un Ejecutivo que desde el Parlamento Europeo. El Consejo (órgano donde se reúnen los Gobiernos de distintos los países miembros) estaba más centrado en no crear una regulación demasiado pesada que ahuyentara a los inversores y a los investigadores y también en hacer que esa ley les permitiera usar la IA en las funciones que hace un Gobierno, como es el caso de la seguridad nacional. El Parlamento, por su parte, quería asegurar los derechos individuales y colectivos de los europeos, incluyendo materias como igualdad de género o la sostenibilidad medioambiental, y prohibir algunos usos de inteligencia artificial que entendemos que son incompatibles con nuestros valores, como es el caso de la calificación social.
En este sentido, y después de toda la negociación ¿Cuáles han sido finalmente los principales ejes del acuerdo?
Esta ley lo que hace fundamentalmente es proteger los derechos de los ciudadanos. Es decir, en primer lugar, los europeos pueden estar tranquilos, porque la utilización de la inteligencia artificial en Europa va a conllevar una serie de controles muy estrictos y un análisis por parte tanto de las autoridades nacionales como de la nueva oficina de inteligencia artificial europea. En segundo lugar, es una ley que intenta también no entorpecer el desarrollo de esta tecnología, por lo tanto, lo que hace es combinar la protección de los derechos del ciudadano con el progreso técnico. Y por último, preserva algunos derechos sectoriales que para nosotros eran esenciales y consustanciales al modelo europeo como es el caso de la protección de los derechos de autor.
¿Cómo protege la ley los derechos de los ciudadanos frente a la inteligencia artificial en materias como la privacidad o el acceso a datos personales?
Es muy importante pensar que esta ley funciona en conjunto con otras que hemos ido aprobando, por ejemplo en materia de protección de datos la UE tiene una ley sobre ello y sobre servicios digitales, todo es un gran ecosistema que se complementa. Con esta legislación venimos a poner la piedra de toque en algunos aspectos para que prácticas que podían atentar en un futuro contra la paz social o la intimidad no se vayan a poder realizar en Europa.
El reconocimiento biométrico ha sido uno de los grandes temas de disenso, en la ley se habla de que quedará sujeta a la "seguridad nacional" pero ¿va a existir algún control desde Bruselas en lo relativo al uso de este supuesto por parte de los estados?
Discriminación a migrantes y sesgos de género, las grietas de la ley europea de inteligencia artificial
Todas las normas tienen un seguimiento por parte de la Comisión que es la obligada a ejecutarla. La seguridad nacional está excluida de los tratados y no podíamos tratarlo aunque quisiéramos, eso es materia de los estados nación. Dentro de ese marco, lo que hemos hecho es garantizar que el espacio sin controlar sea el más estrecho posible y en este sentido, con respecto a la seguridad nacional existe mucha jurisprudencia por parte del Tribunal de Justicia Europeo, así que no se va a poder extender el concepto todo lo que se quiera. De hecho, la ley recoge una lista cerrada de situaciones donde se puede usar la IA, así como salvaguardas judiciales para que en contextos excepcionales como pueden de terrorismo se pueda recurrir a la IA y así poder prevenirlos.
Otra de las grandes preocupaciones con respecto a la ley eran los sesgos de género o de raza que tiene la inteligencia artificial, además del tema de los llamados deppfakes, ¿Cómo han abordado esto y como lo refleja la ley?
La ley impide que se puedan establecer estudios o trabajos de inteligencia artificial que categoricen a la población por etnia, raza, género u orientación sexual. Sobre eso hemos puesto muchas prevenciones para evitar que ocurra. Por una parte en lo que corresponde a la ley lo hemos hecho y luego hay que pensar que hay más normas que nos previenen sobre ese tipo de prácticas en los distintos países miembros. Además, la ley no solo protege a los europeos de esos sesgos, sino que también obliga a dar a conocer al ciudadano cuando está interactuando con una IA. Esto afecta a los deepfakes, ya que sus creadores tienen que advertir que esa producción está hecha exclusivamente con inteligencia artificial. En este sentido, hemos dado un primer paso y estoy seguro de que el mundo va a seguirnos y regular la IA de una forma muy similar a como lo hemos hecho los europeos. Eso es también importante, porque a veces en el mundo no se influye con ejércitos y con tanques, sino de esta manera, exportando principios y valores.
Después de más de 3 días de negociación continua, incluyendo una maratoniana jornada de 23 horas, la Unión Europea llegaba a un acuerdo y anunciaba este sábado que la primera ley reguladora de la inteligencia artificial del mundo era una realidad. Este texto, que previsiblemente entrará en vigor en 2026, contempla una escala de riesgos con respecto al uso de la IA, desde los menos peligrosos hasta los que la legislación califica como "inasumibles", los cuales quedarán prohibidos en territorio comunitario. Dentro de esta categoría entran, entre otros, los sistemas de categorización biométrica, la extracción no dirigida de imágenes para crear bases de datos de registro facial, el reconocimiento de emociones, sistemas de puntuación social o sistemas que manipulan el comportamiento.