¿Compasión artificial?

Las noticias que nos llegan a diario son insoportables. Naciones Unidas despedía a nueve empleados de la UNRWA, el organismo que en Gaza atiende a los refugiados, por sospechas de haber colaborado con Hamas en los atentados en suelo israelí, según un informe secreto del gobierno de Israel, y ello provocó que al menos 16 países, con EEUU al frente, retirasen su apoyo a esta entidad. Se abría así un nuevo frente de carencias de alimentos y medicinas para la población, martirizada ya hasta lo indecible con bombardeos continuos y un cerco infernal de violencia y masacres reiteradas. El secretario general de la ONU ha rogado que las naciones mantengan su ayuda a la agencia. El prudente reproche a Israel del la Corte Internacional de Justicia y, probablemente, el deseo de nadar y guardar la ropa por parte de los gobiernos, deja en la encrucijada, como siempre, a los más débiles, a los civiles atrapados por el estado de sitio y, en particular, a los 27.000 muertos, entre ellos más de siete mil niños, además de los heridos y desaparecidos, que agrandarán la cifra infame de los crímenes contra la población civil.

Hemos llegado a un punto en que el sufrimiento de otros seres humanos ya no nos escandaliza. La cruda realidad ucraniana empieza a desdibujarse desde nuestra posición distante. ¿Qué está ocurriendo con la minoría rohingya de Myanmar? ¿Se encuentran en lugar seguro? ¿Podrán volver a sus casas en algún momento? ¿Y las mujeres afganas? ¿Han recuperado sus derechos o es que los talibanes han conseguido su objetivo de silenciarlas y perpetran su política contra ellas en total impunidad? ¿Siguen BokoHaram y otros fundamentalistas secuestrando a niñas para convertirlas en esclavas? ¿Qué futuro les espera a los pueblos originarios con un ultraderechista como Javier Milei en Argentina? En Europa, ¿tendrán paz los migrantes o se despliega ante ellos un futuro incierto y represivo?

Mi inquietud por los derechos fundamentales de las personas crece, después de leer en La Vanguardia un artículo que me perturba, como imagino les habrá ocurrido a muchos otros lectores. Se titula así: “Altos mandos militares europeos piden a la ciudadanía que se prepare para la guerra”. Quienes piensan de este modo son los expertos estrategas de Suecia, los Países Bajos, Alemania y el Reino Unido. Sus avisos calan entre la población. Sin ir más lejos, el comandante saliente del ejército de tierra neerlandés, Martin Wijnen, aconsejaba almacenar víveres y declaró en una entrevista ser partidario de reinstaurar el servicio militar obligatorio.

Profecías autocumplidas

Un buen amigo, experto en estos temas de defensa, me comentaba que en particular Suecia, Finlandia y los bálticos están muy inquietos y haciendo preparativos por si acaso. Los militares de allí se lo están tomando muy en serio, me dijo. Y añadió: Mira, el problema de estas cosas es que se convierten en profecías autocumplidas. Acaban ocurriendo porque todo el mundo se prepara para que ocurran, no para evitarlo”.

Esa perspectiva tiene carácter de vértigo por lo que entraña de que tanta precaución se traduzca en acciones consideradas como imprescindibles, y eso nos lleve a una espiral que aun viéndola venir no seamos capaces de frenar, pues se trata de fuerzas que nos superan y arrastran y ante las que sería preciso mostrar nuestra resistencia alegando la necesidad perentoria de paz. Todo ello, frente a los gobernantes que, como método, tranquilizan a los electores afirmando que no va a suceder. Ahí nos encontramos con una divergencia entre los Gobiernos y el Ejército. Es una cuestión de puntos de vista y decisiones. “Lo cierto, concluía mi amigo, es que un político se pregunta si algo es posible; un militar se pregunta cómo hacer algo, aunque sea imposible”. Y añado yo: “un ciudadano normal, simplemente desconoce lo que viene y tiene miedo".

Hemos llegado a un punto en que el sufrimiento de otros seres humanos ya no nos escandaliza

Mientras todo va pintando de esta manera tan desastrosa, los científicos avisan de que el reloj del fin del mundo señala que la hecatombe está a la vuelta de la esquina y el clima enloquece al punto de que, en el reino vegetal, los ciclos de hibernación y floración están desquiciados; por no hablar del deshielo y los episodios de calor y frío en meses que no son los que corresponden. Creo que convendrán conmigo en que esto, junto con la escasez de agua, no necesita de mayor esfuerzo para aceptarlo como una realidad tangible. 

Argumentarios y despropósitos

Estas señales deberían hacernos reflexionar y ser mejores. Sobre todo aquellos que han sido llamados a representarnos por decisión democrática en las urnas. Porque, aunque para los clásicos la política es la combinación de cuatro valores cardinales: la justicia, la moderación, la valentía y la sabiduría, yo no sé si ahora esa definición es aplicable a la realidad del mundo en general y a la española, en particular. 

En estos momentos la política en nuestro país es, especialmente desde la oposición, una suma de argumentarios y despropósitos que tienen como finalidad el siempre tradicional “quítate tú para ponerme yo”. Probablemente en el caso del líder de la oposición, Alberto Núñez Feijóo, la situación adquiera más tintes de emergencia, dado que aterrizó en la política nacional desde su cómoda presidencia gallega como la promesa senior que daría la victoria al partido. La realidad no ha acompañado a los buenos deseos y su liderazgo puede que no esté lo suficientemente garantizado. Otros, antes que él, han caído cuando no han cubierto los objetivos que se planteaban o incomodaban a alguien. 

Ante la situación que vivimos internacionalmente, y que es en la que se debe poner la atención en estos momentos, esta derecha que nos ha caído en suerte se dedica a esas discusiones casposas, retrotrayendo a situaciones ya inexistentes y buscando la forma de meter el dedo en el ojo al Gobierno. Sobre todo, cuidan de no disgustar a sus socios de la ultraderecha, a los que tanto deben y más que deberán. Para ellos, la sociedad a la que se ven obligados ni está ni se la espera.

Tampoco se queda rezagado algún grupo que, aunque de derechas, apoya a la coalición gobernante por intereses muy concretos, pero que, lejos de favorecer, interfiere gravemente el ya difícil caminar de la legislatura, por miedo a determinadas resoluciones judiciales que, en todo caso, son provisionales y sin fuerza ejecutiva.

Tenemos pues guerras que solo convienen a las empresas de armamento y a quienes se benefician económicamente de esas contiendas; políticos sin escrúpulos en busca de un sillón presidencial para contentar a todos aquellos que les apoyan; y el sufrimiento de millones de seres humanos de los que nadie se quiere acordar.

Telaraña inteligente

Entre tanto, tejiendo su telaraña de manera inexorable, investigadores y, de nuevo, las empresas, se centran en avanzar en el otro aspecto que marca nuestro tiempo y que será fundamental en los años venideros: la Inteligencia Artificial. Me parece que no somos conscientes de hasta qué punto va a ser crucial en nuestras vidas, de forma inmediata, mientras pensamos que siguen siendo relatos distópicos de ciencia ficción.

Lo cierto es que está aquí, ocupando cada vez más espacio. Me ha llevado a la reflexión un artículo publicado en estas mismas páginas que trataba de la Inteligencia Artificial General, un paso más allá de lo que estábamos conociendo hasta ahora. Superaría la tecnología actual, aumentando los riesgos y, ante todo, tendría la capacidad de replicar la mente humana y adquirir conciencia de sí misma. Claro, me vino a la mente HAL, el superordenador creado en la ficción por Arthur C. Clarke en la novela 2001 una odisea en el espacio, luego llevada al cine por Stanley Kubrick. El ruego final de la máquina para no ser desconectada es un avance de este presunto espíritu del algoritmo que ahora se pretende. ¿Y quién se puede olvidar de la película A.I. Inteligencia artificial, en la que el pequeño robot David busca al Hada Azul para que lo convierta en un niño de verdad, como hiciera en su momento con Pinocho?

No parece que las posibilidades de avance de la IA tengan límites. Los Estados ya se preocupan por legislar y señalar las líneas rojas –todo aquello que afecte a los derechos fundamentales–, pero ya veremos el alcance de esas normas, de momento insuficientes para detener la avalancha de situaciones apenas controlables. 

Los jueces y la IA

Para la justicia, donde se considera que puede ser un asistente imprescindible, los límites son delicados. La UNESCO señala que “diversos sistemas judiciales actualmente exploran el potencial de la IA en el poder judicial, los servicios de fiscalía y otros órganos judiciales especializados en el mundo entero y en el ámbito de la justicia penal, proporcionando asistencia de investigación y automatizando/facilitando los procesos de toma de decisiones. Sin embargo, el uso de la IA plantea una amplia gama de desafíos que deben abordarse: desde el reconocimiento de patrones pasando por la ética, las decisiones sesgadas tomadas según algoritmos basados en la IA, la transparencia, hasta la rendición de cuentas…” 

En un artículo publicado en 2021 en la Revista de Internet Derecho y Política sobre IA y administración de Justicia, el abogado y profesor de Derecho Simón Castellano afirma en sus conclusiones: “…existe a nuestro humilde entender un único límite infranqueable que opera como óbice a determinados usos de la IA en la justicia penal. Nos referimos a la imposibilidad de que el juez delegue su poder de decisión en un sistema de IA; lo que es de aplicación, además, a cualquier orden jurisdiccional (…) Este impedimento sería a todas luces insalvable”. 

Tiene razón, pero no puedo evitar preguntarme si, visto lo visto, no habría más seguridad jurídica si la decisión corriera a cargo de la IA que de la voluntad o el capricho de determinados operadores judiciales que olvidan la esencia de su función de servidores públicos independientes y se unen a la línea ideológica más conveniente para sus propios intereses. Al menos, se obraría sobre elementos objetivos con sus sesgos, pero, quizás, menos contaminados por influencias externas. 

Fuera de ironías, hay algo que tiene que ver con todas las asignaturas pendientes que desgranaba al principio de este escrito y que se resume en la dramática situación que las personas viven en este planeta. Entendiendo que empresarios y científicos llevarán adelante sus investigaciones y crearán máquinas más allá de lo que hoy somos capaces de suponer, hay una pregunta que para mí es crucial: ¿La nueva IA será capaz de sentir compasión? ¡Ojalá! porque, en caso contrario, será el fin de los humanos; al menos, de los más vulnerables como, desgraciadamente, ocurre en la actualidad.

 ___________________

Baltasar Garzón es jurista y autor, entre otros libros, del ensayo 'Los disfraces del fascismo' (Planeta).