El Ministerio de Cultura promoverá la inclusión de una cláusula en los Premios Nacionales para que no resulten ganadoras las obras creadas "íntegra y exclusivamente" por inteligencia artificial generativa. Así queda recogido en la guía de buenas prácticas relativas al uso de la IA que el departamento dirigido por el ministro Ernest Urtasun incluirá en sus propios procedimientos y que se centran también en otros dos ámbitos: la contratación de servicios y actividades creativas y las subvenciones.
En cuanto a la contratación de servicios y actividades que requieran un desempeño creativo se especifica que se podrán emplear sistemas de inteligencia artificial como "herramientas de apoyo en sus procesos creativos, pero no de manera sustitutiva al desempeño humano". Además, se procurará incluir una cláusula expresa en los contratos que recoja que el "proveedor deberá informar de la utilización de este tipo de tecnología". También se tendrá que "detallar el nivel de intervención y, en su caso, el papel de revisión de las personas físicas que desarrollen el proyecto".
Respecto a las ayudas, se promoverá en las convocatorias la inclusión de una cláusula en la que se indique que los proyectos y actividades beneficiarios, "especialmente aquellos en los que se incluya inteligencia artificial, deben garantizar el máximo respeto a la normativa reguladora en materia de inteligencia artificial y de propiedad intelectual". En todos los casos se aboga por la transparencia en el ‘dataset’ –conjunto de datos estructurado de información que se utiliza para analizar patrones–, si bien lo que está por ver es cómo se materializan las recomendaciones de esta guía, que es el primer paso oficial que da el Ministerio que dirige Ernest Urtasun, ante un presente en el que, queramos o no, estamos ya conviviendo con multitud de variopintos productos creados por inteligencia artificial, con los creadores siempre alerta para no ver atropellados sus derechos en nombre del progreso tecnológico en esta autopista de la información y la creación sin límites de velocidad -ahora mismo, en el caso de la IA, no los hay- que ha resultado ser lo que llevamos de siglo XXI.
Es por ello que lo complicado, lo todavía casi imposible, es saber cómo y cuánto ha podido intervenir la inteligencia artificial en la creación de una obra susceptible de ser contratada, subvencionada o premiada. "Esto va cambiando semana a semana, es una barbaridad. Por ejemplo, a nivel textual sí que van apareciendo herramientas, pocas, que cada vez más van refinando más, pero no dan la garantía al 100% seguro de que algo esté hecho o no íntegramente por una máquina", explica a infoLibre el profesor de los Estudios de Artes y Humanidades de la Universitat Oberta de Catalunya (OUC), Pau Alsina, quien en cualquier caso aplaude que "por fin" se hable de este asunto.
El cofundador del Instituto de Inteligencia Artificial (IIA), Miguel Ángel Román, ve en la guía ministerial cierta "ambigüedad" precisamente al hablar de obras creadas íntegra y exclusivamente con IA. "¿Cómo se prueba eso?", se pregunta, para luego detallar a infoLibre que en los premios literarios en particular lo ve "mucho más claro porque es imposible que una IA escriba un libro con sentido de forma autónoma", si bien "obviamente puede servir para ayudar a un escritor a generar ideas". "Con la imagen es diferente porque la IA ya por sí misma genera imágenes con bastante calidad profesional que no requieren retoques, cosa que no pasa con la escritura, que siempre la IA genera cosas que terminas retocando", destaca, para señalar acto seguido que la IA "no crea directamente una obra de arte por sí misma y es el artista el que va guiando el proceso creativo".
"Nos la pueden acabar colando", remarca a infoLibre la abogada especialista en industrias culturales y propiedad intelectual Marta C. Dehesa, quien señala que sí que hay programas de "búsquedas y que te intentan adivinar si ha sido algo creado por IA o no, pero no son para nada perfectos". "Puedes meter por ejemplo un texto y en base a la redacción te dirá si está creado o no con IA. Pero es que si ese texto luego vuelve a alimentar a la propia IA, ¿cómo va a ser capaz la IA de reconocer qué es y qué no es?", plantea, sobre una práctica que se da en todos los ámbitos de la creación cultural. "No hay medios para discernir", apostilla.
El editor de No ficción de La Esfera de los Libros, Diego Afonso, explica que en el sector del libro cuentan con diversas herramientas para detectar si un contenido ha sido elaborado por un programa o asistente de IA, "que al fin y al cabo bebe de los datos disponibles en Internet y podrá hacerlo con más o menos pericia". Además, destaca a infoLibre que los expertos les dicen que todavía estamos en el "paleolítico de la IA", de manera que las creaciones hechas con esta tecnología "se irán perfeccionando, del mismo modo que lo harán los detectores". Por eso, en su opinión, el principal riesgo en este asunto es el engaño y la mentira: "Necesitamos veracidad y credibilidad, con o sin tecnología. Un autor no debería tratar de engañar a un editor; un editor no debería engañar al autor ni a los lectores. Si se inician proyectos en los que esté implicada la IA debe ser una decisión transparente, en el que estén informados los creadores, los intermediarios técnicos y los lectores".
Un autor no debería tratar de engañar a un editor; un editor no debería engañar al autor ni a los lectores. Si se inician proyectos en los que esté implicada la IA debe ser una decisión transparente
Y aún continúa Afonso: "En su lectura de un texto, un editor más o menos experto y atento puede sospechar que se ha utilizado contenido de terceros sin referenciarlo de manera adecuada, aunque siempre se pueden colar cosas. Puede no ser malintencionado por parte del autor, sino simplemente un descuido. En esos casos es importante hacer catas del contenido y hacer comprobaciones. Hay disponibles distintos programas de pago que elaboran informes bastante precisos sobre la procedencia de los contenidos de un texto si estos proceden de Internet". Alsina, por su parte, explica que las herramientas que actualmente están detectando cuándo una obra está hecha íntegramente con IA lo que hacen es detectar que "la gramática es tan perfecta que no lo puede haber hecho un humano, por ejemplo". Y añade que incluso hay herramientas que lo que hacen es "humanizar el texto escrito por una IA, con lo que actualmente no se puede detectar 100% seguro que algo no está hecho con una máquina".
Más allá del problema de esta verificación, Dehesa lamenta que Cultura parta de una serie de presupuestos "descorazonadores" al reconocer la posibilidad de presentar trabajos no ya hechos en su totalidad con IA, pero sí en una parte. Además, censura que el Ministerio diga que "la IA es una herramienta cuando no lo es" y critica que la guía diga que "se pueden usar modelos de IA que cumplan con los derechos de autoría". "¿Cómo un Ministerio de Cultura puede decir esto cuando hoy por hoy no hay ningún modelo de IA que respete los derechos de autoría? Eso no existe, y esa es una de las recomendaciones que vienen en esa suerte de guía que además no es vinculante y que es peligrosa por las puertas que abre", plantea, recordando que esta guía se conoce el mismo día que el Gobierno firma un acuerdo millonario con Microsoft para impulsar en España "el despliegue de la inteligencia artificial responsable".
Es por ello que la abogada aún advierte de que se dará preferencia y se podrá utilizar la IA como "una mera herramienta, cuando no es una herramienta, sino un sistema". "Si fuera una herramienta, no hay ningún problema con el avance de las nuevas tecnologías y su aplicación, pero es que es un sistema que está destruyendo empleo y que va a destruir la capacidad de discernir qué es real y qué no es real", anticipa, para todavía rematar: "Se va a crear sobre lo ya creado y no va a haber esa visión crítica, analítica, esa aportación personal que se hace desde la creación".
Las líneas ahora trazadas por Cultura van, en cualquier caso, según Ramón, en la línea del Reglamento de Inteligencia Artificial de la Unión Europea, que se ha aprobado provisionalmente pero todavía no está vigente, pues entrará en vigor durante el presente año. "Lo de sustituir el desempeño humano es muy difícil de probar, ya que puedes presentar algo generado por IA después de haber generado mil imágenes y ahí por ejemplo hay también un proceso creativo detrás", apunta el cofundador del IIA, quien pone el foco en un punto en absoluto baladí, como es que aún "no está claro si la inteligencia artificial se puede considerar un trabajo derivado o un proceso de inspiración", algo igualmente muy difícil de probar.
"Dicen que al utilizar modelos de IA se deberá informar de ello y detallar el nivel de intervención, ¿pero cómo? ¿A través de una declaración de parte? Porque no se ha regulado un sistema de control y transparencia para que efectivamente se determine
Para Alsina, lo que está limitando el Ministerio de Urtasun son las producciones hechas enteramente con IA sin que el humano intervenga en el proceso de creación, lo cual es "lógico y comprensible", ya que "no es lo mismo" una novela generada íntegramente con herramientas de IA, que una novela que ha utilizado la IA para ayudarse de "ciertas partes del proceso, complementar o incorporar elementos que puedan ser de valor en el proceso de escritura, que pueden ser cuestiones más formales o hasta cuestiones de investigación de contenidos, etcétera".
"Serían máquinas con autoconciencia": Zuckerberg, Altman y Musk buscan ahora la superinteligencia artificial
"La postura del Ministerio no es negacionista o excesivamente proteccionista, intenta no poner puertas al campo, porque el campo está abierto, la IA está con nosotros y está transformando nuestras formas de producción, difusión o comunicación de la cultura, y lo que hacen es aliarse con la IA, algo que me parece adecuado", señala el profesor, quien ve la intención de Cultura de "en todo caso regular la utilización de la IA como copiloto que acompaña los procesos de creación de forma natural, integrada con los humanos", algo que va en la línea de lo que "están haciendo otros gobiernos del mundo, que es explicitar esas situaciones que se están produciendo y darlas un encaje".
En este punto, Dehesa se pregunta cómo puede hablar el Ministerio de transparencia si no tenemos todavía "una regulación que obligue a saber, como en agricultura, de donde viene algo, con etiquetas de calidad, certificados..." "Dicen que al utilizar modelos de IA se deberá informar de ello y detallar el nivel de intervención, ¿pero cómo? ¿A través de una declaración de parte? Porque no se ha regulado un sistema de control y transparencia para que efectivamente se determine y se 'etiquete' correctamente qué obras se han utilizado, con qué tipo de inspiración, de donde vienen, si han sido realizadas por IA, en qué parte o con qué bases de datos", concluye, no sin antes insistir: "La IA incumple y viola los derechos de autor sistemáticamente".
Para terminar, Afonso comparte una opinión estrictamente personal: "Todas las decisiones o normas que tiendan a otorgar el mismo valor a las creaciones humanas que a las creaciones por sistemas de computación más o menos autónomos es un riesgo a largo plazo. Si las dos esferas se equiparan, la creación expresamente humana (y que nos distingue como especie) queda desdibujada y será susceptible de sustituirse por máquinas, siempre más eficientes y rápidas. Creo que los dos tipos de creación pueden y deben convivir, pero otorgando a cada una su espacio claramente asignado. Dicho esto, hay mucho trabajo que hacer para definir en qué medida y qué tipo de trabajo hecho por la IA es aceptable en un premio literario para humanos".
El Ministerio de Cultura promoverá la inclusión de una cláusula en los Premios Nacionales para que no resulten ganadoras las obras creadas "íntegra y exclusivamente" por inteligencia artificial generativa. Así queda recogido en la guía de buenas prácticas relativas al uso de la IA que el departamento dirigido por el ministro Ernest Urtasun incluirá en sus propios procedimientos y que se centran también en otros dos ámbitos: la contratación de servicios y actividades creativas y las subvenciones.