La IA te acabará robando el alma y la cartera: la última moda viral genera imágenes que clonan a Miyazaki
"Si os gustase Studio Ghibli no estaríais jugueteando con la mierda de inteligencia artificial esa". Así de contundente se mostró el historietista e ilustrador Álvaro Ortiz en Bluesky el pasado 27 de marzo ante la oleada de fotografías que comenzaron a inundar las redes sociales que copiaban descaradamente el estilo del estudio japonés de animación. ¿El motivo de esta explosión? Dos días antes, OpenAI había presentado una versión actualizada de su sistema GPT-4o para generar imágenes más realistas desde el propio ChatGPT. El propio director ejecutivo de la tecnológica, Sam Altman, concluyó su hilo en X explicando el lanzamiento con un contenido ghiblificado.
De todas las nuevas opciones que le facilitaba la nueva funcionalidad de su juguete, Altman escogió para promocionarlo el ícono y mítico estilo de esta productora fundada por los directores Hayao Miyazaki e Isao Takahata. E incluso cambió su imagen de perfil en X por una suya imitando a los personajes de El viaje de Chihiro, Mi vecino Totoro o La princesa Mononoke. Después llegaron el resto: miles de usuarios anónimos se subieron a este carro y lo mismo hicieron los perfiles en redes sociales de la Casa Blanca (una publicación, por cierto, racista burlándose de una detención de una persona migrante), del Gobierno de la India, del Ejército de Israel o del programa La Revuelta de RTVE.
En conversación con infoLibre, Álvaro Ortiz califica la situación de "indignante": "Miyazaki ya criticó hace años las inteligencias artificiales, así que hacer esto precisamente con Studio Ghibli, aparte de una vulneración de los derechos de autor, es una provocación en toda regla". En concreto, se refiere a una entrevista de 2016 en el que el director japonés aseguró que "nunca desearía incorporar esta tecnología a mi trabajo en absoluto" y que era "un insulto a la vida misma".
En la misma línea se posiciona Daisy Cruz, presidenta de Animaciones Mia, la asociación para las mujeres en la industria de la animación: "Cada vez que un artista ilustra pone su alma. Cada personaje tiene un alma y una visión artística que una inteligencia artificial no puede replicar. Son muchas horas de trabajo, de investigación y preparación". Para esta productora, es "una cuestión de respeto y de ética".
"Sin duda no es ético si es con un fin lucrativo", matiza Gonzalo Carrión, vicepresidente de Diboos, la Federación española de Productores de Animación y Efectos Visuales. Además, recuerda que "la animación y la ilustración son historias contadas por humanos, con humanos y para humanos": "Aunque la tecnología pueda en algún momento sustituirnos, seguiremos prefiriendo ilusionarnos con algún día poder ser ese ser humano que para nosotros ha triunfado porque reconocemos el esfuerzo de llegar tan lejos".
Sin embargo, esta provocación parece que no va a acabar por ahora a pesar de los problemas que ha tenido OpenAI ya que, dos días después del lanzamiento, Altman contó en X que su uso viral estaba sobrecargando los servidores de la empresa. No obstante, este mismo martes, ChatGPT abrió para todos sus usuarios esta nueva funcionalidad de generación de imágenes, no solo para sus suscriptores de pago, dando más gasolina a esta tendencia que esconde detrás muchos de los problemas de la que llevan ya años avisando los expertos: los derechos de autor, la precarización de los sectores afectados y la privacidad de los usuarios que usan estas herramientas.
Cómo han conseguido copiar a Miyazaki
Aunque todos estos problemas nacen de la pregunta más evidente: ¿cómo ha llegado ChatGPT a una imitación tan perfecta de las creaciones de Studio Ghibli? Tal y como detalló The Wall Street Journal tras el lanzamiento de esta actualización, gran parte de su éxito radica en el grupo de "entrenadores humanos" que etiquetaron los datos para eliminar errores tipográficos como fallos en en manos y caras.
Pero, más allá de los entrenadores humanos, estos modelos generativos, como es el caso de ChatGPT, necesitan "millones de obras" para brindar los resultados que ofrecen. "Hay que tener en cuenta que un sistema de inteligencia artificial no aprende de cero, sino que debe tener una "base", explica Elisa Gutiérrez García, profesora de la Universidad Complutense.
En concreto, según detalla esta experta en IA, derecho y derechos humanos, esta tecnología se basa en dos modelos que compiten entre sí que "parten de un conjunto de datos de entrenamiento para desarrollar su labor". "El modelo generativo se sirve de ellos para crear su contenido, tratando de que se asemejen mucho a ellos, y el modelo discriminativo comprobará la autenticidad de esos resultados evaluando la probabilidad de que proceda del conjunto de datos de entrenamiento", indica Gutiérrez García que apunta a que cuanto "más amplio sea ese conjunto de datos mejores resultados devolverá".
En el caso de estas imitaciones de Studio Ghibli, ChatGPT "se habrá alimentado con todas las obras en cualesquiera de sus manifestaciones a las que haya podido acceder, de forma no necesariamente legítima", sostiene Gutiérrez García. "El proceso de aprendizaje de estos modelos implica un acto de reproducción de las obras y éste es un derecho que le pertenece en exclusiva a los autores y titulares", defiende esta profesora.
Aunque en todo este proceso interviene un factor a tener en cuenta: la opacidad de las propias tecnológicas. Ocultan cómo son sus algoritmos y también despliegan un halo de opacidad sobre los datos con los que entrenan a sus modelos de inteligencia artificial. "Las exigencias legales de transparencia para este tipo de sistemas son vitales", reconoce Gutiérrez García.
¿Viola los derechos de autor?
Por ello, todo el tema del entrenamiento de estos generadores de imágenes nos lleva al primer riesgo: algunos creadores y empresas advierten que la inteligencia artificial plagia su trabajo. "El entrenamiento de estos modelos generativos supone el empleo de millones de obras, que generalmente estarán protegidas por derechos de autor y otros de propiedad intelectual si son relativamente actuales", defiende Gutiérrez García que señala que para que fueran de dominio público el autor debería haber fallecido, en la mayoría de los casos, hace más de 70 años. Algo que no sucede en el caso de Studio Ghibli.
Según OpenAI, GPT-4o fue entrenado con "datos disponibles públicamente", así como con "datos propios de sus asociaciones con empresas como Shutterstock". En una declaración a TechCrunch, un portavoz de OpenAI explicó que si bien ChatGPT se niega a replicar "el estilo de artistas vivos individuales" sí puede imitar "estilos de estudio más amplios". Hecha la norma, hecha la trampa.
Para Gutiérrez García, sin embargo, el problema en este ejemplo no es que esté prohibido copiar un estilo en concreto "porque los estilos no están protegidos por la propiedad intelectual": "El verdadero problema es cómo llega el sistema de inteligencia artificial a saber imitar un estilo. La única vía es empleando obras que reflejen ese estilo". "Más allá de un tema legal, hay una falta muy grande de ética y de responsabilidad. Hay que entender todas las horas que dedicaron a crear este material. No solo es algo estético, es también transmitir cultura y tradición", sostiene Daisy Cruz.
OpenAI es reincidente
Este caso no es la primera vez que coloca a la tecnológica de Sam Altman en el foco de la polémica por temas de copyright. En octubre de 2024, un grupo de más de 10.500 actores y músicos, entre ellos la actriz Julianne Moore o el músico Thom Yorke de Radiohead, firmaron una carta abierta criticando el "uso sin licencia de obras creativas" para entrenar modelos de inteligencia artificial, incluido ChatGPT. Pocos meses antes, la propia Scarlett Johansson denunció a OpenAI por el "inquietante parecido" entre su voz y el nuevo modo de voz de la compañía.
En 2023, The New York Times y varias editoriales presentaron una demanda por infracción de derechos de autor contra OpenAI y su socio Microsoft por usar su trabajo sin permiso para entrenar sus herramientas.
"Los fallos que vayan sucediendo podrán sentar precedentes sobre cómo se dirimirán futuras controversias o cómo se resolvería un supuesto conflicto jurídico si Studio Ghibli decidiera emprender acciones legales", detalla Gutiérrez García. Esta experta recuerda que aunque, hay discrepancias entre las legislaciones de cada país, el Convenio de Berna para la Protección de las Obras Literarias y Artísticas, del que forman parte la mayoría de los Estados del mundo -incluidos EEUU, Japón o España-, otorga "unos mínimos de protección".
Sin olvidarse de las propias normas sobre la inteligencia artificial. En el caso de la UE, ya cuenta con un reglamento pionero y que en España recogerá en la futura ley para el buen uso y la gobernanza de esta tecnología, que acaba de comenzar su trámite legislativo. "Cada zona del mundo tiene sus leyes sobre derechos de autor, tratados multilaterales y diferentes formas de aplicar el uso de la inteligencia artificial, que es algo que empieza a legislarse pero que tardará un tiempo en ser una normativa clara", afirma Gonzalo Carrión que, además, recuerda que "no solo es una cuestión regulatoria, también existe una necesidad de dar respuestas por parte de profesionales y empresas". Eso sí, el vicepresidente de Diboos pide precaución para no caer en la "ultraregulación": "Puede tener efectos muy contrarios a los deseados como pérdida de cuota de mercado, productividad y por ende, pérdida de empleos"
Precarización del sector de la ilustración y la animación
Porque profesionales y empresas han sido los primeros en levantar la voz y emitir públicamente sus quejas y publicaciones por el uso de la inteligencia artificial: actores, actores de doblaje, guionistas, músicos, ilustradores, traductores, periodistas y ahora los animadores. Y no es solo un problema de derechos de autor, y aquí entra el segundo riesgo, también es un abismo laboral ya que abre la puerta a una mayor precarización de todas estas profesiones.
"Desde hace ya un tiempo, según qué encargos están empezando a escasear", explica Álvaro Ortiz. Este dibujante reconoce que hay "cantidad de empresas que no entienden por qué van a pagar por algo si lo pueden generar gratis" aunque les quede "una cosa absurda, ridícula y anodina". "Habrá personas que por suerte sigan valorando el trabajo de ilustradores y artistas, pero hay gente que no verá la diferencia", indica este ilustrador que además señala que habrá "flipados" que verán esto como "una posibilidad de sacar tajada sin un ápice de talento".
Para Daisy Cruz de MIA, esta tecnología no va a "quitar oportunidades" laborales: "No va a eliminar puestos de trabajo, pero tenemos que adaptarnos y convivir con ella". Por ejemplo, la presidenta de MIA diferencia entre la inteligencia artificial generativa y la productiva: "Se pueden usar herramientas para acortar procesos, pero al final necesitamos al humano".
Más allá va Gonzalo Carrión: "La inteligencia artificial generativa es una herramienta creativa de gran potencial donde creadores con experiencia y criterio pueden llegar a lugares inimaginables en este momento en términos de creatividad y de productividad". Esos sí, el vicepresidente de Diboos también apunta que "existe un riesgo" y aún desconocemos "el impacto social" que puede tener.
¿Podrán llegar a convivir la inteligencia artificial y el sector de la animación?" Supongo que habrá quién, en algún momento, consiga resultados interesantes, pero va a seguir habiendo conflicto mientras las inteligencias artificiales generativas sigan siendo entrenadas con imágenes robadas, lo cual veo difícil que cambie, y utilizándose principalmente para precarizar el sector artístico", asegura Álvaro Ortiz.
"Hay una intención bastante clara de lo que viene y tenemos que prepararnos", afirma Cruz que explica que "se está hablando muchísimo sobre esto dentro del sector y hay una mesa para poder hacer manuales de buenas prácticas. Hay que adaptarse porque estamos en medio de una revolución". Desde Diboos, señalan que, "si todo sale bien", en julio podrían contar ya con una guía para la implantación de la inteligencia artificial en las empresas del sector ante "la importancia del momento que vivimos y el desasosiego que produce"
Riesgos de privacidad
El peligro de los 'deepfakes' o cómo la IA es el arma de manipulación política con la que hubiera soñado Goebbels
Ver más
Pero los riesgos no se acaban en el sector de la animación porque en toda esta tendencia por crear ilustraciones imitando a Studio Ghibli hay un tercer problema: la privacidad. Por que todas esas personas que están generando imágenes ghiblificadas no solo están dejando que ChatGPT deje volar su imaginación, también están subiendo sus fotografías a esta herramienta de OpenAI para que ellos mismos, sus familiares, sus amigos o sus mascotas luzcan como una creación más de Miyazaki.
Así, lo que parece una práctica viral y divertida, supone un problema para la seguridad de nuestros datos ya que estas fotografías podrían acabar siendo utilizadas sin nuestro consentimiento. Para Gutiérrez García aquí encontramos dos niveles.
Por un lado, aquellas personas con la versión de pago de ChatGPT que conlleva "a priori, ciertas garantías relacionadas con la privacidad de los contenidos que les subas" y, en teoría, "no lo reutilizará para mejorar sus servicios ni entrenar sus modelos". Y, por otro, los usuarios de la gratuita: "Tu contenido se reutilizará como mejor estime conveniente". "En cualquiera de los casos, lo que está claro es que el usuario deja de tener el control absoluto de ese contenido y nunca tendrá una certeza de que sus fotografías o documentos personales se eliminarán de sus servidores tan pronto como desee o desearía", concluye esta experta.
