Cómo combatir los deepfakes en la era de la inteligencia artificial

Vivimos inmersos en la era de la inteligencia artificial. Tanto si es generativa —como ChatGPT o Midjourney—, conversacional, sistemas expertos o redes neuronales artificiales, la inteligencia artificial es una tecnología que pretende imitar al cerebro humano en su capacidad de aprender, razonar, tomar decisiones y resolver problemas a partir del análisis de grandes cantidades de datos.

Ciberseguridad y deepfakes: retos de la inteligencia artificial

Cada vez que una nueva tecnología se democratiza y es usada por más y más personas, la sociedad debe afrontar nuevos retos en cuanto a la seguridad. Y más en el área de la inteligencia artificial, en la que se manejan tanta cantidad de datos personales. Ataques como la suplantación de personalidad y el fraude son ya una realidad en el contexto de la inteligencia artificial y, por ello, debemos estar prevenidos.

Telefónica Innovación Digital pone a disposición de todo aquel interesado su nueva solución TU VerifiAI Beta, que permite detectar el contenido generado o alterado por inteligencia artificial. Porque no todo lo que vemos y escuchamos en la actualidad tienen un origen fidedigno, y cada vez es más complicado discernir entre ficción y realidad.

Funcionalidades de TU VerifiAI Beta

En la actualidad, TU VerifiAI Beta tiene una versión pública que cuenta con una función: el análisis forense digital. Esto va a permitirte comprobar con una cierta probabilidad si un archivo, ya sea imagen, audio o vídeo, es o no falso. Hay dos opciones: una gratuita para los análisis de audio e imagen, y otra de pago para el vídeo.

Asimismo, Telefónica Innovación Digital también pone a nuestra disposición VerifiAI Beta Pro, una versión orientada a empresas, que se diferencia de la versión pública en que agrega motores de IA propios y de terceros, mejorando así el análisis de los contenidos, permite incluir los propios motores del cliente y el resultado del análisis forense digital ofrece más detalles.

Análisis en tiempo real, clave para la detección de deepfakes

Esta versión PRO cuenta, también, con una funcionalidad añadida llamada DeepFake Detector en tiempo real. Esto permite analizar un video en streaming y determinar si lo que se está viendo es real o generado por inteligencia artificial, es decir, es un deepfake. Una de las aplicaciones prácticas que podría tener esta funcionalidad sería la de verificar una reunión en Teams. Si el usuario recibe una alerta, eso es que el participante del encuentro está suplantando la identidad de un tercero. Además, cuenta con una consola que permite al área de TI monitorizar estos ataques.

¿Cómo funciona este análisis en tiempo real? Para ello, se utilizan diferentes modelos de IA, entre ellos el ‘Head Pose’, que analiza los movimientos de la cabeza para detectar gestos anómalos y habituales en los deepfakes. Este modelo ha sido patentado y desarrollado internamente desde Telefónica Innovación Digital. 

Asimismo, Telefónica Innovación digital está trabajando para que estas herramientas de monitorización en tiempo real se conviertan en APIs accesibles, facilitando su uso en diferentes procesos empresariales. Esto va a abrir las puertas a la integración en procesos KYC (Know Your Costumer), como es el caso, por ejemplo, a la hora de abrir una cuenta bancaria online, la verificación de documentos fidedignos, la verificación de la identidad a través de una videollamada o analizar patrones anómalos que revelen un fraude.

El deepfake es una maniobra, por desgracia, cada vez más frecuente. En este contexto, la aparición de VerifiAI se presenta como una herramienta potente, fiable y segura para la ciberseguridad en los tiempos de la IA. Discernir qué es real y que no, en tiempos de la digitalización, es más relevante que nunca.