La pesadilla del reconocimiento facial ya es una realidad con Clearview AI

Esta información, revelada el viernes 14 de agosto por Tech Inquiry, una ONG que denuncia los abusos en el campo de la tecnología, parece haber salido directamente de un libro sobre un futuro distópico: la aplicación de reconocimiento facial más liberticida jamás concebida, ideada por miembros de la derecha estadounidense más radical que ha elaborado en secreto la más importante base de fotos del mundo, acaba de ser adoptada oficialmente por los servicios de inmigración de Estados Unidos.

Según los documentos obtenidos por Tech Inquiry a través del Freedom of Information Act (FOIA), un procedimiento que permite a los ciudadanos reclamar documentos oficiales, el 12 de agosto ha sido firmado un contrato entre el departamento de Seguridad Interior, en nombre del Immigration and Customs Enforcement (ICE) y la sociedad Clearview AI, por una duración de un año y un coste de 224.000 dólares.

Desde que The New York Times reveló el pasado 18 de enero sus actividades, Clearview AI parecía encontrarse en una mala situación, acusada de haber violado las reglas de la mayor parte de las plataformas y redes sociales al recuperar todas las fotos de sus usuarios. La sociedad se está viniendo abajo ahora por los procesos emprendidos por Estados, asociaciones y particulares de todas partes del mundo.

El dispositivo es de una simplicidad aterradora. Basta con tomar una foto a una persona con su smartphone y la aplicación busca las correspondencias en su gigantesca base de datos. Las imágenes encontradas por el algoritmo aparecen en el teléfono junto a los enlaces de las páginas donde han sido halladas. De esta forma, es posible saber en pocos segundos el nombre de una persona con la que nos cruzamos por la calle y toda la información disponible online sobre ella.

El código informático de la aplicación, analizado por el The New York Times, incluye también partes escritas de un lenguaje de programación destinado a las gafas de realidad aumentada, similares al Google Glass. Hoan Ton-That, el fundador de Cleaview AI, ha confirmado que está interesado en este campo, pero que sólo se trata, por el momento, de un proyecto en estado de prototipo.

La eficacia de Clearview AI, descrita por los usuarios como temible, reside en un algoritmo de rendimiento extremo y un banco de imágenes que podría ser el más importante del mundo. Para constituir ese banco de imágenes, la sociedad ha violado claramente las reglas de utilización de casi todas las redes sociales, Facebook, Twitter, YouTube, LinkedIn...indexando la totalidad de fotos públicas colgadas por los usuarios.

Con alrededor de 3.000 millones de imágenes, esta base de datos podría ser ya siete veces más importante que la del FBI, y la cifra crece proporcionalmente al número de usuarios. Cuando uno de ellos toma una foto para verificar una identidad, la foto sube a los servidores de Clearview AI y pasa a engrosar su base de datos. La sociedad podría también haber comprado algunos bancos de imágenes. El 5 de marzo, la web OneZero reveló que Clearview AI se había jactado ante un cliente de querer adquirir la base de datos de mug shots del país, esas fotos que se toman durante una detención.

El primer cliente oficial de Clearview AI ha sido la policía de Indiana, que probó la aplicación en febrero de 2019. En su primer uso, permitió resolver en veinte minutos el caso de una pelea entre dos hombres en un aparcamiento en la que uno de los dos resultó herido por bala. Un transeúnte grabó el altercado y la imagen del sospechoso se cargó en la aplicación, encontrándose inmediatamente una correspondencia: un vídeo colgado en una red social en el que aparecía, junto a su nombre en los comentarios.

“No tenía carnet de conducir ni nunca había sido detenido, por lo que no estaba en ninguna base de datos del Estado”, ha explicado al New York Times Chuck Cohen, capitán de la policía de Indiana en el momento del experimento. Hoan Ton-That ha asegurado en un principio, durante una entrevista con la cadena Fox, que su aplicación estaba reservada “estrictamente a las fuerzas del orden” estadounidenses y canadienses. Pero en el mes de febrero, unos hackers consiguieron introducirse en sus servidores y copiar su lista de clientes. La lista ha sido consultada por la web BuzzFeed y demuestra que, aunque Clearview AI trabaja efectivamente con muchos servicios de policía, también ha ofrecido sus servicios a empresas y a particulares, a veces gratis, de todas partes del mundo.

“En realidad –afirma BuzzFeed– Clearview AI ha buscado clientes de manera agresiva en empresas relacionadas con el derecho, la venta al por menor, bancos y juegos de vídeo, y ha penetrado en mercados de Europa, América del Sur, Asia, Pacífico y Oriente Medio”. En total, la lista de clientes contiene el nombre de “2.200 servicios de policía, agencias gubernamentales y sociedades privadas repartidas por 27 países”.

Entre ellas figuraban ya la Immigration and Customs Enforcement así como las aduanas estadounidenses, la Customs and Border Protection (CBP), fuerza de policía encargada de la vigilancia de fronteras, la oficina del procurador del distrito sur de New York, más de 200 empresas entre las que se encuentran la cadena de almacenes Macy's y Walmart, casinos, salas de espectáculos, bancos, centros escolares, miembros del FBI, la Interpol y “cientos de departamentos de policía local”.

Además, Clearview AI ha hecho numerosas ofertas de pruebas gratuitas, generalmente de treinta días, no sólo a organizaciones sino a miembros de éstas que nunca han informado sobre su cargo. Así, mientras la policía de New York negaba en un primer momento haber recurrido a Clearview AI, la lista que BuzzFeed consiguió mostrar que unos treinta oficiales disponían de cuentas y habían realizado 11.000 búsquedas, la cantidad más importante de toda la lista.

Estas revelaciones le han costado a Clearview AI una avalancha de denuncias presentadas en Illinois, California, Virginia, Vermont y en el Estado de New York. En Chicago, una clienta de los almacenes Macy's también ha presentado una denuncia contra la dirección por haber usado la aplicación. En Reino Unido y en Australia las autoridades de protección de datos personales han abierto una investigación conjunta.

Preguntado sobre el asunto por diputados europeos, el Comité Europeo de Protección de Datos Personales (CEPD) ha anunciado que tiene “dudas sobre el hecho de que una ley de la Unión o de un Estado miembro proporcione una base legal para la utilización de un servicio como el que propone Clearview AI. Por consiguiente, en el estado actual de las cosas y con independencia de lo que determine una investigación actual o futura, no puede establecerse la legalidad de un uso tal por las fuerzas del orden de la UE”.

En Francia, la representante de una start-up norteamericana ha recurrido a la Comisión Nacional de Informática y de Libertades (CNIL). A mediados de julio fue presentada una denuncia por Zoé Vilain, abogada y presidenta en Europa de Jumbo Privacy, una sociedad que desarrolla una aplicación de seguridad de datos. “Nosotros queríamos poder representar a nuestros usuarios en sus peticiones de hacer respetar el RGPD”, el reglamento europeo de protección de datos personales, explica Zoé Vilain a Mediapart.

Para ello, la abogada simplemente ha seguido el procedimiento de derecho de acceso que permite a todo ciudadano ser informado de cualquier dato que una empresa o un organismo tenga sobre él. La solicitud de acceso fue presentada en enero pero, durante varios meses, Clearview AI tardó en responder y, además, ha exigido a Zoé Vilain una foto suya o un extracto de su tarjeta de identidad. La abogada, ante el temor a alimentar la base de datos de la compañía con nuevas fotos, se negó en un principio pero finalmente aceptó entregarles una foto suya que encontró en Google.

Tras un requerimiento enviado a finales de mayo, Zoé Vilain recibió finalmente una simple página con cuatro fotos y su origen. La primera era la que ella misma había enviado. La segunda estaba sacada de la web de su despacho. La tercera, más preocupante, había sido obtenida de una página de información británica que contenía un artículo sobre un curso que Zoé Vilain había hecho, pero que ya no está online. Además, la imagen original era una foto de grupo y Clearview AI había encuadrado la cara de la abogada. La cuarta foto era un error de algoritmo y había sido sacada de la cuenta de Instagram de otra persona.

Clearview AI preocupa también por su origen y por la opacidad que la sociedad ha mantenido sobre sus actividades. Su fundador sigue evasivo sobre sus orígenes y se contenta con decir que ha desarrollado este proyecto con otras dos personas, sin precisar su identidad.

La periodista del New York Times que ha puesto el foco en este asunto, Kashmir Hill, cuenta en su artículo que, cuando empezó a investigar en noviembre de 2019, la sociedad solo disponía de una web con una sola página y la dirección de un lugar en Manhattan que ha resultado falso. En la red social LinkedIn aparecía un solo trabajador de Clearview, un tal John Good, responsable de ventas. En realidad era una identidad falsa tras la que se escondía Hoan Ton-That.

Durante varios meses, Kashmir Hill trató en vano de contactar con empleados de Clearview AI. La empresa, por su parte, parecía estar al corriente de su investigación. La periodista cuenta que, tras haber pedido a policías que probaran con ella la aplicación, tomándole una foto, éstos recibieron una llamada de la compañía preguntándoles si habían hablado con la prensa. Un tiempo más tarde, al hacer una nueva prueba, la periodista se dio cuenta de que habían desaparecido las fotos que el algoritmo había encontrado.

Identificar los inmigrantes ilegales

El Huffington Post publicó el 7 de abril pasado una larga investigación desvelando los nauseabundos orígenes de Clearview AI. Su fundador, Hoan Ton-That, de 32 años, es actualmente un hacker que creció en Australia y se mudó a San Francisco en 2007. Dos años más tarde ya se hablaba de él cuando desarrolló un virus informático para recuperar los datos Gmail de sus usuarios. Fue amenazado por la policía pero al parecer no fue condenado.

Según la investigación del Huffington Post, Hoan Ton-That pertenece al movimiento neo-reaccionario conocido por NRx o Dark Enlightenment (Ilustración oscura), que constituye un “subconjunto geek de extrema derecha racista y misógino que hace estragos en los círculos libertarios de Silicon Valley desde hace más de una década, sobre todo en la comunidad de las criptomonedas”, explica Huffington Post. “Sus miembros veneran a Thiel (cofundador de PayPal), hacen micro dosis de LSD y adornan las ideas totalitarias con una pseudo-intelectualidad que les da un pretexto moral para socavar (…) la democracia”.

A partir de 2015, Hoan Ton-That se conchabó con algunas de las más famosas figuras de la alt-right (derecha alternativa) norteamericana con el fin de preparar la elección de Donald Trump, como el machista y complotista Mike Cernovich, el hacker neonazi Andrew Auernheimer o el supremacista blanco Pax Dickinson. En aquel momento, toda esa comunidad estaba unida a través de una mensajería interna que contaba con unos 400 miembros, alojada en la plataforma de crowdfunding de extrema derecha WeSearchr, hoy cerrada.

Fue allí sin duda donde Hoan Ton-That conoció a otra personalidad central del mundo de la alt-right norteamericana, el fundador de WeSearchr, Charles C. Johnson, un activista que se autodefine como troll, implicado en la difusión de muchas fake news y expulsado de Twitter desde 2015 por acoso. Según el Huffington Post, hay muchos elementos que indican que Charles Johnson está directamente implicado en la creación de Clearview AI.

La amistad entre Charles Johnson y Hoan Ton-That está confirmada por varios testimonios y mensajes en redes sociales. El 21 de junio de 2016, Mike Cernovich, por ejemplo, colgó una foto de los dos, en una mesa de un restaurante, haciendo con la mano el signo de OK, uno de los símbolos de unión de la alt-right. La noche de la segunda vuelta de las elecciones presidenciales, el 8 de noviembre de 2016, Charles Johnson, Hoan Ton-That y Pax Dickinson están en New York para celebrar la victoria de Donald Trump. Su presencia queda recogida en un artículo del diario británico The Sun, en el que aparecen en una foto. Una foto que Johnson ha recuperado para su cuenta de Facebook con un comentario: “Mis socios están en The Sun”.

Otro elemento preocupante: el 20 de enero de 2017, Charles Johnson colgó, también en Facebook, un mensaje que decía que “estaba trabajando en algoritmos para identificar inmigrantes ilegales para las brigadas de deportación”. Más o menos en aquella época nace Smartcheckr, la primera versión del programa de reconocimiento facial que luego se llamará Clearview AI. Varias personalidades del movimiento neo-reaccionario, miembros del grupo de WeSearchr, han sido empleados de la sociedad hasta hace poco. Entre ellas figura por ejemplo Marko Jukic, autor de numerosos textos racistas, antisemitas, sexistas... “La respuesta a la cuestión judía es simple”, escribe en uno de ellos: “Segregación y separación. A diferencia de los progresistas, los neo-reaccionarios no creen que se puedan abolir las leyes de la naturaleza y transformar la diversidad en una fuerza”.

Durante la investigación de Huffington Post, Clearview AI ha intentado discretamente separarse de sus colaboradores molestos y han ido desapareciendo poco a poco muchos rastros de Internet. Preguntado por sus colaboradores, Hoan Ton-That afirma que no sabe nada de sus actividades ni de las palabras que hayan podido escribir online. Sobre su propio compromiso con la extrema derecha, se justifica explicando que ha “crecido en Internet”.

“Esto no ha sido siempre un camino recto ni me ha servido siempre”, continua el fundador de Clearview AI. “Hubo un periodo en el que exploré toda una gama de ideas, no por creer en alguna de ellas, sino por deseo de buscarme a mí mismo y un sitio en el mundo. A los que hayan leído mis palabras en el artículo del Huffington Post, les pido disculpas”.

Las relaciones de Hoan Ton-That con la alt-right permitirán igualmente establecer vínculos con personalidades menos polémicas, como Richard Schwartz, un consejero del ex alcalde de New York que conoció en el Manhattan Institute, un think tank conservador. Schwartz se hizo socio oficial de Hoan Ton-That y está acreditado como cofundador de Clearview AI, a quien pasó su cartera de contactos. El proyecto ha recibido el apoyo del poderoso multimillonario Peter Thiel, cofundador de PayPal y de la sociedad de vigilancia Palantir, miembro del consejo de administración de Facebook y cercano a Donald Trump. Invirtió 200.000 dólares en la sociedad.

Sin embargo, a pesar de sus apoyos, a Clearview AI le ha costado encontrar un mercado. En un artículo publicado el 6 de marzo pasado, el The New York Times cuenta que, durante el año 2018, los fundadores dudaban incluso sobre qué público enfocar su actividad y no habían ni siquiera contactado con la policía. Para probar su programa y hacer una encuesta entre los inversores o los posibles clientes, la sociedad se puso a distribuir gratuitamente el acceso a sus servicios a muchos hombres de negocios o personalidades sin ningún control.

Durante algunos meses, Clearview AI fue “un juguete secreto para ricos”, una especie de gadget de alta tecnología que los miembros de la jet-set exhibían por las noches para dejar asombrados a sus invitados. En septiembre de 2019, el actor e inversor Ashton Kutcher (que encarnó el papel de Steve Jobs en el cine) afirmaba durante una emisión web, que tenía “una aplicación en su teléfono, en su bolsillo, una especie de versión beta de una aplicación de reconocimiento facial. Puedo ponerla delante del rostro de cualquiera aquí y saber exactamente quién es, qué cuentas tiene en Internet y a quien se parece. Da miedo”.

Ashton Kutcher no ha confirmado al New York Times si se refería a Clearview AI pero otros hombres de negocios se han jactado abiertamente ante ese diario que hacían un uso personal de la aplicación. El millonario John Catsimatidis, propietario de la cadena de almacenes Gristedes y amigo de Richard Schwartz, cuenta que comprobó la identidad del nuevo novio de su hija para “estar seguro de que no era un charlatán”. El hombre de negocios firmó luego un contrato para equipar sus almacenes porque “la gente robaba nuestros Häagen-Dazs”.

David Scalzo, fundador de la sociedad de inversiones Kirenaga Partners, cuenta que sus hijas adolescentes adoran jugar con la aplicación. “Les gusta utilizarla con ellas mismas para ver a quién se parecen”, explica. Kirenaga Partners es uno de los inversores que ha inyectado un millón de dólares en Clearview AI en julio de 2018, junto a otros como Peter Thiel o Hal Lambert, un inversor tejano que solo trabaja con sociedades afines a los valores de los republicanos.

La firma del contrato entre Clearview AI y los servicios de inmigración suena como la realización del sueño de los hackers neo-reaccionarios. Como esperaban, su algoritmo será pronto utilizado para “identificar a inmigrantes ilegales”. Queda por saber si los múltiples procesos iniciados contra la sociedad les obligará a replantear sus actividades.

Hoan Ton-That no parece en cualquier caso estar dispuesto a abandonar. Poco después de las revelaciones del The New York Times, varias plataformas han enviado requerimientos a Clearview AI para que deje de utilizar sus fotos. En una entrevista concedida el 5 de febrero a la cadena CBS, su fundador rechazaba esas peticiones con el argumento de que todas esas fotos son públicas y que el derecho a utilizarlas deriva de la primera enmienda de la Constitución, que garantiza la libertad de expresión.

Según el The Wall Street Journal, Clearview AI ha continuado con sus operaciones de búsqueda de clientes incluso durante la pandemia del covid-19, proponiendo a las agencias gubernamentales sus servicios para poner en marcha soluciones de rastreo de contagiados.

La sociedad se prepara a contraatacar en el plano judicial. El martes 11 de agosto, víspera de la firma del contrato con la ICE, Clearview AI anunció que le ofreció sus servicios el prestigioso despacho de abogados de Floyd Abrams, un célebre abogado especializado en asuntos relacionados con la primera enmienda.

Floyd Abrams es conocido también por haber defendido, en 1971, a The New York Times, que entonces estaba perseguido por haber publicado los Pentagon Papers, una serie de documentos confidenciales sobre la guerra de Vietnam. En el caso de Clearview AI, el abogado va a defender la tesis según la cual recolectar fotos colgadas en perfiles públicos de las redes sociales y explotarlas es un derecho protegido por la libertad de expresión.

Preguntado por el The New York Times, Floyd Abrams afirma que ya hay jurisprudencia, una decisión de 2011 en la que el Tribunal Supremo consideró, en nombre de la primera enmienda, que el Estado de Vermont no tenía derecho a prohibir a los farmacéuticos revender los datos relativos a los medicamentos prescritos por los médicos.

La ultraderecha de Estados Unidos consigue que cale su proyecto

Ver más

Traducción de Miguel López.

Texto orginal en francés.