Este político hizo varios vídeos deepfake para hablar a sus votantes en idiomas que no conoce

Cristian Rus

Fue durante el año pasado cuando vimos unboomen los vídeosdeepfake. Este tipo de vídeos que, mediante inteligencia artificial,modifican el rostro de una persona en el vídeotienen utilidades muy variadas. El mayor uso que se les ha dado esen el porno, donde se suele modificar la cara del actor o la actriz para colocar el rostro de algún famoso. Pero, ¿y si se usa para que alguien hable en diferentes idiomas? Es lo que ha hecho un candidato a las elecciones de Delhi de India.

Segúnexplican en Vice, el candidato político Manoj Tiwari a la Asamblea Legislativa en Delhi dio el pistoletazo de salida para comenzar ausar losdeepfakesen campañas políticasel pasado 7 de febrero. Lo hizo con un simple vídeo de 44 segundos, o más bien tres vídeos de 44 segundos. Este es el original:

A raíz de este vídeopublicó dos más en inglés y el dialecto hindi Harayanvi, pero en estos dos últimos él no era el que hablaba, sino una IA que además modificaba su rostro para sincronizar los labios según las palabras que se pronunciaban.

Explican los representantes del partido político BJP (al que pertenece el candidato) que se aliaron con una agencia de comunicación llamada The Ideaz Factory paracrear “campañas positivas” utilizando losdeepfakes. El resultado parece ser que ha sido un éxito, los videos se propagaron y viralizaron rápidamente por WhatsApp. Siendo o no conscientes sus receptores, losdeepfakespermitieron comunicar el mensaje en el idioma nativo/preferido de los votantes. Según los responsables del partido, los vídeos se distribuyeron por más de 5.800 grupos de WhatsApp llegando a aproximadamente 15 millones de personas.

Todo apunta a que se ha usado precisamente unsoftwaredesarrollado en India quepermite traducir vídeos a otros idiomas y a la vez sincronizar labios. Se trata de unsoftwarequevimos en profundidadhace unas semanas. Lo cierto es que si nos fijamos con detalle o si somos conscientes de que es undeepfakese aprecian pequeños errores en los vídeos, tanto los del estudio como los de la campaña política. Pero, ¿es algo que nota una persona que recibe el vídeo sin conocer el contexto? Complicado.

Una poderosa (y peligrosa) herramienta

Generalmente losdeepfakeshan tenido una mala reputación y rechazo (además de asombro) por parte de los usuarios por el uso que se les ha dado. Es decir, se han utilizado para engañar a base de vídeos falsos, que es esencialmente lo que son. Uno de los primeros en viralizarse fue el deObama dando un discurso falso. Pero en este caso, ¿se está engañando? La campaña política ha traducido el mensaje en idiomas diferentes,el engaño en sí no está en el mensaje sino en dar a entender que el político habla idiomas que realmente no conoce.

Debido a las preocupaciones que generan estos tipos de vídeos,están siendo cada vez más regulados.California tomó medidasal respecto,Facebook los ha bloqueadoyen Chinaestán prohibidos.

Vía |Vice