Deepfake el futuro de la desinformación

La fabricación de noticias falsas en formato audiovisual de forma hiperrealista mediante inteligencia artificial (IA), parece ser el siguiente gran paso para las campañas de infodemia o desinformación en el mundo digital permitiendo la manipulación digital de rasgos físicos y voz para decir o hacer cosas que en realidad nunca sucedieron. 

Las noticias falsas se han multiplicado y han logrado tener impacto en la opinión pública en casi cualquier tema desde la desinformación generada por supuestas curas milagrosas ante la pandemia del Covid 19, el falso video del expresidente estadounidense Donald Trump hablando mandarín, o el​ anunció de la rendición de Ucrania ante conflicto contra Rusia anunciada por el presidente Volodímir Zelenski.

La desinformación cada vez se vuelve más difícil de detectar con softwares  y aplicaciones que se vuelven más sofisticados cada día y al alcance de cualquier persona con acceso a internet y un dispositivo móvil. Atrás han quedado los burdos intentos de fakenews con fotomontaje en imágenes o videos, dando paso a nuevas formas de manipulación, aunque el objetivo infodémico de incidir en las emociones, los miedos, y los prejuicios de las personas sigue siendo el mismo.

¿Qué es y cómo se hace un Deepfake?

El término “deepfake” es una combinación de “aprendizaje profundo” y “falso”. Y está relacionado directamente a la tecnología de inteligencia artificial en la creación de videos de contenido fraudulento, a veces de naturaleza pornográfica, que es virtualmente indetectable. 

Para lograr que la  IA entre en acción, una de las herramientas que ha ido ganando popularidad desde 2017 para la creación de videos hiperrealistas es Fakeapp. La aplicación permite recopilar y analizar ciento de imágenes o videos de cualquier persona para luego identificar patrones y similitudes para después hacer un híbrido que puede mezclar los rasgos faciales de dos personas o incluso hacerse pasar por otra persona de forma casi indetectable como describe el periodista Kevin Roose en el New York Times.

Volodímir Zelenski, Presidente de Ucrania rindiéndose ante Rusia, el primer “deepfake utilizado en un conflicto armado".

El software de IA ha permitido la manipulación digital como fue la viralización del falso video del presidente ucraniano Volodímir Zelenski pidiendo a la población y a sus tropas la rendición a la invasión rusa que obligó al propio presidente a desmentir mediante redes sociales, el video asegurando es "la última provocación infantil con el consejo de deponer las armas, yo aconsejo que las tropas de la Federación Rusa depongan sus armas y regresen a casa", y añade: "Estamos en casa y defendiendo a Ucrania".

En el videomontaje se observa al presidente de Ucrania vistiendo una camiseta militar, como acostumbra a llevar desde que se inició el conflicto, y detrás de un atril realizar el supuesto discurso donde afirma que ha decidido devolver Donbas a Rusia y que los esfuerzos de la nación en la guerra han fracasado. 

Sin embargo, el software de IA permite difuminar la línea entre la realidad y la ficción, en una revisión más acuciosa permite detectar ciertos detalles como una voz más grave de lo normal y su cara borrosa con un tamaño algo desproporcionado para el resto del cuerpo que si se ve con claridad, lo que delata el uso de tecnología para cambiar el discurso del presidente con tecnología.

Aunque este tipo de falsificaciones están prohibidas en Facebook desde 2020, lo cierto es que es las “deepfake” se han ido convirtiendo en una herramienta de infodemia, logrando mayor calidad y en un nuevo paradigma de desinformación.