Lo que empezó en el porno y siguió en el entretenimiento, llegó para quedarse al mundo de las operaciones políticas más sucias
Estos días apareció en las redes un vídeo en el que Volodímir Zelenski pedía a las tropas ucranianas que depusieran las armas. Afirmaba que había decidido devolver Donbas a Rusia y que los esfuerzos de Ucrania en la guerra fracasaron. Era falso.
El clip también se publicó en Telegram y en la red social rusa VKontakte. El canal de televisión Ucrania 24 dijo que los piratas informáticos habían hackeado el ticker de su informativo, insertando un resumen de la noticia falsa en el cronograma de una emisión.
Minutos después de que el canal de televisión difundiera el hackeo, el propio Zelensky publicó un vídeo en Facebook en el que negaba haber pedido a los ucranianos que se rindieran y calificaba la falsedad de «provocación infantil». Nathaniel Gleicher, responsable de la política de seguridad de Meta, propietaria de Facebook, tuiteó que la compañía había eliminado el clip original de deepfake por violar su política contra los medios manipulados engañosos. Twitter y YouTube también lo bajaron.
A deepfake of Ukrainian President Volodymyr Zelensky calling on his soldiers to lay down their weapons was reportedly uploaded to a hacked Ukrainian news website today, per @Shayan86 pic.twitter.com/tXLrYECGY4
— Mikael Thalen (@MikaelThalen) March 16, 2022
Para los niveles tecnológicos actuales, el deepfake de Zelensky es mediocre: el cuerpo está inmóvil, la voz no es similar, se nota que la cara está insertada. Sobre todo si se lo compara con ejemplos actuales como el falso Tom Cruise de TikTok
@deeptomcruise Making real music again!
Sí, entendieron bien, no es Tom Cruise: se le implantó a un actor la cara del protagonista de Top Gun. Ya hay decenas de ejemplos alucinantes en los que es imposible distinguir al deepfake del original: este video de un Paul McCartney rejuvenecido, Keanu Reeves parando un asalto y hasta un Guillermo Francella sustituyendo a Rambo
Pero pese al amateurismo del falso Zelensky y la rápida respuesta del involucrado y las redes donde se subió, logró engañar durante un tiempo a bastante gente, a punto tal que Wired lo describió como «el primer uso de deepfakes como arma durante una guerra» ¿Qué hubiera pasado ante un protagonista de menos poder, un conflicto menos relevante o un deepfake más convincente? Habría logrado su objetivo: engañar.
Inicialmente los deepfakes se usaban en videos porno para reemplazar los rostros de pornstars por los de celebridades de Hollywood. De hecho, el 96% de los deepfakes online son sexuales. Pero tras su blanqueo en el show business, los ciudadanos debemos estar preparados para atajar los engaños que se vienen este año en el mundo de la política.
A la falsa rendición de Zelensky se le suma un video manipulado de Putin contra Lopez Obrador, anunciando la paz, y haciendo «travesuras en TikTok». Alarmado ante el uso político de la herramienta, el profesional Bruno Sartori creó un deepfake de Lula abriendo un pote de dulce para crear conciencia
Esse vídeo pode passar como real pra muita gente. Usei deepfake pra inserir o rosto de Lula e transferir o timbre de voz dele pra fala original: é um computador falando. Precisamos ficar alerta neste ano eleitoral, pois, conteúdos com intuito de enganar podem aparecer. pic.twitter.com/4XhYl3mN2f
— Bruno Sartori (@brunnosarttori) February 24, 2022
no solo el rostro, la voz de Lula también fue sintetizada por computadora, como pasó con Anthony Bourdain participando postmortem de su documental. Deepdub, se llama la técnica.
Mientras en Argentina se debate en la Corte Suprema el derecho a quitar nuestra historia personal pasada de la web, el mundo se asoma a un dilema legal aun mayor: impedir, deepfakes madiante, una versión falsa de nuestra persona, indistinguible de la original. Esto se agrava con figuras públicas, especialmente políticos y funcionarios. «Indistinguible» no es una exageración: estudios demuestran que diferenciamos un deepfake de un video verdadero de la misma persona en el 48,2% de las ocasiones, un porcentaje cercano al acierto del lanzamiento de una moneda a cara o ceca.
En Texas han establecido leyes contra manipulaciones con deepfake que tengan por objetivo alterar las elecciones. California también aprobó una ley que prohibirá la publicación y distribución de vídeos manipulados durante el periodo de campaña electoral.
Una legislación posible debería «garantizar que estas manipulaciones no adulteran los procesos electorales, ni manipulan la opinión de la población». Contemplando además que no es lo mismo crearlos con la voluntad de engañar y causar daños, que producir contenidos paródicos, terreno de la libertad de creación artística.
Hasta que la ley se ponga al día (¿años?) preparémonos para que los políticos nos sorprendan con declaraciones sorprendentes, autoincriminaciones, injurias a sus rivales y, por qué no, candidateándose a algo desde una escena de «Rambo».
