Por Hany Farid(*), CEO de la plataforma de verificación de imágenes Truepic y asesor de Fast Company
Aunque las elecciones presidenciales de Estados Unidos hayan pasado, podemos esperar que la información visual errónea continúe apareciendo y rasgando nuestro tejido social.
En las últimas semanas de la campaña presidencial hemos visto un video manipulado de Joe Biden saludando supuestamente al estado equivocado, e imágenes alteradas de celebridades prominentes que supuestamente usaban sombreros de “Trump 2020”. Aunque estos esfuerzos finalmente fueron desacreditados, atrajeron la atención nacional y fueron vistos por cientos de miles de potenciales votantes. Está claro que los medios generados por IA se están utilizando como arma para amplificar el contenido engañoso y polarizar nuestra sociedad.
A medida que aumenta el contenido manipulado en el panorama online, nuestra confianza en todo se erosiona. Un video del presidente Trump, grabado poco después de su hospitalización debido al COVID-19, fue recibido con locas especulaciones de que fue manipulado. De manera similar, algunos afirmaron que el video del asesinato de George Floyd era falso, y una estratagema para incitar disturbios civiles. Si se puede manipular algo, entonces se puede argumentar que todo es falso, y perdemos la capacidad de estar de acuerdo incluso en los hechos más básicos. Este fenómeno engañoso, conocido como el “dividendo del mentiroso” (Liar’s Dividend), se ha utilizado para socavar la realidad en zonas de conflicto como Siria, pero también a nivel nacional en Estados Unidos.
Las empresas más grandes y dominantes en la industria tecnológica tienen un papel fundamental para contrarrestar esta peligrosa tendencia. Como fuente de noticias importante para miles de millones de personas en todo el mundo, estas empresas tienen la responsabilidad de crear mecanismos apolíticos e imparciales para ayudar a establecer un registro de verdad visual de común acuerdo. Hasta ahora, Google, Facebook, Twitter y otros no lo han logrado. Es hora de que cambien de rumbo y dediquen el esfuerzo, la energía y los fondos necesarios para hacer de la verdad una prioridad igual a las ganancias.
Las últimas dos décadas han visto un progreso significativo en el desarrollo de técnicas para autenticar contenido visual. Pero todavía no son lo suficientemente precisos o rápidos para hacer frente a la avalancha de contenido digital que se carga todos los días: más de 500 horas en YouTube cada minuto, más de 14 millones de imágenes en Facebook cada hora, y más de 500 millones de tuits al día. A pesar de los importantes esfuerzos de investigación en todos los niveles del sector privado, la academia y el gobierno, incluso las proyecciones más optimistas nos alejan años de poder autenticar contenido de manera confiable y precisa a la escala y velocidad necesarias.
Hay otra forma de abordar el problema: la captura basada en la procedencia, que da la vuelta al problema de la autenticación, y pide a la cámara que autentique las imágenes y los videos en el punto de grabación. Esta tecnología, con la que Truepic fue pionera en 2015, pero que también está siendo desarrollada y ampliada por empresas como Serelay, Adobe, Microsoft y otros, es viable y ya está disponible. Creemos que es el único enfoque escalable a largo plazo para hacer frente a la erosión de la confianza en lo que vemos y escuchamos online.
Una solución de procedencia implanta una firma digital (piensen en ella como una huella digital única) en una foto en el momento de su creación. La firma, adjunta de manera inmutable durante todo el ciclo de vida de la foto, aumenta la confianza de la persona que ve el contenido al ofrecer información de alta integridad (fecha, hora, ubicación y contenido a nivel de píxel) que está matemáticamente garantizado que no se modificará. Esto tiene un enorme beneficio para cualquiera que tome una decisión basada en el contenido visual, ya sea alguien que esté considerando una compra online, o que el Consejo de Seguridad de la ONU aborde imágenes de una zona de conflicto.
Hasta ahora, las capturas de audio, imágenes y video basada en la procedencia solo estaba disponible a través de aplicaciones que los usuarios de teléfonos inteligentes tenían que descargar y recordar usar. Esto obstaculizó el alcance de la tecnología y limitó su seguridad. Sin embargo, un reciente avance de ingeniería de los ingenieros de Truepic que trabajan en el chipset Snapdragon de Qualcomm, ahora permite que la tecnología de autenticación de imágenes se integre directamente en el hardware del teléfono. Esto significa que los fabricantes de smartphones tendrán la capacidad de proporcionar una funcionalidad segura de captura de imágenes y video en las cámaras que la gente usa a diario, lo que permitirá a miles de millones de personas difundir información autenticada.
El avance se produce al mismo tiempo que varias iniciativas, respaldadas por grandes empresas de tecnología, han ayudado a estandarizar formatos de imagen y video confiables, de modo que se puedan ver y comprender en cualquier servicio online. En resumen, ahora existe un método viable para que cualquier persona en el mundo capture y comparta la verdad visual. Esto tiene el potencial de revolucionar la forma en que las personas se comunican.
Sin embargo, para que esta tecnología tenga éxito, deberá integrarse en nuestra experiencia online desde el punto de captura hasta la distribución y el consumo. El tercer paso, el consumo, es posiblemente el más importante. Es hora de las gigantes tecnológicas den un paso adelante y se aseguren que las plataformas de redes sociales, navegadores web y otros canales de contenido reconozcan y muestren estas imágenes con procedencia verificada.
Las redes sociales no tienen por qué ser el árbitro de la verdad: pueden apoyarse en este modelo para ayudar a los usuarios a tomar decisiones más informadas sobre los medios que consumen. Tanto las redes sociales como los principales medios de comunicación pueden, sin temor a sesgos, priorizar y promover la información incorporada con datos autenticados. Y el gobierno de Estados Unidos puede hacer que la gente recupere la confianza, al exigir que todos los medios oficiales del gobierno de EE. UU. se graben con tecnología de captura basada en la procedencia.
La desinformación y el uso malicioso de medios generados por IA es, por supuesto, un problema que no será resuelto solo por los tecnólogos. Es un problema muy humano. Sin embargo, este avance representa una herramienta importante que, con el tiempo, puede ayudar a empoderar al mundo para restaurar un sentido compartido de la realidad en los medios digitales. La única pregunta ahora es si las plataformas de redes sociales, los gobiernos, los académicos y otros respaldarán la tecnología basada en la procedencia, y ayudarán a construir la infraestructura necesaria para restaurar la confianza, tanto online como fuera de ella.
*Hany Farid es profesor de Ingeniería Eléctrica y Ciencias de la Computación y Escuela de Información en la Universidad de California, Berkeley, y asesor de Truepic.
