jueves 30 de mayo de 2024
Lo mejor de los medios

Las imágenes generadas por Inteligencia Artificial se convirtieron en el nuevo spam de las redes sociales

Si pasaste tiempo en Facebook en los últimos seis meses, es posible que hayas visto imágenes fotorrealistas que son demasiado buenas para ser verdad: niños sosteniendo cuadros que parecen obra de artistas profesionales, o majestuosos interiores de cabañas de madera que son el material de los sueños de Airbnb.

Otras, como las representaciones de Jesús hechas con crustáceos, son simplemente extrañas.

Al igual que la imagen artificial del Papa con un camperón blanco que se hizo viral en mayo de 2023, estas imágenes generadas por inteligencia artificial son cada vez más frecuentes -y populares- en las redes sociales. Aunque muchas de ellas rozan lo surrealista, a menudo se utilizan para captar la atención de los usuarios.

Un equipo de investigadores del Observatorio de Internet de Stanford y del Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown investigó más de 100 páginas de Facebook que publicaban grandes volúmenes de contenido generado por IA.

El equipo exploró patrones de imágenes, descubrió indicios de coordinación entre algunas de las páginas y trató de discernir los posibles objetivos de quienes las publicaban.

Los administradores de las páginas parecían publicar imágenes de bebés, cocinas o tartas de cumpleaños generadas por inteligencia artificial por diversos motivos.

Había creadores de contenidos que buscaban inocentemente aumentar su número de seguidores con contenidos sintéticos; estafadores que utilizaban páginas robadas a pequeñas empresas para anunciar productos que no parecen existir; y spammers que comparten imágenes de animales generadas por inteligencia artificial mientras remiten a los usuarios a sitios web llenos de anuncios, lo que permite a los propietarios recaudar ingresos publicitarios sin crear contenidos de alta calidad.

Los hallazgos sugieren que estas imágenes generadas por la IA atraen a los usuarios, y que el algoritmo de recomendación de Facebook puede estar promoviendo orgánicamente estas publicaciones.

Los spammers y estafadores de Internet no son nada nuevo. Llevan más de dos décadas utilizando el correo electrónico masivo no solicitado para promover estafas piramidales.

En las redes sociales, los especuladores han utilizado artículos de cebo para conducir a los usuarios a sitios web cargados de publicidad. Recordemos las elecciones presidenciales de 2016 en Estados Unidos, cuando unos adolescentes macedonios compartieron memes políticos sensacionalistas en Facebook y obtuvieron ingresos publicitarios cuando los usuarios visitaron las URL que publicaron. A los adolescentes no les importaba quién ganara las elecciones. Sólo querían ganar dinero.

A principios de la década de 2010, los spammers captaron la atención de la gente con anuncios que prometían que cualquiera podía perder grasa abdominal o aprender un nuevo idioma con «un truco raro».

El contenido generado por IA se ha convertido en otro «truco raro». Es visualmente atractivo y barato de producir, lo que permite a estafadores y spammers generar grandes volúmenes de publicaciones atractivas. Algunas de las páginas observadas subían docenas de imágenes únicas al día. Al hacerlo, seguían los propios consejos de Meta para los creadores de páginas. Publicar con frecuencia, sugiere la empresa, ayuda a los creadores a conseguir el tipo de captación algorítmica que hace que su contenido aparezca en el «Feed», antes conocido como «News Feed».

Muchos usuarios reaccionan dando «me gusta» a la publicación o dejando un comentario. Esto indica a los curadores algorítmicos que tal vez el contenido debería llegar a los feeds de aún más gente.

Algunos de los spammers más experimentados, probablemente conscientes de ello, mejoraron su participación pasando de publicar URL a publicar imágenes generadas por inteligencia artificial. A continuación, comentaban la publicación de las imágenes generadas por IA con las URL de las granjas de contenido cargadas de anuncios en las que querían que los usuarios hicieran clic.

La investigación alteró notablemente los propios feeds de Facebook de los investigadores: a los pocos días de visitar las páginas, y sin comentar, dar a me gusta o seguir ningún material, el algoritmo de Facebook les empezó a recomendar montones de contenidos generados por inteligencia artificial.

Curiosamente, el hecho de haber visto grupos de, por ejemplo, páginas de vacas en miniatura generadas por la IA no provocó un aumento a corto plazo de las recomendaciones de páginas centradas en vacas en miniatura reales, vacas de tamaño normal u otros animales de granja. Más bien, el algoritmo recomendaba páginas sobre una amplia gama de temas, pero con una cosa en común: todas contenían imágenes generadas por IA.

En 2022, el sitio web de tecnología The Verge detalló un documento interno de Facebook sobre los cambios propuestos en el algoritmo de la compañía.

Según el memorándum, el algoritmo se convertiría en un «motor de descubrimiento» que permitiría a los usuarios entrar en contacto con publicaciones de personas y páginas que no habían buscado explícitamente, algo parecido a la página «Para ti» de TikTok.

Los investigadores analizaron los informes de contenidos más vistos de Facebook, que enumeran los contenidos, dominios, enlaces, páginas y publicaciones más populares de la plataforma por trimestre.

El análisis mostró que la proporción de contenido que los usuarios vieron de páginas y personas a las que no siguen aumentó constantemente entre 2021 y 2023. Los cambios en el algoritmo han dejado más espacio para que el contenido generado por IA se recomiende orgánicamente.

Dado que actualmente Meta no marca por defecto el contenido generado por IA, a veces se observa a los usuarios advirtiendo a otros sobre estafas o contenido spam de IA con infografías.

Meta, sin embargo, parece ser consciente de los problemas potenciales si el contenido generado por IA se mezcla en el entorno de la información. La compañía ha publicado varios anuncios sobre cómo planea tratar los contenidos generados por IA.

En mayo de 2024, Facebook empezará a aplicar la etiqueta «Hecho con IA» a los contenidos que pueda detectar de forma fiable como sintéticos.

Pero el problema está en los detalles. ¿Cuál será la precisión de los modelos de detección? ¿Qué contenidos generados con IA se colarán? ¿Qué contenidos se marcarán indebidamente? ¿Y qué pensará el público de esas etiquetas?

Las plataformas de redes sociales tendrán que considerar cómo tratar los contenidos generados por IA; es posible que la participación de los usuarios disminuya si los mundos en línea se llenan de mensajes, imágenes y vídeos generados artificialmente.

Vía

Lo último