jueves 27 de enero de 2022
Cursos de periodismo

Adelanto de «La era del capitalismo de la vigilancia», de Shoshana Zuboff

En esta obra magistral por la originalidad de las ideas y las investigaciones en ella expuestas, Shoshana Zuboff nos revela el alarmante fenómeno denominado «capitalismo de la vigilancia», desde su foco de origen en Silicon Valley hacia todos los sectores de la economía.

A continuación un fragmento, a modo de adelanto:

Réquiem por un hogar
En 2000, un grupo de informáticos e ingenieros del Instituto Tecnológico de Georgia (Georgia Tech) colaboraron en un proyecto llamado Aware Home (Hogar Consciente). Se trataba de crear un «laboratorio vivo» para el estudio de la llamada computación ubicua. Para ello, imaginaron una «simbiosis humano-hogar» en la que múltiples procesos animados e inanimados fueran captados por una elaborada red de «sensores conscientes del contexto», integrados en la casa y en unas pequeñas computadoras que los ocupantes de aquel hogar pudieran llevar puesta (tecnología vestible o wearable) en todo momento. El plan así diseñado obligaba a una «colaboración inalámbrica automatizada» entre la plataforma en la que se alojaba la información personal obtenida de los dispositivos móviles de los ocupantes de la casa y una segunda plataforma en la que se alojaba la información ambiental extraída de los sensores.

Tres eran los supuestos de trabajo de aquel experimento. En primer lugar, los científicos y los ingenieros entendían que los nuevos sistemas de datos producirían un ámbito de conocimiento totalmente novedoso. En segundo lugar, se asumió que los derechos sobre ese nuevo conocimiento y el poder de usarlo para mejorar la propia vida pertenecían exclusivamente a las personas que vivían en la casa. En tercer lugar, el equipo dio por sentado que, pese a tanta maravilla técnica digital como allí había, Aware Home no sería más que una encarnación modernizada de las convenciones ancestrales que conciben el «hogar» como el lugar de asilo privado donde se refugian quienes se recogen entre sus paredes.

Todo esto se expresó tal cual en el plan de ingeniería. Allí se puso el énfasis en la confianza, la simplicidad, la soberanía del individuo y la inviolabilidad del hogar como ámbito privado. El sistema de información de Aware Home se concebía como un simple «bucle cerrado» de dos nodos únicamente y controlado por completo por los ocupantes de la casa. Dado que esta estaría «monitorizando constantemente la localización y las actividades de los ocupantes […], e incluso rastreando las condiciones médicas de sus habitantes», el equipo concluyó que había «una necesidad muy clara de dar a los ocupantes el conocimiento y el control sobre la distribución de esta información». Todos los datos tendrían que almacenarse en las computadoras portátiles de los ocupantes «para garantizar la privacidad de la información de cada individuo».

En 2018, se calcula que el volumen de negocio del mercado mundial de los «hogares inteligentes» asciende a unos 36.000 millones de dólares y se prevé que alcance los 151.000 millones para 2023. Las cifras ocultan el verdadero terremoto que se está produciendo bajo su superficie. Pensemos en solo uno de los dispositivos típicos de un hogar inteligente: el termostato Nest, fabricado por una empresa que era propiedad de Alphabet, la compañía matriz de Google, que terminó fusionándose con la propia Google en 2018. El termostato Nest hace muchas de las cosas que se imaginaron en aquel Aware Home. Recoge datos sobre su uso y su entorno. Utiliza sensores de movimiento y computación para «aprender» los comportamientos de los habitantes de una casa. Las aplicaciones de Nest pueden recabar datos de otros productos conectados, como automóviles, hornos, pulseras de actividad deportiva y camas. Esos sistemas pueden activar luces, por ejemplo, si se detecta un movimiento anómalo, indicar que se grabe en video y en audio lo que está ocurriendo, e incluso enviar notificaciones a los propietarios o a otras personas. Ahora, y como consecuencia de la fusión con Google, el termostato, al igual que otros productos de Nest, se fabricará incorporando funciones de inteligencia artificial de Google, incluido su «asistente» digital personal. Como el Aware Home en su día, el termostato y sus dispositivos hermanos generan inmensas provisiones nuevas de conocimiento y, por consiguiente, de poder… Pero ¿para quién?

Cuando está conectado por wifi y en red, los intrincados almacenes de datos personalizados del termostato se suben a los servidores de Google. Cada termostato viene con su «política de privacidad», su «acuerdo de términos de servicio» y su «acuerdo de licencia para el usuario final».

Dichos documentos revelan consecuencias opresivas en materia de privacidad y seguridad, pues permiten que se comparta información familiar y personal sensible con otros dispositivos inteligentes, con personal anónimo y con terceros a efectos de análisis predictivos y de su venta a otras partes no especificadas. Nest apenas se responsabiliza de la seguridad de la información que recopila y no asume responsabilidad alguna por el uso que las otras empresas de su ecosistema den a esos datos.9 Según un análisis detallado de las políticas de Nest realizado por dos expertos de la Universidad de Londres, si el comprador de un simple termostato doméstico se propusiera introducirse en el ecosistema de dispositivos y aplicaciones conectadas de Nest para revisar sus correspondientes (farragosos e impudentes) términos, tendría que leer cerca de mil de esos mal llamados «contratos».

Si el cliente se negara a aceptar las estipulaciones de Nest, los términos del servicio indican que la funcionalidad y la seguridad del termostato se verían seriamente comprometidas y se interrumpirían entonces las actualizaciones necesarias para garantizar el funcionamiento fiable y seguro del aparato. Las consecuencias de tal interrupción podrían ir desde la congelación de tuberías hasta fallos en los detectores de humos, sin olvidar una mayor facilidad para hackear el sistema domótico interno.

En 2018, ya habían desaparecido, pues, los antiguos supuestos de partida del proyecto Aware Home, arrastrados por la corriente. ¿Arrastrados adónde? ¿Qué corriente había sido esa? Aware Home, como otros muchos proyectos visionarios, imaginaba un futuro digital que empoderaría a los individuos, facultándolos para vivir unas vidas más eficaces. Lo más importante es que, en el año 2000, aquella imagen de futuro presuponía (como lo más natural del mundo) un compromiso inquebrantable con la privacidad de las experiencias individuales. Si un individuo optaba por transmitir su experiencia digitalmente, seguiría ejerciendo derechos exclusivos sobre los conocimientos reunidos a partir de esos datos, así como derechos exclusivos también para decidir qué uso dar a tales conocimientos. En la actualidad, ese derecho a la privacidad, a los conocimientos y a la aplicación de estos ha sido usurpado por una audaz aventura de mercado propulsada por la atribución unilateral de un presunto derecho a disponer de las experiencias de otras personas y del conocimiento que se deriva de tales experiencias. ¿Qué supone este cambio fundamental para nosotros, para nuestros hijos, para nuestras democracias y para la posibilidad misma de que exista un futuro humano en un mundo digital? El presente libro trata de responder a esas preguntas. Su tema es el ensombrecimiento del sueño digital y su vertiginosa mutación en un proyecto comercial voraz y absolutamente novedoso al que yo llamo capitalismo de la vigilancia.

¿Qué es el capitalismo de la vigilancia?

El capitalismo de la vigilancia reclama unilateralmente para sí la experiencia humana, entendiéndola como una materia prima gratuita que pue- de traducir en datos de comportamiento. Aunque algunos de dichos datos se utilizan para mejorar productos o servicios, el resto es considerado como un excedente conductual privativo («propiedad») de las propias empresas capitalistas de la vigilancia y se usa como insumo de procesos avanzados de producción conocidos como inteligencia de máquinas, con los que se fabrican productos predictivos que prevén lo que cualquiera de ustedes hará ahora, en breve y más adelante. Por último, estos productos predictivos son comprados y vendidos en un nuevo tipo de mercado de predicciones de comportamientos que yo denomino mercados de futuros conductuales. Los capitalistas de la vigilancia se han enriquecido inmensamente con esas operaciones comerciales, pues son muchas las empresas ansiosas por apostar sobre nuestro comportamiento futuro.

La dinámica competitiva de estos nuevos mercados impulsa a los capitalistas de la vigilancia a adquirir fuentes de excedente conductual cada vez más predictivas: desde nuestras voces hasta nuestras personalidades y nuestras emociones incluso. Con el tiempo, los capitalistas de la vigilancia descubrieron que los datos conductuales más predictivos se obtienen interviniendo en la marcha misma de las cosas para empujar a, persuadir de, afinar y estimular ciertos comportamientos a fin de dirigirlos hacia unos resultados rentables. Fueron las presiones competitivas las que produjeron este cambio: ahora los procesos automatizados llevados a cabo por máquinas no solo conocen nuestra conducta, sino que también moldean nuestros comportamientos en igual medida. A partir de esa reorientación desde el conocimiento hacia el poder, ya no basta con automatizar los flujos de información referida a nosotros, el objetivo ahora es automatizarnos (a nosotros mismos). En esta fase de la evolución del capitalismo de la vigilancia, los medios de producción están supeditados a unos cada vez más complejos y exhaustivos «medios de modificación conductual». De ese modo, el capitalismo de la vigilancia da a luz a una nueva especie de poder que yo llamo instrumentarismo. El poder instrumentario conoce el comportamiento humano y le da forma, orientándolo hacia los fines de otros. En vez de desplegar armamentos y ejércitos, obra su voluntad a través del medio ambiente automatizado conformado por una arquitectura informática cada vez más ubicua de dispositivos «inteligentes», cosas y espacios conectados en red.

[…]

El capitalismo de la vigilancia sigue la tendencia contraria a la del sueño digital original y convierte proyectos como Aware Home en poco menos que historia antigua ya olvidada. Desnuda el formato de red de todo presunto (e ilusorio) ropaje moral intrínseco: desmiente que estar «conectados» sea algo inherentemente prosocial o inclusivo por naturaleza, o automáticamente tendente a la democratización del conocimiento.

La conexión digital es hoy un medio para satisfacer los fines comerciales de otros. En su fundamento mismo, el capitalismo de la vigilancia es parasítico y autorreferencial. Resucita aquella vieja metáfora de Karl Marx, que retrató el capitalismo como un vampiro que se alimenta del trabajador, pero le da un giro inesperado: en lugar de los trabajadores, la fuente de alimento del capitalismo de la vigilancia es cualquier aspecto de la experiencia de cualquier ser humano.

Google inventó y perfeccionó el capitalismo de la vigilancia en un sentido muy similar a como General Motors inventó y perfeccionó el capitalismo gerencial hace un siglo. Google fue la pionera tanto intelectual como práctica del capitalismo de la vigilancia; fue quien sufragó su investigación y su desarrollo; y fue la que abrió camino con su experimentación y su implementación. Pero ya no es el único agente embarcado en esa misión. El capitalismo de la vigilancia se extendió con rapidez a Facebook y, más tarde, a Microsoft. Los datos indican que Amazon también ha dado un giro en esa dirección, y que esa vía representa asimismo un desafío constante para Apple por ser tanto una amenaza externa como una fuente de debate y conflicto interno.

Como pionera del capitalismo de la vigilancia que fue en su momento, Google se lanzó en una operación comercial sin precedentes hacia los espacios inexplorados de internet, donde halló pocos obstáculos en forma de impedimentos legales o de competidores: fue como una especie invasora en un paisaje sin depredadores naturales. Los directivos de la empresa impulsaron la coherencia sistémica entre sus diversos negocios a un ritmo tan vertiginoso que ni las instituciones públicas ni los particulares fueron capaces de seguirlo. Google también se benefició de ciertos acontecimientos históricos, como cuando todo un sistema de seguridad nacional, movido a actuar por los atentados del 11S, sintió la necesidad de alimentar, imitar, cobijar y hasta hacer suyas las funciones emergentes del capitalismo de la vigilancia, en aras del conocimiento total y de la certeza que ese conocimiento le prometía otorgar.

Los capitalistas de la vigilancia enseguida se dieron cuenta de que podían hacer lo que quisieran, y lo hicieron. Se arroparon con la bandera de la defensa de un ideal social y de la emancipación, y apelaron así a las angustias e inquietudes contemporáneas (y sacaron partido de ellas), al tiempo que ocultaban entre bastidores su actuación real. Se cubrieron con un manto de invisibilidad tejido a partes iguales con los hilos de la retórica del papel empoderador de la web, la capacidad para moverse con rapidez, la seguridad de que todo esto les reportaría abundantes torrentes de ingresos, y el carácter salvaje, todavía por definir, del territorio que estaban a punto de conquistar y reclamar para sí. Actuaban protegidos por la ilegibilidad intrínseca de los procesos automatizados que están bajo su dominio, por la ignorancia a propósito de lo que tales procesos podrían engendrar, así como por la sensación de inevitabilidad que estos propician.

El capitalismo de la vigilancia ya no se circunscribe solamente a los dramas competitivos escenificados por las grandes compañías de internet, cuyos mercados de futuros conductuales estaban inicialmente enfocados hacia la publicidad en la red. Hoy, sus mecanismos y sus imperativos económicos se han convertido en el modelo por defecto de la mayoría de los negocios basados en internet. Al final, la presión competitiva impulsó la expansión de ese modelo hacia el mundo offline, el que no está en línea: ahora es en nuestra vida cotidiana —en el parque, en la conversación del desayuno o cuando buscamos un sitio donde estacionar, por ejemplo— donde los citados mecanismos fundamentales nos expropian nuestra navegación en línea, nuestros «me gusta» y nuestros clics. Los productos de predicción actuales se comercian en mercados de futuros conductuales que se extienden más allá de los anuncios dirigidos en la red y abarcan ahora otros muchos sectores, como los seguros, el comercio minorista, las finanzas y un elenco creciente de compañías de bienes y servicios decididas a participar de estos nuevos (y rentables) mercados. Tanto si se trata de un dispositivo doméstico «inteligente», o de aquello que las asegurado- ras llaman «seguro conductual», o de miles de transacciones posibles más, ahora pagamos por ser dominados.

Los productos y servicios del capitalismo de la vigilancia no son los objetos de un intercambio de valor. No establecen unas reciprocidades constructivas entre productor y consumidor. Son, más bien, los «ganchos» que atraen a los usuarios hacia unas operaciones extractivas en las que se rebañan y se empaquetan nuestras experiencias personales para convertirlas en medios para los fines de otros. No somos «clientes» del capitalismo de la vigilancia. Y aunque el dicho habitual rece que «cuando el producto es gratis, el producto eres tú», tampoco esa es la forma correcta de verlo. Somos las fuentes del excedente crucial del que se alimenta el capitalismo de la vigilancia: los objetos de una operación tecnológicamente avanzada de extracción de materia prima a la que resulta cada vez más difícil escapar. Los verdaderos clientes del capitalismo de la vigilancia son las empresas que comercian en los mercados que este tiene organizados acerca de nuestros comportamientos futuros.

Esta lógica convierte la vida corriente en una renovación cotidiana de una especie de pacto fáustico del siglo XXI. «Fáustico», porque nos resulta casi imposible sustraernos de él, aun a pesar de que lo que debemos dar a cambio destruirá la vida tal como la habíamos conocido. Pensemos, si no, en que internet se ha convertido en esencial para la participación social, en que ahora está saturada de comercio, y en que el comercio está actualmente supeditado al capitalismo de la vigilancia. Nuestra dependencia es un elemento básico del proyecto de la vigilancia comercial, en el que las necesidades que sentimos de aumentar la eficacia en nuestra vida compiten con nuestra inclinación a resistirnos a tan osadas incursiones por parte de aquel. Este conflicto produce un entumecimiento psíquico que nos habitúa a la realidad de ser monitorizados, analizados, explotados como minas de datos y modificados. Nos predispone a racionalizar la situación con resignado cinismo y a crear excusas que funcionan como mecanismos de defensa («tampoco tengo nada que ocultar»), cuando no hallamos otras formas de esconder la cabeza y optar por la ignorancia para afrontar la frustración y la impotencia. Por esa vía, el capitalismo de la vigilancia nos impone una decisión fundamentalmente ilegítima que los individuos del siglo XXI no deberíamos tener que tomar, y cuya normalización hace que, finalmente, no solo estemos encadenados, sino que también vivamos contentos de estarlo.

El capitalismo de la vigilancia actúa por medio de unas asimetrías de conocimiento sin precedentes, y del poder que se acumula con ese conocimiento. Los capitalistas de la vigilancia lo saben todo sobre nosotros, pero sus actividades están diseñadas como lo están para que no puedan ser conocidas por nosotros. Acumulan montañas ingentes de nuevos conocimientos extraídos de nosotros, pero no para nosotros. Predicen nuestros futuros para el beneficio de otros, no para el nuestro. Permitiendo que prosperen el capitalismo de la vigilancia y sus mercados de futuros conductuales, permitimos también que la propiedad de los nuevos medios de modificación conductual eclipse en importancia a la propiedad de los medios de producción como principal fuente de riqueza y poder capitalista en el siglo XXI.

La era del capitalismo de la vigilancia - La lucha por un futuro humano frente a las nuevas fronteras del poder
El primer examen detallado de una forma de poder sin precedentes llamada 'capitalismo de la vigilancia', el afán de unas poderosas corporaciones empresariales por predecir y controlar nuestro comportamiento.
Publicada por: Paidós
Fecha de publicación: 12/01/2021
Edición: 1a
ISBN: 978-950-12-0372-1
Disponible en: Libro de bolsillo

Contenido Premium

- Publicidad -

Lo último