The Age of Surveillance Capitalism de Shoshana Zuboff es actualmente la obra de referencia cuando se habla de la gran máquina de explotar datos creada alrededor de Google y Facebook. Publicado en 2019, el libro ha sido ampliamente citado en las conversaciones sobre la forma que está adoptando la sociedad digital(izada) del siglo XXI. Espero que tan amplia repercusión se base en una atenta lectura de las casi 700 páginas que integran este volumen. En esta serie de entradas les contaré brevemente de qué va el libro y les diré cuál es mi opinión.
El libro de Shoshana Zuboff, reconocida psicóloga social y socióloga de la Harvard University, nos propone un tour de force sobre todo bidisciplinar donde la autora va y viene de la economía (además de citar a los clásicos – Adam Smith, Karl Marx, Friedrich Hayek, Milton Friedman, Joseph Schumpeter-, toma muchos elementos de la crítica a la ortodoxia de Karl Polanyi) a la psicología (B. F. Skinner) en casi todos los capítulos. A lo largo del texto proliferan las declaraciones de los padres fundadores del capitalismo de vigilancia, incluyendo a empresarios conocidos como Mark Zuckerberg, Larry Page, Serguéi Brin, Eric Schmidt y Bill Gates e investigadores cuya contribución tecnológica ha sido fundamental en las últimas tres décadas de vida digital.
El libro se divide en tres partes de unas 200 páginas cada una. La primera está dedicada al surgimiento del capitalismo de vigilancia, la segunda indaga en su expansión hacia otros ámbitos de la vida social y económica, y la tercera se centra en la consolidación de un poder instrumental que, según Zuboff, no merece otro nombre que el de Big Other, un concepto con evidentes connotaciones orwellianas. Si en un momento el capitalismo de vigilancia pasó del mundo virtual al real (de esto se habla en la segunda parte de libro), ahora estaríamos asistiendo al pasaje hacia el mundo social, un entorno donde toda la sociedad se convierte en objeto de extracción de datos y control.
Primera parte. Los fundamentos del capitalismo de vigilancia
La primera parte del libro está dedicada al surgimiento del surveillance capitalism. Zuboff repasa el nacimiento de Google a finales de los años noventa, esa época gloriosa en que las ciberculturas marcaban el ritmo de las conversaciones en ámbito empresarial y académico, y cada día nacía una start-up que prometía cambiar el mundo a condición de que los inversores le pusieran millones de dólares sobre la mesa. Esta burbuja, como sabemos, explotó en el 2001 y dejó a buena parte de Silicon Valley pedaleando en el aire. Google, el buscador que habían creado un par de estudiantes de Stanford allá por 1997, no era la excepción. Como muchas start-ups, esta empresa había nacido más como desafío computacional que como proyecto empresarial con modelo de negocios incluido.
«Google invented and perfected surveillance capitalism in much the same way that a century ago General Motors invented and perfected managerial capitalism.»
Cuando estalló la burbuja, el search engine de Google era tan exitoso que estaba a punto de superar a Yahoo! en cantidad de búsquedas… pero necesitaban generar más ingresos para evitar la fuga de los inversores. No bastaba con AdWords, el sistema publicitario que habían introducido en 2000: además de explotar mejor los datos de los usuarios que obtenían del buscador, Google debía crear nuevos entornos de interacción para obtener más informaciones de los internautas. Así fue que, en los años siguientes, nacieron decenas de servicios «gratis», desde Gmail hasta Google Maps y Google Books. Había nacido la gran máquina de «chupar» datos de los usuarios. O sea, había nacido el capitalismo de vigilancia. Al poco tiempo se sumaría al festín Facebook con sus propias estrategias, mucho más sofisticadas que las de Google (ver mi post del 2009 «Facebook vs. Google«).
«Ford’s invention revolutionized production. Google’s interventions revolutionized extraction and established surveillance capitalism’s first economic imperative: the extraction imperative.»
Google y Facebook utilizaron muchos datos de sus usuarios para mejorar sus servicios. Pero, además, descubrieron que estaban captando datos aparentemente secundarios o sin valor… ¿Cómo monetizarlos? Aquí Zuboff introduce un concepto nuevo, el de behavioral surplus («excedente de comportamiento«). Estos datos considerados hasta ese momento basura numérica, convenientemente procesados, podían servir para identificar patrones de comportamiento y predecir las acciones de los usuarios. Zuboff hace mucho hincapié en las posibilidades predictivas de la machine intelligence, lo cual tiene obviamente consecuencias culturales, económicas y políticas.
«In this phase of surveillance capitalism’s evolution, the means of production are subordinated to an increasingly complex and comprehensive ‘means of behavioral modification’.»
¿Por qué se pudo desarrollar esta economía de la vigilancia? En esta parte del libro Zuboff recupera la historia del neoliberalismo y relata cómo se impuso una lógica contraria a la intervención estatal que privilegiaba la libertad individual. Las empresas digitales se encontraron con un vacío legal y un paraguas ideológico favorable para dar rienda suelta a sus experimentos socio-computacionales.
En esta primera parte del libro la autora también describe la trama de relaciones que une a las compañías del capitalismo de vigilancia con la National Security Agency, la CIA y otros entes dedicados al espionaje y control político, mientras que analiza paso a paso cómo Google y Facebook van probando nuevas formas de captar datos violando la privacidad de los usuarios. A veces estos experimentos retroceden por las denuncias recibidas o intervenciones de la justicia, pero no tardan en ser reimplementados siguiendo otros caminos. También dedica unos cuantos párrafos a la cooptación de investigadores y laboratorios. Como veremos más adelante, el MIT está en el centro de la mira de Zubbof.
En reiteradas ocasiones la autora insiste en que es errado decir que los usuarios «somos el producto» de los servicios «gratuitos» de Google, Facebook y otras plataformas: nosotros somos la materia prima, la fuente de datos que estas empresas recopilan, procesan, empaquetan y venden en forma de perfiles hiperpersonalizados y predicciones de comportamiento.
«We are the objects from which raw materials are extracted and expropriated for Google’s prediction factories. Predictions about our behaviour are Google’s products, and they are sold to its actual customers but not to us. We are the means to others’ ends.»
Estos paquetes de datos son la mercancía que sale de las «líneas de producción» de Google y Facebook. Según Zuboff, este nuevo modo de producción entierra en el pasado al viejo capitalismo industrial perfeccionado por Ford y General Motors. Estamos frente a una nueva lógica extractiva (de datos) que no tardará en expandirse al resto de las actividades humanas, tal como pasó en su momento con la línea de montaje y la producción en serie.
Antes de pasar a la segunda parte del libro, un par de comentarios que retomaré al final de esta reseña. Para mí, esta primera parte es la más lograda de The Age of Surveillance Capitalism. El relato de Zuboff está muy bien armado y la descripción del surgimiento del capitalismo de vigilancia es muy detallada. Si bien la autora se basa en una serie de investigaciones científicas, buena parte de su relato se alimenta de entrevistas a expertos en data analysis y declaraciones públicas de los referentes de estas empresas (Page, Brin, Zuckerberg, etc.).
Segunda parte. El avance del capitalismo de vigilancia
Si la primera parte del libro está dedicada al surgimiento del capitalismo de vigilancia, en la segunda Zuboff explica cómo la explotación de datos y el mercado de las predicciones se expandió hacia empresas fuera del circuito digital. Desde las primeras páginas de la segunda parte la autora arremete contra el ubiquitous computing, el modelo de las smart cities y la Internet of Things. La interconexión entre dispositivos a través de redes 5G no solo aportará más información personal a la gran industria de los datos: también se convertirá en un potente dispositivo de control social.
Un ejemplo, al cual Zuboff volverá varias veces a lo largo del libro, le sirve para describir el futuro que se vislumbra: se avecina una nueva fase de la captación de datos personales a través de dispositivos hogareños, desde las nuevas interfaces vocales (Alexa, Siri, Cortana, etc.) hasta las aspiradoras-robot como la Roomba, que mapea cuidadosamente el interior de las casas y envía esa información a la casa central. Otro caso: imaginemos que el propietario de un coche comprado a crédito deja de pagar las cuotas mensuales de su vehículo; al detectar la morosidad, el sistema envía un mensaje al coche y este deja de funcionar hasta que el propietario no se ponga al día.
«Pokémon Go was surveillance capitalist’s dream come true, fusing scale, scope, and actuation.»
Según Zuboff ya no se trata solo de captar datos sino de pasar a la acción. Un ejemplo de este pasaje a una «economía de la acción» lo encontramos en Pokemon Go. Durante el verano del 2016 una buena parte del planeta se pasó los días cazando pokemones. Según Zuboff, esta experiencia -auspiciada por Google- fue la puesta a punto de un potente dispositivo de control y acción social. Con la excusa de cazar pokemones, los usuarios podían ser teledirigidos a un local de Starbucks o McDonalds (sistema de «sponsored locations»). Esta «economía de la acción» reaparece en los experimentos sociales que realiza Facebook manipulando el muro de cientos de miles de usuarios, donde se ha llegado incluso a movilizar votantes solo cambiando el «sentimiento» de las noticias que se visualizan en la pantalla.
«Emotional states can be transferred to others via emotional contagion, leading people to experience the same emotions without their awareness. Online messages influence our experience of emotions, which may affect a variety of offline behaviours.»
Para sostener esta parte del libro Zuboff recurre al conductismo radical de B. F. Skinner, el psicólogo que soñaba con la posibilidad de una «ingeniería conductual» basada en una «technology of behaviour«. Después de experimentar varias décadas con palomas, ratas y otros bichos, Skinner desarrolló una sofisticada teoría basada en el «reforzamiento» como base para la manipulación de los sujetos y un mejoramiento de la sociedad vía el aumento de la felicidad. También Marta Peirano menciona al conductismo radical de B. F. Skinner en su libro El enemigo conoce el sistema.
«It is not possible to imagine surveillance capitalism without the marriage of behaviour modification and the technological means to automate its application.»
Como podemos ver, el relato que se va construyendo a medida que pasan las páginas de The Age of Surveillance Capitalism asume dimensiones apocalípticas: el capitalismo de vigilancia ha construido una sofisticada máquina de captación de información, construcción de predicciones y manipulación social que aparentemente no presenta resquicios. Aunque la referencia de Zuboff sea Hannah Arendt, el tono del libro se acerca mucho a los planteos de la Dialéctica de la Ilustración (1944) de Theodor Adorno y Max Horkheimer. Si en ese volumen los alemanes cargaban las tintas contra ese malvado mecanismo que hacía que los sujetos alienados «desearan y se aferraran obstinadamente a la ideología mediante la cual se les esclaviza», el discurso de Zuboff transmite en la misma frecuencia de onda pero con una diferencia para nada marginal: ahí donde Adorno y Horkheimer desarrollaron su crítica de la industria cultural basándose en la economía política de Karl Marx y el psicoanálisis de Sigmund Freud, la crítica al capitalismo de vigilancia de Zuboff se funda en un extraño cóctel que va del cuestionamiento light al capitalismo de Karl Polanyi al conductismo radical de B. F. Skinner.
En la próxima entrada les contaré la tercera parte del libro y compartiré unas cuantas reflexiones (y perplejidades) sobre el recorrido que nos propone Shoshana Zuboff en The Age of Surveillance Capitalism.
Sigue en la segunda parte.
Hipermediaciones 
La segunda parte de esta zaga…. no abre. Lo reporto desde Guatemala. Ramiro
Muy interesante reseña. Muy exhaustiva as usual.
Personalmente, no tomaría a la ligera los aportes de Skinner. No eran solo experimentos con bichos. Hasta la enseñanza de los idiomas tuvo su enfoque conductista. Y apostaría a que muchos padres siguen usando sus propuestas para educar a sus hijos,
incluso sin saberlo. Gracias por estas lecturas interpretadas.
El problema creo que es el salto del laboratorio a la sociedad, de lo micro a lo macro. Cuando se analizan las decisiones individuales (por ejemplo de compra de productos), estos estudios son muy interesantes y generan obras maestras como «Think fast, think slow» de Kahneman. Pero cuando se escalan a nivel social, se terminan generando modelos manipulatorios a escala masiva que dejan muchas cosas por el camino.
Pensar rápido, pensar despacio es excelente.
Veo tu punto.
La verdad es que percibo mucho todavía la presencia del conductismo, especialmente en USA, acá mucho Freud y Lacan, parole, parole…
Pero lo valoro a Skinner. Por ahí lo miro más desde lo pedagógico y psicológico y no del tipo de análisis que hace la autora. O me volví fan de Mario Bunge. Espero que no. Gracias por responder.
Hola no pude terminar de leer porque no «se abre la última parte». El problema principal creo de la tecnología no es ella en sí misma , es lo que se hace con ella y en educación cuánto es lo que nos permite construir sociedades mejores, más humanizadas, solidarias, para en definitiva hacer de este mundo un lugar cada vez mejor para convivir. Si bien las «máquinas» ya están entre y con nosotros, qué queremos nosotrxs cada unx y en conjunto para nuestras vidas. Pienso que la manipulación transmedia y el poder de esa subliminalidad serán afianzados por nuestros propósitos y nuestra mirada del mundo, de la vida, del trabajo, etc. Me parece una buena idea la tecnología y sus avances como un medio «para». Cuando es un fin en sí misma no conduce a nada bueno para la educación por ejemplo y sobretodo. Mientras nos hagan ciudadanos más libres porque las utilicemos para el desarrollo serán buenas herramientas, útiles, para la evolución de la humanidad. Todavía sigo pensando que ver un pájaro «real» ,observar y estudiar su comportamiento y su canto con un maestrx en el barrio y compatirlo con compañerxs produce más sentimientos, sensaciones, pensamientos (que luego se traducirán en conocimiento) que en una pantalla.