El golpe de Estado de las plataformas digitales

Cuando vinieron a llevarse los datos, guardé silencio porque me brindaban servicios.
Cuando vinieron a pedir que no haya regulaciones para sus negocios, guardé silencio, porque ya sabían mucho de mí y de mis acciones.
Cuando vinieron a manipular todo lo que puedo saber y querer, guardé silencio, porque ya no sabía qué era verdad y qué no.
Cuando vinieron a gobernar todo, ya era tarde, porque no había gobierno a quien protestarle.

En esta versión libre del famoso poema escrito por el pastor luterano alemán Martin Niemöller en 1946 se puede cifrar algo de lo que Shoshana Zuboff, profesora emérita de la Escuela de Negocios y de la Facultad de Derecho de la Universidad de Harvard, quiere advertir en su último libro, ¿Capitalismo de la vigilancia o democracia? Una lucha a todo o nada en la era de la información, publicado por Unsam Edita.

Zuboff forma parte del campo de estudios críticos sobre plataformas e inteligencia artificial. El tema viene explotando editorialmente en Argentina con la salida reciente de libros centrales como The Stack de Benjamin Bratton (Interferencias), El ojo del amo de Matteo Pasquinelli (Fondo de Cultura Económica), Lo impensado de N. Katherine Hayles (Caja Negra), Metamorfosis de la inteligencia de Catherine Malabou (La Cebra), Los costos de la conexión de Nick Couldry y Ulises Mejias (Godot, 2023) Atlas de la Inteligencia Artificial de Kate Crawford (Fondo de Cultura Económica, 2022), Nanofundios de Agustín Berti (Cebra, 2022) y Tecnoceno de Flavia Costa (Taurus, 2021). Y más lejos en el tiempo, Capitalismo de plataformas de Nick Srnicek (Caja Negra, 2018), Los dueños de Internet de Natalia Zuazo (Debate, 2018) y el propio La era del capitalismo de la vigilancia de Zuboff (en 2019).

¿Capitalismo de la vigilancia o democracia?, el último libro de Shoshana Zuboff, es una actualización del esquema analítico compartido con el resto de las publicaciones. Este esquema plantea una tripartición entre datos, algoritmos y plataformas como “matriz social” de la inteligencia artificial y de los ecosistemas digitales que habitamos. En el caso de Zuboff, por un lado, se inscribe dentro de una caracterización de las plataformas en términos de nueva forma de capitalismo (como Srnicek con su “capitalismo de plataformas”); y, por el otro, se trata de un capitalismo sincronizado con una forma política antidemocrática. El capitalismo de la vigilancia, plantea Zuboff, nació exactamente con el siglo XXI y se puede rastrear en hechos clave. Con ellos, se desgrana su ambiciosa perspectiva de lo que llama el “campo unificado” de las cuatro etapas del orden institucional del capitalismo de la vigilancia, que conforma un “poder instrumentario”, “que conoce el comportamiento humano y le da forma, orientándolo hacia los fines de otros”. Este poder es tan peligroso como lo fue el “poder totalitario” apuntado por Niemöller.

Google empezó a hacerse conocido cuando en 1999 superó como “motor de búsqueda de Internet” a Altavista y Yahoo. Copó el mercado gracias al famoso algoritmo PageRank, que “personalizaba” la navegación por la web. Al crear un historial de búsquedas, brindaba un servicio y a la vez generaba una gran cantidad de datos sobre los usuarios que explotaría, al año siguiente, con Google AdWords, un servicio para ofrecer publicidad orientada a esos perfiles que acababa de crear. Cuatro años después aparecería el Gmail, una casilla de correos que permitía un giga de almacenamiento –una enormidad para la época–, conectada a AdWords y a lo que estaba viniendo: el sistema Android, con el cual la empresa se transformaría en una gigantesca base de datos y en controladora principal del tráfico en internet en todos los dispositivos digitales. Así logró Google sobrevivir a la pinchadura de la burbuja de las puntocom en marzo de 2000. 

Ese mismo año el grupo de rock Metallica enfrentó legalmente a Napster, un servicio de distribución gratuita de música P2P (peer-to-peer), por violación de los derechos de autor. Napster también brindaba un servicio, pero la música transformada en datos compartidos tenía un dueño. Como con Google AdWords, la visión comercial no tardó en ver el negocio de la libertad y de los “servicios orientados al usuario” en tiempos donde internet todavía era defendida como una red distribuida y lo libertario no revolvía el estómago. Apple lanzó i-Tunes y el i-Pod, y comenzaron los servicios de suscripción por una módica suma que estaba a buena distancia entre la gratuidad pirata y la usura de las discográficas. Luego vendrían Spotify y otras plataformas que hoy rigen el tráfico de los contenidos culturales.

Un año después, el atentado contra las Torres Gemelas en Nueva York y contra el Pentágono en Washington condujeron a la rápida aprobación de la Patriot Act en Estados Unidos, una ley que significó carta libre para la vigilancia masiva y para cualquier operación de inteligencia non sancta por parte del Pentágono, la CIA y la Agencia de Seguridad Nacional (NSA, sus siglas en inglés), que en particular estaba habilitada para interceptar cualquier comunicación telefónica o en la web. Esta ley fue reemplazada por la Freedom Act en 2015, luego de que las revelaciones de Edward Snowden, empleado de la CIA y la NSA, sobre el programa de espionaje internacional PRISM, mostraran no sólo el nivel de vigilancia coordinado de varios estados y gobiernos, sino también sus colaboraciones siempre negadas con Google y sobre todo Facebook. 

Hay que unir estos puntos, dice Shoshana Zuboff. No tiene sentido reflexionar por un lado sobre la violación de la privacidad y la política sobre datos; por el otro, sobre cómo se construyen los programas, y más allá sobre cómo se organizan las relaciones entre el Estado y las empresas o entre los estados en el nivel geopolítico. Hay que pensar en todo eso junto: un “campo unificado”. Y para ello propone un ciclo conceptual que empieza con una operación económica, sigue con un vector de gobernanza y termina en un vector de daños sociales. La operación económica es, en este caso, la “mercantilización del comportamiento humano”, que exige, desde la gobernanza, anexarse “derechos epistémicos”: qué saben las empresas y los estados sobre nosotras y nosotros y qué podemos saber a nuestra vez. Esto, desde los daños sociales, produce la destrucción de la privacidad (que es un requerimiento del sistema, no un exceso ni una anomalía a ser regulada) y un caos epistémico sintetizado en la interesante figura de la ceguera por diseño. A partir de una reinterpretación de la teoría de la información de Claude Shannon, Zuboff sostiene que la indiferencia de los funcionamientos algorítmicos respecto de las significaciones que comienzan a circular es otro de los requerimientos del capitalismo de la vigilancia, contra el cual la “moderación de contenidos” es una falsa política relativa a una falsa anomalía. Lo que cuenta es la continuación del ciclo PEPG: participación, extracción, predicción, ganancia (PEPG).

En su crecimiento, este ciclo lleva a una segunda etapa, la de la “concentración del conocimiento computacional” como operación económica, donde la desigualdad epistémica se convierte en autoridad epistémica. Una vez consolidada la extracción de datos (“un colonialismo de datos”, según Couldry y Mejias), la gobernanza del capitalismo de la vigilancia se ejerce a través de decidir, privadamente, qué datos van a constituir información, y qué de ellos pasa a ser conocimiento (como la “extracción de conocimiento” de la que habla Pasquinelli). Son las corporaciones de la vigilancia las que, en este proceso, impulsan la IA con la condición de que no le pongan ni regulaciones ni contrapesos. Los daños sociales son la desigualdad epistémica (“la diferencia entre lo que yo puedo saber y lo que puede saberse de mí”), la reducción de los costos laborales, la descalificación de quienes trabajan en la IA –similar a la de los obreros en la Revolución Industrial– y la división internacional del aprendizaje: “un nuevo tipo de servidumbre a la IA emplea en todo el Sur Global a trabajadores por encargo que ganan salarios miserables ‘entrenando’ algoritmos de IA y ‘moderando’ contenido”. 

Ocurrió en 2016, se dio a conocer en 2020. Zuboff lo cuenta en detalle para explicar la tercera etapa fundacional del capitalismo de la vigilancia: la activación de comportamientos a distancia. La campaña presidencial de Donald Trump para su primera presidencia empleó perfiles y matrices de datos comerciales de Facebook, asociada con la famosa consultora política Cambridge Analytica, para hacer microtargeting y manipular la información ofrecida en esa red para disuadir a los votantes afroamericanos de ir a votar en los estados sensibles donde se jugaba la suerte de la elección. Se sabe que no fue el único caso, y que los servicios de “microfocalización conductual” fueron usados en muchas ocasiones, entre ellas la campaña por el Brexit en Reino Unido y la elección presidencial de Mauricio Macri en la Argentina en 2015. 

En esta etapa, todo el conocimiento “ilegítimo” se traduce en poder “ilegítimo”, y a nivel de la gobernanza la “ceguera por diseño” algorítmica produce intrínsecamente tanto contenido corrupto (fake news) como polarización social. Es, dice Zuboff, un “experimento de escala mega masiva” donde la vieja guerra contra el terrorismo se transforma en una “guerra de información apuntada contra los ciudadanos”. Así como el algoritmo estrella de la primera etapa era el PageRank de Google, ahora lo es el NewsFeed de Facebook, que controla los contenidos ofrecidos en esa red, y que vuelve provocativos los mohines de mea culpa de Mark Zuckerberg ante el Congreso estadounidense o los pagos regulares de multas de Google ante la Unión Europea. En la zona de los daños sociales, Zuboff anota la “construcción artificial de la realidad”. 

Mayo de 2020. La cuarentena mundial por la pandemia del Covid-19 estaba en uno de sus puntos más altos. El entonces gobernador del Estado de Nueva York, Andrew Cuomo, delegó en Eric Schmidt, ex CEO de Google, empresario millonario y lobista principal de las corporaciones hi tech, la dirección de una comisión para imaginar un escenario pospandémico donde todos los aspectos de la vida social (salud, educación, trabajo) se basen en las interacciones digitales. Nada que no estuviera ya ocurriendo, pero había que prepararse para el día después. Cuomo ya había llegado a un acuerdo con la Fundación Bill y Melinda Gates. Sentadas sobre los datos y los algoritmos, las plataformas garantizaban la continuación “de la sociedad” a través de los dispositivos digitales, como planteó Naomi Klein con la feliz expresión “Screen New Deal”.

 Zuboff analiza en el libro una postal menos idílica de este dominio sistémico de las plataformas. Apple y Google se enfrentaron abiertamente a los protocolos de la Unión Europea relativos a los rastreos de proximidad para evitar los contagios de Covid-19 respetando la privacidad. A través de una defensa de los derechos de los individuos y de la sempiterna desconfianza en los estados, que revela la fuerza de la “preparación ideológica” neoliberal que fue zócalo de la primera etapa del capitalismo de la vigilancia, las corporaciones lograron imponerse como “defensoras de la libertad”.

Y se ve que no ganamos para sustos, porque en abril de 2023, unos meses después del lanzamiento al público del chat GPT-3 en noviembre de 2022, una carta abierta firmada por directores de departamentos de investigación en IA, CEOs, científicos y autores de best sellers (entre ellos Elon Musk y el cofundador de Apple, Steve Wozniak), alertaba sobre los peligros del avance de las IA y pedía una pausa en las investigaciones sobre la materia, en una mirada apocalíptica similar a la que supieron provocar en su momento la energía nuclear o la biotecnología. El hecho vale mucho más por lo que señala que por lo que pretende hacer al respecto (no hubo ninguna pausa, desde ya): el furor de la IA bajo la forma de los modelos de lenguaje grandes (LLM), que aceleró la dinámica del esquema DAP a niveles sorprendentes.

Uniendo los puntos como quiere Zuboff, ahora ya se trata de la gobernanza de la gobernanza, esto es, de la asunción por parte de las plataformas digitales de un control casi absoluto, y sin regulaciones, sobre las infraestructuras informacionales que permite ir contra los gobiernos y los estados que pretenden desafiarlas. Una de las claves es el par centralización-descentralización: la gestión de la vida cotidiana y las interacciones sociales se descentralizan en diversos softwares y dispositivos, mientras sus “excedentes informacionales” se centralizan en la gestión de las plataformas. El viejo carácter distribuido de internet termina siendo concentrado por un oligopolio de corporaciones. En la zona del daño social, escribe Zuboff, “la conexión al ‘sistema’ produce el aislamiento que nutre al poder absoluto. El aislamiento se confunde con privacidad. La sociedad, o lo que queda de ella, es tolerable solamente en la medida en que lo social le es drenado”. Ya no hay un Big Brother vigilando desde arriba, sino un Big Other capilarizado a nuestro lado. La otra cara de esta moneda son las soberanías en disputa, como dicen Bratton y Crawford: el control de los territorios vs. el control de la nube y de los fierros (cables, satélites, granjas de servidores) que la vuelven muy poco gaseosa.

Hoy, Elon Musk decidió algo más que firmar cartas de alarma y asumir su lugar político, con costos y beneficios para sus negocios que aún se desconocen. No es el único: varios magnates hi-tech, desde Peter Thiel hasta Marcos Galperín, se posicionan en el panorama de las derechas globales como figuras políticas. Sus puestos de gobierno están más vinculados al control de la información que a su presencia en elecciones, y por ello mismo Zuboff marca la contraposición entre el capitalismo de la vigilancia y la democracia liberal, y también la afinidad entre el nuevo poder “instrumentario” y el viejo poder totalitario. Hoy, los CEOs exitosos están lejos del retrato de Silicon Valley de los nerds vagamente anarquistas que “la pegaron” gracias a sus talentos de programación. Detrás de la palabra “libertad” se construyen relatos francamente antidemocráticos, siguiendo las enseñanzas de Milton Friedman. 

En algún sentido esto confirma el análisis “paranoico” de Zuboff. Desde su visión, las instituciones políticas basadas en los valores de la democracia, definidos desde un enfoque estadounidense, están en una situación parecida a las de hace un siglo con el ascenso del fascismo y el nazismo. La mano en alto de Musk, emblema de la innovación tecnológica actual, hace juego con la adhesión al nazismo de Henry Ford, símbolo empresarial de la sociedad industrial. En este panorama, según ella, ni las regulaciones, ni las resistencias, ni las alternativas de diseño tecnológico pueden atacar el problema de raíz. Aun cuando se puedan desplegar estas posibilidades, se trata de abolir la primera operación económica que desató todo, esto es, la mercantilización del comportamiento humano y empezar de nuevo. 

Quizás, desde estas latitudes, suene a cuento de hadas la contraposición entre un capitalismo “fascistoide” y una democracia garantizada por instituciones liberales; mucho más si se considera que Estados Unidos no ha sido un promotor de esas instituciones fuera de su territorio. Quizá la propuesta de un “capitalismo de la vigilancia” necesite una confrontación con otros capitalismos (cognitivo, informacional, de plataformas, etc.) para entender sencillamente qué es el capitalismo hoy. Quizás la “ceguera por diseño”, que supone que es el entramado tecnológico el que conduce a posiciones políticas radicalizadas, pueda ser repensada a la luz de una “ceguera por política”, donde los algoritmos solo amplifican la rabia generada previamente por un capitalismo salvaje; una amplificación que también es desvío porque, ultraderecha mediante, esa rabia no va dirigida hacia quienes generaron la miseria global. Y quizás haya que repensar, también, el lugar pasivo en el que quedan los usuarios (los individuos, los sujetos) y sus “conductas”. 

Pero no hay dudas de que este libro de Zuboff es fundamental para saber dónde estamos parados, o hacia dónde estamos volando: de la tierra a la nube, y de la nube, como decía Margaret Thatcher respecto de la economía, al alma.

La entrada El golpe de Estado de las plataformas digitales se publicó primero en Revista Anfibia.