Internet, algoritmos y democracia

¿Del sueño a la pesadilla?

De sueños y entusiasmos digitales

Desde finales del siglo xviii, toda nueva creación y/o innovación técnica ha sido recubierta de un entusiasmo asociado al progreso, capaz de producir mejoras para el conjunto de la humanidad. En este sentido, cabe destacar la invención de objetos técnicos como el telégrafo, el cine, el teléfono, la radio y la televisión, pero también el desarrollo de canales, vías ferroviarias, energía eléctrica o incluso represas, invenciones e innovaciones acompañadas de un entramado discursivo que proclamaba que, casi por su mera implementación, se generaría una «ampliación sin precedentes de horizontes de participación democrática, igualdad política y el aumento de la competencia cívica». La clave parecía estar en que cada nuevo objeto técnico proveía a sus usuarios de mayores recursos y oportunidades para acceder a información y generaba así nuevas oportunidades de acción, reflexión y desarrollo personal y colectivo¹.

Con la llegada de la informática, nuevamente se reactivaría el «ciclo». Las tecnologías digitales fueron presentadas como un mecanismo eficaz para la salida de las crisis económicas y sociales que tuvieron lugar en la década de 1970. Esto se plasmó tanto en los informes y proyectos de «informatización de la sociedad» como en las elaboraciones teórico-conceptuales que veían en las tecnologías y en el conocimiento no solo la clave para la salida de la crisis, sino también los parámetros ideales para reconfigurar las sociedades occidentales². En la década de 1980, estos discursos sobre los supuestos efectos democratizadores y potenciadores se focalizaron en las computadoras personales y en la electrónica, y se trasladaron hacia internet con el inicio de su comercialización y masificación en la década de 1990³. Durante estos años, el incremento exponencial de usuarios, junto con la creación de la web, los navegadores y un gran número de empresas vinculadas, generó el mayor pico de este andamiaje discursivo. Se indicaba que las características técnicas de la arquitectura de la red de redes permitían el acceso y la interconexión masivos, descentralizados y transparentes, y estos generarían un incremento de la participación y el debate democrático, nuevos canales para establecer lazos y desarrollar la sociabilidad, una potenciación de las libertades y del ejercicio de los derechos humanos e individuales, y la ruptura de los monopolios informativos, a la vez que la producción colaborativa y los procesos de digitalización harían posible una expansión sin precedentes de la innovación y del crecimiento económico. Tal fue la euforia del momento que discursos como el del entonces vicepresidente estadounidense Al Gore aseguraban que internet podría «recrear el ágora ateniense en nuestros tiempos». Se generó una atmósfera de gran expectativa financiera que llevó por las nubes las acciones de las primeras compañías, y se anunciaron dos cumbres mundiales sobre la sociedad de la información para congeniar un nuevo modelo global de sociedad informatizada.

Configuraciones y reconfiguraciones

Sin embargo, pronto se empezarían a entrever diversas limitaciones. Se evidenció que existía una gran proporción de población mundial que no disponía ni de los recursos ni de las habilidades para tener una experiencia integral en la red de redes, lo cual generaba una enorme masa de excluidos (desconectados). Asimismo, el entusiasmo inicial de los inversores con las empresas de internet terminó generando una fenomenal crisis financiera, llamada «crisis de las punto com», al evidenciarse que, salvo excepciones, estas compañías generaban escasas o nulas ganancias. Estos obstáculos provocaron diversas mutaciones en el proceso, siempre conservando el norte respecto de que las tecnologías digitales generarían democracia, apertura y oportunidades, pero de forma más mesurada.

En primer lugar, se inició un proceso en el que los distintos Estados nacionales empezaron a desplegar variados planes de políticas públicas para incrementar la infraestructura de conectividad, reducir brechas de acceso e incentivar procesos de inclusión digital. En segundo lugar, si bien la crisis había borrado del mapa a un enorme conjunto de empresas y sitios web, se siguió apostando a que internet era el futuro, lo que generó un proceso de reconversión de los principales modelos de negocio, que apuntaba principalmente a la interactividad y a la publicidad digital. Así, la década de 2000 estuvo caracterizada por el surgimiento de un gran número de sitios web y softwares enfocados mayormente en interconectar usuarios y fomentar sus intercambios y vínculos sociales, como así también por la creación y circulación de sus producciones de contenidos. Nos referimos principalmente a las llamadas «plataformas de redes sociales».

Estas, desde un temprano inicio, manifestaban que su principal objetivo era reunir a las personas y potenciar sus capacidades de expresión, acceso a la información y producción de contenidos digitales, y se declaraban «herederas» de los ideales de los padres fundadores de internet. Se señalaba que era en el «territorio» de estas plataformas donde las personas, además de comunicarse, podrían también empoderarse y desplegar prácticas que incrementaran su participación democrática. Pese a ello, fruto de los efectos y aprendizajes de la «crisis de las punto com», también estas plataformas irían incorporando paulatinamente distintas prácticas publicitarias para poder sustentar sus desarrollos.

Con este objetivo, se llevó a cabo un proceso de apropiación de las cookies, un software de identificación, recolección y aplicación de datos de actividad de los usuarios diseñado originalmente en 1994 para el comercio electrónico. De forma paulatina, un gran número de empresas de internet empezaron a incluir distintos volúmenes de estos softwares de registro de datos, con el argumento de que así disponían de recursos necesarios para poder ofrecer publicidad personalizada, que supuestamente era más eficaz al estar centrada en lo que «el usuario desea». Asimismo, las mecánicas de uso e interacción en las plataformas, completamente orientadas a cuantificar la experiencia del usuario, junto con un proceso continuo de almacenamiento de datos directos –brindados por el mismo usuario en la creación de su cuenta/perfil– e indirectos –obtenidos de la huella de su actividad digital–, comenzaron a utilizarse no solo con fines publicitarios sino también para ir optimizando los propios mecanismos, secciones y posibilidades de las plataformas. Se generaba así un sistema en el que, a mayor cantidad de usuarios, y por tanto mayor volumen de datos disponibles, se producían mayores oportunidades de mejora, innovación y comercialización.

La consolidación y expansión del modelo

A finales de la década de 2000 e inicios de la de 2010, varios hechos contribuyeron a consolidar este modelo y a expandirlo al resto de la economía digital. En 2007, la creación del smartphone vendría a posibilitar el acceso y conexión a internet de un enorme número de individuos y colectivos previamente desconectados, a la vez que fomentaba una conexión espacio-temporal virtualmente ininterrumpida, volviendo a los sujetos más proclives a la conexión las 24 horas. La innovación abrió asimismo la puerta a una enorme expansión de desarrollos y usos de aplicaciones específicas, en especial plataformas de redes sociales, que incrementaron exponencialmente sus usuarios en poco tiempo. Cabe destacar que el smartphone no solo ampliaba la cantidad de datos que era posible extraer debido al aumento del tiempo de conexión, sino que también incorporaba lógicas de geolocalización y de acceso a ciertos contenidos del dispositivo, como galería de imágenes y agenda de contactos, a los que antes era difícil acceder en un dispositivo fijo sin recurrir a programas informáticos tipo malware.

En segundo lugar, jugó también un papel la crisis económica global que estalló en 2008. Siguiendo a Nick Srnicek, este proceso generó una necesidad de readaptación de las economías capitalistas, así como una reorientación de las inversiones financieras, que luego de la «crisis de las punto com» habían pasado mayormente a ubicarse en el sector inmobiliario⁴. De este modo, volvió a enfocarse el interés en las empresas de internet, especialmente en buscadores y plataformas de redes sociales, que no solo se seguían identificando discursivamente con el progreso y la democracia, sino que también habían evidenciado una productiva reconversión de sus modelos de negocios sobre la base de los datos. Así, se apuntó a generalizar este «modelo de éxito» basado en datos de las plataformas, a punto tal que se consideró vital que cada sector de la economía, la producción y las finanzas pasara a adoptar un diagrama capaz de disponer y poner en juego datos actualizados en tiempo real para predecir situaciones y tomar medidas fiables y exitosas a partir de esa información. Esto tuvo su corolario en 2011 con el advenimiento de la economía e industria 4.0, que se proponía lograr una «economía inteligente» sobre la base no solo de la extracción, el procesamiento y la aplicación de grandes volúmenes de datos, sino también de su combinación y expansión con otras innovaciones como la inteligencia artificial y la internet de las cosas, entre otros.

En tercer lugar, es necesario mencionar las revelaciones sobre espionaje estatal llevadas a cabo por WikiLeaks en 2011 y por Edward Snowden en 2013. Con ellas, se logró visualizar que, lejos de quedarse fuera del juego, algunos Estados estaban desplegando activamente estrategias de almacenamiento de datos, tanto de sus propios ciudadanos como de otros países. Cabe destacar que en este punto las plataformas de redes sociales y otras empresas de internet fueron percibidas mayormente como «víctimas obligadas a colaborar». El rol que estas habían tenido en los procesos de la Primavera Árabe, cuando se las consideró cuasi responsables de las manifestaciones en pos de mayores derechos y libertades, había consolidado el discurso respecto de su papel como símbolo de democratización y progreso, a punto tal que que numerosas regulaciones sobre internet, según se declaraba, eran establecidas para proteger «a los actuales y futuros Googles y Facebooks del mundo».

Se puede apreciar así que los datos personales, de actividad, de consumo, de geolocalización, y también las distintas mecánicas de su identificación, recolección, almacenamiento, procesamiento y aplicación pasaron a tener una centralidad cada vez más incuestionable, llegando a ser considerados el «nuevo petróleo» de las sociedades contemporáneas⁵. Esto también se pudo evidenciar en el despliegue paulatino pero firme de un modelo de cuantificación digital de la vida, donde cada actividad, cada interacción, cada movimiento, cada consumo, cada deseo es susceptible de ser registrado, almacenado y utilizado.

Datos, gubernamentalidad algorítmica y democracia

Con el correr de los años, los mecanismos de extracción de datos fueron perfeccionándose, a lo que contribuyeron distintos desarrollos algorítmicos junto con la inteligencia artificial, que no solo permitían identificar, recolectar y almacenar datos, sino también ponerlos en diálogo entre sí, de modo de producir una serie de perfiles generales que puedan sentirse como particulares al aplicarse a los distintos usuarios⁶. Perfiles, cabe aclarar, en constante cambio, modulación y mejora, sobre la base de los continuos flujos de datos extraídos y puestos en relación a cada hora, minuto y segundo. Estos procesos no solo tenían lugar cada vez más en cada sitio web y plataforma, sino que poco a poco se fueron también instalando en los dispositivos móviles y generaron una lógica de acompañamiento algorítmico de la vida en todo momento y lugar⁷.

Se abría así la puerta al despliegue de una forma diferencial de gestión y conducción de la población. Siguiendo a Michel Foucault, desde mediados del siglo xix los ejercicios de producción de cuerpos y subjetividades habían mutado hacia un sistema de administración de la vida de las poblaciones caracterizado por fomentar la circulación y ordenarla según curvas de normalidad obtenidas gracias a datos estadísticos elaborados por el Estado⁸. Se apuntaba a un modo de operar sobre las acciones para orientar y producir distintas disposiciones y caminos posibles, sobre la base de estos estándares y parámetros estadísticos (gubernamentalidad). Sin embargo, como bien advertía Gilles Deleuze, esto también había empezado a ser modulado tras la aparición y masificación de las tecnologías digitales, que permitían desplegar sofisticados mecanismos de identificación, almacenamiento y procesamiento de datos que operan de forma constante, en tiempo real y al aire libre, aunque también en la comodidad del hogar⁹. Estos mecanismos llegaban al punto de generar que cada cifra, modulada en forma de perfil, pasara a obrar como una contraseña para favorecer, habilitar, dificultar o imposibilitar distintas posibilidades de acción, consumo y relación.

Estas modificaciones indicaban que los distintos ejercicios de gubernamentalidad también habían cambiado, y que se había constituido otro tipo de modalidad, una gubernamentalidad algorítmica¹⁰ o, en otras palabras, la posibilidad de operar sobre acciones de otros generando disposiciones basadas en la producción de datos materializados en perfiles elaborados por distintos algoritmos programados a tal efecto. Esto también permitió entrever que, en la gestión de las poblaciones, no solo el Estado tendría un papel estelar, sino también un enorme número de empresas privadas: aquellas en cuyas plataformas y sitios web los usuarios despliegan la mayor parte de sus interacciones y a las que destinan la mayor parte de su tiempo y atención.

Vale detenerse aquí para analizar los vínculos entre esta forma particular de administración de la población, basada en perfiles y personalización algorítmica, y el ejercicio democrático. Desde un inicio, se sostuvo que estas lógicas brindan a los usuarios soluciones tecnológicas que optimizan su vida y sus tiempos¹¹. Se enunciaba la personalización algorítmica como un elemento sumamente positivo dado que, al estar basada en datos «que no pueden mentir», segmenta informaciones y orienta acciones, relaciones y prácticas en función de lo que cada usuario haya indicado efectivamente que «le interesa». Asimismo, la posibilidad de cuantificar las distintas instancias de la vida de cada individuo, en especial en áreas como deportes, salud, aprendizajes o consumos, permite a las empresas observar un estado de situación y progreso para tomar decisiones sobre la base de esos datos. En teoría, los individuos también pueden acceder a esa información, aunque muchas veces esto sea difícil o hasta imposible en la práctica, según los casos y las posibilidades del código técnico de las plataformas.

Todo esto, montado sobre una lógica neoliberal basada en el rendimiento continuo¹², pero también sobre una lógica cibernética que clamaba la necesidad de correlacionar datos para predecir, con el objetivo de prevenir y optimizar¹³, era enunciado como una «práctica de empoderamiento». En otras palabras, al estar el individuo continuamente modulado por la aplicación de distintos perfiles metaestables que van orientando las informaciones, relaciones, personas, consumos, lugares e intereses a los que accede, se argumenta que esto le permite optimizar tiempos, esfuerzos y energías para configurarse a sí mismo una vida ordenada y eficiente. De esta manera, los mecanismos algorítmicos pasarían a predecir, sugerir y conducir lo considerado como «mejor y más apropiado» para la ciudadanía, quitándole a esta la «pesada carga» de tener que tomar decisiones en soledad, sin ninguna asistencia, en un mundo atiborrado de datos procesados supuestamente para brindar tales orientaciones.

En suma, se sostenía que los efectos de la aplicación de la lógica de perfilamiento contribuirían a incrementar el ejercicio democrático, con el argumento de que los datos, algoritmos y perfiles persiguen una lógica apolítica y anormativa, y son «ciegos» a diferencias sociales, políticas, religiosas, étnicas o de género. Por tanto, se consideraba que, dado que las orientaciones se producen solo sobre la base de correlaciones de datos, esto podría incrementar las oportunidades para múltiples grupos de la población, ya que se desvanecerían virtualmente los considerados «sesgos sociales» y el foco estaría en lo que el usuario «ha dicho y hecho».

Montados sobre estos argumentos, los mecanismos de perfilamiento y personalización algorítmica continuaron expandiéndose, a punto tal de ir consolidándose una lógica de silicolonización de la vida¹⁴, entendiéndose que cada nuevo desarrollo no solo era un símbolo y motor del progreso y la democracia, sino que también era una solución tecnológica para ir remediando todos los problemas de la vida.

La pesadilla

Sin embargo, diversos hechos ocurridos durante 2016 y 2017, como el triunfo de Donald Trump en las elecciones estadounidenses, el Brexit, la victoria del «No» en el referéndum sobre los Acuerdos de Paz en Colombia y el ascenso al poder de Jair Bolsonaro en Brasil, empezaron a despertar alarmas en torno del funcionamiento de la personalización algorítmica imperante en internet. El «escándalo» de Cambridge Analytica en 2018, en el que se reveló que se habían puesto en juego estos mecanismos de personalización para influir en las opiniones de los usuarios, no solo despertó una catarata de críticas hacia las principales plataformas (Google, Amazon, Facebook, Apple y Microsoft, las gafam), sino que también incitó una fuerte desconfianza hacia el estado actual del ecosistema de internet. En pocas palabras, las plataformas dejaron de ser consideradas «víctimas», como había ocurrido previamente, y pasaron a ser consideradas las principales responsables de esos resultados. Esto provocó un giro de 180 grados en la consideración de estas plataformas, sus mecanismos de personalización algorítmica y sus efectos sobre la democracia, tras lo cual perdieron su estatus de paladines e impulsoras y comenzaron a ser identificadas prácticamente como una amenaza para la libertad y apertura de internet, pero también para la toma de decisiones. Poco a poco, discursos y producciones culturales pasaron a poner el foco en la posibilidad de la generación de burbujas algorítmicas que «atrapen» a los usuarios en una lógica cuasi totalitaria de informaciones afines de la cual estos no podrían salir, lo que erosionaría fuertemente su capacidad de decisión democrática¹⁵. Y hay ejemplos en otras esferas, como el uso de programas algorítmicos en el ámbito penal: el software compas (sigla en inglés de Administración de Perfiles de Criminales para Sanciones Alternativas del Sistema de Prisiones), utilizado por los jueces en algunos estados de Estados Unidos para evaluar la posibilidad de reincidencia de una persona convicta y aumentar las penas en consecuencia, presentó errores entre 30% y 40% de los casos, según estudios recientes. Por razones de competencia, el diseño del compas se mantiene en su mayor parte en secreto, y varios tribunales han defendido el mantenimiento de ese secreto, incluso frente a un acusado que quiera impugnar el diseño¹⁶.

No tardaron entonces en llegar los discursos catastrofistas que alertaban respecto al establecimiento de una manipulación casi total por parte de las empresas, lo que en algún punto parecía emular las principales distopías de la ciencia ficción.

¿Destruir el algoritmo… o democratizarlo?

Si bien se puede considerar positivo el abandono de una mirada idealizada –tecnofílica– del funcionamiento de la lógica de personalización algorítmica y sus principales actores, debemos advertir sobre los peligros de caer en una lógica catastrofista –tecnofóbica–, dado que ambos extremos pueden llegar a obturar, más que a clarificar, el funcionamiento y los efectos de estos mecanismos.

Es cierto que la lógica de personalización algorítmica por la cual se establecen los mecanismos de gubernamentalidad actuales está lejos de ser un factor de empoderamiento y de ampliación de las capacidades democráticas. En ese sentido, los datos no son ajenos a las condiciones sociales, políticas, económicas y culturales de las personas de las cuales se los ha extraído, sino que, al contrario, los usuarios muchas veces realizan prácticas fuertemente orientados por estos factores. Esta situación podría ayudar a visualizar que el perfilamiento algorítmico y sus recomendaciones personalizadas, lejos de ser una lógica que logre «desvanecer las diferencias sociales», en realidad podrían ayudar a reproducir las desigualdades existentes, dado que orientar a un sujeto hacia aquello que «ha demostrado» que consume, piensa y desea puede significar seguir iluminando un camino ampliamente recorrido en lugar de intentar habilitar otros. Asimismo, la existencia y la mayor difusión de noticias falsas o fake news también encienden una alarma, dado que los perfiles pueden conducir hacia ellas y generar así potenciales distorsiones de los hechos y futuras acciones en consecuencia. A su vez, la programación de los propios algoritmos que generan los diálogos y la correlación de datos y producen los perfiles no es neutral. Los algoritmos se encuentran, por el contrario, imbuidos de parámetros y criterios económicos, políticos y culturales tanto de la empresa como de quienes los programan, y esto puede hacer que esas cifras que operan como contraseñas se encuentren moduladas más sobre la base de prejuicios que de evidencias y que fomenten un acceso diferencial a informaciones, recursos y posibilidades.

Sin embargo, estamos lejos aquí de proclamar que estos mecanismos llevan a una manipulación total de los usuarios y que, por ende, deberían ser prohibidos o eliminados. Por un lado, no consideramos a los usuarios como «idiotas algorítmicos», ni creemos que la aplicación de un perfil necesariamente determine las maneras de sentir, pensar y actuar de las personas. Existe una gran distancia entre la exposición de un usuario a noticias positivas sobre un actor político y el deseo y el acto de votarlo o defenderlo a capa y espada¹⁷. Asimismo, los distintos «hiatos algorítmicos» que suceden a diario y que conducen a los usuarios hacia informaciones, consumos o personas que estos en realidad no suelen elegir o frecuentar también permiten matizar la lógica cuasi «totalitaria» atribuida a la personalización algorítmica; sin dejar de señalar también el hecho concreto de que nada impide a una persona surfear en búsqueda de otras opciones diferentes de las sugeridas¹⁸.

Más allá de las segmentaciones que generan los perfiles algorítmicos y los problemas en torno del acceso y el ejercicio democrático, así como de la privacidad, los mecanismos de personalización y conducción no son algo completamente negativo que sea necesario erradicar. En efecto, ante una situación actual en la que la enorme cantidad de usuarios, producciones y contenidos presentes en la red de redes podría generar una sobresaturación de información¹⁹, estos mecanismos de personalización algorítmica pueden permitir disminuir el riesgo y ahorrar tiempo y esfuerzo, como así también brindar datos precisos para el ejercicio de opciones por parte de los usuarios. La cuestión está en cómo se genera la modulación en esa conducción algorítmica. Nada impediría que se puedan adaptar los mecanismos que hoy día personalizan por el usuario para permitirle a este tomar en mayor medida cartas en el asunto, es decir, que los usuarios puedan efectivamente decidir cómo personalizar su experiencia en lugar de recibirla ya personalizada. Adicionalmente, sería menester incorporar una necesaria cuota de informaciones aleatorias para disminuir el riesgo de la conformación de burbujas, además de garantizar una mayor protección a la privacidad de los datos y mayor transparencia en su operatoria²⁰. La programación de los algoritmos de correlación y personalización debería incrementar su transparencia, habilitando procesos de monitoreo y auditoría democrática en los que se asegure la participación de varios sectores divergentes para minimizar el riesgo de sesgos en este punto vital del ecosistema actual de internet.

De esta manera, se podría fomentar el acceso y la participación democrática de los usuarios en las distintas esferas de internet, y avanzar también en la comprensión de que el ejercicio democrático implica una construcción y un devenir individual y colectivo que se realiza día a día, donde la toma de decisión es un aspecto fundamental.

Ni sueño ni pesadilla

En un contexto global en el que los datos son considerados insumos productivos de primer orden en todas las esferas, no solo es primordial lograr una toma de conciencia, sino también asegurar que los usuarios que contribuyen con sus datos puedan incidir más en su tratamiento. Asimismo, es menester avanzar en formas de que los usuarios, y no solo las empresas y/o el Estado, puedan apropiarse de sus procesos de correlación.

Esto resulta aún más acuciante en el actual contexto de pandemia, cuando a causa de la emergencia sanitaria las medidas de gestión de la población desplegadas en todos los puntos del globo parecerían indicar una nueva modulación de la gubernamentalidad. En este sentido, la virtual división en dos de la población –por ejemplo, entre quienes están autorizados a circular en virtud del carácter estratégico o esencial de su trabajo y quienes deben permanecer en sus hogares– y las estrategias de restricción y administración de la circulación y de la vida se han vinculado íntimamente con las tecnologías digitales que supervisan su cumplimiento y aseguran el sostenimiento de actividades otrora totalmente presenciales, como el teletrabajo, la telemedicina o la educación a distancia. Esta forma coyuntural de gubernamentalidad algorítmica pandémica ha generado un enorme aumento de la conectividad a internet y del uso de las plataformas hegemónicas, lo que les garantiza a estas el acceso a un volumen aún mayor de datos para desplegar sus prácticas de personalización algorítmica²¹. Sin embargo, también la pandemia ha posibilitado la profundización de los procesos de cuestionamiento a estas empresas, fomentando juicios y auditorías y despertando preguntas sobre la utilización de otras plataformas que garanticen una mayor autonomía y privacidad de sus usuarios.

Podemos apreciar que, lejos de ser un panorama completamente cerrado, la configuración de internet, junto con las potencialidades democráticas que allí se puedan desplegar, no son ni han sido un sueño ni una pesadilla. Se trata de una situación compleja y en constante cambio, en la que se ejercen múltiples prácticas de saber-poder para intentar incidir en el juego en un sentido y no en otro. La construcción del ejercicio democrático en internet es posible. Sin embargo, será necesario primero poner paños fríos sobre el andamiaje discursivo tecnofóbico post-Cambridge Analytica, y a la vez evitar un resurgimiento del andamiaje tecnofílico previo para poder, desde una visión crítica, operar colectivamente en función de la generación de cambios cuyos efectos puedan permitir remodular las lógicas presentes. Quizás la pandemia haya abierto una pequeña pero fructífera ventana por donde se pueda empezar a obrar en favor de ello.

Fuente: Nuso.org