Capítulo 2. Empoderamiento en la sociedad en redsociedad en red
2.4 Dinámicas de poder en sociedades mediadas por algoritmos
Al mirar en el transcurso de la historia, percibimos que toda sociedad tiene su diagrama de los flujos de poder, como afirma Deleuze (1986/2005, p. 45). Comprender esos diagramas y buscar caminos de cambio cuando ellos imponen dinámicas que oprimen alguna parte de la población está directamente ligada a procesos de empoderamiento. La contemporaneidad es
marcada por complejas relaciones entre sociedad y tecnología. Dependiendo de la localización geográfica en que vivimos, la percepción que tenemos es que todos tienen acceso a internet, mas mirando con atención a los datos, percibimos que llegamos en Marzo de 2020 con 59,6%
de la población mundial teniendo acceso (Internet World Stats, 2020). Son más de 40% de las personas del mundo que no comparten memes, no dan 'me gusta', no publican y no tienen las informaciones que tenemos en la velocidad en que tenemos. En general, esta falta de acceso también está marcada por otras dinámicas de opresión mucho importantes: hambre, represión, enfermedades y tantas otras. Mismo estos, los más de 40% que nunca han accedido a internet de alguna manera, tienen sus vidas impactadas por la gran red, porque de alguna forma dependen de servicios que la utilizan o sufren las decisiones que emergen de democracias constituidas debajo de la influencia de dinámicas que allí ocurren.
La formación de la opinión pública, aspecto muy importante en un contexto democrático, ha pasado por una serie de cambios que acompañan la expansión del uso de las Tecnologías de la Información y Comunicación (TIC). Si por un lado, más personas pueden interferir en la producción de opinión de la mayoría, por otro, se percibe una gran apropiación de la red por parte de pocas grandes corporaciones y con eso surgen los riesgos que acompañan el concentrado control de las arquitecturas de información. Como dice el lema cypherpunk español, "detrás de toda arquitectura de información se esconde una estructura de poder [énfasis agregado]" (Ugarte, 2007/2008, p. 17, mi traducción ).
Los algoritmos son elementos presentes en nuestras sociedades. Al usar un ordenador, un aplicativo en el móvil o tener su imagen capturada por una camera en el metro o en la calle, estamos interaccionando con algoritmos, o sea, con rutinas que desde informaciones que reciben, hacen alguno procesamiento, almacenan datos y cumplen los propósitos que fueron programados a hacer. Tales algoritmos tienden a incorporar las formas de poder de aquellos que lo han creado (Winner, 2020). Una vez que no tenemos la posibilidad de mirar esos algoritmos dentro, no sabemos en la verdad lo que es hecho con nuestros datos, por eso, la defensa por los softwares libres y de código abierto es también un elemento esencial de transparencia. Lo que percibimos, como comparte Silveira (2019, p. 28, mi traducción), es que gran parte de los algoritmos que manipulan nuestros datos son cerrados, opacos e inescrutables, siendo que "una sociedad comandada por algoritmos parece no ser una sociedad transparente [énfasis agregado]". Tal ausencia de transparencia, sumada a lo
dominio case total de las TIC por parte de pocas compañías, ponen en riesgo nuestra capacidad de tomar decisiones movidos por nuestras propias percepciones.
En particular, plataformas como Google y Facebook han adquirido un poder extraordinario, ya que pueden organizar, modelar y modular los flujos de información y controlar lo que se ve, lee y escucha ampliamente. Pueden influir y sugerir comportamientos de forma poco o nada visible. Aunque estas plataformas son fundamentales para los procesos democráticos, no son democráticas en su funcionamiento, ya que operan en secreto. (Silveira, 2019, p. 68, mi traducción)
Las democracias dependen de los procesos comunicacionales, los cuales permiten la estructuración de las opiniones de los diversos segmentos de la sociedad. Estos a su vez, están involucrados en los procesos electorales. La internet aporta consigo una gran esperanza de que nuevas y mejores posibilidades podrían surgir en relación a la democracia, en parte debido a las potencialidades que presenta. A pesar de este potencial, no significa que de hecho será esa su influencia para el desarrollo de caminos más democráticos. Existe en internet un fuerte mercado de captura y procesamiento de datos. Muestras y perfiles se venden, las estrategias de marketing se crean y modulan el comportamiento de las personas en la red. Un nítido ejemplo de esto son los casos revelados por una serie de reportajes del periódico británico The Guardians1 y disponible en el documental The Great Hack, publicado en 2019 por Netflix. En ello, se revelan los mecanismos avanzados utilizados por la consultora política Cambridge Analytica para determinar la personalidad de las personas y así ejecutar estrategias de manipulación para favorecer la elección de sus clientes (Cadwalladr, 2018).
Como revela el ex empleado de la consultora, Christopher Wylie para la periodista Carole Cadwalladr, desde la recogida de datos de los perfiles de Facebook de millones de personas fue posible utilizar las informaciones privadas y personales para crear avanzados perfiles psicológicos y políticos y luego bombardearlos con anuncios diseñados específicamente para su perfil específico, logrando así una gran precisión en el objetivo de llevar el voto al lado deseado. Así fue en la campaña de Ted Cruz, Donald Trump y Brexit.
Detrás de este movimiento está la figura de Steve Bannon, vicepresidente de Cambridge Analytica y, en particular, el articulador de un movimiento mundial de extrema derecha (Cadwalladr, 2018). El Facebook, en abril de 2018 fue a público, asumiendo que los datos personales de más de 87 millones de usuarios habían sido suministrados para la Cambridge Analytica (Frenkel et al., 2018).
1 Disponible en: <https://www.theguardian.com/news/series/cambridge-analytica-files>.
Casos como éste pueden influenciar todo un proceso democrático a través de la manipulación del comportamiento colectivo. Estos datos pueden servir para que se cree un discurso artificial de convencimiento que cuando aplicado en masa distorsionan un escenario electoral. Nuestros datos personales se convierten en moneda valiosa en manos de las grandes empresas y así corremos el riesgo de inconscientemente tener nuestro comportamiento modelado por tendencias, sugerencias automáticas o otras estrategias. Estos procesos atentan fuertemente contra nuestra capacidad de decidir, ser y convivir libremente (Silveira, 2019).
Como comparte Evangelista (2018) hay dos términos que nos ayudan a pensar las explotación económica del flujo de informaciones que se da en una sociedad mediada por algoritmos: el capitalismo de plataforma y el capitalismo de vigilancia. El capitalismo de plataforma, parte de una idea de economía del compartir, donde hay surgido empresas como AirBnB y Uber. Para ellas, el principio es que no sea necesario tener la propriedad de bienes materiales como coches o casas, pues puede compartirlos. Con el tiempo, el compartir ha también involucrado el "calculo económico sobre la maximización de la explotación de los bienes [énfasis agregado]" y así se ha notado en estos servicios condiciones de trabajo, algunas veces peores do que las percibidas en los servicios tradicionales (Evangelista, 2018, p. 67, mi traducción). Otras empresas como Facebook y Amazon, son para Evangelista (2018) ejemplos también del capitalismo de plataforma, pues de alguna manera hacen el intermedio entre compradores y vendedores. El Facebook, en estos casos gana con los enlaces patrocinados y con los datos de los que usan la red social. En este punto que surge el capitalismo de vigilancia.
El término se refiere básicamente al hecho de que, para constituir las grandes bases de datos de información de los usuarios, las plataformas que operan servicios en Internet utilizan prácticas de vigilancia, monitoreo constante de todas y cualquiera una de las pistas de navegación dejadas por las personas. (Evangelista, 2018, p. 68, mi traducción) Nos convencimos a diario, a ceder nuestros datos personales a cada aplicación nueva, que solicita este acceso. Los datos de contactos, locales por donde estuvimos en los últimos años, ubicación actual, comidas que más le gustan, canciones preferidas, las encuestas que ha hecho, todo esto se proporciona diariamente a las corporaciones a cambio de facilidades en relación a la navegación. Para Zuboff (2015, p. 76), el capitalismo de vigilancia es una nueva forma de capitalismo de información que tiene como objetivo producir lucro y control del mercado, del cual no es una opción simple tentar no hacer parte, pues como señala Evangelista (2018), existe una presión social para usar estos sistemas, incluso, en el mundo del trabajo donde una serie de interacciones ocurren exclusivamente en determinadas redes
sociales. Estos procesos, silenciosamente, causan sujeción, nos modelan y poco a poco se suman a una constelación de fuerzas que nos oprimen, pues como hemos visto en el caso de la Cambridge Analytica, sus efectos para los procesos democráticos afectan la vida de toda una sociedad.
Sumándose a este escenario complejo, están las noticias falsas, las llamadas fake news.
Las noticias plantadas en la red y que se extienden en tiempo récord acaban por conducir opiniones y destruir la imagen de personas. Un caso reciente en Brasil es de la concejal Marielle, defensora de los derechos humanos, que fue brutalmente ejecutada en Río de Janeiro en Marzo de 2018. Este crimen tuvo grandes repercusiones en las redes sociales lo que incomodó movimientos extremistas contrarios a los valores por los que Marielle luchaba.
Como forma de deturpar la imagen de la concejal, fue plantada en las redes, noticias y fotos falsas, sugiriendo una supuesta implicación de ella con traficantes de Río de Janeiro (Peron, 2018). Las fake news como hemos percibido en el caso de la Cambridge Analytica, pueden ser parte de un mecanismo avanzado de manipulación, donde la vigilancia de datos permite tener los puntos de conocimiento sobre las personas, sus emociones y reacciones a determinados estímulos y las fake news son las flechas lanzadas de manera calculada e individual para influenciar las emociones y comportamiento (Cadwalladr, 2018).
En sociedades cada vez más mediadas por algoritmos, los procesos que buscan contribuir verdaderamente para que los sujetos individuales y colectivos caminen al empoderamiento deben tener en consideración la complejidad que involucra esa relación entre sociedad y las tecnologías digitales. El movimiento hacker desde su inicio representa la resistencia a esa forma opaca, exploratoria y mercantilizada de relacionarse con las tecnologías. En 2017, Tim Berns Lee, el hacker creador de la web, lanzó una carta para dejar claro sus grandes preocupaciones en relación a los rumbos que la web ha tomado en estos últimos años. En su carta explica:
yo imaginé la web como una plataforma abierta que permitiría a cualquiera, en cualquier lugar, compartir información, tener acceso a oportunidades y colaborar unos con otros, independientemente de las fronteras geográficas y culturales. Por muchas veces, la web alcanzó esa visión, aunque fue una batalla recurrente para mantenerla abierta. Sin embargo, en los últimos 12 meses, me preocupa cada vez más con tres nuevas tendencias, que creo que debemos enfrentar para que la web atienda su verdadero potencial como una herramienta que sirve a toda la humanidad. 1) Perdimos el control de nuestros datos personales [...]; 2) Es muy fácil para que la información incorrecta se extienda en la web [...]; 3) Publicidad política en línea necesita transparencia y comprensión (Berners-Lee, 2017)
Junto con otros hackers que trabajan en la Web Foundation, el ha buscado alternativas que puedan contribuir a estas cuestiones. Es interesante percibir que a pesar de que la internet presenta características de una máquina panóptica, su adecuación real presenta desvíos en relación a la ingeniería proyectada. Existen formas de romper con esa vigilancia citada anteriormente, utilizando mecanismos criptográficos, enmascaramientos de dirección y otras herramientas que las comunidades hacker han utilizado para proteger su privacidad, pues, como dice el lema del movimiento cypherpunk2 es necesaria la privacidad para los débiles y transparencia para los poderosos.
A lo largo de ese capítulo hemos reflexionado sobre empoderamiento y la complejidad que involucra el concepto, hemos reforzado que nuestra comprensión para empoderamiento considera un proceso continuo, complejo, multidimensional, político y social por el cual las personas y comunidades a través de sus propias experiencias y construcción de cultura buscan liberarse de las relaciones de poder que los oprimen. Hemos contrastado empoderamiento con el concepto de emprendimiento social y en esta ultima sección hemos aproximado nuestras reflexiones del momento que vivimos como sociedad, donde parte de las dinámicas sociales son mediadas por algoritmos. Comprender el empoderamiento como un proceso multidimensional implica necesariamente mirar las tecnologías con una mirada crítica, como una dimensión intrínsecamente conectada con la cultura contemporánea, teniendo la certeza de que toda tecnología posee en sus presupuestos la subjetividad de quien la creó. Ser actor ante la tecnología es un derecho de todo ciudadano. Hackear las estructuras de poder que nos causan sujeción es un imperativo para que a través de nuestras propias experiencias y construcciones culturales busquemos liberarnos de las relaciones de poder que nos oprimen.