17 de mayo de 2021

L

La gubernamentalidad algorítmica

por Martín Gendler

Si bien la pandemia COVID-19 ha permitido masificar lógicas, prácticas y estrategias previas de extracción, perfilado y personalización algorítmica, también ha abierto un marco que permite entrever algunos límites, nuevas problemáticas y perspectivas a dichas lógicas.

 

[ ILUSTRACIÓN: SOL UNDURRAGA ]

 

Siguiendo a Foucault, a mediados del siglo XIX se empezó a generar un paso de los dispositivos disciplinarios a los de seguridad biopolíticos en pos, ya no de encerrar y moldear individuos, sino de permitir una circulación ordenada, gestionada y conducida de la población. Así, la estadística pasó a tener un rol fundamental en el sentido de la creación de curvas de normalidad para la gestión y modulación. Foucault denominó a estas prácticas de ejercicio del saber-poder como “gubernamentalidad”, apuntando a acciones sobre acciones, en el sentido de orientar y producir disposiciones para la acción realizadas con base a estándares y parámetros de veridicción tomados como válidos, tolerables, incorrectos o prohibidos. La mayor penetración de las tecnologías digitales a finales del siglo XX trajo nuevas perspectivas a las prácticas de gubernamentalidad. Las cifras extraídas de cada individuo a raíz de sus datos personales, historial crediticio y de movimiento, pero también de sus prácticas en Internet, posibilitaron establecer una estadística inmediatamente actualizada en función de la cual se generen nuevas contraseñas de veridicción digitales (Deleuze, 1999) en torno a las posibilidades de acceso, acción y gestión de la vida.

Con la sofisticación de los mecanismos digitales de identificación, recolección y procesamiento de las acciones, deseos e interacciones1 fue tomando forma un tipo particular de gubernamentalidad, una “gubernamentalidad algorítmica” (Rouvroy y Berns, 2015) ejercida mayormente por empresas privadas, aunque con participación del Estado.

Las empresas hacen de la personalización algorítmica su principal modelo de negocio y se generan desafíos a las tomas de decisión democráticas

Así, con base a datos extraídos tomados como reflejos de la realidad, se produce un marco para el ejercicio del saber-poder vía la conducción, orientación y formulación de disposiciones para la acción más adecuada para la persona según los datos, acciones e intereses que él mismo ha brindado. Esto se realiza al procesar y relacionar los datos del sujeto con los de sujetos similares a él, materializados en forma de perfiles generales que se sienten como individuales, que son optimizados constantemente y aplicados a toda la población. De este modo, los parámetros delimitados por el perfil modulan cómo los sujetos se informan, consumen o con quién interactúan, no solo de acuerdo a las correlaciones de datos sino también a los diversos valores y juicios imbuidos en la programación de sus algoritmos. Se habilita así un acompañamiento algorítmico de la vida (Sadin, 2017) donde crecientemente las prácticas, deseos y la vida en general están intermediadas por parámetros y umbrales delineados por los perfiles algorítmicos, presentados como optimización y mejora de la vida.

El panorama desplegado permite entrever un fuerte componente de personalización algorítmica: predominancia de lógicas de perfilado en las principales webs y apps2; las empresas capitalistas más valiosas a nivel mundial3 hacen de la personalización algorítmica su principal modelo de negocio y se generan desafíos a las tomas de decisión democráticas, entre otros. Ahora bien, la pandemia global desencadenada por COVID-19 ha traído una serie de oportunidades para poner en tensión las formulaciones acerca de la gubernamentalidad algorítmica.

A causa de la pandemia, las estrategias de gestión de las poblaciones se han centrado principalmente en torno a la restricción y el control sistemático de la circulación como forma de prevención del contagio. Estas medidas, apuntadas tanto para aquellos autorizados a continuar en movimiento como para los que debieron adoptar un confinamiento en sus hogares, se han vinculado íntimamente con las tecnologías digitales en función no solo de poder gestionar la circulación de la población sino también de intentar sostener los espacios de transindividualidad. En este sentido, muchas de las lógicas, prácticas y estrategias previas se han masificado, pasando a incrementarse la extracción de datos para el perfeccionamiento de los perfiles algorítmicos y la adaptación a la nueva situación. Además, se pasó a incorporar al concierto actores ya existentes pero poco conocidos —plataformas de videollamadas, teletrabajo y educación—, consolidar otros en crecimiento —plataformas de e-commerce y delivery—, ratificar el dominio de otros los denominados GAFAM4, Netflix y Spotify, brindándoles mayor flujo de datos y tiempo de permanencia gracias al confinamiento o presentando desafíos a otros previamente focalizados en la presencialidad —Airbnb, Uber, happn—.

 

 

Pasados ya algunos meses, podemos entrever que, frente a las predicciones cuasi totalitarias (Byung-Chul Han, 2020) del papel del acompañamiento algorítmico en la pandemia, se pueden vislumbrar una serie de aristas y perspectivas.
Por un lado, se evidenciaron las limitaciones de los modelos predictivos en torno a surgimientos de nuevos brotes de COVID-19. Esto ocurrió tanto en los Estados en vías de desarrollo, que cuentan con mayores limitaciones tecnológicas, como también en aquellos más avanzados, o incluso en los que ya disponían de complejos sistemas de conducción algorítmica como China. Por parte de los actores privados, lo que ya había sido demostrado como un fracaso por parte de Google en su intento por predecir brotes de gripe y dengue5, nuevamente fue ratificado en este panorama: pese al acceso a las infinitas bases de datos no se logró establecer una psicohistoria6 como se presuponía. Sin embargo, estos actores sí pudieron demostrar su eficiencia en torno a registrar la circulación de la población, obteniendo mejores resultados que los desarrollos de software nacionales de muchos Estados y, por tanto, siendo la base más efectiva para las tomas de decisiones por parte de ellos o para la implementación de soluciones mixtas.

El enorme incremento del uso de las plataformas hegemónicas en la pandemia también operó en función de profundizar las tendencias previas respecto a debatir su accionar y su modelo de negocio. Así, se han intensificado los cuestionamientos respecto a su carácter de intermediarios, especialmente en torno a su funcionamiento algorítmico, lo cual incitó a llevarlas al banquillo y avanzar sobre posibles regulaciones y peticiones de apertura de sus algoritmos. A su vez, la pandemia ayudó a ver la importancia de la prevención de las fake news, dado que, en un contexto de fuerte incertidumbre y cambios constantes, el incremento de la interconexión de los sujetos también genera un incremento del peligro de la circulación de informaciones no chequeadas.

Frente a las predicciones sobre el uso cuasi totalitario de los algoritmos, su aplicación para combatir a COVID-19 abre nuevas expectativas

En conclusión, la pandemia abre una ventana para poner en tensión las formulaciones previas respecto a la gubernamentalidad algorítmica como también entrever nuevas aristas de debate y problemáticas. Si bien se ha desplegado un panorama donde se ha masificado e intensificado la interrelación con las tecnologías digitales permitiendo mayores procesos de extracción y perfilamiento algorítmico, se han evidenciado diversas limitaciones en torno a sus modelos predictivos y de control que, en muchos casos, eran descritos previamente como una lógica cuasi totalitaria y perfeccionada.

Asimismo, se ha confirmado la dependencia del Estado de los desarrollos de estas plataformas algorítmicas para poder disponer de datos y registros actualizados y fiables para tomar medidas de gobierno de las poblaciones. Sin embargo, la mayor presencia y dependencia respecto de estas plataformas algorítmicas para administrar la circulación o mantener espacios de transindividualidad también presenta la oportunidad de impulsar un debate, previamente tímido, respecto al rol de estas plataformas y de sus algoritmos en las prácticas, relaciones y constitución de la subjetividad de individuos y colectivos, como también poner en relevancia las fake news, los efectos que estas pueden ocasionar y el rol de la sociedad civil en su prevención. Si bien los procesos respecto a COVID-19 no parecen cercanos a finalizar, lo ya transcurrido nos permite disponer de bases de análisis en pos de poder generar herramientas más adecuadas para abordar lo que vendrá.

Notas

 1Especialmente con la creación del smartphone, que posibilitó un incremento de las interacciones de los sujetos y objetos técnicos como también un seguimiento geolocalizado constante (Sadin, 2017).

 2Según datos de Alexa, de los primeros veinte sitios web y apps más utilizadas a nivel mundial solo Wikipedia (puesto 13) se maneja sin ningún tipo de lógica de perfilado algorítmico.

 3Especialmente Google, Apple, Facebook, Amazon y Microsoft (las denominadas como GAFAM) y sus familias: Gmail, GDrive, YouTube, iTunes, WhatsApp, Instagram, Amazon Prime Video, Xbox, etcétera.

 4Los denominados GAFAM son Google, Apple, Facebook, Amazon y Microsoft.

 5Google Flu Trends fue un proyecto surgido en 2008 con la finalidad de predecir y anticipar brotes de gripe y dengue con base a los datos recolectados de las búsquedas, diálogos y actividad de los usuarios en Internet. Si bien el proyecto fue celebrado en su inicio con un artículo en la revista Nature en 2009, en 2014 otra investigación publicada en la revista Science señaló los fallos y errores en las predicciones generadas junto con graves problemas de transparencia. Esto llevó a que el proyecto fuera descontinuado en el año 2015.

 6La psicohistoria es una ciencia ficticia presente en la saga literaria Fundación escrita por Isaac Asimov cuya característica es poder predecir estadísticamente con un gran grado de efectividad comportamientos sociales futuros para tomar acción con base a ellos.

Bibliografía

Byung-Chul, H. (2020): “La emergencia viral y el mundo de mañana” en AAVV (2020): Sopa de Wuhan: pensamiento contemporáneo en tiempo de pandemias. Buenos Aires, ASPO.
Deleuze, G. (1999): “Posdata a las sociedades de control” en Conversaciones 1972-1990. pp. 277-285. Valencia, Pre-Textos.
Foucault, M. (2007): El nacimiento de la biopolítica. Curso en el Collège de France. Buenos Aires, FCE.
Rouvroy, A. y Berns, T. (2015): “Governamentalidade algorítmica e perspectivas de emancipação: o díspar como condição de individuação pela relação?” en revista ECOPOS, vol. 18, Nº 2, “Tecnopolíticas e Vigilancia”, pp. 36-56. Disponible en: https://revistas.ufrj.br/index.php/eco_pos/article/view/2662/2251
Sadin, E. (2017): La humanidad aumentada: la administración digital del mundo. Buenos Aires, Caja Negra editora.

Artículo publicado en la revista Telos 116


Ir al número ...


Martín Gendler

Licenciado y profesor en Sociología (FSOC-UBA), diplomado superior en Gobernanza de Internet (UDESA-UFRGS) y doctorando en Ciencias Sociales (FSOC-UBA) con beca del CONICET. Miembro del Programa de Estudios sobre la Sociedad de la Información (IIGG-UBA).


Comentarios