8 de abril de 2019

A

Algoritmos: el poder del control social

por Eduardo Olier

Los algoritmos son hoy la esencia del poder. Lo que se traduce en la clave del control político, social y económico. El dominio de estas técnicas matemáticas dividirá el mundo entre aquellos capaces de imponer sus criterios y los que estén dominados por los primeros. Las nuevas tecnologías basadas en el dominio de los algoritmos abrirán una brecha entre las personas y entre los países cambiando los conceptos que hoy conocemos como riqueza y pobreza.

 

En marzo del año 2018, The New York Times, en colaboración con The Observer y The Guardian, publicó una información relativa a Cambridge Analytica con la que se demostraba que esta empresa había conseguido datos de manera fraudulenta desde Facebook de un enorme número de personas. Con ello se trataron de construir perfiles de votantes que facilitaran la llegada de Donald Trump a la Casa Blanca. Algunos medios, como The Guardian refiriéndose a The Observer, hablaban de cincuenta millones de individuos cuyos datos personales habían sido substraídos desde la plataforma de esa red social. Mike Schoepfer, director de tecnología de Facebook, lo elevaba a 75 millones, la mayoría norteamericanos. Detrás del escándalo surgían los nombres de Robert Mercer, uno de los accionistas de Cambridge Analytica y conocido benefactor de partidos a la derecha del espectro político; y también de Stephen Bannon, miembro del consejo de administración de la sociedad, y que, en su día, había sido colaborador de Donald Trump.

El escándalo adquirió tal repercusión que el creador de Facebook, Mark Zuckerberg, tuvo que aparecer a finales del mes de marzo de 2018 para admitir los errores que había cometido su empresa en la custodia de los datos de los usuarios. El problema, según él, residía en que los usuarios de Facebook comparten sus datos sin tenerlos protegidos; de ahí las filtraciones hacia el exterior. Se acusó él mismo de no haber tenido en cuenta la posibilidad de que los datos personales almacenados en Facebook fueran objeto de manipulación por terceros. Aseguró que tratarían de evitarlo.

Las cosas no quedaban allí. Otras noticias, especialmente las ofrecidas por Channel 4, cuarto canal de televisión británico, sacaban a la luz ese mismo mes los trucos que tenían algunos ejecutivos de Cambridge Analytica para manipular campañas electorales. Las actividades no se limitaban a Estados Unidos sino que había decenas de países entre los que estaban, por ejemplo, Argentina, India, Kenia o Nigeria. En todo el asunto aparecía como inductor Alexander Nix, consejero delegado de la empresa. Cambridge Analytica salió al paso cesándole y defendiendo que ese tipo de acciones nada tenían que ver con los valores de la sociedad. El daño, sin embargo, estaba hecho: Cambridge Analytica echaba el cierre en mayo del año pasado.

Se trata de algoritmos. Un nuevo instrumento tecnológico de poder social que se transforma también en un potente elemento de poder económico y político

El asunto de Donald Trump era especialmente singular debido a su importancia: se trataba de la elección del presidente de la mayor potencia mundial. Al hilo del caso The Times sacaba también a relucir las relaciones de John Bolton, asesor de seguridad del presidente Trump, con Cambridge Analytica. Se decía que la empresa había proporcionado a Bolton ciertas versiones de perfiles de usuarios de Facebook para su uso de acuerdo con los objetivos que más podían beneficiar a la candidatura de Trump.
El caso de la utilización de Facebook en la manipulación de los comportamientos no era único. En 2014 Facebook también tuvo que pedir disculpas por haber llevado a cabo un “experimento psicológico” con un elevado número de personas en su red social. Cerca de 700.000 usuarios de la plataforma fueron objeto, sin su conocimiento, de una prueba dirigida a comprobar sus reacciones ante una serie de informaciones que les eran propuestas en sus páginas. Se trataba de verificar si el contagio emocional existe y si tal contagio podía ser manipulado.

 

Muestra de árboles de decisiones y redes relacionales. Referencias a las matemáticas y diagramas. (Cambridge analítica, NSA, Kramer). ILUSTRACIÓN: RAFA HÖHR

 

Los resultados fueron publicados en los Proceedings of the National Academy of Sciences of the United States of America (PNAS), donde se mostraba cómo las emociones pueden ser transmitidas de unas personas a otras sin que las personas afectadas se den cuenta de ello. Para ello, no es preciso que haya contacto físico ni tampoco transmisión verbal, bastan los comentarios de unos y otros para inducir el contagio. El experimento, coordinado por Adam Kramer, científico de Facebook, analizó tres millones de posts. Según él, los datos que se encuentran en Facebook constituyen el mayor campo de estudio para el comportamiento humano en la historia de la humanidad. No en vano Facebook tiene más de dos mil millones de usuarios en todo el mundo.

Lo anterior, aunque es sorprendente, no refleja la totalidad del asunto. Hay que referirse también a la agencia de inteligencia estadounidense NSA (National Security Agency), sobre la cual el 6 de junio de 2013 The Washington Post publicaba una información: su programa PRISM le permitía entrar en las principales compañías de internet y, desde allí, obtener la información que estimaba estratégica para la defensa nacional. PRISM había sido aprobado bajo el Foreign Intelligence Surveillance Act (FISA), una ley federal que permite ese tipo de prácticas. Los documentos mostrados por The Washington Post dan detalle sobre la forma en que PRISM obtiene la información que quiere. Entre las empresas objeto de las actividades de la NSA estaban, por ejemplo, Microsoft, Google, Apple, Facebook, Yahoo o YouTube. A través de ellas la NSA obtiene vídeos, fotos, archivos, enlaces, y otro tipo de información. En definitiva, todo lo que precisa para controlar a sus potenciales enemigos.
¿Qué es lo que está detrás de esas capacidades? ¿Cómo se pueden analizar millones de datos en forma de vídeos o textos en las más variadas formas? ¿Cómo es posible, por ejemplo, que la policía de Chicago sea capaz de determinar la peligrosidad de una persona que no ha sido nunca detenida y diga tener bajo control a, al menos, 400.000 ciudadanos en una lista confidencial según su nivel de peligrosidad? O también, ¿de qué medios se sirvió la policía de Memphis en Tennessee para detener en un tiempo récord a 1.200 personas bajo la denominada Operation Blue Crush, un acrónimo que significa Criminal Reduction Utilising Statistical History? Se trata de los algoritmos. Un nuevo instrumento tecnológico de poder social que se transforma también en un potente elemento de poder económico y político.

Mediante los algoritmos, los datos personales que se encuentran en internet son objeto de predicción para, si es el caso, juzgarlos, condenarlos o manipularlos

La democracia, en peligro

Los ejemplos son tan numerosos que se puede decir que el mundo se mueve hoy al son de los algoritmos. Un nuevo instrumento de poder que la sociedad en su conjunto ignora. Un ataque evidente a la libertad individual ajeno a cualquier tipo de control. Mediante los algoritmos, los datos personales que se encuentran en internet son objeto de predicción para, si es el caso, juzgarlos, condenarlos o manipularlos según interese. Una circunstancia que acaba anulando el principio de inocencia y pone en jaque la justicia y la libertad de las personas. Sin olvidar que la privacidad es permanentemente vulnerada, con lo que cualquier ciudadano está sometido a una nueva dictadura que nace de sus datos personales, que pueden ser utilizados por poderes públicos o privados sin ningún control. Más aún, no solo se trata del control de los individuos sino de la manipulación interesada de sus voluntades, ya sea impulsando motivaciones comerciales o, simplemente, tratándolos como sujetos que entregan su voto en democracias pervertidas donde el poder político tiene la capacidad de anular el libre albedrío. Una situación que hace temer que, en un futuro no muy lejano, sociedades enteras estén sometidas a un poder sin control alguno. De suceder, la democracia, hoy en peligro, acabará desapareciendo.

En todo este contexto, también hay que referirse al mundo financiero. Nada escapa hoy al poder de los algoritmos. No hay que olvidar sucesos como el acaecido el 6 de mayo de 2010 cuando el Dow Jones cayó 1.000 puntos en tan solo unos minutos y se recuperó de nuevo unos veinte minutos después. Las razones de lo que entonces se llamó el flash crash se debió a ciertos algoritmos utilizados en ordenadores que operan automáticamente sin asistencia humana y compran o venden posiciones de multitud de valores en Bolsa de acuerdo a unas estrategias predefinidas. Detrás están los quants, unos analistas financieros que desarrollan programas informáticos con técnicas de la física o de las matemáticas, que son capaces de crear algoritmos que pueden atacar empresas cotizadas para conseguir, con la manipulación de su valor en bolsa, ingentes cantidades de dólares.
Desde otro ángulo, ¿cómo es posible que existan ya en la actualidad vehículos que de manera automática tomen decisiones, por ejemplo, sobre la compra de carburante mientras se dirigen directamente a la gasolinera, que decidan el concesionario adecuado para realizar una reparación o que acuerden automáticamente con otros pasajeros un viaje compartido sin que el dueño del vehículo sepa cómo se hace?

No se trata de ciencia ficción. Véanse los conocidos asistentes personales. Siri de Apple, Google Assistant o Amazon Alexa, por ejemplo, ¿están ahí para ayudar o para controlar a sus usuarios? Por no hablar del profundo conocimiento que estas compañías tienen de todo aquel que utilice sus servicios.

Google, por ejemplo, es capaz de construir el perfil de publicidad de cada persona una vez que, repetidamente, accede a sus páginas; o inducir supuestamente al racismo como indica Safiya Noble en su libro Algorithms of Oppression.

No se trata solo del control de los individuos sino de la manipulación interesada de sus voluntades, ya sea por motivos comerciales o para que entreguen su voto en democracias pervertidas

Y también Amazon, tan poderoso como Google en el control de sus clientes. Una empresa que acapara más del 20% del mercado de la distribución en Estados Unidos. Su sistema de recomendaciones de compras a clientes es mucho más potente que los conocidos likes (“me gusta”) de Facebook, Google o Apple. Por no hablar de las condiciones de uso de Google o de cualquier otra de las conocidas como “tecnológicas” que, una vez aceptadas, le dan a la compañía en cuestión enormes capacidades para vulnerar los derechos en la propiedad privada de sus usuarios. Para estas empresas no basta vender online: buscan conocer los intereses de los clientes y, si es posible, manipularlos en la dirección que más les beneficie.

¿Qué son los algoritmos exactamente? ¿Cómo se construyen? ¿En qué basan su poder para obligar a las personas a decidir incluso aquello que no les conviene? Baste apuntar en el contexto de este artículo, que los algoritmos son unos mecanismos matemáticos que tratan de garantizar la solución de un problema concreto en un determinado tiempo, o que demuestran la inexistencia de esa solución. En síntesis, son un procedimiento mediante el cual se produce un deseado efecto con una serie de instrucciones organizadas según fórmulas matemáticas o no. O para ser más concretos: un algoritmo es un conjunto de instrucciones que determina el contenido y la secuencia de una serie de acciones determinadas capaces de transformar unos datos iniciales en un resultado buscado.

Se abre así una nueva época de impactos desconocidos, aunque los menos dotados, los que tengan menores conocimientos o aquellos que realizan tareas repetitivas, serán sin ninguna duda sustituidos por máquinas en las que los algoritmos serán el instrumento fundamental en su funcionamiento. Un poder que, en definitiva, metidos de lleno en el siglo XXI, conjugará enormes capacidades tecnológicas con potentes mecanismos capaces de analizar matemáticamente millones de datos a través de lo que se conoce como big data. Todo, en un mundo donde, como avanza Yuval Harari en Homo Deus, dará origen a una “clase inútil”: un nuevo grupo humano que estará fuera de la comprensión de las nuevas máquinas. Una suerte de personas “superfluas”, que quedarán apartadas del camino y solo serán el objeto de manipulación de las nuevas clases tecnológicamente dominantes. Una nueva sociedad en la que unos pocos acabarán por dominar a la mayoría.

Bibliografía

Hariri, Y.N. (2018): Homo Deus. Breve historia del mañana. Barcelona, Debate.

Maccormick, J. y Bishop, C. (2013): Nine Algorithms That Changed the Future. The Ingenious Ideas That Drive Today’s Computers. Nueva Jersey, Princeton University Press.

Noble, S. U. (2018): Algorithms of Oppression. How Search Engines Reinforce Racism. Nueva York, NYU Press.

Pacuale, F. (2015): The Black Box Society. The Secret Algorithms That Control Money and Information. Cambridge, Harvard University Press.

Sedgewik, R. y Wayne, K. (2011): Algorithms. Boston, Addison Wesley.

Artículo publicado en la revista Telos 110


Ir al número ...


Eduardo Olier

Doctor Ingeniero de Telecomunicación, actualmente es presidente del think tank Instituto Choiseul para España y vicepresidente del European Think Tanks Observatory.


Comentarios

Artículos relacionados