El debate sobre la privacidad digital se viene centrando en la información que generamos cuando navegamos, compramos o conversamos. Nos preocupa quién accede a ella, para qué y cuánto control tenemos sobre nuestros datos. Ya lo enunció Andrew Lewis en 2010: “Si no estás pagando por ello, no eres el cliente; eres el producto que se vende”. Hemos aprendido que las empresas recopilan esos datos y los explotan comercialmente, casi siempre sin nuestro consentimiento expreso.
La inteligencia artificial está llevando esa preocupación a otro nivel. Nuestros datos ya no sirven únicamente para saber qué hemos hecho, comprado o visitado. Con nuestros datos se están alimentando sistemas capaces de predecir comportamientos, riesgos o intenciones y utilizar esas predicciones para tomar decisiones.
Con nuestros datos se están alimentando sistemas para predecir comportamientos y tomar decisiones
La pregunta ya no es qué saben de nosotros, sino qué pueden decidir sobre nuestro futuro a partir de lo que creen saber.
El panóptico tradicional se basa en la observación. La digitalización añade la capacidad de almacenar todo lo que hacemos. Todo queda registrado de manera persistente y todo puede ser analizado posteriormente. Y la inteligencia artificial añade ahora una tercera dimensión: a partir de esos datos, podemos predecir comportamientos futuros.
El salto no es menor. Hasta ahora las plataformas reconstruían nuestro comportamiento para ofrecernos productos y servicios afines. Ahora están anticipando lo que probablemente haremos y actuando en consecuencia. Entonces los datos dejan de describir la realidad del pasado y empiezan a condicionar el futuro.
Pensemos en una plataforma de formación. A partir de nuestras preferencias y cursos, nos recomendará contenidos similares o complementarios. Pero, ¿qué pasa si la plataforma predice que no vamos a terminar un curso de programación? La plataforma no lo mostrará entre nuestras opciones y el algoritmo habrá evitado de facto que aprendamos programación. La predicción habrá empezado a modificar lo que pretendía predecir. Nuestro pasado habrá servido para decidir qué podemos aprender mañana.
Esta capacidad de reducir las opciones futuras es especialmente relevante cuando queremos optimizar rutas, procesos industriales, consumo energético, inventarios o las redes de telecomunicaciones. Pero las personas no somos procesos industriales. Aprendemos, cambiamos de opinión, nos equivocamos, adquirimos nuevas capacidades y tomamos decisiones que nuestro comportamiento anterior no habría permitido anticipar. Gran parte de la innovación surge del azar y de las combinaciones improbables.
Por eso, aunque la inteligencia artificial ya está mejorando nuestra capacidad de predicción, deberíamos preocuparnos no tanto de qué saben las empresas de nosotros, sino de qué ámbitos queremos que sigan siendo impredecibles.
Europa ha construido buena parte de su aproximación al mundo digital alrededor de la protección de los usuarios. Los derechos digitales buscan que podamos controlar nuestros datos y que nuestros derechos fundamentales se respeten también en internet. Pero quizás proteger nuestros datos ya no sea suficiente. Nuestra tesis es que tanto o más importante es proteger también las posibilidades que pueden desaparecer como consecuencia de las inferencias realizadas con nuestros datos.
Podríamos denominarlo derecho a un futuro abierto. No estamos hablando necesariamente de una nueva figura jurídica, sino de un principio desde el que plantearnos algunas preguntas. Por ejemplo: ¿hasta qué punto debería nuestro pasado determinar las oportunidades que recibamos mañana? Nos recuerda a polémicas ya planteadas con el derecho al olvido, que defiende que un hecho del pasado no debería perseguirnos indefinidamente.
Con la inteligencia artificial el problema es diferente: ¿Qué sucede si en lugar de hechos conocidos y ciertos son predicciones del futuro las que condicionan nuestras oportunidades? ¿Quién y cómo determina la fiabilidad o validez de esa predicción? ¿Durante cuánto tiempo debería acompañarnos? ¿Cuándo y por qué decae? ¿Debe la eficiencia estadística determinar nuestras decisiones? Son preguntas tecnológicas, pero también jurídicas, económicas, éticas y políticas.
Hay una incertidumbre derivada de la falta de información que la tecnología puede ayudarnos a reducir. Pero hay otra que nace de nuestra capacidad para cambiar, elegir y hacer algo diferente de lo esperado, es decir, actuar de una manera diferente a la que nuestro comportamiento anterior habría permitido predecir.
La primera limita nuestras decisiones. La segunda amplía nuestras posibilidades. Confundirlas puede llevarnos a sistemas extraordinariamente eficientes para anticipar el comportamiento humano, pero también a una sociedad más determinista. Cuanto más utilicemos nuestro pasado para predecir el futuro, más debemos preocuparnos por proteger las opciones que la predicción puede dejar fuera.
Por eso, el derecho a un futuro abierto no debe impedirnos utilizar la capacidad predictiva de la tecnología. Se trata de aplicarla garantizando la opcionalidad de las personas, sin convertir la probabilidad en destino, reservándonos la capacidad de contradecir aquello que los datos dicen que probablemente seremos o haremos. Porque podemos aprender, equivocarnos, cambiar de opinión y escoger un camino improbable.
La tecnología puede ayudarnos a anticipar problemas, tomar mejores decisiones y ampliar nuestras capacidades. Por eso debemos preguntarnos dónde ponemos el límite. No necesitamos sistemas que decidan quiénes vamos a ser. Necesitamos sistemas que nos ayuden a ampliar lo que podemos llegar a ser.
Quizás ahí esté la próxima frontera de la libertad digital.

Álvarez Caro, M. (2015): Derecho al olvido en internet: el nuevo paradigma de la privacidad en la era digital. Madrid, Editorial Reus.
Lewis, A. [@andlewis]. “If you are not paying for it, you’re not the customer; you’re the product being sold” en X (2010, 13 de septiembre). Disponible en: https://x.com/andlewis/status/24380177712
Yuste, R., Goering, S., Arcas, B. et al. “Four ethical priorities for neurotechnologies and AI” en Nature (2017, 551, pp. 159-163). Disponible en: https://doi.org/10.1038/551159a
Comunidad de profesionales independientes que debate sobre las tecnologías emergentes, las oportunidades que plantean y su impacto en la sociedad, teniendo en cuenta las dimensiones legales, normativas y éticas.
Comunidad de profesionales independientes que debate sobre las tecnologías emergentes, las oportunidades que plantean y su impacto en la sociedad, teniendo en cuenta las dimensiones legales, normativas y éticas.
Ver todos los artículos