12 de julio de 2019

P

¿Puede la digitalización del mundo poner en peligro el estado de derecho?

por Virginie Molinier

Hasta ahora, el derecho europeo se ha centrado exclusivamente en la protección de los datos de los individuos. Parece, no obstante, que las manifestaciones concretas de la digitalización van mucho más allá. Hasta hacer tambalear el estado de derecho.

 

[ ILUSTRACIÓN: DANIEL TORNERO ]

 

La digitalización del mundo físico consiste en su transcripción en un mundo virtual constituido por datos que no pueden ser entendidos por quienes no somos científicos de datos. Los ordenadores que guardan en su memoria este universo simétrico, y resultante de una mediación humana, son variados, revisten formas materiales e inmateriales muy diversas y tienen una potencia y una capacidad prácticamente infinitas que posibilitan, mediante el análisis de los datos realizados por algoritmos ideados por humanos, lo que se conoce como inteligencia artificial.

Durante las últimas décadas, los sistemas informáticos han desarrollado exponencialmente su capacidad de procesar, almacenar y transmitir datos. Partes enteras del mundo que conocemos han sido o están siendo transcritas como datos. Este fenómeno, conocido como big data, ha dado lugar a sistemas que conservan una cantidad inconcebible de datos y algoritmos diseñados por el intelecto humano y dotados de la posibilidad de evolucionar y adaptarse, que analizan el mundo para descubrir nuevas correlaciones en nuestro universo material.

El análisis del infinito océano de datos proporciona a la humanidad nuevos conocimientos, ocultos para el método tradicional de análisis de la causalidad. Gracias a la inteligencia artificial, obtenemos correlaciones entre distintos hechos sin que conozcamos su relación causal: sabemos que una cosa existe, aunque no por qué existe ni qué razonamiento se ha seguido para llegar a la conclusión de su existencia.

 

Esta evolución se ha venido produciendo en un sector que no es accesible para la gran mayoría de las personas, tanto por su confidencialidad como por su alta tecnicidad. Antes de que nos hayamos percatado, el mundo virtual ha ido acumulando nuestros datos para alcanzar unos objetivos que no siempre conocíamos o preveíamos. Ahora que la digitalización del mundo físico, así como el análisis que permite dicha digitalización, están muy avanzados, tomamos conciencia de su existencia y empezamos a pensar en los efectos, particularmente éticos —y, en consecuencia, jurídicos—, sobre nuestra sociedad.

Nos preguntamos si debemos permitir la digitalización sin restricciones o si, por el contrario, debemos encomendar al derecho la interposición de unos límites

Suele ser una cuestión aceptada que el objetivo del derecho es ser la traducción social de la ética. En efecto, el derecho, con el afán de organizar a la sociedad humana de manera lo más próxima posible a un ideal de justicia, ha ido regulando las interacciones prácticas entre los individuos. Frente a la revolución digital actual, cuyas consecuencias tentaculares se han propagado a innumerables aspectos de la vida social, el derecho no ceja en el empeño de aportar calificaciones legales a los hallazgos de la inteligencia artificial y a sus consecuencias en el mundo físico, esforzándose en dar respuesta a algunas preguntas sumamente complejas.

Uno de estos interrogantes, quizás el preliminar porque aborda el propio mecanismo de la digitalización, ha sido preguntarnos si debemos permitir la digitalización de nuestro entorno, sin restricciones o si, por el contrario, debemos encomendar al derecho la interposición de unos límites cuando los derechos fundamentales de los individuos puedan verse afectados.

El derecho de la Unión Europea ha dado respuesta a esta cuestión mediante el Reglamento General sobre la Protección de Datos, que entró en vigor en mayo de 2018, propugnando el principio de que la digitalización de los elementos que permiten identificar a una persona física esté condicionada, principalmente, a un consentimiento previo de la persona física con conocimiento de causa. Así pues, la pregunta que planteábamos, y la respuesta aportada por el derecho, nos conducen a un terreno sumamente práctico, toda vez que solamente se puede abarcar su objetivo y sus efectos si conocemos de manera concreta quiénes son los agentes de la digitalización en la sociedad actual.

Entonces, ¿quiénes son los agentes de la digitalización, con su enorme capacidad —en términos de tiempo, de fuerza de trabajo humano, de capacidad económica e intelectual— para traducir nuestra realidad en datos inteligibles para los sujetos de la inteligencia artificial? Básicamente son, por una parte, los Estados más desarrollados —y, en consecuencia, los más potentes— y, por otra parte, las inmensas empresas del sector virtual, cuya potencia financiera y social es superior a la de muchos Estados.

Antes de que nos hayamos percatado, el mundo virtual ha ido acumulando nuestros datos con unos fines que no siempre conocíamos o preveíamos

Estos agentes han ido digitalizando el mundo y, simultáneamente, extrayendo de este análisis las correlaciones que permiten la adquisición de nuevos conocimientos —particularmente, los comportamientos, gustos e inclinaciones de los humanos— para alcanzar objetivos propios: el control de los ciudadanos con fines de seguridad y de orden público para los Estados y la realización de sus objetivos comerciales, en el caso de las empresas. Como veníamos apuntando, el derecho europeo establece la supremacía de los intereses de los individuos sobre los de las entidades administrativas o comerciales, imponiendo, en relación con el tratamiento de datos personales, la obligación de comunicar a los individuos la existencia y la finalidad de dicho proceso, así como ofrecerles la posibilidad de oponerse.

Amparadas bajo este marco regulatorio, las personas cuyos datos son recogidos y tratados por entidades europeas o cuyo tratamiento de datos tiene efectos en Europa están, teóricamente, en condición de oponerse a dicho tratamiento, así como a la circulación de los datos que permitan identificarles. Sin embargo, cabe preguntarse si las condiciones en las que se ejercen la comunicación del tratamiento, el consentimiento o la denegación permiten realmente a los individuos ejercer su libre albedrío.

¿Es el tratamiento libre de los datos supuestamente no personales verdaderamente inocuo para el derecho a la privacidad de los individuos?

El análisis imparcial del universo virtual que nos rodea nos obliga a contestar negativamente. Lo demuestra el porcentaje ínfimo de individuos que invalidan la utilización de cookies (programas informáticos que espían nuestros comportamientos en Internet y los digitalizan) en los múltiples sitios web que comunican su existencia o aquellos pocos que impiden la cesión de sus datos a centenares de empresas. También resultan reveladoras las complejas, oscuras e interminables políticas de privacidad de los agentes internacionales de la digitalización, muchas veces no conformes con el derecho europeo y, por lo tanto, ilegales, que, con el objeto de evitar la regulación europea, se sujetan al derecho estadounidense o a otras jurisdicciones menos restrictivas. Lo demuestra también la facilidad con la que los datos pierden el carácter anónimo y permiten identificar a las personas cuando se cruzan con otros datos, ya sean anónimos o personales.

La digitalización y el uso que hacen empresas y Estados de las correlaciones que permite el análisis mediante inteligencia artificial son, muchas veces, una omisión de los principios fundamentales del estado de derecho, base de los sistemas jurídicos de las democracias. De manera simplificada, el estado de derecho se concibe como aquel gobernado por un sis- tema jurídico en el que toda condena debe fundamentarse sobre una ley preexistente, en el que existe una verdadera tutela judicial — conocimiento de los hechos imputables, fundamentación de la ilicitud, derecho a la defensa y absolución en caso de que un poder judicial independiente no considere la culpa probada—, y en el que la ley, en su sentido amplio, se aplica a todos los individuos y entidades. Recoge, pues, los principios fundamentales del derecho, casi idénticos en todos los sistemas.

 

 

Hoy en día, el análisis de datos personales y anónimos recogidos por diversas fuentes y cedidos a entidades de todo tipo posibilita que los individuos se puedan ver privados, por ejemplo, del acceso a un seguro, a un crédito o a un puesto de trabajo. Y las razones pueden ser de lo más variadas: porque viven en barrios donde se producen más infracciones legales, porque tienen una profesión en la que se han detectado más problemas de reembolso de préstamos o porque han revelado que sufren una afección de salud que, mediante el análisis de datos realizado por la compañía de seguros, el banco o el potencial empleador, revela un aumento de las probabilidades de siniestros, impagos o problemas de adaptación laboral. El proceso que conduce a las entidades a la toma de una decisión desfavorable al individuo es sumamente opaco: se toman en consideración correlaciones cuya articulación es difícilmente explicable —más allá de los conocimientos matemáticos especializados, y a veces ni siquiera en este caso, si el algoritmo es evolutivo en función de los datos analizados—. Por lo tanto, si no se sabe sobre qué bases reales ha sido tomada una decisión, ¿cómo puede la persona afectada por tal decisión atacarla? ¿Cómo puede defenderse y demostrar que se le condiciona sobre la base de correlaciones predictivas sin fundamento real o que es víctima de una discriminación ilegal? En todos estos casos, resulta flagrante que se vulnera considerablemente el derecho del individuo a la tutela judicial efectiva.

Otro principio fundamental del estado de derecho es la presunción de inocencia: mientras no se ha demostrado con certeza, mediante pruebas discutidas y admitidas por una autoridad judicial, que alguien es culpable, esta persona se considerará inocente. Sin embargo, es llamativo el hecho de que hoy existan en Estados Unidos sistemas virtuales que, en función de un análisis de parámetros de individuos en situación de ser condenados —tales como su pasado, su entorno familiar, su nivel de estudios o sus antecedentes judiciales—, determinan las probabilidades que estos tienen de reincidir. En función del resultado de dichos sistemas de análisis virtual, los jueces pueden adaptar las sanciones. Esta situación es muy grave y contradice las bases de nuestro sistema legal porque se basa en pronósticos y no sobre la certeza de unos hechos acontecidos. La presunción, que siempre se presumía en favor del acusado o investigado, deviene una herramienta para condenar un posible —o probable— delito. ¿Será realmente más justa una justicia predictiva, otorgadas por ordenador, y totalmente extranjera a la intuición humana, a la excepción que puede ser más justa que la fría aplicación de la ley?

De esta situación, y más allá de las importantes consecuencias legales, podemos deducir un paradigma que podría sacudir las bases de nuestra comprensión del ser humano y el entorno en el que se desenvuelve. En efecto, si se concibe el mundo únicamente como la ocurrencia indudable de lo probable, ¿qué espacio dejamos a la imprevisible libertad humana, al acaecimiento de lo inesperado y, en definitiva, a las sorpresas que da la vida? ¿Se nos abrirá un futuro sin alternativa de elección respecto de aquello que no estaba previsto que aconteciese? ¿La inteligencia artificial nos contaminará hasta este punto? Numerosos son los debates, análisis y deliberaciones sociales que nos aguardan en el camino hacia la definición de una ética aplicada al mundo digital y a la promulgación de una reglamentación respetuosa con los principios fundamentales del estado de derecho, capaz de abarcar las consecuencias prácticas de la revolución virtual.

Bibliografía

Garapon, A. y Lassègue, J. (2018): Justice digitale. Révolution graphique et rupture anthropologique. París, Presses Universitaires de France/Humensis.

Hildebrandt, M. (2015): Smart technologies and the end(s) of law. Cheltenham, Edward Elgar Publishing.

Iteanu, O. (2016): Quand le digital défie l’état de droit. París, Éditions Eyrolles.

Mayer-Schönberger, V. y Cukier, K. (201): Big data. Nueva York, First Mariner Books.

O’Neil, C. (2016): Weapons of math destruction. Londres, Penguin random House.

Sadin, E. (2015): La vie algorithmique. Critique de la raison numérique. París, Éditions l’Échapée.

Artículo publicado en la revista Telos 111


Ir al número ...


Virginie Molinier

Abogada colegiada en Francia y en España. Magister en Derecho Internacional (LLM) y de los contratos en la Universidad de San Francisco. Licenciada en Filosofía. Asesora a clientes internacionales en su proyectos y litigios en España y en protección de datos.


Comentarios

Artículos relacionados