22 de junio de 2018

E

El Derecho de los robots

por Moisés Barrio

Al igual que en su momento surgieron el Derecho del trabajo o el Derecho ambiental, hace falta ir preparando el terreno para reglamentar la actividad de los robots y los sistemas de inteligencia artificial.

 

Los autómatas, los mecanismos ingeniosos, nos fascinan desde la antigüedad1 y abrieron el camino a otras criaturas mecánicas, como los robots, y después a ingenios inmateriales o no corporales como los sistemas de inteligencia artificial (IA) que llevan ya cierto tiempo entre nosotros. Luego vendrían los cyborg, anunciando lo transhumano y lo poshumano, fruto de las investigaciones sobre las relaciones entre cerebro y máquinas, sobre los interfaces cerebro–ordenador –los Brain–machine interfaces (BMIs) o Brain–computer interfaces (BCIs)– y, más en general, sobre la interacción persona–ordenador –la Human–computer interaction (HCI)–.

Los robots ya han llegado, y más están en camino. Los robots han salido de las cadenas de montaje de las fábricas para circular por las carreteras, como sucede con los primeros prototipos de coches o camiones autónomos, para volar en espacios aéreos más bajos para entregar mercancías por medio de drones o realizar reconocimientos para detectar construcciones no declaradas, por ejemplo. También están reemplazando a los electrodomésticos para crear hogares conectados e inteligentes, y asimismo están viajando a lugares más allá de la capacidad humana para abrir nuevas fronteras al descubrimiento espacial.

Más aún, estamos siendo partícipes de la incorporación gradual a nuestras vidas de los llamados asistentes virtuales, cuya misión es facilitar la vida cotidiana a las personas. Pueden ser antropomorfos o no, o incluso no tener ninguna forma tangible como es la aplicación Siri de Apple (Alexa de Amazon, Cortana de Microsoft o Google Now de Google). Estos productos son auténticos cerebros globales, porque utilizan contenidos disponibles en Internet y no están, por ello, sujetos a las limitaciones de sus diseñadores. Igualmente ya están disponibles humanoides como Pepper o Sanbot, cuyo propósito es ser un compañero emocional del propietario, en el sentido de hablar y entender las emociones humanas, o incluso ser capaz de expresar algunas.

Los robots, grandes y pequeños, se han integrado en la asistencia sanitaria, el transporte, la recopilación de información, la producción industrial o el entretenimiento. Todo ello en espacios públicos y privados

Y, próximamente, las administraciones públicas y los tribunales de justicia tendrán que lidiar con procedimientos relativos a los mismos. Del mismo modo, a medio plazo, los robots interactuarán progresivamente de manera autónoma e independiente del control humano, con la posibilidad de que incluso las personas se hibriden con exoesqueletos para mejorar o restablecer sus funciones fisiológicas. En este último caso se trata de las repairing and capacity enhancing technologies, que ensanchan y modifican la noción de cuidado del cuerpo.

Así las cosas, los robots, grandes y pequeños, se han integrado en la asistencia sanitaria, el transporte, la recopilación de información, la producción industrial o el entretenimiento. Todo ello en espacios públicos y privados. Lo mismo cabe señalar de los cada vez más complejos sistemas de inteligencia artificial, que nosotros englobamos también dentro del concepto de robot (o sistema robótico) –por cuanto, como he desarrollado en otro lugar, ambas nociones se fundirán en una única categoría, como viene sucediendo con la propia red telefónica e Internet–, los cuales ordenan las modalidades de funcionamiento de amplias áreas de nuestras organizaciones sociales, incluso dando lugar a lo que se ha denominado como la dictadura del algoritmo.

Propiedades disruptivas

Por ello, cabe afirmar que los robots y los sistemas de inteligencia artificial son uno de los grandes inventos verdaderamente disruptivos del entorno digital y constituyen, sin duda, un vector de cambio vertiginoso de nuestras sociedades que apenas hemos comenzado a vislumbrar.

Lo que une a todos estos artefactos es la característica de que tales máquinas presentan cierto grado de autonomía en su funcionamiento, de impredecibilidad, y también cuentan con la capacidad de causar daño físico, lo que abre una nueva etapa en la interacción entre los seres humanos y la tecnología. A diferencia del software y de Internet, aquéllos están diseñados para actuar sobre el mundo off–line. La capacidad de actuar físicamente sobre el mundo real se traduce, a su vez, en el potencial de dañar materialmente a las personas o a las cosas.

A diferencia del software y de Internet, aquéllos están diseñados para actuar sobre el mundo off–line. La capacidad de actuar físicamente sobre el mundo real se traduce, a su vez, en el potencial de dañar materialmente a las personas o a las cosas

Además, los sistemas más avanzados no repiten instrucciones, sino que se adaptan interactivamente a las circunstancias, y tienen capacidad de aprendizaje, hasta con posibilidad de modificar su código. El daño es un efecto conjunto del software, hardware y forma de uso. Incluso el software es bastante probable que tenga errores o produzca resultados no previstos. Los bugs suelen ser difíciles de detectar y pueden originarse a través de la combinación de múltiples modificaciones y adiciones de variados equipos. Finalmente, los robots y los sistemas de inteligencia artificial son objeto de ciberataques.

Y son estos rasgos lo que convierte al objeto de nuestro artículo en su conjunto en un campo relevante para los reguladores y los operadores jurídicos. ¿Son nuestros marcos jurídicos en vigor adecuados para hacer frente a los avances de la robótica? ¿Pueden regularse las nuevas tecnologías robóticas, en particular si se caracterizan por un comportamiento autónomo cada vez mayor, dentro de los marcos legales y éticos existentes o, en caso contrario, deben hacerse más genéricas las normas jurídicas existentes para que incluyan también a los robots y los sistemas de IA?, o más bien ¿debemos aspirar a una disciplina jurídica autónoma y propia para los robots y la inteligencia artificial?

Un desafío normativo

Esta revolución conlleva nuevos desafíos a los que la regulación existente no da respuesta. Además, es necesario abordar no sólo cuestiones jurídicas, sino también sociales, económicas, de salud y éticas con el objeto de garantizar la libertad, autonomía y seguridad de los seres humanos, esclareciendo cuestiones tales como cuál es la condición jurídica del robot, si deben tener o no un régimen especial de derechos y obligaciones, quién asume la responsabilidad de las acciones y omisiones de los sistemas autónomos e impredecibles, o el conjunto mínimo indispensable de medidas organizativas, técnicas y legales para asegurar su desarrollo seguro y minimizar los riesgos a los que están expuestas las personas. Asimismo, la seguridad jurídica es crucial para el propio desarrollo de la tecnología y del mercado de la robótica, que alcanzará los 45 billones de dólares para el año 2020, y desde 2017 a 2020 se instalarán más de 2 millones de robots en fábricas de todo el mundo.

En efecto, el derecho tiene que brindar un marco legal de referencia a los operadores del sector, quienes están seriamente preocupados por las implicaciones de sus actividades y, además, necesitan disponer de una cobertura jurídica ante potenciales creaciones que superen los confines de los laboratorios. Por otro lado, el derecho está obligado a elaborar una regulación avanzada que pueda impulsar el desenvolvimiento de la robótica y asegurarle un desarrollo congruente con los valores propios de las constituciones y de la Carta de los derechos fundamentales de la Unión Europea.

La seguridad jurídica es crucial para el propio desarrollo de la tecnología y del mercado de la robótica, que alcanzará los 45 billones de dólares para el año 2020, y desde 2017 a 2020 se instalarán más de 2 millones de robots en fábricas de todo el mundo

Entre las distintas iniciativas reguladoras, cabe destacar la importante Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de derecho civil sobre robótica, que recoge las principales líneas de trabajo para el legislador al respecto, entre las que destacamos:

– la creación de una Agencia Europea de Robótica e Inteligencia Artificial;

– la elaboración de un código de conducta ético voluntario que sirva de base para regular quién será responsable de los  impactos sociales, ambientales y de salud humana de la robótica y asegurar que operen de acuerdo con las normas legales, de seguridad y éticas pertinentes. Prevé por ejemplo la exigencia de que los robots incluyan interruptores para su desconexión en caso de emergencia. Y recoge la necesidad de acordar una Carta sobre Robótica;

– promulgar un conjunto de reglas de responsabilidad por los daños causados por los robots;

– crear un estatuto de persona electrónica;

– estudiar nuevos modelos de empleo y analizar la viabilidad del actual sistema tributario y social con la llegada de la robótica;

– integrar la seguridad y la privacidad como valores de serie en el diseño de los robots;

– poner en marcha un Registro Europeo de los robots inteligentes.

El Derecho de los Robots, una nueva disciplina jurídica

Se hace así evidente la urgente necesidad de definir las condiciones de legitimidad jurídica de las nuevas invenciones y establecer con precisión un régimen claro de derechos y obligaciones. La primera y esencial cuestión tiene que ver con la existencia de un marco jurídico que garantice un progreso tecnológico que refuerce el libre desarrollo de la personalidad y los derechos fundamentales de los seres humanos, al tiempo que impida que la tecnología se convierta en una vía para hacer a las personas menos humanas y más pasivas, con una autonomía reducida, con una dependencia creciente y una pérdida de la capacidad de iniciativa con una eventual situación de subordinación irreversible que pueda expropiar la libertad y la humanidad misma.

Su análisis jurídico debe enmarcarse dentro de una nueva rama jurídica autónoma, el Derecho de los Robots (Robot Law), para dar respuesta a estos insólitos desafíos y situaciones disruptivas, como en su momento sucedió con el Derecho del trabajo o el Derecho ambiental.

Se propone un Derecho de los robots que a la vez adapte el derecho general –en cuanto que previamente vigente–, y, en la medida de lo necesario, genere un derecho nuevo como ya está sucediendo en los Estados Unidos al hilo del uso doméstico de drones y coches sin conductor

Precisamente, las bases de esta nueva disciplina –entre otras cuestiones– las hemos desarrollado recientemente en una obra colectiva, justamente titulada Derecho de los robots, en la que hemos identificado una serie de retos nucleares suscitados por el despliegue generalizado de la robótica y de la inteligencia artificial en la sociedad, mediante un estudio interdisciplinar que incluye los aspectos científicos, jurídicos, médicos y éticos más relevantes. Ahora bien, y como también he defendido al hilo de la autonomía científica y académica del Derecho de Internet o Ciberderecho, se propone un Derecho de los robots que a la vez adapte el derecho general –en cuanto que previamente vigente–, y, en la medida de lo necesario, genere un derecho nuevo como ya está sucediendo en los Estados Unidos al hilo del uso doméstico de drones y coches sin conductor, por ejemplo.

Conclusión

En definitiva, el derecho ofrece herramientas para dar respuesta a este fenómeno disruptivo, si bien queda naturalmente mucho por hacer en un campo todavía incipiente en parte. Abordar estas cuestiones de manera organizada es una empresa colosal, la cual requiere un diálogo permanente y profundo que debe implicar a las disciplinas jurídicas, éticas y científicas si se quiere que sea fecundo y útil, para permitir a los diseñadores de robots evitar los problemas legales y éticos concernientes a los mismos. Y todo ello en una rama jurídica nueva, el derecho de los robots, que a la vez adaptará el derecho general en vigor, y, en la medida de lo necesario, generará un derecho nuevo que respete los principios estructurales de dignidad, libertad e igualdad en el marco del mantenimiento de la democraticidad total de los sistemas robóticos y de inteligencia artificial.

Notas

 1Desde la antigüedad se construyeron máquinas con figura humana o de animales como, por ejemplo, el pájaro mecánico de Arquitas de Tarento (año 400-350 a.C.). Posteriormente cabe citar entre otros el caballero automático de Leonardo Da Vinci (año 1495) o la tocadora de laúd, obra de Giannello Della Torre (año 1540).

 2

Bibliografía

Barrio Andrés, M. (2018): Ciberderecho. Bases estructurales, modelos de regulación e instituciones de gobernanza de Internet. Valencia, Tirant lo Blanch.
Barrio Andrés, M. (2018): Derecho de los Robots. Madrid, Wolters Kluwer.
Barrio Andrés, M.: “Hacia una personalidad electrónica para los robots” en Revista de Derecho Privado (2018, nº 2).
Froomkin, A. M. (2016): Robot Law. Northampton (Massachusetts), Edward Elgar.


Moisés Barrio

Letrado del Consejo de Estado, Doctor en Derecho, Profesor de Derecho Digital, Árbitro y Abogado. En 1992 fundó IDESOFT, empresa fabricante de software y de la cual ha sido su CEO hasta hace dos años. Ha escrito siete libros y más de 30 artículos en revistas y otras obras especializadas en el campo del Derecho de Internet, Derecho de los Robots e Inteligencia Artificial, ciberseguridad, propiedad intelectual, TIC y Derecho Público económico.


Comentarios

Artículos relacionados