Patricia Llaque: «Es necesaria una normativa global sobre datos relacionados con la salud y la actividad neurológica»

Preguntamos a un grupo de especialistas en inteligencia artificial sobre las principales incógnitas que despierta su uso y desarrollo. Nos han señalado cuáles son los mayores desafíos éticos, de seguridad, privacidad y regulación, haciendo hincapié en la necesidad de supervisión humana y señalando el avance exponencial que seguiremos viendo en el progreso de la IA.

El desarrollo de la inteligencia artificial en las últimas décadas ha sido muy rápido debido al crecimiento de la capacidad computacional, la disponibilidad de grandes conjuntos de datos y avances en algoritmos. Esto ha llevado a la creación de múltiples aplicaciones y sistemas de IA en diversas áreas. Se trata de un campo en constante crecimiento con un gran potencial para transformar diferentes aspectos de nuestras vidas.

Por este motivo, hemos contactado con una gran variedad de expertos en IA de diferentes ámbitos de trabajo. Para el número 124 de TELOS, la edición en papel dedicada a la inteligencia artificial, hemos preguntado a Ramón López de Mántaras, uno de los pioneros de la IA en España; Nerea Luis, cofundadora de T3chFest; Jordi Torres, profesor del grado de IA en la UPC; Idoia Salazar, cofundadora de OdiseIA; Óscar Corcho, director académico de AI4Gov y Elena Gil, directora en Telefónica Tech. Clicando en el nombre de cada uno de los entrevistados podréis ver sus respuestas.

Es importante abordar este tema desde diferentes puntos de vista, explicando de manera comprensible las implicaciones, beneficios y desafíos de la IA. Con ello buscamos ayudar a contrarrestar la desinformación y los mitos sobre la inteligencia artificial, brindando información precisa basada en la experiencia de los entrevistados. “Lo fundamental es la necesidad de involucrar a la sociedad en su conjunto en la toma de decisiones sobre la IA para garantizar que esta tecnología sea utilizada de manera responsable”, remarca Jordi Torres en este reportaje.

Al tratarse de un tema tan extenso y actual hemos seguido preguntado a expertos y expertas en este ámbito para ampliar con sus respuestas el reportaje de la edición en papel.

Patricia Llaque

Especialista en tecnología (perfil TIC). Responsable del Grupo de Trabajo del Ayuntamiento de Madrid «Neurodata, IA y Neurotecnologías» y fundadora de «Metaverse for Good». Tiene un máster en Neuropsicología Clínica, otro máster en Ciencias Cognitivas y un posgrado en Biotecnología.

¿Cómo describiría el estado actual de la inteligencia artificial y qué avances considera que veremos en el futuro inmediato?

Sin duda, el desarrollo tecnológico y, en especial, la evolución experimentada por la inteligencia artificial vienen impactando notablemente en nuestra biología y en nuestra cultura, transformando nuestra relación con el mundo. Esta tendencia se verá favorecida por su creciente aplicación en campos, en evidente evolución, como la computación cuántica, la ingeniería genética, la biología sintética, las nanotecnologías, las ciencias de materiales, entre otros. Ello ahondará cada vez más en el potencial de la IA para acelerar procesos de generación de conocimiento, gracias a la gran versatilidad que ofrece.

Particularmente estoy muy interesada en cómo tecnologías externas, como la inteligencia artificial, están interactuando con la mente, sumando al poder cognitivo del cerebro humano la capacidad de procesamiento del aprendizaje automático y la supercomputación. La inteligencia artificial tiene en este dominio, el de las interfaces neuronales, un rol protagonista, desdibujando las fronteras entre mente y máquina.

Las interfaces neuronales, en términos generales, son dispositivos electrónicos que interactúan con el sistema nervioso central y periférico para registrar y/o estimular la actividad neuronal. Esta definición incluye tanto a las interfaces internas, invasivas o implantadas como a los dispositivos externos, no invasivos.

En este sentido, seremos testigos del avance en neuroprótesis inteligentes que permitirán mejorar las capacidades sensoriales, cognitivas y motoras humanas. Con la utilización de la IA se intenta lograr una adecuada y continua adaptación ya que tanto el ser humano como el dispositivo establecen un «diálogo» permanente con el fin de reajustarse a lo largo del tiempo. Ello impulsará aun más la proliferación de los datos relacionados con la mente y el cerebro, que unidos a las capacidades de computación de la IA en una economía basada en los datos presenta grandes interrogantes y riesgos.

¿Qué desafíos éticos ve asociados al avance de la IA y cómo cree que debemos abordarlos?

El ritmo de desarrollo de las neurotecnologías basadas en la aplicación de inteligencia artificial desafía al ritmo de comprensión de sus consecuencias éticas. De igual manera, tensiona el alcance de las normativas y regulaciones legales en relación a dichas tecnologías. La utilización de ciertos algoritmos puede incluso dificultar la correcta interpretación y el control de estos sistemas, planteando problemas de transparencia y rendición de cuentas sin precedentes.

Por continuar con el tema de las interfaces neuronales, debemos entender que el cerebro es un determinante esencial en lo que respecta al significado de «ser humano». Sin que ello implique que nuestras elecciones pueden reducirse a un conjunto de procesos neurobiológicos, no dejando lugar a la acción individual ni a la responsabilidad moral. Por ello, cualquier intervención realizada sobre el cerebro tiene una repercusión sobre derechos fundamentales como la dignidad humana, la libertad de pensamiento y la intimidad mental, la agencia sobre nuestro sistema nervioso, la autonomía de nuestra capacidad y poder de decisión… La comprensión de estos peligros reales en el ámbito de las neurotecnologías ha suscitado la introducción del concepto «neuroderechos», un subconjunto de derechos humanos relacionados con el cerebro y la mente.

Estos neuroderechos invitan no solo a centrarse en la exteriorización de los pensamientos, sino también en la interpretación del pensamiento en relación a sus procesos neurobiológicos subyacentes. En línea con ello, se debe mencionar también el principio ético fundamental de la «equidad», principio que debería guiar el diseño y desarrollo de todas estas tecnologías. Si consideramos la perspectiva de la mejora cognitiva o aumento de capacidades mentales, podemos estar hablando de nuevos escenarios de desigualdad social y económica debido a las diferentes posibilidades de acceso.

¿Cómo afecta la IA a la privacidad y la seguridad de los datos de las personas?

La disponibilidad de datos cerebrales fuera del ámbito clínico y de investigación se está produciendo a través de canales de intercambio de datos abiertos, ya que estamos hablando de tecnologías de gran consumo. Los wearables, hace mucho tiempo recogen datos sobre la calidad de nuestro sueño, nuestra actividad física, nuestro nivel de estrés… Hemos pasado del eye tracking al facial tracking y estamos ya en el body tracking como boosters en aplicaciones de ocio, entretenimiento y wellbeing. Tenemos a nuestra disposición tutoriales, software y hardware para diseñar nuestros propios brain-computer interfaces.

Esta cada vez mayor omnipresencia de información sobre lo que ocurre en nuestros cuerpos y en nuestros pensamientos reclama un marco jurídico sólido capaz de garantizar la máxima protección de la privacidad y la seguridad de los datos de las personas. Entendiendo además que existe una tendencia hacia la portabilidad e interoperabilidad entre datos y servicios es necesaria una normativa global sobre datos relacionados con la salud y la actividad neurológica, donde se contemple la interrelación con el impacto ético y social de los sistemas.

Recordemos el poder en el análisis de datos y en la inferencia inversa de la IA, que dirigido al conocimiento de patrones complejos en datos neuronales asociados con estados mentales, procesos cognitivos, emocionales y comportamientos facilita, de forma progresiva, perfilar a las personas basándose en características y variables mentales. Las interfaces neurales potenciarán estos procesos proporcionando datos para llevar estos análisis a un mayor nivel de sofisticación, lo que constituye un atractivo económico además de un sistema de control más poderoso. De ahí, la necesidad urgente de empezar a identificar los datos cerebrales con el fin de valorar si se deben constituir bajo una categoría especial, al igual que los datos genéticos.