Jordi Torres: “La humanidad se beneficiará enormemente de la Inteligencia artificial actual”

Preguntamos a un grupo de especialistas en inteligencia artificial sobre las principales incógnitas que despierta su uso y desarrollo. Nos han señalado cuáles son los mayores desafíos éticos, de seguridad, privacidad y regulación, haciendo hincapié en la necesidad de supervisión humana y señalando el avance exponencial que seguiremos viendo en el progreso de la IA.

El desarrollo de la inteligencia artificial en las últimas décadas ha sido muy rápido debido al crecimiento de la capacidad computacional, la disponibilidad de grandes conjuntos de datos y avances en algoritmos. Esto ha llevado a la creación de múltiples aplicaciones y sistemas de IA en diversas áreas. Se trata de un campo en constante crecimiento con un gran potencial para transformar diferentes aspectos de nuestras vidas.

Por este motivo, hemos contactado con una gran variedad de expertos en IA de diferentes ámbitos de trabajo. Hemos preguntado a Ramón López de Mántaras, uno de los pioneros de la IA en España; Nerea Luis, cofundadora de T3chFest; Jordi Torres, profesor del grado de IA en la UPC; Idoia Salazar, cofundadora de OdiseIA; Óscar Corcho, director académico de AI4Gov y Elena Gil, directora en Telefónica Tech. Clicando en el nombre de cada uno de los entrevistados podréis ver sus respuestas.

Es importante abordar este tema desde diferentes puntos de vista, explicando de manera comprensible las implicaciones, beneficios y desafíos de la IA. Con ello buscamos ayudar a contrarrestar la desinformación y los mitos sobre la inteligencia artificial, brindando información precisa basada en la experiencia de los entrevistados. “Lo fundamental es la necesidad de involucrar a la sociedad en su conjunto en la toma de decisiones sobre la IA para garantizar que esta tecnología sea utilizada de manera responsable”, remarca Jordi Torres en este reportaje.

Jordi Torres

Catedrático de la Universidad Politécnica de Cataluña (UPC). Es autor de más de 200 publicaciones de investigación, y libros sobre computación de alto rendimiento y de inteligencia artificial

¿Cómo describiría el estado actual de la inteligencia artificial y qué avances considera que veremos en el futuro inmediato?

A pesar que actualmente la población en general tiene la percepción de que la inteligencia artificial (IA) ha alcanzado competencias casi humanas, la realidad es que los algoritmos en que se basan las IA no tienen inteligencia, sino solo “habilidades sin comprensión”, en el sentido de que son algoritmos que pueden llegar a ser muy hábiles realizando tareas específicas, pero sin comprender absolutamente nada de lo que están haciendo, ni cuentan con el llamado “sentido común” de la inteligencia humana que la hace tan diversa, rica, espontánea y maravillosamente imprevisible.

A pesar de que los sistemas actuales de IA todavía carecen de capacidades importantes, estamos inmersos en una carrera para crear sistemas de IA cada vez más potentes. Estos últimos años este progreso de las IA se ha sustentado en una aproximación de “fuerza bruta”, con la creación de algoritmos cada vez más grandes, entrenados en supercomputadores cada vez más potentes, procesando cada vez más y más datos. Pero, aunque este crecimiento exponencial de recursos dedicados a este propósito no es sostenible por mucho más tiempo, el ritmo del progreso de la IA podría volver a sorprendernos.

De todos modos, de momento, en la comunidad científica se coincide en que para lograr una IA mucho más inteligente que se asemeje a la inteligencia humana se necesitarán innovaciones disruptivas, cuyas características son inciertas y nadie sabe si realmente se producirán algún día.

¿Qué desafíos éticos ve asociados al avance de la IA y cómo cree que debemos abordarlos?

Que no estemos cerca de disponer de una IA próxima a la inteligencia humana no quita que el actual progreso de la IA esté generando nuevos desafíos éticos que debemos abordar. Por un lado, tenemos desafíos en su desarrollo, como la tendencia de los algoritmos de IA a heredar sesgos de los datos de entrenamiento, lo que puede llevar a decisiones discriminatorias o incorrectas. Esto, a su vez, plantea la cuestión de la responsabilidad en caso de fallos de una IA. ¿Deberíamos considerar al creador del algoritmo o al usuario como responsable? Es esencial establecer marcos legales y éticos que traten la cuestión de los errores o daños causados por la IA.

Por otro lado, encontramos desafíos relacionados con su uso. La automatización impulsada por la IA puede llevar a la reestructuración y pérdida de empleos en diversos sectores económicos, lo que plantea interrogantes éticos sobre cómo garantizar una transición justa hacia una economía basada en la IA. Además, existe la preocupación sobre el uso indebido de la IA, como su aplicación en ciberseguridad, la producción de noticias falsas o el desarrollo y uso de armas totalmente autónomas en conflictos militares, lo cual genera inquietudes profundas.

La humanidad se beneficiará enormemente de la IA actual, a pesar de ser limitada, pero no hay duda de que su uso presenta muchos riesgos. Por ello, al igual que ha ocurrido en otras áreas importantes en nuestra vida, es necesario establecer un marco regulador consensuado, en el más amplio sentido del término: leyes, reglas, protocolos de actuación, autorregulación o sensibilización ciudadana, entre otras. A nadie le gusta ser regulado, pero todo lo que puede entrañar un potencial peligro para la sociedad lo debe de estar. Espero que las aplicaciones específicas de IA estén también reguladas y, en algunos casos, prohibidas si fuese necesario para poder así mitigar sus riesgos.

¿Cómo afecta la IA a la privacidad y la seguridad de los datos de las personas?

El avance de la IA tiene importantes implicaciones en la privacidad y la seguridad de los datos personales. Esto se debe a que la IA depende en gran medida del análisis de datos para funcionar de manera efectiva lo que resulta en la recopilación masiva de información personal. Por ejemplo, los algoritmos en que se basan los motores de búsqueda en Internet, o simplemente nuestro teléfono móvil, conocen muy bien, gracias al acceso a cantidades masivas de información que generamos, nuestras preferencias y pueden llegar a inferir cómo pensamos.

Esto amplía sustancialmente el poder y el alcance de las empresas o gobiernos que controlan estos datos y pueden socavar nuestras expectativas de privacidad personal. La capacidad de la IA para analizar grandes conjuntos de datos conlleva un riesgo potencial de violación de la privacidad, ya que la información podría ser utilizada de manera inapropiada. Por ejemplo, los sistemas de IA que utilizan el reconocimiento facial pueden identificar a las personas de manera precisa, una tecnología útil en ciertos contextos, pero que plantea preocupaciones sobre la invasión de la privacidad y un posible uso indebido. Además, los sistemas de IA son susceptibles a ataques, con el riesgo de robo de datos y la generación de información falsa por parte de algoritmos maliciosos.

En resumen, estos desafíos éticos o de privacidad son abordables, pero requieren una colaboración decidida entre gobiernos, empresas y desarrolladores de IA para establecer regulaciones sólidas que promuevan un uso y desarrollo responsables de la IA. Sin embargo, lo más fundamental es la necesidad de involucrar a la sociedad en su conjunto en la toma de decisiones sobre la IA para garantizar que esta tecnología sea utilizada de manera responsable, beneficiosa y en línea con los valores humanos. Esto implica el compromiso individual de todos nosotros en adquirir un mayor entendimiento de esta revolución tecnológica, de manera que podamos tomar decisiones informadas.