30 de noviembre de 2023

R

Ramón López de Mántaras: “La inteligencia artificial no es ni tan inteligente, ni tan artificial”

por Marisol Sales Giménez
Ilustrador David Sánchez

Preguntamos a un grupo de especialistas en inteligencia artificial sobre las principales incógnitas que despierta su uso y desarrollo. Nos han señalado cuáles son los mayores desafíos éticos, de seguridad, privacidad y regulación, haciendo hincapié en la necesidad de supervisión humana y señalando el avance exponencial que seguiremos viendo en el progreso de la IA.

 

El desarrollo de la inteligencia artificial en las últimas décadas ha sido muy rápido debido al crecimiento de la capacidad computacional, la disponibilidad de grandes conjuntos de datos y avances en algoritmos. Esto ha llevado a la creación de múltiples aplicaciones y sistemas de IA en diversas áreas. Se trata de un campo en constante crecimiento con un gran potencial para transformar diferentes aspectos de nuestras vidas.

Por este motivo, hemos contactado con una gran variedad de expertos en IA de diferentes ámbitos de trabajo. Hemos preguntado a Ramón López de Mántaras, uno de los pioneros de la IA en España; Nerea Luis, cofundadora de T3chFest; Jordi Torres, profesor del grado de IA en la UPC; Idoia Salazar, cofundadora de OdiseIA; Óscar Corcho, director académico de AI4Gov y Elena Gil, directora en Telefónica Tech. Clicando en el nombre de cada uno de los entrevistados podréis ver sus respuestas.

Es importante abordar este tema desde diferentes puntos de vista, explicando de manera comprensible las implicaciones, beneficios y desafíos de la IA. Con ello buscamos ayudar a contrarrestar la desinformación y los mitos sobre la inteligencia artificial, brindando información precisa basada en la experiencia de los entrevistados. “Lo fundamental es la necesidad de involucrar a la sociedad en su conjunto en la toma de decisiones sobre la IA para garantizar que esta tecnología sea utilizada de manera responsable”, remarca Jordi Torres en este reportaje.

 

 

Ramón López de Mántaras

Es el pionero de la inteligencia artificial en España. Profesor investigador del Centro Superior de Investigaciones Científicas (CSIC) y director del Instituto de Investigación de inteligencia artificial (IIIA)

 

¿Cómo describiría el estado actual de la inteligencia artificial y qué avances considera que veremos en el futuro inmediato?

Este boom del último año sobre todo viene dado por lo que llamamos “inteligencia artificial generativa”. Esta inteligencia artificial generativa no es nueva. Cuando empezó a desarrollarse parecía interesante, pero no que fuera a explotar de esta manera ni que se iban a meter las grandes empresas tecnológicas como ha ocurrido. En mi opinión, esto tiene aspectos positivos y aspectos negativos.

Yo sigo pensando que las grandes preguntas científicas que hay detrás de la inteligencia artificial, como si podrá haber inteligencias artificiales verdaderamente generales, y el avance hacia una inteligencia artificial general que verdaderamente entienda el mundo no lo veo por ninguna parte. Muchos defienden que la inteligencia artificial generativa es la antesala para conseguir una inteligencia artificial general, pero yo no lo pienso en absoluto. La generalidad de la inteligencia artificial generativa es muy limitada. Con estos sistemas preentrenados no estamos ganando generalidad. Estas inteligencias artificiales no nos acercan a la respuesta a la pregunta de si habrá inteligencias artificiales que verdaderamente entiendan. Por ello me interesan más bien poco. A mí lo que me interesa es hacer ciencia.

 

¿Qué desafíos éticos ve asociados al avance de la IA y cómo cree que debemos abordarlos?

Desde hace mucho, tenemos una serie de desafíos éticos como, por ejemplo, que un sistema de inteligencia artificial sea una caja negra y que no se sepa cómo funciona y que no tenga capacidad explicativa. Plantea una serie de cuestiones no sobre su uso ni sobre su impacto, sino sobre la prudencia necesaria a la hora de desplegarlo.

Con la inteligencia artificial generativa nos aparecen problemas, digamos, “nuevos” que hace unos años no se veían tan claramente y es el tema de generar todas las falsedades que se hacen y esa facilidad con la que puedes falsificar personas o hacerte pasar por personas, ya sea de manera textual o audiovisual. si seguimos con la inteligencia artificial generativa le veo difícil solución.

La manipulación se acentúa mucho más con esta capacidad de generar fakes. Llegará el día en el que en un juicio se presentará un vídeo o una imagen de alguien cometiendo un delito infraganti y no se podrá utilizar porque no habrá manera de saber si es verdadero o falso. Esto es muy grave porque hace explotar la convivencia social e incluso la democracia.

Además, otro problema ético que se presenta son los millones de personas en países del sur global que llaman, como Filipinas o Pakistán, que están horas y horas al día limpiando lo que hacen los modelos de lenguaje por 0,50€/hora e, inlcuso, algunos trabajos que no se llegan ni a pagar. También modelando contenido o entrenando estas inteligencias artificiales generativas o etiquetando imágenes indicándole que esto es un árbol o esto es una persona o esto una farola. Todo esto hecho a mano por una persona. Como digo, no estamos a la vuelta de la esquina de una inteligencia artificial general porque cada vez necesitamos más intervención humana. He llegado a la conclusión de que la inteligencia artificial no es ni tan inteligente, ni tan artificial.

 

¿Cómo afecta la IA a la privacidad y la seguridad de los datos de las personas?

Esto ya era un problema incluso sin la inteligencia artificial. Hace ya bastantes años que parece que mucha gente ha renunciado a la privacidad. Yo creo que fue en el momento que aparecen los móviles y los sistemas que hacen recomendaciones o un perfil de tus gustos y preferencias que están diseñados para que te enganches y que además son supuestamente gratis. Hay que moverse desde la sociedad civil y organizarse para enfrentarse a todo lo que se nos está viniendo encima con esto de la inteligencia artificial generativa. Por primera vez en mi vida, viendo la balanza, soy más pesimista que optimista porque, ¿en qué mal momento salió la inteligencia artificial generativa? A nivel científico no sirve de nada prácticamente y a nivel práctico no veo muy claro quién está ganando con esta IA.

Artículo publicado en la revista Telos 123


Ir al número ...

Autor

Escritora, periodista y conferenciante. Actualmente ha publicado seis libros y colaborado en otros títulos. Su última novela es Incendio en la nieve. También es la creadora de Mitologeando, una serie de vídeos publicados en redes sociales en los que divulga sobre mitología griega, romana y nórdica. Desde el año 2022 hace parte del equipo de redacción de la Revista TELOS.

Ver todos los artículos

Contenido relacionado

Comentarios

Artículos relacionados