José Hernández-Orallo: «Debemos reaccionar con una segunda era de la Ilustración ante la irrupción de la IA»

Preguntamos a un grupo de especialistas en inteligencia artificial sobre las principales incógnitas que despierta su uso y desarrollo. Nos han señalado cuáles son los mayores desafíos éticos, de seguridad, privacidad y regulación, haciendo hincapié en la necesidad de supervisión humana y señalando el avance exponencial que seguiremos viendo en el progreso de la IA.

El desarrollo de la inteligencia artificial en las últimas décadas ha sido muy rápido debido al crecimiento de la capacidad computacional, la disponibilidad de grandes conjuntos de datos y avances en algoritmos. Esto ha llevado a la creación de múltiples aplicaciones y sistemas de IA en diversas áreas. Se trata de un campo en constante crecimiento con un gran potencial para transformar diferentes aspectos de nuestras vidas.

Por este motivo, hemos contactado con una gran variedad de expertos en IA de diferentes ámbitos de trabajo. Para el número 124 de TELOS, la edición en papel dedicada a la inteligencia artificial, hemos preguntado a Ramón López de Mántaras, uno de los pioneros de la IA en España; Nerea Luis, cofundadora de T3chFest; Jordi Torres, profesor del grado de IA en la UPC; Idoia Salazar, cofundadora de OdiseIA; Óscar Corcho, director académico de AI4Gov y Elena Gil, directora en Telefónica Tech. Clicando en el nombre de cada uno de los entrevistados podréis ver sus respuestas.

Es importante abordar este tema desde diferentes puntos de vista, explicando de manera comprensible las implicaciones, beneficios y desafíos de la IA. Con ello buscamos ayudar a contrarrestar la desinformación y los mitos sobre la inteligencia artificial, brindando información precisa basada en la experiencia de los entrevistados. “Lo fundamental es la necesidad de involucrar a la sociedad en su conjunto en la toma de decisiones sobre la IA para garantizar que esta tecnología sea utilizada de manera responsable”, remarca Jordi Torres en este reportaje.

Al tratarse de un tema tan extenso y actual hemos seguido preguntado a expertos y expertas en este ámbito para ampliar con sus respuestas el reportaje de la edición en papel.

José Hernández-Orallo

Profesor en la Universitat Politécnica de València y experto en inteligencia artificial. Ha trabajado en áreas como la evaluación de sistemas de inteligencia artificial y la ética en la IA

¿Cómo describiría el estado actual de la inteligencia artificial y qué avances considera que veremos en el futuro inmediato?

La inteligencia artificial está convulsa en primer lugar por unas enormes expectativas generadas por lo que significa en sí «dominar la inteligencia», y en segundo lugar por el progreso reciente en algunas áreas del aprendizaje automático. Pero el cambio más importante ha venido por el uso masivo y sencillo de ciertas herramientas multimodales que son, después de décadas de investigación, generales e instruíbles con lenguaje natural. Debido a la gran inversión económica en modelos fundacionales, los avances inmediatos vendrán mayoritariamente de la extensión de estos modelos a nuevas multimodalidades, interfaces e integraciones con otras herramientas. No solo los móviles y los ordenadores serán diferentes, sino también todo lo relacionado con la creación, especialmente videojuegos y cine, transformando la época de la personalización actual en una época de generación a medida, donde podremos generar, por ejemplo, una novela de Harry Potter con los personajes que uno quiera, y generar una película que la recree. Eso va a ser posible en pocos años. Donde el progreso va más lento es en el ámbito físico, robótico, especialmente en navegación en espacios complejos y manipulación de objetos, con automatización de tareas psicomotoras.

¿Qué desafíos éticos ve asociados al avance de la IA y cómo cree que debemos abordarlos?

Los desafíos éticos provienen en gran parte de cambios muy rápidos que crean disrupciones difíciles de asimilar por la sociedad, como las transformaciones en el trabajo y la educación. Pero el mayor problema es la concentración de poder tecnológico en IA de muy pocas multinacionales y países, lo que puede acrecentar las desigualdades. Existe también un riesgo de sedentarismo cognitivo y de banalización del saber si no buscamos incentivos para que la gente piense. Debemos reaccionar con una segunda era de la Ilustración, donde se enseñe a entender un nuevo mundo de cognición híbrida, y no se enfoque la educación para crear profesionales que pueden quedar obsoletos pronto. Debemos preparar la transición a un nuevo tipo de sociedad, empezando por la educación pero abarcando también cambios legales y políticos radicales. Y repensar la distribución de la riqueza creada por la inteligencia artificial, pero a nivel global.

¿Cómo afecta la IA a la privacidad y la seguridad de los datos de las personas?

Probablemente más de manera positiva que negativa, con tecnologías que van ayudar a gestionar nuestra información personal mejor que ahora. Hoy en día las personas se sienten desamparadas porque tienen gran parte de su historia vital en digital (contactos, fotos, conversaciones, viajes, etc.), pero desparramada por varios entornos, y con políticas de uso draconianas. La inteligencia artificial puede ayudar a reintegrar esta «memoria» y reorientar la interacción social. La cuestión fundamental va a ser cambiar los incentivos sociales y económicos para que no sea vea solo el negocio en los datos, sino que se conviertan en un principio fundamental de las personas, devolviéndonos historias y narrativas que nos pertenecen.