Nerea Luis Mingueza: “La recogida de datos para el entrenamiento de los modelos es un primer desafío”

Preguntamos a un grupo de especialistas en inteligencia artificial sobre las principales incógnitas que despierta su uso y desarrollo. Nos han señalado cuáles son los mayores desafíos éticos, de seguridad, privacidad y regulación, haciendo hincapié en la necesidad de supervisión humana y señalando el avance exponencial que seguiremos viendo en el progreso de la IA.

El desarrollo de la inteligencia artificial en las últimas décadas ha sido muy rápido debido al crecimiento de la capacidad computacional, la disponibilidad de grandes conjuntos de datos y avances en algoritmos. Esto ha llevado a la creación de múltiples aplicaciones y sistemas de IA en diversas áreas. Se trata de un campo en constante crecimiento con un gran potencial para transformar diferentes aspectos de nuestras vidas.

Por este motivo, hemos contactado con una gran variedad de expertos en IA de diferentes ámbitos de trabajo. Hemos preguntado a Ramón López de Mántaras, uno de los pioneros de la IA en España; Nerea Luis, cofundadora de T3chFest; Jordi Torres, profesor del grado de IA en la UPC; Idoia Salazar, cofundadora de OdiseIA; Óscar Corcho, director académico de AI4Gov y Elena Gil, directora en Telefónica Tech. Clicando en el nombre de cada uno de los entrevistados podréis ver sus respuestas.

Es importante abordar este tema desde diferentes puntos de vista, explicando de manera comprensible las implicaciones, beneficios y desafíos de la IA. Con ello buscamos ayudar a contrarrestar la desinformación y los mitos sobre la inteligencia artificial, brindando información precisa basada en la experiencia de los entrevistados. “Lo fundamental es la necesidad de involucrar a la sociedad en su conjunto en la toma de decisiones sobre la IA para garantizar que esta tecnología sea utilizada de manera responsable”, remarca Jordi Torres en este reportaje.

Nerea Luis Mingueza

Doctora en Ciencias de la Computación y cofundadora de T3chFest. Trabaja como Ingeniera en Inteligencia Artificial en Sngular.

¿Cómo describiría el estado actual de la inteligencia artificial y qué avances considera que veremos en el futuro inmediato?

Vivimos un momento en el que la inteligencia artificial se está integrando en las herramientas que conocemos tales como aquellas relacionadas con la ofimática, los gestores de email, de videollamadas o el diseño gráfico. Esto hará que rápidamente aprendamos a sacarle su potencial en las tareas cotidianas y que los mismos modelos de IA aprendan y personalicen su tono, estilo y uso de la palabra en función de los documentos previos que hayamos escrito. Sin duda la personalización será una pieza clave para simplificar los prompts. Por otro lado, en la generación de imágenes, técnicas como Gaussian Splatting están dando muy buenos resultados para recrear escenas 2D > 3D. Sin duda se convertirá en otra de las tendencias próximas.

¿Qué desafíos éticos ve asociados al avance de la IA y cómo cree que debemos abordarlos?

Hay un primer desafío alrededor de la recogida de datos para el entrenamiento de los modelos “grandes” o “fundacionales” (como la familia GPT o Palm2). En algunos casos se están viendo avances como en Adobe Firefly, donde solo entrenan con imágenes libres, pero aún hay mucha casuística alrededor de cómo pedir permiso o cómo reportar sobre las fuentes de datos que se utilizan para entrenar a los modelos.

Otro punto es la propiedad intelectual de los textos e imágenes generadas, tanto para reclamar autoría como para reclamar un mal uso de las herramientas de IA si se utilizan para generar desinformación o deepfakes.

¿Cómo afecta la IA a la privacidad y la seguridad de los datos de las personas?

Existen multitud de servicios web ahora mismo que utilizan por detrás modelos de inteligencia artificial generativa. Generar imágenes, hacer preguntas sobre un PDF, resumir reuniones… En todos estos servicios, a la hora de usarlos, tenemos que preocuparnos de saber si los datos que volcamos los utilizan para “reentrenar” o si por el contrario solo los mantienen un tiempo online con mero fin consultivo. De esta forma sabremos a qué riesgo nos estamos exponiendo cuando los utilizamos.

Poco a poco van saliendo licencias de uso personal, para empresas y entornos en la nube donde se respeta la privacidad y la seguridad de los datos, eso sí.