Idoia Salazar: “Debería de haber más herramientas que creen conciencia en el usuario”

Preguntamos a un grupo de especialistas en inteligencia artificial sobre las principales incógnitas que despierta su uso y desarrollo. Nos han señalado cuáles son los mayores desafíos éticos, de seguridad, privacidad y regulación, haciendo hincapié en la necesidad de supervisión humana y señalando el avance exponencial que seguiremos viendo en el progreso de la IA.

El desarrollo de la inteligencia artificial en las últimas décadas ha sido muy rápido debido al crecimiento de la capacidad computacional, la disponibilidad de grandes conjuntos de datos y avances en algoritmos. Esto ha llevado a la creación de múltiples aplicaciones y sistemas de IA en diversas áreas. Se trata de un campo en constante crecimiento con un gran potencial para transformar diferentes aspectos de nuestras vidas.

Por este motivo, hemos contactado con una gran variedad de expertos en IA de diferentes ámbitos de trabajo. Hemos preguntado a Ramón López de Mántaras, uno de los pioneros de la IA en España; Nerea Luis, cofundadora de T3chFest; Jordi Torres, profesor del grado de IA en la UPC; Idoia Salazar, cofundadora de OdiseIA; Óscar Corcho, director académico de AI4Gov y Elena Gil, directora en Telefónica Tech. Clicando en el nombre de cada uno de los entrevistados podréis ver sus respuestas.

Es importante abordar este tema desde diferentes puntos de vista, explicando de manera comprensible las implicaciones, beneficios y desafíos de la IA. Con ello buscamos ayudar a contrarrestar la desinformación y los mitos sobre la inteligencia artificial, brindando información precisa basada en la experiencia de los entrevistados. “Lo fundamental es la necesidad de involucrar a la sociedad en su conjunto en la toma de decisiones sobre la IA para garantizar que esta tecnología sea utilizada de manera responsable”, remarca Jordi Torres en este reportaje.

Idoia Salazar

Periodista, investigadora y profesora. Presidenta y codirectora del Área de Ética y Responsabilidad de OdiseIA

¿Cómo describiría el estado actual de la inteligencia artificial y qué avances considera que veremos en el futuro inmediato?

Yo diría que la inteligencia artificial está teniendo ya, y tendrá aún más en el futuro, un avance exponencial. Cada vez son más las empresas que apuestan por esa tecnología porque no es una opción no usarla. Hay muchísima investigación, muchísima inversión y en los próximos años vamos a ver un aumento significativo en el uso y desarrollo de estos sistemas de inteligencia artificial.

A nivel tecnológico posiblemente se siga avanzando bastante para intentar hacer bancos públicos para que sea más fácil, no solamente para las grandes empresas de los datos, sino también para pymes y poder optar a esta tecnología para usarla para la eficiencia de procesos y otro tipo de cuestiones.

También veo un aumento bastante grande en la implementación de IA generativa a todos los niveles y es algo que va a suponer una revolución también a nivel social que tendremos que aprender a sobrellevar para que el impacto sea positivo.

A nivel de regulación estamos asistiendo también a un avance bastante significativo. Se ha visto la necesidad de que, a la vez que evoluciona la tecnología, también aumentemos significativamente el esfuerzo para hacer una regulación competente y poder prevenir los riesgos que vienen asociados a esta tecnología. Cada vez hay más empresas que están dispuestas a adoptar estas normas éticas y regulatorias, una vez que entre en vigor la regulación de inteligencia artificial para intentar prevenir posibles impactos negativos.

¿Qué desafíos éticos ve asociados al avance de la IA y cómo cree que debemos abordarlos?

Los desafíos éticos que vienen asociados al avance de esta tecnología son los mismos que tenemos que tener asociados a la ética humana. Uno de los principales es la supervisión humana. Como sabemos, esta tecnología puede actuar de manera autónoma y los humanos siempre tendemos a tener confianza excesiva en ella. Debemos poner ciertas medidas técnicas y de supervisión humana, sobre todo en casos en el que la acción de la IA pueda afectar a los derechos fundamentales. Puede causar un problema si nosotros no realizamos esa supervisión adecuada.

Por otro lado, hay cuestiones relativas a posibles casos de discriminación si no se ha hecho un eficiente uso, limpieza y revisión de los datos, algo que en temas de transparencia es muy importante.

También las cuestiones de la explicabilidad son fundamentales en la lógica algorítmica de ver cómo se ha tomado la decisión. La transparencia en cuestiones como la IA generativa es muy importante para que se vea que el que ha hecho el output es la máquina y no la persona.

Por supuesto también hay motivos específicos de ciberseguridad que son fundamentales. Es muy importante que todas las empresas empiecen a adoptar estos criterios éticos, que al final serán parecidos a los que van a implementar la regulación de inteligencia artificial, para que consigamos tener desde el diseño un uso adecuado de estos sistemas de inteligencia artificial.

¿Cómo afecta la IA a la privacidad y la seguridad de los datos de las personas?

En este caso, tenemos que saber que, a pesar de que los sistemas de inteligencia artificial funcionan con datos, la mayoría de los datos que usa son personales, por lo que, obviamente, puede llegar a suponer un problema de privacidad. Por ello son muy importantes las labores de consentimiento. Todo esto está regulado por la Ley General de Protección de Datos europea. Así que, en principio, si se cumple con la regulación europea en protección de datos, este tema debería de estar zanjado.

Sin embargo, hay otro tipo de temas como, por ejemplo, la IA usada en motores de recomendación con los que se debe de crear una mayor conciencia en el usuario, porque al final la máquina está usando datos personales que el usuario va generando. Si no ha habido un consentimiento previo es una intrusión en el propio día a día de los usuarios, que obviamente es para mejorar la personalización del servicio. En cualquier caso, creo que debería de haber más herramientas que creen conciencia en el usuario de que se va a realizar esa labor de gestión de sus datos de alguna forma para que se haga más visible esa información.