2 de junio de 2025
por
Telos
FOTOGRAFÍAS: RICARDO DOMINGO
El padre franciscano Paolo Benanti, hombre del Renacimiento del siglo XXI, ha investigado durante años cómo la tecnología estructura nuestra vida. Tras su doctorado en la Universidad de Georgetown (EE. UU.), se ha convertido en una de las voces más importantes en el ámbito de la ética de la tecnología y de la inteligencia artificial.
L. P. ¿Cuál es la relación entre la ética y la tecnología?
P. B. Si echamos la vista atrás en historia de la humanidad y vemos a un hombre de las cavernas coger un palo, nos podríamos preguntar: ¿para qué lo coge, para abrir cocos o para abrir los cráneos de otras personas? Esta es la perspectiva de la ética de la tecnología, que no tiene que ver tanto con la tecnología sino con la mano que la maneja.
La tecnología siempre produce un impacto en la sociedad. Pensemos, por ejemplo, en cómo una autovía genera un nuevo orden y un desplazamiento del poder, porque el lugar donde se pone la entrada y la salida de esta autopista influye directamente en quiénes tienen mejor acceso. La ética de la tecnología no dice lo que uno tiene que hacer, sino que cuestiona la tecnología. Los diferentes agentes en esa comunidad pueden enterarse de lo que está sucediendo y pueden participar en ese debate, que solemos llamar “gobernanza de la tecnología”.
L. P. En su último libro, La era digital, menciona que la filosofía, a veces, solamente entiende la realidad una vez hemos echado la vista atrás. Ahora, inmersos en algo que llamamos “la era digital”, no estamos seguros de si analizamos qué ha pasado, qué está pasando o qué va a pasar.
P. B. Me parece que vivimos un momento hermoso porque somos las personas quienes estamos dirigiendo esta transformación. Tenemos que vivir conforme a los principios de nuestra sociedad, como occidentales que somos: nos enfrentamos a una nueva era de la humanidad, una era humana digital.
L. P. A medida que la inteligencia artificial sigue evolucionando nos cuestionamos cada vez más nuestras nociones tradicionales de autonomía, voluntad, incluso a la idea de lo que significa ser persona. ¿En qué momento nos encontramos? ¿Es la persona la que está en peligro?
P. B. Cuando hablamos de inteligencia artificial, tenemos que entender que es la evolución de un diseño de la tecnología en el que utilizamos la información para controlar a las máquinas. La máquina que surgió en la Revolución Industrial era una fuerza subrogada de nuestra fuerza humana. Pero cuando empezamos a utilizar la información, cambiamos la máquina para siempre.
Por ejemplo, si mañana me subo a un coche autónomo y le digo: “Tengo que llegar al aeropuerto de Barajas lo más rápido posible”, la máquina puede entender que todo vale y, por ejemplo, no parar en los pasos de peatones. Pero no queremos que haga eso: pretendemos que la máquina se mantenga dentro de los límites que hemos marcado para poder convivir en una ciudad. Por ello, tenemos que pensar cómo definir el espacio para la máquina dentro de una sociedad humana.
Este tipo de máquinas son muy buenas desde la perspectiva de un ingeniero, porque cualquier diferencia se puede transformar en información. Puedo poner sensores en un barco de 20.000 toneladas que cruza el océano. Y en algún momento, el sensor puede notar una irregularidad en la vibración del motor y transformarla, mediante un algoritmo, en la predicción de que el motor va a fallar en una semana, en tres días, en cuatro horas o en diez minutos. Algo muy valioso desde la perspectiva de la ingeniería.
Pero el mismo algoritmo puede emplearse con cualquiera de nosotros cuando vemos una película en streaming para obtener datos personales. El algoritmo adquirirá un nuevo poder, dado que la próxima vez que entremos en una plataforma online, las sugerencias basadas en nuestros datos no solo adivinarán lo que nos podría interesar, sino que también estarán influyendo en nuestro comportamiento. Y en consecuencia, nuestra libertad se ve limitada, modificada…
Nosotros, como democracias occidentales, tenemos una tendencia a mantener la libertad como uno de los pilares de nuestras vidas. Estamos descubriendo que, probablemente, el valor de la información personal, hoy en día, tiene más valor que el oro y el petróleo. Por eso es tan importante protegerlo.
L. P. Esto nos lleva a otro tema que aborda constantemente, el de la educación. ¿Qué papel cree que tiene la educación a la hora de dar forma a la sociedad de hoy y de mañana?
P. B. La educación es una especie de don, un regalo que una generación hace a la siguiente generación, más joven, de todas las competencias que necesita para sobrevivir como humanos en el tiempo que les toca. Ahora vivimos en una era nueva, a la que la generación anterior no pertenecía. Por eso la dirección de la educación en el espacio digital se ha invertido: va de la nueva generación a la vieja generación. Tenemos herramientas con un gran poder para modificar los valores y los derechos principales en la sociedad, y necesitamos un pacto intergeneracional, en el que ambas generaciones trabajen conjuntamente para transmitir esos valores a las siguientes.
Necesitamos un pacto intergeneracional para transmitir los valores de todas las generaciones a las siguientes
L. P. Como alguien que está involucrado profundamente en temas éticos, ¿Cómo definiría lo que realmente quiere decir “ser humano”?
P. B. No es algo que esté definido. Es una “living question” con una historia. Los seres humanos somos seres únicos con el poder de vivir una trayectoria única en nuestra existencia, gracias a la dignidad y los derechos humanos. Por tanto, un ser humano es lo que está comprendido entre los derechos y la dignidad humanos, con muchísima libertad.
L. P. Educación, transhumanismo, posthumanismo… salud mental. ¿Es una preocupación cada vez mayor hoy en día, especialmente entre los jóvenes? ¿Cree que esta era digital es la raíz de esos problemas o solo es un efecto secundario o consecuencia?
P. B. Es el medio en el que se produce ese problema. Ahora tenemos la capacidad como especie de etiquetar un tipo de sufrimiento como “enfermedad mental”. Esto antes no era así: antes decíamos “no eres normal” o “eres un monstruo”. En este tipo de medio, la tecnología puede ser una herramienta o un arma.
Por ejemplo, imagine que mañana quiero fundar una compañía de apuestas. Un algoritmo podría ayudarme a detectar dónde hay un problema mental, en este caso, la ludopatía, y usarla para que los ludópatas jueguen. Aquí estaría usando la tecnología para hacer que la gente sufra. Pero también puedo crear un compañero digital que permita a ciertas personas tener estabilidad a la hora de afrontar ciertos miedos en sociedad. Incluso en casos de demencia u otros problemas asociados al envejecimiento, podríamos controlarlos y usar la tecnología para capacitar a las personas. Esto sería lo más hermoso si queremos conseguir un mundo mejor con este tipo de tecnologías digitales.
L. P. Pensando en los jóvenes, ¿qué consejo les daría hoy para que puedan navegar en este mundo definido por la incertidumbre?
P. B. En primer lugar, son los protagonistas del futuro digital que se nos presenta, así que tienen que estar orgullosos de vivir en ese mundo. El segundo consejo no es para nuestros niños, sino para nosotros: utilicemos la inteligencia artificial para tener herramientas personalizadas para cada uno de los niños que hay en el mundo de forma que no se queden atrás en este viaje. Somos una generación que, probablemente, podemos llevar la educación a la mayor parte de la humanidad.
La conversación completa está disponible bajo el título La tecnología debe mejorar la dignidad humana de todas las personas del mundo
Comentarios