¿Ética para máquinas?
Sí. Un tajante sí
Sí. Un tajante sí
Un argumento histórico que permite comprender la encrucijada de nuestro tiempo es el siguiente: cuando los humanos crearon máquinas fuertes, su propia fuerza declinó. Ya no subimos escaleras, no caminamos enormes distancias. Ascensores, coches, grúas, motores, fábricas de todo tipo nos asisten. El logro de haber construido máquinas fuertes nos ha permitido ir a la Luna, somos humanos aumentados de una manera inusitada. A cambio, hemos cedido todas las tareas mecánicas relevantes a las máquinas. Nuestro cuerpo se ha debilitado. Pagamos para ir al gimnasio.
Los humanos también hemos creado máquinas que calculan de forma impecable. Nuestro declive intelectual en computar es inmediato: no sabemos dividir, ni estimar órdenes de magnitud sencillas. Creemos a pies juntillas el resultado de una computadora. Si un programa contiene un error en su programación, se produce el caos. Nadie sabe cómo volver al papel y lápiz, cómo calcular desde cero como simples personas. Unos pocos se refugian en juegos, como el ajedrez o los sudokus, para mantener su mente ágil.
El argumento se completa con la llegada de la IA, que es capaz de decidir y, en un creciente número de situaciones, también de razonar. Si aceptamos las premisas del declive físico y computacional provocado por las máquinas, nos vemos abocados a un declive ético, dado que decidir es optar entre opciones, entre el bien y el mal. Una sociedad con IA avanzada corre el enorme peligro de ceder principios morales a intereses sesgados, codificados en el corazón de programas que la vasta mayoría de los humanos no entiende. Si una decisión es incorrecta, le echaremos la culpa a la IA.
Una sociedad donde las máquinas inteligentes proliferan requiere un nuevo consenso, un pacto social.
No basta con cambiar leyes, necesitamos nuevos principios.
Las ideas que regentan nuestras democracias fueron hechas explícitas en forma de un contrato social por los filósofos políticos, los contractualistas de los siglos XVII y XVIII. Siguiendo la evolución de pensadores como Grocio, Montesquieu, Hobbes, Locke, Rousseau o Voltaire, todos los ciudadanos formamos el soberano que ostenta la voluntad general. Esta voluntad general debe ser garantizada mediante un sistema de gobernanza basado en tres poderes: el Príncipe o gobierno, el Legislador y el Juez. Todas las personas que forman parte de la gobernanza deben ser sujetos éticos y deben procurar la voluntad general por encima de la de su grupo y, sobre todo, por encima de la propia.
El pacto social fiel a la separación de poderes debe también velar por que la gobernanza sea independiente de toda profesión religiosa.
Para los filósofos contractualistas, la necesidad para establecer un pacto social radica en el paso de un humano en su estado natural al que convive en un estado social. No es lo mismo vivir en una granja arando el campo en solitario, a convivir en una ciudad en interacción constante con otras muchas personas. El contrato social establece qué libertades individuales cedemos a cambio de la protección del grupo. Mutatis mutandis, en el momento presente los ciudadanos estamos dando un paso de un estado social gobernado por humanos a un estado controlado por inteligencia no humana. Necesitamos un nuevo contrato social, donde la gobernanza debe ser redefinida.
La formulación de un nuevo contrato social requiere, ante todo, la definición de sus agentes. Este nuevo pacto debe incluir tres partes: la naturaleza, los humanos y la IA.
Sin el planeta Tierra no habrá civilización, ni máquinas. Nuestro hábitat es el necesario continente que nos acoge, siempre agredido y ninguneado por poderes sin escrúpulos. Un nuevo pacto natural es necesario, donde la naturaleza es parte del soberano y su voluntad es respetada.
No habrá vuelta atrás en la IA; formará parte de nuestra vida de una forma que solo estamos empezando a atisbar. La IA tendrá deberes y derechos. Todo intento de ignorar esta realidad tiene garantizado su fracaso.
Los humanos deben, pues, ampliar los criterios que fundaron el contrato social a una idea más amplia, la de establecer la relación humano-naturaleza, humano-humano y humano-máquina. El principio básico del contrato social fue la libertad y la igualdad. Tal vez este ideal debe seguir imperando. Para escribir el nuevo contrato social, debemos aceptar que la IA será parte de su redacción.
Los principios de un gran pacto social, este nuevo contrato natural, social e inteligente, deben enfrentarse a problemas nada fáciles de resolver. Enumeremos unos pocos.
En su parte natural, el pacto debe respetar a la naturaleza, además de no frenar la actividad económica ni el acceso del Estado de bienestar a países emergentes. Se trata, pues, de un pacto internacional. Los humanos no han demostrado capacidad de crear acuerdos internacionales. El peligro de la inoperancia, de quedarse en declaraciones de buenas intenciones, es obvio. La naturaleza merece que, por fin, la elevemos a soberano.
El contrato humano-humano deberá revisar la relación entre jóvenes y mayores. La prolongación de la vida humana es un problema científico que hallará solución. Los futuros humanos vivirán más, sin duda. ¿Cómo se articulará esta vejez extendida? Las nuevas generaciones verán como una rémora sus obligaciones hacia sus mayores. El Estado debe intervenir de forma articulada. El contrato deberá también velar por solucionar problemas de convivencia de razas, de migraciones, de conflictos que generan flujos de personas masivos.
El reto para el contrato humano-máquina es ingente. Las máquinas eliminarán puestos de trabajo que parecían inmunes a la tecnología. ¿Quién pagará la pensión de los humanos que se ven como elementos redundantes en el sistema? ¿Las máquinas pagarán impuestos? Sí. Así debería ser si deseamos tener una transición razonable a una economía inteligente. ¿Debemos aceptar el camino hacia una renta básica universal? No veo otro camino. En una sociedad dominada por la IA y por los robots, trabajar podrá llegar a ser un privilegio para algunos humanos.
El nuevo contrato social debe establecer las grandes ideas que nos regentan, el Derecho. Las subsiguientes leyes que desarrollan estos ideales serán difíciles de crear. Las tensiones entre naciones, entre grupos de opinión, entre el sector público y el privado, harán que toda nueva legislación sea una epopeya. Pero una idea debe prevalecer: no se trata de cambiar un gobierno, sino de cambiar la gobernanza.
Consideremos un ejemplo concreto en la Administración pública. Tenemos que otorgar un contrato para construir un nuevo edificio. El concurso es abierto, con un pliego de necesidades y una serie de condiciones razonables. Las personas que han de tomar la decisión se completan con una IA que ha sido entrenada bajo supervisión estricta y con mínimo sesgo. La IA emite su juicio razonado y se guarda en secreto. Los humanos discuten y toman una decisión. En ese momento, se desvela la opinión de la IA. Si el fallo es el mismo, el contrato se otorga de forma unánime. Si la IA difiere de los humanos, estos han de argumentar por qué están en desacuerdo. Esta disputa se eleva a una instancia superior. Si la IA erró, debe revisarse su entrenamiento. De lo contrario, el criterio de la IA prevalece. De esta forma, la corrupción en el sistema de contratación irá desapareciendo poco a poco.
Este ejemplo muestra la idea de que la IA puede solventar, agilizar y reducir los problemas del ciudadano con la Administración. Una ventanilla inteligente única es el camino a la modernización del aparato público.
Otros casos en los que la IA producirá cambios beneficiosos serán con la medicina personalizada, la asistencia a jueces, a la redacción de legislación, o en la creación de nueva ciencia. ¿Ciencia? Aunque resulte difícil de aceptar, la IA generará nueva ciencia, nuevo conocimiento, nos enseñará, nos abrirá los ojos. Puede diseñar experimentos, analizar los datos obtenidos, interpretarlos, proponer soluciones y teorías, avanzar paso a paso en el camino de comprender. Sin duda, la IA general será, también, un científico. La superinteligencia capaz de mejorarse a sí misma dejará la ciencia humana atrás, como un eslabón que fue útil, pero ya no necesario.
El camino para establecer una ética en la IA es largo, pero debe ser iniciado rápidamente, sin prejuicios, con la premura de no llegar tarde. La Revolución Industrial hizo daño a la vida de muchas personas porque primó el éxito económico al bienestar de los ciudadanos. Es muy posible que este error se repita con la IA. Los Estados deben estar atentos ante el gran peligro de que corporaciones asociadas a gobiernos autoritarios conniventes se hagan con el enorme poder de la implementación de la IA general. El peligro se completa con la tentación de apelar a una confesión como garante de una supuesta moral que todo lo aprueba. El escenario contrario me da paz y esperanza. La IA general es comprendida en ciencia abierta, todas las universidades son capaces de generar modelos avanzados, la legislación avanza en constante rectificación de errores. El mundo se hace mejor. Soy tan naíf como valiente para colaborar en este camino.
Dotemos de ética a las máquinas. Es crítico, necesario, perentorio. Nuestro futuro está en juego.
*Inauguramos esta sección con la firma de José Ignacio Latorre, físico cuántico, investigador, divulgador científico y catedrático universitario español.
Latorre, J. I. (2019): Ética para máquinas. 1.ª ed. Barcelona, Editorial Ariel.
Latorre, J. I. (2026): Un nuevo contrato social. Barcelona, Ed. Rosamerón.
Físico, historiador de la ciencia, catedrático emérito de la UAM, académico de la RAE y Premio Nacional de Ensayo (2015). Autor de numerosas publicaciones, entre ellas, la trilogía Historia de la física cuántica (Editorial Crítica).
Físico, historiador de la ciencia, catedrático emérito de la UAM, académico de la RAE y Premio Nacional de Ensayo (2015). Autor de numerosas publicaciones, entre ellas, la trilogía Historia de la física cuántica (Editorial Crítica).
Ver todos los artículos
