Máquina y palabra

Cualquier esfuerzo por entender la IA, y por lo tanto por explotar mejor la tecnología más poderosa y disruptiva de la actualidad, resultará incompleto mientras no incorpore una reflexión sobre el lenguaje y las historias que la recubren.

Los avances de los últimos años nos han acostumbrado a ver sistemas de inteligencia artificial (IA) trabajando con palabras, sonidos o imágenes. Pero esto no es más que un espejismo. Las máquinas, hoy y hace setenta años, solo procesan números. Si existe un sistema conversacional como ChatGPT, un transcriptor de audio como Whisper o un generador de imágenes como Midjourney, es porque hemos dedicado talento y esfuerzo a desarrollar modos cada vez más eficientes de traducir lo verbal, lo sonoro y lo visual a un lenguaje numérico, el único que un sistema informático puede «entender».

A los seres humanos nos ocurre algo similar, solo que el código común con el que procesamos la realidad no se conforma de cifras, sino de palabras. Al igual que un sistema de aprendizaje automático consume y genera números, nosotros percibimos y expresamos a través de un filtro lingüístico. No accedemos a la cosa, sino al nombre de la cosa. No sabemos cómo es, sino el discurso que explica cómo es. Vivimos en la lengua. Como afirma el biólogo Edward O. Wilson: «El lenguaje no es solo una invención de la humanidad. Es la humanidad».

El poder de la palabra, las historias y el arte se vuelve evidente cuando emergen realidades nuevas que están aún a la espera de un nombre y de un discurso que les dé forma, que las vuelva digeribles¹. Es decir, la situación que plantea cualquier revolución tecnológica de calado, incluida ahora la de la IA.

La vía de reflexión que ignora el lenguaje es rígida, pasiva e ingenua

Sorprende por eso el papel secundario que se otorga al lenguaje dentro del tsunami de papers, artículos divulgativos, charlas y cursos que intentan explicar esta tecnología. Se discute y se investiga relativamente poco sobre el modo en que hablamos sobre la IA, los términos que le asignamos, las historias que le atribuimos. Apenas nos detenemos a reflexionar sobre el encaje que queremos dar a esta nueva realidad en nuestro paisaje espiritual, que es sobre todo un paisaje lingüístico.

La doble naturaleza de la máquina

El belga Mark Coeckelbergh, uno de los filósofos que mejor ha indagado en este tema, sostiene que el artefacto técnico tiene una naturaleza ontológica doble: material y lingüística. Para comprender la experiencia de uso hace falta contemplar ambas dimensiones. La tecnología solo tiene sentido en uso, y ese uso se inserta en una cultura preexistente, que implica un patrimonio común y vivo de historias y palabras.

Puede parecer una idea algo abstracta, pero su impacto resulta muy concreto. El modo en que hablamos sobre la IA puede tener «consecuencias significativas para su investigación, financiación, regulación y recepción», señala un estudio de la Royal Society de Londres. Cualquier esfuerzo por entender esta tecnología, y por lo tanto por explotar mejor la disrupción más poderosa de la actualidad, resultará incompleto mientras no tome en cuenta la dimensión lingüística.

En ese sentido, las narrativas y el lenguaje sobre la IA deberían ocupar un capítulo central en la reflexión ética que provoca. Pero esto no suele ocurrir. El investigador Alberto Romele ha apuntado que en las 881 páginas del Oxford Handbook of Ethics of AI no hay mención alguna al modo en que comunicamos sobre IA. Lo mismo ocurre en un amplio artículo firmado por investigadores de Deepmind, filial de IA de Google, sobre los posibles riesgos de los grandes modelos de lenguaje. El estudio tiene como objetivo mejorar la comprensión de estos modelos por parte del público, pero nunca llega a dar el paso siguiente: plantear que para ello hace falta comunicarlos mejor. Tal vez porque entonces se impondría la pregunta de cuánto puede contribuir a la sana comprensión pública de la IA una empresa cuyo nombre significa «mente profunda».

El verdadero poder del lenguaje

El desdén por el lenguaje en el ámbito de la IA puede provenir de un modo equivocado y reduccionista de concebirlo. Tal vez acostumbrados a la solidez del número, una herramienta que actúa de forma unívoca y universal, muchos tecnólogos perciben el lenguaje como algo vago, flexible, dinámico, difuso, cargado de contextos culturales y cambiantes, subjetivo, social, poco fiable. Lo cierto es que, más que un lastre, son precisamente esos rasgos los que convierten al lenguaje en un recurso tan potente.

La lengua no es un conjunto de piezas discretas y reglas combinatorias con las que construir significados fijos. Es un ente vivo inmerso en una cultura, un tiempo, un contexto. Si fuese lo primero, resultaría en efecto una herramienta trunca y prescindible. Al ser lo segundo, se convierte en una llave de acceso a la realidad que no podemos darnos el lujo de ignorar.

Esas dos formas de ver el lenguaje aparecen en el primer párrafo de uno de los textos fundacionales y más influyentes en la historia de la IA, «Computing Machinery and Intelligence», de Alan Turing.

En su primera frase, el artículo plantea la pregunta de si las máquinas pueden pensar. En la segunda, reconoce que la respuesta depende de qué significado se dé a «pensar» y a «máquina». La siguiente dictamina que fijar definiciones resulta «absurdo». Turing propone por eso reemplazar cualquier análisis conceptual por el célebre «juego de la imitación» (ahora conocido como «Test de Turing»), un modo de responder a la pregunta sobre la capacidad cognitiva de las máquinas mediante una situación en que el sistema informático conversa a ciegas con un jurado humano al que intenta engañar.

Puede parecer que Turing desdeña el lenguaje, pero lo que hace es descartar las definiciones como criterio y apostar en cambio por el lenguaje de verdad. Su test propone responder a la pregunta inicial, la pregunta de si las máquinas pueden pensar, a través de una situación lingüística y cultural como es un diálogo.

Dos formas de pensar la IA

Casi 80 años después, muchas reflexiones sobre la IA siguen empantanadas en esa primera forma de razonamiento descartada por Turing. Nos preguntamos, por ejemplo, si un sistema generativo es creativo. Para responder, buscamos una definición de creatividad. Contrastamos si el sistema la cumple. Sentimos cierto disgusto al ver que lo hace, porque en el fondo no sentimos que la IA sea creativa. Y no entendemos por qué un razonamiento en apariencia lógico nos ha llevado a una conclusión frustrante.

El error consiste en ignorar el lenguaje, como si fuese solo un medio neutro que no merece atención.

Frente a la misma pregunta, la alternativa de pensar sobre la IA tomando en cuenta el poder de la palabra sigue una vía diferente y, creo, más productiva. Puede comenzar considerando la definición disponible y los conceptos implicados, sin duda, pero no se detiene ahí. Continúa indagando el lenguaje real en su entorno vivo, las narrativas que despliegan esos términos, las resonancias que activan. Mira con especial atención los roces que genera la nueva realidad (un sistema de IA generativa), cómo impacta en los conceptos previos (la creatividad, en este caso), qué dice todo eso sobre nosotros (tal vez lo creativo comience a significar algo diferente). Y, acaso más importante, se pregunta por los términos, la representación y las historias que queremos usar para modelar la nueva realidad aún maleable instaurada por la IA, hacia dónde queremos orientarla.

Para el mundo humano, en el principio está, siempre, la palabra

La vía de reflexión que ignora el lenguaje es rígida, pasiva e ingenua. Pretende explicar un mundo nuevo con definiciones solidificadas en el pasado.

La vía de reflexión simultánea sobre la tecnología y la palabra es flexible, asume una responsabilidad constructiva y se orienta al futuro. No se pregunta cómo llamábamos a cosas viejas, sino qué nombres (qué dirección) queremos dar a las nuevas. Es posible que esta vía no responda con un «verdadero o falso» a la pregunta inicial sobre si una máquina puede ser «creativa», pero nos aporta algo más profundo sobre la tecnología en sí, sobre la creatividad, sobre nosotros y sobre el rumbo que queremos tomar. En mi libro Tecnohumanismo he propuesto por eso desde el subtítulo el concepto de «diseño narrativo» para referirme a esa capa cultural y lingüística que recubre una tecnología y que podemos analizar, criticar y por lo tanto ayudar a construir de un modo más humano.

Finalmente, vale la pena recordar que el protagonismo de la lengua en la reflexión sobre la IA debería importar especialmente en España, cuna de un idioma hablado por un siete por ciento de la población mundial y responsable de alrededor de un diez por ciento del PIB del planeta. ¿Sabrá liderar el país esta vía de investigación y pensamiento?

Expertas instaladas en el cruce entre lengua e IA como Elena González Blanco, Cristina Aranda o Carmen Torrijos, por mencionar algunas en España, marcan un camino apasionante planteado ya por Coeckelbergh: «Si los ingenieros aprenden a hacer cosas con textos y los humanistas a hacer cosas con computadores, hay más esperanza para una ética de la tecnología y para diseñar políticas que funcionen en la práctica». Vivimos una revolución tecnológica, pero para el mundo humano, en el principio está, siempre, la palabra.

Notas

 ¹La investigadora Carolyn Marvin ha rastreado este fenómeno durante el surgimiento de tecnologías en su momento disruptivas como el telégrafo o la luz eléctrica: Marvin, C. (1988): When Old Technologies Were New. Thinking About Electric Communication in the Late Nineteenth Century. Oxford, Oxford University Press.

Bibliografía

Wilson, E.O. (2017): The Origins of Creativity. Nueva York, Liveright.

Coeckelbergh, M. (2017): Using Words and Things: Language and Philosophy of Technology. Oxfordshire, Taylor & Francis.

The Royal Society: «Portrayals and perceptions of AI and why they matter». 2019. Disponible en: https://royalsociety.org/-/media/policy/projects/ai-narratives/AI-narratives-workshop-findings.pdf

Romele, A.: «Images of Artificial Intelligence: a Blind Spot in AI Ethics» en Philosophy & Technology, 35(1), 4. 2022. Disponible en: https://doi.org/10.1007/s13347-022-00498-3

Weidinger, L. at al.: «Ethical and social risks of harm from Language Models» en arXiv, 2021. Disponible en: https://doi.org/10.48550/arxiv.2112.04359

Turing, A. (1950): “Computing Machinery and Intelligence” en Mind, 59 (236): 433–60.

Sanguinetti, P. (2023): Tecnohumanismo. Por un diseño narrativo y estético de la inteligencia artificial. Madrid, La Huerta Grande.

Coeckelbergh, M. (2020): AI Ethics. Cambridge, The MIT Press.