La letra pequeña del pacto digital

¿Quiénes serán los actores convocados a diseñar y suscribir el pacto digital planteado a partir de los cambios tecnológicos? De esta pregunta se desprenden discusiones sobre la posibilidad de permitir o no la participación de las IA y reconocerlas como interlocutores.

“Indudablemente, cada generación se cree destinada a rehacer el mundo. La mía sabe, sin embargo, que no podrá hacerlo. Pero su tarea es quizás mayor. Consiste en impedir que el mundo se deshaga”.
Fragmento del discurso de Albert Camus al recibir el Premio Nobel de Literatura
el 10 de diciembre de 1957

Las palabras de Albert Camus se mueven entre el desaliento y la esperanza y expresan la preocupación de cada generación sobre su rol en medio de las circunstancias que le toca vivir, las cuales, por cierto, cada una asume como las peores, vistas desde el espejismo de que tiempos pasados fueron mejores. El momento actual no es la excepción. La llamada primavera de la inteligencia artificial (IA) y la eclosión de la IA generativa (IAG) ha agitado las aguas en las que vuelven a surfear apocalípticos e integrados, visiones catastróficas junto a perspectivas optimistas. Hechos y utopías. El mundo a revisión: su extinción o renacer, la dominación y conquista por parte de tecnologías avanzadas o su servicio y utilización a favor de una humanidad con más justicia y oportunidades, y menos conflictos y desigualdades. Desde cada extremo, estas visiones lanzan invitaciones y advertencias. Una de ellas es la impostergable necesidad de consensuar un pacto digital que, entre otras cosas, permita definir normas acordes con los desafíos de la gobernanza efectiva de la tecnohumanidad.

Antes de establecer estatutos, reglas, condiciones y contemplar sanciones, hay que determinar y conocer con precisión quiénes serían las partes o actores involucrados en este pacto. Es decir, identificar quiénes participarán en el diseño, la discusión e implementación del mismo. Ese punto de partida que en otros escenarios resulta obvio, acá no es un aspecto menor. Al contrario, supone el debate de permitir o no la participación de las propias IA y reconocerlas como interlocutores.

Un pacto, eso lo sabemos, tiene dos o más partes que fijan acuerdos, alianzas, compromisos y declaraciones. Ahora bien, en el marco de la gobernanza digital global y sus retos implícitos: ¿qué se pacta? ¿Quiénes lo hacen? ¿Se mantienen los mismos sectores negociadores (gobiernos, empresas transnacionales, corporaciones económicas, la industria militar, la sociedad civil…)? ¿Qué papel desempeñan los usuarios? ¿Dónde queda la voz individual? ¿Cómo se atiende a las minorías? ¿Qué tipo de participación y representación se plantea? Preguntas de ayer y de hoy trasladadas a un futuro incierto y retador.

Debemos cuestionarnos quiénes participan en la construcción de los nuevos acuerdos

Pensemos: ¿qué lecciones nos han dejado pactos anteriores como, por ejemplo, los suscritos a partir de la creación de las Naciones Unidas, la OTAN y otros organismos multilaterales? Algunos de estos acuerdos son producto de mesas de diálogo y negociación, otros surgen después de un sacudón o catástrofe, como un llamado de atención para contener y no repetir, para aprender y enmendar errores y también para prevenir o anticipar posibles conflictos y tener un mapa de ruta que nos permita, al menos, no estar tan desprevenidos y desprovistos de herramientas o guías para actuar.

De los anteriores pactos globales algunos han funcionado por un tiempo, otros han sido solo intentos fallidos y muchos más se han vuelto obsoletos e inoperantes. Entre intereses, intenciones e ideales hemos buscado esquemas y protocolos que permitan actuar tanto en caso de emergencia como en situaciones comunes.

En nuestro transitar individual y colectivo hemos establecido acuerdos de paz, pactos de sangre y alianzas basadas en el honor y la palabra. Firmamos contratos, toleramos condiciones y aceptamos cookies, sin detenernos a reflexionar profundamente o siquiera entender su alcance e implicaciones. Accedemos voluntariamente, apresurados ante la búsqueda inmediata. Pocas veces leemos la letra pequeña del documento, el diminuto aviso de complicada terminología, casi siempre hecho para no ser comprendido.

La autoría del pacto

¿Hasta dónde estamos dispuestos a ceder a cambio de rapidez, precisión, reducción de costos y sustitución de personas que se enferman, tienen emociones, se deprimen, se distraen y se equivocan frecuentemente?

Yuval Noah Harari (2023) señala que más que infundados miedos de la humanidad, “en los últimos dos años han aparecido nuevas herramientas de inteligencia artificial que amenazan la supervivencia de la civilización humana desde un flanco inesperado. La inteligencia artificial ha adquirido notables capacidades para manipular y generar lenguaje, ya sea con palabras, sonidos o imágenes. Y, al hacerlo, ha hackeado el sistema operativo de nuestra civilización”. Y agrega que esto incide, incluso, en la toma de decisiones que, con ingenuidad, creemos que es absolutamente nuestra cuando, en realidad, está mediada por los filtros tecnológicos. Para ejemplo, un botón: “Pensemos en las próximas elecciones presidenciales estadounidenses de 2024 e intentemos imaginar la repercusión en ellas de las herramientas de inteligencia artificial, que son susceptibles de utilizarse para producir de modo masivo contenido político, noticias falsas y escrituras para nuevos cultos”. De esta manera, nuestras opiniones, percepciones y decisiones se verán directamente influidas.

Tal y como expone este autor, a lo largo de los años, los humanos hemos vivido y hecho realidad los sueños de otros humanos que nos han precedido. Tal vez en las próximas décadas podríamos encontrarnos dentro de los sueños de inteligencias artificiales, lo que, quizás, nos permitirá responder, finalmente, si los androides con ovejas eléctricas (Philip K. Dick, 1968).

Desde los tratados de guerra y armisticios, hasta la Declaración Universal de los Derechos Humanos (1948), hemos tenido la certeza de ser quienes hacen, cumplen e incumplen las reglas. Solo ahora debemos cuestionarnos quiénes y bajo qué parámetros se participa en la construcción de los nuevos acuerdos. Estamos sumergidos en océanos de información en los que cuesta discernir quién o qué la ha generado. Empezando por ahí, por entender y distinguir de dónde viene la información pues, anteriormente, estábamos seguros de la autoría humana pero, en la actualidad y, sobre todo, en el futuro podríamos estar ante textos generados exclusivamente por inteligencias artificiales. Será una prioridad identificar de dónde provienen y determinar cuánto espacio vamos a dejar para su libre y total accionar. Al final, tal vez, no se trate solo del reconocimiento o no de la IA dentro del pacto digital, sino de firmar y suscribir un acuerdo que hasta podría ser redactado por ella sin siquiera detenernos (como ya es costumbre) en la letra pequeña donde casi siempre está indicado el riesgo al que nos exponemos.

“¿Qué ocurrirá con el curso de la historia cuando la inteligencia artificial se apodere de la cultura y empiece a producir relatos, melodías, leyes y religiones? Las herramientas anteriores, como la imprenta y la radio, ayudaron a difundir las ideas culturales de los humanos, pero nunca crearon ideas culturales propias. La inteligencia artificial es en todo punto diferente. La inteligencia artificial puede crear ideas completamente nuevas, una cultura completamente nueva.” Interpela Harari y, más adelante, agrega que: “Debemos poner fin al despliegue irresponsable de herramientas de inteligencia artificial en el ámbito público y regular la inteligencia artificial antes de que ella nos regule a nosotros. Y la primera regulación que sugiero es que sea obligatorio que una inteligencia artificial revele que es una inteligencia artificial. Si mantengo una conversación con alguien y no puedo saber si es un humano o una inteligencia artificial, se acabó la democracia.”

De nuevo volvemos como Uróboros a perseguir nuestra propia cola que no es más que la suma de preocupaciones añejas de las que no es fácil desprendernos. Volvemos al Test de Turing y a sofisticados mecanismos para diferenciar la máquina y el humano. Al final, constatamos que hay pros y contra y hay que sopesar sin miedo, pero con cautela.

La inteligencia artificial puede crear ideas completamente nuevas

La generación actual podría intentar, como todas las anteriores, que el mundo no sucumba frente a su mirada pasiva. La amenaza nuclear y las devastadoras consecuencias de la segunda guerra mundial que preocupaban a los contemporáneos de Camus serán sombras lejanas frente a las asechanzas actuales que causan tantas angustias y preguntas. Interpretar entrelíneas, leer las letras pequeñas del contrato, equilibrar la precisión y la amplitud, el ser oportunos y acertados así como adaptativos e inconformes, críticos y propositivos, prudentes y arriesgados. Combinaciones poco convencionales que corren, además, entre constantes transformaciones que marcan un ritmo apresurado al que no todos llevarán el ritmo. Al parecer, tocará comprobar si esta vez, también, sobrevive quien mejor se adapte al cambio y no el más fuerte o inteligente, especialmente, cuando el mismo concepto de inteligencia se transforma ante nuestros ojos, a veces incrédulos, a veces seducidos.

Adendas y enmiendas

A este pacto digital seguramente habrá que añadir adendas y enmiendas. No hay todavía una ruta clara, lo que si es cierto es que la gobernanza digital y el orden mundial serán fuertemente revisados y confrontados. Sin embargo, apremia tomar previsiones, revisar antecedentes y pensar en futuros escenarios en los que tocará negociar, ajustar y recalcular, así como tomar decisiones algunas veces sobre la base de los datos, otras a partir del riesgo y la incertidumbre. Una vez más nos topamos con la constancia del cambio tal como nos anunciara Heráclito hace siglos atrás.

En cualquier caso, urge que, al menos esta vez, nos detengamos a leer con detenimiento las letras pequeñas, las condiciones solapadas, los avisos engañosos, las imprecisiones y los enrevesados tecnicismos. No vale decir que no nos advirtieron. Es indispensable sopesar riesgos y oportunidades, considerar las ventajas sin dejar de ser cautelosos. En nosotros, nuevamente, recae la responsabilidad de impedir que el mundo se deshaga. Somos los Atlas contemporáneos, no por castigo impuesto, sino por responsabilidad ética.

Bibliografía

Camus, A. (1957, 10 de diciembre): Discurso al aceptar el Premio Nobel de Literatura del año 1957. [Discurso]. Estocolmo, Suecia. Recuperado de: https://n9.cl/i13hd

Dick, P. (1968): ¿Sueñan los androides con ovejas eléctricas? Barcelona, Editorial edhasa

Harari, Y. (2023): “Hablamos del posible fin de la historia humana” en La Vanguardia. Disponible en: https://www.lavanguardia.com/tecnologia/20230503/8937187/ia-hackeado-sistema-operativo-civilizacion-humana.html