22 de abril de 2019
A
A la inteligencia artificial le falta sentido común
por Pablo Rodríguez Canfranc
22 de abril de 2019
por Pablo Rodríguez Canfranc
El título de este artículo no es un juego de palabras supuestamente ingenioso. Algunos expertos en inteligencia artificial llevan tiempo denunciando que los sistemas que aprenden a tomar decisiones alimentándose de montañas de datos, encuentran muchas limitaciones a la hora de interpretar determinados objetos o situaciones cotidianas. Carecen del sentido común que desarrollamos los humanos desde niños y que nos permiten inferir causas y efectos en el mundo que nos rodea.
Hasta ahora las máquinas han desarrollado una inteligencia basada en el aprendizaje automático (machine learning) y el aprendizaje profundo (deep learning), haciendo uso del big data, es decir, utilizando inmensas cantidades de información para poder construir modelos. Por ejemplo, un coche autónomo recibe datos sobre todas las situaciones posibles que se puede encontrar en la carretera y aprende a reaccionar en cada caso.
Sin embargo, esta aproximación comienza a fallar al tratar situaciones raras o poco comunes sobre las que la máquina no tiene excesivos datos. El primer accidente mortal registrado de un Tesla Model S autónomo tuvo lugar en Florida en 2016, cuando los sensores del vehículo no detectaron un camión en un cruce y este no frenó, pasando por debajo del remolque y saliéndose de la carretera con consecuencias fatales para el conductor. La investigación posterior achacó el fallo a que la superficie blanca brillante del camión y la luz radiante del día impidieron que las cámaras y sensores del Tesla detectaran el obstáculo. Sin duda se trataba de una situación que el sistema del automóvil no tenía debidamente documentada y modelizada.
Hay algoritmos de reconocimiento facial que no reconocen las caras que tienen las personas nada más levantarse. Otros, capaces de identificar imágenes con precisión, encuentran problemas cuando se les presenta una imagen invertida. El problema es que las máquinas actuales no son capaces de realizar inferencias lógicas que les ayuden a comprender situaciones a las que no se han enfrentado en el pasado, como hacemos los humanos.
Una persona que nunca haya visto un astrolabio y que ni sepa para que sirve, si se le hace entrega de uno en las manos, tiene la certeza de que, si lo suelta, caerá al suelo. No importa que no tenga ninguna información sobre ese extraño objeto de latón, la capacidad humana de abstraer y generalizar le permite conocer exactamente su comportamiento al dejarlo caer. Esto no es otra cosa que el sentido común.
El conocimiento de sentido común es el conjunto de aprendiajes que desarrollamos desde la cuna, derivados de la interacción con el entorno. Toda la información que recogen nuestros sentidos es procesada por el cerebro generando un proceso de aprendizaje, que es una condición necesaria para garantizar un comportamiento inteligente.
El bebé que tenemos en brazos tira el sonajero que lleva en la mano y se queda mirando como cae y rebota en el suelo. En ese momento está recibiendo información del mundo que le rodea y asumiendo inconscientemente que cualquier cosa que tire desde lo alto seguirá las mismas normas.
Desde sus orígenes, la ciencia de la inteligencia artificial ha perseguido dotar a las máquinas de sentido común. Un postulado afirma que un sistema que esté pensado para comportarse de forma inteligente debe que tener conocimientos sobre su tarea y el dominio de la misma. Cuando hablamos de sentido común en términos informáticos, hacemos referencia a dotar a los ordenadores con la inmensa cantidad de pequeños conocimientos que los humanos damos por supuestos en nuestro día a día.
El problema es que toda esa sabiduría cotidiana que constituye el sentido común no suele aparecer en la comunicación verbal o escrita entre los humanos. Cuando le decimos a alguien “he suspendido el examen”, no añadimos “y eso es malo”. El sentido común de nuestro interlocutor le hace saber que el no haber superado la prueba es algo negativo para mí.
El hecho de que el sentido común es un conocimiento implícito, no manifestado abiertamente, dificulta enormemente que podamos transmitírselo a la inteligencia artificial.
Investigadores de la empresa británica DeepMind, hoy propiedad de Google, entrenaron hace unos años a una red neuronal para jugar al popular videojuego Breakout. Se trata de un título clásico de Atari en el que el jugador dispone de una raqueta y de una pelota con las que ir destruyendo una serie de capas de ladrillos situadas en la parte superior de la pantalla.
La sorpresa fue mayúscula cuando, sin haber programado al sistema con las reglas y el modo de operar del juego, la inteligencia artificial aprendió por si sola a manejar la pelota y, tras unas seiscientas partidas, consiguió desarrollar técnicas más avanzadas que los jugadores humanos.
Sin embargo, hace dos años otro equipo de científicos de la empresa Vicarious decidió volver a poner a prueba al algoritmo. Volvieron a reproducir con éxito el proceso de aprendizaje del sistema, pero, una vez conseguido, comenzaron a introducir pequeños cambios en el videojuego.
Modificaciones como elevar la altura de la raqueta o poner un núcleo de ladrillos indestructibles dentro del conjunto, son asimilados casi instantáneamente por el jugador humano y, sin embargo, el sistema de inteligencia artificial no lo consiguió. Solamente sabía jugar a la versión de Breakout con la que había aprendido, pero fallaba cuando esta sufría la mínima alteración.
Dileep George, cofundador de Vicarious, explicaba en la revista Wired esta diferencia entre las personas y las máquinas inteligentes: “nosotros los humanos no somos solamente identificadores de patrones. También construimos modelos sobre las cosas que vemos. Y estos son modelos causales –comprendemos sobre causa y efecto”.
El ser humano realiza inferencias sobre todo lo que le rodea, de forma que su sentido común le ayuda a comprender y enfrentarse a situaciones nuevas. En el caso anterior del videojuego, el jugador entiende la filosofía de Breakout y es capaz de suponer que, aunque cambien determinadas condiciones, las reglas y los objetivos son los mismos. Por el contrario, la máquina ha aprendido el patrón del juego sin entenderlo, y cuando cambia dicho patrón, ya no sabe jugar.
La inteligencia artificial tiene una rama de estudio conocida como Razonamiento de Sentido Común, cuyo objetivo es conseguir que los programas informáticos desarrollen formas de razonar como las que realizan las personas de manera natural al enfrentarse a problemas en situaciones del mundo real. En general, este tipo de aproximación a las cuestiones más mundanas no se ha conseguido llevar a cabo con los enfoques matemáticos tradicionales.
Por el contrario, esta línea de pensamiento reposa sobre formas de representación del conocimiento y mecanismos de inferencia para simular, entre otros, el razonamiento por defecto, el razonamiento espacial, el razonamiento temporal o el razonamiento sobre el mundo físico.
Actualmente, existen varias iniciativas que trabajan en el modo de dotar a las máquinas inteligentes de sentido común. Una de ellas está impulsada por Paul Allen, cofundador de Microsoft, innovador y filántropo, que ha comprometido la cantidad de 125 millones de dólares, a lo largo de tres años, en el Allen Institute for Artificial Intelligence (AI2), para alcanzar este objetivo. Otra de ellas ha sido acometida por el sector militar estadounidense, la Defense Advanced Research Projects Agency (DARPA), a través del proyecto The Machine Common Sense Program.
“Ningún sistema de inteligencia artificial de los ahora desarrollados puede contestar con seguridad un amplio rango de preguntas simples del tipo: ¿si pongo mis calcetines en el armario, estarán allí mañana? o ¿cómo puedes saber si el cartón de leche está lleno?” Son palabras del consejero delegado de AI2, Oren Etzioni, que subraya lo extremadamente difícil que resulta enseñar sentido común a las máquinas.
Y utiliza otro ejemplo para ilustrar esto: en 2016 un algoritmo bautizado como AlphaGo venció al campeón del mundo del complejo juego de mesa chino Go, el coreano Lee Sedol. Pues bien, según Etzioni, ese programa tan avanzado como para dominar la estrategia, superando a la de un humano, no sabía que Go es un juego de mesa.
Un equipo del AI2 ha decidido utilizar el Pictionary para enseñarle a un sistema de inteligencia artificial, AllenAI, a desarrollar el sentido común. El popular juego de mesa consiste en adivinar una palabra a través de un dibujo hecho en papel. Los investigadores han desarrollado una versión online, Iconary, para jugar contra la máquina, a la que a veces toca adivinar el dibujo, y otras dibujar, para que los jugadores humanos adivinen un concepto tras la imagen.
El líder del proyecto, Ali Farhadi, defiende que para jugar al Pictionary es necesario utilizar mucho razonamiento sofisticado, y que este juego, “de hecho, enseña sentido común”.
Otra de las iniciativas en este campo es The Machine Common Sense Program, de la agencia militar norteamericana DARPA. El programa estudiará todos los avances recientes en entendimiento cognitivo, procesado de lenguaje natural y aprendizaje profundo, entre otras áreas, para poder dar con una respuesta al problema del sentido común. Para ello, se han puesto en marcha dos líneas de trabajo.
La primera persigue crear modelos computacionales que aprendan de la experiencia e imiten los dominios básicos del conocimiento, tal y como son definidos por la psicología del desarrollo. Esto incluye el dominio de los objetos (física intuitiva), lugares (navegación espacial) y agentes (actores intencionales).
La segunda aproximación tiene como objetivo construir un repositorio sobre el sentido común, que sea capaz de responder preguntas en lenguaje natural basadas en imágenes sobre fenómenos relacionados con el razomiento cotidiano.
Una última aportación sobre el tema llega a través de un paper firmado por Google DeepMind, IBM y el MIT, en el que se describe un programa informático, creado en el Center for Brains, Minds, and Machines, bautizado como neuro-symbolic concept learner (NS-CL) o aprendiz de conceptos neurosimbólicos. Este sistema aprende sobre el mundo como lo hace un bebé, mirando a su alrededor y hablando.
El NS-CL consta de dos redes neuronales, una entrenada para reconocer escenas creadas a partir de unos pocos objetos; la otra ha recibido preguntas y respuestas de texto relacionadas con las escenas, del tipo: “¿de qué color es la esfera?” “Roja”.
Para unir los dos módulos de aprendizaje, los investigadores del proyecto han creado un módulo de razonamiento neurosimbólico. El conjunto emula el sistema humano de aprendizaje. El módulo de percepción aprende conceptos visuales basados en la descripción del objeto en cuestión. Los conceptos visuales aprendidos facilitan el aprendizaje de nuevas palabras y el análisis gramatical de frases.
Los autores del trabajo explican así el funcionamiento de este sistema inteligente: “nuestro modelo aprende conceptos visuales con precisión notable. Basándose en los conceptos aprendidos, nuestro modelo obtiene buenos resultados respondiendo preguntas, y lo que es más importante, generaliza correctamente ante nuevas composiciones, nuevos conceptos visuales y nuevos lenguajes de específicos de dominio”.
Fotografía de Pixabay en Pexels
Andrich, C., Novosel, L. y Hrnkas, B. (2009) “Common Sense Knowledge”. Graz University of Technology. Disponible en: https://pdfs.semanticscholar.org/59e3/495f4f1e70629e17ddbbce06834626b2a363.pdf
Coldewey, D. (2018) “DARPA wants to teach and test ‘common sense’ for AI” en TechCruch. Disponible en: https://techcrunch.com/2018/10/11/darpa-wants-to-teach-and-test-common-sense-for-ai/?guccounter=1&guce_referrer_us=aHR0cHM6Ly93d3cuZ29vZ2xlLmVz&guce_referrer_cs=JunpQbO1OzKeflaHyiKT_A
DARPA (2018) “Teaching Machines Common Sense Reasoning”. Disponible en: https://www.darpa.mil/news-events/2018-10-11
Gunning, D. “Machine Common Sense (MCS)”. DARPA. Disponible en: https://www.darpa.mil/program/machine-common-sense
Jiménez Cano, R. (2016) “El dueño de un Tesla, primer muerto en un coche con piloto automático” en El País. Disponible en: https://elpais.com/tecnologia/2016/07/01/actualidad/1467337732_779288.html
Knight, W. (2019) “An AI Is Playing Pictionary To Figure Out How the World Works” en MIT Technology Review. Disponible en: https://www.technologyreview.com/s/612882/an-ai-is-playing-pictionary-to-figure-out-how-the-world-works/
Knight, W. (2019) “Two rival AI approaches combine to let machines learn about the world like a child” en MIT Technology Review. Disponible en: https://www.technologyreview.com/s/613270/two-rival-ai-approaches-combine-to-let-machines-learn-about-the-world-like-a-child/
Mao, J., Gan, C., Kohli, P., Tenenbaum, J. y Wu, J. (2019) “The Neuro-Symbolic Concept Learner: Interpreting Scenes, Words, and Sentences From Natural Supervision”. Disponible en: https://openreview.net/pdf?id=rJgMlhRctm
Paul Allen (2018) “Allen Institute for Artificial Intelligence to Pursue Common Sense for AI”. Disponible en: https://www.paulallen.com/ai-common-sense-project-alexandria/#kew1jxFXrSyZBgVS.99
Thompson, C. (2018) “How to Teach Artificial Intelligence Some Common Sense” en Wired. Disponible en: https://www.wired.com/story/how-to-teach-artificial-intelligence-common-sense/
Wilson, J., Daugherty, P. y Davenport, C. (2019) “The Future of AI Will De About Less Data, Not More” en Harvard Business Review. Disponible en: https://hbr.org/2019/01/the-future-of-ai-will-be-about-less-data-not-more
Economista especializado en el estudio del impacto de la tecnología en la sociedad. Actualmente trabaja en el área de estudios y publicaciones de Fundación Telefónica.
Ver todos los artículos
Economista especializado en el estudio del impacto de la tecnología en la sociedad. Actualmente trabaja en el área de estudios y publicaciones de Fundación Telefónica.
Ver todos los artículos
Comentarios