Premio Fronteras del Conocimiento a Judea Pearl por sentar las bases de la Inteligencia Artificial moderna que permite a los ordenadores gestionar la incertidumbre y relacionar causas con efectos

“Al sentar una base matemática para el razonamiento probabilístico y la inferencia de relaciones causales, Pearl construyó un marco para una serie de campos que incluyen las ciencias de la computación, las matemáticas y la estadística, la epidemiología y la salud, y las ciencias sociales”, señala el acta del jurado.

Los métodos de Pearl se enseñan hoy en todas las facultades de Informática y sus libros “han inspirado avances trascendentales en la comprensión del razonamiento y el pensamiento”. Su “amplio y profundo impacto” se percibe en multitud de áreas y aplicaciones, como “en el desarrollo de ensayos clínicos médicos no sesgados y eficaces, en la psicología, la robótica y la biología”, añade.

Entrevista con Judea Pearl

La candidatura de Pearl ha estado avalada por 11 destacados investigadores en Europa y Estados Unidos, expertos en ciencias de la computación, Inteligencia Artificial, psicología, economía, y filosofía. Entre ellos se encuentra el premio Nobel de Economía Daniel Kahneman, que al apoyar su candidatura afirma: “A lo largo de mi carrera he conocido a bastantes académicos reconocidos como gigantes en su campo. Creo que nunca he encontrado uno que suscite tanta reverencia y tanto afecto como Judea Pearl”. Otro de los nominadores es Vinton G. Cerf, vicepresidente y Chief Internet Evangelist en Google (EEUU), que dice haber observado “con admiración cómo su trabajo ha abierto nuevos caminos, a menudo en contra de la sabiduría convencional. Judea Pearl siguió investigando a pesar del escepticismo y sus esfuerzos se vieron recompensados con creces”.

“El trabajo de Pearl es fundamental porque aporta herramientas que van a permitir dotar a las máquinas de conocimientos basados en las relaciones causa-efecto que utilizamos las personas en la vida cotidiana”, explica por su parte el profesor Ramón López de Mántaras, director del Instituto de Investigación de Inteligencia Artificial (IIIA) del CSIC, otro de los nominadores. “Ha contribuido a crear un lenguaje matemático para que un sistema de Inteligencia Artificial pueda explicar no solamente el porqué de sus decisiones (es decir responder a las preguntas de tipo Why?), sino también responder a preguntas de tipo What if?, es decir, ¿qué hubiera pasado si las cosas se hubieran hecho de otra manera? Por ejemplo, en el campo de la medicina, ¿qué hubiera pasado si hubiéramos dado otra medicación a un paciente?”

Una Inteligencia Artificial “menos opaca”

Los nominadores destacan que frente a otras líneas de la IA y la estadística, como el deep learning o las redes neuronales, la contribución de Pearl aporta una transparencia que es imprescindible en algunas áreas de aplicación, como la toma de decisiones en medicina o en cuestiones legales y económicas.

Vinton G. Cerf ha señalado que los  libros más recientes de Pearl sobre causalidad y razonamiento “son hitos en el análisis bayesiano y el aprendizaje automático. Pearl argumenta con fuerza que, sin un modelo causal, las correlaciones descubiertas por las redes neuronales profundas no darán muchos frutos”.

Pedro Larrañaga, catedrático de Inteligencia Artificial (IA) en la Universidad Politécnica de Madrid (UPM), lleva tres décadas investigando teóricamente y aplicando las contribuciones de Pearl en dominios como la bioinfomática, la neurociencia o la industria. Según explica, la aportación del premiado hace posible una Inteligencia Artificial “menos opaca”, que permite entender las razones por las que los sistemas inteligentes llegan a determinadas conclusiones: “Gran parte de los éxitos recientes de la IA se basan en redes neuronales que emplean algoritmos de aprendizaje profundo (deep learning). Pero estos programas son como cajas negras, no es posible interpretar cómo han llegado a resolver el problema. Frente a ello está la línea que considera que la interpretabilidad debe estar en la base de la IA, y ahí nos situamos quienes trabajamos con las redes bayesianas de Pearl”.

Larrañaga apuesta por un crecimiento de la IA en esta dirección, en especial en áreas como la medicina o en decisiones con consecuencias legales o financieras. “Tanto en EEUU como en Europa hay una tendencia a pedir una ética de la IA, y a auditar los procesos. Por eso creo que prevalecerá la línea de trabajo de Pearl, porque ofrece mayor transparencia”, señala.

En esto coincide también Ramón López de Mántaras, para quien las herramientas aportadas por el trabajo de Pearl “permiten la explicabilidad, es decir, ofrecen una trazabilidad en la cadena de razonamiento que ha utilizado una Inteligencia Artificial para llegar a una determinada conclusión. Este tipo de sistemas es más complejo, pero merecen la pena, porque ofrecen mucha mayor confianza, ya que así, por ejemplo, un médico puede conocer las razones por las que la máquina ha alcanzado un diagnóstico o recomienda un tratamiento a un paciente”.

“Un modelo computacional de la comprensión profunda”

En una entrevista realizada tras conocerse el fallo, Pearl ha resumido en una frase la que considera su aportación fundamental a la Inteligencia Artificial moderna: “Es la primera vez que podemos entender lo que significa entender, la primera vez que tenemos un modelo computacional de la comprensión profunda”. Y comprender, para Pearl, significa “ser capaz de responder preguntas en tres niveles importantes: la predicción [qué ocurrirá en tal o cual circunstancia]; el efecto de las acciones; y su explicación, por qué las cosas ocurrieron como lo hicieron y qué habría pasado si hubieran ocurrido de otra manera. Estos tres niveles de sofisticación son los que el lenguaje computacional capta ahora y eso es lo que entendemos por comprensión”.

El razonamiento probabilístico y la capacidad de establecer relaciones de causalidad son las dos áreas en que las aportaciones de Pearl destacan especialmente. Como explica Pedro Larrañaga, son capacidades propias de la mente humana consideradas problemas clave para la IA: “El razonamiento probabilístico lo empleamos constantemente para gestionar la incertidumbre, lo que no sabemos; un médico, por ejemplo: continuamente busca la explicación más probable a los síntomas que presenta el enfermo”.

Máquinas que toman decisiones cuando hay incertidumbre

El propio Pearl explica así su contribución a la comprensión del razonamiento probabilístico del cerebro humano, para poder replicarlo en un sistema informático: “La incertidumbre es la materia prima que prevalece en la toma de decisiones cotidianas, incluso al cruzar la calle, tomar una aspirina o hablar con amigos; nos cuesta bastante hacer que un ordenador pueda lidiar con el aluvión de ruido e información incierta que tiene sobre el mundo. Mi trabajo ha desarrollado un cálculo para el razonamiento probabilístico que permite al ordenador manejar toda la información que le llega, integrarla y asignar probabilidades a tal o cual conclusión”.

En los años ochenta, Pearl desarrolló el lenguaje matemático necesario para integrar la IA clásica con la teoría de la probabilidad. Su libro Probabilistic Reasoning in Intelligent Systems, publicado en 1988, sigue siendo la referencia en el área. En esta obra presentó sus modelos gráficos, las llamadas redes bayesianas, desde entonces convertidas en un elemento básico del aprendizaje automático y la estadística moderna.

“Una red bayesiana es una representación de sucesos y la probabilidad de que ocurran −explica el acta del jurado−. Estos grafos permitieron articular visualmente y con sencillez redes de sucesos muy complejas y sus relaciones probabilísticas, lo que permitió a los ordenadores resolver situaciones hipotéticas del mundo real, descubrir dependencias latentes y predecir resultados mediante la propagación de probabilidades. Las redes bayesianas son ahora herramientas precisas y muy utilizadas para la toma de decisiones en condiciones de incertidumbre”.

La importancia de saber inferir relaciones de causalidad entre dos fenómenos no es menor. De hecho, es un reto también para los humanos, explica Pearl: “Las relaciones causales han sido un obstáculo muy difícil de manejar tanto para las personas como para las máquinas; no tenemos el lenguaje formal para captar la idea de que el canto del gallo no causa la salida del sol aunque se produzca siempre antes de la salida del sol, y permita predecirla”.

En su libro Causality, publicado en 2002, Pearl se centró en el cálculo causal, que proporciona un marco formal para inferir relaciones causales a partir de datos. “Esto nos permite entender cómo se predice el efecto de las intervenciones en los resultados”, explica el acta. “Pearl desarrolló un lenguaje matemático para distinguir entre relaciones causales y correlaciones espurias”.

Aplicaciones de la formulación matemática de la causalidad

Lograr que las máquinas detecten relaciones de causalidad abre la puerta a múltiples aplicaciones. “Ahora tenemos un lenguaje que permite emplear nuestros conocimientos sobre el mundo para inferir de forma coherente”, asegura Pearl. “Como hacemos en el álgebra: inferimos la conclusión y se demuestra que esta conclusión es correcta si las suposiciones lo son. Las aplicaciones van desde la medicina personalizada hasta el manejo de una pandemia como la del Covid, integrando información de numerosos países y llegando a conclusiones coherentes a partir de la evidencia disponible”.

De hecho, Larrañaga explica que durante la pandemia su equipo ha apoyado a centros sanitarios aplicando las redes bayesianas a decisiones como qué paciente debía ser intubado, o predecir la evolución: si se iba a requerir ingreso en UCI, o el tiempo de ingreso.

Nominadores

Judea Pearl ha sido nominado por Vinton G. Cerf, vicepresidente y Chief Internet Evangelist en Google (Estados Unidos); Pedro Domingos, catedrático en la Facultad Paul G. Allen de Ciencias de la Computación e Ingeniería de la Universidad de Washington (Estados Unidos); Eli Gafni, catedrático y director del Departamento de Ciencias de la Computación de la Universidad de California en Los Ángeles (Estados Unidos); Joseph Y. Halpern, titular de la cátedra Joseph C. Ford en el Departamento de Ciencias de la Computación de la Universidad Cornell (Estados Unidos); Daniel Kahneman, titular emérito de la Cátedra Eugene Higgins de Psicología en la Universidad de Princeton (Estados Unidos) y premio Nobel de Economía 2002; Daphne Koller, fundadora y directora ejecutiva de INSITRO (Estados Unidos); Ramón López de Mántaras, profesor de investigación en el Instituto de Investigación en Inteligencia Artificial del Consejo Superior de Investigaciones Científicas (España); Stuart Russell, catedrático de Ciencias de la Computación en la Universidad de California en Berkeley (Estados Unidos); Bernhard Schölkopf, director del Instituto Max Planck para Sistemas Inteligentes (Alemania) y premio Fundación BBVA Fronteras del Conocimiento en Tecnologías de la Información y la Comunicación 2019; Steven Sloman, catedrático de Ciencias de la Cognición, Lingüística y Psicología en la Universidad Brown (Estados Unidos); y Wolfgang Spohn, catedrático en el Departamento de Filosofía de la Universidad de Constanza (Alemania).

Jurado y Comité Técnico de Tecnologías de la Información y la Comunicación

El jurado de esta categoría ha estado presidido por Joos Vandewalle, presidente de honor de la Real Academia Flamenca de Ciencias y Artes de Bélgica y catedrático emérito del Departamento de Ingeniería Eléctrica de la Universidad Católica de Lovaina (Bélgica); y ha contado como secretario con Ron Ho, director de Ingeniería de Silicio en Meta (Estados Unidos). Los vocales han sido Regina Barzilay, Distinguished Professor de Inteligencia Artificial y Salud en la Escuela de Ingeniería del Instituto Tecnológico de Massachusetts (Estados Unidos); Georg Gottlob, catedrático de Informática en la Universidad de Oxford (Reino Unido) y en la  Universidad Tecnológica de Viena (Austria); Oussama Khatib, catedrático de Ciencias de la Computación y director del Laboratorio de Robótica en la Universidad de Stanford (Estados Unidos); Rudolf  Kruse, catedrático emérito en la Facultad de Ciencias de la Computación de la Universidad Otto von Guericke de Magdeburgo (Alemania); y Mario Piattini, catedrático de Lenguajes y Sistemas Informáticos de la Universidad de Castilla-La Mancha (España).

En cuanto al Comité Técnico de Apoyo del Consejo Superior de Investigaciones Científicas (CSIC), ha estado coordinado por M.ª Victoria Moreno, vicepresidenta adjunta de Áreas Científico-Técnicas del CSIC, e integrado por Alfonso Cebollada Navarro, profesor de investigación en el Instituto de Micro y Nanotecnología (IMN-CNM); Gabriela Cembrano Gennari, científica titular en el  Instituto de Robótica e Informática Industrial (IRII); Felip Manya Serres, científico titular en el Instituto de Investigación en Inteligencia Artificial (IIIA); y Marisol Martín González, coordinadora del Área Global Materia y profesora de investigación en el Instituto de Micro y Nanotecnología (IMN-CNM).

Sobre los Premios Fundación BBVA Fronteras del Conocimiento

La Fundación BBVA tiene como foco de su actividad el fomento de la investigación científica y la creación cultural de excelencia, así como el reconocimiento del talento.

Los Premios Fundación BBVA Fronteras del Conocimiento reconocen e incentivan contribuciones de singular impacto en la ciencia, la tecnología, las humanidades y la música, en especial aquellas que amplían significativamente el ámbito de lo conocido en una disciplina, hacen emerger nuevos campos o tienden puentes entre diversas áreas disciplinares. El objetivo de los galardones, desde su creación en 2008, es celebrar y promover el valor del conocimiento como un bien público sin fronteras, que beneficia a toda la humanidad porque es la mejor herramienta de la que disponemos para afrontar los grandes desafíos globales de nuestro tiempo y ampliar la visión del mundo de cada individuo. Sus ocho categorías atienden al mapa del conocimiento del siglo XXI, desde el conocimiento básico hasta los campos dedicados a entender e interaccionar el entorno natural, pasando por ámbitos en estrecha conexión, como la biología y la medicina o la economía, las tecnologías de la información, las ciencias sociales y las humanidades y un área universal del arte como la música. Están dotados con 400.000 euros en cada una de las ocho categorías, un símbolo artístico creado por la artista Blanca Muñoz y un diploma.

En la evaluación de las nominaciones al Premio Fronteras del Conocimiento en la categoría de Tecnologías de la Información y la Comunicación, procedentes de numerosas instituciones y países, la Fundación BBVA cuenta desde la primera edición de los premios con la colaboración de la principal organización pública española de investigación, el CSIC. El Consejo Superior de Investigaciones Científicas designa Comités Técnicos de Apoyo, integrados por destacados especialistas del correspondiente ámbito de conocimiento, que llevan a cabo la primera valoración de las candidaturas, elevando al jurado una propuesta razonada de finalistas. El CSIC designa, además, la presidencia de cada uno de los jurados en las ocho categorías de los premios y colabora en la designación de todos sus integrantes, contribuyendo así a garantizar la objetividad en el reconocimiento de la innovación y excelencia científica.