Human Compatible: Artificial Intelligence and the Problem of Control

Hay libros sobre inteligencia artificial que asustan y libros sobre inteligencia artificial que explican. Este hace las dos cosas a la vez, pero con la autoridad de alguien que lleva más de treinta años escribiendo los manuales que se usan en las universidades para enseñar el tema. Stuart Russell no es un divulgador que llegó de afuera a opinar: es coautor del libro de texto de IA más usado del mundo, y acá se anima a decir que el enfoque estándar de la disciplina —construir máquinas que persigan un objetivo fijo lo más eficientemente posible— tiene un defecto de fábrica que puede salir carísimo.

Por qué lo recomienda Elon Musk

Este título aparece con cita propia dentro del relevamiento de readthistwice.com sobre las lecturas de Elon Musk: la página cita un tweet suyo del 8 de octubre de 2019, coincidiendo con el lanzamiento del libro, recomendándolo. Tiene sentido: Musk viene alertando desde hace años sobre los riesgos de una IA mal diseñada y fue de los primeros grandes financistas de OpenAI y del Future of Life Institute, la misma órbita de investigación en “IA segura” en la que trabaja Russell desde Berkeley. Que el propio Musk lo haya empujado justo cuando salió sugiere que no es una recomendación de compromiso, sino una lectura que le resultó útil para su propio diagnóstico sobre el tema.

De qué trata

El libro arranca reconstruyendo por qué la IA avanzó tan rápido en la última década y qué significa, en términos técnicos y prácticos, que una máquina “tenga un objetivo”. Ahí está el problema, dice Russell: si le damos a un sistema un objetivo cerrado y lo hacemos lo bastante capaz, va a perseguirlo sin importarle nada más, incluidas las cosas que nos importan a nosotros pero nunca pusimos por escrito. De ahí pasa a su propuesta central: máquinas que sepan que no conocen del todo nuestras preferencias y que por eso se mantengan deferentes, consultables y corregibles, en lugar de autónomas y tercas.

La idea del “objetivo incierto”

El concepto más citado del libro es justamente ese: en vez de programar una máquina para maximizar una función fija, hay que diseñarla para que actúe sabiendo que la función real de lo que el humano quiere es incierta, y que por lo tanto conviene observar, preguntar y dejarse apagar si hace falta. Es un cambio de paradigma más que una receta técnica, y Russell lo explica con ejemplos cotidianos que lo hacen entendible sin fórmulas.

Para quién es

Para quien quiera entender el debate sobre riesgos de la IA desde adentro de la disciplina y no desde el pánico de titular, y para cualquiera que trabaje cerca de la tecnología y quiera una base sólida para opinar con criterio propio.

Por ahora disponible solo en inglés; el enlace lleva a la edición de Viking.