Un niño jugando con una bomba
La editorial zaragozana TEELL publica en español el ensayo sobre la explosión de la inteligencia artificial
Superinteligencia. Caminos, peligros, estrategias
Nick Bostrom
TEELL editorial, 2016
Traducción e introducción: Marcos Alonso
331 p
Nick Bostrom (Suecia, 1973, nickbostrom.com) es profesor de filosofía en Oxford, con formación en física, neurociencia y matemáticas. En 2004 cofundó, junto con James Hughes, el Institute for Ethics and Emerging Technologies, desde 2005 dirige el Future of Humanity Institute en Oxford y es autor de 200 publicaciones. Su libro “Superinteligencia”, publicado en 2014, fue superventas en The New York Times. Bill Gates ha declarado: “Recomiendo encarecidamente este libro”.
“Superinteligencia” es un libro ambicioso y denso que pone los pelos de punta. Bostrom se plantea que si llegamos a construir cerebros artificiales que nos superen en inteligencia, podrían acabar con nosotros: “Ante la perspectiva de una explosión de inteligencia los humanos somos como niños pequeños jugando con una bomba. Tal es el desajuste entre el poder de nuestro juguete y la inmadurez de nuestra conducta”.
Tenemos la ventaja de que todavía no hemos llegado a ese punto y una de las misiones de este libro técnico y filosófico es prepararnos para ello. La parte difícil es el control de esa futura superinteligencia, ya muy explorada por la ciencia ficción y popularizada por el cine: el autor repasa las opciones de los humanos para anticiparse a sus propias creaciones y hacer que ese superpoder mundial sea benéfico. “Tanto si tenemos éxito como si fracasamos –escribe Bostrom– probablemente será el último reto que tengamos que afrontar”.
Es un trabajo exhaustivo que repasa la historia de la inteligencia artificial (IA), el estado de la cuestión, las posibles rutas y formas de esa superinteligencia y cómo se podría controlar. Es un libro fascinante que ya se ha convertido en referencia ineludible de la mirada al futuro, que es cada vez más necesaria porque, como explica el mismo texto, la explosión de superinteligencia, cuando se produzca, puede ser muy rápida y no sería bueno que nos pillara desprevenidos.
“Superinteligencia” aborda este asunto desde la última hora de la ciencia, la tecnología y el estado del mundo pero siempre con un enfoque filosófico, ético y humano por lo que hasta las cuestiones más colaterales o técnicas revelan su lado central y suscitan la reflexión y el debate: todo es complejo y este libro afronta en cada detalle esa complejidad. Uno de los principios que propone Bostrom, que no es en absoluto evidente ni fácil de implementar, es que “La superinteligencia sólo debe desarrollarse para el beneficio de toda la humanidad y al servicio de ideales éticos ampliamente compartidos” (p. 255).
Para reducir los riesgos de la IA propone visión estratégica y creación de capacidad. Incluso sugiere un plan de acción cuál debería ser el perfil de los donantes filantrópicos para afrontar esta tarea: “astutos y altruistas”. También propone como objetivo específico “promover las buenas prácticas entre los investigadores de la IA”: “todo avance sobre el problema de control debe ser compartido”. Reconoce que la explosión de inteligencia podría tardar muchas décadas en llegar y que “nos enfrentamos también al desafío de aferrarnos a nuestra humanidad, sentido común y jovial decencia incluso en las fauces del problema más antinatural e inhumano. Tenemos que poner todo nuestro ingenio humano a trabajar en su solución”.
El libro de Bostrom se disfruta como una novela de suspense en la que los protagonistas somos todos. Gran aparato de notas, extensa bibliografía y anexos repartidos por todos los capítulos garantizan placer y nervios también en los complementos. Como dice Bill Gates: hay que leerlo.
___
En Artes & Letras de Heraldo de Aragón 16-6-16
___
