Utopía profunda 1

 

“¿Qué va a pasar cuando la IA haga todo mejor que nosotros y por nosotros?” ¿Sería posible en un futuro una IA “esclava feliz”? ¿Para cuándo la mayor parte del mundo estará poblada por “mentes digitales”? ¿Cómo haremos frente “al problema de la utopía” una vez que “hayamos resuelto los otros problemas”? Preguntas que, sin duda, generan muchas expectativas. Antes de que nos apresuremos a buscar las respuestas en el libro hay que conocer los destinatarios. Bostrom advierte que este tipo de planteamientos “está reservado a la élite moral”. Sin saber muy bien a qué se refiere y, menos todavía, a si estamos o no incluidos en tal selecto club, conviene observar con una cierta distancia los modos empleados. Puede parecer inútil y tedioso hacerlo, pero las generosas citas tempranas de Bill Gates y Elon Musk advierten, si bien no de la altura intelectual del libro, sí de la división en que se está jugando y las peculiares reglas que deben regir ahí. Es necesario conocerlas antes de osar una crítica a la forma y contenido de un libro singular en el que lo primero determina a lo segundo, como la parodia en que se complace Bostrom del manuscrito encontrado en unas conferencias. El resultado es un socratismo posmoderno, de diálogos surrealistas con estudiantes variopintos, en un intento de colegueo todo menos que natural, fábulas alucinantes de y sobre animales, interrupciones pactadas de autoridades académicas, informaciones valiosas como “voy a tomar un sorbo de agua” y exhibición de dotes de apaciguamiento ante una falsa alarma de fuego.

A los que no son miembros afortunados de esa “elite moral” se les hace muy difícil transitar por ese aparente caos mental. Algo de castigo debe llevar, ya que, después de unas páginas iniciales alentadoras, no hay respuesta final a esas preguntas tan acuciantes. Bostrom procede así de una manera inversa a la que nos van acostumbrando los nuevos distópicos influencers: después de jurar que no son tecnófobos, dedican la mayor parte de sus intervenciones y escritura a describir con todo lujo de detalles un futuro apocalíptico a cargo de siniestros algoritmos emancipados, castigo merecido por haber osado volver a jugar a “modernos Prometeos”, más que dioses, semidioses. Por el contrario, de Bostrom, que nos ha prometido un viaje “al corazón del problema de la utopía”, a un mundo nuevo por “el inminente desarrollo de la superinteligencia”, a una “utopía profunda” hecha posible por la IA donde ella nos aportará “la dignidad de dedicarse a vivir” en vez de a trabajar, esperamos que nos explique, sin más dilaciones, “qué hacer cuando no hay nada que hacer”. Sin embargo, hay que rebajar las expectativas: “No tratamos de predecir lo que sucederá. Más bien, estamos investigando lo que podemos esperar que suceda si las cosas van bien”. Y las cosas no parecen ir del todo bien. El problema, en el fondo, de las expectativas generadas por el título del libro, saber cómo será la utopía profunda, son los problemas no resueltos antes del mundo que avizora el subtítulo. Y a tratarlos dedica Bostrom, con encomiable esfuerzo, la casi totalidad del libro.