Innerarity. Una teoría crítica de la inteligencia artificial (2)

 

Esas tres palabras citadas empiezan ya a ser reconocibles en el análisis que Innerarity hace de la situación en la que se encuentran hoy las posturas respecto a la inteligencia artificial. Se pregunta muy atinadamente: “¿Es posible tener una relación menos histérica con el mundo digital?” (28). A lo largo del libro advierte que va a plantear ciertas cuestiones de “una manera provocadora”. Desde luego en lo que se refiere a esta el diagnóstico es muy ajustado. Es raro encontrar libros o intervenciones en los medios sociales en los que, hechas las oportunas salvedades, no acaben situándose en uno u otro extremo. Hay que tenerlos en cuenta, pero no habría que confundir los imaginarios utópicos o distópicos con la reflexión en torno al tema, que es lo que reclama Innerarity. Son extremos, pero el dicho común de que los extremos se tocan no solo se cumple, sino que se invierten los papeles y los que antes eran entusiastas de las nuevas tecnologías se han convertido ahora en Casandras que profetizan los desastres a los que nos aboca el progreso. El autor lo resume así: “En poco tiempo hemos pasado del ciberentusiasmo a la tecnopreocupación” (299). La palabra “equilibrio” que él propugna cumple aquí su función moderadora. Pero no hay que confundirla con otras.

Estando él fuera de toda sospecha en este punto por su trayectoria resultan de mucho interés las puntualizaciones que hace a la recomendación habitual del enfoque ético de la inteligencia artificial. Suele consistir en la propuesta de “humanizar” las tecnologías mediante el aumento de control y supervisión de estas para corregir los riesgos de la automatización. Innerarity ve ahí, al menos, dos problemas. El primero, que ello podría privarnos de los beneficios de la automatización en los dispositivos que manejamos habitualmente, que forman parte de nuestra vida cotidiana, y cuya utilidad consiste en su manejo inconsciente. El segundo problema es el que está en la raíz de esa demanda ética generalizada. Innerarity lo aborda de forma decididamente “provocadora”: “Si se me permite una ligera exageración, quienes se ocupan de cuestiones éticas no suelen estar demasiado preocupados de que su diagnóstico describa adecuadamente la realidad o de que sus recomendaciones sean practicables y eficaces” (152). Y para que no haya dudas de a qué se está refiriendo cita expresamente varias recomendaciones del borrador Directrices éticas sobre inteligencia artificial de la Comisión europea. Para concluir con algo que parece ser paradójico con los propósitos del autor: “Mi propuesta es considerar que el pensamiento consciente, la reflexión, la decisión y el control están sobrevalorados, especialmente en entornos tecnológicos complejos. La nostalgia de la simplicidad y el control nos lleva a creer que la conciencia y el control nos haría más dueños de la situación en estos nuevos entornos en los que hay que negociar equilibrios inestables con máquinas poco dóciles, renunciar a controles estrictos y enfrentarse a escenarios de mayor incertidumbre” (153).

Hay, pues, una contraposición entre la nostalgia de la simplicidad que subyace a esas recomendaciones éticas y la constatación de la complejidad de las sociedades tecnológicas irreductible a esa simplificación. Y es, precisamente, esa asimetría lo que las hace difíciles de llevar a la práctica. Innerarity lo ha intentado evitar desde el comienzo del libro en el epígrafe titulado “El complemento ético “: “No podemos esperar la solución al problema de la articulación entre la inteligencia artificial y la democracia a partir de la actual proliferación de códigos éticos porque… [Antes que normativo, el desafío al que nos enfrentamos es conceptual]” (21). Y con ello se llega al punto clave de divergencia entre esta teoría crítica y la “exhortación moralizante”: “debe comprender y respetar la complejidad de lo que se critica” (24). Todo un programa.

Se inicia con ello una navegación apasionante y original en el libro, una auténtica guía para complejos y perplejos. Lo iremos viendo.

 

 

Innerarity. Una teoría crítica de la inteligencia artificial (1)

 

El título intriga y el contenido sorprende.

En principio resulta extraño, teniendo en cuenta el pasado y los intereses de la Teoría Crítica tradicional, asociarla a una investigación sobre la inteligencia artificial que vaya más allá de la negación de lo existente. Pero también es cierto que Adorno en Dialéctica negativa afirma, desde la “autorreflexión” de esta, que un pensamiento no es verdadero si no va contra sí mismo. Una confesión sobre la honestidad del procedimiento que, sin embargo, provocó dudas sobre la posible parálisis a la que conducía el método, es el caso de la crítica de Habermas. En la entradilla del libro se pregunta Innerarity: “En el que fue el despacho de Adorno he pensado muchas veces qué teoría crítica habría escrito él de haber conocido el actual despliegue de la inteligencia artificial”. Y, efectivamente, en estilo adorniano, se puede leer el título de la Introducción “Crítica de la razón algorítmica”. Pero, detalle significativo, el libro está dedicado a Habermas. La bibliografía del libro es apabullante, pero la mención explícita a estos dos filósofos debería bastar como marco de la investigación. Debería. Pero lo cierto es que se sale del marco.

En varios sentidos. Hay un aire adorniano en el punto de partida, la negatividad de lo existente. Innerarity ha recordado en sus intervenciones, y se percibe en este libro, la paradoja del individuo escindido entre lo que le conviene como filósofo y lo que prefería como ciudadano. La filosofía solo es necesaria cuando las cosas van mal y, a la vista de la realidad en las diferentes épocas, parece que no le va a faltar nunca trabajo. El mismo Adorno recordaba que el destino último deseable de la Teoría Crítica sería desaparecer…porque ya no habría nada que criticar. El problema es que en sus análisis la sociedad era ontológicamente enferma y, por ello, lo estaba también sociológicamente. Ese pesimismo metafísico teórico, que compartía Horkheimer, le ataba las manos a pesar de su pretendido optimismo práctico.

En el caso de Innerarity hay una modulación interesante ya que, en lugar de elevar esa negatividad a nivel metafísico, la reconduce a su dimensión social. Y es entonces cuando la expresión “teoría crítica” adquiere su sentido originario de análisis, reflexión, de permitir formar criterio, saber distinguir en la complejidad, para poder argumentar, deliberar y tomar decisiones, en las que no solo entra el individuo sino también las instituciones. Por el contrario, advierte Innerarity, enfoques como el tecnodeterminismo de Adorno (128 formato epub), compartido por Heidegger y Habermas, “son claramente insuficientes para hacerse cargo de la complejidad de nuestra interacción con el entorno digital” (132). Cabe destacar y dejar solo apuntado el comentario que hace a la portada de su libro en el que la distinción entre apariencia y realidad tiene una deriva platónica (115).

Con todo ello, el trasfondo de esos autores, en especial de Habermas, es innegable en las tres palabras en las que me ha parecido se puede resumir la propuesta de una teoría crítica de la inteligencia artificial según Innerarity: Reflexión, Conversación y Equilibrio.

Lo iremos viendo en las próximas entradas del blog.

 

Sokurov. Faust

 

Alien: Earth: del poshumanismo al transhumanismo

 

La imaginación artificial

 Ya desde el siglo pasado se pudo comprobar que la relación del ser humano con las nuevas tecnologías no era lo racional que se suponía sino lo emocional que se obviaba. Eso trae consecuencias. Tienen toda la razón los autores de este libro en que las relaciones que el sujeto mantiene con la tecnología son (siguen siendo) principalmente de carácter metafórico (71). Sin embargo, las fusiones metafóricas de términos llevan a confusiones conceptuales ya desde el título mismo:  la imagen en acción de un algoritmo no es sinónimo de la imaginación de un cuerpo. En otros términos: no hay una imaginación artificial como tampoco una inteligencia artificial de la que sería una “rama” aquella. Bien es cierto que, a pesar de la pulsión metafórica que linda a veces con lo kitsch, no pueden por menos de reconocer que “Internet se puede considerar, pues, un viento espiritual sin espíritu, de la misma manera que la IA es una inteligencia sin alma, sin conciencia y, por lo tanto, sin verdadera inteligencia” (173).

Hay en el libro un gran esfuerzo teórico erudito para tratar de entender los procesos de la llamada imaginación artificial. Se despliega en dos momentos expositivos:  la descripción del proceso técnico y sus resultados (escaso) y el intento de explicitar sus fundamentos teóricos (la mayor parte). Ambos momentos están desconectados hasta el punto de que parece que estamos, no solo ante dos autores distintos, sino dos libros diferentes. Efectivamente, uno de los libros podía comenzar en la página 263 con su título de “Síntesis de imagen” y el otro con la introducción que parafrasea el papel del estresado conejo blanco de Alicia en el país de las maravillas. La difícil amalgama de ambos procedimientos sume al lector en la perplejidad. Quizá un poco tarde se advierte que “este no es un libro técnico” pues “de lo que se trata básicamente es de recubrir la osamenta descarnada de la técnica con una capa de carnosidad reflexiva” (245). Quien se pregunte por la naturaleza de esa “carnosidad” tiene una respuesta que se repite a lo largo del libro: “Digámoslo ya de una vez, la única forma que tenemos para desviarnos es recurrir a la metafísica, esa región filosófica que la cultura tecnocientífica practicista, cuantitativa y obsesa con la exactitud y el control quiso anular para siempre” (198). Sorprende, no obstante, que conciban la “nueva ontología” articulada en torno a la “realidad virtual”, metáfora en desuso hace tiempo.

 De modo que el libro es muy interesante cuando se describen los diferentes modelos y procesos técnicos de la imaginación artificial. Se pierde el interés cuando insisten en tratar de exponer sus fundamentos, la “carnosidad reflexiva” devenida obesidad mórbida, en divagaciones teóricas ajenas a ella, cuando no contrarias. Así la recurrencia a Deleuze y Guattari, Lacan, salpimentado con Heidegger y apelaciones y repeticiones innecesarias de la palabra “ontología”. No se ve la vinculación con los procesos técnicos, sino que funcionan como imaginarios filosóficos, tópicos, citas de adorno periféricas. Se mencionan todos los elementos “irracionales” de la imaginación, como sueños, deseos e inconscientes de variado signo (“inconsciente colectivo artificial”) en una táctica parecida a las “iluminaciones” en que todo ocurre mezclado en una aparente estructura. Pero si se pretende hablar de filosofía, de ontología y de metafísica, entonces resulta extraño que no se hable en rigor de ellas y no se mencione lo más importante de la imaginación que se puede encontrar en su historia: como la facultad de conocimiento mediadora entre entendimiento y sensibilidad. La gran facultad de la modernidad y del humanismo no idealista. Esta es la imaginación corporal de la filosofía y no una supuesta imaginación artificial, más bien un DJ, mezcla y remezcla, como índice de complejidad, que es la operada por el algoritmo. En este caso la imaginación artificial sale del campo de la reproducción y va al de la apropiación. Afortunada en este sentido la referencia a Agustín Fernández Mallo.

El objetivo declarado en el libro es promover un “poshumanismo ilustrado”. La ausencia de la "t" habitual indica que no abandona el humanismo sino que va en "pos" de él.  Ya no centrado en la IA (Inteligencia artificial) sino en la ImA (Imaginación artificial), no en la inteligencia sino en las imágenes. Se trata, según los autores, de combinar el “pensamiento técnico” con el “pensamiento estético” para producir un “humanismo potenciado” (322), “torciendo” el signo capitalista actual de las tecnologías. La referencia que hacen a Sanguinetti resulta orientativa en cuanto a las intenciones. Es “ilustrado” pero, matizan, la imagen que se genera no ilustra una idea, como es habitual, sino que el texto es ahora la ilustración de una imagen. Imágenes, que recalcan los autores, tienen el carácter de ser irrepetibles, efímeras, múltiples y originales, “únicas” precisamente por ser múltiples. 

Introduciendo el prompt "Imágenes de poshumanismo ilustrado" el programa Recraft arroja las siguientes imágenes:

Son imágenes nuevas, en el sentido de recién hechas, pero no diferentes a las que pueblan los imaginarios estéticos que vienen del siglo XX, todas con un denominador común: retrofuturo. Si en el prompt se incorpora la “t” (posthumanismo) entonces sale la estética Blade Runner y afines, más oscura, de “futuro negro”. El programa ha sintetizado algunas de los miles de imágenes que hay en la base de datos etiquetadas según las instrucciones dadas al introducirlas. El resultado en este caso es una estética clásica de retrofuturo que mezcla lo bello con lo sublime asistida por los nuevos espectadores, sin naufragios. Puro "Senhsucht" (anhelo, nostalgia) tecnorromántico. No hay un más allá. Es la imagen "más acá de la imagen". 

Terence Stamp

 

Sanguinetti. Tecnohumanismo.

 

“A esta altura debería quedar claro que con «educación estética» de la inteligencia artificial no me refiero a enseñarle a pintar retratos o escribir haikus. Me refiero a entrenarla para leer el único lenguaje en el que podemos explicarle quiénes somos y qué queremos. Y esta tarea se volverá más urgente a medida que las máquinas sigan avanzando en el dominio de tareas humanas.

Hay algo paradójico en la idea de que la estética sea la vía por la que podemos transmitir formalmente a una máquina todo lo vivo, complejo, contradictorio, múltiple que encierra el ser humano: ha tenido que ser la tecnología la que nos demuestre que la belleza no resulta un lujo accesorio, sino el código de lo que somos, el lenguaje con el que está escrita nuestra identidad”.

Schiller postuló una “educación estética” del hombre y ahora Sanguinetti nos propone una “educación estética” de la inteligencia artificial en el género humano. Los dos coinciden en el medio: educar en la belleza. Quizá también en la convicción de Schiller de que a la libertad solo se llega a través de la belleza. Dado que una de las bases de mi humanismo tecnológico ha sido esa necesidad de la educación estética la lectura de este libro ha sido una grata sorpresa. Primero porque, como dice el autor, se ha escrito mucho sobre los aspectos éticos de la inteligencia artificial, no así de los estéticos. Lo que no obsta para que el autor proponga también una narrativa “ética” sobre la inteligencia artificial. Segundo, porque no se confunde (aunque estén relacionados) estética con arte y, tercero, porque hay una concepción de la belleza (se aprecia en el texto citado) alejada del esteticismo habitual cuando se reivindica. Una belleza que ya no es la “armonía forzada” criticada por Adorno sino el lenguaje de la contradicción, complejidad y pluralidad de la vida humana. La educación propuesta es todo un reto: utilizar el lenguaje de la belleza para hablar con el algoritmo y viceversa. Más aún: “Solo a través del arte entenderemos a la máquina y solo a través del arte la máquina nos entenderá a nosotros”. Esto último es más complicado y creo que no ayudan precisamente las apelaciones esencialistas del autor a la “téchne” en Heidegger o su nostalgia vintage del “aura” en Benjamin. Se avienen mal con la caracterización espléndida que hace en otro momento del arte (guardando paralelo con la de la belleza) como “mímesis de lo complejo”.

Pero, sobre todo, lo que me parece más notable de este libro excepcional, claro y muy bien escrito, es la insistencia en que hace falta lo que denomina “una nueva narrativa” respecto a la que se ha utilizado y se utiliza con la inteligencia artificial. Ya no se trata solo de los imaginarios ciberpunk del siglo pasado, las posturas poco matizadas a favor o en contra sino de la presentación “antropomórfica” de la inteligencia artificial.  Efectivamente, una “nueva narrativa” simplificaría mucho las discusiones sobre términos como “creatividad” y “original” que se dan hoy día en la (mal) llamada “estética artificial”. Yendo más lejos y, si como bien dice el autor, “pensamos con todo el cuerpo” creo que no tiene mucho sentido hablar de una inteligencia “artificial” y tampoco (me ocuparé de ello en el próximo post) de una imaginación “artificial”. Es contrario al humanismo tecnológico, al menos tal como yo lo entiendo. El “relato”, dice el autor, acentúa unos aspectos de la realidad y silencia otros y lleva a un desplazamiento de la responsabilidad de los sujetos. Apunta muy bien que no se trata tanto de saber cómo funciona la IA sino “para qué queremos usarla”. En definitiva, concluye, que falta “un “relato diseñado” sobre el humanismo, lo que le lleva a preguntarse: ¿"Tenemos el humanismo que necesitamos?”. Estamos invitados a la respuesta.

 

 

Riefenstahl, de nuevo

 

Quien se imagine la película desde el cartel anunciador se llevará una sorpresa. No se trata de una película conmemorativa, como podía sugerir la apariencia de máscara mortuoria, sino de actualidad, al menos es lo que declara el director en entrevistas. Ve el desfile de El triunfo de la voluntad desde el contrapicado de Putin presidiendo los de la Plaza Roja y el "relato" de Leni a lo largo de los años desde las fake news de Trump. Sin descartar a Orban. No es el enfoque de esas magníficas series y películas recientes en las que se vuelve sobre ese mismo pasado sin saber, como dice el protagonista de Babylon Berlin, qué pasará después. Aquí, resabiados, se hace desde la actualidad de esa ideología y esa estética, siempre según el director. Con el objetivo de "advertir" a los jóvenes con lo que pasó sobre lo que está pasando.

Ese objetivo no se cumple por la torpeza del director. Leni Riefenstahl sale reforzada de esos viejos intentos de lo que Jünger señalaba ya como "el moralizar a mi costa". Merece, sin embargo, la pena verla por el material menos conocido de entrevistas televisivas y material fotográfico de su ingente legado de que han podido disponer. Están las consabidas fotografías con Hitler y Goebbels. Pero en cuanto pone "sus" imágenes, ya sea de La luz azul, las películas de montaña y, sobre todo, Olympia, se evidencia "el poder de las imágenes" que fascinó y sigue fascinando, sin que haya un análisis adecuado de las mismas. Ya le pasó a Alexander Kluge con Brutalidad en piedra (1961): el tiro de la moralina sale por la culata de la estética. Sin entender, no es posible juzgar para no volver a repetir. Las imágenes totalitarias florecen especialmente en las democracias de cortas entendederas. Esta película, a pesar de las "buenas intenciones", es una notable contribución al posfascismo posmoderno. 

pensar en el arte esencial

 Una de las caracterísiticas del pensar en el arte esencial es el pensar que se vuelve contra sí mismo y el pensar contra sí mismo. Lo primero se refiere al pensar que desconfía de su propia historia y que se vuelve contra ella en busca de sus orígenes. Una de las características del siglo XX es el pensar que se vuelve contra la filosofía. Lo segundo a ese momento de autoreflexión del pensar en el sujeto que ve imposible la pureza de intención kantiana, precisamente por el imperativo de la “facticidad” (Heidegger) o de la “situación”(Sartre)  misma. La “inautenticidad” heideggeriana, la crítica a la sociedad de los frankfurtianos, las mismas descripciones de Sartre, revelan una cotidianidad negativa. El pensar del pensamiento esencial es un pensamiento negativo. En guardia no sólo sobre las realizaciones de los otros, sino sobre sus intenciones mismas, por esa misma situación fáctica. La dialéctica y el pensamiento negativo, transitorio, es consustancial, porque son conscientes de la radical ambigüedad en la que viven. Todos quieren superar el idealismo y el romanticismo, pero son deudores suyos. Es un pensamiento trágico que tiene que consumar y llevar hasta sus últimas consecuencias aquello contra lo que se rebela. Revelación y rebelión son dos palabras que van unidas. Como en la tragedia griega su acto de libertad tiene lugar en el momento en que la pierden. Llama la atención que no hayan escrito una ética, aunque hayan hablado de ello. El que sólo se pueda intentar ser auténtico desde la inautencidad confiere a la meditación del presente una dimensión trascendente que lo inscribe en el ámbito de la religión.

centro

 

Imaginación artificial

 Imaginación artificial. 

"el poder de las imágenes"

 

El eternauta

 

Espléndida serie argentina. Y, lo más importante, una distopía latina sin tecnorromanticismo, de carácter ciudadano, que la diferencia de las posfascistas posmodernas con "elegidos" tipo Matrix. No hacen falta efectos especiales, basta con el gran acierto del ritmo, de guión y corporal. Trata, cómo no, de supervivencia y de las reacciones de la gente corriente ante una situación extrema sobrevenida, como La Peste de Camus, el Ensayo sobre la ceguera de Saramago o La razón del mal de Rafael Argullol.

50 años de filosofía

 

imagen,rastro,vida

 

sombras

 

guerra y casa

 

Lo que dice de la estética un neurocientífico

 "La estética es el tema y área de investigación clave para comprender mejor las sociedades contemporáneas".

Vittorio Gallese en : "The Aesthetic World in the Digital Era. A Call to Arms for Experimental Aesthetics".

Deshumanización del arte

Programa

La metamorfosis de los pájaros

 

Bodegones del recuerdo, imágenes de paso, árbol de la madre, plantón que hace de vela firme en el mar de la memoria poética, las metamorfosis de la mirada a vista de pájaro, micrologías icónicas.