Innerarity. Una teoría crítica de la inteligencia emocional (5)

 

El otro punto es la referencia de Innerarity (creo que inadecuada) a Heidegger como alternativa. El tema de la técnica ha pasado en Heidegger por diferentes fases: una primera de aceptación como posibilidad de un nihilismo activo (influjo de Jünger), otra de denegación (memorables son sus observaciones sobre la llegada del hombre a la Luna) y finalmente de mitificación en la vuelta a los “inicios”. La técnica, heredera y culminación de la metafísica de la modernidad, es para Heidegger el olvido del Ser, de la diferencia ontológica. Por el contrario, la téchne, de raíz griega, sería la producción de lo verdadero en lo bello a través de la obra de arte, que es por esencia y excelencia la poesía. Y si hace falta visualizarlo basta con acudir a la imagen concreta y sobrecogedora del humilde y solitario templo griego en que está pensando Heidegger en su El origen de la obra de arte, es decir, la obra de arte del origen.

Innerarity confunde el planteamiento filosófico de Heidegger como un retorno al mundo de la vida, cuando es todo lo contrario, no es lo mismo ser en el mundo (ontológico) que estar en el mundo (óntico). Lo primero es lo que le interesa a Heidegger, lo segundo a Ortega, por ello son planteamientos completamente diferentes. Y el segundo sería, en realidad, más afín a lo que pretende Innerarity. Dada la postura de Heidegger intentos como el que cita Innerarity de Dreyfus resultan difícilmente asumibles y parafraseando a Habermas sobre Gadamer, cabría decir que Dreyfus ha intentado “urbanizar la provincia heideggeriana” hablando de una “inteligencia artificial heideggeriana”, lo que es más que un oxímoron, un despropósito. Por el contrario, tiene toda la razón cuando menciona a Merleau Ponty cuando le hace precursor de una “inteligencia corporal” que es la feliz expresión que acuña Innerarity y con la que estoy completamente de acuerdo .Y, ya que citó a Schopenhauer como referencia metodológica, quizá no estaría de más recordar que fue este uno de los primeros de recuperar el tema del cuerpo para la filosofía. En cuanto a posturas contemporáneas cabe señalar que, tanto el tecnofeminismo americano como autoras creadoras de nuevas tecnologías (es el caso de Char Davies), llevaron ya a cabo una revisión del cartesianismo con los métodos de la inmersión virtual corporal. Es fácil comprobarlo en sus obras de Ósmosis y Efímero. Sin querer entrar en más especificaciones (ya lo hice en Humanismo y nuevas tecnologías) el tópico del cartesianismo dominante se abandonó ya en el último cuarto del siglo XX.

Si me he extendido en esa referencia a Heidegger no es, lo añado una vez más, por cuestiones de hermenéutica sino por algo más profundo: advertir de lo innecesario de elaborar una teoría sobre las nuevas tecnologías acudiendo a unas filosofías que eran en principio ajenas a ellas cuando hostiles. Tampoco hay, es cierto, mucha referencia a filósofos clásicos en el libro. Lo valioso de este es que suelta ese lastre y de ahí su posición de equilibro entre los extremos, ese entre que oscila entre la afirmación y la negación de algo dando como resultado el matiz. Por eso, y a diferencia de otros libros, hemos señalado en anterior post otra referencia de Innerarity a Heidegger en la que apunta que su planteamiento de las tecnologías, al igual que el de Habermas, es “insuficiente”. Entonces, nuevamente la pregunta, ¿para qué esas citas? Citar para desdecirse. Es la asimetría de la tradición filosófica con las nuevas tecnologías que se traduce en la de la teoría y el lenguaje por medio del cualquier heredamos los genes culturales de aquella tradición, lo queramos o no. Al menos en este libro hay la valentía de hacerlo, lo que, ciertamente, contribuye a ese empeño de reflexión.

¿Qué hacemos con la herencia del esencialismo?

Innerarity. Una teoría crítica de la inteligencia artificial (4)

 

Si a lo largo del libro vemos un ejercicio claro y lleno de resultados ese es el de la reflexión. Pero también, abundando en las reservas del anterior post, queda claro que la reflexión (mejor quizá llamarla pensamiento) no es patrimonio de la filosofía. Más aún, que las referencias filosóficas de la tradición pueden ser problemáticas e incluso un lastre de cara a los propios intereses de la investigación sobre las nuevas tecnologías. Ya sea por lo inadecuado de la cita como porque esta va en sentido precisamente contrario al pretendido al hacerla. No con ánimo de entrar en una guerra hermenéutica sino para clarificar el procedimiento y despejar el camino de la reflexión sociológica y política del autor (con la que estoy completamente de acuerdo) quizá sea oportuno realizar algunas precisiones.

Me parece muy afortunada la cita que hace de Schopenhauer: “La tarea no consiste tanto en ver lo que aún no ha visto nadie, como en pensar lo que aún no se ha pensado sobre lo que todo el mundo ve” (183). Se ha dicho que de puramente habituales las tecnologías se han vuelto hoy invisibles y que nuestra relación con ellas es inconsciente. Pero lo cierto es que son más visibles que nunca y no hace falta tanto visibilizarlas como pensarlas, y es esa falta de reflexión la que Innerarity recuerda. Frente a la filosofía tradicional que aspiraba a hacer visible lo invisible ahora el reto es hacer visible lo visible mediante la reflexión. El autor, como filósofo, declara que “de entrada, no damos por supuesto que la inteligencia artificial es inteligente ni artificial” (23). Comienza esa tarea mediante una revisión de los supuestos que se oponen a esa tarea reflexiva, unos de carácter histórico y otros de tipo conceptual, pero ambos relacionados. Hay uno general, y sorprendente, relativo a la modernidad. El otro atañe al concepto de “inteligencia”.

Innerarity afirma que la concepción dominante sobre la inteligencia artificial es la de la modernidad cartesiana, descorporeizada, de sujeto aislado, “desinteresado, descomprometido y distanciado de su mundo” (43, 58)) poniendo como alternativa a Heidegger y Wittgenstein. Respecto a lo primero, hay que precisar que el tópico de la racionalidad cartesiana de las tecnologías tuvo su momento en el siglo XX, pero fue rápidamente abandonado. Por tres razones: la constatación de la relación emocional y afectiva con las tecnologías; la recuperación del papel del cuerpo en las tecnologías hápticas más allá del dualismo y la minusvaloración cartesiana; el error metodológico de los frankfurtianos en su Dialéctica de la ilustración de pasar de la modernidad a la época contemporánea, saltándose el Romanticismo, toda vez que los imaginarios en torno a las nuevas tecnologías han sido y siguen siendo tecnorrománticos. Su papel es decisivo a la hora de encarar una política de las nuevas tecnologías en las sociedades democráticas.

Hay en el libro de Innerarity una lectura de tradición idealista de la modernidad como época de la razón. Si, como muy bien afirma, vivimos en una contemporaneidad compleja su matriz no puede ser una modernidad simple sino también compleja. Al simplificarla lo hace también su planteamiento: “Una crítica de la razón algorítmica debería ser una crítica de la razón incorpórea” (58). Lo que no es sinónimo de una crítica de la modernidad sino de una versión suya. Está Hobbes, que cita, para quien razonar es calcular, pero también Hume, que no cita. Véase como caracteriza este a la percepción, como un fenómeno enteramente corporal: “Odiar, amar, pensar, tocar, ver, no son, en conjunto, más que percibir” (Hume. Tratado de la naturaleza humana). Toda la ilustración sentimental, autores como Hamann, Herder y Jacobi, en sus Metacríticas a Kant reclaman el papel del cuerpo, la imaginación, el mundo de la vida, partir en el pensamiento de la unidad de sujeto y objeto antes del análisis divisorio irremediable luego et., Y la cita de Kant en favor de un inconsciente tecnológico cotidiano está mal traída. Cita Innerarity: “A este respecto, Kant formuló de una manera abstracta una experiencia que es concreta y cotidiana: el yo no puede acompañar todas mis representaciones (1927, B 132-5)”) (184). Por el contrario, Kant declara taxativamente a comienzo de B132: “El Yo pienso tiene que poder acompañar todas mis representaciones. De lo contrario, sería representado en mí algo que no podría ser pensado, lo que equivale a decir que la representación, o bien sería imposible o, al menos, no sería nada para mí”. En 190 matiza Innerarity: “por decirlo en una terminología kantiana, el yo acompaña a nuestras representaciones de un modo tácito, nada más”.

Respecto a la alternativa de Heidegger…

Innerarity. Una teoría crítica de la inteligencia artificial (3)

 

Con toda razón apunta Innerarity a la raíz de ese planteamiento ético, al “enfoque externalista” de la tecnología que “impacta” en la sociedad y, por eso, debe ser “controlada” (138). En esas tres palabras resume perfectamente buena parte de los errores asociados al enfoque de las tecnologías heredados del siglo XX. Primero el “externalismo”, que las tecnologías son algo exterior a nosotros, ya sea considerándolas como meras herramientas o como entidades complejas emancipadas, que amenazan a sus creadores. Los imaginarios de rebelión, sustitución o destrucción están gravitando en la metáfora del “impacto” tan popularizada que todavía se sigue utilizando. Esta mentalidad de amenaza se traduce, o bien en el rechazo de ellas o, más matizado en la necesidad de “controlarlas”, desde los orígenes de la palabra “cibernética” (pilotar las tecnologías) a la exigencia ética de “controlarlas” mediante una apelación a un humanismo difuso.

Innerarity se opone al dualismo que subyace a ese planteamiento de la externalización de las tecnologías e insiste en la necesidad de precisar y reforzar el “vínculo”, la “articulación”, con ellas. Este es el elemento “positivo” de la teoría crítica de Innerarity y que le alejaría de la negatividad de los frankfurtianos. Pues, “el problema es la falta de reflexividad a la hora de articular tecnología y sociedad” (141). Reflexión y propuestas de articulación son dos elementos clave en el libro. De la naturaleza ambivalente de la primera dependen las propuestas equilibradas de la segunda. Y digo “ambivalente” porque, siguiendo la propuesta adorniana de con el concepto contra el concepto, una de las singularidades más valiosas del libro es la constante matización de los conceptos, no solo de los ajenos sino también una cierta autocrítica respecto a los empleados por el autor. Ya hemos visto su observación de que estaban “sobrevalorados” los de reflexión y control, el primero decisivo en su planteamiento.

Ya las mismas palabras “vínculo” y “articulación” denotan el trasfondo de un dualismo hombre (sociedad) y tecnologías que no existe en la realidad si se acepta que somos seres tecnológicos, más allá de si tenemos a las tecnologías o ellas nos tienen.  Este problema conceptual heredado de los planteamientos dualistas de la tradición del pensamiento occidental ha sido abordado especialmente desde comienzos del siglo XX sin que haya sido posible resolverlo a pesar de los varios intentos de “superación” del idealismo. El problema del pensamiento está en el lenguaje: no hablamos el lenguaje de las tecnologías por lo que el intento de un pensamiento desde ellas acaba siendo sobre ellas, objetivándolas, externalizándolas. El pensamiento queda preso en la prisión del lenguaje.

Es difícil abordar con un lenguaje filosófico pretecnológico o, en el mejor de los casos analógico, los procesos digitales que están teniendo lugar a gran velocidad en la sociedad de las nuevas tecnologías, como es la inteligencia artificial. Esto se percibe también en el libro en ciertos rastros de planteamientos esencialistas, algunos de los cuales mencionaré más adelante. De todas formas, y más allá de los reparos que se puedan hacer a ciertas formulaciones deudoras del lenguaje tradicional, casi inevitables, Innerarity ha detectado perfectamente el problema y señalado la dirección adecuada cuando apunta que es imposible el planteamiento dualista ya que humanos y máquinas “se relacionan a través de una frontera borrosa” (132). Y, más adelante, la palabra “ambigüedad” tendrá una importancia decisiva a la hora de concretar esas relaciones. No la necesidad de una síntesis dialéctica sino la gestión de esa ambigüedad es lo que guiará los diferentes análisis y propuestas de vínculo y articulación.

Pero, avancemos, vayamos ahora al núcleo de lo que entiende por reflexión….

 

 

 

 

Deshumanización del arte. Exposición y Revista de Occidente.

Excelente exposición sobre La deshumanización del arte de Ortega comisariada por Azucena López Cobo en la Fundación Ortega Marañón

y próximo número de Revista de Occidente coordinado por 

Domingo Hernández Sánchez

Innerarity. Una teoría crítica de la inteligencia artificial (2)

 

Esas tres palabras citadas empiezan ya a ser reconocibles en el análisis que Innerarity hace de la situación en la que se encuentran hoy las posturas respecto a la inteligencia artificial. Se pregunta muy atinadamente: “¿Es posible tener una relación menos histérica con el mundo digital?” (28). A lo largo del libro advierte que va a plantear ciertas cuestiones de “una manera provocadora”. Desde luego en lo que se refiere a esta el diagnóstico es muy ajustado. Es raro encontrar libros o intervenciones en los medios sociales en los que, hechas las oportunas salvedades, no acaben situándose en uno u otro extremo. Hay que tenerlos en cuenta, pero no habría que confundir los imaginarios utópicos o distópicos con la reflexión en torno al tema, que es lo que reclama Innerarity. Son extremos, pero el dicho común de que los extremos se tocan no solo se cumple, sino que se invierten los papeles y los que antes eran entusiastas de las nuevas tecnologías se han convertido ahora en Casandras que profetizan los desastres a los que nos aboca el progreso. El autor lo resume así: “En poco tiempo hemos pasado del ciberentusiasmo a la tecnopreocupación” (299). La palabra “equilibrio” que él propugna cumple aquí su función moderadora. Pero no hay que confundirla con otras.

Estando él fuera de toda sospecha en este punto por su trayectoria resultan de mucho interés las puntualizaciones que hace a la recomendación habitual del enfoque ético de la inteligencia artificial. Suele consistir en la propuesta de “humanizar” las tecnologías mediante el aumento de control y supervisión de estas para corregir los riesgos de la automatización. Innerarity ve ahí, al menos, dos problemas. El primero, que ello podría privarnos de los beneficios de la automatización en los dispositivos que manejamos habitualmente, que forman parte de nuestra vida cotidiana, y cuya utilidad consiste en su manejo inconsciente. El segundo problema es el que está en la raíz de esa demanda ética generalizada. Innerarity lo aborda de forma decididamente “provocadora”: “Si se me permite una ligera exageración, quienes se ocupan de cuestiones éticas no suelen estar demasiado preocupados de que su diagnóstico describa adecuadamente la realidad o de que sus recomendaciones sean practicables y eficaces” (152). Y para que no haya dudas de a qué se está refiriendo cita expresamente varias recomendaciones del borrador Directrices éticas sobre inteligencia artificial de la Comisión europea. Para concluir con algo que parece ser paradójico con los propósitos del autor: “Mi propuesta es considerar que el pensamiento consciente, la reflexión, la decisión y el control están sobrevalorados, especialmente en entornos tecnológicos complejos. La nostalgia de la simplicidad y el control nos lleva a creer que la conciencia y el control nos haría más dueños de la situación en estos nuevos entornos en los que hay que negociar equilibrios inestables con máquinas poco dóciles, renunciar a controles estrictos y enfrentarse a escenarios de mayor incertidumbre” (153).

Hay, pues, una contraposición entre la nostalgia de la simplicidad que subyace a esas recomendaciones éticas y la constatación de la complejidad de las sociedades tecnológicas irreductible a esa simplificación. Y es, precisamente, esa asimetría lo que las hace difíciles de llevar a la práctica. Innerarity lo ha intentado evitar desde el comienzo del libro en el epígrafe titulado “El complemento ético “: “No podemos esperar la solución al problema de la articulación entre la inteligencia artificial y la democracia a partir de la actual proliferación de códigos éticos porque… [Antes que normativo, el desafío al que nos enfrentamos es conceptual]” (21). Y con ello se llega al punto clave de divergencia entre esta teoría crítica y la “exhortación moralizante”: “debe comprender y respetar la complejidad de lo que se critica” (24). Todo un programa.

Se inicia con ello una navegación apasionante y original en el libro, una auténtica guía para complejos y perplejos. Lo iremos viendo.

 

 

Innerarity. Una teoría crítica de la inteligencia artificial (1)

 

El título intriga y el contenido sorprende.

En principio resulta extraño, teniendo en cuenta el pasado y los intereses de la Teoría Crítica tradicional, asociarla a una investigación sobre la inteligencia artificial que vaya más allá de la negación de lo existente. Pero también es cierto que Adorno en Dialéctica negativa afirma, desde la “autorreflexión” de esta, que un pensamiento no es verdadero si no va contra sí mismo. Una confesión sobre la honestidad del procedimiento que, sin embargo, provocó dudas sobre la posible parálisis a la que conducía el método, es el caso de la crítica de Habermas. En la entradilla del libro se pregunta Innerarity: “En el que fue el despacho de Adorno he pensado muchas veces qué teoría crítica habría escrito él de haber conocido el actual despliegue de la inteligencia artificial”. Y, efectivamente, en estilo adorniano, se puede leer el título de la Introducción “Crítica de la razón algorítmica”. Pero, detalle significativo, el libro está dedicado a Habermas. La bibliografía del libro es apabullante, pero la mención explícita a estos dos filósofos debería bastar como marco de la investigación. Debería. Pero lo cierto es que se sale del marco.

En varios sentidos. Hay un aire adorniano en el punto de partida, la negatividad de lo existente. Innerarity ha recordado en sus intervenciones, y se percibe en este libro, la paradoja del individuo escindido entre lo que le conviene como filósofo y lo que prefería como ciudadano. La filosofía solo es necesaria cuando las cosas van mal y, a la vista de la realidad en las diferentes épocas, parece que no le va a faltar nunca trabajo. El mismo Adorno recordaba que el destino último deseable de la Teoría Crítica sería desaparecer…porque ya no habría nada que criticar. El problema es que en sus análisis la sociedad era ontológicamente enferma y, por ello, lo estaba también sociológicamente. Ese pesimismo metafísico teórico, que compartía Horkheimer, le ataba las manos a pesar de su pretendido optimismo práctico.

En el caso de Innerarity hay una modulación interesante ya que, en lugar de elevar esa negatividad a nivel metafísico, la reconduce a su dimensión social. Y es entonces cuando la expresión “teoría crítica” adquiere su sentido originario de análisis, reflexión, de permitir formar criterio, saber distinguir en la complejidad, para poder argumentar, deliberar y tomar decisiones, en las que no solo entra el individuo sino también las instituciones. Por el contrario, advierte Innerarity, enfoques como el tecnodeterminismo de Adorno (128 formato epub), compartido por Heidegger y Habermas, “son claramente insuficientes para hacerse cargo de la complejidad de nuestra interacción con el entorno digital” (132). Cabe destacar y dejar solo apuntado el comentario que hace a la portada de su libro en el que la distinción entre apariencia y realidad tiene una deriva platónica (115).

Con todo ello, el trasfondo de esos autores, en especial de Habermas, es innegable en las tres palabras en las que me ha parecido se puede resumir la propuesta de una teoría crítica de la inteligencia artificial según Innerarity: Reflexión, Conversación y Equilibrio.

Lo iremos viendo en las próximas entradas del blog.

 

Sokurov. Faust