Tarr

 

Innerarity. Una teoría crítica de la inteligencia artificial (10)

 
Ese “cómo” es muy importante ya que “la política es, fundamentalmente, una discusión acerca de los procedimientos” (243). En realidad, esta palabra “procedimientos”, es el núcleo de la filosofía política. Se convierte en ejercicios de equilibrio que, por momentos, semejan a los de los equilibristas. Si la reflexión ha estado unida a la inteligencia Innerarity no la considera tanto una propiedad de individuos aislados “como de los sistemas sociales y culturales que estos han configurado” (174). Esta deliberación colectiva es ineludible porque, siguiendo la línea procedimental, “la democracia no es un sistema de satisfacción de necesidades sino un sistema de reflexión colectiva sobre esas necesidades” (260). La solución estaría en “establecer un marco de diálogo y negociación que permita la construcción equitativa de esa voluntad general” (271). Quizá en esta propuesta se nota el aliento habermasiano de la misma y también genera dudas respecto a su eficacia. Tiene un gran optimismo respecto a la capacidad de los seres humanos, comparados con las máquinas, para decidir “de manera increíblemente cierta” en medio de “situaciones de ambigüedad, confusión e incertidumbre” (291). Lo cierto es que la palabra “decidir” acaba primando sobre las de reflexión, diálogo y negociación, ante la necesidad de salir de esas situaciones. Corresponde al filósofo, teórico, reflexionar sobre la ambigüedad e incertidumbre, pero corresponde al político gestionarla y salir de ella mediante la decisión. La teoría puede ser ambigua pero la decisión tiene que ser binaria o híbrida respecto a las posibilidades.

Y en el terreno de la decisión el equilibrio entre individuo, sociedad y sus instituciones no siempre es deseable o factible. Señala, con razón, Innerarity que el individuo está “sobrecargado” de responsabilidad respecto al ejercicio de sus derechos, por el ejemplo el de privacidad, ya que no conoce el alcance, naturaleza y mecanismos (es el caso de las cookies) a los que debe otorgar o no su consentimiento. Incluso, llega a decir Innerarity, que ni siquiera a veces los creadores conocen los mecanismos de las máquinas que han creado. El individuo debe delegar, pero, ¿en quién? El autor señala que no debe dejarse (sería la tecnologización) la gestión de esa política a los técnicos sino a las instituciones que, idealmente, deberían convocar a los actores de diversa manera implicados para tomar una decisión propiciada por esa “conversación”. Y ahí surgen los imponderables que ha ido desgranando el autor a lo largo del libro: si se “humanizan” demasiado las tecnologías se corre el riesgo de perder los beneficios de una automatización progresiva que libera para otras tareas; del mismo modo, hay que ponderar el ejercicio de “control” que no aboque a una parálisis; la exigencia de “transparencia” tiene que tener unos límites marcados por la necesaria complejidad y derecho al legítimo provecho frente a la competencia…La reflexión sobre los conceptos lleva a una constante matización sobre los mismos que, quizá, puede entorpecer en ocasiones, más que favorecer, la decisión política.

Todo ello plantea las reservas iniciales del método seguido, respecto al tratamiento de esos conceptos (esencialismo) y su autocrítica desde la matización social y política. Por lo que no acaba sonando tan exasperado lo que el autor dice en algún momento: “dejemos a las máquinas que sean como son” (160). En ese sentido me parece cuestionable la afirmación de que la inteligencia artificial “solo avanzará de manera contundente (y solo percibirá sus límites) en la medida en que consiga parecerse más a la inteligencia humana” (59). Quizá sería oportuno pensar en una inteligencia e imaginación artificiales (si se puede seguir hablando así) en progreso con la humana de la que forman parte, no fuera o con simulaciones. Quizá de esa manera estemos ante la posibilidad de lo que Innerarity denomina como un “humanismo de la incertidumbre” (118).

Para concluir las notas de lectura. Este libro, a mi juicio, es de lo mejor que se ha publicado en los últimos años en español, no solo sobre la inteligencia artificial sino sobre la sociedad de las nuevas tecnologías en general. Imprescindible.

 

 

 

---

 

Innerarity. Una teoría crítica de la inteligencia artificial (9)

 La alusión que hacía en el post anterior a la frase de Benjamin no es exacta en el caso de Innerarity, ya que este no busca contraponer sino “compensar” la tecnologización y la politización; es decir, se trata del “equilibrio” como brújula al que aludíamos al comienzo de estas notas de lectura. Queda reducido, por mi parte, a una alusión que es una ilusión de la interpretación. ¿Habría cometido este “error” una inteligencia artificial? ¿No arrojaría el resultado de un “recuerda a” sino la predicción de un “es lo mismo”? Una de las partes más interesantes del libro es la relativa al carácter predictivo de la inteligencia artificial (que el autor pone en cuestión de cara al presente y el futuro) estableciendo relaciones de causa y efecto que no tienen en cuenta el carácter impredecible del ser humano. Son los riesgos de la tecnologización de la política. El resultado de esa “objetividad” predictiva de los datos sería según el autor equivalente a la subjetividad de la ilusión visual a la que induce la portada del libro:

“La portada de este libro muestra un ejemplo de error visual que nuestra percepción puede cometer al dejarse engañar por una apariencia. En este caso, el hecho de que la barra donde se apoya una gaviota esté doblada nos inclina a pensar que el peso de esa gaviota es la causa de que la barra esté doblada y no que la gaviota se haya apoyado casualmente donde la barra estaba rota” (114).

Lo cierto es que la imagen no engaña visualmente porque la barra de encima y sobre la que no se posa la gaviota también está doblada por lo que no se produce espontáneamente la mencionada asociación de causalidad en la segunda sobre la que se apoya. Aunque, de darse el error visual, en este como en otros casos, el “pensar” lo corrige, no lo corrobora. Es decir, que los datos no engañan y todo depende de lo que se quiera hacer (predecir) con ellos al fabricar el algoritmo para introducirlos, tratarlos y evaluarlos y decidir, con ellos, no ellos solos.

Aunque cita a Foucault como referente, la postura de Innerarity parece, en realidad, ser el reverso de aquel famoso artículo de Bill Joy publicado en 2000 en la mítica revista Wired: “¿Por qué el futuro no nos necesita?”. Si el siglo XX comenzó con la creencia de que la vida es futurición y el futuro está en nuestras manos, a su final predominaba un distopismo (tanto en la teoría crítica como el ciberpunk) cuyo origen era el determinismo tecnológico. Innerarity “compensa” esa tecnologización creciente con la reflexión sobre los límites de la “razón predictiva” para gestionar un futuro caracterizado por ser imprevisible desde los meros datos del pasado. Y es precisamente por la gestión de las incertidumbres como entiende Innerarity la política. Contando para ello con las tecnologías como complemento. Ya solventó el problema de la creatividad de estas concluyendo que facilitan la creatividad humana sin reemplazarla.

Recientemente Jean-Christophe Deslarzes y Denis Machuel, responsables de Adecco, han puntualizado muy bien que “No seremos sustituidos por la IA, sino por quienes sepan trabajar con ella”. Con ello no solo apunta a la consabida “brecha digital” sino a su raíz, la económica, que acaba incidiendo en aquella. Y eso es mucho más peligroso que todos los imaginarios distópicos de la rebelión de la IA juntos. Desde luego, Innerarity ni apunta ni se apunta a esa rebelión, pero sí a necesidad ineludible de gestionar en democracia ese futuro que es en lo que consiste la política. Porque de ello depende la supervivencia de la democracia misma.

El cómo será el contenido del último post.

Innerarity. Una teoría crítica de la inteligencia artificial (8)

“Mientras las máquinas imitan a los creadores, estos pueden desafiar las fronteras de lo inimitable” (69). El problema es que, al poner como sujeto a las máquinas, Innerarity está (por utilizar sus mismas palabras) “externalizando” el sujeto de las tecnologías. Lo inimitable sería la “creatividad” y todo lo que conlleva. Innerarity concede una “forma débil de creatividad” a las máquinas en cuanto reconocimiento de patrones basado en experiencias del pasado. Pero incapaces de, obedeciendo reglas, cambiarlas. Y esta sería una de las cualidades de la creatividad humana. Como muy bien explica, el análisis de las preferencias humanas, basada en las experiencias del pasado, lo único que hace es complacer a los usuarios del presente, reafirmándolos en sus gustos y sin innovar nada, quedando “atrapados” del pasado. Más aún, reproducen los condicionantes de clase social que produjeron esos datos o imágenes en el pasado. Ya no solo informan, sino que conforman, observa acertadamente el autor. Pero…no son las máquinas quien los hacen.

Si somos fieles al propósito de no externalizar el sujeto de las tecnologías, entonces, no se puede hablar en rigor y en ningún caso (ni fuerte ni débil) de creatividad de las máquinas sino de creatividad con las máquinas. Y esto dentro de unos límites que se asignan a las máquinas pero que son constitutivas de lo humano. Innerarity señala el proceder binario de los algoritmos, pero a ello le corresponde el proceder dualista de las interpretaciones que subyace a esos términos de creatividad, originalidad y autoría con las que se quiere calificar los resultados. Hay un evidente paralelismo entre la interpretación humana de textos e imágenes y la “interpretación” que hace el algoritmo en los programas de imaginación artificial una vez que se introduce el texto: es “interpretado icónicamente por la máquina. Al igual que con los textos, la máquina con el algoritmo suministrado por el humano trabaja sobre interpretaciones de interpretaciones, es decir, mezcla. Y es que la creatividad, y esto se pone de manifiesto tanto en los romanticismos como las vanguardias, consiste en mezclas, más o menos sofisticadas calificadas como novedad u originales. Solo desde la dimensión trascendente secularizada de estos conceptos se puede dar una definición esencialista que luego, como hace el autor, hay que ir matizando en su uso político y social para intentar llegar a un equilibrio. Pero, entonces, ¿qué necesidad había de plantear así las cosas?

Creo que conceptos como creatividad, originalidad, autoría, siguen manteniendo el componente secularizado de la tradición. Van asociados a dualismos como los de sujeto y objeto, verdad y falsedad. En el libro se propone una revisión de estos, pero, debido a ese componente esencialista de la pregunta, la descripción correctora se resiente de la carga de neo idealismo, de modo que la propuesta de revisión debería ir más lejos: hay que sustituirlos. Ciertamente revisiones como la de este libro, que señalan la dirección adecuada, lo posibilitarán en un futuro. Hoy tenemos que quedarnos en esos entretiempos y entreespacios. Con razón señala Innerarity que se han convertido hoy en conceptos puramente económicos y jurídicos, especialmente el de autoría.

Lo que lleva al último punto de este análisis. Lo abro con este texto de Innerarity, quizá un guiño hermenéutico, y que enseguida traerá a los lectores resonancias de otro no menos famoso (y desafortunado) sobre la estetización de la política y la politización del arte: “La creciente tecnologización de los asuntos políticos debe de estar compensada con la correspondiente politización de los procedimientos tecnológicos” (282).

Innerarity. Una teoría crítica de la inteligencia artificial (7)

La tradición del esencialismo en la forma de preguntar es, paradójicamente, paralela a la actividad que se describe de la llamada inteligencia “artificial”: la abstracción. La duda al leer los atinados análisis de Innerarity, y después de la salvedad que hizo al comienzo sobre su pertinencia, es por qué mantenemos esa denominación de “inteligencia artificial” cuando sabemos que es inadecuada, que lo(único) que hay es, como bien puntualiza el autor, una inteligencia humana “corporal”; que lo otro es una metáfora, licencia literaria para construir un imaginario, pero no para favorecer una reflexión; que tampoco tendría sentido, pues, desarrollar una crítica a la “razón incorpórea” ya que no existe (a menos que se siga la doctrina cartesiana criticada antes) y que ahora se la asimile a la “razón algorítmica”.

El empleo de las metáforas (de ese fundir imaginario que confunde a la reflexión) viene dado en la tradición por la necesidad de abordar lo nuevo y desconocido. Es cierto, pero también por la evidencia de que si los conceptos no pasan a imaginarios no producen los cambios sociopolíticos buscados. Y la sociedad está llena de esos imaginarios tecnológicos. Al cómo se piensa la inteligencia artificial debería acompañar el cómo se la imagina: robots, replicantes, cerebros iluminados, cascada de códigos… Hay, pues, una narrativa visual paralela y mezclada con la conceptual y no solo eso, sino que es justamente ese imaginario el que acaba influyendo sobre el pensamiento al referirse a ella como algo extraordinario, como eran los imaginarios de las tecnologías el siglo pasado, a pesar de formar parte de nuestras vidas, como ocurre hoy con las diversas aplicaciones cotidianas de la inteligencia artificial. El problema de sensibilizar los conceptos es que fácilmente se pasa a su estetización en las metáforas. Los imaginarios deben ser tenidos en cuenta por su función sociológica pero no podemos quedar presos de ellos.

Pero si seguimos con la denominación de “inteligencia artificial” entonces se apunta que lo es por “simulación” con la humana, al menos en alguna de las aplicaciones de sus redes neuronales. No le cuesta mucho a Innerarity establecer la diferencia entre ambas. Lo hará en diferentes momentos del libro, especialmente en lo que respecta a una de las notas distintivas de la humana: la creatividad. Esta es la palabra clave donde se funde el pensamiento con los imaginarios, la estética con la reflexión, la inteligencia artificial con el arte. Sin embargo, Innerarity va a establecer la transgresión e impredecibilidad como uno de los distintivos de la creación artística humana frente a la reproducción y el reconocimiento en el caso de la máquina. Y eso va a tener su prolongación cuando aborde el tema de los datos y la predicción.

Al vincular la inteligencia al “mundo de la vida” con ello Innerarity puede establecer la diferencia entre la humana y la artificial, no solo en que la primera es corporal, sino que como consecuencia es el cuerpo lo que nos sitúa en un contexto de mundo, otros seres humanos y la cultura. Es el factor contextual. Todo ello permite ser “creativos” en un contexto complejo y un mundo cambiante. La palabra creatividad va a ser examinada a continuación por el autor con referencia al arte, como actividad por antonomasia, pero lo cierto es que recorre todo el libro estableciendo una diferencia última. A diferencia de las máquinas, subraya Innerarity, los seres humanos están capacitados para resolver “problemas salvajes” (49), es decir, mal definidos, sin reglas claras y estructuras ambiguas, de enfrentarse a la “novedad”, de algo que no está categorizado en el pasado e imposible de identificar por la máquina o que no puede ser interpretado en sentido literal (chistes, metáforas, ironía…).

Con todo ello, ¿tiene sentido seguir manteniendo conceptos como los de creatividad, originalidad y autoría?

Innerarity. Una teoría crítica de la inteligencia artificial (6)

 En el caso de Innerarity, y a pesar de los momentos de esencialismo, hay que destacar la necesaria corrección sociológica y política que hace, situándose en el auténtico “mundo de la vida” que pretendía como alternativa a ese cartesianismo, y no en las diversas “ontologías” a las que se refiere ocasionalmente como es el caso de la “ontología de los datos”. Diríase que, como el barón de Münchhausen, Innerarity sale de esos pozos de “ontología” tirando del abundante cabello sociológico y político (no el físico) que crece sin parar en el diálogo constante que mantiene en la abundante bibliografía. Pero ese esencialismo deja sus rastros, como veremos.

Ya que se trata de una reflexión “filosófica” el esencialismo subyace a esa concepción de la filosofía que, aparentemente, es todo lo contrario a lo que se espera de ella, que no consiste en dar respuestas sino hacer preguntas. De ahí las preguntas de Innerarity: ¿Qué es la inteligencia? y ¿Qué es el arte?, ambas unidas por el autor. Siguiendo en este caso una línea crítica kantiana cabría decir que hay preguntas que no tienen respuesta porque no deben hacerse o están mal planteadas. Kant afirmaba que deberían evitarse los planteamientos trascendentes, aunque, a su juicio, fueran inevitables por nuestra condición humana. En la actual sociedad no debería ser ya así, aunque lo sigue siendo. En una sociedad compleja adoptaría la forma del “qué es” la inteligencia o el arte sino “a qué llamamos” inteligencia o arte sustituyendo la definición por la descripción. Son tan plurales y diferentes las artes y equívoco el concepto de inteligencia que es preciso explicar en cada caso de qué se está hablando. Al mezclar Innerarity ambos aspectos, la definición y la descripción, apunta bien la dirección y no debería mirarse al dedo esencialista que lo hace. Aunque traiga consecuencias. Ese retroceso al esencialismo se revela ineficaz cuando cree que se debe preguntar qué es la inteligencia y “cuál es la verdadera naturaleza del arte” (62), intentando definirlos, para concluir al final que “El concepto de arte es un concepto crónicamente borroso” (71).

Este ensayo de Innerarity ha ganado con todo merecimiento el premio Eugenio Trías. Me permito sugerir que se aplique en esta ocasión el concepto de “limite” de Eugenio a los de inteligencia y arte. Es lo contrario a la definición clásica. Límite, según esto, no es delimitación, cerco, final, sino punto de partida, posibilidad. De modo que se puede plantear un “humanismo tecnológico” como “humanismo del límite”. Al concluir que se trata de conceptos “borrosos”, “ambiguos”, es decir, llenos de posibilidades, aunque no ilimitadas, tal como se manejan en las sociedades actuales, Innerarity ha tendido puentes entre las dualidades y tratado de encontrar un equilibrio, que es otro de los sentidos del límite. Pero el cómo concluye la reflexión sobre el arte lleva a cuestionar la conveniencia de partir con ese tipo de preguntas:

“La inteligencia artificial no parece saber lo que es el arte, aunque en esto tampoco se diferencia mucho de nosotros, que discutimos este concepto como si no hubiéramos encontrado una definición satisfactoria e incontrovertible. El concepto de arte es un concepto crónicamente borroso. En buena medida, para los humanos el arte es, también, un cuestionamiento de las fronteras de lo artístico. Lo que nos diferencia de las máquinas no es tanto el desconocimiento que compartimos con ellas acerca de la naturaleza del arte sino el hecho de que nos planteemos, una y otra vez, esa pregunta que a ellas no parece inquietarles demasiado” (71).

Y a nosotros tampoco debería.

La meditación sobre la inteligencia artificial se trenza en el libro con los conceptos de creatividad, originalidad y autoría. ¿Tiene sentido seguir manteniéndolos?