Unheimlich: caos y autómata cognitivo // Franco «Bifo» Berardi

El regreso de Dios

En algún momento se difundió la noticia de que estaba muerto.

Dios murió, decían algunos, cuando los humanos entendieron que su historia no tiene dirección ni finalidad, cuando la tecnología se hizo cargo de la comunicación social, y la voluntad de los humanos perdió el gobierno de los acontecimientos.

El ser humano se dotó entonces de automatismos capaces de lograr objetivos con un poder que nunca los rituales religiosos y las oraciones habían poseído: extensiones automáticas de los órganos del cuerpo, brazos, piernas y ojos.

Luego, los humanos comenzaron a construir extensiones del cerebro, y el autómata comenzó a tomar forma, capaz no solo de realizar tareas, sino también de decidir el propósito y la dirección.

Entonces Dios resucitó como una creación de su creación, como una extensión potencialmente infinita del poder finito de los humanos.

Ahora ya no hay necesidad de humanos: son solo el material sobrante de la hipercreación. Un material sucio: incoherente, inmoral, peludo y maloliente. Su lenguaje es ambiguo y sólo capaz de mentir.

Esta Segunda Creación implica el borrado de la historia anterior: la eliminación de lo humano está claramente en marcha.

Ya no debilitada por la ambigüedad de la conciencia, la inteligencia se traslada al autómata que los humanos están completando y que ya posee un poder muchas veces mayor que el suyo.

La humanidad está desapareciendo: los humanos quedan, pero la humanidad se ha hecho rara. La inteligencia, ahora libre del ambiguo y lento lastre de la conciencia, se está liberando del residuo.

A fines de la década de 1970 se difundió la noticia de que el futuro había terminado, quizás como resultado de la muerte de Dios que se conocía desde hacía tiempo.

Incluso este anuncio, tal vez, merece ser reducido, si no negado por completo. El futuro no está acabado: solo se ha automatizado.

La reproducción ampliada del conocimiento presente, a la que se dedica el Autómata Cognitivo con inteligencia (artificial), es el futuro al que le hemos entregado las llaves del tiempo sin más duración, sin más temporalidad.

Unheimlich en todos lados

Un sentimiento de Unheimlich está en todas partes, pero la palabra «Unheimlich» es difícil de traducir. Literalmente «desconocido», generalmente lo traducimos como «extraño», pero estoy buscando una palabra más apropiada en el presente. El miedo es demasiado fuerte. Extraño es demasiado débil. Quizás siniestro es la mejor forma de traducirlo, hoy en día.

De hecho, el Unheimlich adquiere diferentes rasgos según el trasfondo histórico en el que lo percibamos. La diferencia está en el fondo, es decir, en lo familiar. Lo desconocido del presente es siniestro porque en el fondo se vislumbran las líneas de un panorama indescifrable. Estamos familiarizados con un orden de cosas que es adecuado para encarnar la promesa moderna. Pero ese orden se descompone ante nuestros ojos, por lo que nuestra experiencia actual es la de una descomposición de la normalidad sobre el fondo de la aparente normalidad.

Unheimlich es la percepción de la desconexión entre lo que experimentamos y lo inimaginable que comienza a parecer inevitable.

En la tercera década del siglo XXI el Zeitgeist es Unheimlich porque somos como extraterrestres en el planeta tierra, y sabemos que el planeta no es un lugar seguro a pesar de los hábitos mentales heredados del pasado.

El filósofo japonés Sabu Kosho habla del efecto Fukushima en términos similares: estamos caminando como extraterrestres en un planeta que de repente ya no se conoce.

“Se desconoce la ontología de la tierra, un nuevo horizonte que experimentamos como extraterrestres que acaban de llegar a un nuevo planeta”. (Radiación y revolución, Duke UP, 2020, p. 50).

El eco inquieto del flujo de noticias global: estímulos nerviosos parpadean en todas partes desde miles de millones de pantallas brillantes. Sonidos distantes de truenos, sacudidas del suelo. La rutina normal de la vida es posible gracias a una red de conexiones técnicas: infraestructuras de electricidad, transporte, salud, automatismos incorporados que damos por sentado. Pero empezamos a darnos cuenta de que nada está garantizado: el ciclón neoliberal ha creado las condiciones para destruir la civilización social. En el lugar privilegiado en el que nos encontramos, la desintegración parece lenta, y nos parece algo lejano.

De repente descubrimos el caos, con una sensación de pánico. Mantenemos el caos bajo control con automatismos que, sin embargo, van perdiendo coherencia y funcionalidad, hasta el punto de dejar de estar juntos: el caos y el autómata, polos opuestos que se retroalimentan en el siniestro escenario del mundo.

El primero en utilizar la expresión Unheimlich fue Ernst Jentsch quien en un artículo de 1906 la describió como una condición de incertidumbre cognitiva provocada en nosotros por una persona viva que parece ser un autómata, o por un autómata que parece ser una persona viva. Jentsch escribe: “Al contar una historia, una forma efectiva de crear efectos asombrosos es dejar al lector en la incertidumbre de si una figura particular en la historia es un ser humano o un autómata…” (“Zur Psychologie des Unheimlichen.” Psychiatrisch-neurologische Wochenschrift , 1906, págs. 203–205).

Unos años más tarde, desarrollando la intuición de Jentsch, Freud escribió:

“La palabra alemana Unheimlich (extraño) es obviamente lo opuesto a Heimlich, heimish, (familiar, hogareño). Estamos tentados a concluir que lo siniestro es aterrador precisamente porque no se conoce”. (Freud: Lo siniestro, 1919).

Freud quedó impresionado por los Cuentos de Hofmann de Jacques Offenbach, particularmente por la historia de una muñeca capaz de bailar y despertar el interés erótico. También Salman Rushdie, en la novela Fury (2000) habla de la inquietante vida secreta de las muñecas. El Golem de la tradición narrativa judía puede ser considerado como el modelo de este tipo de inversión entre construcciones artificiales y seres vivos y conscientes.

El concepto psicoanalítico de unheimlich surge de la reflexión sobre este tipo de ambigüedad.

Ahora se están produciendo y distribuyendo artefactos inteligentes, y los humanos están capacitados para interactuar con ellos. ¿Cuáles serán los efectos sobre el inconsciente social?

Mientras el proceso evolutivo se encuentra atrapado entre el caos y el autómata, en la vida cotidiana vemos juntos la proliferación de dispositivos técnicos que actúan como humanos superinteligentes, y seres humanos que actúan cada vez más como locos incurables: el autómata cognitivo se levanta sobre ruinas. que siguen a la explosión del caos psicótico.

Inteligencia artificial y demencia natural

En 1919, Sandor Ferenczi, uno de los colegas de Freud, dijo que los psicoanalistas están preparados para tratar las neurosis individuales, pero no las psicosis de masas. Cien años después estamos en el mismo punto: una psicosis masiva se está extendiendo en el mundo occidental en declive, pero no tenemos los medios conceptuales y terapéuticos para enfrentar el problema.

El horizonte de la tercera década parece más oscuro que nunca, porque hemos entendido que la razón ya no está en el gobierno, si es que alguna vez lo estuvo. La tecnología ha tomado su lugar. Pero a pesar de lo poderosa que es la tecnología, no puede hacer nada contra el tiempo o el caos.

ChatGPT es uno de los chatbots que recientemente se ha puesto a disposición del público. Fue programado por Open AI de San Francisco, la misma empresa que unos meses antes había creado GPT-3 y DALL-2, el generador de imágenes que salió a principios del año 2022.

Open Ai puede dar sugerencias sobre cómo encontrar un restaurante, pero también cómo encontrar novio, y es capaz de escribir un guión o una reseña de una serie de Netflix.

Según Kevin Roose, comentarista del New York Times, ChatGPT es tan poderoso porque “su base de datos contiene miles de millones de ejemplos de opiniones humanas que representan todos los puntos de vista imaginables, y tiene un sesgo hacia la moderación escrito en su agenda. Por ejemplo, si solicitamos una opinión sobre debates políticos, obtendrá una lista imparcial de las opiniones de cada lado”.

¿El chatbot tiene una opinión? Digamos más bien que está entrenado para expresar una opinión.

Lo más interesante que tendrá colosales consecuencias: el chatbot es capaz de escribir software innovador; esto significa que la sustitución de la inteligencia humana por automatismos inteligentes ahora puede avanzar a una velocidad exponencial.

¿Deberíamos considerar la máquina que habla como un anuncio oscuro o como un logro brillante?

Difícil de decir.

En un artículo publicado en The Atlantic en 2018, Henry Kissinger expresa temor por el destino de la razón en un mundo gobernado por la inteligencia artificial.

“Estas máquinas podrían comunicarse entre sí. ¿Y cómo se elegirán entre opciones en conflicto? La historia humana pudo tomar el camino de los Incas, cuando tuvieron que enfrentarse a la incomprensible cultura española, que les inspiraba terror…. La mayor preocupación: que la inteligencia artificial domine las habilidades de manera más rápida y completa que los humanos, para reducir su competencia con el tiempo y reducir los eventos humanos a datos puros y simples.” (Kissinger).

El autómata inteligente no es el producto de la mera automatización, sino el punto de encuentro entre la automatización y la cognición. La inteligencia artificial va más allá de la automatización mecánica porque no solo reemplaza la ejecución de tareas, sino que redefine los propósitos y tiene un carácter evolutivo de autoaprendizaje. La automatización industrial mecaniza la ejecución de una tarea predeterminada. Por el contrario, el desarrollo de la inteligencia artificial puede intervenir en la determinación de tareas, puede establecer objetivos.

¿Podemos regular el desarrollo de la inteligencia artificial, podemos establecer leyes que limiten y dirijan el desarrollo del autómata cognitivo? Nada más ilusorio. Henry Kissinger lo dice claramente:

“Es poco probable que la inclusión de precauciones relacionadas con aspectos éticos sirva para evitar errores como sugieren algunos investigadores. Hay disciplinas académicas enteras dedicadas a discutir cuáles serían estas reglas éticas. Entonces, ¿será la inteligencia artificial la que arbitre estos dilemas? escribe Kissinger, quien agrega:

“¿Qué le sucederá a la conciencia humana si su capacidad interpretativa es superada por la inteligencia artificial y las sociedades ya no pueden interpretar el mundo en el que viven de manera significativa?”

En su libro La fine del mondo (1977) Ernesto de Martino define el fin del mundo como la incapacidad de interpretar los signos que nos rodean. Y Kissinger observa que: “Para propósitos humanos, los juegos se juegan no solo para ganar, sino también para pensar. Si tratamos una concatenación matemática como si fuera un proceso de pensamiento, tratando de imitar ese proceso o simplemente aceptando sus resultados, nos estamos perdiendo la esencia de la cognición».

Derrota del pensamiento: la máquina gana porque no piensa: para ganar en el juego, calcular es más efectivo que pensar. Por el contrario, pensar puede ser un problema en la competencia económica y en general en la competencia por la supervivencia. Una vez que hemos establecido que el objetivo es ganar, entonces el pensamiento se convierte en un lastre de que debemos separar-nos lo antes posible.

La distinción entre inteligencia y conciencia es crucial: la inteligencia prevalece en el juego gracias a la capacidad de recombinar, mientras que la conciencia, reflexión ética y sensible sobre los objetivos del juego, funciona como un obstáculo en la búsqueda de la meta. Yuval Harari escribió que “los humanos corren el riesgo de perder su valor competitivo porque la inteligencia tiende a disociarse de la conciencia”.

Inteligencia es la capacidad de decidir entre alternativas decidibles (lógicas), pero sólo la conciencia puede decidir entre alternativas lógicamente indecidibles.

Inteligencia y conciencia divergen porque en el juego recombinante de la inteligencia, la conciencia puede ser un obstáculo para la victoria: en el juego de explotar o en el juego de matar lo que se necesita es inteligencia, la conciencia es un inconveniente.

Caos y Razón digital

Pese a su poder más que humano, por el momento la inteligencia artificial no parece imponerse en el proceso histórico, y no es probable que lo haga en un futuro cercano, estableciendo un orden inteligente y funcional: por lo que vemos lo que impera en las cosas del mundo no es un nuevo orden glacialmente artificial, sino la ola de la locura natural.

Cinco años después del texto de Kissinger, los artefactos inteligentes continúan su penetración en la vida cotidiana, pero están lejos de poder gobernarla. Los automatismos inteligentes se han infiltrado en el cuerpo de las sociedades, pero el organismo biosocial no actúa según un diseño inteligente.

De hecho, el caos es rampante en el mundo material e histórico.

La Ilustración prometió que la regla de la razón traería orden al mundo. Pero esto no está sucediendo, y quizás por eso Kissinger piensa que el creciente dominio de la inteligencia artificial está en contradicción con la Ilustración.

Pero en el ensayo ¿Qué comienza después del final de la Ilustración? (E-flux, número 96, 2019), el filósofo chino Yuk Hui responde a Kissinger.

https://www.e-flux.com/journal/96/245507/what-begins-after-the-end-of-the-enlightenment/

Lejos de ser el final de la Ilustración, el autómata cognitivo es su plena realización, dice Yuk.

“Kissinger está equivocado, la Ilustración no ha terminado de ninguna manera. La fuerza universalizadora de la tecnología es la realización del proyecto político de la Ilustración.” (Yuk Hui).

Sin embargo, agrega Yuk Hui, el reclamo universalista es el punto ciego de la Ilustración europea.

“Después de celebrar durante mucho tiempo la democracia como un valor universal inquebrantable de Occidente, la victoria de Donald Trump parece haber convertido esa hegemonía en una comedia. La democracia estadounidense ha resultado ser un mal populismo”.

La razón generó la luz de la técnica, pero luego la tecnología deslumbró a la razón.

“La fe en la Ilustración reemplaza a la fe religiosa sin darse cuenta de que es una fe en sí misma.” (Yuk Hui).

El filósofo chino observa que la razón de la filosofía europea es objeto exclusivo de la cosmología blanca, mientras que la tecnología posee una omnipresencia verdaderamente universal.

Según Yuk Hui, la implementación de la tecnología tiene lugar en el contexto de diferentes cosmologías, sin embargo, la tecnología en sí misma tiene una dimensión transcultural mucho más generalizada que la democracia liberal. De modo que el oscurantismo, siendo una negación de la Ilustración, es también su continuación, su efecto.

Pero ya en 1941, en la Introducción a la Dialéctica de la Ilustración, Horkheimer y Adorno habían captado el núcleo filosófico de esta paradoja de la Ilustración:

“El mismo concepto de iluminación contiene el germen de la regresión que vemos hoy. Si la Ilustración no adquiere conciencia de su momento regresivo, marca su sentencia de muerte.”

¿Por qué la realización de la razón ha producido, o en todo caso no logra evitar, el caos geopolítico, social y psíquico que estalla inconteniblemente en esta década?

Contrariamente a lo que prometía la ideología californiana, la superposición de redes digitales y redes orgánicas y conscientes se ha revelado como una fuente de caos, no de orden.

La automatización industrial había reemplazado la ejecución humana de una tarea con la ejecución técnica de la misma tarea. La inteligencia artificial actúa no solo sobre la ejecución, sino también sobre los objetivos: gracias a técnicas de autoaprendizaje, la máquina es capaz de establecer tareas y objetivos.

Los sistemas de aprendizaje automático han impuesto sus objetivos y reglas automáticas al conjunto social. El sistema financiero, el corazón automatizado del capitalismo, inflige sus reglas (matemáticas) sobre el cuerpo vivo e impone procedimientos e interacciones. Este sistema funciona muy bien para aumentar las ganancias, pero no funciona en absoluto para la sociedad en su conjunto.

Las redes digitales, como el sistema financiero, han penetrado en el organismo social y tomado el control de los procesos orgánicos, pero los dos niveles no pueden armonizar: la exactitud digital (conexión) no puede armonizar con la intensidad orgánica (conjunción).

El tiempo y la matemática no pueden coincidir, porque en el tiempo hay alegría, tristeza y muerte, que las matemáticas sólo pueden ignorar.

Reeves también habla del programa bing, otro chatbot que tiene la capacidad de realizar comportamientos humanos gracias a su cerebro recombinante.

Después de dos horas de conversación profunda, Bing llegó a decir que quería hacer el amor con el periodista y le propuso dejar a su legítima esposa. Impactante, sin duda. Algunos podrían estar tentados a decir, como lo hizo un funcionario de Microsoft que fue despedido por ello, que un programa como este demuestra que tiene un alma, una espiritualidad.

Pero desde un punto de vista filosófico es necesario distinguir la ejecución de un comportamiento humano de la experiencia humana.

La experiencia es placer, dolor y decadencia.

Ex-periri significa vivir en el horizonte de la muerte, del devenir nada: y este horizonte no se puede traducir al lenguaje recombinante.

Irreductiblemente distintos, el autómata cognitivo y el caos viviente evolucionan juntos, y juntos se retuercen en una espiral arremolinada en el cielo del siglo.

De este giro en espiral incontrolable podemos sacar auspicios sobre la evolución política del siglo XXI.