«Si fuéramos dioses no tendríamos nada que pensar»

Ignacio Castro Rey es doctor en Filosofía, crítico de cine y arte, gestor cultural, profesor y articulista. Entre sus libros están Votos de riqueza, Mil días en la montaña, Ética del desorden, Lluvia oblicua.(Opinión y verdad en la sociedad del conocimiento) y Sexo y silencio. Acaba de publicar en la editorial Pre-textos Antropofobia.Inteligencia artificial y crueldad calculada, cuya presentación será el 17 de abril, en la librería Enclave, calle Relatores, 16.

Intuición e instinto como dimensión de lo humano son conceptos sustanciales que recorren tu libro Antropofobia. Inteligencia artificial y crueldad calculada. Pero ambas conductas, afirmas, son una creación ex nihilo y, por tanto, irreproducibles, fuera de cualquier programación tecnológica. La operatividad de las máquinas, por muy avanzadas y sofisticadas que sean, sin estos y otros atributos, ¿siempre será una lerda semblanza humana?
Así lo creo. La singularidad de cada ser, cuerpo y mente a la vez, es irreproducible. Y lo es porque un cuerpo, humano o no, no es un organismo autógeno, como el individualismo capitalista nos ha hecho creer, sino un modo de participar en la indeterminación exterior. La inteligencia surge del «asombro» (Aristóteles) ante una exterioridad que nos inquieta. El intelecto nace del roce con lo otro: para «resolver problemas», según se suele decir. Necesitamos entrenarnos en una alteridad que nos recorre, incluso interiormente, pues nunca sabes muy bien qué eres. La mejor dotación cerebral heredada se atrofia si hace una vida plana y no sale de su zona de confort. El hambre agudiza el ingenio. Si fuéramos dioses no tendríamos nada que pensar. No lo somos, estamos rozados por el misterio de la finitud. De ahí surge el pensamiento, para ahondar en la dificultad de un origen no elegido y lograr darle forma, darle palabras para aceptarlo. Desde esta presión de la existencia, que compartimos con otros seres, la intuición y el instinto son un salto cognitivo repentino que nos permite ver, crear algo que aún no estaba admitido. Lejos de esta escandalosa verdad común, que admite una enormidad en cada ser, la ideología fuerte de la IA parte de una concepción insular del individuo y una noción acumulativa del intelecto. Según ella, la velocidad combinatoria es la característica más sobresaliente de un humano que parte de una tabula rasa, desde cero. Fijémonos en que se trata otra vez del tradicional esquema neoliberal que vincula un aislamiento inicial y una conexión posterior. Es un esquema elitista y completamente ingenuo, pues ningún ser nace aislado, sin el alma de una multitud dentro. El resultado de esta ideología, ¿cómo no iba a ser una caricatura de lo humano?

Pero entonces, ¿de dónde procede la enorme expectación en torno a la IA?
De la antropofobia, la aversión al enigma de existir y la esperanza de acabar con una singularidad que impone respeto y levanta límites a la dominación. No ataco la necesidad de herramientas fabulosas, sólo la ideología supremacista con la que están asociadas. El aparente optimismo digital se alimenta de un fúnebre pesimismo, terrenal y comunitario. La cultura humana brota de la enorme naturaleza “inhumana” que alienta en cada uno de nosotros. La persona más inculta del mundo, la menos informada, puede sorprendernos con brotes de inteligencia completamente inesperados. Sobre todo para una mentalidad como la nuestra, habituada a manejar códigos. Incluso la propia historia de la ciencia muestra que el genio humano no depende primeramente de la combinatoria de elementos previos, recibidos de una formación que sirven otros. Como máximo, eso sólo produce buenos profesionales, buenos funcionarios. El ingenio es otra cosa, siempre da un salto. Pero como la mentalidad de la IA es dualista, y parte de una Tierra mecánica e inerte, ignora la fuente sombría de la inteligencia, una desprogramación natal que nos mantiene vivos. Como la singularidad de cada inteligencia es irreproducible, resulta inevitable que las mejores invenciones de la IA sean una torpe semblanza de un cierto tipo de humanos. La palabra «generativa» intenta poner el acento en la creatividad de los nuevos dispositivos, pero el resultado de la inteligencia artificial sólo reproduce modelos empiristas previos. El peso de China, India, Pakistán y otras naciones en el universo high-tech indica que la alta definición tecnológica depende de la alta indefinición de vidas, material y anímicamente, muy alejadas del ideal del orden acumulativo y progresivo occidental. De Gödel a Steve Jobs, la biografía de las cabezas visibles de la ciencia y la tecnología insinúa que lo más «alto» se alimenta de sótanos existenciales poco menos que inconfesables.

«La enorme expectación en torno a la IA procede de la antropofobia, la aversión al enigma de existir y la esperanza de acabar con una singularidad que impone respeto y levanta límites a la dominación».

Asimismo, continuando con la idiosincrasia de los individuos y su reproducción tecnológica, apuntas que el peligro de las mejores máquinas está en la ausencia del mal, afirmación que no deja de resultar paradójica…
No hace falta leer a Baudelaire para aceptar que las amapolas surgen de las escombreras. Donde hay una paradoja solemos estar ante una interrogación que habría que investigar, una verdad naciente que nos desorienta. Si se puede decir que la mejor inteligencia artificial es «idiota» es debido a que le falta el temor, la ansiedad y los sueños que están en el más simple de los niños. La ausencia de desorden, sufrimiento y maldad, coloca inevitablemente al más sofisticado ordenador al servicio de otro ser, que ha de tocar la suciedad del suelo y saber del mal. Sólo la concepción insular de una inteligencia limpia y adánica, típica del sueño maniqueo angloamericano, ha podido concebir que el intelecto depende de un progreso acumulativo que deja atrás estadios primitivos. El propio Whitman, que los líderes de la IA no han leído, se reiría de esta ilusión, furiosamente elitista y discriminadora.

Afirmas que «el primer problema político y moral de la Inteligencia Artificial (IA) es su uso progresista y democrático… », y añades que «…el último progresismo es cómplice con el genocidio antropológico en marcha». ¿Querrías ampliar estas dos declaraciones?
Claro. La IA no sólo es temible si cae en las manos de esos seres maléficos que pueblan nuestro imaginario de las afueras. Lo que es preocupante en esta mitología redentora es la sustitución que en democracia se pretende hacer con un ser humano que «apesta» cada día más, pues es imperfecto y está lleno de defectos. De ahí la esperanza mesiánica en unos algoritmos limpios y libres de «sesgo» que, acoplados en los cuerpos, nos cambiarían la vida. La vieja ingeniería social de una raza superior se dispersa ahora en una ideología de clase media «para todos», un anhelo digital que promete introducir el antiguo delirio de «elevación» en cada uno de nosotros, logrando un avatar de alma y cuerpo. Todo esta pretensión sería cómica si antes no fuera aberrante, pues su proyecto está ligado a una concepción de la existencia común como algo atrasado, lento y catastrófico. No creo que sea una casualidad que la IA fuerte coincida con las imágenes espantosas que Occidente tiene del exterior, también con la hecatombe y la hambruna inyectadas en Gaza. El nihilismo capitalista necesita una humanidad despreciable para poder creer en la redención post-humana de una nueva élite, separada de la tierra y conectada a nuevo cielo virtual. No sólo la IA tiene un origen militar, también posee en sí misma la función de denigrar a una inteligencia común que el dualismo de la IA nunca ha admitido. Los gurús de la IA no son fascistas, pero su desprecio de la intuición y la inteligencia natural indica hasta qué punto la promesa tecnológica depende del desprecio que el progresismo occidental ejerce sobre las facultades comunes del hombre. Por eso la IA es también inseparable de una ilusión de despegue extraterrestre de la sucia tierra. Desde el prólogo a La condición humana, Hannah Arendt ya lo dijo todo acerca del odio que está incrustado en el sueño tecnológico. Desde él no dejarán de llegar nuevas guerras. La primera, contra las tecnologías silenciosas que todavía duermen en nuestros cuerpos. La metafísica tecnológica del poshumanismo no se merece nuestro miedo, sino una nueva beligerancia, armada con su propia tecnología punta.

«Los gurús de la IA no son fascistas, pero su desprecio de la intuición y la inteligencia natural indica hasta qué punto la promesa tecnológica depende del desprecio que el progresismo occidental ejerce sobre las facultades comunes del hombre».

Otro de los puntales del desarrollo de la high-tech son sus aplicaciones en el arte. Se usan términos como «redefinir el arte», un «arte de vanguardia». Tu opinión es categórica: ¿qué se puede crear que no sea desde la nada y la incertidumbre? ¿Qué puede crear un ingenio que no sabe nada del miedo? Y añades: «La inteligencia tiene su sede en el corazón».
Corazón es una forma de referirse a unos circuitos «reptilianos» del cerebro que son mucho más potentes que los registros meramente operativos, categoriales o combinatorios. Sólo pensamos a fondo lo que antes hemos intuido, sentido y vivido en un desorden de sensaciones. El afán casi animal de salir de un atolladero o una trampa está también detrás del genio personal en los videojuegos, el ajedrez o el Go. En lo que respecta al arte, son irrisorias las pretensiones de sustituir la inventiva personal, que brota de la necesidad de darle forma a algo que duele, por una formación tecnológica «superior». Tales pretensiones puritanas son propias del supremacismo norteño, aunque últimamente estén maquilladas con aromas del sur. Toda la gente que está obsesionada con una singularity que debería romper con la comunidad humana anterior sabe muy poco de la vanguardia contemporánea del arte, ni de Rothko ni de Sokurov. Probablemente tampoco sabe mucho de sus propias madres. La ideología poshumana ignora un arte que ha usado muy distintas tecnologías corporales para resolver el espectro real siempre latente. Los mejores programas están entrenados con nuestra experiencia, a veces clandestinamente y sin pedirnos permiso. Aún así, dado que les falta una relación viva con la potencia mortal, su combinatoria sólo logrará reproducir una ilusión mediocre. Nos pasamos el día imitando modelos juveniles. Esto explica el aburrimiento que caracteriza a la vida urbana occidental, necesitada continuamente de espectáculos obscenos para sentir emociones. La pornografía, metida hoy hasta en la sopa, es la cara oculta -no tan oculta- de la transparencia tecnológica. Nada que sea fácil, fluido y transparente es capaz de entender el laberinto terrenal. Sólo lo arrasa, como estamos viendo en los bosques y tantos territorios antropológicos. Si hay todavía una revolución tecnológica pendiente, estriba en intentar entender una existencia misteriosa. Eso es lo que hacen artistas como Bill Viola.

Se está realizando una fortísima inversión en capital (dotaciones millonarias públicas y privadas) y una gran divulgación y propaganda (todos a una: políticos, empresarios, periodistas, intelectuales, científicos) en aras de lo positivo que entraña la revolución tecnológica. Como indicas, esta expectación obedece a una clara estrategia marcada, y no precisamente inocente. ¿Cuál crees que es la preponderante finalidad de la IA y de todo el desarrollo tecnológico?: ¿El conductismo de las masas?, ¿La obediencia sin fisuras que, como dices, pronosticaron Kafka y Aldous Huxley?
Me temo que las peores sospechas son legítimas. Como siempre en los dos últimos siglos de Occidente, se trata de darle otra vuelta de tuerca al retiro de la humanidad elegida, la del «primer mundo», a un limbo virtual desde donde pueda dirigir una nueva solución final que acabe con una humanidad que es inteligente desde la profundidad de sus sentimientos. La IA se presenta como el sueño de una vieja libertad llevado por fin a la intimidad humana y al alcance de cualquiera. La realidad es que coincide con una obediencia pasmosa de la humanidad desarrollada al circuito cerrado, en bucle, en que se mueve la humanidad de las redes sociales. Somos más libres que nunca, se dice, pero lo cierto es que vamos a los mismos sitios y consumimos las mismas marcas, en cuanto a las noticias y en cuanto los ideales. ¿Será casualidad? Prueba a encontrar en el mundo tecnológico una opinión sobre las cuestiones de género, sobre Rusia o los musulmanes que sea realmente distinta. Es intento imposible, enseguida tachado de negacionista. La liberalidad del universo tecnológico es falsa, pues este nació asociado a un conductismo masivo.

«La liberalidad del universo tecnológico es falsa, pues este nació asociado a un conductismo masivo».

Igualmente, apuntas, son máquinas creadas desde una concepción pragmática y capitalista que, sin embargo, no podrían haberse dado si no existiera una determinada sociedad dispuesta a entronizarlas. ¿Qué nos caracteriza actualmente, en qué nos hemos convertido?
Tal vez no hemos prestado suficiente atención a la ciencia ficción. Reparemos en el aspecto y los gestos de la gente urbana que nos rodea, sea en el transporte, en la calle o en el trabajo. Nos hemos convertido en seres inescrutables. Sin ninguna clase de espontaneidad, todo en la humanidad desarrollada es estrategia de visibilidad. Las intenciones reales permanecen en la sombra, por eso nos llevamos tantas sorpresas. Casi todas las películas de terror, un género triunfal, tienen relación con un ser humano que actúa como nosotros, pero al que no conocemos en absoluto. En cierto modo se podría decir que el poshumanismo de la IA llega tarde, pues la mutación del material humano ya se había producido. La humanidad que admira a la IA, antes ya había roto con sus padres. Hoy no es fácil siquiera conocer a nuestros hijos, a nuestros hermanos. En este punto, como en tantos otros, no parece exagerado decir que, en nombre de un Occidente «global», el norte ha violado al sur. Le ha hecho hijos bastardos en las generaciones mutantes que vienen. Esto podría parecer rencoroso. Realmente, no lo es. Creo que es urgente una alianza de la energía primordial de la juventud con una anciana ironía que sigue ahí, a la espera. Veo más probable esa alianza en los países que consideramos «atrasados» que en las naciones altaneras de la primera fila, en la tecnología de la seguridad democrática y la solidaridad aséptica que llamamos «derechos humanos».

La más primigenia barbarie convive con la aséptica y, en apariencia, benefactora IA. Sin embargo, hay puntos en donde ambas se unen, como en la cita que recoges del historiador israelí Yuval Noah Harari —al que denominas como uno de los profetas de lo tecnológico — contenida en su libro 21 lecciones para el siglo XXI, que creo importante que comentes por su tremendo pronóstico: «Lo que los palestinos están viviendo hoy en día en Cisjordania podría ser simplemente un burdo anticipo de lo que miles de millones de personas acabarán por experimentar en todo el planeta».
Me sorprendió esa cita de Harari, a quien considero un pensador mediocre bastante previsible. El mundo actual es tan extremo que hasta él acierta a veces. Lo que Harari, miembro de la comunidad tecnológica de los elegidos, no podía prever es que la cultura israelí tuviera que enviar a la más espantosa «edad de piedra» a millones de personas que en Gaza y en Cisjordania se oponen a nuestro modelo supremacista de humanidad, a su consiguiente apartheid. La separación se arma fácilmente de tecnología y viceversa, la tecnología facilita la separación. Es la pesadilla de un bucle perfecto de seguridad. Creo que sólo se puede romper si una cultura desarrolla una espiritualidad tan baja como alta sea su eficacia técnica. Desgraciadamente, en las democracias del capitalismo occidental, esa alta indefinición parece condenada a ser el culto de lujo de algunas minorías.

Dices que «la mentalidad tecnológica vive bajo el supuesto imperativo de ganar tiempo… ». Retomo la pregunta que tú mismo te haces: ¿para qué quieren que ganemos tiempo?
No soportamos el tiempo real, la finitud que se coagula en los espacios. Nuestra obsesión es la cronología —Time is gold— porque el tiempo, acelerado y contabilizado, es la manera de adelgazar el espacio y conseguir que la vida real no pese, logrando escenarios virtuales donde no pueda ocurrir nada imprevisto. Pero esta ilusión numérica está basada en una ficción, en la retirada a una burbuja. De hecho, nuestro mal humor proviene del rencor por todo lo que, en aras de una seguridad ficticia, no hemos dejado que ocurriera entre nosotros. Fijémonos en que el cero, base de nuestra ideología binaria, ni siquiera existe: es sólo una convención, una abstracción operativa. La «nada» no existe, ni la oscuridad ni el silencio absolutos. Siempre hay algo, rumores que crepitan mezclando opuestos. Emulando un viejo refrán, diría que no hay más vacío que el que arde. Ese es nuestro gran temor, a la vez infantil y senil. Mientras no lo superemos, nuestras herramientas tecnológicas tenderán a convertirse en una promesa que es tóxica. Su ideal de seguridad nos separa de los otros y de nosotros mismos, pues desactiva el umbral donde cuerpos y mentes se encuentran. La IA no es criticable tanto por sus defectos circunstanciales como por una voluntad de limpieza y perfección que es inmisericorde en este mundo sangriento.