LOS DEMONIOS
DE LA INTELIGENCIA ARTIFICIAL
Una de las frases que más gusta chuperretear al lorito sistémico –lo mismo al que vive en la choza que en el palacio, aunque este último lo dice con socarronería maligna– es aquella que dice, poco más o menos: «La tecnología no es buena ni mala, depende del uso que le demos». Resulta, en verdad, grotesco que mucha gente se crea sinceramente este mito de la tecnología neutra e impersonal, como si sus 'avances' no estuviesen impulsados, inducidos, financiados con inversiones multimillonarias por personas concretas.
Ignacio Castro Rey, autor de 'Antropofobia. Inteligencia artificial y crueldad calculada' (Pre-Textos) sabe, desde luego, que la tecnología nunca ha sido neutra, mucho menos en esta fase terminal y posthumana de la Historia. Frente a los loritos sistémicos que celebran el «enorme potencial» y los «eventuales riesgos» de la inteligencia artificial, Castro Rey descubre en este nuevo ingenio algún potencial específico, en campos especializados, y enormes riesgos existenciales, políticos, éticos y culturales. Frente al tan cacareado peligro de los «malos usos» que los «gobiernos autoritarios» pueden hacer de la inteligencia artificial, Castro Rey nos alerta en su lúcido y penetrante ensayo de los peligros de su uso «progresista y democrático», que ayudará a instaurar un despotismo de nuevo cuño, una 'gobernanza' tecnocrática basada en una vigilancia estatal sin precedentes. Un despotismo que, según nos advierte el autor, ya no se ejercerá desde los centros institucionales del poder, sino que más bien será de naturaleza «ambiental»; y todo ello integrado en una cultura de la emergencia y en una hilera interminable de pánicos más o menos inducidos: sanitarios, económicos, geopolíticos, energéticos, climáticos, alimentarios, etcétera.
La inteligencia artificial nos ofrece, a modo de conocimiento universal consensuado, una mixtura de ciencia vulgarizada y estadística que añade al caudal vertiginoso de datos e informaciones un 'sesgo'; el sesgo 'progresista y democrático' que al poder interesa imbuir en las masas, a la vez que las galvaniza con un eufórico espejismo de 'empoderamiento' redentor. La inteligencia artificial no pretende otra cosa, a la postre, sino instaurar una nueva disciplina de masas; y no sólo –nos advierte Castro Rey– en las cuestiones medulares que interesan al poder, sino también en los asuntos más nimios, para que todos consumamos las mismas marcas y viajemos a los mismos sitios. Se trataría, en fin, de crear una sociedad gustosamente sumisa, que se cree informada pero sólo ha sido formateada en manada; y que, como se halla dispersa (pues la tecnología disuelve los vínculos y nos encierra en su jaula absorta), esa manada se cree formaba por personas únicas con voz propia (aunque sea voz de papagayo).
La inteligencia artificial declara abolido el pensamiento, que desde ahora se convertirá en una mera combinación de datos. Nos exonera de la difícil decisión de tomar partido, alivia nuestros dilemas más desgarradores, nuestras dubitaciones, nuestras caídas propias de personas falibles; arrebata a la vida, en fin, su naturaleza dramática. Quizá las páginas más dilucidadoras de este brillante ensayo son las que Castro Rey dedica a describir la abolición de lo específicamente humano, de esa singularidad que tiene cada uno de nuestros pensamientos, nacidos de nuestras deficiencias, de nuestra pobreza material y espiritual, de nuestros errores y sufrimientos. La tecnología odia esta unicidad intransferible que no puede alcanzar, como la zorra de la fábula odiaba el racimo de uvas; así que se dedica a uniformizarnos. Como leemos en el 'Manifiesto conspiracionista' que Castro Rey cita muy pertinentemente: «No pudiendo hacer máquinas capaces de igualar al ser humano, se han propuesto circunscribir la experiencia humana a lo que una máquina puede conocer».
Este furioso impulso de aplastar la singularidad humana y crear una humanidad en serie es el motor secreto de la inteligencia artificial. La represión de cualquier forma de inteligencia disidente o arisca, de cualquier «grumo de singularidad» (también, por supuesto, en el ámbito de las artes) se convierte, inevitablemente, en su objetivo prioritario. La aceleración tecnológica que impulsa la inteligencia artificial anhela, en último extremo, convertirnos en mónadas idénticas, gurruños de carne despersonalizada y fácilmente moldeable que se han vaciado de pensamientos y olvidado lo que ya sabían. Por supuesto, la resistencia a este tsunami tecnológico se presenta como algo insensato y suicida, un puro negacionismo insolidario que conduce al infierno analógico. Así que, quien se resista, se convertirá de inmediato en un réprobo. Sólo tendrá cabida en el paraíso de la inteligencia artificial quien acepte el veredicto de Harari, uno de esos lacayos sistémicos que Castro Rey desenmascara y satiriza: «Los seres humanos deberíamos hacernos a la idea de que hemos dejado de ser almas misteriosas. En este momento somos animales hackeables».
En los viejos tratados teológicos se nos enseñaba que Dios había querido que todos los hombres fuésemos distintos y, por ello mismo, deseosos de unirnos a otros hombres con vínculos fraternos; y también que la misión diabólica era precisamente uniformizar a quienes Dios había creado distintos, a la vez que los enviscaba entre sí. En 'Antropofobia', mientras nos describe magníficamente el odio a la singularidad humana que enardece a los creadores y apóstoles de la inteligencia artificial, acaso Ignacio Castro Rey haya desvelado una vasta conspiración angélica.
ANTROPOFOBIA
INTELIGENCIA ARTIFICIAL Y
CRUELDAD CALCULADA
Somos inteligentes en virtud de los errores, de las deformaciones que nos forman. Partiendo de esta verdad común, la inteligencia artificial generativa no es criticable por sus defectos circunstanciales, sino por su voluntad estructural de perfección.
El diseño elegante de cualquier dispositivo sugiere una fluidez libre de sangre. Esta pretensión de limpieza, en un mundo desgarrado, es en sí misma despiadada. La forma suave de los aparatos, igual que las proclamas angelicales de bondad corporativa en el capitalismo de plataformas, no oculta únicamente el sufrimiento de seres explotados. La promesa tecnológica tapa también algo más cercano y de lo que no se habla, un enmudecimiento anímico que apenas tiene precedentes. No olvidemos que la moda de la fusión oculta la fisión: se trata de acabar con cualquier grumo de singularidad a favor del esencialismo serial, construido y consumible. La IA sólo es, en este sentido, el penúltimo epítome –ya definitivamente íntimo– de un totalitarismo democrático de lo aislado y conectado.
🔌
1. Intuición e instinto como dimensión de lo humano son conceptos sustanciales que recorren tu libro Antropofobia. Inteligencia artificial y crueldad calculada. Pero ambas conductas, afirmas, son una creación ex nihilo y, por tanto, irreproducibles, fuera de cualquier programación tecnológica. La operatividad de las máquinas, por muy avanzadas y sofisticadas que sean, sin estos y otros atributos, ¿siempre será una lerda semblanza humana?
Así lo creo. La singularidad de cada ser, cuerpo y mente a la vez, es irreproducible. Y lo es porque un cuerpo, humano o no, no es un organismo autógeno, como el individualismo capitalista nos ha hecho creer, sino un modo de participar en la indeterminación exterior. La inteligencia surge del «asombro» (Aristóteles) ante una exterioridad que nos inquieta. El intelecto nace del roce con lo otro: para «resolver problemas», según se suele decir. Necesitamos entrenarnos en una alteridad que nos recorre, incluso interiormente, pues nunca sabes muy bien qué eres. La mejor dotación cerebral heredada se atrofia si hace una vida plana y no sale de su zona de confort. El hambre agudiza el ingenio. Si fuéramos dioses no tendríamos nada que pensar. No lo somos, estamos rozados por el misterio de la finitud. De ahí surge el pensamiento, para ahondar en la dificultad de un origen no elegido y lograr darle forma, darle palabras para aceptarlo. Desde esta presión de la existencia, que compartimos con otros seres, la intuición y el instinto son un salto cognitivo repentino que nos permite ver, crear algo que aún no estaba admitido. Lejos de esta escandalosa verdad común, que admite una enormidad en cada ser, la ideología fuerte de la IA parte de una concepción insular del individuo y una noción acumulativa del intelecto. Según ella, la velocidad combinatoria es la característica más sobresaliente de un humano que parte de una tabula rasa, desde cero. Fijémonos en que se trata otra vez del tradicional esquema neoliberal que vincula un aislamiento inicial y una conexión posterior. Es un esquema elitista y completamente ingenuo, pues ningún ser nace aislado, sin el alma de una multitud dentro. El resultado de esta ideología, ¿cómo no iba a ser una caricatura de lo humano?
2. Pero entonces, ¿de dónde procede la enorme expectación en torno a la IA?
De la antropofobia, la aversión al enigma de existir y la esperanza de acabar con una singularidad que impone respeto y levanta límites a la dominación. No ataco la necesidad de herramientas fabulosas, sólo la ideología supremacista con la que están asociadas. El aparente optimismo digital se alimenta de un fúnebre pesimismo, terrenal y comunitario. La cultura humana brota de la enorme naturaleza «inhumana» que alienta en cada uno de nosotros. La persona más inculta del mundo, la menos informada, puede sorprendernos con brotes de inteligencia completamente inesperados. Sobre todo, ante una mentalidad como la nuestra, habituada a manejar códigos normalizados. Incluso la propia historia de la ciencia muestra que el genio humano no depende primeramente de la combinatoria de elementos previos, recibidos de una formación que sirven otros. Como máximo, eso sólo produce buenos profesionales, buenos funcionarios. El ingenio es otra cosa, siempre da un salto. Pero como la mentalidad de la IA es dualista, y parte de una Tierra mecánica e inerte, ignora la fuente sombría de la inteligencia, una desprogramación natal que nos mantiene vivos. Como la singularidad de cada inteligencia es irreproducible, resulta inevitable que las mejores invenciones de la IA sean una torpe semblanza de un cierto tipo de humanos. La palabra «generativa» intenta poner el acento en la creatividad de los nuevos dispositivos, pero el resultado de la inteligencia artificial sólo reproduce modelos empiristas previos. El peso de China, India, Pakistán y otras naciones en el universo high–tech indica que la alta definición tecnológica depende de la alta indefinición de vidas, material y anímicamente, muy alejadas del ideal del orden acumulativo y progresivo occidental. De Gödel a Steve Jobs, la biografía de las cabezas visibles de la ciencia y la tecnología insinúa que lo más «alto» se alimenta de sótanos existenciales poco menos que inconfesables.
3. Asimismo, continuando con la idiosincrasia de los individuos y su reproducción tecnológica, apuntas que el peligro de las mejores máquinas está en la ausencia del mal, afirmación que no deja de resultar paradójica…
No hace falta leer a Baudelaire para aceptar que las amapolas surgen de las escombreras. Donde hay una paradoja solemos estar ante una interrogación que habría que investigar, una verdad naciente que nos desorienta. Si se puede decir que la mejor inteligencia artificial es «idiota» es debido a que le falta el temor, la ansiedad y los sueños que están en el más simple de los niños. La ausencia de desorden, sufrimiento y maldad, coloca inevitablemente al más sofisticado ordenador al servicio de otro ser, que ha de tocar la suciedad del suelo y saber del mal. Sólo la concepción insular de una inteligencia limpia y adánica, típica del sueño maniqueo angloamericano, ha podido concebir que el intelecto depende de un progreso acumulativo que deja atrás estadios primitivos. El propio Whitman, que los líderes de la IA no han leído, se reiría de esta ilusión, furiosamente elitista y discriminadora.
4. Afirmas que «el primer problema político y moral de la Inteligencia Artificial (IA) es su uso progresista y democrático… », y añades que «…el último progresismo es cómplice con el genocidio antropológico en marcha». ¿Querrías ampliar estas dos declaraciones?
Claro. La IA no sólo es temible si cae en las manos de esos seres maléficos que pueblan nuestro imaginario de las afueras. Lo que es preocupante en esta mitología redentora es la sustitución que en democracia se pretende hacer con un ser humano que «apesta» cada día más, pues es imperfecto y está lleno de defectos. De ahí la esperanza mesiánica en unos algoritmos limpios y libres de «sesgo» que, acoplados en los cuerpos, nos cambiarían la vida. La vieja ingeniería social de una raza superior se dispersa ahora en una ideología de clase media «para todos», un anhelo digital que promete introducir el antiguo delirio de «elevación» en cada uno de nosotros, logrando un avatar de alma y cuerpo. Todo esta pretensión sería cómica si antes no fuera aberrante, pues su proyecto está ligado a una concepción de la existencia común como algo atrasado, lento y catastrófico. No creo que sea una casualidad que la IA fuerte coincida con las imágenes espantosas que Occidente tiene del exterior, también con la hecatombe y la hambruna inyectadas en Gaza. El nihilismo capitalista necesita una humanidad despreciable para poder creer en la redención post-humana de una nueva élite, separada de la tierra y conectada a nuevo cielo virtual. No sólo la IA tiene un origen militar, también posee en sí misma la función de denigrar a una inteligencia común que el dualismo de la IA nunca ha admitido. Los gurús de la IA no son fascistas, pero su desprecio de la intuición y la inteligencia natural indica hasta qué punto la promesa tecnológica depende del desprecio que el progresismo occidental ejerce sobre las facultades comunes del hombre. Por eso la IA es también inseparable de una ilusión de despegue extraterrestre de la sucia tierra. Desde el prólogo a La condición humana, Hannah Arendt ya lo dijo todo acerca del odio que está incrustado en el sueño tecnológico. Desde él no dejarán de llegar nuevas guerras. La primera, contra las tecnologías silenciosas que todavía duermen en nuestros cuerpos. La metafísica tecnológica del poshumanismo no se merece nuestro miedo, sino una nueva beligerancia, armada con su propia tecnología punta.
5. Otro de los puntales del desarrollo de la high-tech son sus aplicaciones en el arte. Se usan términos como «redefinir el arte», un «arte de vanguardia». Tu opinión es categórica: ¿qué se puede crear que no sea desde la nada y la incertidumbre? ¿Qué puede crear un ingenio que no sabe nada del miedo? Y añades: «La inteligencia tiene su sede en el corazón».
Corazón es una forma de referirse a unos circuitos «reptilianos» del cerebro que son mucho más potentes que los registros meramente operativos, categoriales o combinatorios. Sólo pensamos a fondo lo que antes hemos intuido, sentido y vivido en un desorden de sensaciones. El afán casi animal de salir de un atolladero o una trampa está también detrás del genio personal en los videojuegos, el ajedrez o el Go. En lo que respecta al arte, son irrisorias las pretensiones de sustituir la inventiva personal, que brota de la necesidad de darle forma a algo que duele, por una formación tecnológica «superior». Tales pretensiones puritanas son propias del supremacismo norteño, aunque últimamente estén maquilladas con aromas del sur. Toda la gente que está obsesionada con una singularity que debería romper con la comunidad humana anterior sabe muy poco de la vanguardia contemporánea del arte, ni de Rothko ni de Sokurov. Probablemente tampoco sabe mucho de sus propias madres. La ideología poshumana ignora un arte que ha usado muy distintas tecnologías corporales para resolver el espectro real siempre latente. Los mejores programas están entrenados con nuestra experiencia, a veces clandestinamente y sin pedirnos permiso. Aún así, dado que les falta una relación viva con la potencia mortal, su combinatoria sólo logrará reproducir una ilusión mediocre. Nos pasamos el día imitando modelos juveniles. Esto explica el aburrimiento que caracteriza a la vida urbana occidental, necesitada continuamente de espectáculos obscenos para sentir emociones. La pornografía, metida hoy hasta en la sopa, es la cara oculta -no tan oculta- de la transparencia tecnológica. Nada que sea fácil, fluido y transparente es capaz de entender el laberinto terrenal. Sólo lo arrasa, como estamos viendo en los bosques y tantos territorios antropológicos. Si hay todavía una revolución tecnológica pendiente, estriba en intentar entender una existencia misteriosa. Eso es lo que hacen artistas como Bill Viola.
6. Se está realizando una fortísima inversión en capital (dotaciones millonarias públicas y privadas) y una gran divulgación y propaganda (todos a una: políticos, empresarios, periodistas, intelectuales, científicos) en aras de lo positivo que entraña la revolución tecnológica. Como indicas, esta expectación obedece a una clara estrategia marcada, y no precisamente inocente. ¿Cuál crees que es la preponderante finalidad de la IA y de todo el desarrollo tecnológico?: ¿El conductismo de las masas?, ¿La obediencia sin fisuras que, como dices, pronosticaron Kafka y Aldous Huxley?
Me temo que las peores sospechas son legítimas. Como siempre en los dos últimos siglos de Occidente, se trata de darle otra vuelta de tuerca al retiro de la humanidad elegida, la del «primer mundo», a un limbo virtual desde donde pueda dirigir una nueva solución final que acabe con una humanidad que es inteligente desde la profundidad de sus sentimientos. La IA se presenta como el sueño de una vieja libertad llevado por fin a la intimidad humana y al alcance de cualquiera. La realidad es que coincide con una obediencia pasmosa de la humanidad desarrollada al circuito cerrado, en bucle, en que se mueve la humanidad de las redes sociales. Somos más libres que nunca, se dice, pero lo cierto es que vamos a los mismos sitios y consumimos las mismas marcas, en cuanto a las noticias y en cuanto los ideales. ¿Será casualidad? Pruebe a encontrar en el mundo tecnológico una opinión sobre las cuestiones de género, sobre Rusia o los musulmanes que sea realmente distinta. Es intento imposible, enseguida tachado de negacionista. La liberalidad del universo tecnológico es falsa, pues este nació asociado a un conductismo masivo.
7. Igualmente, apuntas, son máquinas creadas desde una concepción pragmática y capitalista que, sin embargo, no podrían haberse dado si no existiera una determinada sociedad dispuesta a entronizarlas. ¿Qué nos caracteriza actualmente, en qué nos hemos convertido?
Tal vez no hemos prestado suficiente atención a la ciencia ficción. Reparemos en el aspecto y los gestos de la gente urbana que nos rodea, sea en el transporte, en la calle o en el trabajo. Nos hemos convertido en seres inescrutables. Sin ninguna clase de espontaneidad, todo en la humanidad desarrollada es estrategia de visibilidad. Las intenciones reales permanecen en la sombra, por eso nos llevamos tantas sorpresas. Casi todas las películas de terror, un género triunfal, tienen relación con un ser humano que actúa como nosotros, pero al que no conocemos en absoluto. En cierto modo se podría decir que el poshumanismo de la IA llega tarde, pues la mutación del material humano ya se había producido. La humanidad que admira a la IA, antes ya había roto con sus padres. Hoy no es fácil siquiera conocer a nuestros hijos, a nuestros hermanos. En este punto, como en tantos otros, no parece exagerado decir que, en nombre de un Occidente «global», el norte ha violado al sur. Le ha hecho hijos bastardos en las generaciones mutantes que vienen. Esto podría parecer rencoroso. Realmente, no lo es. Creo que es urgente una alianza de la energía primordial de la juventud con una anciana ironía que sigue ahí, a la espera. Veo más probable esa alianza en los países que consideramos «atrasados» que en las naciones altaneras de la primera fila, en la tecnología de la seguridad democrática y la solidaridad aséptica que llamamos «derechos humanos».
8. La más primigenia barbarie convive con la aséptica y, en apariencia, benefactora IA. Sin embargo, hay puntos en donde ambas se unen, como en la cita que recoges del historiador israelí Yuval Noah Harari —al que denominas como uno de los profetas de lo tecnológico — contenida en su libro 21 lecciones para el siglo XXI, que creo importante que comentes por su tremendo pronóstico: «Lo que los palestinos están viviendo hoy en día en Cisjordania podría ser simplemente un burdo anticipo de lo que miles de millones de personas acabarán por experimentar en todo el planeta».
Me sorprendió esa cita de Harari, a quien considero un pensador mediocre bastante previsible. El mundo actual es tan extremo que hasta él acierta a veces. Lo que Harari, miembro de la comunidad tecnológica de los elegidos, no podía prever es que la cultura israelí tuviera que enviar a la más espantosa «edad de piedra» a millones de personas que en Gaza y en Cisjordania se oponen a nuestro modelo supremacista de humanidad, a su consiguiente apartheid. La separación se arma fácilmente de tecnología y viceversa, la tecnología facilita la separación. Es la pesadilla de un bucle perfecto de seguridad. Creo que sólo se puede romper si una cultura desarrolla una espiritualidad tan baja como alta sea su eficacia técnica. Desgraciadamente, en las democracias del capitalismo occidental, esa alta indefinición parece condenada a ser el culto de lujo de algunas minorías.
9. Dices que «la mentalidad tecnológica vive bajo el supuesto imperativo de ganar tiempo… ». Retomo la pregunta que tú mismo te haces: ¿para qué quieren que ganemos tiempo?
No soportamos el tiempo real, la finitud que se coagula en los espacios. Nuestra obsesión es la cronología –Time is gold– porque el tiempo, acelerado y contabilizado, es la manera de adelgazar el espacio y conseguir que la vida real no pese, logrando escenarios virtuales donde no pueda ocurrir nada imprevisto. Pero esta ilusión numérica está basada en una ficción, en la retirada a una burbuja. De hecho, nuestro mal humor proviene del rencor por todo lo que, en aras de una seguridad ficticia, no hemos dejado que ocurriera entre nosotros. Fijémonos en que el cero, base de nuestra ideología binaria, ni siquiera existe: es sólo una convención, una abstracción operativa. La «nada» no existe, ni la oscuridad ni el silencio absolutos. Siempre hay algo, rumores que crepitan mezclando opuestos. Emulando un viejo refrán, diría que no hay más vacío que el que arde. Ese es nuestro gran temor, a la vez infantil y senil. Mientras no lo superemos, nuestras herramientas tecnológicas tenderán a convertirse en una promesa que es tóxica. Su ideal de seguridad nos separa de los otros y de nosotros mismos, pues desactiva el umbral donde cuerpos y mentes se encuentran. La IA no es criticable tanto por sus defectos circunstanciales como por una voluntad de limpieza y perfección que es inmisericorde en este mundo sangriento.
Presentación del libro Antropofobia (de Ignacio Castro Rey),
por Juan Manuel de Prada y el autor
Entradas
.jpg)
0 comments :
Publicar un comentario