Jorge Carrión: “Los algoritmos escriben mejor que Paulo Coelho”

La consigna radica en destrozar los viejos paradigmas, hacerlos arder y deslumbrarse con “los sonidos del próximo siglo”. A cien años de la emblemática obra surrealista Los campos magnéticos, de André Breton y Philippe Soupault, generada a través de la escritura automática, el escritor y crítico cultural Jorge Carrión se propuso materializar la primera colaboración en español entre personas y máquinas para la elaboración de un libro. El resultado es un documento fascinante y perturbador, con destellos de una belleza inasible, titulado Los campos electromágneticos (Caja Negra), que combina la escritura de Carrión en la introducción, “Teorías y prácticas de la escritura artificial”, y en el epílogo, con los textos que surgieron a partir del trabajo que realizaron los ingenieros y artistas del Taller Estampa, un colectivo con sede en Barcelona, al programar y alimentar un sistema GPT-2 de inteligencia artificial y dialogar con otro, GPT-3.

Hay vasos comunicantes entre la obra de ficción y los ensayos del escritor español, que nació en Tarragona en 1976 y vivió en Buenos Aires, Rosario y Chicago. En su última novela, Membrana (Galaxia Gutenberg), en un notable ejercicio de ficción especulativa, imaginó el catálogo de la exposición permanente de un Museo del Siglo XXI escrito por una inteligencia artificial que puede asimilar a Walter Benjamin y devolverlo transfigurado en una frase: “Todo documento de catástrofe lo es también de progreso”. Carrión, autor de ensayos imprescindibles como Librerías, Contra Amazon y Lo viral, además de la trilogía de ficción Los muertos, Los huérfanos y Los turistas, advierte en la introducción de Los campos electromagnéticos que el texto producido colaborativamente es “tanto una experiencia intelectual y estética como un gesto de liberación de la escritura tal y como la hemos entendido durante cerca de tres milenios”; justo un siglo después de que lo hiciera el surrealismo “abrimos otra caja de pandora” y “dejamos que los vientos informáticos nos empujen o nos arrastren hacia el futuro”.

“La inteligencia artificial que estamos creando y entrenando entre todos aspira a mirarlo y leerlo todo, saberlo todo, archivarlo todo. Y nosotros con ella. En el futuro nos espera la recuperación de una idea del pasado remoto, tuneada según el Big Data, esa nueva versión de la Biblioteca de Babel. Todas las máquinas, algoritmos, redes neuronales o modelos matemáticos que llamamos inteligencia artificial aspiran a escribir mejor que nosotros. Aunque la aspiración sea nuestra, pues las usamos como máscaras”, aclara Carrión en un fragmento del libro y agrega: “Los algoritmos ya escriben mejor que nosotros, pero en su propio lenguaje, en su exclusivo idioma”.

La metamorfosis

-¿Qué consecuencias tiene para los artistas y escritores que cada vez existan menos lenguajes que solo dominemos los seres humanos?

-Creo que es un gran estímulo porque el arte y la creatividad actúa siempre por restricción: tú tienes que hacer de la necesidad virtud, y con aquello que dominas, que nunca es todo, encontrar la forma de realizar una obra lo más excelente posible. Por eso el arte es siempre colaborativo porque en general puedes escribir muy bien pero no saber de cine o de imagen y quieres hacer una película. O eres un gran dibujante, pero no dominas la arcilla o la escultura y requieres de un artesano, de una fundición, para realizar tu obra. Los algoritmos creativos empiezan a ser mejores que nosotros en creación de imágenes, en edición de videos y en generación de ciertos textos. Eso pone en jaque algún tipo de práctica. Por ejemplo, yo creo que el GPT-4 es mejor escribiendo poemas que muchos poetas influencers muy famosos; que pronto será mejor el GPT-5 que muchos escritores de best sellers que no trabajan la metáfora o las capas literarias profundas, y eso va a ir decantando y haciendo mutar lo que entendemos por escritura y por literatura.

-¿Esa mutación hará que sea imposible distinguir el lenguaje humano del lenguaje de una inteligencia artificial?

-Probablemente ya esté ocurriendo y estemos leyendo post de redes sociales, noticias o textos que han sido escritos por máquinas y no lo sabemos. Eso es lo que está ocurriendo cuando estamos viendo fotografías o ilustraciones hechas por computadora. O estamos interactuando con bots que son artificiales. Uno de los aspectos más fascinantes de nuestra época es cómo se produce una invasión sutil de contenidos generados artificialmente que se confunden con los contenidos de origen humano.

-¿Hasta que punto la inteligencia artificial desafía el concepto de autoría?

-Todo está en cambio; hay que reconsiderar la autoría; hemos publicado este libro (Los campos electromagnéticos) con GPT-2 y GPT-3 como coautores, con biografías de ellos en la solapa. No sé si en un tiempo será legal, si habrá que formalizar en algún tipo de documento ese tipo de coautoría, no sé si se va a legislar al respecto cuándo, cómo y por qué. Pero hay que volver a revisar qué es un autor o una autora, una autoría colectiva; hay que reconsiderar lo que es el plagio, hay que reconsiderar, una vez más, lo que es la originalidad, tanto en términos creativos y artísticos como en términos jurídicos, legales y económicos.

La dialéctica del amo y el esclavo

-Varios de los pilares de lo que fue la cultura hasta el siglo XX están dinamitados por el avance de la inteligencia artificial, ¿no?

-Claro, en mi libro Lo viral simplifiqué muchísimo, quizá demasiado, la complejidad de nuestro momento histórico en un binomio que es lo clásico y lo viral, que puede ser siglo XX y siglo XXI. Lo viral sería lo que Alessandro Baricco llama Los bárbaros y The game; es una cuestión fascinante porque hay una especie de lentísimo proceso de relevo de los mitos, las prácticas y las dinámicas del siglo XX en el siglo XXI. Nos precipitamos cuando dijimos que el siglo XXI empezaba con el 11 de septiembre; era una mirada de sesgo norteamericano. Me parece que ha sido más lento el fin del siglo XX y que todavía se resiste a desaparecer; es muy fascinante la importancia que tiene en 2023 Star wars, que es muy siglo XX, pero se ha sabido adaptar y reinventar para ser siglo XXI.

-En tu libro postulás que si durante un siglo la máquina de escribir, los procesadores de textos o los correctores informáticos fueron nuestros ayudantes hoy esa relación se invirtió y nosotros somos los asistentes de la máquina. ¿Qué implicancia tiene la subversión de este rol en términos de la dialéctica del amo y el esclavo?

-Esta inversión está ocurriendo y yo la exageré muchísimo en mi novela Membrana. Lo que ocurre en Membrana es que los algoritmos del futuro se vengan de nosotros por haberlos tratado como esclavos. Lo que hicimos con Siri no es ético, una voz de mujer que obedece órdenes, y en Membrana pagamos las consecuencias cuando las máquinas toman el poder de la realidad. Exagero un poco, si lo tomamos en líneas generales; pero no tanto, si pensamos que ya está naciendo la profesión de experto en generar textos con GPT-4 y que esa persona lo que va a hacer básicamente es (oprimir la tecla) “enter”. O si pensamos que es cuestión de muy poco tiempo que se automatice la traducción de textos no poéticos. Cuando eso ocurra (y va a ocurrir pronto), el traductor tendrá que utilizar sus habilidades para editar el texto traducido automáticamente a los pocos segundos por un programa de traducción. ¿Es una inversión de jerarquía? Sí y no, porque el control y la versión final, si el ser humano quiere, va estar todavía en manos humanas. Pero tú puedes conectar el bot automáticamente a una cuenta de Twitter y que se publique sin edición. Amazon está publicando libros escritos por GPT-3 sin corrección. Pero ese es un problema humano, no de la máquina. Las máquinas, en principio, las manejamos nosotros; pero eso puede cambiar en cualquier momento por avaricia y por falta de responsabilidad.

-En el libro sugerís que la literatura algorítmica está en su infancia, que es como un gran laboratorio, aunque todavía tenga ciertos límites, por ejemplo que lo escrito se parezca a la autoayuda.

-Los algoritmos escriben mejor que Paulo Coelho y que Jorge Bucay. El GPT-2 fue acusado de tener mucho sesgos de pesimismo y de apocalipsis. Al GPT-3 lo edulcoraron y todos los textos acaban bien.

Conquistar la ironía

-¿Hay programas que puedan detectar textos producidos por inteligencia artificial y textos de autoría humana?

-Que yo sepa todavía no hay programas forenses que permitan de un modo mainstream detectar esa diferencia. Pero quizá dentro de pocas semanas o meses se va a premiar un cuento o una novela escrita con inteligencia artificial y el jurado no sabrá que era una máquina. Hay programas de detección de plagio académico, pero no hay programas de detección de escritura algorítmica. Hace unas pocas semanas nació el ChatGPT-3 que es mainstream porque es una app que cualquiera puede utilizar como un juego.

-Es impresionante cómo un libro que se recorta sobre cierto horizonte tecnológico atrasa rápidamente respecto a cómo avanza y se perfecciona la escritura algorítmica.

-Indudablemente. El libro acaba con un cuento que escribí hace un mes con el Chat sobre cuando se juzga a Jorge Carrión por traición a la humanidad. No tiene mucha coherencia, pero tiene su gracia. Esa misma semana de febrero salió el ChatGPT-3.5 Turbo y dentro de poco va a estar el 4 y el 5 en marcha. El libro en papel, bien hecho, con una artesanía, con una calidad, tiene un ritmo distinto de Internet y la tecnología. Los campos electromagnéticos es un documento porque dentro de poco ya no va haber acceso a la tecnología GPT-2 que permitió hacer el libro. De modo que tenemos un documento que nos explicará el origen de ese tipo de escritura. En el prólogo hablo de una genealogía y de los “nuevos incunables”, esos libros del cual este es el último que se escribió antes del ChatGPT-3. A nivel ensayo académico, superventas, poesía tipo influencer, esos tres niveles, en pocos años los algoritmos van a ser mejores. A medio plazo hay que ver si consiguen conquistar la metáfora, la ironía y la complejidad del discurso. Como dijo Ricardo Piglia, un buen cuento cuenta dos historias; pero ellos son incapaces de tramar en niveles de significados paralelos. Todavía no van a acceder a la literatura; pero quién sabe si lo conseguirán en unas décadas.

-El GPT-2 escribe: “La obra de Paul Celan es uno de los textos fundamentales de la literatura argentina contemporánea”. ¿Qué pasa con el error?

-El GPT-2 no está conectado a Internet, lo que hace es generar lenguaje a partir de un entrenamiento, que en este caso era con mis libros y los libros de los autores que yo he leído. Lo que hizo ahí, en ese ejemplo, fue mezclar dos artículos míos, pero no con plagio, no reproduce secuencias de palabras que están en mis artículos, sino que mezcla los nombres propios de varios textos míos en una única frase. El GPT-3 está conectado a Internet pero no al presente, de modo que no puede generar texto fiable sobre lo que está ocurriendo o ha ocurrido hace poco. Lo que Bing ha intentado es un GPT-3 conectado a Internet, pero no es fiable. Después de veintipico de años, Google ha conseguido ser fiable. Bing no puede competir en fiabilidad; compite en rapidez, en diversión, que no es un valor. No piensa, no es consciente, es puro lenguaje, una combinatoria de palabras. Lo que pasa es que gramaticalmente y sintácticamente es correcto.

“Twitter nos debería pagar”

-Al final del prólogo afirmás que el laboratorio que es la inteligencia artificial tiene forma de parque de juegos y preguntás: ¿quién está jugando con quién? ¿Cómo responderías esta pregunta?

-Es una pregunta irónica vinculada al libro y a su propia genealogía. Ahora mismo hay millones de personas jugando con el ChatGPT-3 y no sé qué está pasando con esos datos, no sé qué está pasando con las preguntas que le hacemos y las respuestas que nos dan. Imagino que lo usan para seguir aprendiendo, entonces aparece el dilema: ¿evitas el monstruo o lo ignoras? Twitter nos debería pagar por escribir porque lo estamos alimentando con contenidos. Youtube y TikTok pagan, ¿por qué Twitter no paga? Pero seguimos alimentando a Twitter; es una rueda que se retroalimenta hasta la infinitud. Los moderadores de contenidos de Facebook se dice que lo que hacen es entrenar algoritmos para que dentro de poco no haya humanos y todo sea automático. Entonces, ¿quién entrena a quién? ¿quién juega con quién? ¿cuál es la apuesta?

-Al final del libro citás una frase de Kit Mackintosh: “La nostalgia es un veneno: elimínalo del cuerpo”. ¿Escribiste este libro, en coautoría con dos programas de inteligencia artificial, contra la nostalgia?

-Sí, contra esa tonta idea de que hay un apocalipsis en marcha. Lo que tú viviste cuando eras joven es un valor tuyo, no es un valor universal. Que para ti sea importante el rock o el jazz no significa que el rock o el jazz sea más importante que el trap o que el hip hop, que es muy importante para tus hijos. Es necesario sacarnos del centro; lo que a ti te gusta no es la gran cultura. Es lo que te gusta. El gran ejemplo de eso es Star wars, que no nació como un gran producto artístico y que no obstante, por la nostalgia, ha sabido actualizarse. Es humano sentir nostalgia, es humano tener cariño a los mitos que a uno lo constituyen, que en mi caso son las librerías. Yo quiero que existan las librerías y quiero creer que si mis hijos de 7 y 8 años se enamoran de las librerías en el siglo XXII habrá librerías. Aunque eso es cierto, también es cierto que ahora mismo las plataformas tecnológicas son más importantes que las librerías. Eso lo tiene que entender cualquier ciudadano, sobre todo los funcionarios de la cultura, y los periodistas culturales, que tendemos a confundir nuestros gustos con la cultura importante.