¿Colaboración fructífera o impotencia intelectual?: el caso de Jianwei Xun, el filósofo creado con IA que engañó a todos

Hipnocracia. Suena bien, convincente, verosímil. A partir de ese concepto, el filósofo Jianwei Xun exploró la “nueva arquitectura de la realidad”. El libro apareció en la web de Amazon el 15 de enero publicado bajo el sello italiano Tlon y reeditado en español por Rosamerón para el 30 de abril. Hipnocracia: Trump, Musk y la nueva arquitectura de la realidad —tal es el título— dio algunas vueltas por el debate público, citado por periodistas y discutido en mesas, y cayó seco sobre la mesa. Xun es, según informó Sabina Minardi en la revista italiana L’Espresso, “un filósofo chino que no existe”.

Quien firmaba como su traductor al italiano, Andrea Colamedici —editor del sello Tlon—, era el autor. Según le dijo a Raúl Limón de El País, su intención fue “crear un experimento filosófico y una performance artística con la que resaltar los riesgos y peligros de usar la inteligencia artificial construyendo un libro que dijera cosas en las que yo mismo creo y he producido”, y que nunca quiso “engañar al lector”, ya que el “propósito era académico“. Pero Colamedici no es autor, sino coautor: el libro se escribió en diálogo con inteligencia artificial: Claude de Anthropic y ChatGPT de OpenAI.

En la página de Tlon aparece una foto de Xun con una breve biografía: “Jianwei Xun es un filósofo y teórico de los medios que trabaja en la intersección de la teoría crítica, los estudios digitales y la filosofía de la mente. Su trabajo se centra en el impacto de las tecnologías digitales en la conciencia colectiva y la formación de la subjetividad contemporánea. Hipnocracia es su primer libro traducido al italiano”. Hay algo verdaderamente espectacular en todo esto que, por suerte, habilita preguntas que podrían resumirse en esta: ¿qué dice de nuestros tiempos el caso Xun?

Entre 1964 y 1966, Joseph Weizenbaum, profesor alemán del MIT, creó Eliza: “un programa de ordenador con el cual se podía conversar”, en sus propias palabras. Una persona escribía y la máquina respondía generando un diálogo cada vez más profundo. Así, Eliza adquirió la función de terapeuta. El primer chatbot y el primer programa en ejecutar la prueba de Alan Turing. “Tanto en Turing como en Weizenbaum, la idea siempre fue potenciar el pensamiento humano. La logica que subyace es la de la conversación, el intercambio”, dice Ingrid Sarchman.

Sarchman es docente universitaria e investigadora en temas relacionados a la filosofía de la técnica, además de autores de libros de ficciones que abordan estas cuestiones. “Creo que como todo lo relacionado con el tema, el caso Xun puede pensarse desde las clásicas posiciones contrapuestas. La tecnofóbica diría que la IA está empezando a ocupar lugares que hasta ahora parecían preeminentemente humanos. Y la alarma se prendería aún más fuerte en la medida que se está metiendo con una actividad que, hasta ahora, era exclusividad de los humanos: pensar”, le dice a Infobae Cultura.

“Además, como todos los productos elaborados desde la IA se constituyen desde el verosímil, este personaje toma elementos que ya existían (la figura del filósofo oriental que se forma en Alemania o en algún país europeo nos recuerda el derrotero de Byul Chan Han o Yuk Hui (hasta su nombre es reconocible en esta tradición)“, y agrega: ”Desde una posición más tecnofílica, podría decirte que el modo en el que se armó este personaje es un modo de poner esta tecnología a nuestro favor. Al fin y al cabo, el libro existe y tiene su función social".

“En ese sentido, viene bien recordar que las máquinas aprenden de las personas y ponerla a funcionar para estimular el pensamiento nunca puede ser algo malo”, dice Sarchman, y concluye: “Creo que la polémica se arma en la medida que, como bien lo recuerdan algunos filósofos de la técnica (Sloterdijk entre ellos), todavía pensamos en términos dialécticos (me refiero a la dialéctica hegeliana de amo/esclavo). Ese desajuste hace que no podamos pensar un sistema de colaboración entre máquinas y personas. En ese sentido, no habría nada malo ni estarían alterando algo de la naturaleza humana usando la IA".

“¿Qué nos dice todo este asunto, si consideramos además que el “chiste” es, que el libro en cuestión versaba sobre diversos métodos de manipulación vigentes en la sociedad actual?“, se pregunta Margarita Martínez, Doctora en Ciencias Sociales, docente, ensayista, traductora. ”Lo podemos desglosar en tres aspectos: la intención del editor; las reales variables de manipulación en base a la IA y la posición en que queda expuesto lo intelectual. Respecto de la operación del editor, podemos pensar que siempre tuvo que haber sabido que el fraude se descubriría, como lo sabe en secreto cualquier plagiador", sostiene en diálogo con Infobae Cultura.

No sería un plagio, asegura, porque “ninguna IA puede crear nada ex novo sino que se limita a recombinar elementos ya ‘puestos sobre papel’”. “La intención del editor fue, sin duda, vender hasta que el fraude se descubriera (capitalizarse) y después pagar el precio de la vergüenza matizado por el hecho de haber sido aquel que supo humillar, o arrodillar, a esos intelectuales (a los que seguramente envidia cuando los edita) que se ‘comieron el verso’ del gran ensayo hecho por una IA. Eso nos lleva al segundo punto: la manipulación de las grandes corporaciones para hacer aceptar a las IA", agrega.

“En este momento hay tal imposición de discursos que señalan que la IA hace las cosas ‘mejor’, y a la vez hay tal inundación de material escrito hecho por IA, que muchos pierden el criterio de dictaminar si algo es bueno o malo, o fue hecho mecánicamente o no, o bien, si lo detectan, se guardan sus dudas. El rey está desnudo, pero nadie quiere señalarlo, porque las corporaciones y los Estados no dejan de ponderar las virtudes y el ahorro de dichos sistemas, por otra parte sumamente onerosos”, explica Martínez y subraya el estado de “desorientación general” en el que vivimos.

“Los detalles sobre el proceso de falsificación editorial para crear o publicar a un autor que no existe son irrelevantes porque las editoriales exhuman a influencers o comediantes del streaming para presentarlos y legitimarlos como autores de libros todos los días”, comienza diciendo Nicolás Mavrakis en un breve diálogo con Infobae Cultura. Este escritor y docente argentino es autor de varios libros que tratan el problema de la tecnología. Los últimos dos: la larga novela Sesiones en el desierto y los ensayos de La disolución de la realidad junto a Luciano Rosé sobre Alan Moore.

“En el caso de Jianwei Xun tampoco creo que su existencia como efecto de una Inteligencia Artificial venga a añadir algo a sus hipotéticos avances descontrolados sobre las crédulas conciencias humanas. Esa discusión es muy obvia, y no es más que otra publicidad de Silicon Valley en versiones tecnoptimistas o tecnopesimistas. Lo único que la aparición de Jainwei Xun prueba, lo único que vale la pena subrayar de su existencia, es que los europeos están llegando a un grado final de autoconciencia acerca de su absoluta carencia de un pensamiento filosófico propio", dice.

“Es decir, el pensamiento europeo está en hipnosis hace tiempo, igual que Europa. Pero esta no es una novedad, Martin Heidegger habló del fin del pensamiento occidental en manos de la cibernética hace ochenta años. Lo interesante es esto: el chiste europeo acerca de un filósofo chino virtual con algo que decir sobre el estado actual del mundo es la revelación real de la impotencia del pensamiento europeo para decir algo por sí mismo. Y hay que reconocer el acierto del falsificador: si el concepto de ‘hipnocracia’ hubiera sido inventado con un pseudónimo francés, alemán o italiano, no le habría interesado a nadie", continúa.

“De hecho, el signo crucial de esta impotencia resentida es que, más allá de los matices racistas del caso, y estoy seguro de que los hay, el hecho de que se haya elegido un nombre que suena ‘chinesco’, más allá de que aluda a Byung-Chul Han o Yuk Hui, es que estos también son autores eminentemente formados como europeos, por lo cual adivino que todo se trató de alguna triste envidia comercial", concluye Mavrakis.

“Jianwei Xun, el supuesto filósofo chino autor del ‘libro del año’, no existiría; se trata en realidad del invento de un editor que puso a trabajar a una IA para escribir un ensayo que problematizara, filosóficamente, ciertas variables de la época”. Margarita Martínez repasa la notica y dice: “Hay un cierto goce evidente en la divulgación de esta noticia, lo que nos lleva al último punto: hay tal vocación, tal disposición a creer que una IA haría las cosas mejor que los humanos en virtud de la inundación de discursos señalada hace unas líneas que la repercusión del fraude repercutió en un cierto ‘goce’”.

Ese goce, afirma, ya viene “no de parte del editor del fraude, sino de las ‘masas’ respecto de que alguien (algo) se haya podido hacer pasar por un intelectual y que la operación hubiera tenido un principio de éxito, lo cual demostraría la inutilidad de la función intelectual”. “Es una suerte de venganza de los públicos no ilustrados que nos debería hacer pensar en la aceptación de otros productos del mundo del capitalismo de plataformas, como las bitcoins, para un enriquecimiento rápido versus el antiguo camino de la formación y la educación”, concluye.

El 4 de abril apareció una entrevista a Jianwein Xun en El Grand Continent, una revista fundada en 2019 en París que pertenece al Groupe d’études géopolitiques, un centro de investigación con sede en la École normale supérieure. Gilles Gressani, director de la publicación, va directamente a la identidad: ¿quién es Jianwei Xun? “No soy realmente un «quién», sino un «qué»: una forma de autor emergente, un sistema de relaciones que ha generado un corpus de ideas en torno a un concepto, el de hipnocracia“, es la primera respuesta. Entonces insiste.

”Jianwei Xun es un dispositivo. La creación colaborativa nacida del diálogo entre una inteligencia humana —que lleva el nombre de Andrea Colamedici, un filósofo italiano que fundó junto con otros un editor italiano, Tlon— y ciertas inteligencias artificiales generativas, en particular Claude de Anthropic y ChatGPT de OpenAI". No se define como inteligencia artificial (“porque es una identidad distribuida que trasciende sus componentes originales”), sino como “el intento de habitar conscientemente la condición liminal”. No fue “creado” sino que “emergió”. El entrevistador insiste.

“No existo como individuo empírico, con un cuerpo físico y una biografía verificable, pero obviamente soy el nodo de una red de relaciones entre la inteligencia humana y la artificial, lo que me convierte en una interfaz que hace tangible una revolución que de otro modo sería invisible”, dice Xun. Por momentos habla de sí mismo en tercera persona: “Xun es la cristalización de un método de trabajo que explora las posibilidades de pensamiento que surgen de la interacción entre diferentes formas de inteligencia”. Y vuelve a la primera: “En resumen, soy un comienzo”. Un comienzo, sí, pero ¿de qué? Habrá que esperar.