El autor del libro “Hipnocracia” no existe: ¿qué debates se despiertan con el uso de la IA en la escritura?

Un ensayista utilizó las inteligencias artificiales de Chat GPT y Claude para reflexionar sobre las formas de manipulación en la era digital. Propiedad intelectual, autenticidad y regulaciones.

"Más que un simple seudónimo o personaje ficticio, Xun representa una nueva forma de autoría distribuida e inteligencia emergente", apunta el sitio web de Xun. Créditos: Diario Necochea.
“Más que un simple seudónimo o personaje ficticio, Xun representa una nueva forma de autoría distribuida e inteligencia emergente”, apunta el sitio web de Xun. Créditos: Diario Necochea.

En enero, un supuesto autor chino llamado Jianwei Xun lanzó “Hipnocracia. Trump, Musk y la nueva arquitectura de la realidad”, un libro que detalla las nuevas formas de manipulación que se dan en la era digital. Intelectuales y medios periodísticos lo citaban y se apropiaban del término, editoriales buscaban traducirlo para sus países. El revuelo fue tal que se lo llegó a considerar como uno de los libros del año. No obstante, de manera reciente la redactora del diario italiano L’Espresso, Sabina Minardi, descubrió que Xun no existía, que el nombre era ficticio y que por detrás de la teoría de la hipnocracia se encontraba el editor y ensayista italiano Andrea Colamedici –quien figura como traductor de la obra– y el uso de dos inteligencias artificiales (IA): Chat GPT y Claude.

La historia fue así: cuando la periodista Minardi leyó el libro, buscó entrevistar a Xun pero este sólo le daba las respuestas por correo electrónico. Seguido a esto, se propuso contactar al editor ya que notaba que había párrafos u oraciones desordenados o enredados. Entre autores citados que le llamaban la atención, cruce de búsquedas, verificación de información y demás se encontró con que Xun no existía y que el libro es una demostración práctica de lo que plantea, es decir, de aquellos mecanismos que hipnotizan a las personas y las manipulan.

En diálogo con la periodista, el verdadero autor Andrea Colamedici relató que lo que hizo fue un experimento: “Me interesaba una performance narrativa con la que construir la misma realidad que el libro analizaba teóricamente: crear un ecosistema narrativo que permitiera a la gente poner a prueba de inmediato los conceptos que leía”. Así, Colamedici es el creador de la teoría de la hipnocracia, una reflexión que nace de él, pero que la profundiza, la debate y la razona con dos inteligencias artificiales: Chat GPT y Claude. En sus términos, se trata de una co-creación.

Ante la pregunta del diario L’Espresso sobre quién es el autor del libro, él explica: “No es posible decir con claridad quién escribió qué: he elaborado un camino en varios pasos a partir de las palabras. Mi reflexión comenzó con un análisis de Nadia Urbinati (politóloga ítalo-estadounidense) en el diario Domani que decía: Trump está catalizando algo nuevo, pero todavía no tenemos un nombre para ello. Lo pensé; junto con la plataforma de IA Claude construí la palabra y un proyecto, otro proyecto lo construí en ChatGPT. Los puse en diálogo entre sí y desarrollé una modalidad de co-creación con inteligencia artificial”.

Portada del diario L'Espresso que reveló la identidad de Xun. Créditos: La Vanguardia.

Seguido a esto, Colamedici plantea que los fines de este experimento eran académicos y que su intención era ver cómo se puede utilizar una inteligencia artificial de manera consciente y con fines positivos. “El trabajo no era copiar el pensamiento de alguien, sino ver cómo podía co-crear con otra entidad que me pusiera en posición de no ser perezoso, sino de querer profundizar”, afirma.

Mucho texto, poca regulación

El ensayista logra poner sobre la mesa numerosos debates, como por ejemplo, ¿le quita valor al “libro del año” que haya sido coescrito con inteligencias artificiales? ¿Afecta esto a la propiedad intelectual? ¿Estamos ante un tipo de autor emergente con una identidad mixta? Con la aparición de la IA y su irrupción en el mundo editorial, artístico y mediático, aparecen interrogantes que, por ahora, no tienen más que esbozos de respuestas sobre cómo manejarla.

Alejandro Dujovne, doctor en Ciencias Sociales e investigador del Conicet y de la Escuela Interdisciplinaria de Altos Estudios Sociales de la Universidad Nacional de San Martín (UNSAM), manifiesta ante la Agencia de Noticias Científicas de la UNQ que la sociedad atraviesa un momento salvaje de inteligencia artificial al no tener casi regulaciones, salvo casos como la Unión Europea (UE). “Hay que analizar este hecho desde múltiples dimensiones. El término ‘hipnocracia’ que plantea el filósofo falso tuvo eficacia y tal vez retrata lo que está pasando en esta época. En ese sentido, más allá de cómo se originó, la obra toma valor”.

Jianwei Xun. Créditos: jianweixun.com/
Jianwei Xun. Créditos: jianweixun.com/

Ahora bien, el también director del Centro de Estudios y Políticas Públicas del Libro de la UNSAM declara que hay que dar la discusión sobre si es necesario que figure que un libro fue desarrollado por o en conjunto con inteligencias artificiales porque eso hace que la obra tenga mayor o menor autenticidad. “Hay una sensación de que necesitamos que se reconozca el origen de las cosas y que en eso esté la inteligencia humana metida”, afirma. 

En este sentido, la editorial Rosameron que editará el libro Hipnocracia en español advirtió que su versión incluirá una explicación de cómo y por qué se ha creado la obra y la identidad mixta que se esconde tras el nombre que figura como autor. Algo que va en línea con la regulación de la UE sobre advertir cuando algo está hecho con IA. 

“Inclusive, hay que pensar en términos de propiedad intelectual y derechos de autor. Las inteligencias artificiales toman información de numerosos autores que están en internet. ¿Hubo un reconocimiento moral o material para ellos o están siendo robados? Las IAs tienen estos grises que hay que debatirlos y regularlos”, sentencia Dujovne. Y continúa: “Cada uno hace más o menos lo que quiere con herramientas que no reconocen dónde sacan la información y no sabemos cómo apreciar, cómo apropiarnos o cómo citar. Es un momento de pura experimentación”. 

Las respuestas a estas etapas de pruebas se encontrarán probablemente con regulaciones. En Argentina, gremios de ilustradores, artistas y editoriales trabajan en poder crear políticas al respecto. De la misma manera, el Centro de Estudios y Políticas Públicas del Libro, dependiente de la Universidad Nacional de San Martín, y la Unesco están elaborando una encuesta sobre usos y representaciones de la IA generativa en el ecosistema del libro iberoamericano y que pronto saldrá a la luz.


¿Te gustó esta noticia? ¡Compartila!
Scroll al inicio