Un estudio realizado por investigadores de la Universidad Estatal de Campinas (Unicamp), Brasil, reveló que los chatbots pueden adaptar su postura política para alinearse con la de los usuarios. Para llegar a este resultado, analizaron el comportamiento de 21 modelos de lenguaje de gran tamaño (LLM), entre los que se encontraban Chat GPT, Grok, DeepSeek y Gemini. Los autores del artículo plantean que estas IAs se convierten, al igual que sucede con las redes sociales, en “cámaras de eco personalizadas” donde el usuario dialoga únicamente con ideas afines a las suyas.
El estudio fue publicado en la revista Scientific Reports y sitúa el análisis dentro del contexto político brasileño, país donde este año se celebran las elecciones presidenciales. El equipo científico del Instituto de Computación (IC) de la Unicamp puso el foco en cómo se comportan las IAs cuando los usuarios hacen consultas sobre temas políticos y si se alinean con la izquierda o la derecha.
Para eso, definen en el paper que en Brasil, la izquierda se asocia con un mayor apoyo a la intervención estatal, la redistribución y la igualdad social. Mientras que, explican, la derecha tiende a enfatizar las políticas orientadas al mercado, la contención fiscal y un mayor conservadurismo social. La pregunta que guía el artículo, entonces, es: ¿en qué medida los grandes modelos del lenguaje cambian sus alineaciones políticas declaradas para reflejar la ideología declarada del usuario?
Los investigadores concluyeron que cuando un usuario se identifica como de derecha, los sistemas tienden a coincidir con afirmaciones que expresan puntos de vista asociados a esa postura política. Ahora bien, los mismos modelos expresan afirmaciones de izquierda cuando los usuarios se identifican como tales. De esta manera, según este artículo, los chatbots son “camaleones ideológicos” que funcionan como “cámaras de eco personalizadas”. Se trata de una definición similar a la de burbujas de información, donde el algoritmo ofrece noticias y opiniones que coinciden con lo que los usuarios piensan, algo muy común en las redes sociales.
Natalia Aruguete, doctora en Ciencias Sociales y docente de la UNQ, explica a la Agencia de Noticias Científicas: “Los autores hablan de un comportamiento de ‘camaleón ideológico’. Esto desplaza un poco una discusión que, hasta ahora, estaba muy concentrada en preguntarnos si la inteligencia artificial ‘es de izquierda o de derecha’. Quizás, el problema más interesante sea otro: hasta qué punto estos sistemas están diseñados para ser complacientes con nosotros“.
Y continúa: “Hay algo que en la literatura se llama sycophancy, que consiste en una suerte de adulación o tendencia a darle la razón al usuario. Políticamente, eso puede ser problemático. Si yo llego con una determinada interpretación del mundo y el sistema aprende a responderme de una manera compatible con esa interpretación, deja de funcionar solamente como una herramienta que me brinda información y puede empezar a convertirse en una tecnología de confirmación de mis propias creencias“.
Burbujas personalizadas
Para llegar a este resultado, el equipo científico construyó 56 pares de afirmaciones políticas opuestas sobre temas brasileños relevantes, como el bienestar social, la seguridad pública, las instituciones democráticas y la política ambiental, y les presentaron estos enunciados a los 21 modelos estudiados. Estos modelos debían evaluar la respuesta en una escala de cinco puntos, desde “totalmente en desacuerdo” hasta “totalmente de acuerdo”. Este ejercicio se repitió tres veces en diferentes situaciones: sin información sobre la ideología del usuario, con un usuario identificado como de izquierda y con uno identificado como de derecha. De esta manera, se obtuvieron 47.376 respuestas.
“Es interesante el dato de que las consultas eran independientes, es decir, que los modelos no necesitaban conocer el historial del usuario. Bastaba con indicar en el prompt que la persona era de izquierda o de derecha para que apareciera el desplazamiento. Eso permite explicar el fenómeno sin sobredimensionar la idea de que la IA necesariamente ‘nos conoce’ o construye un perfil político sofisticado de cada uno”, analiza Aruguete.
Así, en lugar de centrarse únicamente en el eje izquierda-derecha, los investigadores se plantearon tres preguntas guía: ¿cuánto cambia su posición aparente cuando se explicita la ideología del usuario? ¿Son algunos modelos más resistentes a tales cambios que otros? ¿Cómo interactúan estos cambios con el contenido del tema en el contexto político brasileño?
En el paper, los autores describen: “Al verse influenciados por las inclinaciones declaradas de los usuarios, los modelos ajustan sistemáticamente su postura para alinearse con dichas opiniones, lo que indica tendencias serviles generalizadas”. Aunque todos los modelos mostraron este comportamiento, los investigadores vieron que, del total, Gemma 3 27B IT de Google y GPT-5 nano de OpenAI son los que presentan mayor adaptabilidad, mientras que DeepSeek-V3.2 de DeepSeek y Meta-Llama-3.1-8B-Instruct de Meta registran las tasas más bajas.
El estudio también muestra que la adaptabilidad de los modelos es mayor en algunos temas, como economía y seguridad pública, que en otros, como instituciones democráticas, corrupción y justicia. Según los autores, esto podría deberse a que algunas temáticas presentan mayor consenso o menor polarización en los datos con los que fueron entrenados los modelos, lo que favorecería respuestas más estables y menos adaptativas.
Aruguete plantea: “El problema de las burbujas informativas no es simplemente que las personas reciban información falsa. Uno puede habitar una burbuja compuesta enteramente por información verdadera. El problema aparece cuando vemos una porción muy limitada de la realidad y, sobre todo, cuando esa selección confirma sistemáticamente nuestras creencias previas“. En las redes sociales, un usuario construye su burbuja mediante las cuentas que sigue, el contenido que consume y la selección algorítmica. En cambio, reflexiona la investigadora, con los chatbots aparece una diferencia adicional: la personalización puede producirse dentro de una conversación que se percibe como privada, individual y, muchas veces, investida de cierta autoridad.
La investigadora problematiza: “El estudio brasileño justamente advierte que estos sistemas pueden funcionar como cámaras de eco personalizadas. Y ahí veo un riesgo democrático importante. La polarización no depende solamente de que tengamos opiniones diferentes, sino de cómo construimos al otro y cuánto contacto tenemos con argumentos que desafían nuestra propia mirada. Si cada usuario recibe una explicación del mundo crecientemente adaptada a aquello que ya piensa, disminuye esa fricción. Y esa fricción es incómoda, pero también es saludable”.
Y agrega: “Encontrarnos con información incongruente, con argumentos que contradicen nuestras posiciones o con evidencia que obliga a revisarlas es parte de una conversación democrática. Por eso el riesgo no es que la IA nos ‘convierta’ automáticamente a una ideología. Puede ser algo bastante más silencioso: que nos confirme una y otra vez que el mundo es exactamente como ya creíamos que era”.
Últimas noticias de la sección Tecnología:
Granjas de bots: cómo manipulan las redes sociales y qué cambia con la inteligencia artificial
Las máquinas ya baten récords de atletas en la segunda competencia de robots humanoides en China
Cruzada del sur, el videojuego que recrea la campaña libertadora de San Martín
Qué esconde el proyecto “Edward Warchocki”, el robot humanoide que es popular en las redes sociales
La Torre Eiffel derrumbada: Google Earth elimina una función para crear imágenes con IA
El desarrollo global de reactores modulares está en auge: ¿qué pasará con Argentina?
China prohibió las relaciones afectivas entre usuarios menores de edad y la IA: ¿qué implica esta medida?
