El pasado 25 de agosto, Santiago Oría, director de Realización Audiovisual de la Presidencia, publicó un mensaje en la red social X. Poco después, varias cuentas comenzaron a responderle con mensajes de apoyo. Hasta ahí, nada fuera de lo habitual.
Lo llamativo fue que algunas de esas respuestas aparecieron con instrucciones que normalmente deberían quedar ocultas. En lugar de publicar solamente el mensaje, ciertas cuentas dejaron visibles etiquetas como “Reply11”, “Reply8” o “Reply2”. Por ejemplo, una respuesta apareció como: “Reply11: Terrible lo de los kirchneristas”. Ese “Reply11” no formaba parte del mensaje dirigido a los usuarios. Era una marca propia de un sistema de automatización que, por error, terminó publicada junto con el texto.
Varios medios de Argentina reconstruyeron el episodio y señalaron que muchas de esas cuentas mostraban patrones compatibles con una amplificación automatizada. Algunas publicaban habitualmente en inglés, otras difundían contenidos sobre criptomonedas y varias declaraban ubicaciones fuera de Argentina.
El episodio no permite determinar por sí solo quién controlaba esas cuentas ni quién ordenó su funcionamiento. Pero sí dejó visible algo que normalmente permanece oculto: una conversación en redes puede parecer espontánea y, al mismo tiempo, estar siendo amplificada por cuentas automatizadas. Ahí aparece la pregunta científica que atraviesa esta historia: cuando cientos o miles de usuarios parecen estar diciendo lo mismo al mismo tiempo, ¿estamos frente a una reacción genuina o ante una multitud digital fabricada?
Una multitud que puede no existir
Un bot social es, básicamente, una cuenta automatizada capaz de realizar algunas de las mismas acciones que una persona: publicar, responder, compartir contenido, seguir usuarios o establecer conexiones. Un bot solo probablemente no cambie el mundo. Diez mil actuando juntos pueden hacer bastante ruido.
Las llamadas granjas de bots utilizan conjuntos de cuentas para amplificar determinados mensajes, impulsar hashtags, aumentar interacciones o hacer que una posición parezca más extendida de lo que realmente está. Y ahí está uno de los puntos centrales del asunto.
No siempre hace falta convencer a una multitud. A veces alcanza con fabricar la sensación de que la multitud ya está convencida. En las redes sociales, los números funcionan como una señal. Una publicación con siete comentarios puede pasar inadvertida. Otra con 15 mil respuestas parece importante. La miramos porque otros supuestamente ya la miraron. Después llegan personas reales, reaccionan, discuten y comparten. La maquinaria consiguió lo que buscaba: poner el tema delante de ojos humanos.
La dimensión del fenómeno es difícil de percibir mientras se hace scroll. La Agencia de Noticias Científicas de la Universidad Nacional de Quilmes, analizó uno de los mayores estudios comparativos realizados sobre bots y humanos. Los investigadores estudiaron cerca de 5.000 millones de publicaciones de unos 200 millones de usuarios, correspondientes a conversaciones alrededor de siete grandes acontecimientos.
Según la clasificación utilizada, alrededor del 20 por ciento de la actividad analizada correspondía a bots y el 80 por ciento a humanos. El dato no significa que una de cada cinco cuentas de cualquier red social sea falsa, sino que esa fue la proporción encontrada dentro del enorme conjunto estudiado.
Los investigadores también encontraron diferencias. Los bots tendían a utilizar estructuras más fáciles de automatizar, como una mayor cantidad de hashtags. Las personas mostraban, en cambio, interacciones conversacionales más complejas. Dicho de otra manera: las máquinas dejaban huellas. Y durante años ese fue justamente el punto débil.
El bot tradicional podía publicar muchísimo, pero no necesariamente bien. Repetía frases. Contestaba cualquier cosa. Se activaba a horarios improbables. Copiaba exactamente el mismo mensaje desde distintas cuentas. O se olvidaba un “Reply” delante de la respuesta.
La inteligencia artificial generativa está empezando a cambiar ese escenario. Un modelo de lenguaje puede recibir una consigna y fabricar cien respuestas distintas. Puede variar palabras, utilizar ironía, mostrarse indignado, introducir errores, adoptar tonos diferentes y responder de acuerdo con lo que escribió otro usuario. El salto es importante. La automatización ya no permite solamente fabricar mensajes. Ahora permite fabricar personajes.
Una conversación completamente inventada
La Agencia también accedió a un experimento publicado recientemente, que muestra hasta dónde puede llegar esa capacidad. Investigadores de universidades europeas tomaron conversaciones reales de Reddit y les pidieron a dos grandes modelos de lenguaje —GPT-4o y Llama 3 70B— que generaran discusiones artificiales sobre los mismos temas. No un comentario. Conversaciones enteras entre supuestos usuarios.
Después se las mostraron a personas y les pidieron que distinguieran cuáles habían sido escritas por humanos y cuáles por inteligencia artificial. El resultado merece atención: las conversaciones creadas íntegramente por IA fueron confundidas con conversaciones humanas el 39 por ciento de las veces.
Con las generadas por Llama 3, los participantes lograron reconocer que se trataba de inteligencia artificial apenas en el 56 por ciento de los casos. Eso cambia bastante la imagen clásica de una granja de bots. Ya no hace falta imaginar cientos de celulares alineados en una habitación publicando la misma consigna.
Una operación futura podría crear a “Juan”, furioso; “Laura”, moderada; “Pedro”, que aporta un supuesto dato; y “Carolina”, que discute con los tres. Distintas personalidades. Distintos tonos. Distintas posiciones. Con un pequeño inconveniente: ninguno existe.
La técnica de fabricar apoyo popular tiene incluso un nombre bastante gráfico: astroturfing. En Estados Unidos se utiliza la expresión grassroots para describir movimientos surgidos espontáneamente desde la sociedad. AstroTurf es, en cambio, una marca de césped artificial. La metáfora es perfecta. Parece pasto. Parece crecer desde abajo. Pero es plástico.
Una campaña de astroturfing intenta producir justamente eso: la apariencia de que existe un movimiento espontáneo cuando parte de esa actividad fue organizada o fabricada. Las redes sociales ofrecen un terreno extraordinario para hacerlo porque todos vemos cantidades: seguidores, comentarios, reproducciones, compartidos, tendencias. El problema es confundir volumen con consenso. Mil mensajes no necesariamente significan mil personas.
¿Se puede descubrir una granja de bots?
No mirando una sola cuenta. Una persona puede publicar muchísimo, puede tener pocos seguidores, puede repetir consignas. Incluso puede comportarse de manera bastante robótica sin necesitar ayuda de ningún robot. Por eso los investigadores combinan múltiples señales: horarios y frecuencia de publicación, antigüedad de las cuentas, lenguaje utilizado, velocidad de difusión, vínculos entre perfiles y, sobre todo, coordinación.
Cada vez resulta más importante observar la red completa. No solamente qué dice una cuenta, sino cómo actúan muchas cuentas juntas. El problema es que la carrera tecnológica ocurre de los dos lados. Hay inteligencia artificial para generar contenido. Inteligencia artificial para detectar automatizaciones. Y sistemas cada vez mejores para intentar esquivar esos detectores.
El episodio argentino tuvo una ventaja: el error fue visible. Algo que debía permanecer detrás de escena terminó delante del público. La próxima generación probablemente no sea tan generosa. Los sistemas actuales ya pueden generar conversaciones variadas, sostener personajes diferentes y producir intercambios que un ser humano puede confundir con discusiones auténticas.
Con todo, la pregunta que plantea la inteligencia artificial va más allá de descubrir una foto falsa o detectar un texto escrito por una máquina. La próxima vez que una red social muestre a miles de personas indignadas, entusiasmadas o repitiendo una misma idea, habrá que preguntarse no solamente qué están diciendo. Habrá que hacerse otra pregunta: ¿cuántas de esas personas existen realmente?
Últimas noticias de la sección Tecnología:
Camaleones ideológicos: un estudio revela que los chatbots adaptan su postura política a la de los usuarios
Las máquinas ya baten récords de atletas en la segunda competencia de robots humanoides en China
Cruzada del sur, el videojuego que recrea la campaña libertadora de San Martín
Qué esconde el proyecto “Edward Warchocki”, el robot humanoide que es popular en las redes sociales
La Torre Eiffel derrumbada: Google Earth elimina una función para crear imágenes con IA
El desarrollo global de reactores modulares está en auge: ¿qué pasará con Argentina?
China prohibió las relaciones afectivas entre usuarios menores de edad y la IA: ¿qué implica esta medida?
