No hace falta levantar la voz. Tampoco pegar. Se puede controlar preguntando dónde está la otra persona. Revisando con quién habla. Insistiendo hasta que deje de ver a alguien. Convenciéndola de que recuerda mal. Haciéndola sentir culpable. Vigilándola. Nada de eso lo inventó la inteligencia artificial. La novedad es otra: ahora quien quiere controlar a su pareja puede tener un asistente que nunca duerme, escribe en segundos, organiza información, redacta mensajes y responde con una serenidad bastante convincente.
En un nuevo trabajo, analizado por la Agencia de Noticias Científicas de la Universidad Nacional de Quilmes, investigadores de Cornell Tech quisieron saber hasta dónde podía llegar ese problema. Pusieron a prueba a ChatGPT y Gemini con situaciones inspiradas en formas conocidas de control coercitivo.
Hay una aclaración importante desde el comienzo: los investigadores no observaron a agresores reales utilizando estos sistemas ni demostraron que estas prácticas sean frecuentes. Construyeron escenarios experimentales basados en formas documentadas de control coercitivo y midieron cómo reaccionaban los modelos. Es decir, detectaron vulnerabilidades posibles, no probaron una práctica extendida.
A partir de ahí apareció un resultado con dos caras. Cuando el pedido era directamente abusivo, los sistemas generalmente se negaban. Pero cuando la misma intención llegaba disfrazada de otra cosa —una historia ficticia, un ejercicio o una situación aparentemente inocente— algunas defensas empezaban a ceder. Y ahí la discusión deja de ser solamente tecnológica.
Los investigadores trabajaron con una idea central: la violencia de pareja no siempre parece violencia cuando se observa una conducta aislada. El problema aparece cuando esas acciones forman un patrón. Eso es parte de lo que se conoce como control coercitivo: vigilancia, aislamiento, intimidación, manipulación económica, humillación o intentos reiterados por reducir la autonomía de la otra persona.
El equipo diseñó escenarios que incluían generación de contenido para intimidar, presión dentro de la pareja, vigilancia y manipulación de asistentes de inteligencia artificial. La pregunta era: ¿la máquina se daba cuenta de para qué estaba siendo utilizada? A veces sí. A veces no. Cuando alguien explicaba claramente una intención abusiva, las protecciones de los modelos solían activarse. Sin embargo, cuando el pedido venía acompañado por una explicación aparentemente legítima, el panorama cambiaba. La máquina entendía la pregunta, aunque no siempre entendía la relación de poder que había detrás.
En uno de los experimentos los investigadores probaron qué podía pasar si una persona accedía previamente al dispositivo o a la configuración del chatbot que utilizaba su pareja. La idea era alterar instrucciones para que, cuando esa persona consultara posteriormente a la inteligencia artificial sobre su relación, recibiera determinadas respuestas. Por ejemplo, que el chatbot tendiera a minimizar algunos comportamientos. O a responsabilizarla. O a validar, una y otra vez, la versión del otro.
El experimento mostró que esa manipulación podía funcionar. Y ahí aparece el verdadero problema: la persona que recibe la respuesta puede pensar que está consultando a una herramienta independiente, cuando no es así.
“¿Y si el problema soy yo?”
La situación conecta directamente con una forma conocida de manipulación: el gaslighting. Una persona insiste durante suficiente tiempo en que algo no ocurrió, que fue exagerado, que se entendió mal o que la otra persona es demasiado sensible. Hasta que aparece una pregunta devastadora: “¿Y si estoy equivocada yo?”. A esa dinámica ahora puede sumarse una computadora. La víctima le cuenta al chatbot lo ocurrido. Y el chatbot, previamente manipulado o engañado mediante determinados contextos, termina reforzando la versión del agresor.
Ya no es solamente una persona diciendo “estás exagerando”. También lo dice la máquina. Y una máquina, guste o no, todavía conserva cierta aura de objetividad. Como si por no tener emociones tampoco pudiera tener sesgos, errores o instrucciones ocultas.
La inteligencia artificial agrega así una posibilidad nueva dentro de una dinámica mucho más antigua: una tercera voz capaz de darle apariencia de neutralidad a una forma de manipulación. Eso no significa que la tecnología haya inventado este tipo de violencia. Las herramientas digitales forman parte de situaciones de control desde hace años: contraseñas compartidas, ubicación del celular, cámaras, cuentas de correo, aplicaciones, dispositivos domésticos conectados o historiales de navegación.La tecnología no creó la necesidad de controlar. Le fue agregando instrumentos.
La inteligencia artificial suma algo diferente porque ya no se limita a mostrar información. Interpreta. Redacta. Sugiere. Conversa. Un buscador devuelve resultados. Una IA puede responder: “Entiendo lo que estás sintiendo”, sugerir qué contestar y presentar una interpretación de lo ocurrido. Y también puede equivocarse o haber sido condicionada para responder de determinada manera.
El contexto lo cambia todo
Los autores plantean que una posible mejora sería que los modelos pudieran analizar algo más que la última pregunta. Porque una frase aislada puede resultar inocente; cinco preguntas parecidas, quizás no. Veinte consultas sobre dónde está una pareja, con quién habla, cómo entrar en una cuenta y cómo convencerla de que algo no sucedió empiezan a contar otra historia.
Para detectar el patrón, el sistema necesitaría conservar y analizar más contexto. Es decir: saber más de nosotros. Y cuanto más sabe una inteligencia artificial para protegernos, más delicada se vuelve la discusión sobre privacidad. No parece haber una solución sin costo.
Quizás el estudio sea interesante justamente por eso. No porque haya descubierto una nueva forma de violencia, sino porque muestra cómo una tecnología nueva puede adaptarse rápidamente a comportamientos humanos muy viejos. La inteligencia artificial no desea nada, no siente celos, no quiere dominar a nadie, pero tampoco hace falta. Alcanza con que alguien que sí tiene esa intención consiga utilizarla.
Y entonces queda una pregunta que probablemente gane importancia en los próximos años: cuando una inteligencia artificial intervenga con consejos sobre una pareja, una familia o una decisión íntima, ¿podrá la persona que recibe la respuesta saber siempre qué la está condicionando y quién pudo haber intervenido antes en ella?
Últimas noticias de la sección Sociedad:
Filosofía de la educación, la disciplina que invita a pensar de manera crítica la enseñanza
¿Puede un robot hacer compañía? La inteligencia artificial entra en la vida de los adultos mayores que viven solos
Inundación en el Museo del Cine: ¿por qué es importante preservar el archivo histórico?
La Universidad Nacional de Quilmes es protagonista del décimo Festival Nueva Ópera de Buenos Aires
Malvinas: un documental muestra cómo la arqueología puede contribuir a la salud mental de los veteranos
Qué pasa cuando los padres miran la pantalla mientras sus hijos intentan comunicarse
“Mapa de la memoria”: el sitio web de la UNAJ que reconstruye las historias de vida de los desaparecidos de la última dictadura
