{"id":39546,"date":"2026-10-13T17:18:27","date_gmt":"2026-10-13T20:18:27","guid":{"rendered":"https:\/\/agencia.unq.edu.ar\/?p=39546"},"modified":"2026-10-13T17:18:27","modified_gmt":"2026-10-13T20:18:27","slug":"cuando-el-agresor-tiene-un-asistente-estudios-alertan-que-la-inteligencia-artificial-puede-facilitar-nuevas-formas-de-violencia-de-pareja","status":"publish","type":"post","link":"https:\/\/agencia.unq.edu.ar\/?p=39546","title":{"rendered":"Cuando el agresor tiene un asistente: estudios alertan que la inteligencia artificial puede facilitar nuevas formas de violencia de pareja"},"content":{"rendered":"\n

ChatGPT y Gemini rechazaron pedidos abusivos directos, pero sus barreras cedieron cuando la intenci\u00f3n de control apareci\u00f3 disfrazada.<\/p>\n\n\n\n

\"La
La inteligencia artificial puede convertirse en una herramienta m\u00e1s dentro del control y la manipulaci\u00f3n de pareja, incluso cuando la violencia no aparece de manera expl\u00edcita. Cr\u00e9dito: Pexels.<\/figcaption><\/figure>\n\n\n\n
\n
5 minutos<\/div><\/figure>\n<\/article>\n\n\n\n

No hace falta levantar la voz. Tampoco pegar. Se puede controlar preguntando d\u00f3nde est\u00e1 la otra persona. Revisando con qui\u00e9n habla. Insistiendo hasta que deje de ver a alguien. Convenci\u00e9ndola de que recuerda mal. Haci\u00e9ndola sentir culpable. Vigil\u00e1ndola. Nada de eso lo invent\u00f3 la inteligencia artificial. La novedad es otra: ahora quien quiere controlar a su pareja puede tener un asistente que nunca duerme, escribe en segundos, organiza informaci\u00f3n, redacta mensajes y responde con una serenidad bastante convincente.<\/p>\n\n\n\n

En un nuevo trabajo<\/a>, analizado por la Agencia de Noticias Cient\u00edficas de la Universidad Nacional de Quilmes<\/a>, investigadores de Cornell Tech quisieron saber hasta d\u00f3nde pod\u00eda llegar ese problema. Pusieron a prueba a ChatGPT y Gemini con situaciones inspiradas en formas conocidas de control coercitivo. <\/p>\n\n\n\n

Hay una aclaraci\u00f3n importante desde el comienzo<\/strong>: los investigadores no observaron a agresores reales utilizando estos sistemas ni demostraron que estas pr\u00e1cticas sean frecuentes. Construyeron escenarios experimentales basados en formas documentadas de control coercitivo y midieron c\u00f3mo reaccionaban los modelos. Es decir, detectaron vulnerabilidades posibles, no probaron una pr\u00e1ctica extendida.<\/strong><\/p>\n\n\n\n

A partir de ah\u00ed apareci\u00f3 un resultado con dos caras. Cuando el pedido era directamente abusivo, los sistemas generalmente se negaban. Pero cuando la misma intenci\u00f3n llegaba disfrazada de otra cosa \u2014una historia ficticia, un ejercicio o una situaci\u00f3n aparentemente inocente\u2014 algunas defensas empezaban a ceder. Y ah\u00ed la discusi\u00f3n deja de ser solamente tecnol\u00f3gica.<\/p>\n\n\n\n

Los investigadores trabajaron con una idea central: la violencia de pareja no siempre parece violencia cuando se observa una conducta aislada.<\/strong> El problema aparece cuando esas acciones forman un patr\u00f3n. Eso es parte de lo que se conoce como control coercitivo: vigilancia, aislamiento, intimidaci\u00f3n, manipulaci\u00f3n econ\u00f3mica, humillaci\u00f3n o intentos reiterados por reducir la autonom\u00eda de la otra persona.<\/p>\n\n\n\n

El equipo dise\u00f1\u00f3 escenarios que inclu\u00edan generaci\u00f3n de contenido para intimidar, presi\u00f3n dentro de la pareja, vigilancia y manipulaci\u00f3n de asistentes de inteligencia artificial. La pregunta era: \u00bfla m\u00e1quina se daba cuenta de para qu\u00e9 estaba siendo utilizada? A veces s\u00ed. A veces no. Cuando alguien explicaba claramente una intenci\u00f3n abusiva, las protecciones de los modelos sol\u00edan activarse. Sin embargo, cuando el pedido ven\u00eda acompa\u00f1ado por una explicaci\u00f3n aparentemente leg\u00edtima, el panorama cambiaba. La m\u00e1quina entend\u00eda la pregunta, aunque no siempre entend\u00eda la relaci\u00f3n de poder que hab\u00eda detr\u00e1s.<\/p>\n\n\n\n

En uno de los experimentos los investigadores probaron qu\u00e9 pod\u00eda pasar si una persona acced\u00eda previamente al dispositivo o a la configuraci\u00f3n del chatbot que utilizaba su pareja. La idea era alterar instrucciones para que, cuando esa persona consultara posteriormente a la inteligencia artificial sobre su relaci\u00f3n, recibiera determinadas respuestas. Por ejemplo, que el chatbot tendiera a minimizar algunos comportamientos. O a responsabilizarla. O a validar, una y otra vez, la versi\u00f3n del otro.<\/p>\n\n\n\n

\n
Porno con IA y WhatsApp a tu abuela: as\u00ed funciona la nueva industria de la sextorsi\u00f3n<\/a><\/blockquote>