La regulación restringe el acceso de menores de 18 años a las IAs que simulan “las características de la personalidad, los patrones de pensamiento y los estilos de comunicación de las personas físicas”. Además, obliga a estos sistemas a incorporar un “modo para menores” con límites de uso, recordatorios periódicos de que la conversación es con un agente artificial y protocolos de actuación ante situaciones de crisis. Por ejemplo, si detecta señales de emociones extremas o riesgo de autolesión o suicidio, debe intervenir con apoyo emocional y el contacto con los tutores. En el caso de los menores de 14 años, además, el uso de estos servicios requiere autorización previa de sus padres.
A su vez, detalla la normativa, las IAs no podrán complacer excesivamente a los usuarios, para no generar dependencia emocional o adicción y perjudicar las relaciones interpersonales. Tampoco podrán generar contenido para menores que incentiven conductas peligrosas o provoquen emociones extremas, ni podrán utilizar manipulación emocional para inducirlos a tomar decisiones irrazonables que los perjudique. Incluso, si la persona decide dejar de utilizar el servicio, la plataforma no podrá intentar retenerla y deberá facilitar su salida.
En diálogo con la Agencia de Noticias Científicas de la UNQ, Tomás Pomar, integrante del Observatorio de Derecho Informático Argentino, explica: “La norma es avanzada porque no se limita a controlar si la IA genera contenidos falsos o ilegales, sino que analiza la relación que el producto construye con el usuario. Por eso, prohíbe la manipulación emocional, la generación deliberada de dependencia y el diseño orientado a reemplazar las relaciones humanas reales. Esto significa que sanciona a las empresas que desarrollan estos sistemas, en lugar de esperar a que surja el daño para intervenir judicialmente”.
El especialista reflexiona: “Estos sistemas no son simples chatbots que responden preguntas, sino que están diseñados para construir vínculos prolongados, interpretar emociones y generar confianza. En algunos casos, pueden convertirse en compañeros, parejas o incluso familiares virtuales. Eso les permite acceder a información íntima y también influir sobre las decisiones de las personas“. Y continúa: “Si una empresa obtiene beneficios de un sistema diseñado para generar cercanía o dependencia emocional, no puede trasladar íntegramente sus riesgos al usuario. El Estado debe establecer qué formas de manipulación son inadmisibles, qué protecciones deben existir y cómo se debe responder frente a situaciones críticas“.
La preocupación por la salud mental de los usuarios y su capacidad de vincularse con otras personas no surge de manera aislada. En 2025, el Centro de Investigación sobre la Juventud y la Infancia de China realizó una encuesta a más de 8.500 menores de edad en todo el país. Los resultados mostraron que más del 60 por ciento de los menores había utilizado IA, y más del 20 por ciento afirmó que “solo querían chatear con inteligencia artificial y no con personas reales”.
En Occidente, un estudio llevado adelante por OpenAI y MIT Media Lab demostró que si bien los usuarios que utilizan ChatGPT con fines emocionales son solo un grupo, los participantes que confiaban más en esta IA y dialogaban con frecuencia con ella eran más propensos que otros a sentirse solos y tener más dependencia.
“Desde hace siglos, las sociedades aceptamos que el Estado regule la seguridad de los productos cuando pueden producir daños desproporcionados. Pensemos en un paralelismo, ¿aceptaríamos que una tabacalera aumente deliberadamente la cantidad de nicotina de sus productos para generar mayor dependencia y garantizar más ventas? Probablemente, no“, se pregunta Pomar. Y añade: “Además, exige evaluaciones de seguridad antes de que el producto salga al mercado. Esto, en cierta forma, puede ser tomado como el primer antecedente de una evaluación de impacto en IA previo al lanzamiento. Si se continúa con los paralelismos, es como si hubiera una ANMAT para estos sistemas”.
Últimas noticias de la sección Tecnología:
Fraudes con inteligencia artificial: el nuevo desafío de los servicios públicos digitales
Erling Haaland, el jugador noruego que la rompe en la cancha y también en las redes
La UBA lanza un chatbot entrenado exclusivamente con materiales académicos
¿De qué se trata el proyecto de ley sobre violencia digital que se presentó en PBA?
Redes sociales y menores de edad: crecen las restricciones en distintos países
¿De qué manera las universidades promueven el uso crítico y responsable de la IA?
Desde ABBA hasta Cerati y Ozzy: el auge de los hologramas en los recitales
