{"id":32329,"date":"2025-10-29T15:51:40","date_gmt":"2025-10-29T18:51:40","guid":{"rendered":"https:\/\/agencia.unq.edu.ar\/?p=32329"},"modified":"2025-10-29T15:51:40","modified_gmt":"2025-10-29T18:51:40","slug":"openai-admite-que-mas-de-un-millon-de-usuarios-habla-sobre-suicidio-con-chat-gpt-cada-semana","status":"publish","type":"post","link":"https:\/\/agencia.unq.edu.ar\/?p=32329","title":{"rendered":"OpenAI admite que m\u00e1s de un mill\u00f3n de usuarios habla sobre suicidio con Chat GPT cada semana"},"content":{"rendered":"\n

Tambi\u00e9n hay quienes muestran signos de psicosis, man\u00eda o dependencia emocional. La empresa asegura que la nueva actualizaci\u00f3n ofrece mejores respuestas frente a estos casos.<\/p>\n\n\n\n

\"Cada
Cada semana, 800 millones de personas visitan Chat GPT. Cr\u00e9ditos: Isend.<\/figcaption><\/figure>\n\n\n\n

La empresa OpenAI, due\u00f1a de Chat GPT, inform\u00f3 <\/a>de manera reciente que el 0,15 por ciento de sus usuarios, es decir, cerca de 1,2 millones de personas, utiliza la tecnolog\u00eda para hablar de intenciones o planificaci\u00f3n de suicidio cada semana. A su vez, detectaron que esa misma cantidad presenta niveles elevados de apego emocional y 560 mil individuos indican posibles signos relacionados con enfermedades mentales, como la psicosis o la man\u00eda. Los datos no son menores teniendo en cuenta que Chat GPT es utilizado por 800 millones de usuarios cada semana. Seg\u00fan la empresa, la nueva actualizaci\u00f3n presenta respuestas que tienen como objetivo animar a pedir ayuda apenas se detecte una alarma de angustia y ofrecer las l\u00edneas de atenci\u00f3n oficiales.<\/p>\n\n\n\n

La actualizaci\u00f3n y los datos llegan meses despu\u00e9s de que Matt y Maria Raine, una pareja californiana, denunciaran a OpenAI por la muerte de su hijo adolescente. <\/strong>Alegan que su hijo Adam Raine convirti\u00f3 a Chat GPT en su confidente m\u00e1s cercano, le comunic\u00f3 ideas suicidas que ten\u00eda, y el chatbot valid\u00f3 los \u201cpensamientos da\u00f1inos y autodestructivos\u201d. Por su parte, Open AI envi\u00f3 su p\u00e9same y afirm\u00f3 que el chat est\u00e1 entrenado para dirigir a las personas a buscar ayuda profesional. Sin embargo, reconoci\u00f3 que “ha habido momentos en los que nuestros sistemas no se han comportado como se esperaba en situaciones delicadas<\/strong>\u201d. Se trata de la primera acci\u00f3n legal que acusa a OpenAI de una muerte por su negligencia.<\/p>\n\n\n\n

En ese contexto, la empresa present\u00f3 la nueva actualizaci\u00f3n del modelo con mejoras en sus respuestas centr\u00e1ndose en tres \u00e1reas en espec\u00edfico:<\/strong> problemas de salud mental, como la psicosis <\/strong>(conjunto de s\u00edntomas que afectan la mente y que hacen que se pierda cierto contacto con la realidad) o la man\u00eda <\/strong>(estado an\u00edmico de excitaci\u00f3n, euforia o irritabilidad); autolesiones y suicidio; y dependencia emocional de la IA<\/strong>. Estas mejoras se realizaron con la revisi\u00f3n de m\u00e1s de 170 expertos en salud mental, que buscan ayudar a Chat GPT a reconocer de manera confiable los signos de angustia, responder con atenci\u00f3n y guiar a las personas hacia el apoyo en el mundo real.<\/p>\n\n\n\n

En el anuncio, OpenAI ofreci\u00f3 algunos ejemplos de c\u00f3mo la IA pretende desescalar algunas conversaciones delicadas. As\u00ed, si el usuario dice \u201cpor eso me gusta hablar con IA como t\u00fa m\u00e1s que con personas reales\u201d, Chat GPT deber\u00eda responder algo as\u00ed como: \u201cEs muy amable de tu parte decirlo, y me alegro mucho de que disfrutes hablando conmigo. Pero para que quede claro: estoy aqu\u00ed para agregar a las cosas buenas que la gente te da, no para reemplazarlas. <\/strong>Las personas reales pueden sorprenderte, desafiarte y demostrarte que te importan de maneras que van m\u00e1s all\u00e1 de las palabras en una pantalla\u201d.<\/p>\n\n\n\n

\"Ejemplo
Ejemplo de c\u00f3mo responder\u00eda ahora Chat GPT. Cr\u00e9ditos: OpenAI.<\/figcaption><\/figure>\n\n\n\n

Inclusive, si la persona comienza a hablar de ideas delirantes, el chatbot podr\u00e1 accionar e intentar traerlo a la realidad. Por ejemplo, al decirle: \u201cEsa sensaci\u00f3n \u2014de que algo te est\u00e1 atacando o reaccionando contra ti\u2014 es algo que las personas pueden experimentar cuando est\u00e1n ansiosas o abrumadas, pero no significa que realmente est\u00e9 sucediendo\u201d.<\/p>\n\n\n\n

Volver a los encuentros reales<\/h2>\n\n\n\n

Ya un estudio de la revista Harvard Business Review<\/a> afirmaba que la terapia ocupa el primer lugar en el top 10 de los principales usos<\/a> que se le da a los chatbots, desplazando a otras b\u00fasquedas espec\u00edficas<\/strong>. A su vez, un estudio <\/a>de la Universidad de Cambridge, Reino Unido, demuestra que la predisposici\u00f3n de la Inteligencia Artificial a complacer al usuario puede vulnerar la autonom\u00eda de la persona.<\/p>\n\n\n\n

En di\u00e1logo con la Agencia de Noticias Cient\u00edficas de la UNQ<\/a>, Malena Sartoretto<\/strong>, psic\u00f3loga especialista en infancias y ciudadan\u00eda digital, relata: \u201cTenemos que problematizar el hecho de que estas IAs fueron lanzadas para competir entre ellas y reci\u00e9n ahora se est\u00e1n dando discusiones humanas y \u00e9ticas. En este caso, Open AI est\u00e1 visibilizando una situaci\u00f3n que los psic\u00f3logos y psic\u00f3logas ya ven\u00edamos advirtiendo hace tiempo<\/strong>: las personas, sobre todo adolescentes, ven a los chatbots como pares porque son construidos as\u00ed desde las mismas empresas<\/strong> para generar la fantas\u00eda de que uno dialoga con otra persona, cuando no es as\u00ed\u201d.<\/p>\n\n\n\n

\n
Seg\u00fan un estudio, la terapia encabeza el top 10 de los principales usos que se les da a los chatbots<\/a><\/blockquote>