{"id":30572,"date":"2025-07-30T14:54:44","date_gmt":"2025-07-30T17:54:44","guid":{"rendered":"https:\/\/agencia.unq.edu.ar\/?p=30572"},"modified":"2025-07-30T15:35:56","modified_gmt":"2025-07-30T18:35:56","slug":"los-chatbots-tienen-mucha-confianza-en-si-mismos-y-no-son-conscientes-de-sus-errores","status":"publish","type":"post","link":"https:\/\/agencia.unq.edu.ar\/?p=30572","title":{"rendered":"Los chatbots tienen mucha confianza en s\u00ed mismos"},"content":{"rendered":"\n

Un estudio apunta a que las tecnolog\u00edas, como Chat GPT y Gemini no son conscientes de sus errores. La opini\u00f3n de una especialista local. <\/p>\n\n\n\n

\"Una
Cr\u00e9ditos: El D\u00eda de Gualeguaych\u00fa.<\/figcaption><\/figure>\n\n\n\n

Seg\u00fan un estudio <\/a>llevado adelante por investigadores de la Universidad Carnegie Mellon de Estados Unidos, los chatbots gozan de mucha confianza en s\u00ed mismos, incluso cuando se equivocan. A trav\u00e9s de distintas pruebas, como predecir los resultados de partidos de la National Football League o de los Premios Oscar, el equipo cient\u00edfico compar\u00f3 las respuestas y la autoconfianza de participantes humanos y de cuatro grandes modelos de lenguaje: Chat GPT, Gemini, Sonnet y Haiku. Notaron que, a diferencia de las personas, los chatbots no son conscientes de sus errores. As\u00ed, apuntan a que el estudio sirva como base para desarrollar la capacidad de reflexi\u00f3n de estas herramientas sobre s\u00ed mismas.<\/p>\n\n\n\n

Cada vez es m\u00e1s com\u00fan que los usuarios utilicen los chatbots para hacerles preguntas sobre una amplia cantidad de temas o que desarrollen relaciones afectivas. En este sentido, los investigadores indagaron si estas herramientas nuevas tiene la capacidad de la metacognici\u00f3n, es decir, de reflexionar y comprender sus propios procesos de pensamiento y aprendizaje<\/strong>; algo que s\u00ed tienen los humanos. Para eso, el equipo cient\u00edfico compar\u00f3 la autoconfianza de personas con Chat GPT, Gemini, Sonnet y Haiku <\/strong>al hacerles distintas pruebas. Por ejemplo, predecir los resultados de la National Football League y de los Premios Oscar, responder preguntas de trivia y sobre la vida en la universidad, o jugar a un juego de identificaci\u00f3n de im\u00e1genes similar al Pictionary.<\/p>\n\n\n\n

De esta manera, notaron que tanto las personas como los chatbots tienen una alta autoconfianza, pero s\u00f3lo los humanos pudieron ajustar sus expectativas cuando se les pregunt\u00f3 en retrospectiva c\u00f3mo cre\u00edan que les hab\u00eda ido en las pruebas<\/strong>. Incluso, los autores aclaran que la investigaci\u00f3n recopil\u00f3 datos durante dos a\u00f1os con distintas versiones actualizadas de los chatbots y en todas se detect\u00f3 una confianza en s\u00ed mismos muy alta.<\/p>\n\n\n\n

Esta debilidad que detecta el estudio var\u00eda seg\u00fan cada modelo. Por ejemplo, Sonnet tendi\u00f3 a ser menos confiado que los dem\u00e1s<\/strong>. Asimismo, Chat GPT-4 tuvo un rendimiento similar al de los participantes humanos en la prueba del Pictionary, identificando con precisi\u00f3n 12,5 im\u00e1genes dibujadas a mano de 20<\/strong>, mientras que Gemini solo pudo identificar 0,93 bocetos, en promedio.<\/p>\n\n\n\n

En este sentido, Natalia Corval\u00e1n<\/strong>, especialista en Educaci\u00f3n y Nuevas Tecnolog\u00edas de la Universidad Nacional de Hurlingham, explica a la Agencia de Noticias Cient\u00edficas de la UNQ<\/a>: \u201cLos grandes modelos de lenguaje pueden responder con seguridad incluso cuando se equivocan, inventan, \u2018alucinan\u2019 fuentes, o mezclan datos reales con falsos, porque est\u00e1n dise\u00f1ados para generar texto plausible en base a patrones ling\u00fc\u00edsticos<\/strong>, y no para ofrecer informaci\u00f3n verificada. Este funcionamiento, sumado a la falta de transparencia y su autoconfianza, nos exige una postura m\u00e1s cr\u00edtica\u201d.<\/p>\n\n\n\n

Sin introspecci\u00f3n <\/h2>\n\n\n\n

Adem\u00e1s, en el estudio, Gemini predijo que obtendr\u00eda un promedio de 10,03 bocetos correctos, e incluso despu\u00e9s de responder correctamente menos de 1 de 20 preguntas, la IA estim\u00f3 retrospectivamente que hab\u00eda respondido 14,40 correctamente,<\/strong> lo que demuestra su falta de autoconciencia. \u201cGemini era simplemente p\u00e9simo jugando al Pictionary. Pero peor a\u00fan, no sab\u00eda que era malo en el Pictionary.<\/strong> Es como ese amigo que jura que es muy bueno jugando al billar, pero nunca acierta un tiro\u201d, dijo Trent Cash<\/strong>, autor principal del estudio, a la Universidad Carnegie Mellon<\/a>.<\/p>\n\n\n\n

En cuanto a los humanos<\/strong>, Cash afirm\u00f3: \u201cSupongamos que nos dijeron que iban a acertar 18 preguntas y finalmente acertaron 15, despu\u00e9s corrigieron su estimaci\u00f3n a unas 16 respuestas correctas.<\/strong> As\u00ed que a\u00fan estaban un poco confiados, pero no tanto\u201d. \u201cTodav\u00eda no sabemos exactamente c\u00f3mo la IA calcula su confianza, pero parece no realizar introspecci\u00f3n, al menos no h\u00e1bilmente\u201d<\/strong>, dijo Danny Oppenheimer<\/strong>, coautor del estudio. As\u00ed, los investigadores se\u00f1alan que, si se los entrena, los chatbots pueden desarrollar una mejor comprensi\u00f3n de sus propias habilidades en conjuntos de datos mucho m\u00e1s grandes.<\/p>\n\n\n\n

Adem\u00e1s, Clash reflexion\u00f3: \u201cMe parece interesante que los grandes modelos de lenguaje a menudo no aprendan de su propio comportamiento. Y quiz\u00e1s ah\u00ed haya una historia human\u00edstica que contar. Quiz\u00e1s simplemente haya algo especial en la forma en que los humanos aprenden y se comunican<\/strong>\u201d.<\/p>\n\n\n\n

Leer con ojos cr\u00edticos<\/h2>\n\n\n\n

Corvalan dirige su atenci\u00f3n no solo a qu\u00e9 se le pregunta a la IA, sino a c\u00f3mo las personas se vinculan con ella: \u201c\u00bf\u2019Dialogamos\u2019 con esta tecnolog\u00eda o simplemente aceptamos lo que dice? \u00bfRevisamos sus respuestas o confiamos por default?<\/strong> La mayor\u00eda de las personas no entrenan el h\u00e1bito de desconfiar de la IA<\/strong>, de tensionar sus afirmaciones o de revisar sus fuentes, las cuales muchas veces no las tiene o no las explicita\u201d. <\/p>\n\n\n\n

En esta l\u00ednea, en un estudio<\/a>, la BBC pidi\u00f3 a Chat GPT, Copilot, Gemini y Perplexity que resumieran 100 noticias y ciertos periodistas expertos en el tema de cada art\u00edculo calificaron la calidad de las respuestas de las IAs. As\u00ed, se descubri\u00f3 que el 51 por ciento de todas las respuestas de las tecnolog\u00edas presentaban problemas importantes de alg\u00fan tipo<\/strong>, como declaraciones f\u00e1cticas, n\u00fameros y fechas incorrectas, o que las citas fueron alteradas de la fuente original o no estaban presentes en el art\u00edculo citado. De igual manera, otro estudio <\/a>de 2024 llevado adelante por el Instituto Stanford para la Inteligencia Artificial Centrada en el Ser Humano revel\u00f3 que los grandes modelos de lenguaje “alucinaban” o produc\u00edan informaci\u00f3n incorrecta en entre el 69 por ciento y el 88 por ciento de las consultas legales y judiciales. <\/strong><\/p>\n\n\n\n

Frente a la propuesta de los investigadores de Estados Unidos de que los chatbots puedan desarrollar una mejor comprensi\u00f3n, Corval\u00e1n apunta que no es una tarea que se pueda tercerizar ni delegar: \u201cSi la IA puede equivocarse, entonces tambi\u00e9n debemos aprender a identificar cu\u00e1ndo, por qu\u00e9 y con qu\u00e9 consecuencias. Y eso implica sostener una pr\u00e1ctica activa de lectura cr\u00edtica<\/strong>\u201d, detalla a la Agencia<\/a>. Este ejercicio que requiere de atenci\u00f3n, b\u00fasqueda, verificaci\u00f3n y comprensi\u00f3n por parte del usuario invita tambi\u00e9n a avanzar contra la podredumbre cerebral<\/strong>.<\/p>\n\n\n\n

Este t\u00e9rmino, designado como Palabra del A\u00f1o en 2024, es definido por Oxford <\/a>como “el supuesto deterioro del estado mental o intelectual de una persona, especialmente si se considera como resultado del consumo excesivo de material (ahora en particular contenido en l\u00ednea) considerado trivial o poco estimulante. <\/strong>Tambi\u00e9n: algo que se caracteriza por su probabilidad de conducir a dicho deterioro”. <\/p>\n\n\n\n

Con todo, tal vez la diferencia que tienen las IAs con las personas al no poder reflexionar sobre s\u00ed mismos hace que los humanos puedan elegir el camino de pensar por s\u00ed mismos y ser cr\u00edticos ante una tecnolog\u00eda que a\u00fan no es perfecta. Y, como todo, probablemente no lo sea nunca.<\/strong><\/p>\n\n\n\n

\n

\u00daltimas noticias de la secci\u00f3n Tecnolog\u00eda:<\/h4><\/div>\n\n\n\n\t\t\t
\n\n\t\t\t\t\t\t\t\t\t\t\t\t
\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\"Prototipo\t\t\t\t\t<\/a>\n\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t

\n\t\t\t\tClaudia Sheinbaum presenta Olinia, el primer auto el\u00e9ctrico producido en M\u00e9xico<\/a>\n\t\t\t<\/h4>\n\t\t\t\t\t\t
\n\t\t\t\t\t\t\t<\/div>\n\t\t\t\n\t\t\t\t\t\t\t\t\t<\/article>\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t
\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\"CUREE\t\t\t\t\t<\/a>\n\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t

\n\t\t\t\tUn robot submarino observa y escucha arrecifes de coral para protegerlos<\/a>\n\t\t\t<\/h4>\n\t\t\t\t\t\t
\n\t\t\t\t\t\t\t<\/div>\n\t\t\t\n\t\t\t\t\t\t\t\t\t<\/article>\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t
\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\"Las\t\t\t\t\t<\/a>\n\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t

\n\t\t\t\tBananas musculosas y frutillas vengativas, \u00bfde qu\u00e9 se tratan las “frutinovelas” que son virales?<\/a>\n\t\t\t<\/h4>\n\t\t\t\t\t\t
\n\t\t\t\t\t\t\t<\/div>\n\t\t\t\n\t\t\t\t\t\t\t\t\t<\/article>\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t
\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\"El\t\t\t\t\t<\/a>\n\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t

\n\t\t\t\t\u00bfC\u00f3mo es el Centro de Biosimulaci\u00f3n que inaugur\u00f3 la UNQ?<\/a>\n\t\t\t<\/h4>\n\t\t\t\t\t\t
\n\t\t\t\t\t\t\t<\/div>\n\t\t\t\n\t\t\t\t\t\t\t\t\t<\/article>\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t
\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\"Valent\u00edn\t\t\t\t\t<\/a>\n\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t

\n\t\t\t\tLate, late, \u00a1nola!: crean una app que facilita el intercambio de figuritas del Mundial<\/a>\n\t\t\t<\/h4>\n\t\t\t\t\t\t
\n\t\t\t\t\t\t\t<\/div>\n\t\t\t\n\t\t\t\t\t\t\t\t\t<\/article>\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t
\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\"Cr\u00e9ditos:\t\t\t\t\t<\/a>\n\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t

\n\t\t\t\tEl phishing lleg\u00f3 a las universidades: alertan sobre correos falsos que suplantan identidad<\/a>\n\t\t\t<\/h4>\n\t\t\t\t\t\t
\n\t\t\t\t\t\t\t<\/div>\n\t\t\t\n\t\t\t\t\t\t\t\t\t<\/article>\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t
\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\"Cr\u00e9ditos:\t\t\t\t\t<\/a>\n\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t

\n\t\t\t\tCiberseguridad: crean una IA que promete combatir cualquier tipo falla inform\u00e1tica<\/a>\n\t\t\t<\/h4>\n\t\t\t\t\t\t
\n\t\t\t\t\t\t\t<\/div>\n\t\t\t\n\t\t\t\t\t\t\t\t\t<\/article>\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t
\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\"Wikipedia\t\t\t\t\t<\/a>\n\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t

\n\t\t\t\tWikipedia prohibi\u00f3 el uso de la IA para redactar y editar contenido en la enciclopedia<\/a>\n\t\t\t<\/h4>\n\t\t\t\t\t\t
\n\t\t\t\t\t\t\t<\/div>\n\t\t\t\n\t\t\t\t\t\t\t\t\t<\/article>\n\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t<\/div>\n","protected":false},"excerpt":{"rendered":"

Un estudio apunta a que las tecnolog\u00edas, como Chat GPT y Gemini no son conscientes de sus errores. <\/p>\n","protected":false},"author":4,"featured_media":30573,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_uag_custom_page_level_css":"","_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[16,15],"tags":[62],"class_list":["post-30572","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticia-destacada","category-tecnologia","tag-inteligencia-artificial"],"aioseo_notices":[],"uagb_featured_image_src":{"full":["https:\/\/agencia.unq.edu.ar\/wp-content\/uploads\/2025\/07\/Chatbot-confianza.jpg",1040,420,false],"thumbnail":["https:\/\/agencia.unq.edu.ar\/wp-content\/uploads\/2025\/07\/Chatbot-confianza.jpg",150,61,false],"medium":["https:\/\/agencia.unq.edu.ar\/wp-content\/uploads\/2025\/07\/Chatbot-confianza.jpg",960,388,false],"medium_large":["https:\/\/agencia.unq.edu.ar\/wp-content\/uploads\/2025\/07\/Chatbot-confianza.jpg",768,310,false],"large":["https:\/\/agencia.unq.edu.ar\/wp-content\/uploads\/2025\/07\/Chatbot-confianza.jpg",1040,420,false],"1536x1536":["https:\/\/agencia.unq.edu.ar\/wp-content\/uploads\/2025\/07\/Chatbot-confianza.jpg",1040,420,false],"2048x2048":["https:\/\/agencia.unq.edu.ar\/wp-content\/uploads\/2025\/07\/Chatbot-confianza.jpg",1040,420,false]},"uagb_author_info":{"display_name":"Luciana Mazzini Puga","author_link":"https:\/\/agencia.unq.edu.ar\/?author=4"},"uagb_comment_info":0,"uagb_excerpt":"Un estudio apunta a que las tecnolog\u00edas, como Chat GPT y Gemini no son conscientes de sus errores.","blog_post_layout_featured_media_urls":{"thumbnail":["https:\/\/agencia.unq.edu.ar\/wp-content\/uploads\/2025\/07\/Chatbot-confianza.jpg",150,61,false],"full":["https:\/\/agencia.unq.edu.ar\/wp-content\/uploads\/2025\/07\/Chatbot-confianza.jpg",1040,420,false]},"categories_names":{"16":{"name":"Noticia destacada","link":"https:\/\/agencia.unq.edu.ar\/?cat=16"},"15":{"name":"Tecnolog\u00eda","link":"https:\/\/agencia.unq.edu.ar\/?cat=15"}},"tags_names":{"62":{"name":"Inteligencia Artificial","link":"https:\/\/agencia.unq.edu.ar\/?tag=inteligencia-artificial"}},"comments_number":"0","_links":{"self":[{"href":"https:\/\/agencia.unq.edu.ar\/index.php?rest_route=\/wp\/v2\/posts\/30572","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/agencia.unq.edu.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/agencia.unq.edu.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/agencia.unq.edu.ar\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/agencia.unq.edu.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=30572"}],"version-history":[{"count":8,"href":"https:\/\/agencia.unq.edu.ar\/index.php?rest_route=\/wp\/v2\/posts\/30572\/revisions"}],"predecessor-version":[{"id":30587,"href":"https:\/\/agencia.unq.edu.ar\/index.php?rest_route=\/wp\/v2\/posts\/30572\/revisions\/30587"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/agencia.unq.edu.ar\/index.php?rest_route=\/wp\/v2\/media\/30573"}],"wp:attachment":[{"href":"https:\/\/agencia.unq.edu.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=30572"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/agencia.unq.edu.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=30572"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/agencia.unq.edu.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=30572"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}