{"id":105592,"date":"2026-01-19T17:39:42","date_gmt":"2026-01-19T17:39:42","guid":{"rendered":"https:\/\/sha-saas.com\/?p=105592"},"modified":"2026-01-19T17:39:42","modified_gmt":"2026-01-19T17:39:42","slug":"la-realidad-tecnica-los-llm-no-son-tan-brillantes-como-parecen","status":"publish","type":"post","link":"https:\/\/sha-saas.com\/?p=105592&lang=es","title":{"rendered":"La realidad t\u00e9cnica: los LLM no son tan brillantes como parecen"},"content":{"rendered":"\n<p>M\u00e1s all\u00e1 de las noticias, un d\u00eda si y otro tambi\u00e9n, sobre los avances espectaculares de la IA, la realidad de los grandes modelos (LLM) presenta limitaciones importantes, que rara vez se mencionan.<\/p>\n\n\n\n<figure class=\"wp-block-image size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"1536\" height=\"1024\" src=\"https:\/\/sha-saas.com\/wp-content\/uploads\/2026\/01\/alucino.png\" alt=\"\" class=\"wp-image-105590\" srcset=\"https:\/\/sha-saas.com\/wp-content\/uploads\/2026\/01\/alucino.png 1536w, https:\/\/sha-saas.com\/wp-content\/uploads\/2026\/01\/alucino-300x200.png 300w\" sizes=\"auto, (max-width: 767px) 89vw, (max-width: 1000px) 54vw, (max-width: 1071px) 543px, 580px\" \/><\/figure>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Alucinaciones: el tal\u00f3n de Aquiles persistente<\/strong><\/h2>\n\n\n\n<p>Uno de los problemas m\u00e1s graves es que los LLM pueden &#8216;alucinar&#8217; informaci\u00f3n y quedarse tan &#8220;panchos&#8221;. Estos sistemas inventan datos, citas o hechos que parecen completamente cre\u00edbles pero que son totalmente falsos. Un estudio de Vectara revel\u00f3 que los modelos m\u00e1s precisos, GPT-4 y GPT-4 Turbo, alucinan aproximadamente el 3% del tiempo cuando resumen textos, mientras que otros modelos alcanzaban tasas de error del 27%.<\/p>\n\n\n\n<p>En el servicio al cliente, esto tiene consecuencias reales y costosas:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li class=\"li_sha2\">En febrero de 2024 Air Canada fue obligada por un tribunal canadiense a pagar una indemnizaci\u00f3n a un cliente despu\u00e9s de que su &#8220;agente virtual&#8221; inventara una pol\u00edtica de tarifas por duelo que no exist\u00eda. Afirm\u00f3 con confianza que los clientes pod\u00edan solicitar descuentos retroactivamente hasta 90 d\u00edas despu\u00e9s de la emisi\u00f3n del billete, lo cual es completamente falso seg\u00fan la pol\u00edtica real de la empresa.<\/li>\n<\/ul>\n\n\n\n<ul class=\"wp-block-list\">\n<li class=\"li_sha2\">DPD, una empresa de log\u00edstica europea, tuvo que desactivar parte de su &#8220;agente virtual&#8221; despu\u00e9s de que comenzara a insultar a los clientes y a describir a la empresa como &#8216;el peor servicio de entrega del mundo&#8217;.<\/li>\n<\/ul>\n\n\n\n<ul class=\"wp-block-list\">\n<li class=\"li_sha2\">Virgin Money tambi\u00e9n se vio obligado a disculparse despu\u00e9s de que su &#8220;agente virtual&#8221; reprendiera a un usuario por utilizar la palabra &#8216;virgen&#8217;.<\/li>\n<\/ul>\n\n\n\n<ul class=\"wp-block-list li_sha\">\n<li class=\"li_sha2\">Finalmente, Cursor, una startup tecnol\u00f3gica estadounidense, tuvo que limitar los da\u00f1os cuando su &#8220;agente virtual&#8221; inform\u00f3 a los clientes de un cambio radical en su pol\u00edtica de uso que era completamente ficticio.&#8221;<\/li>\n<\/ul>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>La paradoja de los modelos de razonamiento avanzados<\/strong><\/h2>\n\n\n\n<p>Parad\u00f3jicamente, los modelos de razonamiento m\u00e1s avanzados, que utilizan enfoques de &#8216;cadena de pensamiento&#8217; para descomponer problemas complejos en peque\u00f1as partes, parecen alucinar m\u00e1s a menudo que los LLM ordinarios, seg\u00fan el an\u00e1lisis de Vectara. OpenAI reconoci\u00f3 en un informe sobre el rendimiento de sus \u00faltimos modelos de razonamiento que o1 alucin\u00f3 el 16% del tiempo al sintetizar informaci\u00f3n p\u00fablica sobre personas, mientras que sus modelos o3 y o4-mini alucinaron el 33% y el 48% del tiempo, respectivamente.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Matem\u00e1ticas b\u00e1sicas y razonamiento l\u00f3gico<\/strong><\/h2>\n\n\n\n<p>Ir\u00f3nicamente, mientras que las empresas venden estos sistemas como &#8216;superinteligencias&#8217;, los LLM tienen dificultades notables con tareas que cualquier alumno de escuela primaria podr\u00eda resolver. El razonamiento matem\u00e1tico b\u00e1sico era un punto d\u00e9bil, lo cual es problem\u00e1tico cuando los clientes hac\u00edan preguntas sobre descuentos, fechas de garant\u00eda o c\u00e1lculos de costos.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>\u00bfC\u00f3mo gestionar este riesgo y tener total confianza en sus herramientas que utilizan IA?<\/strong><\/h2>\n\n\n\n<p>En SHA hemos identificado precauciones y m\u00e9todos a seguir con el fin de sacar el mejor partido de las capacidades de la IA (tanto para los servicios de atenci\u00f3n al cliente como en todos los \u00e1mbitos que gestionan informaci\u00f3n cr\u00edtica) y compartiremos estos elementos en el \u00faltimo de los 5 art\u00edculos que publicamos al respecto.<\/p>\n\n\n\n<p>\u00a1Est\u00e9n atentos!<\/p>\n","protected":false},"excerpt":{"rendered":"<p>M\u00e1s all\u00e1 de las noticias, un d\u00eda si y otro tambi\u00e9n, sobre los avances espectaculares de la IA, la realidad de los grandes modelos (LLM) presenta limitaciones importantes, que rara vez se mencionan. Alucinaciones: el tal\u00f3n de Aquiles persistente Uno de los problemas m\u00e1s graves es que los LLM pueden &#8216;alucinar&#8217; informaci\u00f3n y quedarse tan &hellip; <\/p>\n<p class=\"link-more\"><a href=\"https:\/\/sha-saas.com\/?p=105592&#038;lang=es\" class=\"more-link\">Continue reading<span class=\"screen-reader-text\"> &#8220;La realidad t\u00e9cnica: los LLM no son tan brillantes como parecen&#8221;<\/span><\/a><\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","footnotes":""},"categories":[264],"tags":[],"class_list":["post-105592","post","type-post","status-publish","format-standard","hentry","category-corp-news-es"],"_links":{"self":[{"href":"https:\/\/sha-saas.com\/index.php?rest_route=\/wp\/v2\/posts\/105592","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/sha-saas.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/sha-saas.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/sha-saas.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/sha-saas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=105592"}],"version-history":[{"count":5,"href":"https:\/\/sha-saas.com\/index.php?rest_route=\/wp\/v2\/posts\/105592\/revisions"}],"predecessor-version":[{"id":105597,"href":"https:\/\/sha-saas.com\/index.php?rest_route=\/wp\/v2\/posts\/105592\/revisions\/105597"}],"wp:attachment":[{"href":"https:\/\/sha-saas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=105592"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/sha-saas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=105592"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/sha-saas.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=105592"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}