{"id":71379,"date":"2024-04-26T00:12:35","date_gmt":"2024-04-26T06:12:35","guid":{"rendered":"http:\/\/mickyandoniehn.com\/radio\/2024\/04\/26\/los-chatbots-de-ia-se-inventan-muchas-de-las-respuestas-unos-exinvestigadores-del-mit-tienen-una-particular-solucion\/"},"modified":"2024-04-26T00:12:35","modified_gmt":"2024-04-26T06:12:35","slug":"los-chatbots-de-ia-se-inventan-muchas-de-las-respuestas-unos-exinvestigadores-del-mit-tienen-una-particular-solucion","status":"publish","type":"post","link":"https:\/\/mickyandoniehn.com\/radio\/2024\/04\/26\/los-chatbots-de-ia-se-inventan-muchas-de-las-respuestas-unos-exinvestigadores-del-mit-tienen-una-particular-solucion\/","title":{"rendered":"Los chatbots de IA se inventan muchas de las respuestas: unos exinvestigadores del MIT tienen una particular soluci\u00f3n"},"content":{"rendered":"<\/p>\n<p>Los chatbots se han convertido en uno de los ejes del auge de la\u00a0<strong>inteligencia artificial<\/strong>\u00a0(IA). Desde\u00a0<a href=\"https:\/\/www.xataka.com\/basics\/chatgpt-que-como-usarlo-que-puedes-hacer-este-chat-inteligencia-artificial\">ChatGPT<\/a>\u00a0y\u00a0<a href=\"https:\/\/www.xataka.com\/basics\/microsoft-copilot-que-como-funciona-este-chat-inteligencia-artificial\">Copilot<\/a>\u00a0hasta\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/hemos-probado-claude-competidor-chatgpt-creado-anthropic-se-comporta-mar-bien\">Claude Chat<\/a>\u00a0y\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/perplexity-ai-todo-que-debe-temer-buscador-google-chatgpt-conectado-a-internet\">Perplexity<\/a>, estas herramientas son tendencia. Sin embargo, por mucho que nos entusiasmemos, no debemos confiar plenamente en sus respuestas.<\/p>\n<p>Y, sino que se lo digan\u00a0<a href=\"https:\/\/www.xataka.com\/legislacion-y-derechos\/abogado-uso-chatgpt-juicio-ahora-quien-debe-dar-explicaciones-a-juez-incluir-citas-falsas\">al abogado que recurri\u00f3 a ChatGPT<\/a>\u00a0para salir victorioso en un juicio y descubri\u00f3 que los documentos presentados ante el juez conten\u00edan decisiones judiciales, referencias y citas falsas. Como podemos ver, los chatbots tienen muchas virtudes, pero la fiabilidad no es una de ellas.<\/p>\n<h2>Una posible soluci\u00f3n al problema de fiabilidad<\/h2>\n<p>Un\u00a0<a href=\"https:\/\/vectara.com\/blog\/measuring-hallucinations-in-rag-systems\/\">estudio publicado<\/a>\u00a0por una compa\u00f1\u00eda emergente fundada por exempleados de Google sugiere que los chatbots tienen una tasa de alucinaciones de\u00a0<strong>al menos el 3%<\/strong>. Para muchos usuarios esto puede ser un problema menor, pero las cosas cambian cuando hablamos de usos profesionales.<\/p>\n<p>Las herramientas impulsadas por grandes modelos de lenguaje (LLM) est\u00e1n llegando al mundo empresarial a trav\u00e9s de soluciones como\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/microsoft-365-copilot-ia-que-revoluciona-office-asi-escribe-correos-documentos-presentaciones-ti\">Copilot en Office 365<\/a>. Ahora bien, si los empleados acaban manejando informaci\u00f3n err\u00f3nea, esto podr\u00eda acabar provocando m\u00e1s de un dolor de cabeza a la firma.<\/p>\n<p>Cleanlab, una startup fundada por exinvestigadores del MIT acaba de lanzar su propia iniciativa para abordar este problema. Estamos hablando de una herramienta impulsada por lo que denominan\u00a0<a href=\"https:\/\/cleanlab.ai\/blog\/trustworthy-language-model\/\">Trustworthy Language Model (TLM)<\/a>, un enfoque que apunta a la\u00a0<strong>fiabilidad de las respuestas<\/strong>.<\/p>\n<p>TLM funciona como una \u201ccapa de confianza\u201d para que los usuarios puedan saber qu\u00e9 tan fiable es la respuesta que acaban de recibir a trav\u00e9s de un sistema de puntuaci\u00f3n. Esta herramienta ha sido dise\u00f1ada para que pueda funcionar de manera complementaria a modelos como\u00a0<a href=\"https:\/\/www.xataka.com\/servicios\/gpt-3-5-tengo-sensacion-cuando-use-internet-primera-vez-siendo-nino\">GPT-3.5<\/a>,\u00a0<a href=\"https:\/\/www.xataka.com\/nuevo\/gpt-4-que-cuando-sale-como-funciona-toda-informacion\">GPT-4<\/a>\u00a0y modelos personalizados de empresas.<\/p>\n<div class=\"article-asset-image article-asset-large article-asset-center\">\n<div class=\"asset-content\"><\/div>\n<\/div>\n<p>El sistema env\u00eda nuestra pregunta a varios modelos y despu\u00e9s analiza su devoluci\u00f3n. La respuesta llegar\u00e1 acompa\u00f1ada con un\u00a0<strong>puntaje que se situar\u00e1 entre 0 y 1<\/strong>. En una prueba sencilla en la que hemos preguntado la ra\u00edz cuadrada de nueve hemos recibido una respuesta correcta (3) con un puntaje de 0,885.<\/p>\n<div class=\"article-asset-image article-asset-normal article-asset-center\">\n<div class=\"asset-content\"><\/div>\n<\/div>\n<p>Cleanlab se\u00f1ala que ChatGPT en su versi\u00f3n gratuita puede equivocarse en cosas muy simples. Al preguntar cu\u00e1ntas veces aparece la letra \u201cN\u201d en la palabra \u201center\u201d, el chatbot de OpenAI suele responder que la letra aparece dos veces. Lo hemos probado y efectivamente el chatbot responde err\u00f3neamente.<\/p>\n<p>La startup imagina a su tecnolog\u00eda siendo \u00fatil en un amplio abanico de usos. Mencionan que podr\u00eda ayudar a los\u00a0<strong>chatbots de atenci\u00f3n al cliente<\/strong> a ser m\u00e1s fiables. El chatbot funcionar\u00eda de manera automatizada, pero si una de las respuestas cae por debajo del umbral de fiabilidad, se podr\u00eda solicitar la intervenci\u00f3n de un humano.<\/p>\n<p>Si eres un entusiasta de la inteligencia artificial puedes\u00a0<a href=\"https:\/\/tlm.cleanlab.ai\/\">probar TLM a trav\u00e9s de la web<\/a>. La herramienta tambi\u00e9n est\u00e1 disponible a trav\u00e9s de una API. Cabe se\u00f1alar que la soluci\u00f3n se encuentra disponible a trav\u00e9s\u00a0<a href=\"https:\/\/cleanlab.ai\/pricing\/\">versiones gratuitas de c\u00f3digo abierto y versiones de pago con caracter\u00edsticas adicionales<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Los chatbots se han convertido en uno de los ejes del auge de la\u00a0inteligencia artificial\u00a0(IA). Desde\u00a0ChatGPT\u00a0y\u00a0Copilot\u00a0hasta\u00a0Claude Chat\u00a0y\u00a0Perplexity, estas herramientas son tendencia. Sin embargo, por mucho que nos entusiasmemos, no debemos confiar plenamente en sus respuestas. Y, sino que se lo digan\u00a0al abogado que recurri\u00f3 a ChatGPT\u00a0para salir victorioso en un juicio y descubri\u00f3 que los &hellip;<\/p>\n","protected":false},"author":0,"featured_media":71380,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-71379","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2024\/04\/500_333-mriyii.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/71379","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=71379"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/71379\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/71380"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=71379"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=71379"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=71379"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}