{"id":55440,"date":"2023-04-26T18:12:48","date_gmt":"2023-04-27T00:12:48","guid":{"rendered":"https:\/\/mickyandoniehn.com\/radio\/2023\/04\/26\/nvidia-quiere-resolver-el-problema-principal-de-chatgpt\/"},"modified":"2023-04-26T18:12:48","modified_gmt":"2023-04-27T00:12:48","slug":"nvidia-quiere-resolver-el-problema-principal-de-chatgpt","status":"publish","type":"post","link":"http:\/\/mickyandoniehn.com\/radio\/2023\/04\/26\/nvidia-quiere-resolver-el-problema-principal-de-chatgpt\/","title":{"rendered":"NVIDIA quiere resolver el problema principal de ChatGPT"},"content":{"rendered":"<\/p>\n<p><strong>NVIDIA\u00a0<\/strong>anunci\u00f3 NeMo Guardrails,\u00a0<a href=\"https:\/\/blogs.nvidia.com\/blog\/2023\/04\/25\/ai-chatbot-guardrails-nemo\/\">un software de c\u00f3digo abierto<\/a>\u00a0que\u00a0<strong>evitar\u00e1 que las IA generativas como ChatGPT pierdan la cabeza<\/strong>. La idea del fabricante es establecer una serie de lineamientos para garantizar que las aplicaciones sean precisas y seguras. Para ello ofrecer\u00e1n<strong>\u00a0un conjunto de herramientas que permite agregar reglas<\/strong>\u00a0a las apps impulsadas por modelos de lenguaje extenso (LLM), como GPT-4.<\/p>\n<p>De acuerdo con el fabricante, el software est\u00e1 conformado por kits creados por la comunidad, como\u00a0<a href=\"https:\/\/python.langchain.com\/en\/latest\/index.html\">LangChain<\/a>. Estos contienen\u00a0<strong>plantillas y patrones f\u00e1ciles de usar<\/strong>, por lo que los desarrolladores podr\u00e1n definir las acciones deseadas del usuario. Esto es posible gracias a las barandillas (<em>guardrails<\/em>), un conjunto de\u00a0<strong>reglas que monitorean y dictan las interacciones que puede tener la persona con una aplicaci\u00f3n como ChatGPT<\/strong>.<\/p>\n<p>NeMo Guardrails permite establecer l\u00edmites que van desde<strong>\u00a0evitar respuestas que se salgan del t\u00f3pico<\/strong>, restringir conexiones no seguras o prevenir que se ejecute c\u00f3digo malicioso. Estas barandillas se ofrecen en tres niveles:<\/p>\n<p><strong>Barandillas t\u00f3picas<\/strong>. Evitan que las aplicaciones se desv\u00eden hacia \u00e1reas no deseadas. Por ejemplo, impiden que un chatbot de servicio al cliente responda preguntas sobre el clima.<br \/>\n<strong>Barandillas de seguridad<\/strong>. Garantizan que las aplicaciones respondan con informaci\u00f3n precisa y adecuada. Pueden filtrar el lenguaje no deseado y hacer cumplir que las referencias se hagan solo a fuentes cre\u00edbles<br \/>\n<strong>Barandillas de salvaguarda<\/strong>. Restringen las aplicaciones para que hagan conexiones solo con aplicaciones externas de terceros que se sabe que son seguras.<\/p>\n<p>Seg\u00fan NVIDIA,\u00a0<strong>el software es f\u00e1cil de usar y cualquier desarrollador puede implementar las plantillas<\/strong>\u00a0en sus chatbots. Las reglas se crean con pocas l\u00edneas de c\u00f3digo y se aplican a cualquier aplicaci\u00f3n que utilice una biblioteca de Python.<\/p>\n<h2 class=\"wp-block-heading\">ChatGPT y otras IA se volver\u00edan m\u00e1s confiables con la ayuda de NVIDIA<\/h2>\n<p>Las medidas de seguridad apuntan a resolver<strong>\u00a0uno de los principales problemas que vemos en chatbots impulsados por IA<\/strong>. Las barandillas garantizar\u00edan que las interacciones no contengan informaci\u00f3n falsa, contenido inapropiado o respuestas t\u00f3xicas. Est\u00e1 comprobado que ChatGPT\u00a0<a href=\"https:\/\/hipertextual.com\/2023\/04\/chatgpt-articulos\">suele inventar informaci\u00f3n y presentarla como un hecho<\/a>, o en el caso de Bing,\u00a0<a href=\"https:\/\/hipertextual.com\/2023\/02\/microsoft-bing-ia-chatgpt-enloquece\"><em>enloquecer<\/em>\u00a0tras varias consultas<\/a>.<\/p>\n<p>NeMo Guardrails est\u00e1 basado en Colang, un lenguaje desarrollado por NVIDIA para IA conversacional. Las\u00a0<strong>barandillas se ubican entre el usuario y la aplicaci\u00f3n (ChatGPT)<\/strong>, monitoreando la comunicaci\u00f3n y aplicando medidas para que el modelo permanezca en el dominio establecido. Seg\u00fan el fabricante, estas barandillas\u00a0<strong>ser\u00edan como los l\u00edmites que definen el ancho de una carretera\u00a0<\/strong>y que evitan que los veh\u00edculos se desv\u00eden.<\/p>\n<p>Las tres categor\u00edas operan en diversos niveles. Por ejemplo, las barandillas t\u00f3picas se mantienen enfocadas en un tema y redirigen una conversaci\u00f3n cuando se sale de t\u00f3pico. Las barandillas de seguridad no solo garantizan respuestas adecuadas o confiables, sino que\u00a0<strong>evitan que los humanos burlen las reglas y obtengan informaci\u00f3n no autorizada<\/strong>,\u00a0<a href=\"https:\/\/hipertextual.com\/2023\/02\/microsoft-revela-las-reglas-secretas-de-bing-con-chatgpt\">como lo vimos en los primeros d\u00edas de Bing<\/a>.<\/p>\n<p>Por \u00faltimo, las barandillas de salvaguarda tienen como objetivo\u00a0<strong>mantener seguro el sistema ante ataques externos<\/strong>. Esta categor\u00eda evita que el modelo LLM ejecute c\u00f3digo malicioso o haga llamadas a una aplicaci\u00f3n no autorizada. Esta categor\u00eda ser\u00e1 una de las m\u00e1s importantes, ya que<strong>\u00a0los ciberataques contra las IA se volver\u00e1n m\u00e1s sofisticados<\/strong>\u00a0a medida que aumente la adopci\u00f3n de esta tecnolog\u00eda.<\/p>\n<p>NVIDIA revel\u00f3 que NeMo Guardrails estar\u00e1 disponible en GitHub, as\u00ed como tambi\u00e9n en la plataforma NVIDIA AI Enterprise. El software es de c\u00f3digo abierto y se apoyar\u00e1 en la comunidad para continuar su desarrollo.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>NVIDIA\u00a0anunci\u00f3 NeMo Guardrails,\u00a0un software de c\u00f3digo abierto\u00a0que\u00a0evitar\u00e1 que las IA generativas como ChatGPT pierdan la cabeza. La idea del fabricante es establecer una serie de lineamientos para garantizar que las aplicaciones sean precisas y seguras. Para ello ofrecer\u00e1n\u00a0un conjunto de herramientas que permite agregar reglas\u00a0a las apps impulsadas por modelos de lenguaje extenso (LLM), como &hellip;<\/p>\n","protected":false},"author":0,"featured_media":55441,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-55440","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"http:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/04\/nvidia-nemo-guardrails-para-chatgpt-seguro_portada-pNkI6v.jpeg","_links":{"self":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/55440","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=55440"}],"version-history":[{"count":0,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/55440\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/55441"}],"wp:attachment":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=55440"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=55440"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=55440"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}