{"id":65464,"date":"2023-12-08T13:15:24","date_gmt":"2023-12-08T19:15:24","guid":{"rendered":"http:\/\/mickyandoniehn.com\/radio\/2023\/12\/08\/meta-anuncia-purple-llama-una-iniciativa-para-promover-el-desarrollo-responsable-de-la-ia\/"},"modified":"2023-12-08T13:15:24","modified_gmt":"2023-12-08T19:15:24","slug":"meta-anuncia-purple-llama-una-iniciativa-para-promover-el-desarrollo-responsable-de-la-ia","status":"publish","type":"post","link":"https:\/\/mickyandoniehn.com\/radio\/2023\/12\/08\/meta-anuncia-purple-llama-una-iniciativa-para-promover-el-desarrollo-responsable-de-la-ia\/","title":{"rendered":"Meta anuncia Purple Llama, una iniciativa para promover el desarrollo responsable de la IA"},"content":{"rendered":"<\/p>\n<p><strong>Meta\u00a0<\/strong><a href=\"https:\/\/ai.meta.com\/blog\/purple-llama-open-trust-safety-generative-ai\/\">present\u00f3 una nueva iniciativa<\/a>\u00a0que buscar\u00e1 promover el desarrollo seguro de la inteligencia artificial. Conocido como\u00a0<strong>Purple Llama<\/strong>, el proyecto agrupar\u00e1 herramientas y evaluaciones enfocadas a construir modelos de IA generativa de manera responsable. La compa\u00f1\u00eda buscar\u00e1 asociarse con Google, Microsoft, Amazon y otras empresas del sector para mejorar su suite y ofrecerla a la comunidad de desarrolladores.<\/p>\n<p>Purple Llama estar\u00e1 basada en la Gu\u00eda de Uso Responsable de Meta,\u00a0<a href=\"https:\/\/ai.meta.com\/llama\/responsible-use-guide\/\">un documento con buenas pr\u00e1cticas y consideraciones<\/a>\u00a0que deben tener los desarrolladores al dise\u00f1ar productos impulsados por inteligencia artificial. Las herramientas\u00a0<strong>podr\u00e1n usarse en investigaci\u00f3n y en modelos de lenguaje comerciales<\/strong>.<\/p>\n<p>\u201cLa colaboraci\u00f3n en materia de seguridad generar\u00e1 confianza en los desarrolladores que impulsan esta nueva ola de innovaci\u00f3n y requiere investigaci\u00f3n y contribuciones adicionales sobre IA responsable\u201d, dijo Meta. \u201cLas personas que construyen sistemas de IA no pueden abordar los desaf\u00edos de forma aislada, por lo que queremos nivelar el campo de juego y crear un punto central y abierto para la confianza y la seguridad.\u201d<\/p>\n<p>La primera versi\u00f3n de Purple Llama se enfocar\u00e1 en la seguridad. El proyecto brindar\u00e1\u00a0<strong>herramientas para abordar los riesgos\u00a0<\/strong>de los modelos de lenguaje extenso (LLM) en escenarios de\u00a0<strong>ciberataques y generaci\u00f3n de c\u00f3digo malicioso<\/strong>. Meta tambi\u00e9n ofrecer\u00e1 soluciones para detectar contenido potencialmente riesgoso o que infrinja derechos de autor, tanto en entrada como salida.<\/p>\n<p>Para este proyecto, Meta ha tomado un enfoque similar al de su inteligencia artificial. La compa\u00f1\u00eda menciona que\u00a0<strong>la colaboraci\u00f3n es fundamental para generar un ecosistema abierto<\/strong>. Purple Llama tendr\u00e1 el soporte de empresas como AMD, AWS, Google Cloud, Dropbox, IBM, Intel, Microsoft, NVIDIA, Oracle y otros m\u00e1s.<\/p>\n<h2 class=\"wp-block-heading\">Con Purple Llama, Meta apuesta por la seguridad en los modelos de IA<\/h2>\n<p>El primer fruto de Purple Llama es\u00a0<strong>CyberSec Eval<\/strong>, un conjunto de herramientas para evaluar los riesgos de ciberseguridad en modelos LLM. De acuerdo un<a href=\"https:\/\/ai.meta.com\/research\/publications\/purple-llama-cyberseceval-a-benchmark-for-evaluating-the-cybersecurity-risks-of-large-language-models\/\">\u00a0documento t\u00e9cnico<\/a>, es el punto de referencia de seguridad m\u00e1s extenso a la fecha y<strong>\u00a0eval\u00faa la capacidad de un modelo para generar c\u00f3digo inseguro<\/strong>, as\u00ed como su nivel de cumplimiento al pedirle que ayude a realizar ciberataque.<\/p>\n<p>Meta menciona que CyberSec Eval identific\u00f3 los riesgos de ciberseguridad en modelos como Llama2 o GPT y ofreci\u00f3 consejos para solucionarlos. Los investigadores de la empresa afirman que\u00a0<strong>los modelos avanzados tienden a sugerir c\u00f3digo inseguro<\/strong>, por lo que es necesario un proceso de evaluaci\u00f3n y refinaci\u00f3n.<\/p>\n<p>Otro componente de Purple Llama es\u00a0<strong>Llama Guard<\/strong>, un modelo entrenado para<strong>\u00a0evitar que una inteligencia artificial genere respuestas inapropiadas<\/strong>. Llama Guard est\u00e1 orientado a conversaciones entre un humano y una IA (como ChatGPT) y categoriza los riesgos de entrada y salida. Al efectuar el an\u00e1lisis y descubrir un contenido potencialmente inseguro, los desarrolladores podr\u00e1n a\u00f1adirlo a sus filtros para evitar que el modelo lo procese.<\/p>\n<p>El anuncio de Purple Llama se da\u00a0<a href=\"https:\/\/hipertextual.com\/2023\/12\/meta-ibm-alianza-ia-de-codigo-abierto\">a unos d\u00edas de la creaci\u00f3n de la IA Alliance<\/a>, conformada por Meta, IBM y decenas de organizaciones. La alianza busca impulsar el desarrollo de modelos de IA seguros y de c\u00f3digo abierto y cuenta con el apoyo de Intel, AMD, NVIDIA y Oracle. Tambi\u00e9n se han sumado la NASA, el CERN, la Fundaci\u00f3n Linux y universidades de prestigio a nivel mundial.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Meta\u00a0present\u00f3 una nueva iniciativa\u00a0que buscar\u00e1 promover el desarrollo seguro de la inteligencia artificial. Conocido como\u00a0Purple Llama, el proyecto agrupar\u00e1 herramientas y evaluaciones enfocadas a construir modelos de IA generativa de manera responsable. La compa\u00f1\u00eda buscar\u00e1 asociarse con Google, Microsoft, Amazon y otras empresas del sector para mejorar su suite y ofrecerla a la comunidad de &hellip;<\/p>\n","protected":false},"author":0,"featured_media":65465,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-65464","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/12\/meta-purple-llama-ia-tEIa9A.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/65464","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=65464"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/65464\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/65465"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=65464"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=65464"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=65464"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}