{"id":75331,"date":"2024-07-25T01:15:04","date_gmt":"2024-07-25T07:15:04","guid":{"rendered":"http:\/\/mickyandoniehn.com\/radio\/2024\/07\/25\/mark-zuckerberg-no-para-de-decir-que-su-modelo-de-ia-es-open-source-esta-abusando-del-termino\/"},"modified":"2024-07-25T01:15:04","modified_gmt":"2024-07-25T07:15:04","slug":"mark-zuckerberg-no-para-de-decir-que-su-modelo-de-ia-es-open-source-esta-abusando-del-termino","status":"publish","type":"post","link":"https:\/\/mickyandoniehn.com\/radio\/2024\/07\/25\/mark-zuckerberg-no-para-de-decir-que-su-modelo-de-ia-es-open-source-esta-abusando-del-termino\/","title":{"rendered":"Mark Zuckerberg no para de decir que su modelo de IA es Open Source. Est\u00e1 abusando del t\u00e9rmino"},"content":{"rendered":"<\/p>\n<p>Mark Zuckerberg puede decir misa.\u00a0<strong>Los modelos Llama no son Open Source<\/strong>. No al menos en el sentido estricto de la definici\u00f3n, porque\u00a0<a href=\"https:\/\/opensource.org\/blog\/metas-llama-2-license-is-not-open-source\">como explicaban<\/a> hace tiempo en Open Source Initiative, \u00abMeta confunde \u00abOpen Source\u00bb con \u00abrecursos disponibles para algunos usuarios en determinadas condiciones\u00bb, dos cosas muy distintas\u00bb.<\/p>\n<p>Esos comentarios, que se realizaron tras el lanzamiento de Llama 2, son igualmente v\u00e1lidos para la nueva familia de modelos de IA generativa de Meta. En ambos casos, como en el resto de la industria, estamos presenciando c\u00f3mo estos modelos cogen todo lo que pueden de la internet p\u00fablica (y probablemente,\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/dejad-usar-nuestro-trabajo-ia-8-000-escritores-amenazan-demandar-a-openai-meta-google\">parte de la privada<\/a>), adem\u00e1s de usar, como en este caso, el t\u00e9rmino Open Source con demasiada alegr\u00eda. Veamos por qu\u00e9.<\/p>\n<h2>Voracidad infinita<\/h2>\n<p>Bautizados como Llama 3.1, estos modelos son prometedores en cuanto a prestaciones y pueden\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/meta-acaba-lanzar-modelo-ia-grande-capaz-mundo-supera-varios-aspectos-a-gpt-4o-openai\">superar incluso a GPT-4o o a Claude 3.5<\/a>, pero es que adem\u00e1s de destacar esa potencia y versatilidad, Mark Zuckerberg destacaba en una carta abierta c\u00f3mo \u00ab<a href=\"https:\/\/about.fb.com\/news\/2024\/07\/open-source-ai-is-the-path-forward\/\">La IA Open Source es el camino adelante<\/a>\u00ab.<\/p>\n<div class=\"ad ad-out\">\n<div class=\"ad-box\">\n<div><\/div>\n<\/div>\n<\/div>\n<div class=\"article-asset-image article-asset-normal article-asset-center\">\n<div class=\"asset-content\">\n<div class=\"caption-img \"><a href=\"https:\/\/twitter.com\/elonmusk\/status\/1765415187161464972\"><\/a>El tuit con la imagen, publicada por Elon Musk hace unos meses, ya no est\u00e1 disponible en Twitter (X).<\/div>\n<\/div>\n<\/div>\n<p>Es el mismo discurso que por ejemplo hac\u00eda tras la presentaci\u00f3n de los modelos en una entrevista\u00a0<a href=\"https:\/\/www.bloomberg.com\/news\/articles\/2024-07-23\/meta-s-zuckerberg-aims-to-rival-openai-google-with-new-llama-ai-model\">en Bloomberg<\/a>, aunque all\u00ed s\u00ed admit\u00eda que Meta mantiene en secreto los conjuntos de datos que han usado para entrenar a Llama 3.1. \u00ab<strong>Aunque es abierto, tambi\u00e9n estamos dise\u00f1ando esto por nosotros mismos<\/strong>\u00ab, destacaba, y solo indic\u00f3 que se han usado publicaciones de Facebook e Instagram, adem\u00e1s de conjuntos de datos propietarios licenciados de otros, sin especificar m\u00e1s.<\/p>\n<p>Esa falta de transparencia es com\u00fan en la industria: no sabemos c\u00f3mo se han entrenado exactamente otros modelos como GPT-4 o Claude 3.5, totalmente cerrados y propietarios. Es probable que en estos y otros casos se hayan recolectado datos sorprendentes: uno de esos conjuntos de datos, por ejemplo,\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/5-000-tokens-mi-blog-estan-siendo-usados-para-entrenar-ia-no-he-dado-mi-permiso\">contiene 5.000 \u00abtokens\u00bb de mi blog personal<\/a>.<\/p>\n<p>La voracidad de estos modelos\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/google-tiene-claro-como-va-a-entrenar-sus-modelos-ia-cogiendo-todo-que-publiquemos-internet\">parece infinita<\/a>. Eso ha provocado pol\u00e9micas y demandas, pero\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/google-pagara-a-reddit-pequena-fortuna-para-entrenar-sus-modelos-ia-reddit-usuarios-no-se-llevan-nada\">tambi\u00e9n acuerdos<\/a>\u00a0para que las\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/openai-anuncia-acuerdo-prisa-le-monde-demostracion-tendencia-al-alza\">empresas de contenidos<\/a>\u00a0licencien sus textos, im\u00e1genes y v\u00eddeos para entrenarlos. A veces ni siquiera piden permiso: OpenAI se qued\u00f3 sin datos para entrenar su IA, as\u00ed que\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/openai-se-quedo-datos-para-entrenar-su-ia-asi-que-transcribio-millon-horas-youtube-para-gpt-4\">transcribi\u00f3 un mill\u00f3n de horas de YouTube<\/a>\u00a0para entrenar a GPT-4, por ejemplo.<\/p>\n<h2>\u00abOpen Weights\u00bb no es lo mismo que \u00abOpen Source\u00bb<\/h2>\n<p>Es cierto que el modelo est\u00e1\u00a0<a href=\"https:\/\/github.com\/meta-llama\/llama3\">libremente disponible en GitHub<\/a>, y eso es desde luego destacable: como sucedi\u00f3 con Llama 2, estos modelos podr\u00e1n ser utilizados por empresas y desarrolladores independientes para crear modelos de IA derivados de Llama 3.1.<\/p>\n<p>Es\u00a0<strong>algo similar a lo que ocurre con las distribuciones GNU\/Linux<\/strong>, que parten de un n\u00facleo Linux y una serie de componentes a los que luego a\u00f1aden sus propios elementos adicionales.<\/p>\n<p>La licencia de uso de Llama 3 permite desde luego trabajar de esa forma, pero tambi\u00e9n impone una barrera clave\u00a0<a href=\"https:\/\/github.com\/meta-llama\/llama3\/blob\/main\/LICENSE\">en su licencia<\/a>: los modelos derivados de Llama 3.1 son gratuitos salvo que tengan demasiado \u00e9xito. Si el modelo acaba siendo usado por m\u00e1s de 700 millones de usuarios activos al mes, habr\u00e1 que contratar una licencia a Meta.<\/p>\n<p>Pero como ocurre en otros casos,\u00a0<strong>lo que adem\u00e1s comparte Meta son los llamados \u00abpesos\u00bb<\/strong>, que proporcionan informaci\u00f3n sobre c\u00f3mo se realizan sus c\u00e1lculos. Eso permite que cualquiera pueda descargar los ficheros de la red neuronal ya entrenada, y luego usarla directamente o pulir su funcionamiento para sus propios casos de uso. Hacer algo as\u00ed hace que estos modelos, m\u00e1s que Open Source, sean considerados \u00abOpen Weights\u00bb.<\/p>\n<p>Como explican\u00a0<a href=\"https:\/\/arstechnica.com\/information-technology\/2024\/07\/the-first-gpt-4-class-ai-model-anyone-can-download-has-arrived-llama-405b\/\">en Ars Technica<\/a>, esto contrasta con lo que ocurre en modelos propietarios como los de OpenAI, que no comparten esos pesos y monetizan los modelos a trav\u00e9s de suscripciones a ChatGPT Plus o bien a trav\u00e9s de una API.<\/p>\n<p>Ese uso del t\u00e9rmino \u00ababierto\u00bb (\u00abopen\u00bb) por parte de muchos proyectos de IA, Llama 3.1, incluido, hace que cada vez haya m\u00e1s escrutinio al respecto (que se lo digan a OpenAI, que lo usa como parte del nombre de suempresa).<\/p>\n<p>Es lo que por ejemplo destaca una interesante investigaci\u00f3n de un equipo en la Universidad de Radboud en Nijmegen, Pa\u00edses Bajos. Los responsables del proyecto han analizado diversos modelos de IA, calificando una serie de par\u00e1metros que permiten valorar\u00a0<strong>si los modelos son m\u00e1s o menos abiertos<\/strong>.<\/p>\n<div class=\"article-asset-image article-asset-large article-asset-center\">\n<div class=\"asset-content\">\n<div class=\"caption-img \">Fuente: Universidad de Radboud en Nijmegen.<\/div>\n<\/div>\n<\/div>\n<p>El resultado es\u00a0<a href=\"https:\/\/opening-up-chatgpt.github.io\/\">una tabla fant\u00e1stica<\/a>\u00a0en la que podemos comprobar r\u00e1pidamente dos cosas. La primera, que ning\u00fan modelo es perfecto en este sentido. Y la segunda, que los modelos de Meta est\u00e1n muy abajo en esa calificaci\u00f3n, y es por tanto muy dif\u00edcil considerarlos como Open Source.<\/p>\n<p>Simon Willison, cocreador del entorno de programaci\u00f3n Django y experto en este \u00e1mbito,\u00a0<a href=\"https:\/\/twitter.com\/simonw\/status\/1815804509828047179\">comentaba<\/a>\u00a0que la carta abierta de Mark Zuckerberg era un \u00abdocumento fascinante\u00bb e \u00abinfluyente\u00bb, pero adem\u00e1s destacaba que \u00abparece no obstante que hemos perdido la batalla en t\u00e9rminos de conseguir que dejen de usar incorrectamente el t\u00e9rmino Open Source\u00bb.<\/p>\n<div class=\"ad ad-lat\">\n<div class=\"ad-box\">\n<div><\/div>\n<\/div>\n<\/div>\n<p>Efectivamente la influencia de Zuckerberg hace que sea dif\u00edcil que el p\u00fablico general no acepte que en efecto los modelos de Meta son Open Source cuando no lo son del todo. Como explicaba Willinson en comentarios en Ars Technica:<\/p>\n<p>\u00abConsidero que el destacado mal uso que hace Zuck del \u00abOpen Source\u00bb\u00a0<strong>es un acto de vandalismo cultural a peque\u00f1a escala<\/strong>. El c\u00f3digo abierto debe tener un significado consensuado. Abusar del t\u00e9rmino debilita ese significado, lo que hace que el t\u00e9rmino sea menos \u00fatil en general, porque si alguien dice \u2018es de c\u00f3digo abierto\u2019, eso ya no me dice nada \u00fatil. Y entonces tengo que indagar y averiguar de qu\u00e9 est\u00e1n hablando en realidad\u00bb.<\/p>\n<p>As\u00ed es, ciertamente. Ese uso masivo \u2014y no solo por parte de Zuckerberg\u2014 ha debilitado el concepto, en parte porque no hay una definici\u00f3n universal y aceptada de qu\u00e9 es en realidad Open Source en general, y de qu\u00e9 es un modelo Open Source de IA en particular.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Mark Zuckerberg puede decir misa.\u00a0Los modelos Llama no son Open Source. No al menos en el sentido estricto de la definici\u00f3n, porque\u00a0como explicaban hace tiempo en Open Source Initiative, \u00abMeta confunde \u00abOpen Source\u00bb con \u00abrecursos disponibles para algunos usuarios en determinadas condiciones\u00bb, dos cosas muy distintas\u00bb. Esos comentarios, que se realizaron tras el lanzamiento de &hellip;<\/p>\n","protected":false},"author":0,"featured_media":75332,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-75331","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2024\/07\/375_375-wh20k9.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/75331","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=75331"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/75331\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/75332"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=75331"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=75331"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=75331"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}