{"id":56865,"date":"2023-05-19T10:12:34","date_gmt":"2023-05-19T16:12:34","guid":{"rendered":"https:\/\/mickyandoniehn.com\/radio\/2023\/05\/19\/meta-estaba-perdiendo-la-carrera-de-la-ia-acaba-de-dar-un-giro-de-180-grados-con-el-anuncio-de-su-chip-especializado\/"},"modified":"2023-05-19T10:12:34","modified_gmt":"2023-05-19T16:12:34","slug":"meta-estaba-perdiendo-la-carrera-de-la-ia-acaba-de-dar-un-giro-de-180-grados-con-el-anuncio-de-su-chip-especializado","status":"publish","type":"post","link":"https:\/\/mickyandoniehn.com\/radio\/2023\/05\/19\/meta-estaba-perdiendo-la-carrera-de-la-ia-acaba-de-dar-un-giro-de-180-grados-con-el-anuncio-de-su-chip-especializado\/","title":{"rendered":"Meta estaba perdiendo la carrera de la IA: acaba de dar un giro de 180 grados con el anuncio de su chip especializado"},"content":{"rendered":"<\/p>\n<p>Cuando Facebook, Inc.\u00a0<a href=\"https:\/\/www.xataka.com\/empresas-y-economia\/no-llames-facebook-llamalo-meta-empresa-cambia-nombre-apuesta-todo-al-metaverso\">se convirti\u00f3 en Meta Platforms, Inc.<\/a>\u00a0en octubre de 2021, a menos que tuviese la extraordinaria capacidad de vislumbrar el futuro, Mark Zuckerberg posiblemente no se imaginaba que su ambiciosa\u00a0<strong>apuesta por el metaverso<\/strong>\u00a0se topar\u00eda con un obst\u00e1culo monumental aproximadamente un a\u00f1o m\u00e1s tarde.<\/p>\n<p>En noviembre de 2022\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/este-increible-chatbot-openai-cuenta-historias-explica-funciones-asi-puedes-probarlo\">OpenAI present\u00f3 ChatGPT<\/a>\u00a0y en cuesti\u00f3n de d\u00edas casi todo el mundo estaba hablando de las caracter\u00edsticas del chatbot conversacional. Para muchos este movimiento fue el punto de partida de una carrera por liderar en el campo de la inteligencia artificial que sacudi\u00f3 fuertemente a la industria tecnol\u00f3gica.<\/p>\n<p>Algunas compa\u00f1\u00edas se encontraban en una posici\u00f3n m\u00e1s favorable que otras.\u00a0<strong>Microsoft, indudablemente, era una de ellas<\/strong>. Los de Redmond\u00a0<a href=\"https:\/\/news.microsoft.com\/2019\/07\/22\/openai-forms-exclusive-computing-partnership-with-microsoft-to-build-new-azure-ai-supercomputing-technologies\/\">hab\u00edan invertido 1.000 millones de d\u00f3lares<\/a>\u00a0en la compa\u00f1\u00eda dirigida por\u00a0<a href=\"https:\/\/www.xataka.com\/empresas-y-economia\/quien-sam-altman-mente-empresarial-openai-chatgpt-dall-e-hombre-negocios-precoz-ia\">Sam Altman<\/a>\u00a0en 2019 y, al ver lo que estaba sucediendo, volvieron a sacar la chequera,\u00a0<a href=\"https:\/\/www.xataka.com\/empresas-y-economia\/sabemos-cuanto-desea-microsoft-a-openai-suficiente-como-para-pagar-10-000-millones-dolares-semafor\">esa vez por 10.000 millones de d\u00f3lares<\/a>.<\/p>\n<h2>El gran cambio de Meta<\/h2>\n<p>A todo esto, Meta segu\u00eda quemando una fortuna en el\u00a0<a href=\"https:\/\/www.xataka.com\/basics\/que-metaverso-que-posibilidades-ofrece-cuando-sera-real\">metaverso<\/a>, una idea a largo plazo que se presentaba con numerosos desaf\u00edos. Para alcanzar los resultados deseados hac\u00edan falta\u00a0<a href=\"https:\/\/www.xataka.com\/empresas-y-economia\/meta-ha-descubierto-que-metaverso-necesita-tecnologia-que-no-existe-se-va-a-gastar-dineral-crearla\">importantes avances en en el campo de la realidad virtual y aumentada<\/a>. Se ten\u00eda que desarrollar un modelo de negocio s\u00f3lido. Y, por \u00faltimo,\u00a0<a href=\"https:\/\/www.xataka.com\/empresas-y-economia\/meta-pierde-otros-3-000-millones-dolares-metaverso-zuckerberg-dice-que-sera-emocionante-2030\">tardar\u00eda a\u00f1os en ser rentable<\/a>.<\/p>\n<p>Las oportunidades, aparentemente, estaban en el mundo de la inteligencia artificial, pero en el m\u00e1s alto nivel. Y no es que la compa\u00f1\u00eda de redes sociales no hubiera tenido experiencia en este sector, por ejemplo, sus sistemas de\u00a0<strong>recomendaci\u00f3n de contenidos<\/strong>\u00a0y su plataforma publicitaria se sostienen principalmente por algoritmos avanzados.<\/p>\n<div class=\"article-asset-video article-asset-normal\">\n<div class=\"asset-content\">\n<div class=\"\">\n<div class=\"js-dailymotion\">\n<div class=\"dailymotion-player-root dailymotion-player-xbl2m\">\n<div class=\"dailymotion-player-wrapper\"><\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<p>Sino que su capacidad para demostrar avances significativos para desarrollar modelos de lenguaje de pr\u00f3xima generaci\u00f3n estaba un paso atr\u00e1s.\u00a0<a href=\"https:\/\/www.reuters.com\/technology\/meta-announces-ai-training-inference-chip-project-2023-05-18\/\">Seg\u00fan documentos vistos por Reuters<\/a>, la infraestructura de la compa\u00f1\u00eda necesitaba cambios sustanciales para ponerse al d\u00eda mientras el uso en producci\u00f3n de un chip de IA propio no cuajaba del todo.<\/p>\n<p>Las filtraciones se\u00f1alan que el golpe de tim\u00f3n definitivo se concret\u00f3 a finales del verano de 2022, pero ahora es cuando empezamos a ver los resultados. Aunque Meta\u00a0<a href=\"https:\/\/www.xataka.com\/empresas-y-economia\/meta-pierde-4-000-millones-dolares-metaverso-zuckerberg-seguimos-muy-comprometidos\">asegura que sigue comprometida con el metaverso<\/a>, demuestra claramente un\u00a0<strong>fuerte enfoque hacia la IA<\/strong>, con proyectos que incluyen a los algoritmos generativos y m\u00e1s all\u00e1.<\/p>\n<p>Este jueves,\u00a0<a href=\"https:\/\/www.facebook.com\/zuck\/posts\/pfbid037jMmiA6s8pM5n1145FiYhWZJSAZ1EQ5E8z43qPJT7pJxKe1VPaxb1WqusNkj8i7Bl\">Zuckerberg ha dado a conocer<\/a>\u00a0cuatro novedades pensadas para \u201cimpulsar las nuevas experiencias\u201d de inteligencia artificial de Meta. Ha abierto el tel\u00f3n para exhibir la actualizaci\u00f3n de su centro de datos de IA existente, el Research SuperCluster, un nuevo chip de dise\u00f1o propio, el dise\u00f1o de un nuevo centro de datos y un asistente de programaci\u00f3n. Nos enfocaremos en los tres primeros.<\/p>\n<h2>Centro de datos propio, con tecnolog\u00eda de NVIDIA<\/h2>\n<p>En enero del a\u00f1o pasado nos enteramos que Meta estaba desarrollado desde hace m\u00e1s de un a\u00f1o un\u00a0<strong>centro de datos de IA<\/strong>\u00a0que promet\u00eda convertirse en uno de los m\u00e1s potentes de su tipo. Al igual que muchos proyectos de similares caracter\u00edsticas, la construcci\u00f3n del denominado\u00a0<a href=\"https:\/\/ai.facebook.com\/blog\/ai-rsc\/\">AI Research SuperCluster (SRC)<\/a>\u00a0se planific\u00f3 de manera gradual y por etapas.<\/p>\n<p>La segunda fase del SRC, que estaba programada para entrar en funcionamiento a mediados de 2022, acaba de ser finalizada. Meta ha hecho algunos ajustes en su diagrama para intentar alcanzar casi 5 ExaFLOPS de potencia de c\u00e1lculo a pleno funcionamiento. Todo esto gracias a un enraizado y car\u00edsimo hardware desarrollado por NVIDIA.<\/p>\n<div class=\"article-asset-video article-asset-normal\">\n<div class=\"asset-content\">\n<div class=\"\">\n<div class=\"js-dailymotion\">\n<div class=\"dailymotion-player-root dailymotion-player-xbl2m\">\n<div class=\"dailymotion-player-wrapper\"><\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<p>En este ambicioso centro de datos de la compa\u00f1\u00eda de Menlo Park encontramos 2.000 sistemas\u00a0<a href=\"https:\/\/images.nvidia.com\/aem-dam\/Solutions\/Data-Center\/nvidia-dgx-a100-datasheet.pdf\">NVIDIA DGX A100<\/a>\u00a0que incorporan 16.000 potentes\u00a0<strong>unidades de procesamiento gr\u00e1fico<\/strong>\u00a0<a href=\"https:\/\/www.xataka.com\/componentes\/nvidia-a100-gpu-bestial-54-000-millones-transistores-40-gb-memoria-hbm2-no-para-ti\">NVIDIA A100<\/a>\u00a0lanzada en 2020. Todo esto bajo el paraguas del sistema de interconexi\u00f3n de alto rendimiento NVIDIA Quantum InfiniBand de 16 Tb\/s.<\/p>\n<p>Como decimos, el SRC se encuentra en funcionamiento desde hace tiempo, por lo que ha sido utilizado por la compa\u00f1\u00eda para diferentes proyectos de investigaci\u00f3n. Entre ellos encontramos a\u00a0<a href=\"https:\/\/www.xataka.com\/basics\/que-llama-como-funciona-que-sabemos-inteligencia-artificial-meta\">LLaMA<\/a>, el gran modelo de lenguaje que fue anunciado al p\u00fablico a principios de este a\u00f1o. \u00a0\u00a0Una especie de competencia a los sistemas generativos GPT de OpenAI.<\/p>\n<p>Se espera que este centro de datos, con la actualizaci\u00f3n que acaba de recibir, se convierta en uno de los\u00a0<strong>protagonistas de los pr\u00f3ximos pasos<\/strong>\u00a0de Meta. La compa\u00f1\u00eda asegura que lo seguir\u00e1 utilizando para entrenar modelos de lenguaje e incluso explorar otras \u00e1reas de la IA generativo. Adem\u00e1s, asegura, ser\u00e1 clave para la construcci\u00f3n del metaverso.<\/p>\n<h2>Un nuevo enfoque, \u2018made in Meta\u2019<\/h2>\n<p>Como decimos, la infraestructura de IA operativa de Meta en estos momentos se basa en NVIDIA, compa\u00f1\u00eda que se ha convertido en una de las grandes ganadoras de la carrera en este campo. Siguiendo los pasos de Google opt\u00f3 por empezar a desarrollar su propio chip de alto rendimiento para centros de datos de IA con un enfoque muy espec\u00edfico.<\/p>\n<div class=\"article-asset-image article-asset-normal article-asset-center\">\n<div class=\"asset-content\">\n<div class=\"base-wrapper-image\"><\/div>\n<\/div>\n<\/div>\n<p>Las soluciones basadas en GPU (Unidad de Procesamiento Gr\u00e1fico) suelen ser la elecci\u00f3n adecuada para los centros de datos por su capacidad para realizar\u00a0<strong>m\u00faltiples hilos de trabajo<\/strong>\u00a0simult\u00e1neamente, entre otras caracter\u00edsticas, por supuesto. Meta\u00a0<a href=\"https:\/\/ai.facebook.com\/blog\/meta-training-inference-accelerator-AI-MTIA\/\">cuenta en una publicaci\u00f3n de blog<\/a>\u00a0que lleg\u00f3 a la conclusi\u00f3n que no son adecuadas en todos los \u00e1mbitos.<\/p>\n<p>Si bien estas juegan un papel fundamental en los centros de datos dedicados al entrenamiento de modelos de IA, seg\u00fan la compa\u00f1\u00eda de redes sociales, no son tan eficientes en el proceso de inferencia. Para poner un poco de contexto, la inferencia es la segunda fase del proceso de aprendizaje autom\u00e1tico, la que se presenta despu\u00e9s del entrenamiento.<\/p>\n<p>En el entrenamiento, como hemos mencionado antes, el modelo aprende de los datos y se ajustan sus par\u00e1metros para que brinde respuestas en un proceso que demanda mucho\u00a0<strong>tiempo y capacidad de c\u00e1lculo<\/strong>. En la inferencia se pone en pr\u00e1ctica lo aprendido dando respuestas, pero con una fracci\u00f3n de la potencia utilizada en el entrenamiento.<\/p>\n<div class=\"article-asset-summary article-asset-normal article-asset-center\">\n<div class=\"asset-content\">\n<div class=\"sumario\">CPU mejor que GPU para el proceso de inferencia<\/div>\n<\/div>\n<\/div>\n<p>Partiendo de esta premisa, Meta cambi\u00f3 su enfoque. En lugar de utilizar sistemas basados en GPU para los procesos de inferencia, apost\u00f3 por utilizar CPU (Unidad Central de Procesamiento). Esto signific\u00f3 una oportunidad para desarrollar su propia familia de chips llamados Meta Training and Inference Accelerator (MTIA) espec\u00edficos para la inferencia.<\/p>\n<p>Si bien este proyecto tiene su origen en 2020, ahora es cuando la compa\u00f1\u00eda ha decidido hablar p\u00fablicamente de \u00e9l. Y esto llega con algunos datos t\u00e9cnicos interesantes. Estamos frente a chips fabricados bajo el proceso de\u00a0<strong>fotolitograf\u00eda de 7 nan\u00f3metros de TSMC<\/strong>\u00a0cuyo TDP es de 25 W. Est\u00e1 dise\u00f1ado para soportar hasta 128 GB de memoria.<\/p>\n<p>Cada CPU est\u00e1 montado en placas M.2 que se conectan a trav\u00e9s de ranuras PCIe Gen4 x8. Recordemos que los centros de datos tienen m\u00faltiples de estos chips que funcionan al un\u00edsono para ofrecer elevados niveles de potencia de c\u00e1lculo. Estas caracter\u00edsticas, mencionadas a grandes rasgos, no son definitivas y siguen evolucionando.<\/p>\n<p>Desconocemos cu\u00e1nto entrar\u00e1n en juego estos chips desarrollados por Meta y fabricados por TSMC, pero el siguiente punto puede servirnos de gu\u00eda. La compa\u00f1\u00eda ya est\u00e1 trabajando en sus\u00a0<strong>centros de datos de pr\u00f3xima generaci\u00f3n<\/strong>, que complementar\u00e1n el trabajo del SRC. Precisamente, el coraz\u00f3n de estos data center ser\u00e1n los chips MTIA.<\/p>\n<p>Meta asegura que controlar de ra\u00edz los componentes f\u00edsicos y de software de sus pr\u00f3ximos centros de datos se traduce en una \u201cexperiencia de extremo a extremo\u201d que les permitir\u00e1 mejorar sustancialmente su capacidad de centros de datos, aunque no menciona fechas. Eso s\u00ed, recordemos que estamos en medio de una carrera.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Cuando Facebook, Inc.\u00a0se convirti\u00f3 en Meta Platforms, Inc.\u00a0en octubre de 2021, a menos que tuviese la extraordinaria capacidad de vislumbrar el futuro, Mark Zuckerberg posiblemente no se imaginaba que su ambiciosa\u00a0apuesta por el metaverso\u00a0se topar\u00eda con un obst\u00e1culo monumental aproximadamente un a\u00f1o m\u00e1s tarde. En noviembre de 2022\u00a0OpenAI present\u00f3 ChatGPT\u00a0y en cuesti\u00f3n de d\u00edas casi &hellip;<\/p>\n","protected":false},"author":0,"featured_media":56866,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-56865","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/05\/450_1000-ABpxab.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/56865","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=56865"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/56865\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/56866"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=56865"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=56865"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=56865"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}