{"id":64691,"date":"2023-11-14T19:12:40","date_gmt":"2023-11-15T01:12:40","guid":{"rendered":"http:\/\/mickyandoniehn.com\/radio\/2023\/11\/14\/nvidia-que-aun-no-tiene-un-rival-en-hardware-para-ia-acaba-de-anunciar-la-gpu-mas-potente-del-mundo-asi-es-la-h200\/"},"modified":"2023-11-14T19:12:40","modified_gmt":"2023-11-15T01:12:40","slug":"nvidia-que-aun-no-tiene-un-rival-en-hardware-para-ia-acaba-de-anunciar-la-gpu-mas-potente-del-mundo-asi-es-la-h200","status":"publish","type":"post","link":"https:\/\/mickyandoniehn.com\/radio\/2023\/11\/14\/nvidia-que-aun-no-tiene-un-rival-en-hardware-para-ia-acaba-de-anunciar-la-gpu-mas-potente-del-mundo-asi-es-la-h200\/","title":{"rendered":"NVIDIA, que a\u00fan no tiene un rival en hardware para IA, acaba de anunciar \u201cla GPU m\u00e1s potente del mundo\u201d: as\u00ed es la H200"},"content":{"rendered":"<\/p>\n<p>La mayor\u00eda de nosotros reconocemos a NVIDIA por su tarjetas gr\u00e1ficas para gaming, como las ambiciosas\u00a0<a href=\"https:\/\/www.xataka.com\/analisis\/nvidia-geforce-rtx-4090-analisis-caracteristicas-precio-especificaciones\">GeForce RTX 4090<\/a>\u00a0y\u00a0<a href=\"https:\/\/www.xataka.com\/analisis\/nvidia-geforce-rtx-4080-analisis-caracteristicas-precio-especificaciones\">GeForce RTX 4080<\/a>. La firma estadounidense, sin embargo, tiene una l\u00ednea de productos enfocada en la\u00a0<strong>computaci\u00f3n de alto rendimiento<\/strong>\u00a0que ha crecido notablemente con el auge de la inteligencia artificial (IA).<\/p>\n<p>En la actualidad, los dirigidos por Jen-Hsun Huang,\u00a0<a href=\"https:\/\/www.xataka.com\/empresas-y-economia\/jensen-huang-ceo-nvidia-ha-creado-nuevo-look-multimillonario-chaqueta-cuero\">el CEO de la chaqueta de cuero<\/a>, son los l\u00edderes de este mercado. Si una compa\u00f1\u00eda necesita entrenar modelos de IA es muy posible que opte por el hardware de NVIDIA. Ahora, aparentemente con el objetivo de mantener esta posici\u00f3n de liderazgo, el fabricante acaba de anunciar una nueva GPU para IA:\u00a0<a href=\"https:\/\/resources.nvidia.com\/en-us-grace-cpu\/nvidia-grace-hopper\">la NVIDIA H200<\/a>.<\/p>\n<h2>Una GPU bestial para entrenar los modelos de IA del futuro<\/h2>\n<p>Cada vez que utilizamos\u00a0<a href=\"https:\/\/www.xataka.com\/basics\/chatgpt-plus-que-que-caracteristicas-tiene-cuanto-cuesta-version-pago-esta-inteligencia-artificial\">ChatGPT Plus<\/a>\u00a0o\u00a0<a href=\"https:\/\/www.xataka.com\/basics\/bing-chatgpt-que-como-funciona-que-puedes-hacer-chat-inteligencia-artificial-buscador\">Bing Chat<\/a>, por mencionar un ejemplo, estamos benefici\u00e1ndonos de las capacidades de\u00a0<a href=\"https:\/\/www.xataka.com\/nuevo\/gpt-4-que-cuando-sale-como-funciona-toda-informacion\">GPT-4<\/a>, un modelo entrenado en los\u00a0<a href=\"https:\/\/www.xataka.com\/ordenadores\/que-sabemos-increible-supercomputador-microsoft-que-hizo-posible-gpt-4-hace-funcionar-a-chatgpt\">centros de datos de Microsoft Azure<\/a>\u00a0equipados con\u00a0<strong>potentes gr\u00e1ficas<\/strong>\u00a0<a href=\"https:\/\/www.xataka.com\/componentes\/nvidia-a100-gpu-bestial-54-000-millones-transistores-40-gb-memoria-hbm2-no-para-ti\">NVIDIA A100<\/a>\u00a0y\u00a0<a href=\"https:\/\/www.xataka.com\/componentes\/nueva-nvidia-h100-gpu-mastodontica-80-000-millones-transistores-no-para-ti\">NVIDIA H100<\/a>. El anuncio de este lunes trae la evoluci\u00f3n de esta \u00faltima.<\/p>\n<p>Estamos frente a una GPU de arquitectura Hopper con 141 GB de VRAM HBM3E (la primera en alcanzar tal capacidad) con un ancho de banda\u00a0<strong>de hasta 4,8TB\/s<\/strong>. Lo que ha hecho NVIDIA es dar un salto notable en relaci\u00f3n a la generaci\u00f3n anterior. La H100 tiene 80 GB de VRAM HBM3E con un ancho de banda de 3,35TB\/s.<\/p>\n<p>A nivel de rendimiento, la NVIDIA H200 bajo la interfaz SXM promete alcanzar 3,958 teraFLOPS en FP8 (punto flotante de 8 bits para Transformer Engine). \u00bfEn qu\u00e9 se traduce esto? Al menos sobre el papel, en el doble de rendimiento el tareas de inferencia en modelos largos de lenguaje (LLM) tan utilizados hoy en relaci\u00f3n a la H100.<\/p>\n<div class=\"article-asset-image article-asset-normal article-asset-center\">\n<div class=\"asset-content\"><\/div>\n<\/div>\n<p>En concreto, las pruebas con la nueva GPU para IA se\u00f1alan que las tareas de inferencia en\u00a0<a href=\"https:\/\/www.xataka.com\/basics\/descargar-llama-2-windows-como-solicitar-descarga-ia-meta\">Llama 2<\/a>\u00a070B pueden realizarse hasta 1,9 veces m\u00e1s r\u00e1pido. Lo mismo en GPT-3 175B es de\u00a0<strong>1,6 veces m\u00e1s r\u00e1pido<\/strong>. La inferencia es el momento en el que el modelo compara la consulta de los usuarios con su entrenamiento.<\/p>\n<p>Las mejoras a nivel de ancho de banda, explican, se traducir\u00e1n en reducir los cuellos de botella de escenarios de procesamiento complejos. Asimismo, abrir\u00e1 la puerta a mejorar la performance de la tarjeta gr\u00e1fica en una amplia variedad de tareas exigentes que van m\u00e1s all\u00e1 de la IA, como las simulaciones.<\/p>\n<p>Recordemos que NVIDIA ofrecer\u00e1 su soluci\u00f3n de hardware H100 de diversas maneras. Por un lado tenemos la CPU de manera individual, como hemos visto en el art\u00edculo, pero tambi\u00e9n tendremos<strong>\u00a0el sistema HGX H200<\/strong>. Este es m\u00e1s que la GPU \u00fanicamente. Se trata de una soluci\u00f3n que integrada varias tecnolog\u00edas.<\/p>\n<div class=\"article-asset-image article-asset-normal article-asset-center\">\n<div class=\"asset-content\"><\/div>\n<\/div>\n<p>La NVIDIA HGX H200 combina la potencia de la GPU en cuesti\u00f3n con las interconexiones de alta velocidad NVLink y NVIDIA InfiniBand para ser aplicada en los centros de datos. Las NVIDIA HGX H200 llegar\u00e1n en configuraciones de cuatro y ocho v\u00edas y ser\u00e1n compatibles con el hardware existente HGX de las H100.<\/p>\n<p>Por ejemplo, un HGX H200 de ocho v\u00edas promete brindar m\u00e1s de 32 petaFLOPS en FP8 y hasta 1,1 TB de memoria con ancho de banda de alto rendimiento. Estamos frente a una\u00a0<strong>potencia de c\u00e1lculo descomunal\u00a0<\/strong>que, en combinada con otros sistemas HGX forman supercomputadores capaces de manejar los modelos de IA m\u00e1s grandes.<\/p>\n<p>Divisiones de empresas como Amazon Web Services, Google Cloud, Microsoft Azure y Oracle Cloud Infrastructure ya han reservado sus HGX H200 para alimentar su infraestructura y entrenar los modelos del futuro. Tendr\u00e1n que espera para empezar a utilizarlas. NVIDIA empezar\u00e1 a distribuir su nuevo producto el pr\u00f3ximo a\u00f1o.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>La mayor\u00eda de nosotros reconocemos a NVIDIA por su tarjetas gr\u00e1ficas para gaming, como las ambiciosas\u00a0GeForce RTX 4090\u00a0y\u00a0GeForce RTX 4080. La firma estadounidense, sin embargo, tiene una l\u00ednea de productos enfocada en la\u00a0computaci\u00f3n de alto rendimiento\u00a0que ha crecido notablemente con el auge de la inteligencia artificial (IA). En la actualidad, los dirigidos por Jen-Hsun Huang,\u00a0el &hellip;<\/p>\n","protected":false},"author":0,"featured_media":64692,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-64691","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/11\/500_333-dCROvz.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/64691","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=64691"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/64691\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/64692"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=64691"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=64691"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=64691"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}