{"id":57497,"date":"2023-05-29T19:12:37","date_gmt":"2023-05-30T01:12:37","guid":{"rendered":"https:\/\/mickyandoniehn.com\/radio\/2023\/05\/29\/nvidia-apunta-a-ser-invencible-en-hardware-para-ia-asi-es-el-monstruoso-dgx-gh200-para-entrenar-modelos-gigantes\/"},"modified":"2023-05-29T19:12:37","modified_gmt":"2023-05-30T01:12:37","slug":"nvidia-apunta-a-ser-invencible-en-hardware-para-ia-asi-es-el-monstruoso-dgx-gh200-para-entrenar-modelos-gigantes","status":"publish","type":"post","link":"http:\/\/mickyandoniehn.com\/radio\/2023\/05\/29\/nvidia-apunta-a-ser-invencible-en-hardware-para-ia-asi-es-el-monstruoso-dgx-gh200-para-entrenar-modelos-gigantes\/","title":{"rendered":"NVIDIA apunta a ser invencible en hardware para IA: as\u00ed es el monstruoso DGX GH200 para entrenar \u201cmodelos gigantes\u201d"},"content":{"rendered":"<\/p>\n

NVIDIA no se conforma con ser una de las\u00a0grandes ganadoras<\/a>\u00a0del auge de la inteligencia artificial (IA). La compa\u00f1\u00eda estadounidense sigue apostando por seguir desarrollando su modelo de negocio m\u00e1s all\u00e1 de las soluciones gr\u00e1ficas orientadas a los\u00a0usuarios individuales<\/strong>\u00a0como nosotros. Es decir, apunta a consolidar su papel de tecnol\u00f3gica l\u00edder en el campo de la computaci\u00f3n de alto rendimiento (HPC).<\/p>\n

Las se\u00f1ales sobre lo que marca el ritmo de la evoluci\u00f3n de NVIDIA como compa\u00f1\u00eda\u00a0nos llegan directamente desde Taip\u00e9i<\/a>, en Taiw\u00e1n, donde se est\u00e1 desarrollando el\u00a0COMPUTEX<\/a>, uno de los eventos tecnol\u00f3gicos m\u00e1s importantes del a\u00f1o. All\u00ed, el m\u00e1ximo responsable de la compa\u00f1\u00eda estadounidense, Jen-Hsun Huang, ha anunciado importantes novedades relacionadas a la IA que no han pasado desapercibidas.<\/p>\n

NVIDIA Grace Hopper Superchip, en camino<\/h2>\n

No es ning\u00fan secreto que vivimos en un mundo que demanda centros de datos cada vez m\u00e1s potentes. Ahora bien, como estos complejos sistemas inform\u00e1ticos est\u00e1n constituidos por una amplia variedad de componentes, hay varios caminos para\u00a0mejorar su rendimiento<\/strong>. Uno de ellos, por ejemplo, es optimizar la comunicaci\u00f3n entre estos mediante la implementaci\u00f3n de arquitecturas de interconexi\u00f3n mejoradas.<\/p>\n

\n
\n
\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

En este sentido, NVIDIA ha iniciado la producci\u00f3n del Grace Hopper Superchip GH200, una soluci\u00f3n que combina la CPU con arquitectura Grace (con 72 n\u00facleos ARM y hasta 480 GB de memoria LPDDR5X) con la mastod\u00f3nticas\u00a0GPU H100<\/a>\u00a0con arquitectura Hopper (con 528 n\u00facleos Tensor y 80 GB de memoria HBM3). Todo esto, interconectado con el sistema NVLink-C2C de alta eficiencia del mismo fabricante.<\/p>\n

Cabe se\u00f1alar el prometedor avance de del mencionado \u201csuperchip\u201d. Si estableci\u00e9ramos una configuraci\u00f3n de una CPU Grace con una GPU H100 conectadas con\u00a0PCIe tradicional<\/strong>, el rendimiento generalizado ser\u00eda sustancialmente inferior que esta propuesta combinada. NVLink-C2C, seg\u00fan promete el fabricante, permite aumentar el ancho de banda entre la CPU y la GPU unas siete veces en comparaci\u00f3n con PCIe.<\/p>\n

\n
\n
\n
<\/div>\n

Los 24 racks que alojan a los 256 superchips GH200 del DGX GH200<\/p>\n<\/div>\n<\/div>\n<\/div>\n

Pero esto no es todo, como decimos, la apuesta por el mundo HPC de NVIDIA parece ir en serio. As\u00ed, los dirigidos por Jen-Hsun han anunciado la implementaci\u00f3n de Grace Hopper Superchip GH200 en soluci\u00f3n DGX a la que han llamado \u201csupercomputador\u201d. Y esta definici\u00f3n tiene sentido, porque no se trata de un nodo est\u00e1ndar de un centro de datos, sino de un aut\u00e9ntico cl\u00faster de alto rendimiento.<\/p>\n

Estamos hablando del DGX GH200 AI: Grace Hopper, descomunal pieza de alta tecnolog\u00eda (orientada a entrenar \u00abmodelos gigantes\u00bb de IA) que se compone de\u00a0256 superchips GH200<\/strong>\u00a0interconectados mediante el sistema NVLink, que promete hasta 48 veces m\u00e1s ancho de banda que la misma configuraci\u00f3n basada en la generaci\u00f3n anterior. \u00bfEl resultado? 144 TB de memoria combinada y 1 ExaFLOP de rendimiento.<\/p>\n

\n
\n
\n
\n
\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

NVIDIA ya ha perfilado a quienes ser\u00e1n los principales clientes del sistema DGX GH200 AI: Grace Hopper. En concreto, Google, Meta y Microsoft est\u00e1n esperando para empezar a utilizar el sistema cuando este disponible para tareas de IA a finales de este a\u00f1o. Aunque claro, en teor\u00eda tambi\u00e9n podr\u00eda acceder a \u00e9l cualquier otra compa\u00f1\u00eda capaz de pagarlo. Y si bien no sabemos su precio, ciertamente no ser\u00e1 nada barato.<\/p>\n

Fuente: Xataka.com<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"

NVIDIA no se conforma con ser una de las\u00a0grandes ganadoras\u00a0del auge de la inteligencia artificial (IA). La compa\u00f1\u00eda estadounidense sigue apostando por seguir desarrollando su modelo de negocio m\u00e1s all\u00e1 de las soluciones gr\u00e1ficas orientadas a los\u00a0usuarios individuales\u00a0como nosotros. Es decir, apunta a consolidar su papel de tecnol\u00f3gica l\u00edder en el campo de la computaci\u00f3n …<\/p>\n","protected":false},"author":0,"featured_media":57498,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-57497","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"http:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/05\/450_1000-WKcrUC.png","_links":{"self":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/57497","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=57497"}],"version-history":[{"count":0,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/57497\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/57498"}],"wp:attachment":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=57497"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=57497"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=57497"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}