{"id":53041,"date":"2023-03-23T12:12:46","date_gmt":"2023-03-23T18:12:46","guid":{"rendered":"https:\/\/mickyandoniehn.com\/radio\/2023\/03\/23\/con-35-000-euros-te-puedes-comprar-un-cochazo-o-entrenar-a-tu-propio-chatgpt-durante-un-mes\/"},"modified":"2023-03-23T12:12:46","modified_gmt":"2023-03-23T18:12:46","slug":"con-35-000-euros-te-puedes-comprar-un-cochazo-o-entrenar-a-tu-propio-chatgpt-durante-un-mes","status":"publish","type":"post","link":"https:\/\/mickyandoniehn.com\/radio\/2023\/03\/23\/con-35-000-euros-te-puedes-comprar-un-cochazo-o-entrenar-a-tu-propio-chatgpt-durante-un-mes\/","title":{"rendered":"Con 35.000 euros te puedes comprar un cochazo\u2026 O entrenar a tu propio ChatGPT durante un mes"},"content":{"rendered":"<\/p>\n

La revoluci\u00f3n planteada por\u00a0ChatGPT<\/a>\u00a0no sale barata: hace unos d\u00edas supimos que Microsoft invirti\u00f3\u00a0cientos de millones de d\u00f3lares<\/a>\u00a0en comprar tarjetas gr\u00e1ficas\u00a0NVIDIA A100<\/a>\u00a0para que OpenAI pudiera entrenar su modelo y luego integrarlo en Bing. Parec\u00eda por tanto que solo las grandes empresas podr\u00edan acceder a crear su propio ChatGPT, pero las cosas han cambiado.<\/p>\n

NVIDIA DGX Cloud<\/strong>. Esta empresa\u00a0acaba de anunciar<\/a>\u00a0este servicio que te permite alquilar versiones virtuales de sus servidores DGX, cada uno de los cuales cuenta con ocho NVIDIA H100 o A100 y 640 GB de memoria. Si el cliente lo necesita, el servicio puede escalar hasta las 32.000 GPUs, pero casi es mejor no pensar en el coste de esa opci\u00f3n porque la b\u00e1sica con esas ocho gr\u00e1ficas de alto rendimiento sale muy, muy caro. NVIDIA tiene aqu\u00ed\u00a0un potencial fil\u00f3n<\/a>.<\/p>\n

35.000 euros al mes<\/strong>. M\u00e1s o menos eso (36.999 d\u00f3lares) es lo que cuesta un mes de alquiler del servicio b\u00e1sico con las NVIDIA A100. Esa opci\u00f3n, aseguran en NVIDIA, permitir\u00e1 al cliente que opte por ella tener \u00abacceso reservado a jornada completa\u00bb a esas GPUs que alquila y que no tendr\u00e1 que compartir con nadie. Un servidor DGX ronda los 200.000 d\u00f3lares, por ejemplo.<\/p>\n

Entrenar modelos cuesta una fortuna<\/strong>. La inversi\u00f3n que Microsoft hizo para entrenar a Bing con ChatGPT y que \u00abingiriera\u00bb enormes cantidades de datos para luego \u00abaprender\u00bb de ellos es enorme, pero ya se sab\u00eda que este tipo de procesos tienen un alt\u00edsimo coste. El a\u00f1o pasado Google nos hablaba de\u00a0su modelo PaLM<\/a>, con 540.000 millones de par\u00e1metros (cuantos m\u00e1s, m\u00e1s preciso y mejor se comporta el modelo), y seg\u00fan algunas estimaciones entrenarlo cost\u00f3\u00a0entre 9 y 23 millones de d\u00f3lares<\/a>. El modelo\u00a0LLaMA de Meta<\/a>, por ejemplo, fue entrenado durante 21 d\u00edas en 2.048 GPUs NVIDIA A100, lo que\u00a0arroja un coste<\/a>\u00a0de unos cuatro millones de d\u00f3lares.\u00a0Otros estudios<\/a>\u00a0arrojan\u00a0cifras similares<\/a>\u00a0para moderlos con unos 175.000 millones de par\u00e1metros.<\/p>\n

Poco a poco surgen opciones<\/strong>. Sin embargo el servicio de NVIDIA da acceso a que cualquiera con los recursos suficientes \u2014sin que sea necesario ser una Microsoft\u2014 pueda crearse y entrenar su propio ChatGPT. MosaicML, una empresa especializada en este \u00e1mbito, ofrec\u00eda hace meses un proceso para crear un chatbot con la calidad de GPT-3\u00a0por menos de 500.000 d\u00f3lares<\/a>.<\/p>\n

\n
\n
\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Sembrar para recoger<\/strong>. Esa enorme inversi\u00f3n en el entrenamiento de estos modelos es la que hace que l\u00f3gicamente ahora empresas como OpenAI, que nacieron con una filosof\u00eda abierta y sin \u00e1nimo de lucro, hayan cambiado totalmente a un modelo de negocio\u00a0con mucho secretismo<\/a>\u00a0y en el que los ingresos probablemente crecer\u00e1n de forma notable, sobre todo con el lanzamiento de\u00a0GPT-4<\/a>\u00a0y de\u00a0su API<\/a>. Microsoft, que anunci\u00f3 su Copilot para su plataforma Microsoft 365, lo ofrecer\u00e1\u00a0como una vertiente de alto coste<\/a>\u00a0para las empresas que quieran aprovechar estas capacidades en las aplicaciones y servicios de esa suite.<\/p>\n","protected":false},"excerpt":{"rendered":"

La revoluci\u00f3n planteada por\u00a0ChatGPT\u00a0no sale barata: hace unos d\u00edas supimos que Microsoft invirti\u00f3\u00a0cientos de millones de d\u00f3lares\u00a0en comprar tarjetas gr\u00e1ficas\u00a0NVIDIA A100\u00a0para que OpenAI pudiera entrenar su modelo y luego integrarlo en Bing. Parec\u00eda por tanto que solo las grandes empresas podr\u00edan acceder a crear su propio ChatGPT, pero las cosas han cambiado. NVIDIA DGX Cloud. …<\/p>\n","protected":false},"author":0,"featured_media":53042,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-53041","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/03\/450_1000-AaPYK8.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/53041","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=53041"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/53041\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/53042"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=53041"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=53041"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=53041"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}