{"id":57536,"date":"2023-05-30T10:12:36","date_gmt":"2023-05-30T16:12:36","guid":{"rendered":"https:\/\/mickyandoniehn.com\/radio\/2023\/05\/30\/el-creador-de-chatgpt-alerta-el-riesgo-de-extincion-por-la-ia-es-tan-severo-como-el-de-una-guerra-nuclear\/"},"modified":"2023-05-30T10:12:36","modified_gmt":"2023-05-30T16:12:36","slug":"el-creador-de-chatgpt-alerta-el-riesgo-de-extincion-por-la-ia-es-tan-severo-como-el-de-una-guerra-nuclear","status":"publish","type":"post","link":"https:\/\/mickyandoniehn.com\/radio\/2023\/05\/30\/el-creador-de-chatgpt-alerta-el-riesgo-de-extincion-por-la-ia-es-tan-severo-como-el-de-una-guerra-nuclear\/","title":{"rendered":"El creador de ChatGPT alerta: el riesgo de extinci\u00f3n por la IA es tan severo como el de una guerra nuclear"},"content":{"rendered":"<\/p>\n<p>Un nuevo d\u00eda, una nueva advertencia sobre c\u00f3mo la inteligencia artificial podr\u00eda destruirnos como civilizaci\u00f3n. Esta vez, llega desde un grupo de empresarios, expertos y cient\u00edficos top del sector, encabezados por\u00a0<strong>Sam Altman<\/strong>, el creador de ChatGPT. Los mismos han publicado un escueto comunicado aseverando que el potencial\u00a0<strong>\u00abriesgo de extinci\u00f3n\u00bb<\/strong>\u00a0que representa la\u00a0<strong>IA<\/strong>\u00a0deber\u00eda tratarse con la misma importancia que otros eventos catastr\u00f3ficos globales como una guerra nuclear.<\/p>\n<p>El mensaje en cuesti\u00f3n lleva la firma de personalidades notorias del mundo de la inteligencia artificial, pero llama la atenci\u00f3n por su brevedad. Son apenas una veintena de palabras que resume una expresi\u00f3n de preocupaci\u00f3n, m\u00e1s que un plan de acci\u00f3n espec\u00edfica para evitar la supuesta aniquilaci\u00f3n.<\/p>\n<p><strong>\u00abMitigar el riesgo de extinci\u00f3n por la IA deber\u00eda ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear\u00bb<\/strong>, dice el comunicado. El texto\u00a0<a href=\"https:\/\/www.safe.ai\/statement-on-ai-risk#open-letter\">se public\u00f3<\/a>\u00a0en la web del\u00a0<em>Center for AI Safety<\/em>, una organizaci\u00f3n sin fines de lucro. Aunque, siendo sinceros, hasta parece escrito por ChatGPT.<\/p>\n<p>Sin embargo, existe un motivo sobre el porqu\u00e9 de tan breve mensaje para expresar una advertencia tan grande. De acuerdo con el organismo, son muchas las partes que hoy est\u00e1n discutiendo los riesgos de la inteligencia artificial, incluyendo a expertos, legisladores, periodistas y el p\u00fablico en general. No obstante, consideran que es dif\u00edcil comunicar de forma sencilla y contundente los peligros m\u00e1s severos e inmediatos que trae consigo la tecnolog\u00eda. Con este mensaje, entonces, pretenden \u00ababrir la discusi\u00f3n\u00bb y dar a conocer qui\u00e9nes son los especialistas que se toman en serio esta problem\u00e1tica.<\/p>\n<p>Claro que Sam Altman no es el \u00fanico firmante de este mensaje. Adem\u00e1s del creador de ChatGPT, aparecen nombres como el de\u00a0<strong>Demmis Hassabis<\/strong>, CEO de Google Deepmind,\u00a0<strong>Dario Amodei<\/strong>, CEO de Anthropic,\u00a0<strong>Emad Mostaque<\/strong>, CEO de Stability AI o\u00a0<strong>Kevin Scott<\/strong>, jefe tecnol\u00f3gico de Microsoft. As\u00ed como investigadores de la talla de\u00a0<strong>Geoffrey Hinton<\/strong>,\u00a0<strong>Yoshua Bengio<\/strong>\u00a0y\u00a0<strong>Lex Fridman<\/strong>, entre muchos otros.<\/p>\n<p>\u00a0<\/p>\n<p>\u00a0<\/p>\n<h2 class=\"wp-block-heading\">\u00bfSon ChatGPT y otras IA un riesgo de extinci\u00f3n para la civilizaci\u00f3n?<\/h2>\n<p>Alina Constantin \/ Better Images of AI \/ Handmade A.I \/ CC-BY 4.0<\/p>\n<p>M\u00e1s all\u00e1 del curioso modo que han elegido los expertos para expresar su preocupaci\u00f3n por la IA, el comunicado invita a leer entre l\u00edneas. Lo que dicen no necesariamente significa que crean que Bard o ChatGPT sean capaces de convertirse en Skynet y desatar la rebeli\u00f3n de las m\u00e1quinas.<\/p>\n<p>No obstante, s\u00ed plantean que el impacto de la inteligencia artificial en la vida cotidiana de millones de personas no debe dejarse librado al azar. Por ende, consideran necesario estudiar e implementar las salvaguardas necesarias para que, en el futuro,<strong>\u00a0la IA no se pueda aplicar a m\u00e9todos destructivos cuya severidad est\u00e9 al mismo nivel de una guerra nuclear o una pandemia<\/strong>. Algo que, ciertamente, va de la mano con el debate sobre regular esta tecnolog\u00eda. Una discusi\u00f3n que incluso est\u00e1 siendo impulsada\u00a0<a href=\"https:\/\/hipertextual.com\/2023\/05\/ceo-openai-idea-regulacion-ia\">por los propios pesos pesados del sector<\/a>, como la startup de Sam Altman.<\/p>\n<p>En ese sentido, el comunicado publicado por el\u00a0<em>Center for AI Safety<\/em>\u00a0parece alejarse de la controversial carta abierta impulsada por Elon Musk. Esta \u00faltima\u00a0<a href=\"https:\/\/hipertextual.com\/2023\/03\/elon-musk-y-expertos-piden-pausar-el-desarrollo-de-modelos-de-ia-mas-potentes-que-gpt-4\">le apuntaba directamente a OpenAI<\/a>\u00a0y propon\u00eda frenar por 6 meses el desarrollo de modelos de lenguaje m\u00e1s poderosos que GPT-4. Los expertos que acompa\u00f1aban al magnate consideraban que la tecnolog\u00eda tras ChatGPT, Bing o Copilot X pod\u00eda traer \u00abefectos catastr\u00f3ficos para la sociedad\u00bb. Lo curioso del caso es que varios firmantes de aquella misiva, hoy tambi\u00e9n acompa\u00f1an el nuevo comunicado.<\/p>\n<h2 class=\"wp-block-heading\">Los riesgos de la IA<\/h2>\n<p>Image by Alan Warburton \/ \u00a9 BBC \/ Better Images of AI \/ Social Media \/ CC-BY 4.0<\/p>\n<p>Pese a lo escueto del comunicado impulsado por el creador de ChatGPT y las principales mentes del mundo de la IA, ya existe mucha documentaci\u00f3n sobre los riesgos de esta tecnolog\u00eda. De hecho, el\u00a0<em>Center for AI Safety<\/em>\u00a0<a href=\"https:\/\/www.safe.ai\/ai-risk\">ha recopilado<\/a>\u00a0algunos ejemplos sobre c\u00f3mo la inteligencia artificial podr\u00eda utilizarse para fines nefarios. Algunos son de potencial aplicaci\u00f3n actual, en tantos que otros apuntan m\u00e1s hacia el futuro.<\/p>\n<p>En tal sentido,\u00a0<strong>se menciona la posibilidad de convertir a la IA en un arma<\/strong>. \u00abLos m\u00e9todos de aprendizaje de refuerzo profundo ya se han aplicado al combate a\u00e9reo, y las herramientas de aprendizaje autom\u00e1tico para el descubrimiento de drogas podr\u00edan usarse para construir armas qu\u00edmicas\u00bb, explican. Adem\u00e1s,\u00a0<strong>se habla del uso de la tecnolog\u00eda para desinformar<\/strong>. Algo que ya hemos visto en recientemente con las fotos del\u00a0<a href=\"https:\/\/hipertextual.com\/2023\/05\/el-mayor-peligro-de-la-ia-son-los-deepfakes-asegura-microsoft\">supuesto arresto de Donald Trump<\/a>\u00a0o\u00a0<a href=\"https:\/\/hipertextual.com\/2023\/05\/imagenes-ia-ministra-de-sanidad-de-japon-falsas\">la falsa ministra de Sanidad de Jap\u00f3n<\/a>.<\/p>\n<p>Otro peligro que supone la inteligencia artificial es que los sistemas m\u00e1s competentes puedan\u00a0<strong>concentrar mucho poder en un grupo muy peque\u00f1o de personas<\/strong>. Algo que, de hecho, ya se le ha criticado a OpenAI tras el furor de herramientas como Dall-E y ChatGPT. Al punto tal que Sam Altman desminti\u00f3 que su tecnolog\u00eda est\u00e9 evolucionando sin control, y asegur\u00f3 que hoy\u00a0<a href=\"https:\/\/hipertextual.com\/2023\/04\/openai-gpt-5-sam-altman\">ni siquiera piensan en desarrollar un GPT-5<\/a>.<\/p>\n<p>Si los riesgos de la IA realmente se ponen a la altura de otros eventos catastr\u00f3ficos, ser\u00e1 interesante ver c\u00f3mo se aborda su potencial regulaci\u00f3n. Algo que lejos est\u00e1 de depender \u00fanicamente de la buena voluntad de expertos y cient\u00edficos. El involucramiento de los legisladores tambi\u00e9n ser\u00e1 crucial; y ni que hablar de las empresas que hoy invierten miles de millones de d\u00f3lares. Pero no olvidemos que\u00a0<strong>los peligros de la inteligencia artificial son solo una parte de una historia mucho m\u00e1s amplia<\/strong>, y que la tecnolog\u00eda tambi\u00e9n abarca potenciales grandes beneficios para la humanidad. En especial al hablar de\u00a0<a href=\"https:\/\/hipertextual.com\/2023\/04\/bill-gates-cree-que-los-chatbots-de-ia-ensenaran-a-los-ninos-a-leer\">educaci\u00f3n<\/a>\u00a0y\u00a0<a href=\"https:\/\/hipertextual.com\/2023\/05\/algoritmo-ia-diagnostico-ataque-cardiaco\">salud<\/a>.<\/p>\n<p>Por ello, como dijo Bill Gates recientemente,\u00a0<a href=\"https:\/\/hipertextual.com\/2023\/04\/bill-gates-pausar-desarrollo-ia-mala-idea\">es necesario lograr un balance<\/a>. \u00abDeber\u00edamos tratar de equilibrar los temores sobre las desventajas de la IA, que son comprensibles y v\u00e1lidos, con su capacidad para mejorar la vida de las personas. Para aprovechar al m\u00e1ximo esta nueva y notable tecnolog\u00eda, debemos protegernos contra los riesgos y distribuir los beneficios a la mayor cantidad de personas posible\u00bb, manifest\u00f3 el cofundador de Microsoft.<\/p>\n<p><strong>Fuente: Hipertextual.com<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Un nuevo d\u00eda, una nueva advertencia sobre c\u00f3mo la inteligencia artificial podr\u00eda destruirnos como civilizaci\u00f3n. Esta vez, llega desde un grupo de empresarios, expertos y cient\u00edficos top del sector, encabezados por\u00a0Sam Altman, el creador de ChatGPT. Los mismos han publicado un escueto comunicado aseverando que el potencial\u00a0\u00abriesgo de extinci\u00f3n\u00bb\u00a0que representa la\u00a0IA\u00a0deber\u00eda tratarse con la misma &hellip;<\/p>\n","protected":false},"author":0,"featured_media":57537,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-57536","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/05\/Sam-Altman-OpenAI-2z0LGb.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/57536","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=57536"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/57536\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/57537"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=57536"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=57536"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=57536"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}