{"id":54492,"date":"2023-04-14T11:12:32","date_gmt":"2023-04-14T17:12:32","guid":{"rendered":"http:\/\/mickyandoniehn.com\/radio\/2023\/04\/14\/una-ia-disenada-para-fabricar-clips-podria-destruir-la-humanidad\/"},"modified":"2023-04-14T11:12:32","modified_gmt":"2023-04-14T17:12:32","slug":"una-ia-disenada-para-fabricar-clips-podria-destruir-la-humanidad","status":"publish","type":"post","link":"https:\/\/mickyandoniehn.com\/radio\/2023\/04\/14\/una-ia-disenada-para-fabricar-clips-podria-destruir-la-humanidad\/","title":{"rendered":"Una IA dise\u00f1ada para fabricar clips podr\u00eda destruir la humanidad"},"content":{"rendered":"<div class=\"featured-image-behind\">\n<div class=\"wrapper\">\n<div class=\"newspack-post-subtitle\">Un fil\u00f3sofo plante\u00f3 en 2014 una hip\u00f3tesis en la que una inteligencia artificial dise\u00f1ada para fabricar clips podr\u00eda destruir a la humanidad. A partir de este ejemplo, describe la importancia de dejar claros los objetivos al dise\u00f1ar los algoritmos.<\/div>\n<div class=\"entry-subhead\">\n<div class=\"entry-meta\"><span class=\"byline\">por\u00a0<span class=\"author vcard\"><a class=\"url fn n\" href=\"https:\/\/hipertextual.com\/author\/azucenamartin\">Azucena Mart\u00edn<\/a><\/span><\/span>\u00a0<span class=\"posted-on\">14 de abril de 2023<\/span><\/div>\n<\/div>\n<\/div>\n<\/div>\n<p>Dan Cristian Padure (Unsplash)<\/p>\n<div class=\"main-content\">\n<div class=\"entry-content\">\n<p>La<strong>\u00a0inteligencia artificial\u00a0<\/strong>empez\u00f3 concibi\u00e9ndose como algo muy especializado, que solo unas pocas personas pod\u00edan usar. Sin embargo, hoy en d\u00eda cualquiera que lo desee tiene acceso a ella\u00a0<a href=\"https:\/\/hipertextual.com\/2023\/03\/que-significan-siglas-gpt-gpt-4-chatgpt\">a trav\u00e9s de algoritmos como el de ChatGPT<\/a>, por ejemplo. Por eso, muchas personas alertan de la importancia de dise\u00f1ar correctamente estos algoritmos, dejando claros cu\u00e1les son sus objetivos, para que no nos den\u00a0<strong>sorpresas desagradables<\/strong>. Una de las personas que m\u00e1s hincapi\u00e9 ha hecho en este tema es el fil\u00f3sofo\u00a0<strong>Nick Bostrom<\/strong>, quien en 2014 explic\u00f3 con un ejemplo muy sencillo qu\u00e9 podr\u00eda ocurrir si esto no se hace adecuadamente.<\/p>\n<p><a href=\"https:\/\/www.iflscience.com\/how-an-ai-asked-to-produce-paperclips-could-end-up-wiping-out-humanity-68432\">Puso como ejemplo una inteligencia artificial cuyo objetivo es fabricar clips<\/a>. No se le da ning\u00fan otro objetivo, solo ese. A la larga, seg\u00fan este fil\u00f3sofo especializado en la \u00e9tica de la IA, podr\u00eda\u00a0<strong>aniquilar a la humanidad.<\/strong><\/p>\n<p>Utiliz\u00f3 este ejemplo porque es algo aparentemente muy inocente; pero, seg\u00fan \u00e9l,<strong>\u00a0podr\u00eda extrapolarse<\/strong>\u00a0a casi cualquier inteligencia artificial. Por eso, es de gran importancia definir cu\u00e1les son sus objetivos y dejar claro que estos algoritmos deben servir a la humanidad. Si no se hace adecuadamente, no tendr\u00e1n motivos para intentar protegerla.<\/p>\n<h2 class=\"wp-block-heading\">\u00bfC\u00f3mo puede una inteligencia artificial que hace clips destruir a la humanidad?<\/h2>\n<p>Obviamente, todo esto es una<strong>\u00a0hip\u00f3tesis\u00a0<\/strong>que Bostrom plante\u00f3 para alertar de la importancia de los objetivos. Esta inteligencia artificial no existe. Pero, aun as\u00ed, veamos c\u00f3mo podr\u00eda aniquilar a todos los seres humanos.<\/p>\n<p>Se tratar\u00eda de un algoritmo sencillo al que se le da un \u00fanico objetivo: fabricar\u00a0<strong>la mayor cantidad posible de clips<\/strong>. Empezar\u00eda a hacerlo sin parar, pero, dado que se trata de un algoritmo capacitado para calcular todas las posibilidades, llegar\u00eda un punto en el que\u00a0<strong>concebir\u00eda a los humanos como un estorbo<\/strong>. En cualquier momento, alguna persona podr\u00eda apagarlo y, entonces, no podr\u00eda fabricar el mayor n\u00famero posible de clips. Adem\u00e1s, los seres humanos tienen \u00e1tomos que podr\u00edan convertirse en m\u00e1s clips. Se est\u00e1n desperdiciando.<\/p>\n<p>Este es un ejemplo extremo. Pero sirve para ver la importancia de\u00a0<strong>definir los objetivos\u00a0<\/strong>de los algoritmos de inteligencia artificial a medida que estos se van volviendo m\u00e1s eficientes.<\/p>\n<h2 class=\"wp-block-heading\">Deben servir a los humanos<\/h2>\n<p>Cuando plante\u00f3 su ejemplo, Bostrom explic\u00f3 que uno de esos objetivos que se deben definir es que la inteligencia artificial siempre\u00a0<strong>debe servir a la humanidad<\/strong>. Si esto no se deja claro y solo trabaja por los intereses de una sola persona o colectivo, el resto se considerar\u00e1n innecesarios.<\/p>\n<p>En definitiva, la inteligencia artificial es \u00fatil. Mucho. No obstante, se deben poner l\u00edmites y dejar muy claro para qu\u00e9 se necesita y c\u00f3mo debe trabajar. Como dijo Bostrom en su d\u00eda: \u201cTenemos que tener cuidado con lo que deseamos de una<strong>\u00a0superinteligencia<\/strong>, porque podr\u00edamos conseguirlo\u201d. De hecho, podr\u00eda ir incluso mucho m\u00e1s all\u00e1 de lo que deseamos. Para que eso no ocurra, se deben plantear muy bien los algoritmos antes de dise\u00f1arlos. Est\u00e1 claro que, ahora que empieza a estar en auge, hay mucho que legislar y mucha \u00e9tica que discutir. Pero, m\u00e1s all\u00e1 de eso, tambi\u00e9n hay mucha tecnolog\u00eda que dise\u00f1ar concienzudamente para no llevarnos sorpresas.<\/p>\n<\/div>\n<\/div>\n","protected":false},"excerpt":{"rendered":"<p>Un fil\u00f3sofo plante\u00f3 en 2014 una hip\u00f3tesis en la que una inteligencia artificial dise\u00f1ada para fabricar clips podr\u00eda destruir a la humanidad. A partir de este ejemplo, describe la importancia de dejar claros los objetivos al dise\u00f1ar los algoritmos. por\u00a0Azucena Mart\u00edn\u00a014 de abril de 2023 Dan Cristian Padure (Unsplash) La\u00a0inteligencia artificial\u00a0empez\u00f3 concibi\u00e9ndose como algo muy &hellip;<\/p>\n","protected":false},"author":0,"featured_media":54493,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-54492","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/04\/dan-cristian-padure-Oj7nnln5k3k-unsplash-scaled-CNociG.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/54492","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=54492"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/54492\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/54493"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=54492"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=54492"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=54492"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}