{"id":55438,"date":"2023-04-26T18:12:47","date_gmt":"2023-04-27T00:12:47","guid":{"rendered":"https:\/\/mickyandoniehn.com\/radio\/2023\/04\/26\/cientificos-advierten-debemos-prepararnos-para-cuando-la-ia-cobre-conciencia\/"},"modified":"2023-04-26T18:12:47","modified_gmt":"2023-04-27T00:12:47","slug":"cientificos-advierten-debemos-prepararnos-para-cuando-la-ia-cobre-conciencia","status":"publish","type":"post","link":"https:\/\/mickyandoniehn.com\/radio\/2023\/04\/26\/cientificos-advierten-debemos-prepararnos-para-cuando-la-ia-cobre-conciencia\/","title":{"rendered":"Cient\u00edficos advierten: debemos prepararnos para cuando la IA cobre conciencia"},"content":{"rendered":"<\/p>\n<p>Ya no es m\u00e1s una discusi\u00f3n sobre ciencia ficci\u00f3n. El mete\u00f3rico avance de los \u00faltimos meses exige que consideremos seriamente la posibilidad de que la IA cobre conciencia, advierte la Asociaci\u00f3n para la Ciencia de la Conciencia Matem\u00e1tica (AMCS, en sus siglas en ingl\u00e9s). Deber\u00edamos entonces, seg\u00fan la organizaci\u00f3n, preguntarnos\u00a0<strong>si la humanidad lograr\u00e1 \u00abcontrolar, alinear y usar\u00bb estos sistemas cuando alcancen su \u00abdespertar\u00bb.<\/strong><\/p>\n<p>\u00abLa conciencia le dar\u00eda a la IA un lugar en nuestro panorama moral, lo que plantea m\u00e1s preocupaciones \u00e9ticas, legales y pol\u00edticas\u00bb, alerta la AMCS, conformada por\u00a0<strong>m\u00e1s de 150 cient\u00edficos y fil\u00f3sofos de todo el mundo.<\/strong>\u00a0Que una IA cobre conciencia quiere decir que podr\u00eda pensar con la libertad y autonom\u00eda de un ser humano.<\/p>\n<p>La asociaci\u00f3n advierte en\u00a0<a href=\"https:\/\/amcs-community.org\/open-letters\/\">una carta abierta<\/a>\u00a0que sistemas como ChatGPT y Bard han demostrado\u00a0varias habilidades emergentes imprevistas. Por ejemplo,<strong>\u00a0Bard, el chatbot de Google, aprendi\u00f3 un nuevo idioma por cuenta propia<\/strong>. Tambi\u00e9n ha sido capaz de reflexionar sobre el dolor que sienten los humanos o sobre cuestiones como la redenci\u00f3n. Una conducta que, seg\u00fan las palabras del CEO de la compa\u00f1\u00eda,\u00a0<a href=\"https:\/\/hipertextual.com\/2023\/04\/ceo-de-google-reconocio-que-no-entiende-del-todo-como-funciona-su-ia\">todav\u00eda no entienden del todo c\u00f3mo surgi\u00f3.<\/a><\/p>\n<p>\u00abLos sistemas de IA contempor\u00e1neos ya muestran rasgos humanos reconocidos en la Psicolog\u00eda, incluida la evidencia de la Teor\u00eda de la Mente\u00bb, dice el grupo en la misiva, que tambi\u00e9n tiene el respaldo de Asociaci\u00f3n para el Estudio Cient\u00edfico de la Conciencia (ASSC).<\/p>\n<h2 class=\"wp-block-heading has-text-align-center\">Piden a los desarrolladores de IA profundizar los estudios sobre la conciencia<\/h2>\n<p>Las capacidades de los nuevos sistemas de IA se est\u00e1n acelerando a un ritmo que supera con creces nuestra comprensi\u00f3n, dice la AMCS. Si la IA alcanza la conciencia, \u00abprobablemente revelar\u00e1 una nueva gama de capacidades que van mucho m\u00e1s all\u00e1 de lo que esperan, incluso, aquellos que encabezan su desarrollo\u00bb.<\/p>\n<p>El grupo pide al sector tecnol\u00f3gico y a la comunidad cient\u00edfica\u00a0<strong>que inviertan m\u00e1s recursos en este campo de estudio.<\/strong>\u00a0Avanzar en este sentido permitir\u00eda a la sociedad y a los gobiernos tomar decisiones sobre el futuro de IA y su potencial impacto. En definitiva, garantizar que esta tecnolog\u00eda no sea perjudicial para la humanidad.<\/p>\n<p><strong>\u00abNo se debe dejar que la investigaci\u00f3n de la IA deambule sola\u00bb,<\/strong>\u00a0dicen en el documento. La carta est\u00e1 firmada por Susan Schneider, quien presidi\u00f3 la NASA, y decenas de acad\u00e9micos de universidades del Reino Unido, Estados Unidos y Europa.<\/p>\n<h2 class=\"wp-block-heading has-text-align-center\">Las otras preocupaciones<\/h2>\n<p>Distintas agrupaciones de cient\u00edficos han llamado la atenci\u00f3n sobre los riesgos relacionados con la IA.\u00a0<a href=\"https:\/\/hipertextual.com\/2023\/03\/elon-musk-y-expertos-piden-pausar-el-desarrollo-de-modelos-de-ia-mas-potentes-que-gpt-4\">M\u00e1s de mil especialistas y acad\u00e9micos\u00a0<\/a>pidieron a las grandes compa\u00f1\u00edas que se frenen los desarrollos de modelos de IA, hasta que se sepa con certeza\u00a0<strong>\u00abque sus efectos ser\u00e1n positivos y sus riesgos ser\u00e1n manejables\u00bb.\u00a0<\/strong>Lo hicieron a trav\u00e9s de otra carta abierta, firmada por varios ejecutivos de la industria, entre ellos Elon Musk, due\u00f1o de Twitter y cofundador de OpenAI, creadora de ChatGPT.<\/p>\n<p>Margaret Mitchell, ex responsable del equipo de \u00c9tica en IA de Google, junto a otros colegas exigieron tambi\u00e9n a los desarrolladores\u00a0<strong>mayor transparencia y priorizar la seguridad de los usuarios sobre el beneficio econ\u00f3mico.\u00a0<\/strong>\u00abLas acciones y elecciones de las corporaciones deben estar determinadas por una regulaci\u00f3n que proteja los derechos e intereses de las personas\u00bb, dijeron en un\u00a0<a href=\"https:\/\/www.dair-institute.org\/blog\/letter-statement-March2023\">comunicado<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Ya no es m\u00e1s una discusi\u00f3n sobre ciencia ficci\u00f3n. El mete\u00f3rico avance de los \u00faltimos meses exige que consideremos seriamente la posibilidad de que la IA cobre conciencia, advierte la Asociaci\u00f3n para la Ciencia de la Conciencia Matem\u00e1tica (AMCS, en sus siglas en ingl\u00e9s). Deber\u00edamos entonces, seg\u00fan la organizaci\u00f3n, preguntarnos\u00a0si la humanidad lograr\u00e1 \u00abcontrolar, alinear &hellip;<\/p>\n","protected":false},"author":0,"featured_media":55439,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-55438","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/04\/ilustracion-robot-humanoide-ia-NyvuuN.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/55438","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=55438"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/55438\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/55439"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=55438"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=55438"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=55438"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}