{"id":55066,"date":"2023-04-24T00:12:33","date_gmt":"2023-04-24T06:12:33","guid":{"rendered":"https:\/\/mickyandoniehn.com\/radio\/2023\/04\/24\/esto-no-es-el-apocalipsis-doce-puntos-optimistas-sobre-chatgpt-y-el-futuro-que-nos-espera\/"},"modified":"2023-04-24T00:12:33","modified_gmt":"2023-04-24T06:12:33","slug":"esto-no-es-el-apocalipsis-doce-puntos-optimistas-sobre-chatgpt-y-el-futuro-que-nos-espera","status":"publish","type":"post","link":"http:\/\/mickyandoniehn.com\/radio\/2023\/04\/24\/esto-no-es-el-apocalipsis-doce-puntos-optimistas-sobre-chatgpt-y-el-futuro-que-nos-espera\/","title":{"rendered":"Esto no es el apocalipsis: doce puntos optimistas sobre ChatGPT y el futuro que nos espera"},"content":{"rendered":"<\/p>\n

1.<\/strong>\u00a0GPT-4<\/a>\u00a0es un artefacto fabuloso, muy sorprendente. Yo, que llevo siguiendo los grandes modelos del lenguaje casi desde el principio, no pens\u00e9 que se llegar\u00eda\u00a0a tal calidad<\/strong>\u00a0en las respuestas. Creo que todo el mundo se queda perplejo al comprobar como un sistema de sem\u00e1ntica distribuida tenga tan buen desempe\u00f1o. Sin embargo, a pesar de lo que pueda parecer, todav\u00eda estamos muy lejos de una inteligencia artificial general. Si abrimos el cap\u00f3 y\u00a0vemos su funcionamiento interno<\/a>, es un sistema estad\u00edstico de generaci\u00f3n de texto en el que no hay pensamiento ni razonamiento ni comprensi\u00f3n puramente dichos. GPT-4 es muy tonto, y su buen desempe\u00f1o es solo la apariencia externa. Aunque la analog\u00eda no sea del todo completa, GPT-4 no dista tato de\u00a0la ELIZA de Weizenbaum<\/a>, programa que, por los a\u00f1os sesenta del siglo pasado, tambi\u00e9n caus\u00f3 un\u00a0hype\u00a0<\/em>impresionante.<\/p>\n

2.<\/strong>\u00a0Pero, a pesar de estar lejos del logro de una\u00a0inteligencia artificial general<\/a>, GPT-4 y sus hom\u00f3logos van a dar lugar a una serie de herramientas magn\u00edficas que, en t\u00e9rminos generales, nos van a hacer la vida mucho mejor, que es lo que ha hecho la tecnolog\u00eda, reitero que,\u00a0lato sensu<\/em>, desde el comienzo de los tiempos. Los avances tecnol\u00f3gicos son uno de los factores m\u00e1s determinantes\u00a0del bienestar<\/strong>\u00a0del que disfruta la humanidad occidental en el siglo XXI. Cualquier persona de clase media de un pa\u00eds desarrollado vive hoy mejor\u00a0que un rey del medievo<\/a>. Y esto creo que justifica el optimismo. Apuesto (si bien reconozco que la tarea de futur\u00f3logo es muy compleja en estos tiempos) a que los grandes modelos de lenguaje van a mejorar m\u00e1s que empeorar el mundo. No seamos tecn\u00f3fobos a estas alturas.<\/p>\n

3.<\/strong>\u00a0Las tecnolog\u00edas disruptivas siempre han tra\u00eddo una cierta incertidumbre. Nadie sab\u00eda lo que iba a traer la imprenta, la m\u00e1quina de vapor, la electricidad o internet, y muchos ya se pon\u00edan apocal\u00edpticos en esos tiempos. No hagamos ahora lo mismo. Eso, por supuesto, no implica que bajemos las defensas. Hay que\u00a0vigilar muy de cerca<\/strong>\u00a0todo lo que hacen las grandes empresas tecnol\u00f3gicas, muy atentos a todas las\u00a0feas jugadas<\/a>\u00a0que, sin duda,\u00a0van a intentar<\/a>.\u00a0Y hay que legislar<\/a>. Y aunque ya sabemos que, desgraciadamente, las legislaciones van siempre muy por detr\u00e1s de la tecnolog\u00eda, hay que hacerlo lo mejor posible. Vivimos en un momento apasionante para los juristas. Esperemos que est\u00e9n a la altura.<\/p>\n

\n
\n
\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

4.\u00a0<\/strong>La celeb\u00e9rrima\u00a0carta del\u00a0Future of Life Insitute<\/em><\/a>\u00a0que pide una moratoria de seis meses en el desarrollo de sistemas superiores a GT-4 es un\u00a0brindis al sol<\/strong>. Nadie se cree que la carrera por la supremac\u00eda en IA vaya a pararse ni siquiera un minuto. Adem\u00e1s, \u00bfseis meses? \u00bfSeis meses ser\u00e1 tiempo suficiente para arreglarlo todo? \u00bfY por qu\u00e9 no un a\u00f1o o diez? Adem\u00e1s, hay muchas otras tecnolog\u00edas (si no casi todas) de las que desconocemos su potencial da\u00f1ino futuro. Tenemos a nuestros hijos completamente adictos a las redes sociales \u00bfPor qu\u00e9 no una moratoria ah\u00ed? \u00bfUna moratoria a TikTok, Spotify, Roblox, HBO\u2026?<\/p>\n

5.<\/strong>\u00a0Me hace gracia que en ella se hable de que podemos perder el control de la civilizaci\u00f3n. Es una idea\u00a0que se repite mucho<\/a>\u00a0cuando la gente fabula con la singularidad tecnol\u00f3gica, pero si lo pensamos bien: \u00bfes que acaso ya tenemos el control de la civilizaci\u00f3n? \u00bfQui\u00e9n tiene ese control? Es cierto que hay esferas con mucho m\u00e1s poder que otras, pero decir que hay algo o alguien que controla el curso de los acontecimientos es de una ingenuidad pasmosa. El poder en el mundo, afortunadamente, est\u00e1 bastante\u00a0descentralizado<\/strong>. \u00a0Precisamente, los \u00faltimos acontecimientos mundiales: Trump, Brexit, Covid,\u00a0guerra de Ucrania<\/a>\u2026 han sido claros cisnes negros, sucesos completamente impredecibles \u00bfAlguien ten\u00eda el control sobre todos estos hechos? Entonces, \u00bfqui\u00e9n perder\u00e1 el control cuando lo tome la IA? \u00bfElon Musk? Curiosamente (o no tanto), Musk firma la carta a la vez que\u00a0pisa el acelerador en la IA de Twitter<\/a>.<\/p>\n

6.<\/strong>\u00a0Tambi\u00e9n se cae en el error de pensar que una IA, una entidad \u00fanica, ser\u00e1 la que tome el control \u00bfUna? \u00bfCu\u00e1l? \u00bfLa de OpenAI, la de\u00a0DeepMind<\/a>, la de Meta quiz\u00e1? \u00bfLas que\u00a0est\u00e1 desarrollando China<\/a>? Inteligencias artificiales hay muchas y muy variopintas. De hecho, cualquier software de tu ordenador o smartphone hace tareas que, si las vi\u00e9ramos eh humanos, dir\u00edamos que son inteligentes. Por tanto, cualquier de nosotros tenemos inteligencias artificiales en nuestras manos \u00bfSer\u00e1 una de ellas la que liderar\u00e1 la rebeli\u00f3n? Es curioso como la ciencia-ficci\u00f3n se ha instalado en los cerebros de personas que tienen que tomar importantes decisiones que nos afectan a todos. En serio, de verdad, repitamos todos: las m\u00e1quinas\u00a0no se van a rebelar<\/strong>, no va a haber ninguna guerra final contra ellas ni ning\u00fan apocalipsis de ning\u00fan tipo.\u00a0Terminator<\/em>\u00a0o\u00a0Matrix<\/em>\u00a0son pel\u00edculas de ficci\u00f3n, no pron\u00f3sticos basados en evidencia.<\/p>\n

\n
\n
\n
<\/a><\/div>\n

(Unsplash)<\/p>\n<\/div>\n<\/div>\n<\/div>\n

7.<\/strong>\u00a0En la carta se pide que estos sistemas sean \u00abprecisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales\u00bb. Creo que precisi\u00f3n, seguridad, interpretabilidad, transparencia y robustez es algo que ya se pide a cualquier software y que no se consigue: yo no tengo acceso al c\u00f3digo fuente de Windows\u2026 Pero lo que me parece m\u00e1s gracioso es que sean \u00abalineados, confiables y leales\u00bb, virtudes que yo le pedir\u00eda m\u00e1s a una mascota que a un programa de software. Nick Bostrom habla en su insufrible, pero muy citado,\u00a0Supertinteligencia<\/em><\/a>\u00a0(uno de los libros peor escritos que jam\u00e1s he tenido el displacer de leer) de que es importante que construyamos inteligencias cuyos valores \u00e9ticos\u00a0est\u00e9n\u00a0<\/strong>alineados<\/strong><\/em>\u00a0con los nuestros<\/strong>. Esto es otra chorrada m\u00e1s de ciencia-ficci\u00f3n \u00bfEs que alguien se va a poner a programar software psic\u00f3pata y lo va a situar en posici\u00f3n de tomar decisiones importantes? \u00bfEn un esca\u00f1o en el Parlamento? Cuando hemos puesto a sistemas de redes neuronales a tomar decisiones y resulta que han tenido sesgos racistas, hom\u00f3fobos o machistas,\u00a0r\u00e1pidamente hemos ido a corregirlo<\/a>\u00a0\u00bfEn serio que pensamos en m\u00e1quinas que, al tener unos valores \u00e9ticos diferentes a los nuestros, van a optar por exterminarnos? \u00bfEn serio que si aparece una superinteligencia c\u00f3smica lo primero que va a pensar es en nuestro exterminio? \u00bfSiendo tan inteligente no se le va a ocurrir otra cosa? Adem\u00e1s, \u00bfqu\u00e9 alineamiento? \u00bfLa \u00e9tica de los expertos en IA del MIT? \u00bfO de los monjes budistas del Tibet? \u00bfO de los tuaregs del Magreb? \u00bfExiste un acaso un alineamiento \u00e9tico universal?<\/p>\n

8.<\/strong>\u00a0Se est\u00e1 cayendo todo el rato en la conocida\u00a0falacia de la pendiente resbaladiza<\/em>. \u00c9sta consiste en ir encadenando sucesos sin conexi\u00f3n probada que, al final, nos llevar\u00e1n a uno terrible. La sucesi\u00f3n ser\u00e1 as\u00ed: la IA avanza notablemente, la IA igualar\u00e1 y superar\u00e1 al hombre, la IA tomar\u00e1 el control, la IA nos exterminar\u00e1. No hay conexi\u00f3n probada que justifique que ninguno de esos sucesos sea la causa del siguiente. Me gustar\u00eda que explicaran con claridad cu\u00e1les son los inevitables pasos que van desde dise\u00f1ar a un chatbot hasta que \u00e9ste se hace con el control de la civilizaci\u00f3n y nos aniquila.<\/p>\n

9.<\/strong>\u00a0En lo que s\u00ed estoy de acuerdo con la carta es en que s\u00ed que me parece que no debemos dejar la toma de decisiones que nos van a afectar a todos solo en las manos de los dos o tres ceos de las gigantes tecnol\u00f3gicas.\u00a0Por muy majo que pueda parecer Sam Altman<\/a>, nadie lo ha elegido democr\u00e1ticamente. Yo quiero que representantes pol\u00edticos electos sean los que decidan el futuro. Por eso est\u00e1 muy bien que Open IA, a pesar de no haber hecho p\u00fablico su funcionamiento (los dos art\u00edculos t\u00e9cnicos que ha proporcionado no nos dan datos relevantes sobre su arquitectura, entrenamiento, hardware, etc.), haya hecho p\u00fablico el uso de ChatGPT.\u00a0Todos hemos podido usarlo<\/strong>\u00a0y ahora estamos debatiendo sobre sus usos futuros. El debate p\u00fablico est\u00e1 alcanzando cuotas importantes, y eso, queridos amigos, es la democracia. Mucho de lo que se hable impregnar\u00e1 la mente de pol\u00edticos y gur\u00fas de la industria, y obrar\u00e1n en consecuencia. Esto es muy buena notica.<\/p>\n

\n
\n
\n
<\/a><\/div>\n<\/div>\n<\/div>\n<\/div>\n

10.<\/strong>\u00a0Italia se equivoca de ra\u00edz<\/a>. Es cierto que hay que revisar si estos modelos incumplen la ley de protecci\u00f3n de datos y trabajar en esa direcci\u00f3n, pero no llegando a prohibir, m\u00e1s en este momento. Pero este es el triste papel que parece desempe\u00f1ar Europa en el campo de la IA. Se ha quedado completamente atr\u00e1s en la carrera y parece que solo puede hacer de polic\u00eda gru\u00f1\u00f3n. No est\u00e1 nada mal que exista un polic\u00eda gru\u00f1\u00f3n, es muy necesario, lo malo es que solo se sea eso.<\/p>\n

11.<\/strong>\u00a0No puedo entender c\u00f3mo el peri\u00f3dico Time ha dado espacio\u00a0a las locuras de Eliezer Yudkowsky<\/a>. Este hombre, crey\u00e9ndose Sarah Connor, dice que como la IA va a causar el fin de la humanidad, hay que bombardear centros de datos de cualquier pa\u00eds, incluso si esto nos lleva a una guerra nuclear. Los medios tienen la responsabilidad de establecer unos m\u00ednimos de los que es publicable y lo que no, y yo pensaba que un peri\u00f3dico como Time los tendr\u00eda. Desde aqu\u00ed animo a los medios a que no publiquen basura, a ver si la moratoria de seis meses va a tener que ser hacia el periodismo.<\/p>\n

12.<\/strong>\u00a0Sobre lo que s\u00ed hay que preocuparse es sobre\u00a0los problemas actuales<\/strong>:\u00a0protecci\u00f3n de datos<\/a>,\u00a0copyright<\/a>, sesgos discriminatorios, ciberseguridad, fake news, usos militares, etc. Es decir, hay que mantener la cl\u00e1sica vigilancia democr\u00e1tica que hay que ejercer sobre cualquier desarrollo tecnol\u00f3gico, igual que hacemos con los medicamentos o con el reciclado de residuos. Toda tecnolog\u00eda siempre ha tenido una cara B, siempre ha tenido un posible uso perverso. Lo que hay que hacer es lo de siempre: educaci\u00f3n y legislaci\u00f3n. Quiero que los ingenieros de OpenAI hayan sido educados con buenos valores morales y quiero un buen marco legislativo que evite los malos usos. Ah\u00ed es donde debemos estar y no luchando contra Skynet.<\/p>\n","protected":false},"excerpt":{"rendered":"

1.\u00a0GPT-4\u00a0es un artefacto fabuloso, muy sorprendente. Yo, que llevo siguiendo los grandes modelos del lenguaje casi desde el principio, no pens\u00e9 que se llegar\u00eda\u00a0a tal calidad\u00a0en las respuestas. Creo que todo el mundo se queda perplejo al comprobar como un sistema de sem\u00e1ntica distribuida tenga tan buen desempe\u00f1o. Sin embargo, a pesar de lo que …<\/p>\n","protected":false},"author":0,"featured_media":55067,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-55066","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"http:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/04\/450_1000-BeQFtq.jpeg","_links":{"self":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/55066","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=55066"}],"version-history":[{"count":0,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/55066\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/55067"}],"wp:attachment":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=55066"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=55066"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=55066"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}