{"id":46930,"date":"2023-01-20T09:12:44","date_gmt":"2023-01-20T15:12:44","guid":{"rendered":"http:\/\/mickyandoniehn.com\/radio\/2023\/01\/20\/la-inteligencia-artificial-que-elegira-al-proximo-presidente-del-gobierno\/"},"modified":"2023-01-20T09:12:44","modified_gmt":"2023-01-20T15:12:44","slug":"la-inteligencia-artificial-que-elegira-al-proximo-presidente-del-gobierno","status":"publish","type":"post","link":"https:\/\/mickyandoniehn.com\/radio\/2023\/01\/20\/la-inteligencia-artificial-que-elegira-al-proximo-presidente-del-gobierno\/","title":{"rendered":"La inteligencia artificial que elegir\u00e1 al pr\u00f3ximo presidente del gobierno"},"content":{"rendered":"<\/p>\n<p>\u00a0<\/p>\n<p>En 1955, Isaac Asimov public\u00f3 su relato\u00a0<em>Sufragio universal<\/em>. La obra describe c\u00f3mo la primera democracia electr\u00f3nica utiliza el computador m\u00e1s avanzado del mundo,\u00a0<strong>Multivac<\/strong>. Una inteligencia artificial decidir\u00eda el voto de toda una naci\u00f3n, con la intervenci\u00f3n de un \u00fanico votante humano.<\/p>\n<p>Si bien no hemos llegado a ese inquietante futuro, el papel de la inteligencia artificial y de la ciencia de datos es cada vez m\u00e1s importante en el curso de las elecciones democr\u00e1ticas. Las campa\u00f1as electorales de Barack Obama y Donald Trump, el Partido Sint\u00e9tico de Dinamarca y el robo masivo de informaci\u00f3n en la campa\u00f1a de Macron son buenos ejemplos.<\/p>\n<p>Uno de los primeros casos de \u00e9xito en el uso de t\u00e9cnicas de\u00a0<a href=\"https:\/\/hipertextual.com\/2021\/04\/esic-master-bigdata\"><em>big data<\/em><\/a>\u00a0y an\u00e1lisis de redes sociales para ajustar una campa\u00f1a electoral fue el de Barack Obama para las presidenciales de Estados Unidos en 2012. En su campa\u00f1a (y en muchas otras despu\u00e9s), las encuestas tradicionales de intenci\u00f3n de voto, basadas en llamadas telef\u00f3nicas o entrevistas personales, se complementaron con el an\u00e1lisis de redes sociales.<\/p>\n<p>Estos an\u00e1lisis ofrecen un m\u00e9todo barato y casi en tiempo real de\u00a0<a href=\"https:\/\/ieeexplore.ieee.org\/abstract\/document\/7823280\">medir la opini\u00f3n de los votantes<\/a>. Para ello se aplican t\u00e9cnicas de\u00a0<a href=\"https:\/\/es.wikipedia.org\/wiki\/Procesamiento_de_lenguajes_naturales\">Procesamiento del Lenguaje Natural<\/a>\u00a0(PLN), en particular las dedicadas al\u00a0<a href=\"https:\/\/es.wikipedia.org\/wiki\/An%C3%A1lisis_de_sentimiento\">an\u00e1lisis de sentimiento<\/a>. Dichas t\u00e9cnicas analizan los mensajes contenidos en tuits, blogs, etc. y tratan de medir si las opiniones vertidas en ellos son positivas o negativas con respecto a un cierto pol\u00edtico o a un cierto mensaje electoral.<\/p>\n<p>El principal problema que tienen es el\u00a0<a href=\"https:\/\/es.wikipedia.org\/wiki\/Sesgo_muestral\">sesgo muestral<\/a>, pues los usuarios m\u00e1s activos en redes sociales suelen ser j\u00f3venes y tecn\u00f3filos, y\u00a0<a href=\"https:\/\/journals.sagepub.com\/doi\/abs\/10.1177\/0894439314558836\">no representan a toda la poblaci\u00f3n<\/a>. Por eso estas t\u00e9cnicas tienen limitaciones a la hora de predecir resultados electorales, aunque resultan muy \u00fatiles para estudiar las tendencias de voto y el estado de opini\u00f3n de la gente.<\/p>\n<h2>Intervenci\u00f3n en campa\u00f1as electorales: el caso Donald Trump<\/h2>\n<p>M\u00e1s inquietante que el estudio de las emociones en redes sociales resulta su uso para influenciar estados de opini\u00f3n y modular el voto. Un caso bien conocido es el de la campa\u00f1a de Donald Trump en las presidenciales de EE\u00a0UU de 2016. El\u00a0<em>big data<\/em>\u00a0y los\u00a0<a href=\"https:\/\/es.wikipedia.org\/wiki\/Psicograf%C3%ADa_(mercadotecnia)\">perfiles psicogr\u00e1ficos<\/a>\u00a0tuvieron mucho que ver con una victoria que no hab\u00edan logrado predecir las encuestas.<\/p>\n<p>No se trat\u00f3 de una manipulaci\u00f3n en masa, sino que diferentes votantes recibieron diferentes mensajes basados en predicciones sobre su susceptibilidad a diferentes argumentos, recibiendo informaci\u00f3n sesgada, fragmentada y a veces contradictoria con otros mensajes del candidato. La tarea fue encomendada a la empresa\u00a0<a href=\"https:\/\/hipertextual.com\/2018\/03\/que-es-cambridge-analytica\">Cambride Analytica<\/a>, que se vio implicada en una pol\u00e9mica por la recopilaci\u00f3n no autorizada de informaci\u00f3n sobre millones de usuarios de Facebook.<\/p>\n<p>El m\u00e9todo de Cambride Analytica se bas\u00f3 en los estudios de psicometr\u00eda de\u00a0<a href=\"https:\/\/en.wikipedia.org\/wiki\/Michal_Kosinski\">Kosinski<\/a>, que comprob\u00f3 como con un n\u00famero limitado de\u00a0<em>likes<\/em>\u00a0se puede obtener un perfil del usuario tan acertado como si lo hicieran sus familiares o amigos.<\/p>\n<p>El problema con este enfoque no est\u00e1 en el uso de la tecnolog\u00eda sino en la naturaleza \u201cencubierta\u201d de la campa\u00f1a, la manipulaci\u00f3n psicol\u00f3gica a votantes susceptibles a trav\u00e9s de apelaciones directas a sus emociones o la difusi\u00f3n deliberada de noticias falsas a trav\u00e9s de\u00a0<em>bots<\/em>. Fue el caso de Emmanuel Macron en las presidenciales francesas de 2017. Su campa\u00f1a sufri\u00f3 un\u00a0robo masivo de correos electr\u00f3nicos\u00a0a solo dos d\u00edas de las elecciones. Multitud de\u00a0<em>bots<\/em>\u00a0se encargaron de difundir evidencias de comisi\u00f3n de delitos supuestamente contenidos en la informaci\u00f3n, que luego resultaron falsas.<\/p>\n<h2>Acci\u00f3n pol\u00edtica y gobierno: el Partido Sint\u00e9tico y la inteligencia artificial<\/h2>\n<p>No menos inquietante que el punto anterior es la posibilidad de que una inteligencia artificial (IA) nos gobierne. Dinamarca abri\u00f3 el debate en sus \u00faltimas elecciones legislativas, a las que concurri\u00f3 el\u00a0<a href=\"https:\/\/detsyntetiskeparti.wordpress.com\/\">Partido Sint\u00e9tico<\/a>\u00a0liderado por una IA, un\u00a0<a href=\"https:\/\/hipertextual.com\/2022\/11\/bot-racista-chatbot-tay\"><em>chatbot<\/em><\/a>\u00a0llamado Leader Lars, con la aspiraci\u00f3n de entrar en el parlamento. Detr\u00e1s del\u00a0<em>chatbot<\/em>\u00a0hay humanos, naturalmente, en particular la fundaci\u00f3n MindFuture de arte y tecnolog\u00eda.<\/p>\n<p>Leader Lars fue entrenado con los programas electorales de partidos daneses marginales desde 1970 para configurar una propuesta que representara al 20\u00a0% de la poblaci\u00f3n danesa que no acude a las urnas.<\/p>\n<p>Si bien el Partido Sint\u00e9tico parece una extravagancia \u2014con propuestas tan atrevidas como una renta b\u00e1sica universal superior a 13\u00a0400 \u20ac al mes, el doble del salario medio en Dinamarca\u2014, ha servido para estimular el debate sobre la capacidad de una inteligencia artificial para gobernarnos. \u00bfPuede realmente una IA contempor\u00e1nea, bien entrenada y con suficientes recursos, gobernarnos?<\/p>\n<p>Si analizamos el pasado reciente de la inteligencia artificial, vemos que los avances se suceden uno tras otro a velocidad de v\u00e9rtigo, particularmente en el campo del procesamiento del lenguaje natural tras la aparici\u00f3n de las arquitecturas basadas en\u00a0<a href=\"https:\/\/proceedings.neurips.cc\/paper\/2017\/file\/3f5ee243547dee91fbd053c1c4a845aa-Paper.pdf\"><em>transformers<\/em><\/a>. Se tratan de enormes\u00a0<a href=\"https:\/\/hipertextual.com\/2015\/07\/redes-neuronales\">redes neuronales artificiales<\/a>\u00a0entrenadas para aprender a generar textos, pero f\u00e1cilmente adaptables a muchas otras tareas. De alguna manera, estas redes aprenden la estructura general del lenguaje humano y acaban teniendo un conocimiento del mundo a trav\u00e9s de lo que han \u201cle\u00eddo\u201d.<\/p>\n<p>Uno de los ejemplos m\u00e1s avanzados y espectaculares lo ha desarrollado OpenAI y se llama\u00a0<a href=\"https:\/\/hipertextual.com\/2022\/12\/chatgpt-que-es-como-usar\">ChatGPT<\/a>. Se trata de un\u00a0<em>chatbot<\/em>\u00a0capaz de responder de manera coherente a casi cualquier pregunta formulada en lenguaje natural, de generar texto o de efectuar tareas tan complicadas como escribir programas inform\u00e1ticos a partir de unas pocas indicaciones.<\/p>\n<h2>Libres de corrupci\u00f3n, pero sin transparencia<\/h2>\n<p>Las ventajas de usar una IA para la acci\u00f3n de gobierno ser\u00edan varias. Por una parte, su capacidad de procesar datos y conocimiento para la toma de decisiones es muy superior a la de cualquier humano. Tambi\u00e9n estar\u00eda libre (en principio) del fen\u00f3meno de la corrupci\u00f3n y no le influir\u00edan los intereses personales.<\/p>\n<p>Pero, a d\u00eda de hoy, los\u00a0<em>chatbots<\/em>\u00a0s\u00f3lo reaccionan, se alimentan de la informaci\u00f3n que alguien les proporciona y dan respuestas. No son realmente libres de pensar \u201cespont\u00e1neamente\u201d, de tomar la iniciativa. Es m\u00e1s adecuado ver estos sistemas como or\u00e1culos, capaces de responder a preguntas del tipo \u201cqu\u00e9 crees que pasar\u00eda si\u2026\u201d, \u201cque propondr\u00edas en caso de\u2026\u201d, m\u00e1s que como agentes activos o controladores.<\/p>\n<p>Los posibles problemas y\u00a0<a href=\"https:\/\/dl.acm.org\/doi\/10.1145\/3442188.3445922\">peligros de este tipo de inteligencias<\/a>, basadas en grandes redes neuronales han sido analizados en numerosos estudios cient\u00edficos. Un problema fundamental es el de la falta de transparencia (\u201cexplicabilidad\u201d) de las decisiones que toman. En general act\u00faan como \u201ccajas negras\u201d sin que podamos saber qu\u00e9 razonamiento han llevado a cabo para llegar a una conclusi\u00f3n.<\/p>\n<p>Y no olvidemos que detr\u00e1s de la m\u00e1quina est\u00e1n los humanos, que han podido introducir ciertos sesgos (consciente o inconscientemente) en la IA a trav\u00e9s de los textos que han usado para entrenarla. Por otro lado, la IA no est\u00e1 libre de dar datos o consejos err\u00f3neos, como muchos usuarios de ChatGPT han podido experimentar.<\/p>\n<p>Los avances tecnol\u00f3gicos permiten vislumbrar una futura IA capaz de \u201cgobernarnos\u201d, por el momento no sin el imprescindible control humano. El debate deber\u00eda moverse pronto del plano t\u00e9cnico al plano \u00e9tico y social.<\/p>\n<p><strong>Fuente: hipertextual.com<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u00a0 En 1955, Isaac Asimov public\u00f3 su relato\u00a0Sufragio universal. La obra describe c\u00f3mo la primera democracia electr\u00f3nica utiliza el computador m\u00e1s avanzado del mundo,\u00a0Multivac. Una inteligencia artificial decidir\u00eda el voto de toda una naci\u00f3n, con la intervenci\u00f3n de un \u00fanico votante humano. Si bien no hemos llegado a ese inquietante futuro, el papel de la &hellip;<\/p>\n","protected":false},"author":0,"featured_media":46931,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-46930","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/01\/manipulacion-ia-6RAO7g.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/46930","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=46930"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/46930\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/46931"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=46930"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=46930"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=46930"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}