{"id":53986,"date":"2023-03-31T16:12:32","date_gmt":"2023-03-31T22:12:32","guid":{"rendered":"http:\/\/mickyandoniehn.com\/radio\/2023\/03\/31\/el-otro-debate-trascendental-de-la-ia-pausar-su-desarrollo-antes-de-que-vaya-demasiado-rapido\/"},"modified":"2023-03-31T16:12:32","modified_gmt":"2023-03-31T22:12:32","slug":"el-otro-debate-trascendental-de-la-ia-pausar-su-desarrollo-antes-de-que-vaya-demasiado-rapido","status":"publish","type":"post","link":"https:\/\/mickyandoniehn.com\/radio\/2023\/03\/31\/el-otro-debate-trascendental-de-la-ia-pausar-su-desarrollo-antes-de-que-vaya-demasiado-rapido\/","title":{"rendered":"El otro debate trascendental de la IA: \u00abpausar\u00bb su desarrollo antes de que vaya demasiado r\u00e1pido"},"content":{"rendered":"<\/p>\n

La inteligencia artificial es tan prodigiosa que comienza a dar miedo. De hecho, hay quien quiere\u00a0pausar el entrenamiento de la IA<\/a>. Un enorme grupo de expertos y personalidades de todo el mundo firmaban estos d\u00edas una carta abierta para solicitarlo, y entre todos ellos destacaba la presencia de Elon Musk, que curiosamente fue cofundador de OpenAI. Esa petici\u00f3n est\u00e1 generando un gran debate entre los expertos.<\/p>\n

La carta<\/strong>. La iniciativa parti\u00f3 del Future of Life Institute (FLI), una ONG con la misi\u00f3n de \u00abreducir los riesgos catastr\u00f3ficos y existenciales globales de tecnolog\u00edas poderosas\u00bb. Uno de sus focos es el de mitigar \u00abel riesgo existencial a largo plazo\u00bb de la inteligencia artificial superinteligente. Elon Musk, que\u00a0ya hab\u00eda expresado su preocupaci\u00f3n al respecto<\/a>, don\u00f3 10 millones de d\u00f3lares a este organismo en 2015.<\/p>\n

\n
\n
\n
<\/a><\/div>\n
\n
EN XATAKA<\/a><\/div>\n

\u00abLa era de la IA ha comenzado\u00bb: Bill Gates cree que estamos ante nuestra segunda gran revoluci\u00f3n tecnol\u00f3gica<\/a><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Expertos a favor de pausar la IA<\/strong>. Entre quienes apoyan esa petici\u00f3n est\u00e1n Steve Wozniak (cofundador de Apple), Emad Mostaque (CEO de Stability AI), Yval Noah Harari (autor e historiador), Evan Sharp (cofundador de Pinterest) o Max Tegmark (profesor de f\u00edsica en el MIT y presidente del FLI). Hay incluso ingenieros que trabajan para DeepMind o Microsoft que han firmado esa petici\u00f3n, pero nadie de OpenAI lo ha hecho.<\/p>\n

Firmas falsas<\/strong>. El FLI destacaba\u00a0en Motherboard<\/a>\u00a0que todos los firmantes han sido verificados \u00abmediante comunicaci\u00f3n directa\u00bb con ellos, pero se ha revelado que algunos de los que te\u00f3ricamente hab\u00edan firmado en realidad no lo hab\u00edan hecho. Entre ellos estaban suplantaciones de identidad del CEO de OpenAI,\u00a0Sam Altman<\/a>, del presidente de China,\u00a0Xi Jinping<\/a>, o del responsable de IA en Meta, Yann LeCunn, que\u00a0coment\u00f3 en Twitter<\/a>\u00a0que \u00e9l no la firm\u00f3 y estaba \u00aben contra de la premisa\u00bb. FLI acab\u00f3 editando la lista para volver a verificar las firmas.<\/p>\n<\/p>\n

This open letter \u2014 ironically but unsurprisingly \u2014 further fuels AI hype and makes it harder to tackle real, already occurring AI harms. I suspect that it will benefit the companies that it is supposed to regulate, and not society. Let\u2019s break it down. https:\/\/t.co\/akQozgMCya<\/a><\/p>\n

\u2014 Arvind Narayanan (@random_walker)\u00a0March 29, 2023<\/a><\/p>\n

Cr\u00edticas<\/strong>. Expertos como Arvind Narayanan, profesor en Princeton, explicaba que solo una de las amenazas planteadas en la carta \u2014la desinformaci\u00f3n\u2014 era cre\u00edble, pero incluso en este caso se exageraba su impacto. Incluso algunos de los firmantes no est\u00e1n del todo convencidos de los argumentos. Gary Marcus, profesor de psicolog\u00eda y neurociencias en la Universidad de Nueva York, explicaba\u00a0en Reuters<\/a>\u00a0que \u00abla carta no es perfecta, pero el esp\u00edritu es el adecuado\u00bb.<\/p>\n<\/p>\n

Okay, so that AI letter signed by lots of AI researchers calling for a \u00abPause [on] Giant AI Experiments\u00bb? It\u2019s just dripping with\u00a0#Aihype<\/a>. Here\u2019s a quick rundown.<\/p>\n

>><\/p>\n

\u2014 @emilymbender@dair-community.social on Mastodon (@emilymbender)\u00a0March 29, 2023<\/a><\/p>\n

Y m\u00e1s cr\u00edticas<\/strong>. La carta cita varios estudios, y una de las autoras de\u00a0uno de ellos<\/a>, Emily M. Bender, publicaba un hilo en Twitter destacando que la carta \u00abchorrea hype por la IA\u00bb y utiliza de forma inadecuada sus conclusiones. En aquel estudio, titulado \u00abStochastic Parrots\u00bb, se hablaba no del riesgo de una IA demasiado poderosa, \u00absino de la concentraci\u00f3n de poder en manos de la gente, y sobre la reproducci\u00f3n de sistemas de opresi\u00f3n\u00bb.<\/p>\n<\/p>\n

2\/There is no realistic way to implement a moratorium and stop all teams from scaling up LLMs, unless governments step in. Having governments pause emerging technologies they don\u2019t understand is anti-competitive, sets a terrible precedent, and is awful innovation policy.<\/p>\n

\u2014 Andrew Ng (@AndrewYNg)\u00a0March 29, 2023<\/a><\/p>\n

Y m\u00e1s a\u00fan<\/strong>. Expertos como Andrew Ng, cofundador de Coursera tambi\u00e9n se muestran contrarios a los argumentos de la carta. Ng ya afirm\u00f3 hace a\u00f1os que \u00abla inteligencia artificial es la nueva electricidad<\/a>\u00ab, y calificaba la propuesta de la carta como \u00abuna idea terrible\u00bb y a\u00f1ad\u00eda el peligro de acometer algo as\u00ed:<\/p>\n

\u00abNo hay una forma realista de aplicar una moratoria e impedir que todos los equipos ampl\u00eden las LLM, a menos que intervengan los gobiernos. Hacer que los gobiernos pongan freno a tecnolog\u00edas emergentes que no entienden es anticompetitivo, sienta un precedente terrible y es una p\u00e9sima pol\u00edtica de innovaci\u00f3n\u00bb.<\/p>\n

\n
\n
\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Las otras razones de Musk<\/strong>. La preocupaci\u00f3n de Musk parece razonable hasta cierto punto, pero las cosas se complicaron tras desvelarse detalles de su escabrosa relaci\u00f3n con OpenAI y con Sam Altman. Musk, uno de los inversores iniciales, abandon\u00f3 la empresa y\u00a0ahora probablemente lamenta la decisi\u00f3n<\/a>. Se habla de c\u00f3mo est\u00e1 tratando de crear un rival para OpenAI, y esa pausa en el entrenamiento de la IA le vendr\u00eda muy bien para recuperar terreno. Mientras tanto Altman\u00a0confiesa<\/a>\u00a0que est\u00e1 \u00abmuy calmado en el ojo del hurac\u00e1n\u00bb.<\/p><\/p>\n","protected":false},"excerpt":{"rendered":"

La inteligencia artificial es tan prodigiosa que comienza a dar miedo. De hecho, hay quien quiere\u00a0pausar el entrenamiento de la IA. Un enorme grupo de expertos y personalidades de todo el mundo firmaban estos d\u00edas una carta abierta para solicitarlo, y entre todos ellos destacaba la presencia de Elon Musk, que curiosamente fue cofundador de …<\/p>\n","protected":false},"author":0,"featured_media":53987,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-53986","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/03\/450_1000-6eTFSn.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/53986","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=53986"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/53986\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/53987"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=53986"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=53986"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=53986"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}