{"id":63858,"date":"2023-10-18T17:12:47","date_gmt":"2023-10-18T23:12:47","guid":{"rendered":"http:\/\/mickyandoniehn.com\/radio\/2023\/10\/18\/la-ue-prepara-una-regulacion-de-tres-niveles-para-la-ia-cuanto-mas-potente-mas-estricas-seran-las-limitaciones\/"},"modified":"2023-10-18T17:12:47","modified_gmt":"2023-10-18T23:12:47","slug":"la-ue-prepara-una-regulacion-de-tres-niveles-para-la-ia-cuanto-mas-potente-mas-estricas-seran-las-limitaciones","status":"publish","type":"post","link":"https:\/\/mickyandoniehn.com\/radio\/2023\/10\/18\/la-ue-prepara-una-regulacion-de-tres-niveles-para-la-ia-cuanto-mas-potente-mas-estricas-seran-las-limitaciones\/","title":{"rendered":"La UE prepara una regulaci\u00f3n de tres niveles para la IA: cuanto m\u00e1s potente, m\u00e1s estricas ser\u00e1n las limitaciones"},"content":{"rendered":"<\/p>\n<p>La Uni\u00f3n Europea sigue trabajando a toda m\u00e1quina para lanzar la que ser\u00e1\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/parlamento-europeo-aprueba-regulacion-ia-espana-sera-decisiva-su-puesta-marcha-final\">la primera gran regulaci\u00f3n de IA de la historia<\/a>. El proceso, que comenz\u00f3\u00a0<a href=\"https:\/\/www.xataka.com\/legislacion-y-derechos\/europa-abraza-inteligencia-artificial-asi-pionero-acuerdo-que-explotara-limitara-sus-posibilidades\">en mayo de 2022<\/a>, se enfrenta ahora a su fase final, y lo hace con un planteamiento singular que aboga por clasificar los sistemas de IA en tres grandes niveles de prestaciones para luego aplicar distintas restricciones seg\u00fan el alcance de cada uno de ellos.<\/p>\n<p><strong>Tres niveles, tres<\/strong>. En Bloomberg\u00a0<a href=\"https:\/\/www.bloomberg.com\/news\/articles\/2023-10-18\/eu-plans-stricter-rules-for-most-powerful-generative-ai-models#xj4y7vzkg\">afirman<\/a> haber tenido acceso a un borrador de la llamada AI Act en el que se habla de tres categor\u00edas de sistemas de IA. El primero, el de los modelos fundacionales (tipo GPT-4 o PaLM 2) que son base de la mayor\u00eda de implementaciones pr\u00e1cticas. El segundo, el de los sistemas \u00abmuy capaces\u00bb que se diferencian en la capacidad de proceso usada para entrenarlos. El tercero, los sistemas de prop\u00f3sito general como ChatGPT, y aqu\u00ed se medir\u00eda su influencia seg\u00fan su n\u00famero de usuarios.<\/p>\n<p><strong>La UE perfila su propuesta<\/strong>. Los representantes de las tres instituciones de la Uni\u00f3n Europea ya apoyaron esa soluci\u00f3n basada en capas o categor\u00edas en una reuni\u00f3n previa este mes, pero seg\u00fan Bloomberg los expertos han desarrollado esta propuesta m\u00e1s concreta que tiene fecha del 16 de octubre. Anteriormente ya hab\u00edamos visto ese marco regulatorio\u00a0<a href=\"https:\/\/digital-strategy.ec.europa.eu\/en\/policies\/regulatory-framework-ai\">basado en el riesgo<\/a>\u00a0que planteaban esas soluciones. Veamos esas grandes categor\u00edas y sus limitaciones.<\/p>\n<p><strong>Primero, todos los modelos fundacionales<\/strong>. Los desarrolladores de IA deber\u00e1n documentar tanto el modelo como su proceso de entrenamiento antes de publicarlo. Necesitar\u00e1n analizar su seguridad tratando de forzar malos comportamientos, y tambi\u00e9n ser\u00e1 necesario conocer c\u00f3mo se gestionan los posibles conflictos de copyright. Estos modelos, seg\u00fan el documento, pueden \u00abrealizar de forma competente un amplio rango de tareas diferentes\u00bb.<\/p>\n<p><strong>Segundo, los modelos fundacionales \u00abaltamente capaces\u00bb<\/strong>. Si el modelo es m\u00e1s ambicioso, tendr\u00e1 que pasar por una evaluaci\u00f3n m\u00e1s exhaustiva. De hecho, expertos externos designados por la nueva AI Office de la UE realizar\u00e1n las pruebas \u00abred-teaming\u00bb de evaluaci\u00f3n de seguridad. Tambi\u00e9n habr\u00e1 comprobaciones peri\u00f3dicas de que se siguen las normas y de que se mantiene la transparencia. Estos modelos se clasificar\u00e1n seg\u00fan la potencia de c\u00e1lculo aplicada para entrenarlos medida en FLOPS, una magnitud ya tradicional al evaluar supercomputadores. De momento los rangos de potencia no se han establecido, pero se ir\u00e1n actualizando.<\/p>\n<p><strong>Tercero, los sistemas IA de escala y prop\u00f3sito general<\/strong>. Habr\u00e1 aqu\u00ed tambi\u00e9n an\u00e1lisis de seguridad externos y obligaci\u00f3n de crear un informe de riesgos y medidas para minimizarlos. Estos sistemas se clasificar\u00e1n seg\u00fan el n\u00famero de usuarios: si se pasa de 10.000 usuarios empresariales o de 45 millones de usuarios registrados, el sistema se considerar\u00e1 como integrante en esta categor\u00eda. A\u00fan as\u00ed, la AI Office podr\u00e1 incluir en ella otros sistemas cuando no se superen ese n\u00famero de usuarios pero puedan plantear riesgos.<\/p>\n<p><strong>Si no cumplen, suspensi\u00f3n<\/strong>. Las medidas espec\u00edficas no est\u00e1n a\u00fan detalladas en el borrador seg\u00fan Bloomberg, pero esa AI Office recolectar\u00e1 la documentaci\u00f3n, organizar\u00e1 las pruebas de cumplimiento de las normas, crear\u00e1 un registro de expertos de seguridad y llevar\u00e1 a cabo las investigaciones. Si se detecta que los modelos incumplen esa regulaci\u00f3n, se podr\u00e1 acudir a la suspensi\u00f3n del modelo \u00abcomo \u00faltimo recurso\u00bb. Algo as\u00ed ocurri\u00f3 cuando\u00a0<a href=\"https:\/\/www.xataka.com\/aplicaciones\/italia-prohibe-chatgpt-infringir-gdpr-movimiento-que-vierte-sombra-duda-toda-europa\">Italia prohibi\u00f3 temporalmente el uso de ChatGPT<\/a>, por ejemplo. Se espera que se debata esta regulaci\u00f3n la semana que viene, aunque no se finalizar\u00e1 su redacci\u00f3n hasta finales de a\u00f1o.<\/p>\n<div class=\"article-asset-video article-asset-normal\">\n<div class=\"asset-content\">\n<div class=\"\">\n<div class=\"js-dailymotion\">\n<div class=\"dailymotion-player-root dailymotion-player-xbl2m\">\n<div class=\"dailymotion-player-wrapper\"><\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<p><strong>Pero<\/strong>. La puesta en marcha de la regulaci\u00f3n, aunque necesaria, tiene un contrapunto: si es demasiado restrictiva podr\u00eda acabar\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/inteligencia-artificial-a-dos-velocidades-advertencia-altman-regulacion-union-europea\">perjudicando el desarrollo<\/a>\u00a0y puesta en marcha de estos sistemas en la UE. Eso volver\u00eda a hacer que el viejo continente fuera a la zaga en esta (te\u00f3rica) nueva revoluci\u00f3n\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/estados-unidos-europa-tienen-posiciones-opuestas-para-regular-ia-hay-tercera-via-japon\">mientras EEUU o China avanzan<\/a>\u00a0con regulaciones m\u00e1s laxas, si es que acaban estableci\u00e9ndolas. Los expertos ya hablan de\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/europa-ha-puesto-liston-demasiado-alto-su-regulacion-ia-open-source-se-libra-nuevas-reglas\">un gran perjudicado, el Open Source<\/a>, pero es que adem\u00e1s esas prisas pueden ser malas consejeras porque la regulaci\u00f3n\u00a0<a href=\"https:\/\/www.xataka.com\/legislacion-y-derechos\/europa-ha-estado-rapidisima-para-legislar-inteligencia-artificial-asi-su-ley-esta-obsoleta\">podr\u00eda nacer obsoleta<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>La Uni\u00f3n Europea sigue trabajando a toda m\u00e1quina para lanzar la que ser\u00e1\u00a0la primera gran regulaci\u00f3n de IA de la historia. El proceso, que comenz\u00f3\u00a0en mayo de 2022, se enfrenta ahora a su fase final, y lo hace con un planteamiento singular que aboga por clasificar los sistemas de IA en tres grandes niveles de &hellip;<\/p>\n","protected":false},"author":0,"featured_media":63859,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-63858","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/10\/500_333-Jim8P3.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/63858","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=63858"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/63858\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/63859"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=63858"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=63858"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=63858"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}