{"id":59445,"date":"2023-06-30T11:12:40","date_gmt":"2023-06-30T17:12:40","guid":{"rendered":"http:\/\/mickyandoniehn.com\/radio\/2023\/06\/30\/esta-inteligencia-artificial-tiene-una-sola-mision-volver-locas-a-otras-inteligencias-artificiales-destrozando-su-entrenamiento\/"},"modified":"2023-06-30T11:12:40","modified_gmt":"2023-06-30T17:12:40","slug":"esta-inteligencia-artificial-tiene-una-sola-mision-volver-locas-a-otras-inteligencias-artificiales-destrozando-su-entrenamiento","status":"publish","type":"post","link":"http:\/\/mickyandoniehn.com\/radio\/2023\/06\/30\/esta-inteligencia-artificial-tiene-una-sola-mision-volver-locas-a-otras-inteligencias-artificiales-destrozando-su-entrenamiento\/","title":{"rendered":"Esta inteligencia artificial tiene una sola misi\u00f3n: volver locas a otras inteligencias artificiales destrozando su entrenamiento"},"content":{"rendered":"<\/p>\n<p>Ya est\u00e1 aqu\u00ed la versi\u00f3n 1.0 de Glaze,\u00a0<strong>la IA que ofrece a los artistas protecci\u00f3n contra otras IAs<\/strong>. Glaze se desarroll\u00f3 en respuesta al lanzamiento de modelos de IA como MidJourney y Stable Diffusion, que son\u00a0<strong>entrenados con miles de millones de im\u00e1genes sin autorizaci\u00f3n de los autores de las mismas<\/strong>. \u00bfY en qu\u00e9 sentido \u2018responde\u2019 Glaze a este problema? Pues\u00a0<strong>interfiriendo<\/strong>\u00a0con la capacidad de esas otras IAs para analizar ciertos detalles concretos de las obras de arte.<\/p>\n<p>As\u00ed, una vez que una imagen \u2018glazeada\u2019 es descargada e incluida en un dataset de entrenamiento, la IA en entrenamiento podr\u00e1 procesar formas y objetos b\u00e1sicos en la misma, pero\u00a0<strong>no podr\u00e1 capturar lo que hace \u00fanico a un artista: los patrones de aspectos como los trazos del pincel o las paletas de colores.<\/strong><\/p>\n<p>Esto se logra\u00a0<strong>a\u00f1adiendo un \u2018camuflaje\u2019 superpuesto a la imagen original<\/strong>\u00a0(aunque uno que ofrece \u2018robustez frente a la eliminaci\u00f3n\u2019, que no es tan f\u00e1cil de quitar como una marca de agua) que le confunde y le hace pensar que est\u00e1 viendo el estilo que t\u00fa prefieras.<\/p>\n<p>\u00abEl camuflaje no es una marca de agua fr\u00e1gil, que se ve o no se ve: es una transformaci\u00f3n de la imagen en una dimensi\u00f3n que los humanos no perciben, pero s\u00ed en las dimensiones en las que el modelo de aprendizaje profundo percibe estas im\u00e1genes.<\/p>\n<p>As\u00ed que las transformaciones que rotan, desenfocan, cambian la resoluci\u00f3n, recortan, etc. , no afectan a la capa, del mismo modo que esas operaciones no cambiar\u00edan tu percepci\u00f3n de lo que hace que un cuadro de Van Gogh sea \u2018un Van Gogh&#8217;\u00bb.<\/p>\n<div class=\"video-boost-container article-asset-normal\">\n<span class=\"video-boost-heading\">UN VISTAZO A\u2026<\/span><\/p>\n<div class=\"article-asset-video\">\n<div class=\"asset-content\">\n<div class=\"\">\n<div class=\"js-dailymotion\">\n<div class=\"dailymotion-player-root dailymotion-player-x8gnd\">\n<div class=\"dailymotion-player-wrapper\"><\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<p><span class=\"video-boost-title\">ZAO, la APP M\u00d3VIL china que a trav\u00e9s de DEEPFAKE te convierte en DICAPRIO en SEGUNDOS<\/span><\/p>\n<\/div>\n<h2>IA contra IA. \u00bfObjetivo? Cortocircuitar<\/h2>\n<p>Este camuflaje permite seguir apreciando la imagen original, pero \u2018vuelve loca\u2019 a la otra IA. No es la primera vez que se aprecia\u00a0<strong>este fen\u00f3meno: se llama \u2018ataque antag\u00f3nico\u2019<\/strong>, y en el pasado ya ha permitido imprimir en 3D\u00a0<a href=\"https:\/\/www.xataka.com\/inteligencia-artificial\/conceptos-inteligencia-artificial-que-inteligencia-artificial-antagonica-como-puede-manipular-a-otras-ias\">tortugas que otras IAs identificaban como rifles<\/a>, o pegatinas para el asfalto capaces de\u00a0<a href=\"https:\/\/www.xataka.com\/inteligencia-artificial\/unas-pegatinas-asfalto-bastan-para-hackear-piloto-automatico-tesla-convencerle-para-ir-direccion-contraria\">convencer a los Tesla de conducir en direcci\u00f3n contraria<\/a>.<\/p>\n<div class=\"article-asset-image article-asset-large\">\n<div class=\"asset-content\">\n<div class=\"caption-img \">\n<div class=\"base-wrapper-image\"><\/div>\n<p>\u00bfVes ese curioso patr\u00f3n en la concha de la tortuga? Pues eso, ya en 2017, las IAs de reconocimiento visual lo interpretaban como un \u2018rifle\u2019. \u00bfQu\u00e9 loco todo, eh?<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p>Todo esto mientras\u00a0<strong>el ojo humano sigue viendo tortugas perfectamente reconocibles<\/strong>\u00a0y las indicaciones de tr\u00e1fico correctas, claro. Ah\u00ed est\u00e1 la gracia.<\/p>\n<p>Sin embargo, quiz\u00e1 Glaze se parezca m\u00e1s a la pintura facial capaz de\u00a0<a href=\"https:\/\/www.xataka.com\/inteligencia-artificial\/estos-metodos-que-intentan-sortear-reconocimiento-facial-defensores-privacidad\">\u2018cortocircuitar\u2019 el reconocimiento de rostros<\/a>\u00a0mediante IA (s\u00ed, tambi\u00e9n hay de eso) o los<a href=\"https:\/\/www.xataka.com\/inteligencia-artificial\/simple-parche-colores-permite-enganar-a-camaras-vigilancia-ia-no-detecten-personas-imagen\">\u00a0parches para la ropa anti-reconocimiento de personas<\/a>, porque\u00a0<strong>en este caso el ojo humano s\u00ed es capaz de apreciar una (ligera) diferencia<\/strong>.<\/p>\n<div class=\"article-asset-summary article-asset-normal article-asset-center\">\n<div class=\"asset-content\">\n<div class=\"sumario\">\u00abAunque es dif\u00edcil predecir el rendimiento con modelos nuevos o patentados, hemos probado y validado el rendimiento de nuestra protecci\u00f3n contra m\u00faltiples modelos de IA. Hasta ahora, no se han encontrado formas efectivas de romper la protecci\u00f3n de Glaze<\/div>\n<\/div>\n<\/div>\n<h2>Un camuflaje, ahora, configurable<\/h2>\n<p>Cuando la primera beta de Glaze se lanz\u00f3 hace tres meses, no faltaron opiniones que lo ve\u00edan como una buena idea\u2026 pero entend\u00edan que\u00a0<strong>la alteraci\u00f3n creada en la imagen original por el camuflaje visual a\u00f1adido pod\u00eda afectar negativamente a su est\u00e9tica<\/strong>, lo que convert\u00eda a Glaze en una mala opci\u00f3n si pretend\u00edas vender tu arte online, por ejemplo<\/p>\n<div class=\"article-asset-image article-asset-large\">\n<div class=\"asset-content\">\n<div class=\"caption-img \">\n<div class=\"base-wrapper-image\"><\/div>\n<p>A la izquierda, imagen alterada con la primera beta de Glaze. A la derecha, el resultado de usar Glaze 1.0.<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p><strong>La versi\u00f3n 1.0, sin embargo, ofrece a sus usuarios la opci\u00f3n de \u00abcontrolar hasta qu\u00e9 punto el camuflaje modifica la obra de arte original<\/strong>, desde la introducci\u00f3n de cambios totalmente imperceptibles hasta modificaciones ligeramente m\u00e1s visibles [que] proporcionan una mayor protecci\u00f3n contra la capacidad de la IA para robar el estilo\u00bb.<\/p>\n<h2>\u00bfNo llegamos ya tarde?<\/h2>\n<p>Los pintores e ilustradores que est\u00e9n leyendo esto experimentar\u00e1n, sin duda, sentimientos encontrados: \u2018poder recurrir a Glaze es algo positivo, pero\u2026\u00a0<strong>\u00bfresulta \u00fatil hacerlo a estas alturas<\/strong>, con docenas o cientos de obras de arte m\u00edas ya disponibles en Internet?\u2019.\u00a0<strong>La respuesta es s\u00ed\u2026 en la medida en que las nuevas versiones de los modelos vayan actualizando sus datasets<\/strong>\u00a0de entrenamiento.<\/p>\n<p>\u00abEstos modelos de IA siempre est\u00e1n a\u00f1adiendo m\u00e1s datos de entrenamiento para mejorar su precisi\u00f3n y mantenerse al d\u00eda de los cambios en las tendencias art\u00edsticas con el paso del tiempo.\u00a0<strong>Cuantas m\u00e1s im\u00e1genes \u2018glazeadas\u2019 publiques en Internet, m\u00e1s \u2018cambiar\u00e1 tu estilo\u2019<\/strong>\u00a0[de cara a esas IAs], acerc\u00e1ndose al estilo objetivo. En alg\u00fan momento, cuando el cambio sea lo suficientemente significativo, el modelo de IA empezar\u00e1 a generar im\u00e1genes en el estilo de Van Gogh cuando se le pregunte por tu estilo.<\/p>\n<p>Hemos comprobado que, siempre que se produzca un ligero cambio en el espacio de caracter\u00edsticas del modelo de IA,\u00a0<strong>\u00e9ste crear\u00e1 im\u00e1genes notablemente diferentes de tu estilo<\/strong>. Por ejemplo, las im\u00e1genes generadas pueden parecerse a un h\u00edbrido (inc\u00f3modamente espeluznante) de tu estilo y el cubismo abstracto\u00bb.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Ya est\u00e1 aqu\u00ed la versi\u00f3n 1.0 de Glaze,\u00a0la IA que ofrece a los artistas protecci\u00f3n contra otras IAs. Glaze se desarroll\u00f3 en respuesta al lanzamiento de modelos de IA como MidJourney y Stable Diffusion, que son\u00a0entrenados con miles de millones de im\u00e1genes sin autorizaci\u00f3n de los autores de las mismas. \u00bfY en qu\u00e9 sentido \u2018responde\u2019 &hellip;<\/p>\n","protected":false},"author":0,"featured_media":59446,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-59445","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"http:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/06\/450_1000-bOsoTO.webp","_links":{"self":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/59445","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=59445"}],"version-history":[{"count":0,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/59445\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/59446"}],"wp:attachment":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=59445"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=59445"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=59445"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}