{"id":55579,"date":"2023-04-28T13:13:05","date_gmt":"2023-04-28T19:13:05","guid":{"rendered":"http:\/\/mickyandoniehn.com\/radio\/2023\/04\/28\/adobe-esta-creando-una-marca-de-agua-para-las-imagenes-generadas-por-ia-otra-cosa-es-que-funcione\/"},"modified":"2023-04-28T13:13:05","modified_gmt":"2023-04-28T19:13:05","slug":"adobe-esta-creando-una-marca-de-agua-para-las-imagenes-generadas-por-ia-otra-cosa-es-que-funcione","status":"publish","type":"post","link":"http:\/\/mickyandoniehn.com\/radio\/2023\/04\/28\/adobe-esta-creando-una-marca-de-agua-para-las-imagenes-generadas-por-ia-otra-cosa-es-que-funcione\/","title":{"rendered":"Adobe est\u00e1 creando una \u00abmarca de agua\u00bb para las im\u00e1genes generadas por IA. Otra cosa es que funcione"},"content":{"rendered":"<\/p>\n

El \u00faltimo temazo de Drake y The Weeknd es estupendo,\u00a0pero no era de ellos, lo hizo una IA<\/a>. La foto que gan\u00f3 el Sony World Photography Award es espectacular, pero ni los jurados se dieron cuenta de que tambi\u00e9n hab\u00eda sido\u00a0creado con una IA generativa<\/a>. No paramos de ver im\u00e1genes, m\u00fasica e incluso alg\u00fan que otro v\u00eddeo alucinante, y eso\u00a0plantea un problema<\/a>: diferenciar qu\u00e9 ha sido creado por el ser humano y qu\u00e9 ha sido creado por IA.<\/p>\n

Una alianza por la autenticidad del contenido<\/strong>. Adobe\u00a0lidera<\/a>\u00a0la llamada Content Authenticity Initiative (CAI), un consorcio de cerca de 1.000 miembros entre los que hay empresas de contenidos, startups tecnol\u00f3gicas o fabricantes de c\u00e1maras. \u00bfSu objetivo? Crear una serie de est\u00e1ndares que permitan confirmar la autenticidad del contenido digital.<\/p>\n

Deepfakes y contenidos falsos<\/strong>. La empresa cre\u00f3 el grupo en 2019, pero es ahora cuando su labor se ha vuelto m\u00e1s importante que nunca ante la avalancha de contenidos generados por IA. Sobre todo en lo que respecta a los deepfakes que se salen del \u00e1mbito de los memes y que\u00a0pueden ayudar a la desinformaci\u00f3n<\/a>. Las\u00a0im\u00e1genes del Papa o de Donald Trump<\/a> que se hicieron virales son una buena demostraci\u00f3n del problema. \u00bfQu\u00e9 hacer al respecto?<\/p>\n

Marcas de agua<\/strong>. La\u00a0soluci\u00f3n que propone el CAI<\/a>\u00a0es usar un \u00abhash criptogr\u00e1fico de recursos para proporcionar firmas verificables y a prueba de manipulaciones\u00bb, que luego se modificar\u00edan para reflejar cualquier alteraci\u00f3n. El grupo compara la norma con una \u00abetiqueta nutricional\u00bb para los contenidos digitales. En esencia ser\u00eda algo similar a una marca de agua invisible que se aplicar\u00eda a todo contenido generado por IA para poder confirmar si\u00a0est\u00e1 o no generado por este tipo de sistemas<\/a>.<\/p>\n

Contenidos con historial m\u00e9dico<\/strong>. Esas marcas de agua criptogr\u00e1ficas hacen que al crear un contenido el autor pueda elegir si preservar la atribuci\u00f3n o permanecer en el anonimato. Incluso al editar por ejemplo im\u00e1genes con Photoshop se pueden capturar metadatos y se va creando una especie de \u00abhistorial de alteraciones\u00bb al contenido para saber c\u00f3mo y cu\u00e1ndo ha sido modificado. Ese contenido luego se puede consultar, historial incluido, con herramientas como\u00a0Verify<\/a>.<\/p>\n

Pero hay un reto mayor<\/strong>. La soluci\u00f3n tecnol\u00f3gica existe, pero la medida solo ser\u00e1 efectiva si se aplica de forma masiva. Eso significa que este \u00abetiquetado\u00bb funcionar\u00e1 solo si un gran n\u00famero de empresas lo aplican. Ah\u00ed es donde Adobe, referente en el mercado, puede ayudar. Fabricantes como Nikon o Leica ya han accedido a integrar la tecnolog\u00eda en algunas de sus c\u00e1maras, y la CAI espera que miembros como Associated Press o el Washington Post implementen este est\u00e1ndar.<\/p>\n

Open Source e interoperable<\/strong>. El trabajo de la CAI es adem\u00e1s\u00a0un desarrollo Open Source<\/a>\u00a0que permite usar herramientas interoperables. Su propuesta se ajusta a las\u00a0especificaciones<\/a>\u00a0que en 2022 emiti\u00f3 la\u00a0Coalition for Content Provenance and Authenticity<\/a>\u00a0(C2PA), un organismo que precisamente trabaja en esta misma direcci\u00f3n. En \u00e9l que est\u00e1n integrados empresas como la propia Adobe, la BBC, Intel, Microsoft o Sony, y hace ya dos a\u00f1os que la especificaci\u00f3n est\u00e1 disponible\u00a0en GitHub<\/a>. Como en el caso de la CAI, el objetivo es \u00abproporcionar a editores, creadores y consumidores la posibilidad de rastrear el origen de distintos tipos de soportes\u00bb.<\/p>\n

No todo es de color de rosa<\/strong>. Neal Krawetz, experto en ciberseguridad, daba una visi\u00f3n algo distinta de estas iniciativas\u00a0en Hacker Factor<\/a>. Seg\u00fan \u00e9l la CAI no hac\u00eda mucho m\u00e1s que gestionar su web, y criticaba que tanto CAI como C2PA son consorcios cerrados a la participaci\u00f3n independiente. Para \u00e9l hay otra opci\u00f3n.<\/p>\n

JPEG-FM<\/strong>.El JPEG Working Group que desarrolla este conocido est\u00e1ndar cre\u00f3 un grupo de trabajo llamado\u00a0JPEG-FM<\/a>\u00a0(por Fake Media, \u00abcontenidos falsos\u00bb). El proceso es mucho m\u00e1s abierto y p\u00fablico, y el objetivo es el mismo: dar soluciones a la desinformaci\u00f3n, alteraciones o representaciones err\u00f3neas en contenidos.<\/p>\n

\n
\n
\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

TinyEye y los hashes perceptuales<\/strong>. Krawezt alud\u00eda adem\u00e1s a otra posible soluci\u00f3n al problema. Se trata de los llamados\u00a0hashes perceptivos<\/a>, de los qu ehabl\u00f3 en una\u00a0charla reciente<\/a>\u00a0y que son distintos a los hashes criptogr\u00e1ficos que pretende usar Adobe. Esta es la tecnolog\u00eda en la que por ejemplo est\u00e1 basada\u00a0TinyEye<\/a>, una plataforma de b\u00fasqueda inversa de im\u00e1genes que entre otras cosas permite encontrar y verificar im\u00e1genes protegidas por derechos de autor.<\/p>\n

\u00bfFuncionar\u00e1?<\/strong>\u00a0Lo cierto es que los conceptos t\u00e9cnicos de ambas propuestas parecen s\u00f3lidos y plantean una potencial soluci\u00f3n al problema. Hay otras soluciones, desde luego,\u00a0como el identificador de la propia OpenAI<\/a>. El reto, como dec\u00edamos, es el de su aplicaci\u00f3n masiva: si la industria (y los usuarios) no comienzan a aprovechar estas soluciones cuando est\u00e9n realmente disponibles, ser\u00e1 dif\u00edcil afrontar una situaci\u00f3n previsible: la de una avalancha de contneidos generados por IA que adem\u00e1s ser\u00e1n virtualmente indistinguibles de los que puede crear el ser humano.<\/p>\n","protected":false},"excerpt":{"rendered":"

El \u00faltimo temazo de Drake y The Weeknd es estupendo,\u00a0pero no era de ellos, lo hizo una IA. La foto que gan\u00f3 el Sony World Photography Award es espectacular, pero ni los jurados se dieron cuenta de que tambi\u00e9n hab\u00eda sido\u00a0creado con una IA generativa. No paramos de ver im\u00e1genes, m\u00fasica e incluso alg\u00fan que …<\/p>\n","protected":false},"author":0,"featured_media":55580,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-55579","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"http:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/04\/450_1000-xe1T2I.jpeg","_links":{"self":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/55579","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=55579"}],"version-history":[{"count":0,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/55579\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/55580"}],"wp:attachment":[{"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=55579"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=55579"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=55579"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}