{"id":68710,"date":"2024-03-07T21:13:13","date_gmt":"2024-03-08T03:13:13","guid":{"rendered":"https:\/\/mickyandoniehn.com\/radio\/2024\/03\/07\/a-un-ingeniero-de-microsoft-le-aterroriza-la-ia-de-su-compania-esta-haciendo-todo-lo-posible-para-que-la-desactiven\/"},"modified":"2024-03-07T21:13:13","modified_gmt":"2024-03-08T03:13:13","slug":"a-un-ingeniero-de-microsoft-le-aterroriza-la-ia-de-su-compania-esta-haciendo-todo-lo-posible-para-que-la-desactiven","status":"publish","type":"post","link":"https:\/\/mickyandoniehn.com\/radio\/2024\/03\/07\/a-un-ingeniero-de-microsoft-le-aterroriza-la-ia-de-su-compania-esta-haciendo-todo-lo-posible-para-que-la-desactiven\/","title":{"rendered":"A un ingeniero de Microsoft le aterroriza la IA de su compa\u00f1\u00eda. Est\u00e1 haciendo todo lo posible para que la desactiven"},"content":{"rendered":"<\/p>\n

Shane Jones lleva trabajando seis a\u00f1os en Microsoft, y aunque no trabaja de forma directa en el desarrollo de las\u00a0soluciones de IA de su empresa<\/a>, s\u00ed se dedica a analizar sus potenciales riesgos. El problema es precisamente ese: seg\u00fan \u00e9l, hay m\u00faltiples amenazas que plantea el uso de herramientas como Copilot Designer, antes conocido como Bing Image Creator.<\/p>\n

Qu\u00e9 ha pasado<\/strong>. Como se\u00f1alan\u00a0en CNBC<\/a>, al analizar ambos modelos para detectar problemas y defectos, Jones detect\u00f3 que la herramienta generaba \u00abdemonios y monstruos adem\u00e1s de terminolog\u00eda relacionada con los derechos sobre el aborto, adolescentes con rifles de asalto, im\u00e1genes sexualizadas de mujeres en cuadros violentos y consumo de alcohol y drogas entre menores de edad\u00bb. En Google precisamente est\u00e1n sufriendo las consecuencias de una IA que\u00a0arroja resultados problem\u00e1ticos<\/a>.<\/p>\n

\u00abEste modelo no es seguro\u00bb<\/strong>. Esas im\u00e1genes fueron para este ingeniero una peligrosa revelaci\u00f3n. Una que en su opini\u00f3n demostraba que modelos como este no son seguros para un uso masivo. Comenz\u00f3 a probar la herramienta en diciembre, y desde entonces ha intentado transmitir su preocupaci\u00f3n a la empresa.<\/p>\n

DALL-E 3 debe ser suspendido<\/strong>. Jones inform\u00f3 de los resultados de su an\u00e1lisis en la empresa, pero aunque en Microsoft reconocieron su preocupaci\u00f3n, no estaban dispuestos a desactivar Copilot Designer,\u00a0una de sus grandes herramientas para ganar la guerra de la IA<\/a>. De hecho le remitieron a OpenAI, y all\u00ed ni siquiera contestaron a sus avisos. Fue entonces cuando public\u00f3 un art\u00edculo en su cuenta de LinkedIn en la que le ped\u00eda al consejo de administraci\u00f3n de OpenAI que desactivara\u00a0DALL-E 3<\/a>, el modelo en el que tambi\u00e9n se basa Copilot Designer.<\/p>\n

Primero el Senado<\/strong>. El departamento legal de Microsoft le dijo a Jones que deb\u00eda eliminar esa publicaci\u00f3n, y eso hizo. Sin embargo, en enero envi\u00f3 una carta a los senadores de EEUU avisando de lo que estaba pasando, y m\u00e1s tarde se reuni\u00f3 con varios empleados de un comit\u00e9 del Senado para debatir el asunto.<\/p>\n

Y ahora la FTC<\/strong>. Jones no se detuvo ah\u00ed, y esta semana Jones ha enviado una carta a Lina Khan, una de las m\u00e1ximas responsables de la FTC, la entidad reguladora estadounidense. Tambi\u00e9n ha enviado otra al consejo de administraci\u00f3n de Microsoft y ha pedido que cambien la calificaci\u00f3n de la app para Android de Copilot Designer para que est\u00e9 claramente orientada a un p\u00fablico adulto.<\/p>\n

Qu\u00e9 dice Microsoft<\/strong>. Jones se queja de que ha intentado informar de sus descubrimientos por todos los medios, pero la empresa no ha tomado medidas. Mientras, en Microsoft indicaron que tienen \u00abs\u00f3lidos canales internos\u00bb para investigar y tomar medidas. Adem\u00e1s indican que \u00abnos comprometemos a responder a todas y cada una de las preocupaciones de los empleados de acuerdo con las pol\u00edticas de nuestra empresa, y apreciamos los esfuerzos de los empleados por estudiar y probar nuestra \u00faltima tecnolog\u00eda para seguir mejorando su seguridad\u00bb.<\/p>\n","protected":false},"excerpt":{"rendered":"

Shane Jones lleva trabajando seis a\u00f1os en Microsoft, y aunque no trabaja de forma directa en el desarrollo de las\u00a0soluciones de IA de su empresa, s\u00ed se dedica a analizar sus potenciales riesgos. El problema es precisamente ese: seg\u00fan \u00e9l, hay m\u00faltiples amenazas que plantea el uso de herramientas como Copilot Designer, antes conocido como …<\/p>\n","protected":false},"author":0,"featured_media":68711,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-68710","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2024\/03\/500_333-64V6gl.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/68710","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=68710"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/68710\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/68711"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=68710"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=68710"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=68710"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}