{"id":67824,"date":"2024-02-14T19:13:08","date_gmt":"2024-02-15T01:13:08","guid":{"rendered":"http:\/\/mickyandoniehn.com\/radio\/2024\/02\/14\/los-ciberdelincuentes-estan-encantados-con-la-ia-asi-la-estan-utilizando-segun-un-estudio-de-microsoft-y-openai\/"},"modified":"2024-02-14T19:13:08","modified_gmt":"2024-02-15T01:13:08","slug":"los-ciberdelincuentes-estan-encantados-con-la-ia-asi-la-estan-utilizando-segun-un-estudio-de-microsoft-y-openai","status":"publish","type":"post","link":"https:\/\/mickyandoniehn.com\/radio\/2024\/02\/14\/los-ciberdelincuentes-estan-encantados-con-la-ia-asi-la-estan-utilizando-segun-un-estudio-de-microsoft-y-openai\/","title":{"rendered":"Los ciberdelincuentes est\u00e1n encantados con la IA: as\u00ed la est\u00e1n utilizando seg\u00fan un estudio de Microsoft y OpenAI"},"content":{"rendered":"<\/p>\n<p>Era cuesti\u00f3n de tiempo que los ciberdelincuentes comenzaran a utilizar herramientas de inteligencia artificial para hacer m\u00e1s efectivos sus ataques. No es ning\u00fan secreto que los\u00a0<strong>actores malintencionados<\/strong> han tenido dificultades a la hora de ejecutar algunas de sus campa\u00f1as. En ocasiones, el c\u00f3digo utilizado era detectado por sistemas antivirus y los correos electr\u00f3nicos que pretend\u00edan suplantar la identidad de compa\u00f1\u00edas u organismos mostraban defectos evidentes para los usuarios.<\/p>\n<p>Pues bien, seg\u00fan Microsoft y OpenAI esto est\u00e1 cambiando en diferentes niveles. Los ciberdelincuentes est\u00e1n aprovechando las bondades de los grandes modelos de lenguaje (LLM) como\u00a0<a href=\"https:\/\/www.xataka.com\/basics\/gpt-4-que-como-funciona-como-usarlo-que-puedes-hacer-este-modelo-lenguaje-inteligencia-artificial\">GPT-4<\/a>\u00a0para mejorar sus t\u00e9cnicas. As\u00ed como cualquiera de nosotros puede recurrir a herramientas como\u00a0<a href=\"https:\/\/www.xataka.com\/basics\/chatgpt-que-como-usarlo-que-puedes-hacer-este-chat-inteligencia-artificial\">ChatGPT<\/a>\u00a0para crear textos en diferentes idiomas e incluso programar con mayor facilidad, los piratas inform\u00e1ticos pueden utilizarlos para actividades ilegales, aunque con el riesgo de ser descubiertos.<\/p>\n<h2>Ciberdelincuentes descubiertos<\/h2>\n<p>Las mencionadas compa\u00f1\u00edas\u00a0<a href=\"https:\/\/openai.com\/blog\/disrupting-malicious-uses-of-ai-by-state-affiliated-threat-actors\">anunciaron este mi\u00e9rcoles<\/a>\u00a0que detectaron varios grupos de ciberdelincuentes vinculados a Rusia, Corea del Norte, Ir\u00e1n y China que hab\u00edan estado utilizando sus servicios para un amplio abanico de tareas sospechosas. Se trata de hallazgos que llegan despu\u00e9s de una profunda investigaci\u00f3n destinada a descubrir \u201camenazas emergentes en la era de la inteligencia artificial\u201d. Veamos algunos detalles de los grupos mencionados por Microsoft y OpenAI\u00a0<a class=\"js-ecommerce\" href=\"https:\/\/www.xataka.com\/redirect?url=https%3A%2F%2Fwww.microsoft.com%2Fen-us%2Fsecurity%2Fblog%2F2024%2F02%2F14%2Fstaying-ahead-of-threat-actors-in-the-age-of-ai%2F&amp;category=robotica-e-ia&amp;ecomPostExpiration=perish&amp;postId=297135\">en su estudio<\/a>.<\/p>\n<div class=\"article-asset-video article-asset-normal\">\n<div class=\"asset-content\">\n<div class=\"base-asset-video\">\n<div class=\"js-dailymotion\">\n<div class=\"dailymotion-player-root dailymotion-player-xbl2m\">\n<div class=\"dailymotion-player-wrapper\"><\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<p><strong>Strontium<\/strong>. Ha sido catalogado como un \u201cactor de inteligencia militar ruso\u201d que impulsa ataques de inter\u00e9s t\u00e1ctico y estrat\u00e9gico para el gobierno al que responde. Se cree que est\u00e1 relacionado a actividades militares en Ucrania. El estudio se\u00f1ala que Strontium ha recurrido a los modelos de IA para tareas b\u00e1sicas como automatizar y optimizar operaciones t\u00e9cnicas, pero tambi\u00e9n para otras m\u00e1s avanzadas, como comprender protocolos de comunicaci\u00f3n por sat\u00e9lite y tecnolog\u00edas de radar.<\/p>\n<p><strong>Emerald Sleet<\/strong>. En este caso se habla de un grupo norcoreano que utiliz\u00f3 los LLM para identificar v\u00edctimas e incluso encontrar vulnerabilidades en diferentes sistemas para ejecutar ataques. Una de ellas ha sido la vulnerabilidad\u00a0<a href=\"https:\/\/msrc.microsoft.com\/update-guide\/en-US\/vulnerability\/CVE-2022-30190\">CVE-2022-30190<\/a>\u00a0de una herramienta de soporte de la propia Microsoft. Asimismo, seg\u00fan el informe, este grupo ha utilizado los modelos de IA para mejorar la redacci\u00f3n y generaci\u00f3n de contenidos que probablemente podr\u00edan ser utilizados en campa\u00f1as de\u00a0<a href=\"https:\/\/www.genbeta.com\/a-fondo\/phishing-que-diferentes-tipos-que-existen#:~:text=Qu%C3%A9%20es%20el%20phishing&amp;text=Para%20obtener%20esta%20informaci%C3%B3n%20se,confidenciales%20que%20se%20quieren%20obtener.\">phishing<\/a>.<\/p>\n<p><strong>Charcoal Typhoon<\/strong>. Aqu\u00ed se habla de un actor malintencionado vinculado al gobierno chino con un amplio abanico de objetivos que incluyen sectores gubernamentales, tecnol\u00f3gicos, infraestructura de comunicaciones e infraestructura energ\u00e9tica. Al igual que los actores ya mencionados, este grupo ha utilizado los modelos de IA para comprender mejor tecnolog\u00edas y plataformas que podr\u00edan ser utilizadas para realizar ataques. Tambi\u00e9n se dice que ha utilizado estas herramientas para mejorar el c\u00f3digo de\u00a0<a href=\"https:\/\/www.xataka.com\/basics\/malware-que-que-tipos-hay-como-evitarlos#:~:text=Qu%C3%A9%20es%20el%20malware&amp;text=Por%20lo%20tanto%2C%20se%20trata,m%C3%B3vil%20o%20cualquier%20otro%20aparato.\">malware<\/a>, as\u00ed como para pr\u00e1cticas de ingenier\u00eda social.<\/p>\n<div class=\"article-asset-image article-asset-normal article-asset-center\">\n<div class=\"asset-content\"><\/div>\n<\/div>\n<p><strong>Crimson Sandstorm<\/strong>. Por \u00faltimo tenemos a un grupo que Microsoft y OpenAI consideran que est\u00e1 conectado al Cuerpo de la Guardia Revolucionaria Isl\u00e1mica (IRGC) y que ha estado activo desde al menos 2017. Sus ataques en el pasado se han dirigido a los sectores del transporte mar\u00edtimo, la defensa y la atenci\u00f3n m\u00e9dica. Una de las pr\u00e1cticas m\u00e1s destacadas de este grupo con modelos de IA ha sido utilizarlos para intentar evadir los sistemas de seguridad de sus potenciales v\u00edctimas.<\/p>\n<p>Si bien en todos los casos se trata de actores malintencionados que aparentemente llevan impulsado actividades ilegales desde hace tiempo, Microsoft y OpenAI se\u00f1alan que todav\u00eda no han conseguido detectar ning\u00fan \u201cataque significativo\u201d espec\u00edfico utilizando LLM. En cualquier caso, ambas compa\u00f1\u00edas han decidido publicar su investigaci\u00f3n para exponer cualquier tipo de movimiento en su etapa inicial. Asimismo, han optado por bloquear las cuentas asociadas a los mencionados grupos.<\/p>\n<p>Cabe se\u00f1alar que tanto ChatGPT como\u00a0<a href=\"https:\/\/www.xataka.com\/basics\/dall-e-que-como-funciona-como-puedes-utilizar-esta-inteligencia-artificial-para-crear-imagenes\">DALL\u00b7E<\/a>\u00a0y otros productos de OpenAI est\u00e1n sujetos a una pol\u00edtica de uso que prev\u00e9 sanciones para aquellos usuarios que cometan infracciones. La propia compa\u00f1\u00eda explica que recurre a diferentes m\u00e9todos para evaluar actividades potencialmente sospechosas. \u201cViolar nuestras pol\u00edticas podr\u00eda resultar en acciones contra su cuenta, hasta la suspensi\u00f3n o cancelaci\u00f3n\u201d,\u00a0<a href=\"https:\/\/openai.com\/policies\/usage-policies\">dice la compa\u00f1\u00eda en la pagina de pol\u00edtica de uso actualizada el pasado 10 de enero<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Era cuesti\u00f3n de tiempo que los ciberdelincuentes comenzaran a utilizar herramientas de inteligencia artificial para hacer m\u00e1s efectivos sus ataques. No es ning\u00fan secreto que los\u00a0actores malintencionados han tenido dificultades a la hora de ejecutar algunas de sus campa\u00f1as. En ocasiones, el c\u00f3digo utilizado era detectado por sistemas antivirus y los correos electr\u00f3nicos que pretend\u00edan &hellip;<\/p>\n","protected":false},"author":0,"featured_media":67825,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-67824","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2024\/02\/500_333-6vR6K6.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/67824","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=67824"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/67824\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/67825"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=67824"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=67824"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=67824"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}