ChatGPT, Copilot y Gemini est\u00e1n ah\u00ed para intentar ayudarnos, pero frente a estos chatbots se comienzan ahora a ver versiones que precisamente est\u00e1n pensadas para lo contrario. Es lo malo de cualquier herramienta o tecnolog\u00eda como la inteligencia artificial: se puede usar para el bien, pero tambi\u00e9n para el mal.<\/p>\n
Los chatbots malvados<\/strong>. Como se\u00f1alan\u00a0en The Wall Street Journal<\/a>, en los \u00faltimos tiempos han comenzado a aparecer chatbots con nombres como BadGPT o FraudGPT que est\u00e1n dise\u00f1ados para ayudar a los hackers a desarrollar todo tipo de actividades fraudulentas y delictivas.<\/p>\n Spear-phishing<\/strong>. Estas herramientas de IA permiten mejorar a\u00fan m\u00e1s las campa\u00f1as de phishing de los cibercriminales. De hecho, con estas herramientas pueden crear sitios web falsos que imitan a otros leg\u00edtimos, adem\u00e1s de escribir malware y dise\u00f1ar mensajes personalizados que suplanten la identidad de otras personas o entidades. Esto \u00faltimo es el llamado \u2018spear-phishing\u2019, una t\u00e9cnica que utiliza informaci\u00f3n de esas personas o entidades para redactar correos que parecen venir de ellos y que son a\u00fan m\u00e1s dif\u00edciles de detectar por las v\u00edctimas.<\/p>\n A la venta en la dark web<\/strong>. En WSJ citan un estudio de investigadores de la Universidad de Indiana revela c\u00f3mo descubrieron m\u00e1s de 200 chatbots maliciosos que estaban siendo vendidos en la dark web. Comenzaron a aparecer a principios de 2023, y desde entonces su evoluci\u00f3n ha sido notable. Muchos de ellos se basan en LLMs Open Source como Llama 2, o bien versiones de modelos de OpenAI o Anthropic que han sido modificadas con \u2018jailbreaks\u2019 gracias a la\u00a0ingenier\u00eda de prompts<\/a>\u00a0que permite superar los controles de seguridad de estos chatbots.<\/p>\n Los modelos abiertos pueden ser un problema<\/strong>. Dane Sherrets, hacker \u00e9tico y experto de la empresa HackerOne, explicaba en WSJ que parte del problema est\u00e1 en que algunos modelos de IA est\u00e1n libremente disponibles en la web, y no disponen de mecanismos de censura. Estas versiones son desarrolladas por investigadores de IA y de ciberseguridad precisamente para trabajar en estos campos, pero el hecho de que se puedan encontrar f\u00e1cilmente hace que otros puedan aprovecharlos para fines delictivos.<\/p>\n Mixtral en el punto de mira<\/strong>. Uno de los ejemplos que est\u00e1 siendo usado para generar correos de phishing es una versi\u00f3n de Mixtral, desarrollado por la\u00a0startup francesa Mistral AI<\/a>. Dicho modelo ha sido modificado para que no tenga barreras de uso, y debido a su dise\u00f1o parece comportarse mejor que la mayor\u00eda de herramientas de IA que se pueden encontrar en la Dark Web.<\/p>\n Pero cuidado con las herramientas de la Dark Web<\/strong>. A\u00fan as\u00ed, esas herramientas que se venden en la \u2018web oscura\u2019 pueden representar otro tipo de amenaza, ya que pueden haber sido entrenadas con datos como filtraciones y robos de datos o listas de v\u00edctimas de ataques de ransomware. Los servicios de hacking por IA tienen precios muy variados que seg\u00fan el estudio de la Universidad de Indiana van de los cinco a los 199 d\u00f3lares al mes.<\/p>\n Microsoft y OpenAI est\u00e1n alerta<\/strong>. Este tipo de usos maliciosos de los chatbots son de sobra conocidos por las grandes empresas que lideran el desarrollo de estas tecnolog\u00edas. Hace dos semanas Microsoft y OpenAI\u00a0indicaban<\/a>\u00a0que los hackers est\u00e1n usando LLMs y chatbots como ChatGPT para mejorar sus ciberataques. Ambas han detectado intentos de grupos delictivos en pa\u00edses como Rusia, Corea del Norte, Ir\u00e1n o China de usar ChatGPT para mejorar sus scripts o ayudar en ataques de ingenier\u00eda social.<\/p>\n Pero la IA tambi\u00e9n puede ayudar<\/strong>. Aunque ciertamente estas herramientas est\u00e1n siendo usadas por cibercriminales, tambi\u00e9n pueden ayudar a luchar contra estas amenazas. La propia Microsoft ya plante\u00f3 esta soluci\u00f3n\u00a0hace un a\u00f1o<\/a>, y Sundar Pichai, CEO de Google,\u00a0explicaba<\/a>\u00a0hace unos d\u00edas c\u00f3mo la inteligencia artificial puede ayudar \u00abdesproporcionadamente\u00bb a protegernos de amenazas de seguridad.<\/p>\n","protected":false},"excerpt":{"rendered":" ChatGPT, Copilot y Gemini est\u00e1n ah\u00ed para intentar ayudarnos, pero frente a estos chatbots se comienzan ahora a ver versiones que precisamente est\u00e1n pensadas para lo contrario. Es lo malo de cualquier herramienta o tecnolog\u00eda como la inteligencia artificial: se puede usar para el bien, pero tambi\u00e9n para el mal. Los chatbots malvados. Como se\u00f1alan\u00a0en …<\/p>\n","protected":false},"author":0,"featured_media":68473,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-68472","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2024\/03\/500_333-IaS4EN.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/68472","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=68472"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/68472\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/68473"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=68472"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=68472"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=68472"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}