{"id":61615,"date":"2023-08-16T12:15:05","date_gmt":"2023-08-16T18:15:05","guid":{"rendered":"http:\/\/mickyandoniehn.com\/radio\/2023\/08\/16\/openai-quiere-que-gpt-4-sustituya-a-todos-los-moderadores-de-internet-la-pregunta-es-si-no-lo-empeorara\/"},"modified":"2023-08-16T12:15:05","modified_gmt":"2023-08-16T18:15:05","slug":"openai-quiere-que-gpt-4-sustituya-a-todos-los-moderadores-de-internet-la-pregunta-es-si-no-lo-empeorara","status":"publish","type":"post","link":"https:\/\/mickyandoniehn.com\/radio\/2023\/08\/16\/openai-quiere-que-gpt-4-sustituya-a-todos-los-moderadores-de-internet-la-pregunta-es-si-no-lo-empeorara\/","title":{"rendered":"OpenAI quiere que GPT-4 sustituya a todos los moderadores de Internet. La pregunta es si no lo empeorar\u00e1"},"content":{"rendered":"<\/p>\n<p>El desarrollo de la inteligencia artificial sigue su curso. Las tecnol\u00f3gicas siguen entrenando sus modelos de lenguaje, las empresas de Hardware como Nvidia contin\u00faan desarrollando\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/nvidia-presenta-su-nuevo-superchip-ia-exactamente-que-tenian-gran-diferencia\">herramientas m\u00e1s y m\u00e1s potentes<\/a>\u00a0y Sam Altman, CEO de OpenAI, tiene clar\u00edsimo que\u00a0<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/sam-altman-tiene-claro-que-hay-trabajos-van-a-desaparecer-punto-que-no-esta-claro-cuales\">la IA acabar\u00e1 con puestos de trabajo<\/a>. El de los moderadores podr\u00eda estar entre ellos, ya que ahora la empresa quiere que\u00a0<a href=\"https:\/\/www.xataka.com\/basics\/gpt-4-que-como-funciona-como-usarlo-que-puedes-hacer-este-modelo-lenguaje-inteligencia-artificial\">GPT-4<\/a>\u00a0modere Internet.<\/p>\n<p><strong>Moderaci\u00f3n asistida por IA<\/strong>. OpenAI es la empresa que ha desarrollado el modelo de lenguaje GPT. Aparte de poder utilizarlo en su propia plataforma,\u00a0<a href=\"https:\/\/www.xataka.com\/basics\/gpt-4-gratis-5-maneras-poder-utilizarlo-pagar-chatgpt-plus\">tenemos GPT-4 en aplicaciones de terceros<\/a>, como el buscador Bing de Microsoft. Es el modelo de lenguaje m\u00e1s popular y, casi tras convertirse en sin\u00f3nimo de \u00abinteligencia artificial\u00bb, OpenAI\u00a0<a href=\"https:\/\/openai.com\/blog\/using-gpt-4-for-content-moderation\">quiere<\/a> que GPT-4 modere contenido de Internet. \u00bfC\u00f3mo? La plataforma se encargar\u00e1 del grueso y aplicar\u00e1 correcciones consistentes mientras un grupo de humanos supervisan.<\/p>\n<p><strong>Antes, habr\u00e1 que moderarla a ella.\u00a0<\/strong>Antes de ver la propuesta de OpenAI, toca preguntarse si la propia GPT est\u00e1 lista para esto. Hace unas semanas desactivaron su herramienta de comprobaci\u00f3n de textos que permit\u00eda, gracias a an\u00e1lisis de la IA, encontrar art\u00edculos escritos con estas herramientas. Hablando mal, fallaba m\u00e1s que una escopeta de feria debido a una precisi\u00f3n de s\u00f3lo el 26%. La empresa declar\u00f3 que iban a seguir investigando para crear un sistema mejor, pero a\u00fan no tenemos una soluci\u00f3n.<\/p>\n<p><strong>Hay casos y casos<\/strong>. Volviendo al objetivo de moderar internet, cuando hablamos de moderar, podemos pensar que van a encargarse de regular publicaciones en fotos o redes sociales, pero no es s\u00f3lo eso. La moderaci\u00f3n abarca desde un comentario en el que alguien insulta hasta contenidos t\u00f3xicos o que, directamente, atentan contra los derechos humanos.<\/p>\n<p>Hay plataformas como Facebook que tienen sistemas muy concretos de\u00a0<a href=\"https:\/\/www.genbeta.com\/redes-sociales-y-comunidades\/facebook-deja-manos-inteligencia-artificial-prioridades-moderadores-humanos\">apoyo a la moderaci\u00f3n<\/a>\u00a0basados en modelos de inteligencia artificial, pero lo que pretende OpenAI es que haya un criterio com\u00fan para el grueso de los contenidos que se encuentran en Internet.<\/p>\n<div class=\"article-asset-video article-asset-normal\">\n<div class=\"asset-content\">\n<div class=\"\">\n<div class=\"js-dailymotion\">\n<div class=\"dailymotion-player-root dailymotion-player-xbl2m\">\n<div class=\"dailymotion-player-wrapper\"><\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<p><strong>Qui\u00e9n modera al moderador<\/strong>. Pero claro, al menos de momento, la inteligencia artificial se basa en la moral (por decirlo as\u00ed) de quien la entrena y OpenAI declara que los modelos de lenguaje pueden emitir juicios de moderaci\u00f3n en funci\u00f3n de las directrices que se les proporciona. Pueden comprender y generar un lenguaje natural id\u00f3neo para la moderaci\u00f3n, pero detr\u00e1s sigue estando la moral humana. Eso hace que nos preguntemos qu\u00e9 reglas seguir\u00e1 o si habr\u00e1 un consejo con diferentes criterios que entrenen a la inteligencia artificial.<\/p>\n<p>Ya hay quien usa GPT-4 para moderar y, de hecho, un distrito escolar en Iowa est\u00e1\u00a0<a href=\"https:\/\/www.popsci.com\/technology\/iowa-chatgpt-book-ban\/\">preguntando<\/a> a ChatGPT qu\u00e9 libros contienen una descripci\u00f3n o representaci\u00f3n de un acto sexual para, posteriormente, retirarlos de la biblioteca. \u00bfQui\u00e9n marca la moral de ChatGPT aqu\u00ed? Bridgette Exman, superintendente de Mason City y, de los 19 libros eliminados, s\u00f3lo cuatro ten\u00edan contenido expl\u00edcito o sexual. Uno de ellos es \u2018El cuento de la criada\u2019.<\/p>\n<p><strong>De meses a horas<\/strong>. Pero bueno, una vez la IA tiene unas directrices, OpenAI afirma que puede agilizar el proceso de moderaci\u00f3n y pasar de meses a horas. Concretamente, estos son los pasos que proponen:<\/p>\n<p>Una vez redactada la directriz, los expertos pueden crear un conjunto de datos con una peque\u00f1a muestra a las que asignan etiquetas que est\u00e1n en comuni\u00f3n con las directrices propuestas inicialmente. Con esto, elaboran unas respuestas.<br \/>\nGPT-4 asimila las directrices y, sin ver las respuestas de los expertos, realiza el proceso de asignaci\u00f3n de etiquetas a la muestra de datos.<br \/>\nLos expertos analizan la discrepancia entre los juicios tanto de ellos como de GPT-4 y, analizando las posibles ambig\u00fcedades, realizan cambios para que GPT-4 tenga m\u00e1s claras las directrices y los criterios a aplicar.<\/p>\n<div class=\"article-asset-image article-asset-large\">\n<div class=\"asset-content\">\n<div class=\"caption-img \">\n<div class=\"base-wrapper-image\"><\/div>\n<p>Proceso de moderaci\u00f3n de GPT-4.<\/p>\n<\/div>\n<\/div>\n<\/div>\n<div class=\"article-asset-image article-asset-large\">\n<div class=\"asset-content\">\n<div class=\"caption-img \">\n<div class=\"base-wrapper-image\"><\/div>\n<p>Estos son los resultados en sus pruebas. LLM es GPT-4 y afirman que los resultados son similares a los de los humanos con entrenamiento ligero (muestra B). Los moderadores experimentados (muestra A) siguen siendo superiores.<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p>Hecho esto, OpenAI comparte que el equipo de entrenamiento puede repetir los pasos dos y tres hasta que est\u00e9n satisfechos con las respuestas de la inteligencia artificial. Y, al final, esto agilizar\u00e1 el trabajo de los humanos porque puede manejar tanto muestras a gran escala como de forma m\u00e1s concreta.<\/p>\n<p><strong>Menos estr\u00e9s postraum\u00e1tico<\/strong>. Uno de los objetivos que marca OpenAI es el de que la moderaci\u00f3n de contenidos sea m\u00e1s consistente, aplicando siempre el mismo criterio a la vez que se puede adaptar r\u00e1pidamente a nuevos puntos de vista. Sin embargo, no es lo \u00fanico. Tambi\u00e9n afirman que otro objetivo es reducir la carga mental de los moderadores humanos. No son pocas las noticias que, de vez en cuando, hacen saltar las alarmas al desvelar que los moderadores desarrollan estr\u00e9s postraum\u00e1tico (como los\u00a0<a href=\"https:\/\/www.genbeta.com\/actualidad\/moderar-lo-peor-de-internet-es-malo-para-la-salud-empleados-de-microsoft-desarrollan-estres-postraumatico\">Microsoft<\/a>,\u00a0<a href=\"https:\/\/www.genbeta.com\/redes-sociales-y-comunidades\/moderadores-facebook-europa-preparan-demanda-a-compania-graves-efectos-psicologicos-que-produce-trabajo\">Facebook<\/a>, TikTok o\u00a0<a href=\"https:\/\/www.xataka.com\/magnet\/estres-postraumatico-37-000-al-ano-condiciones-moderadores-youtube-accenture\">YouTube<\/a>).<\/p>\n<p>De hecho, en una entrevista a\u00a0<a href=\"https:\/\/www.semafor.com\/article\/08\/15\/2023\/can-chatgpt-become-a-content-moderator#room-for-disagreement\">Semafor<\/a>, Lilian Weng, directora de sistemas de seguridad de OpenAI, ha confirmado que este sistema puede ayudar con la desinformaci\u00f3n, pero tambi\u00e9n con contenido como la pornograf\u00eda infantil. Y es que, est\u00e1n investigando c\u00f3mo aplicar este sistema de moderaci\u00f3n a im\u00e1genes y v\u00eddeo.<\/p>\n<p><strong>El papel de los humanos<\/strong>. No sabemos si esto acabar\u00e1 con esos puestos de trabajo o no, o si Altman se refer\u00eda a ellos cuando hace poco afirm\u00f3 que, evidentemente, la IA acabar\u00eda con empleos humanos, pero de momento est\u00e1 claro que habr\u00e1 humanos marcando la pauta de la inteligencia artificial y teniendo la \u00faltima palabra en el proceso de moderaci\u00f3n.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>El desarrollo de la inteligencia artificial sigue su curso. Las tecnol\u00f3gicas siguen entrenando sus modelos de lenguaje, las empresas de Hardware como Nvidia contin\u00faan desarrollando\u00a0herramientas m\u00e1s y m\u00e1s potentes\u00a0y Sam Altman, CEO de OpenAI, tiene clar\u00edsimo que\u00a0la IA acabar\u00e1 con puestos de trabajo. El de los moderadores podr\u00eda estar entre ellos, ya que ahora la &hellip;<\/p>\n","protected":false},"author":0,"featured_media":61616,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-61615","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/08\/450_1000-ffBSaU.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/61615","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=61615"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/61615\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/61616"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=61615"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=61615"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=61615"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}