{"id":46786,"date":"2023-01-19T09:12:43","date_gmt":"2023-01-19T15:12:43","guid":{"rendered":"https:\/\/mickyandoniehn.com\/radio\/2023\/01\/19\/openai-se-aprovecho-de-la-explotacion-laboral-en-kenia-para-mejorar-chatgpt\/"},"modified":"2023-01-19T09:12:43","modified_gmt":"2023-01-19T15:12:43","slug":"openai-se-aprovecho-de-la-explotacion-laboral-en-kenia-para-mejorar-chatgpt","status":"publish","type":"post","link":"https:\/\/mickyandoniehn.com\/radio\/2023\/01\/19\/openai-se-aprovecho-de-la-explotacion-laboral-en-kenia-para-mejorar-chatgpt\/","title":{"rendered":"OpenAI se aprovech\u00f3 de la explotaci\u00f3n laboral en Kenia para mejorar ChatGPT"},"content":{"rendered":"<\/p>\n

Una investigaci\u00f3n de\u00a0Time<\/a><\/em>\u00a0ha dejado en evidencia las pr\u00e1cticas de OpenAI para mejorar ChatGPT invirtiendo lo m\u00e1s m\u00ednimo posible. En concreto, la empresa habr\u00eda recurrido a\u00a0empleados subcontratados de Kenia<\/strong>\u00a0cuyo sueldo m\u00e1ximo es de apenas $2 d\u00f3lares por hora. La misi\u00f3n de estos trabajadores, seg\u00fan el reporte, es lograr que ChatGPT\u00a0sea menos t\u00f3xico<\/strong>.<\/p>\n

ChatGPT,\u00a0desde su lanzamiento<\/a>, ha sido criticado por tener sesgos y cierto nivel de toxicidad. Despu\u00e9s de todo, la herramienta ha basado su aprendizaje en millones de textos realizados por humanos y disponibles en internet. Por lo tanto, tambi\u00e9n hered\u00f3 lo malo.<\/p>\n

Ahora bien, antes de lanzar ChatGPT, en OpenAI sab\u00edan muy bien que enfrentar\u00edan este problema. Tambi\u00e9n, que ser\u00eda muy complicado resolverlo dada la complejidad que resulta identificar fragmentos inapropiados en un texto y eliminarlos de la fuente de aprendizaje.<\/p>\n

Pese a lo anterior, en OpenAI se asignaron la tarea de desarrollar un sistema de seguridad basado en inteligencia artificial. Su misi\u00f3n, b\u00e1sicamente, es\u00a0detectar<\/a>\u00a0lenguaje t\u00f3xico de una manera mucho m\u00e1s eficiente que los humanos<\/strong>. De haber creado un software de filtraci\u00f3n gestionado por personas, habr\u00edan tardado d\u00e9cadas en terminar.<\/p>\n

La nueva inteligencia artificial de OpenAI, entonces, deb\u00eda nutrirse de cualquier comentario o palabra inadecuada.\u00a0Time<\/em>\u00a0se\u00f1ala que la herramienta aprend\u00eda de textos etiquetados como discurso de odio, violencia y abuso sexual. Posteriormente, el software fue integrado a la fuente de aprendizaje para filtrar el contenido antes de llegar a ChatGPT.<\/p>\n

En este punto es donde surge la vergonzosa pr\u00e1ctica de OpenAI. Para\u00a0etiquetar un texto como inapropiado, obligatoriamente debe ser analizado por humanos<\/strong>. La compa\u00f1\u00eda, desde noviembre de 2021, ha estado subcontratando a empleados de Kenia para que etiqueten \u00abdecenas de miles de fragmentos de texto\u00bb.<\/p>\n

Para facilitar el proceso, OpenAI se apoy\u00f3 en\u00a0Sama<\/strong>, una empresa especializada en inteligencia artificial con sede en San Francisco (California). Entre sus diferentes servicios, ofrece el de encontrar trabajadores de Kenia, India y Uganda para las compa\u00f1\u00edas de Silicon Valley que requieran mejorar \u2014o potenciar\u2014 alguna herramienta de IA, como ChatGPT. Curiosamente, esos tres pa\u00edses comparten algo en com\u00fan: los salarios en el sector de IT, en comparaci\u00f3n con lo que se paga en Estados Unidos, son rid\u00edculamente bajos.<\/p>\n

Los rid\u00edculos sueldos son solo una parte del problema<\/h2>\n
\n
<\/div>\n<\/div>\n

Sama, siempre seg\u00fan\u00a0Time<\/em>,\u00a0pag\u00f3 entre $1,32 y $2 d\u00f3lares la hora<\/strong>\u00a0a los empleados que se involucraron en el sistema de OpenAI. La cifra final depend\u00eda de la eficiencia y antig\u00fcedad del trabajador.<\/p>\n

OpenAI, por su parte, reconoci\u00f3 que los empleados de Kenia participaron en el desarrollo de una tecnolog\u00eda que, tiempo m\u00e1s tarde, se integr\u00f3 en ChatGPT.<\/p>\n

\u00abNuestra misi\u00f3n es garantizar que la inteligencia artificial general beneficie a toda la humanidad, y trabajamos arduamente para construir sistemas de IA seguros y \u00fatiles que limiten el sesgo y el contenido da\u00f1ino. Clasificar y filtrar texto e im\u00e1genes da\u00f1inas es un paso necesario para minimizar la cantidad de contenido violento y sexual incluido en los datos de entrenamiento y crear herramientas que puedan detectar contenido perjudicial.<\/em><\/p>\n

Pero el reducido sueldo que obtienen estos empleados no es lo \u00fanico preocupante. Gran parte de los textos que analizan provienen de lugares funestos de internet. Esos que ni siquiera est\u00e1n a la vista de los buscadores tradicionales como Google o Bing. As\u00ed pues,\u00a0quedaron expuestos a leer descripciones detalladas de situaciones de abuso sexual infantil, homicidios, suicidios, tortura e incesto<\/strong>.<\/p>\n

Evidentemente, algunos resultaron con afectaciones mentales muy serias. Un trabajador coment\u00f3 a\u00a0Time<\/em>\u00a0haber sufrido visiones desagradables tras leer ese tipo de textos. \u00abLees una serie de declaraciones durante toda la semana. Para cuando llega el viernes, est\u00e1s perturbado por pensar en esa imagen\u00bb, coment\u00f3.<\/p>\n

Se sabe, adem\u00e1s, que Sama se encuentra trabajando en un proyecto alterno con OpenAI que no tiene relaci\u00f3n con ChatGPT. Aparentemente, sus trabajadores deben\u00a0buscar im\u00e1genes de abuso sexual y violencia<\/strong>\u00a0para etiquetarlas y entregarlas a OpenAI. De momento, eso s\u00ed, no est\u00e1 claro cu\u00e1l herramienta las requiere. Un representante se limit\u00f3 a decir, nuevamente, que es un paso necesario para mejorar la seguridad de su tecnolog\u00eda.<\/p>\n

Fuente: hipertextual.com<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"

Una investigaci\u00f3n de\u00a0Time\u00a0ha dejado en evidencia las pr\u00e1cticas de OpenAI para mejorar ChatGPT invirtiendo lo m\u00e1s m\u00ednimo posible. En concreto, la empresa habr\u00eda recurrido a\u00a0empleados subcontratados de Kenia\u00a0cuyo sueldo m\u00e1ximo es de apenas $2 d\u00f3lares por hora. La misi\u00f3n de estos trabajadores, seg\u00fan el reporte, es lograr que ChatGPT\u00a0sea menos t\u00f3xico. ChatGPT,\u00a0desde su lanzamiento, ha …<\/p>\n","protected":false},"author":0,"featured_media":46787,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-46786","post","type-post","status-publish","format-standard","has-post-thumbnail","","category-noticias"],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/mickyandoniehn.com\/radio\/wp-content\/uploads\/2023\/01\/openai-chatgpt-oemYsT.jpeg","_links":{"self":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/46786","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/comments?post=46786"}],"version-history":[{"count":0,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/posts\/46786\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media\/46787"}],"wp:attachment":[{"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/media?parent=46786"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/categories?post=46786"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/mickyandoniehn.com\/radio\/wp-json\/wp\/v2\/tags?post=46786"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}