OpenAI subcontrató con bajos salarios a trabajadores para hacer a ChatGPT menos tóxico: Time

Desde su lanzamiento en Noviembre de 2022, ChatGPT se convirtió en la aplicación con el crecimiento de usuarios más grande de la historia, alcanzado los 100 millones de usuarios mensuales en tan solo dos meses.

El éxito de este chatbot financiado por Microsoft se debe en parte al trabajo mal pagado de decenas de trabajadores kenianos, quienes fungieron como moderadores para hacer que ChatGPT fuera menos tóxico y no utilizara información de los rincones más obscuros de internet, reveló una investigación de Time.

De acuerdo con la revista norteamericana, OpenAI, la creadora de ChatGPT, subcontrató mediante la compañía Sama a personal para analizar miles de mensajes de odio, violencia y abuso sexual con el objetivo de alimentar estos ejemplos a la Inteligencia Artificial del chatbot y así aprendiera a evitar este tipo de discursos en sus respuestas. 

Este trabajo fue vital para la publicación de ChatGPT, pues su versión GPT-3 era propensa a  hacer comentarios violentos, sexistas y racistas. A pesar de su indispensable tarea, los empleados de Kenia recibieron tan solo un salario de entre 1.32 y 2 dólares por hora. 

Al precario sueldo se agregan las afectaciones psicológicas que los trabajadores sufrieron al estar constantemente bombardeados con mensajes de una naturaleza violenta.

La investigación de Billy Perrigo muestra cómo desde noviembre 2021, un año antes del lanzamiento de ChatGPT, OpenAI envió decenas de miles de fragmentos de texto a Sama para ser alimentados a la IA. Entre ellos se describen con detalle escenas como abuso sexual infantil, zoofilia, asesinato, suicidio, tortura, automutilaciones e incesto,

Por ejemplo, un empleado compartió a Time que sufrió visiones y alteraciones nerviosas después de leer la descripción gráfica de un hombre teniendo sexo con un perro en la presencia de un niño.

“Fue una tortura”, dijo el trabajador al medio estadounidense, “Tú leerás un número de mensajes como esos a lo largo de la semana. Para cuando llega el viernes, tú estás perturbado de pensar en esas imágenes”.

Te puede interesar > ¿Está en riesgo tu trabajo por ChatGPT? Esto dice OpenAI

Sama, la empresa utilizada por OpenAI, tiene su sede en San Francisco y se especializa en operar outsourcing a países como Kenia, Uganda y la India. Empresas de Silicon Valley suelen utilizar sus servicios, por ejemplo, Google, Meta (dueña de Facebook) y Microsoft.

Así operó Sama para OpenAI

Los documentos obtenidos por Time, muestran que la compañía detrás de ChatGPT firmó tres contratos de aproximadamente 200 mil dólares cada uno con Sama en el año 2021. Así, tres docenas de trabajadores fueron divididos en tres equipos, cada uno enfocado en un tema específico.

En una jornada de nueve horas, cada empleado debía leer entre 150 y 200 fragmentos de texto. Cada uno de estos, a su vez, se podía conformar de 100 a mil palabras. Los asalariados entrevistadas por Time, aseguraron tener secuelas psicológicas por el trabajo. 

Por la naturaleza violenta de las tareas, Sama ofrecía sesiones de bienestar para sus empleados, pero estas eran inútiles y escasas debido a la fuerte exigencia de mayor productividad en el trabajo, compartieron a Time los operadores.

“Dos dijeron que solo se les dio la opción de asistir a sesiones en grupo, y uno dijo que sus solicitudes para ver a consejeros de forma individual fueron repetidamente denegadas por la dirección de Sama“, afirma Billy Perrigo en su reportaje.

Los contratos entre Sama y OpenAi señalan que el salario sería de 12.50 dólares por hora, pero en la realidad los trabajadores de la compañía se llevaban a casa hasta nueve veces menos.

“También recibían bonificaciones mensuales por valor de alrededor de 70 USD debido a la naturaleza explícita de su trabajo, y podían ganar comisiones por cumplir indicadores clave de desempeño como la precisión y la velocidad. Un agente que trabajara turnos de nueve horas podía esperar llevar a casa un total de al menos $1.32 por hora después de impuestos, aumentando hasta $1.44 por hora si superaba todos sus objetivos. Los analistas de calidad y etiquetadores más experimentados, cuyo trabajo consistía en verificar el trabajo de los agentes, podían llevar a casa hasta $2 por hora si cumplían con todos sus objetivos“, señala el medio.

Te puede interesar > Denuncian en EU el ChatGPT de OpenAI y piden que sea suspendido

En comparación, según datos de Glasdoor, el CEO de OpenAI gana 107 dólares por hora; 53 veces más que los empleados subcontratados y bombardeados con violencia explícita.

El trabajo de Sama para OpenAI duró poco. En cuestión de semanas, la empresa de outsourcing canceló todo su trabajo para la compañía fundada por Sam Altma, Elon Musk, entre otros inversores.

La cancelación se dio ocho meses antes de lo acordado en los contratos. Sama declaró en un comunicado que su acuerdo para recolectar imágenes para OpenAI no incluía ninguna referencia a contenido ilegal, y que solo después de haber comenzado el trabajo, OpenAI envió “instrucciones adicionales” que se referían a “algunas categorías ilegales”.

Andrew Strait, experto en ética IA, escribió recientemente en Twitter: “ChatGPT y otros modelos generativos no son mágicos, dependen de cadenas de suministro masivas de trabajo humano y muchos datos obtenidos sin atribución ni consentimiento… Estos son problemas graves y fundamentales que no veo que OpenAI esté abordando”.