Laura Marajofsky – Pikara
El trabajo esclavo para entrenar a los chatbots y que parezcan humanos se invisibiliza para ocultar las contradicciones de esta industria. Mientras quienes consumimos IA nos hacemos más conscientes de lo que implica, las personas trabajadoras se organizan para luchar contra la precarización extrema.
Gemini o Claude responden “como humanos” y este “como” es clave. Para que esto sea posible hay cientos de personas trabajando en producir datos para esos modelos: creando listas de verificación que definen si una respuesta de chatbot es buena o mala, calificando esas anotaciones, determinando cuáles son las mejores respuestas, y hasta explicando cada paso que dieron para llegar a este resultado ideal y produciendo un «rastro de razonamiento» para que la IA lo siga más adelante cuando se encuentre con una tarea similar.
Son personas trabajadoras mal pagadas que se encuentran en situaciones precarias en países como Bulgaria, Siria, Kenia o Argentina donde es posible encontrar mano de obra barata, lo cual dificulta la posibilidad de sindicalizarse o denunciar prácticas poco éticas y exigir mejores condiciones por temor a perder empleos. La mayoría proviene de comunidades pobres y marginadas (refugiados, personas encarceladas, migrantes), y muchas son mujeres que al realizar el trabajo de manera remota también combinan este trabajo con las tareas de cuidado no remuneradas —y también cobran menos, reciben las peores asignaciones y además sufren violencias de género según muestra el proyecto data-workers.org—.
Todo esto para que la máquina hable como un humano, o al menos suene como algo parecido a eso. Porque lo cierto es que, por cómo está el desarrollo tecnológico hoy en día y los resultados que se están viendo, mucho falta para que los modelos sean cien por cien autónomos e inteligentes en un sentido profundo o, como les gusta decir a los tecnófilos, para que sean “emotionally resonant”, e inclusive se habla de cierto estancamiento técnico. Mientras tanto en lo que ya se anticipa como una burbuja “peor que la de las dot.com”, el Big Tech sigue invirtiendo cantidades obscenas de dinero y sosteniendo su negocio con esquemas laborales explotadores y coloniales que hasta pueden pensarse una nueva forma de colonialismo digital.
El deterioro del trabajo en manos de la tecnología es preIA y se puede rastrear a comienzos de los 2000 con la aparición de modelos de «uberización» del trabajo y la popularización de la “economía de las changas” (gig economy) que llegó para normalizar el empleo temporal, sin protecciones y en condiciones precarias o de multiempleo —con el maestro que también es taxista y que en economías devaluadas como la Argentina son postal corriente—. Modelos que vienen incidiendo en un deterioro general de las condiciones de vida para muchas personas en todo el mundo, pero que tenemos totalmente naturalizados y que son parte de la modernidad.
Lo que quizás sea una novedad es la rapidez con la que este tipo de empleo se está extendiendo a otras áreas, desde las más técnicas, las ciencias exactas —ni quienes se dedican la programación están a salvo hoy—, a las humanísticas ya que cada vez se necesitan más especialistas con conocimientos más específicos sobre los distintos saberes sobre los cuales el asistente virtual debe ser versado. La preocupación, como planteaba un excelente especial de The Verge, es que la inteligencia artificial esté introduciendo en el trabajo intelectual (white collar) el tipo de trabajo precario propio de las plataformas digitales que transformó el transporte o el reparto de comida a domicilio.
Si la fantasía de que la IA viene a resolver problemas importantes en el mundo es parte fundamental en la construcción narrativa y el hype detrás de esta industria, es interesante notar que esa fantasía de eficacia y progreso, al menos por ahora, solo se sostiene con trabajo precarizado, tercerizado y ocultado. Así lo señala Milagros Miceli, socióloga e ingeniera de datos, fundadora del DWI (Data Workers Inquiry) y recientemente destacada entre las 100 figuras más influyentes en IA según la revista Time. Pero como explica Miceli, el trabajo no es invisible, sino que está invisibilizado con una intención deliberada para no mostrar las contradicciones intrínsecas a esta industria, que depende de millones de trabajadores (se calculan unos 400 millones, un 5 por ciento de la población mundial) haciendo tareas de generación de datos, verificación, anotación, moderación, suplantación, etcétera para que Gemini funcione de forma más o menos decente. Y aunque no es territorio de análisis de esta nota, vale decir también que estos sistemas no funcionan bien aún (alucinan, mienten, se equivocan, adulan) y que los impactos socioculturales de su uso masivo no son menores.
“Nosotros acuñamos el término trabajo de datos antes se hablaba de microtrabajo, de crowdsourcing. Hoy es el término más aceptado para hablar de esto y a lo que nos referimos es a todo el trabajo que sirve para crear conjuntos de datos que sirven para el entrenamiento de machine learning, pero también para mantener estos sistemas funcionando. Lo que la gente no sabe es que estos sistemas necesitan, una vez que están entrenados, un mantenimiento y supervisión permanentes”, añade Miceli.
Tanto los informes de la Data Workers Inquiry como el especial de The Verge dan cuenta de una gran indefensión laboral en el sector, ya que las personas empleadas son catalogadas como contratistas independientes o freelance, y como tales no tienen derecho a vacaciones pagadas, descansos, atención médica, pago de horas extras ni prestaciones por desempleo. Se da también una deshumanización total en la que el control es absoluto —se instala software en sus computadoras para vigilar el tiempo ocioso— y las contratadas no pueden hacer nada que no sea rentable —ir al baño, descansar, prepararte un café— bajo la amenaza de ser reemplazados. Asimismo, como los ciclos propios del desarrollo y testeo de estas tecnologías son también bastante irregulares, prima la incertidumbre ya que las contrataciones van y vienen azarosamente como los despidos, y la desesperación por conseguir trabajo lleva a las empleadas a competir por sueldos paupérrimos bajo condiciones cada vez peores.
Y esto sin mencionar aspectos como el deterioro progesivo de la salud mental que ocasionan cierto tipo de tareas, las cuales deberían considerarse tan insanas como trabajar en una mina —y que quizá sean su análogo moderno—. Hablamos de las tareas de moderación de contenido, que son a las plataformas sociales como la generación de datos a la IA: esenciales. “Cada video de asesinato, suicidio, agresión sexual o abuso infantil que no se publica en una plataforma ha sido revisado y marcado por un moderador de contenido o un sistema automatizado entrenado por un moderador”, detalla un informe de Noema en el que participa Miceli. Estos moderadores que ven y etiquetan contenido inapropiado (discursos de odio, noticias falsas, violencia, etcétera) sufren ansiedad, depresión y trastorno de estrés postraumático debido a la exposición constante al material, pero también, a las formas precarizantes que toma el trabajo: por ejemplo decidir sobre la violencia en los vídeos en un plazo de 50 segundos.
“La precarización no es solamente una cuestión económica y de negocio, la precarización tiene un fin ulterior ya que se necesita que estas personas estén en una situación de tal dependencia económica que no cuestionen lo que están haciendo. Vos imaginate que un trabajador de datos promedio no sabe el para qué está etiquetando los datos o para qué los está recolectando o qué tipos de sistema está supervisando, hay una fragmentación del trabajo, se les dan instrucciones muy acotadas y nunca se les dice el propósito o de dónde provienen los datos con los que están trabajando. Hay ahí una cuestión de usar la dependencia y la precarización de estas personas para que no puedan cuestionar”, enfatiza Miceli.
Es así que el trabajo intermitente y los despidos abruptos, el secretismo extremo, la vigilancia como práctica común dentro del sector de los datos se vuelven estratégicos para que las personas trabajadoras vivan en un estado de extremo desgaste y máxima competitividad. Se suma que tampoco pueden hablar de su trabajo por los acuerdos de confidencialidad, ni preguntar nada a sus jefes o relacionarse con otros y compartir preocupaciones o información. Tampoco le da una posición para negociar o establecer cualquier tipo de antigüedad o seniority. ¿Divide y triunfarás? Las prácticas informales también se extienden a la manera de contratación —por Google Forms u oscuras plataformas privadas— y hasta de comunicación —se usan grupos de WhatsApp o Slack donde no se nombran a los clientes, los proyectos y las personas no se conocen—.
Esta “precariedad por diseño” tiene un fin, podríamos decir, epistemológico y formativo, ya que también contribuye al moldeado de los datos que luego van a usar los asistentes a los que recurren millones de personas todos los días. Y ese moldeado depende tanto de cosmovisiones y sesgos subjetivos, como de intereses económicos y políticos, como da cuenta Miceli. “En el mundo del aprendizaje automático hay que simplificar y hay que hacer que los datos le vayan bien al modelo. Se crean datos para que el modelo funcione, no se crean modelos para que tengan sentido con los datos que tengo. Entonces, obviamente, es imposible que estos modelos no sean sesgados. Se busca una uniformidad de los datos, que sirvan a un propósito muy específico, por tanto, se necesita que los trabajadores no usen su subjetividad para trabajar con esos datos, que no tengan una opinión o que no cuestionen. Hay una cuestión de crear sentido a partir de estos sistemas, pero un sentido que sea el de ellos y nada más que el de ellos. Y que no haya nada ni nadie que cuestione estos sentidos”.
Para sumar a un contexto geopolítico muy cargado, en la carrera por desafiar el dominio estadounidense en la IA global, países como China tienden a subcontratar el trabajo de manera más informal todavía, yendo a lugares como Kenia. No es casualidad que sea en este lugar donde en 2023 se hizo historia y se creó el Sindicato Africano de Moderadores de Contenido.
Como esta es una lucha que no se puede llevar adelante de forma individual, de a poco comienzan a aparecer otras iniciativas y proyectos similares como el de Kenia para organizar la lucha (en Argentina tenemos la AGC, Asociación Gremial de Computación que incluye a este tipo de trabajadores de datos); así como demandas colectivas como las de California donde acusan a las empresas de clasificar erróneamente a los trabajadores como contratistas independientes. “En Argentina los informáticos están sindicalizados, lo cual me parece espectacular y poco común en el mundo, e incluyen a los y las trabajadoras de datos”, apunta Miceli.
Tal vez una de las tensiones más incómodas en todo este asunto, más inclusive que el contraste entre el dinero que los laboratorios de IA invierten en datos y el que se le pagan a las empleadas sobre los que se construyen las fortunas de este tecnofeudalismo, sea que estemos invirtiendo millones en nuestra propia obsolescencia. Aunque sabemos que es más probable que la IA siga produciendo nuevas y perturbadoras formas de basura sintética (AI slop) antes que reemplazarnos en lo que hace interesante a un humano, también existe un futuro inquietante en el que no importa si no se cumplen las predicciones maximalistas que tanto les gusta hacer a los “tecnobros” o hay desempleo masivo causado por la innovación. Un futuro en el que el trabajo humano se automatice y degrade cada vez más.
Lo que es seguro es que seguir hablando de “futuro” e “innovación” sostenida por economías esclavistas y para nada modernas es tan absurdo como seguir hablando de gastronomía sostenible con restaurantes de alta gama con stagiers [becarios que no cobran por trabajar]. Y de la misma manera que hoy podemos apelar a los consumidores de a pie mucho más conscientes sobre sus consumos y lo que hay detrás, debemos hacer lo mismo con el consumo de tecnología. “No es una decisión puramente conceptual, es una decisión política. Pudiendo darles laburo a ilustradores, a guionistas, etcétera, estás dándole más dinero a estos monopolios, entonces también eso es una decisión política. También uno puede llegar a entender estas herramientas, estudiarlas muy bien y decidir no usarlas, porque no va con los valores o porque su uso, como en el caso de muchos profesionales, perjudica específicamente tu existencia”, cierra Miceli.
Descubre más desde Redes Libertarias
Suscríbete y recibe las últimas entradas en tu correo electrónico.
