Inteligencia artificial, trabajadores explotados

Idea original de Antonio Casilli

2016, el año de la inteligencia artificial

La gran moda tecnológica del año 2016 fue sin duda la inteligencia artificial, también llamada machine learning o aprendizaje automático. El flujo de artículos sensacionalistas narrando las proezas de las máquinas crece cada día, y la compañía Gartner colocó en julio de 2016 al aprendizaje automático como la tecnología que más expectativas está generando.

Ciclo y auge de las tecnologías emergentes 2016 de Gartner

Ciclo y auge de las tecnologías emergentes 2016, Gartner

De hecho, es difícil no reconocer que los algoritmos realizan ahora tareas asombrosas. Componen canciones de pop, diseñan videojuegos, redactan libretos de películas de ciencia ficción y artículos de prensa, generando tanta expectativa que en 2011, predijeron que el premio Pulitzer 2016 sería ganado por un programa informático (en lo que se equivocaron).

Asimismo, las máquinas saben estimar con gran precisión dónde se tomó una foto, solo analizando el paisaje. Logran encontrar todos los barcos o todas las canchas presentes en una imagen satelital. De hecho, pueden encontrar todas las ocurrencias de un mismo patrón visual, independientemente del objeto físico que representa.

Patrones de barcos en imágenes satelitales

Patrones de barcos en imágenes satelitales

La inteligencia artificial nos asiste en tareas cotidianas: redactando respuestas automáticas para los correos electrónicos que recibimos o detectando los mensajes potencialmente tóxicos en los comentarios de foros para aliviar la tarea de los moderadores. También se busca comparar los robots con los humanos: en el juego de go, el ajedrez, el poker o los videojuegos. En todos estos casos perdemos. Al contrario, todavía fallan al momento de pasar el examen de entrada a la universidad, y solo recién empiezan a sentarse a la mesa de los consejos de administración. Pero estas debilidades son pasajeras.

Como lo imaginó hace décadas el matemático von Neumann, y lo representó la película Her, algún día la mente humana será muy poco para las inteligencias artificiales, por lo que se librarán de la dependencia a los humanos en un momento histórico llamado la singularidad tecnológica. Mientras tanto, existen experimentos divertidos de dos robots dialogando sobre el sentido de la vida, o inventando su propio método de comunicación cifrada.

Diálogo entre dos robots

Diálogo entre dos robots sobre el sentido de la vida

Cómo funciona la inteligencia artificial

Independientemente de los algoritmos, paradigmas y métodos utilizados, todos los ejemplos anteriores responden a la voluntad de imitar la forma de vivir de los humanos. En este sentido, la inteligencia artificial se puede entender simplemente como un grado avanzado de automatización de unos procesos humanos. Finalmente, entre todas las esperanzas ligadas a poder simular el cerebro humano, construyendo razonamientos artificiales más avanzados que los nuestros y entonces inalcanzables e inimaginables para nuestra mente, lo único que llegó a volverse realidad es la simple imitación de nuestros comportamientos y acciones, por lo que algunos recomiendan que hablemos más modestamente de “computación antrópica”.

Para optimizar una tarea o un procedimiento, se siguen generalmente varias etapas. La primera consiste en describir y documentar los pasos a realizar desde el inicio del trabajo hasta obtener el resultado final. La segunda etapa, inventada por Henry Ford, corresponde a segmentar el proceso en una sucesión de micro-tareas, y a repartir la responsabilidad de cada micro-tarea a una persona o un equipo diferente, asignándole una cadencia de producción. La tercera etapa es la automatización de las micro-tareas, que sea con robots en el caso de la producción industrial, o con programas informáticos para servicios. Finalmente, la inteligencia artificial interviene en la cuarta etapa para introducir un grado de flexibilidad en los programas informáticos, de manera que se adapten a cambios en las condiciones de operación y convergen hacia un rendimiento óptimo. Es el último eslabón de la cadena que consiste en modelizar, segmentar, automatizar y finalmente adaptar.

Esta adaptación requiere que la inteligencia artificial aprenda. No en el sentido de estudiar y entender las lógicas subyacentes y las leyes físicas o matemáticas. Lo único que realiza es ingurgitar cantidades considerables de datos de entrada y adaptar sus parámetros internos hasta obtener respuestas que se asemejan a las respuestas “correctas”. Es un modelo de caja negra, dónde lo único importante son las entradas y las salidas del proceso. Al interior de esta caja se pueden aplicar todas las variaciones y teorías de inteligencia artificial, pero el concepto general es común para todas: analizar entradas y salidas hasta saber imitar el proceso.

Los trabajadores y las micro-tareas

Para llegar a un nivel de precisión aceptable, es necesario procesar millones y millones de registros. Estos registros no caen de una “nube”, generados por una ente superior computarizado. Son siempre, sin excepción, el resultado de un trabajo humano, por la simple razón que la inteligencia artificial esta hecha para imitar a los humanos. De ahí surge el gran problema.

En 2005, trabajaba en un equipo de investigación francés cuyo principal proyecto era reconocer automáticamente la identidad del locutor en un vídeo o una grabación de radio. Los investigadores utilizaban métodos probabilísticos muy avanzados y daban conferencias en todo el mundo. Pero durante todo el año, día tras día, la mayoría del tiempo de trabajo de sus pasantes y candidatos al doctorado se resumía en realizar las anotaciones necesarias para alimentar los modelos, realizando en bucle, una y otra vez, el mismo trabajo: lanzar la reproducción del sonido, escuchar, apretar pausa, anotar los tiempos de inicio y fin de la toma de palabra y el nombre de la persona que la pronuncia. El grado de precisión del algoritmo de reconocimiento de locutor iba subiendo, sin que podamos discernir si se debía más a los avances en la teoría matemática de los investigadores o en el crecimiento de la base de anotaciones generadas por el pequeño proletariado del equipo de investigación.

La inteligencia artificial mencionada anteriormente que compuso una canción pop solo lo pudo realizar gracias a la “cultura musical” que se forjó ingiriendo más de trece mil partituras de diferentes estilos de música. En este caso también, las partituras fueron transcritas por humanos, en un trabajo moroso, nota por nota.

No es una casualidad que la inteligencia artificial esté a la moda en el mundo capitalista. En efecto, a la manera de Taylor y Ford, las compañías californianas que nos presentan como ejemplos de innovación y modernidad hacen que se produzcan los datos necesarios a la enseñanza de sus algoritmos por unas maquilas de obreros del clic, generalmente repartidos alrededor del globo, pagados con lo mínimo para realizar de manera repetitiva una misma micro-tarea, que se trate de llenar un captcha, aceptar o rechazar un comentario, transcribir una cláusula de contrato o describir el contenido de una imagen.

trabajo en cadena

Los trabajadores del clic son los obreros en cadena de nuestros tiempos.

El investigador Antonio Casilli denomina esta situación el digital labor, e insiste en recordar que detrás de cada una de nuestras aplicaciones, se esconden estos ejércitos de trabajadores pobres, sin derechos sociales, sin vínculo laboral con la empresa que los contrata, individualizados, sin posibilidad de sindicarse y en situación de competencia de todos contra todos a nivel mundial, llevando a unas remuneraciones cada vez mas bajas. El instrumento icónico de esta nueva forma de explotación es el servicio de turco mecánico, que se presenta para los desarrolladores informáticos como una API de programación clásica, mientras que del otro lado los trabajadores reciben una lista constantemente renovada de ordenes a obedecer. Para entrenar su propia plataforma, Amazon recurre a más de 15.000 personas pagadas por micro-tarea.

Con el proyecto Soylent, unos estudiantes del MIT llevaron esta lógica hasta un extremo, haciendo que cada uno de nosotros pueda crear “macros” de Word que automaticen tareas, que serán realizadas por trabajadores humanos de manera transparente, instantánea y sin que sepamos nada de ellos. De manera cínica se demostró que el trabajo de revisión y corrección de documentos realizado por esta masa de trabajadores produce mejores resultados que contratar al tradicional corrector, experto y bien pagado, de los comités de redacción.

Tú también eres un trabajador del digital labor

En realidad, muchas de las inteligencias artificiales no emplean micro-trabajadores por la simple razón que hay que pagarlos. Es mucho más interesante desde su punto de vista que se realice el trabajo de forma gratuita por cada uno de nosotros. Para mejorar la visión de sus autos autónomos, Google nos hace llenar su base de datos de señales de tránsito cada vez que nos conectamos a un sitio mediante el mecanismo de “verificación de humanidad” recaptcha (antes quizás de hacernos participar en sus otras actividades).

Cada uno de nosotros llenamos la base de señales de tránsito de Google

Cada día, llenamos la base de señales de tránsito de Google

Otras veces, el incentivo para hacernos contribuir pasa por el juego, según el concepto llamado gamificación. Por ejemplo, nos hacen dibujar bosquejos de objetos cotidianos para ver si la inteligencia artificial logra reconocer nuestros horribles dibujos hechos con el ratón. Es divertido, pero de esta forma contribuimos a llenar su base de aprendizaje.

IA de reconocimiento de bosquejos Quick Draw

Inteligencia artificial de reconocimiento de bosquejos Quick Draw, o cómo disfrazar el trabajo detrás del juego

Finalmente, la tercera manera de recuperar datos humanos es espiándonos. El sistema móvil Android, así como la mayoría de sus aplicaciones, recopilan una serie de datos como los mensajes, correos, llamadas, ubicación, hasta datos de temperatura y luminosidad. Son datos irrelevantes para el funcionamiento normal de la aplicación, pero muy útiles para la empresa editora que los usará para otro propósito. Gmail lee todos nuestros correos electrónicos para presentar la publicidad exacta en el momento exacto, a través de su inteligencia artificial de recomendación de productos. Amazon realiza lo mismo basándose en sus millones de registros de venta para recomendar en cada página los productos que con más alta probabilidad nos animaremos a comprar. Twitter nos incita a redactar mensajes de manera impulsiva, los ingurgita y los convierte en publicidades:

La inteligencia artificial es un reflejo de la humanidad

Queda establecido que todo lo que pueden haber aprendido las maquinas proviene de los humanos, de una forma o de otra. Eso le da una ventaja temporal a la humanidad sobre las maquinas. Ellas no innovan, no inventan, no hacen progresar la ciencia o el arte por si solas, sino que aplican de manera disciplinada y eficiente las instrucciones humanas.

Por esta razón, las inteligencias artificiales sufren de dos desviaciones. La primera se debe a la composición del grupo sociológico de los creadores de los algoritmos, que podemos caricaturar como unos hombres jóvenes, blancos, con estudios brillantes y que viven en la Silicon Valley. Su forma de entender el mundo, los problemas que intentan resolver y la forma para hacerlo están condicionados por la visión estrecha y la homogeneidad de su grupo. Es lo que menciona con lucidez Mark Zuckerberg, el creador de Facebook, en su último ensayo: “Sitting here in California, we’re not best positioned to identify the cultural norms around the world.” (sentados aquí en California, no ocupamos la mejor ubicación para identificar las normas culturales en el mundo).

La otra razón se debe a los datos sobre los cuáles están entrenadas las inteligencias artificiales. Si los textos que analiza contienen una orientación racista, sexista, discriminadora, entonces la inteligencia artificial se volverá igualmente discriminadora. Es lo que ocurrió a Tay (@TayandYou), una robot adolescente creada por Microsoft. En menos de 24 horas, se convirtió en una neo-nazi machista, debido a una campaña orquestada por miembros de la comunidad 4chan. Es tan fácil como enseñar malas palabras a un niño: con mucho gusto y toda facilidad los va a repetir.

¿Habrá alguna esperanza?

Nos encontramos todavía en las primicias de la inteligencia artificial y del aprendizaje profundo, su método estelar. Año tras año, nos tropezamos con problemas, asistimos a abusos, pero también empezamos a entender la lógica subyacente y a aprehender el potencial transformador de estas tecnologías.

Si queremos escapar a una sociedad distópica, en la cual algunas mega-compañías estadounidenses gocen de una omnipotencia basada en su posesión de silos de datos y en el uso que le den para manipular medios y comercio, es urgente imaginar y aplicar nuevas formas de regulación. En este sentido, Evgeny Morozov propone un paradigma de colectivización de los silos de datos y de los índex de la web (como lo propone Common Crawl por ejemplo), en el cual las grandes empresas, en vez de hacernos pagar para usar servicios basados en nuestros datos, pagarían para poder hacer uso de estos datos públicos y comunes. Otra propuesta consiste en recuperar, mediante impuestos a las empresas y a los robots, una suma que compense el micro-trabajo realizado por cada uno de nosotros cuando posteamos, likeamos o retweeteamos, y que esté utilizado para políticas de bien común.

Más allá, las inteligencias artificiales trazan un futuro dónde la automatización masiva volverá obsoleto el concepto de empleo pleno, que se trate de los tradicionales empleos obreros, pero también de los servicios o las consultorías, que imaginábamos más protegidos de la automatización. En consecuencia, surge la perspectiva de una sociedad que produce más riquezas con menos trabajadores, y la cuestión de la distribución de esta bonanza económica, a través por ejemplo de mecanismos innovadores como la renta básica universal, en ruptura franca con la tradición marxista de remuneración del trabajo.

2 thoughts on “Inteligencia artificial, trabajadores explotados

  1. Saludos, me gusto mucho el concepto de micro-tareas y como los usuarios de internet nos dedicamos a alimentar las grandes bases de datos de estas super empresas. Por mi parte, trabajo muy duro para crear mis bases de datos destinadas a los problemas que trato de resolver. E.g: debo clasificar cientos de imágenes de muestras biológicas para determinar si estas contienen algun ente patológico. Por tanto, conozco la caótica e interminable tarea que la exploración de datos y la búsqueda de la correlación presentan.

    Por otra parte, me gustaría aclarar un concepto. Si hablamos en el contexto de aprendizaje supervisado. Es cierto que los sistemas Machine Learning y Deep Learning buscan imitar el comportamiento humano (al final de cuentas, estos sistemas están inspirados en arquitecturas biológicas de percepción). Sin embargo, me parece que falta aclarar que estos modelos no imitan o memorizan los datos. Todo lo contrario, buscan interpolar de una manera flexible los datos de su colección con el fin de poder generalizar la respuesta. Asimismo, las redes neuronales convolucionales (Convnets) o las redes neuronales recurrentes (RNNs) buscan por si solas los mejores parámetros que representan la tarea a predecir. Es decir, los humanos se encargan solamente de pre-procesar los datos para facilitar la tarea de optimización matemática.

    Estos nuevos sistemas prometen la automatización en la búsqueda de parametros. Y parecen ser realmente efectivos. De otro modo, su rendimiento probablemente seria igual de pobre que el de los sistemas basados en puramente parámetros encontrados por humanos como los antiguos sistemas expertos.

    • Gracias por el comentario. Tienes toda la razón, es necesario en el aprendizaje automático no sobreaprender. Por eso siempre se usa una primera base de datos para el aprendizaje, y una segunda base de datos, independiente, para calcular la eficiencia de la inteligencia artificial y verificar que el algoritmo funcionará suficientemente bien con cualquier entrada arbitraria.

      Mi punto no era desmerecer la teoría del aprendizaje automático (de hecho la estudie durante 4 años), sino resaltar la cantidad monstruosa de trabajo humano necesaria para su funcionamiento. Generalmente está oculta esta dimensión en los artículos sensacionalistas sobre inteligencia artificial.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *