Algoritmos sin conciencia: un robot podría ser el próximo que te despida de un trabajo

Stephen Normandin pasó casi cuatro años corriendo por Phoenix entregando paquetes como conductor contratado para Amazon.com Inc. Pero un día recibió un correo electrónico automático. Los algoritmos que lo rastreaban habían decidido que no estaba haciendo su trabajo correctamente.

El veterano del ejército de 63 años quedó atónito. Lo había despedido una máquina.

Normandin dice que Amazon lo castigó por cosas fuera de su control que le impidieron completar sus entregas, como complejos de apartamentos cerrados. Dijo que el despido fue un golpe duro, sobre todo por su sólida ética de trabajo.

"Soy un tipo de la vieja escuela, y doy a cada trabajo el 110%", dijo. "Esto realmente me molestó porque estamos hablando de mi reputación. Dicen que no hice el trabajo cuando sé muy bien que lo hice".

La experiencia de Normandin es un giro en la predicción de décadas de que los robots reemplazarán a los trabajadores. En Amazon, las máquinas suelen ser el jefe: contratar, calificar y despedir a millones de personas con poca o ninguna supervisión humana.

Cada vez más, la empresa también está cediendo sus operaciones de recursos humanos a las máquinas, utilizando software no solo para administrar a los trabajadores en sus almacenes, sino también para supervisar a los conductores contratados, las empresas de entrega independientes e incluso el desempeño de sus trabajadores de oficina. Las personas familiarizadas con la estrategia dicen que el director ejecutivo, Jeff Bezos, cree que las máquinas toman decisiones con mayor rapidez y precisión que las personas, lo que reduce costos y le da a Amazon una ventaja competitiva.

Amazon comenzó su servicio de entrega Flex en el 2015, y el ejército de conductores contratados se convirtió rápidamente en una parte fundamental de la empresa. Por lo general, los conductores de Flex se aseguran de que los paquetes se entreguen el mismo día. También manejan una gran cantidad de entregas de comestibles el mismo día de la cadena Whole Foods Market de Amazon. Los conductores de Flex ayudaron a que Amazon siguiera funcionando durante la pandemia y estaban muy contentos de ganar alrededor de u$s 25 por hora en paquetes de transporte después de que se agotaron sus trabajos en Uber y Lyft.

_{Los conductores y los trabajadores de delivery de Amazon son los que más están sufriendo por el uso de algoritmos como jefes y conroladores}

Pero en el momento en que se registran, los conductores de Flex descubren que los algoritmos están monitoreando cada uno de sus movimientos. ¿Llegaron a la estación de reparto cuando dijeron que lo harían? ¿Completaron su ruta en la ventana prescrita? ¿Dejaron un paquete a la vista de todos en lugar de esconderlo detrás de una maceta como se solicitó? Los algoritmos de Amazon escanean la fuente de datos entrantes en busca de patrones de rendimiento y deciden qué conductores obtienen más rutas y cuáles se desactivan. La retroalimentación humana es rara. Los conductores ocasionalmente reciben correos electrónicos automáticos, pero la mayoría de ellos se obsesionan con sus calificaciones, que incluyen cuatro categorías: Fantástico, Excelente, Regular o En riesgo.

Situación

Bloomberg entrevistó a 15 conductores de Flex, incluidos cuatro que dicen que fueron despedidos injustamente, así como a ex gerentes de Amazon que dicen que el sistema, en gran parte automatizado, no está lo suficientemente sintonizado con los desafíos del mundo real que enfrentan los conductores todos los días. Amazon sabía que delegar el trabajo a las máquinas conduciría a errores y comentarios dañinos, dijeron estos ex gerentes, pero decidieron que era más barato confiar en los algoritmos que pagarle a la gente para que investigara los despidos erróneos, siempre que los controladores pudieran reemplazarse fácilmente.

Hasta ahora, Amazon no ha tenido problemas para encontrar contratistas Flex. A nivel mundial, unos 4 millones de conductores han descargado la aplicación, incluidos 2,9 millones en Estados Unidos, según AppAnnie. Y más de 660,000 personas en los EE.UU. lo descargaron en los primeros cinco meses de este año, un 21% más que en el mismo período hace un año, según SensorTower, otro rastreador de aplicaciones.

Dentro de Amazon, el programa Flex se considera un gran éxito, cuyos beneficios superan con creces los daños colaterales, dijo un exingeniero que ayudó a diseñar el sistema. "Los ejecutivos sabían que esto iba a ensuciar la cama", dijo esta persona. "Así es como lo expresan en las reuniones. La única pregunta era cuánta suciedad queríamos que hubiera".

En un comunicado, la portavoz de Amazon, Kate Kudrna, calificó las afirmaciones de los conductores de maltrato y despido injusto como anecdóticas y dijo que no representan la experiencia de la gran mayoría de los conductores Flex. "Hemos invertido mucho en tecnología y recursos para brindar a los conductores visibilidad en su posición y elegibilidad para continuar entregando e investigar todas las apelaciones de los conductores", dijo.

Contra la máquina

Como contratistas independientes, los conductores Flex tienen pocos recursos cuando creen que han sido desactivados injustamente. No hay licencia administrativa remunerada durante una apelación. Los conductores pueden pagar u$s 200 para llevar su disputa a arbitraje, pero pocos lo hacen, ya que lo ven como una pérdida de tiempo y dinero.

Cuando Ryan Cope fue desactivado en 2019, no se molestó en discutir ni considerar pagar por el arbitraje. Para entonces, Cope ya había decidido que no había forma de que pudiera satisfacer las demandas de los algoritmos. Conduciendo millas por sinuosos caminos de tierra en las afueras de Denver en la nieve, a menudo sacudía la cabeza con incredulidad de que Amazon esperara que el cliente recibiera el paquete en dos horas.

"Siempre que hay un problema, no hay apoyo", dijo Cope, quien tiene 29 años. "Eres tú contra la máquina, así que ni siquiera lo intentas".

Cuando los conductores cuestionan las calificaciones bajas, no pueden saber si se están comunicando con personas reales. Las respuestas a menudo incluyen solo un nombre o ningún nombre, y las respuestas generalmente se aplican a una variedad de situaciones en lugar de a un problema específico.

Cuando los gerentes humanos se involucran, por lo general realizan una revisión apresurada, si es que lo hacen, porque deben cumplir con sus propios estándares de desempeño. Un ex empleado de un centro de llamadas de asistencia al conductor dijo que se asignó a decenas de trabajadores con poca capacitación a supervisar los problemas de millones de conductores.

"A  Amazon no le importa", dijo el ex empleado de Amazon. "Saben que la mayoría de las personas recibirán sus paquetes y el 2 o 3 por ciento no obtendrá algo eventualmente".

_{El uso de inteligencia artifical sin la aplicación de reglas humanitarias se converte en un problema en las empresas}

Neddra Lira, de Arlington, Texas, comenzó a realizar entregas a través de la aplicación Amazon Flex en 2017. Conductora de autobús escolar de 42 años y madre de tres hijos, tomó el trabajo secundario durante las vacaciones y los veranos para ganar dinero extra, lo que solía pagar las lecciones de gimnasia de su hija. Cuando la pandemia golpeó y cerraron las escuelas, Lira recurrió a Flex como su principal fuente de ingresos, entregando paquetes y comestibles de Whole Foods. A ella le gustó la flexibilidad y la oportunidad de embolsarse alrededor de US$ 80 por una ruta de cuatro horas, después de restar gasolina para su Chevrolet Trax crossover.

Lira estima que entregó alrededor de 8,000 paquetes y tuvo una calificación de desempeño "excelente" la mayor parte del tiempo. Los algoritmos de Amazon califican a los conductores en función de su confiabilidad y calidad de entrega, principalmente en función de si llegaron a recoger los paquetes a tiempo, si hicieron las entregas dentro del plazo previsto y siguieron las solicitudes especiales de los clientes. Las métricas flexibles se centran principalmente en la puntualidad, a diferencia de los servicios de transporte compartido como Uber y Lyft, que también priorizan aspectos como la limpieza de un automóvil o la cortesía del conductor. Además, los pasajeros de Uber y Lyft saben cuándo están atrapados en el tráfico, por lo que es menos probable que los conductores sean penalizados por circunstancias fuera de su control.

Un cliente de Amazon no tiene idea de los obstáculos que encuentran los conductores Flex en su camino, ni tampoco los algoritmos que los registran. Lira dice que a veces había tantos conductores formados fuera de la estación de entrega que esperó hasta una hora para recuperar sus paquetes, retrasándola incluso antes de comenzar su ruta. Cuando un clavo pinchó su llanta, Amazon no se ofreció a recoger los paquetes, pero le pidió que los devolviera a la estación de entrega. A pesar de explicar la situación, su calificación bajó de "excelente" a "en riesgo" por abandonar la ruta y tardó varias semanas en recuperarse.

Una y otra vez, Lira se aseguró de que su calificación estaba bien. Un correo electrónico típico llegó el 1 de octubre. "Actualmente, su posición es excelente, lo que significa que es uno de nuestros mejores socios de entrega", decía el mensaje firmado "Madhu S." Pero al día siguiente, "Bhanu Prakash" envió un correo electrónico para decir que había violado los términos de servicio de Flex. "Como resultado, ya no es elegible para participar en el programa Amazon Flex y no podrá iniciar sesión en la aplicación".

A Lira se le proporcionó una dirección de correo electrónico y se la invitó a apelar la rescisión dentro de los 10 días. Ella lo hizo y preguntó por qué estaba desactivada para poder decirle al servicio de asistencia al conductor de Flex qué salió mal. Ella nunca recibió más detalles. Hizo un seguimiento el 18 de octubre y explicó que era una madre soltera despedida de su trabajo habitual debido a la pandemia y que Flex era lo único que la mantenía a flote. Lira recibió lo que parece ser una respuesta automática de "El equipo de Amazon Flex" disculpándose por la demora y asegurándole que su situación sería investigada por el equipo apropiado.

Tres días después, el 21 de octubre, recibió un mensaje de "Margaret" que decía "todavía estamos revisando su apelación". Luego, una semana después, el 28 de octubre, un correo electrónico firmado "SYAM" decía: "Hemos revisado su información y hemos analizado nuevamente su historial. Nuestra posición no ha cambiado y no restableceremos su acceso al programa Amazon Flex. Le deseamos éxito en sus esfuerzos futuros".

Sin trabajo, Lira comenzó a tener problemas económicos. Dejó de pagar su hipoteca y su coche fue embargado dos días después de Navidad. Lira se vio obligada a aceptar una ayuda del gobierno para pagar sus facturas de luz, gas y agua. Finalmente, comenzó a conducir el autobús escolar nuevamente y utilizó la mayor parte de un cheque de estímulo pandémico para recuperar su automóvil, pagando u$s 2.800 en pagos atrasados, recuperación y tarifas de almacenamiento.

"Simplemente no fue justo", dijo Lira. "Casi pierdo mi casa".

Los ingenieros informáticos que diseñaron Flex trabajaron duro para hacerlo justo y considerar variables como atascos de tráfico y problemas para acceder a los apartamentos que el sistema no puede detectar, dijeron ex empleados. Pero ningún algoritmo es perfecto, y en el tamaño de Amazon, incluso un pequeño margen de error puede considerarse un gran éxito internamente y aun así infligir mucho dolor a los conductores. Los controladores de Amazon Flex entregan aproximadamente el 95% de todos los paquetes a tiempo y sin problemas, según una persona familiarizada con el programa. Los algoritmos examinan el 5% restante en busca de patrones problemáticos.

_{Fuente: Bloomberg}