La compañía retiró un servicio que aceleraba sus procesos de contrataciones; el sofware bajaba el puntaje a los CVs que incluyeran la palabra "mujer"
11.10.2018 • 13:06hs • Polémica en EE.UU.
Polémica en EE.UU.
Amazon, cuestionada: su plataforma de Inteligencia Artificial para selección de personal discriminaba a las mujeres
Amazon se vio envuelta en una nueva polémica, ya que una investigación de Reuters reveló que su sistema automatizado de selección de personal, basado en tecnología de inteligencia artificial, prefería a los candidatos varones por sobre las mujeres.
La plataforma fue puesta en marcha en 2014 para ayudar al departamento de recursos humanos en el procesamiento de solicitudes que reciben diariamente de miles de candidatos de todo el mundo. El sistema le otorgaba a cada currículum una calificación de una a cinco estrellas, para luego enviarlo a los responsables de definir las nuevas contrataciones.
El reporte de Reuters asegura que el software otorgaba en la mayoría de los casos una menor calificación a los CVs que contenían la palabra mujer o cuya formación se relacionaba con una institución educativa solo para mujeres. Incluso, el sesgo se aplicaba si se detectaban frases como “club de ajedrez de mujeres”.
El equipo detrás del proyecto tenía la orden de acelerar el proceso de contratación. "Literalmente querían que fuera un motor donde se ingresaran 100 currículums y se escupieran los cinco primeros, para luego contratarlos", aseguró a Reuters una fuente anónima cercana al proyecto.
Cuando la compañía se dio cuenta de que el software no estaba produciendo resultados neutrales al género, se modificó para eliminar este sesgo. Sin embargo, al no estar seguros de que otros sesgos siguieran activos se decidió dar de baja la plataforma. Según The Verge, el programa de selección solo funcionó de forma experimental y no fue utilizado a gran escala por la compañía con sede en Seattle.
Todo indica que el problema se encontraba en la base utilizada para entrenar al sistema. Este dataset estaba compuesto por patrones de postulaciones realizadas por Amazon durante diez años, donde predominó la presencia de postulantes varones. La plataforma de Inteligencia Artificial aparentemente tomo esta información para interpretar que un candidato varón debía ser mejor valorado.