Reguladores financieros de Estados Unidos están investigando la nueva tarjeta de crédito de Apple, luego de que un cliente se quejara sobre algoritmos de crédito por supuestas discriminaciones a las mujeres.
El incidente comenzó cuando el desarrollador de software David Heinemeier Hansson se quejó en Twitter de que la línea de crédito ofrecida por su Apple Card era 20 veces mayor que la ofrecida a su cónyuge, a pesar de que los dos presentan declaraciones de impuestos conjuntas y él tiene la peor calificación crediticia.
"Mi esposa y yo presentamos declaraciones de impuestos conjuntas, vivimos en un estado de propiedad comunitaria y llevamos mucho tiempo casados. Sin embargo, el algoritmo de caja negra de Apple cree que merezco 20 veces el límite de crédito que ella tiene ", escribió Hansson.
Hansson dijo que el servicio al cliente de Apple respondió rápidamente a sus quejas y, finalmente intervino para elevar el límite de su esposa como respuesta a un hecho aislado, sin embargo esos mismos representantes le dijeron que no podían hacer nada para cambiar la decisión general del algoritmo.
Después de que las quejas de Hansson se volvieron virales, otros clientes de Apple Card informaron incidentes similares. El cofundador de Apple, Steve Wozniak, se encontraba entre ellos y dijo que le dieron diez veces el límite de crédito ofrecido a su esposa. Wozniak pidió al gobierno que investigue el funcionamiento de dichos algoritmos de caja negra, que según los expertos a menudo son discriminatorios.
"No tenemos transparencia sobre cómo estas empresas configuran y operan estas cosas", dijo Wozniak en una entrevista. "Los Algoritmos obviamente tienen fallas ... Una gran cantidad de personas diría: ‘Amamos nuestra tecnología pero ya no tenemos el control’. Creo que ese es el caso".
En respuesta a las quejas, el Departamento de Servicios Financieros del Estado de Nueva York (DFS) dijo que investigaría la tarjeta, emitida por el gigante bancario Goldman Sachs. "Cualquier algoritmo que intencionalmente o no resulte en un trato discriminatorio para las mujeres o cualquier otra clase protegida viola la ley de Nueva York", dijo un portavoz de la agencia a The New York Times.
"DFS tiene problemas para enterarse de un posible tratamiento discriminatorio en lo que respecta a las decisiones de límite de crédito supuestamente tomadas por un algoritmo de Apple Card, emitido por Goldman Sachs, y el Departamento llevará a cabo una investigación para determinar si se violó la ley de Nueva York y garantizar a todos los consumidores son tratados por igual, independientemente del sexo ", aclararon desde la entidad.
En un comunicado, Goldman Sachs negó que sus algoritmos discriminaran de esta manera. "En todos los casos, no hemos tomado ni tomaremos decisiones basadas en factores como el género", dijo el portavoz de la compañía Andrew Williams.
Estas quejas alimentan la creciente conciencia pública de los algoritmos discriminatorios, que cada vez toman más decisiones en campos como la atención médica, la contratación y la vivienda. Las empresas y las agencias gubernamentales a menudo introducen estos sistemas automatizados para reducir costos y manejar conjuntos de datos complejos, pero durante años los expertos han estado advirtiendo que tales algoritmos son opacos y no regulados, codificando el pensamiento sexista y racista en un software inexplicable.
En el caso de la Apple Card, las quejas en su contra aumentaron rápidamente solo porque el desarrollador David Hansson tiene muchos seguidores en redes. Para la mayoría de las personas que son discriminadas por algoritmos opacos, tal respuesta es inalcanzable. En Twitter, Hansson señaló que algunas personas defendían a Apple al decir que la discriminación de género era normal en el mundo de las finanzas.
Cuando Apple lanzó su tarjeta de crédito a principios de este año, se jactó de que traería la simplicidad y la transparencia de los productos de Apple al confuso mundo de las finanzas. El uso de la Apple Card sería fácil y sin problemas, dijo Apple, lo que llevaría a "una vida financiera más saludable".