Amazon da marcha atrás con el reconocimiento facial: ¿qué medida tomó la empresa?

Amazon da marcha atrás con el reconocimiento facial: ¿qué medida tomó la empresa?
Esta decisión se produce a un año de que Amazon pusiera en pausa hasta el 10 de junio de 2021 el uso de su reconocimiento facial para las fuerzas del orden
Por iProUP
19.05.2021 12.32hs Innovación

Amazon anunció que extiende la moratoria que impide el uso de las tecnologías de reconocimiento facial de la compañía para aplicaciones policiales, ampliando a un plazo indefinido la moratoria anterior de un año, que expira en junio.

Esta decisión se produce un año después de que Amazon pusiera en pausa de forma temporal hasta el 10 de junio de 2021 el uso de su reconocimiento facial para las fuerzas del orden, coincidiendo con las protestas del movimiento Black Lives Matter en Estados Unidos tras la muerte del afroamericano George Floyd.

Amazon decidió extender de nuevo esta moratoria, aunque en esta ocasión lo ha hecho hasta nuevo aviso, según ha recogido en un comunicado de respuesta la Unión de Libertades Civiles Americana (ACLU, por sus siglas en inglés).

Tecnología polémica

Por otro lado, Amazon lanzó en 2016 Rekognition, un 'software' que, como detalla la compañía en su página web, "proporciona análisis faciales de alta precisión y capacidades de búsqueda facial que puede usar para detectar, analizar y comparar rostros", y entre sus clientes se encuentran agencias policiales.

Se trata de una tecnología que genera controversia, no solo por las cuestiones de privacidad, sino también por el sesgo racial que presenta, por el que tiene dificultad para distinguir a personas con piel más oscura.

Amazon instó hace un año a que el Congreso de Estados Unidos implementase normas sobre el uso ético del reconocimiento facial
Amazon instó hace un año a que el Congreso de Estados Unidos implementase normas sobre el uso ético del reconocimiento facial.

"Las amenazas planteadas el año pasado por el uso policial de la tecnología de reconocimiento facial son hoy idénticas", afirmó Nathan Freed Wessler, subdirector del proyecto de Habla, Privacidad y Tecnología de la ACLU, que ha celebrado la decisión de Amazon.

Amazon instó hace un año a que el Congreso de Estados Unidos implementase normas sobre el uso ético del reconocimiento facial, e instituciones como ACLU han pedido a la Administración Biden que prohíban completamente el uso de tecnologías de reconocimiento facial para labores policiales, independientemente de la empresa.

"La tecnología de reconocimiento facial alimenta la vigilancia excesiva de las comunidades negras y marrones, y ya ha llevado a arrestos y encarcelamientos injustos de varios hombres negros", denuncian desde la asociación civil estadounidense.

El gobierno apuesta a esta tecnología 

En una gran apuesta, el Ministerio del Interior adquirió dos programas informáticos en los últimos dos años: uno de reconocimiento facial automatizado y otro sobre ciberpatrullaje.

En esta inversión, el primero es un software adquirido en febrero de 2020 tras una licitación pública que le costó al Estado u$s648.913 y un mantenimiento durante tres años de u$s238.178. El objetivo es distinguir a un criminal a través de las cámaras y reconocer su identidad de manera automática gracias a una base de datos.

el área de Delitos Informáticos tenía identificadas a más de 200 mil personas por
El área de Delitos Informáticos tenía identificadas a más de 200 mil personas por "expresiones con tonos de aparente delictivo".

Pero además, en marzo las autoridades adquirieron un software que analiza las interacciones sociales para identificar grupos criminales. Este programa, llamado Ucinet, es producido y comercializado por la compañía Analytic Technologies, a la cual el ministerio le compró dos licencias en 2020.

Por su parte, el Laboratorio de Datos y Sociedad (Datysoc), una organización que vela por los derechos de los ciudadanos en la virtualidad, propuso al gobierno una mesa de diálogo para entender su uso y riesgos.

Esta organización lo hizo en el marco del quinto plan de acción nacional en la cual el gobierno le pide a la sociedad civil que proponga ideas o iniciativas que fortalezcan la transparencia, el acceso a la información pública, la rendición de cuentas, la participación y colaboración ciudadana y la innovación tecnológica. La idea es "cocrear" compromisos de parte de las autoridades sobre distintos temas.

Datysoc propuso la idea es generar un "instrumento de transparencia y espacio de participación ciudadana para la corregulación de los nuevos sistemas de vigilancia tomando en cuenta sus efectos sociales y el impacto en los derechos humanos".

El objetivo es que aumente la confianza de la ciudadanía en las actividades policiales "garantizando la existencia de protocolos y el buen uso de los sistemas de vigilancia automatizados en la actuación policial".

"Existe un proceso de gobierno abierto, que cristaliza en compromisos del gobierno. Eso está en plena construcción. Este mecanismo tiene su utilidad. En este caso Agesic (la Agencia del Gobierno Electrónico y Sociedad de la Información) convocó al Ministerio del Interior en este tema porque había un reclamo de la sociedad civil", indicó Patricia Díaz, una de las integrantes de Datysoc.

 

Innovación en tu mail
Suscribite a nuestro newsletter y recibí diariamente las últimas noticias en economía digital, start ups, fintech, innovación corporativa y blockchain.
Lo más leído