La Universidad de Essex ha auditado los sistemas de detección de sospechosos de la Policía de esta ciudad y su tasa de fallos podría superar el 80%
05.07.2019 • 15:10hs • Tu cara no me suena
Tu cara no me suena
Escándalo: el sistema de detección facial que usa la policía de esta ciudad falla 4 de cada 5 veces
Cada vez más ciudades utilizan los sistemas de reconocimiento facial para brindar seguridad a los ciudadanos, con China como pionera. Otra ciudad que se sumó es Londres, que posee un sistema con más cámaras de las que se pueden revisar en tiempo real, pero gracias a los nuevos y potentes algoritmos de IA, esto se está automatizando cada vez más desde 2016 con el sistema Neoface de la japonesa NEC.
Sin embargo Sky News encargó a académicos de la Universidad de Essex que revisaran la precisión del sistema. Se descubrió que la tasa de error llegaba hasta un 81% de los casos, ya que de 42 correspondencias arrojadas por el sistema, solo ocho encajaban con las caras que estaban buscando.
El sistema arroja datos de sospechosos tan erróneos que 4 de 5 ocasiones se corresponden con ciudadanos inocentes, o aún peor: inexistentes. En cuatro de las coincidencias detectadas por el sistema, nunca se pudo obtener la correspondencia con un individuo real debido a que los falsos positivos se perdían en la multitud.
La policía de Londres asegura que tasa de error es mucho más baja: una de cada mil personas reconocidas. La métrica que utilizan es distinta: el número de veces que asocia una cara cualquiera correctamente con el individuo al que corresponde. Según el informe es "altamente probable" que el sistema sea considerado ilegal ante un caso que llegue a los tribunales.