El Parlamento Europeo votó una resolución en la que prohíbe el uso de tecnologías de vigilancia masiva biométricas impulsadas por la IA (inteligencia artificial), tales como el reconocimiento facial. Esta resolución tiene impacto en todos los países miembros del parlamento continental.
Preocupación por la seguridad
Durante la sesión del 6 de octubre en Bruselas, los eurodiputados expusieron su preocupación por el peligro que estas tecnologías representan para las libertades y derechos civiles en la comunidad europea. El uso de vigilancia predictiva basada en IA puede traer resultados negativos, discriminatorios, perjudiciales e injustos a la hora de implementarla para la vigilancia en el espacio público. En el debate se usaron casos reales para mostrar cómo se usó la tecnología para detener a ciudadanos inocentes.
Con el fin último de respetar y preservar "la privacidad y dignidad humanas", los miembros del parlamento europeo acordaron recomendar a los legisladores de los distintos países miembros deberían aprobar legislación que prohíba el reconocimiento y monitoreo de ciudadanos en espacios públicos a través de estas tecnologías.
/https://assets.iproup.com/assets/public/images/lazyload.gif)
China es uno de los pioneros en el uso de reconocimiento facial
Una de las empresas alcanzadas por el llamado a detener la vigilancia masiva es la estadounidense Clearview, desarrolladora de sistemas policiales predictivos basados en datos sobre comportamiento y que en la actualidad es proveedora de tecnologías de vigilancia a muchas policías europeas.
Según el portal Techcrunch, las empresas proveedoras de tecnología basada en reconocimiento facial e IA han admitido que la tendencia a implementar este tipo de algoritmos predictivos durante años, y las distintas polémicas que se han desatado en torno a "fallas" y "errores" de sistema (que derivaron en detenciones arbitrarias de inocentes en todo el mundo), los han forzado a invertir en mejoras de procesos de datos y machine learning.
Sin embargo, las cifras de casos discriminatorios siguen siendo demasiado altas como para aceptar la implementación de estos sistemas a gran escala. Los representantes relevaron las cifras y estudiaron los datos de detenciones ordenadas a través de estos sistemas.
"Los sistemas de identificación basados en IA llevan identificando de forma errada especialmente personas de distintos grupos étnicos, LGBT y ancianos en mayor cuantía que cualquier otro" destacó un comunicado emitido por el propio Europarlamento.
"Para asegurar los derechos fundamentales que deben ser sostenidos frente al uso de estas tecnologías, los algoritmos deben ser transparentes y suficientemente documentados como para ser auditados. Dentro de lo posible, las autoridades públicas debieran usar software de código abierto para asegurar la transparencia del proceso", se leyó en la publicación.
¿Qué cambiará con esta ley?
Si bien la ley representa un gran avance para Europa, la discusión sobre el uso de la IA para vigilar espacios públicos está lejos de terminarse. Según el portal británico The Register todavía sigue en negociaciones y bocetos una "Ley de la Inteligencia Artificial" que regule formalmente el uso e implementación de estas tecnologías en la administración y espacios públicos. Es por esto que la resolución votada por los eurodiputados se convierte más en una recomendación que una legislación que se convierta en políticas efectivas.
La discusión fue llevada al recinto por el bloque de la socialdemocracia europea S&D. Desde el bloque de S&D hicieron hincapié en cambiar el eje de discusión a la hora de debatir sobre IA. La IA no es un producto, es una herramienta, y el progreso técnico nunca debe producirse a expensas de los derechos fundamentales de las personas.
Los sistemas de reconocimiento facial todavía no son 100% precisos
Según publicó en sus redes sociales el eurodiputado socialista búlgaro Petar Vitanov "… una mayoría progresista que está de acuerdo con líneas rojas claras para la inteligencia artificial. Por primera vez en la historia, pedimos una moratoria en el despliegue de los sistemas de reconocimiento facial con fines de ejecución de la ley cuando la tecnología resulte ineficaz o lleve a resultados discriminatorios. Somos claros al oponernos a la vigilancia policial predictiva que se base en el uso de la inteligencia artificial, así como a cualquier procesamiento de datos biométricos que lleve a una vigilancia masiva".
El bloque socialdemócrata llamó a poner un freno a la implementación de la vigilancia masiva de ciudadanos en el espacio público, prohibir las bases de datos almacenadas por empresas privadas y los sistemas de predicción del crimen a través de los datos de ciudadanos.
No obstante, tal y como menciona el portal The Register, se trata más de una declaración de intenciones que una prohibición efectiva: Clearview IA que ya opera en Europa desde hace años ya cuenta con extensas bases de datos de ciudadanos identificados y ya trabaja con predicción de crímenes a través de datos y algoritmos, según un artículo del sitio parlamentario.com.
