Jim Shultz hizo todo lo que pudo para evitar que la tecnología de reconocimiento facial entrara en las escuelas públicas de Lockport, una pequeña ciudad ubicada a 32 kilómetros de las cataratas del Niágara. En un grupo de Facebook llamado Lockportians, realizó publicaciones sobre el tema. Escribió un artículo de opinión en The New York Times. Presentó una petición ante el superintendente del distrito, donde su hija cursa el bachillerato.
Sin embargo, hace unas semanas, perdió. El distrito escolar de la ciudad de Lockport recurrió a la tecnología para monitorear a las personas que están en las propiedades de sus ocho escuelas, y se convirtió en el primer distrito de escuelas públicas en Nueva York, así como en uno de los primeros de la nación, en adoptar el reconocimiento facial.
La decisión enfatiza cómo se está propagando el reconocimiento facial en Estados Unidos y cómo se está desplegando por el país mediante nuevos mecanismos, aunque los funcionarios públicos recurren a la tecnología en nombre de la seguridad pública.
Algunas ciudades, como San Francisco y Somerville, Massachusetts, han impedido que sus gobiernos usen la tecnología, pero son las excepciones. Tan solo en el último año, más de 600 agencias de seguridad comenzaron a utilizar la tecnología de una empresa, Clearview AI. Los aeropuertos y otros lugares públicos, como el Madison Square Garden en Manhattan, también la han adoptado, informó El Observador.
Las escuelas son un nuevo frente, y el debate que tuvo lugar en Lockport encapsula el furor en torno a la tecnología. Sus defensores la describen como una herramienta crucial para combatir el crimen, para evitar los tiroteos masivos y para detener a los depredadores sexuales.
Sin embargo, los oponentes como Shultz aseguran que las inquietudes que provoca el reconocimiento facial —en específico las relacionadas con la privacidad, la precisión y los prejuicios raciales— son incluso más preocupantes cuando se trata de niños.
En Lockport, ha habido un debate abierto durante casi dos años. En un inicio, el distrito escolar anunció sus planes para instalar un sistema de seguridad de reconocimiento facial, llamado Aegis, en marzo de 2018. El distrito gastó 1,4 millones de dólares para instalar la tecnología en 300 cámaras, con dinero que le había entregado el estado.
No obstante, en mayo pasado, cuando los administradores quisieron realizar una prueba, el Departamento Estatal de Educación les dijo que debían postergarla, en parte a causa de la creciente inquietud pública por la privacidad de los estudiantes. El estado quería que Lockport garantizara la protección adecuada de los datos de los alumnos y exigió una política que prohibía el uso de los datos de los estudiantes, incluidas sus fotos.
Para junio, los funcionarios de Lockport señalaron que habían ajustado sus políticas y comenzaron a probar partes del sistema. A finales de noviembre, el Departamento Estatal de Educación mencionó que la política corregida del distrito había abordado sus inquietudes. En enero, el comité escolar aprobó por unanimidad la última corrección de la política.
Cuando el sistema está encendido, el software observa los rostros captados por los cientos de cámaras y calcula si esas caras coinciden con una lista de "personas de interés" elaborada por los administradores escolares. En esa lista se encuentran los agresores sexuales de la zona, gente que tiene prohibido observar estudiantes a causa de una orden de restricción, exempleados que se les prohibió visitar las escuelas y otras "amenazas creíbles" a juicio de las agencias de seguridad.
Si el software detecta a una persona de la lista, el sistema Aegis envía una alerta a uno de los catorce miembros del personal de seguridad que Lockport contrató de medio tiempo o tiempo completo. Entonces, el monitor humano busca la fotografía de la persona en la base de datos para "confirmar" o "rechazar" que coincide con el individuo que captó la cámara.
Si el operador rechaza la coincidencia, se descarta la alerta. Si se confirma, se emite otra alerta a un puñado de administradores del distrito, quienes deciden qué acción se debe realizar.
La tecnología también llevará a cabo escaneos en busca de armas. El jefe del Departamento de Policía de Lockport, Steven Abbott, señaló que, si una persona monitoreando confirma que el Aegis detectó un arma, se emitirá una alerta automática a los administradores y al departamento de policía.
Quienes critican la tecnología, entre ellos Shultz y la Unión de Libertades Civiles de Nueva York, señalan la creciente evidencia de prejuicios raciales en los sistemas de reconocimiento facial. En Lockport, los estudiantes negros son disciplinados de forma desproporcionada. En el año escolar 2015-2016, el 25 por ciento de los alumnos suspendidos en el distrito fueron negros aunque la matrícula de personas negras fuera de tan solo un 12 por ciento, de acuerdo con datos del Departamento de Educación federal.