La detención errada de una encinta aviva el rechazo a los sistemas de reconocimiento facial | Tecnología

El creciente uso de herramientas de identificación biométrica en Nueva York no ha ocasionado hasta el momento más polémica que las críticas por invasión de la privacidad a los supermercados, que han recurrido en masa a cámaras y escáneres para prevenir latrocinios. “Esta tecnología nos ayuda a reducir el número de robos”, explica un cartel a la entrada de un conocido súper de Manhattan. El año pasado, la patronal neoyorkina registró sesenta y tres latrocinios en tiendas, un cuarenta y cinco% más que en dos mil veintiuno. Grandes estadios en todo el país han adoptado asimismo herramientas automatizadas como el escáner del iris o del óvalo facial para supervisar el acceso del público, y el Madison Square Garden se ha visto en el disparadero pues lo hace para discriminar a individuos molestos, sobre todo abogados implicados en pleitos contra el legendario pabellón.

Pero una cosa es lo que pasa en Nueva York y otra en el resto del país, donde urbes como San Francisco han prohibido su uso, mientras que otras (por poner un ejemplo, Oakland y Berkeley, en California, y Somerville, en Massachusetts, todas y cada una regidas por demócratas) están valorando continuar su ejemplo. Se sabía que las herramientas de reconocimiento facial impulsadas por la inteligencia artificial han producido fallos, produciendo imágenes falsas o incurriendo en cortes de confirmación tan inmediatos como simples, la mayoría de las veces sin consecuencias. Pero a veces el uso de esta tecnología tiene un impacto más grave en la reputación y el bienestar de las personas. Es el caso de Porcha Woodruff, una mujer de treinta y dos años de Detroit, que fue detenida y esposada en el mes de febrero en su domicilio, delante de sus dos hijas, a lo largo de un operativo policial.

A Woodruff se la acusaba (de forma errada) de un atraco y el hurto de un vehículo. Las autoridades tenían imágenes de videovigilancia de una estación de servicio donde se generó el acontencimiento, que mostraban a una mujer en flagrante delito, y las sometieron a una herramienta de reconocimiento facial de DataWorks Plus para identificarla. Pese a ese despliegue de medios, los agentes no tuvieron presente un pequeño detalle cuando, poquitos días tras cometerse el delito, penetraron en el domicilio de Woodruff: la ladrona no estaba encinta. Ella sí, de 8 meses.

Woodruff es la primera mujer detenida por fallo en EE UU como consecuencia de una falsa identificación, mas ha habido más casos. Solo en Detroit se trata del tercer expediente en el que está implicada la policía local, que de media efectúa ciento veinticinco buscas con reconocimiento facial al año, prácticamente todas de hombres negros, conforme estadísticas entregadas a la junta ciudadana de supervisión. Woodruff es la sexta persona en el país acusada falsamente por culpa del uso automatizado de tecnología de reconocimiento facial, que vincula el semblante de un criminal ignoto con una foto de una base de datos determinada. La fotografía de Woodruff figuraba en los ficheros policiales por haber conducido con el carnet caducado hace unos años.

El daño hecho a la reputación de Woodruff, que fue esposada a la puerta de su casa, delante de los vecinos, fue aun menor que el ocasionado a su salud, por su avanzada gestación. “Tuve contracciones mientras estaba en la celda. Tenía dolores agudos en la espalda. Sufrí espasmos. Estuve a punto de sufrir un ataque de pánico”, explicó Woodruff, que estudia enfermería, al diario The New York Times. “Fue un suplicio estar sentada en esos bancos de cemento, me dolía todo el cuerpo”. El hecho de que estuviese arreglando a sus dos hijas para ir al instituto no detuvo a los 6 agentes que asistieron a detenerla. La hicieron salir a la puerta, donde la esposaron, mientras que solo acertaba a preguntarles si era una gracieta, mientras que se señalaba la barriga. Tras once horas detenida, y el pago de una fianza de cien dólares estadounidenses, la mujer fue puesta en libertad ese día. De la comisaría fue de forma directa al centro de salud, donde apreciaron que estaba desecada. Un mes después, el fiscal desechó el caso. A primeros de agosto, Woodruff interpuso una demanda por arresto incorrecto contra la urbe de Detroit, frente al tribunal federal del distrito este de Míchigan.

Según documentos entregados a la junta ciudadana de supervisión, DataWorks Plus es el distribuidor de tecnología de reconocimiento facial que emplea la policía para equiparar semblantes ignotos con una base de datos policial de fotografías que figuran en las fichas de delincuentes; el sistema usa la IA para presentar las coincidencias ordenadas conforme el cálculo de probabilidades. En última instancia, un analista humano se hace cargo de decidir si ciertas opciones es consistente. Como sucedió, por poner un ejemplo, en el caso de Robert Williams, otro vecino de Detroit que fue detenido en el primer mes del año de dos mil veinte por hurto en una tienda debido a una coincidencia de reconocimiento facial incorrecta, por la que la fiscalía se excusó tiempo después.

Normas para la identificación biométrica

“Datos biométricos del cliente pueden ser recopilados”, advierte el cartel de un conocido súper de Manhattan. Porque cualquier negocio o establecimiento de Nueva York debe, por ley, informar a través de anuncios bien perceptibles de que somete a vigilancia biométrica al usuario. El gigante del comercio online Amazon fue denunciado en el tercer mes del año por no informar explícitamente del uso de estos métodos (como el escáner de la palma de la mano y la medición anatómico del usuario) en sus tiendas de la Gran Manzana.

EE UU no es el único país que emplea herramientas de identificación biométrica. En el Reino Unido, los negocios usan tecnología de reconocimiento facial que usa IA para prohibir la entrada a sus establecimientos a personas con antecedentes por hurto. Bruselas acoraza sus fronteras compendiando datos biométricos de aquellas personas que entren en territorio europeo; una medida, conforme los especialistas, con alto potencial discriminatorio. Las fuerzas de seguridad españolas se disponen a adoptar el programa ABIS (iniciales en inglés de sistema automatizado de identificación biométrica) para identificar en segundos a sospechosos desde cualquier clase de imagen. Alén de las dudas sobre la trasparencia de esos sistemas, y el entendible miedo de la ciudadanía a verse observada o espiada, el caso de Pocha Woodruff es una llamada de atención sobre los peligros de la proliferación de esta clase de tecnología.