Naciones Unidas hombre negro fue arrestado injustamente gracias al reconocimiento facial. Un reportaje de Los New York Times menciona cómo Robert Julian-Borchak Williams, de 42 años, fue víctima del algoritmo en una detención efectuada por la policía de Detroit.

Los hechos ocurrieron en enero de este año, cuando Williams se encontró en su oficina. El hombre recibió una llamada de la policía para acudir a la estación porque estaban arrestados. El Departamento de Policía de Detroit datos de reconocimiento facial reconocidos para identificar al ladrón de una boutique.

El sistema arrojó la información de Williams, quien en un principio determinado que era broma. El hombre afroamericano fue arrestado más tarde frente a su casa y llevado a la estación. Los policías le hicieron preguntas al respecto robo de una tienda Shinola, donde el ladrón hurtó cinco relojes.

Al ver las fotos, el acusado se deslindó de inmediato. No solo no había estado en el lugar en la hora y momento indicado, sino que el ladrón ni siquiera se parecía a él. El Departamento de Policía se basó en la evidencia de un video de vigilancia ofrecido por la aseguradora. Con las imágenes, los investigadores usarán un software de la empresa DataWorks para compararlas con una base de datos.

Dos algoritmos asociar la imagen del ladrón con una licencia de conducir de Williams, aunque especificando que era una simple pista y no causa de arresto. Los investigadores estaban obligados a analizar más evidencia antes de detener al presunto sospechoso, sin embargo, una simple identificación visual les dio luz verde para arrestar, de forma equivocada, a Williams.

Los sistemas de reconocimiento facial no realizados en mujeres y minorías

Robert Julian-Borchak Williams. Foto (c) NYT

El caso de Robert Julian-Borchak Williams parece ser un ejemplo más de los fallos que existen en el sistema de reconocimiento facial en las personas de color. La tecnología, que lleva varios años en uso, solo funciona en hombres blancos. Prueba de esto se documentó en un estudio realizado por el MIT al software utilizado Amazon.

Investigadores descubrieron que Rekognition, tecnología desarrollada por la empresa de Bezos, se desempeña peor al identificar el sexo de un individuo si es mujer o si tiene tez oscura. El software confundió a mujeres con hombres el 19% de las veces, mientras que las de piel oscura fueron identificadas de forma errónea el 31% de las veces.

Meses después, Microsoft se negó a venderle su tecnología de reconocimiento facial a la policía de California por temor a que cometan detenciones arbitrarias. La tecnología dijo que su algoritmo fue entrenado, principalmente, con imágenes de hombres blancos, lo que provocó que más inocentes fueron detenidos.

A mediados de 2019, la Universidad de Essex auditó los sistemas de detección de sospechosos de la Policía de Londres. El resultado fue escalofriante, ya que la discrepancia en la tasa de fallos podría superar el 80%. La agencia policial utiliza tecnología de NEC, la misma que provee para el Departamento de Policía de Detroit y otras corporaciones del orden en el mundo.

Según el estudio el sistema arroja datos de sospechosos que, en una cifra del orden de 4 de cada 5 ocasiones, correspondencia con ciudadanos inocentes.