La historia de Danielle Horan demuestra que el uso de la tecnología en la seguridad puede tener sus fallos y es fundamental hacer una revisión continua, porque esta mujer vivió varios momentos incómodos tras ser expulsada de varias tiendas de Reino Unido por un error de reconocimiento facial, al catalogarla como una delincuente.
En medio de toda esta situación, ella pensó que era parte de una broma ante las miradas confusas de los demás clientes a los sitios donde ingresaba y era sacada por parte de la seguridad.
“En cuanto crucé el umbral de la puerta, se comunicaron por radio y me rodearon, diciéndome: ‘Tienes que salir de la tienda’. Todos me miraban. Todos los clientes en la caja y yo pensaba: ‘¿Por qué?’”, contó la mujer implicada a la BBC.
Por qué un error de reconocimiento facial acusó a una mujer de delincuente
Danielle Horan, quien se dedica al negocio del maquillaje, nunca imaginó que su identidad terminaría enredada con acusaciones de delincuencia. Su calvario comenzó tras una visita a una tienda Home Bargains en el Gran Manchester. Durante su visita, fue escoltada fuera del local sin explicación alguna.
La razón apareció más tarde: un sistema de reconocimiento facial llamado Facewatch la había marcado incorrectamente como responsable de un robo de papel higiénico valorado en aproximadamente en 10 libras esterlinas (13 dólares).
Según relató, al regresar con su madre de 81 años para intentar investigar el motivo de su expulsión, nuevamente le impidieron el acceso, lo que desencadenó sentimientos de ansiedad y frustración.
Horan, inicialmente incrédula, encontró que había sido “etiquetada” como delincuente y compartida con otras tiendas locales a través de sistemas de seguridad.
El software en cuestión, desarrollado por Facewatch, pretendía ser una herramienta de seguridad útil para identificar y prevenir el regreso de individuos responsables de hurtos. Este sistema escanea y almacena imágenes faciales de clientes para reconocer a aquellos previamente involucrados en robos. Sin embargo, en el caso de Horan, todo se debió a un error grave.
Tras la insistencia de Horan, quien revisó sus transacciones bancarias para demostrar que había pagado por el papel higiénico, Facewatch reconoció que las acusaciones eran erróneas y atribuyó el incidente a una información incorrecta presentada por las tiendas involucradas.
Como medida de remediación, Facewatch suspendió el uso de su software en las sucursales implicadas mientras se llevaba a cabo una revisión del caso y se implementaba capacitación adicional para el personal de la tienda.
El incidente tuvo un impacto considerable en esta mujer, quien describió el periodo como estresante. “Mi ansiedad era terrible. Me sentía enferma; mi mente no dejaba de cuestionar qué había hecho mal”, contó a la BBC.
Adicionalmente, Madeleine Stone, una activista de la organización Big Brother Watch, señaló que más de 35 individuos han reportado situaciones similares donde sistemas de reconocimiento facial los han calificado erróneamente como criminales.
“Están siendo etiquetados erróneamente sin debido proceso”, afirmó. Este fenómeno, denominado “culpabilidad por algoritmo”, desafía principios jurídicos como la presunción de inocencia.
Un sistema legal, pero con errores
Si bien el uso de tecnologías de reconocimiento facial es legal en Reino Unido, su aplicación debe adherirse a estrictas leyes de protección de datos. Las organizaciones están obligadas a procesar los datos biométricos de manera justa, lícita y transparente, garantizando que su uso sea necesario y proporcional.
El Departamento de Ciencia, Innovación y Tecnología británico confirmó que aunque estas prácticas son legales, deben asegurar que ninguna persona se encuentre en situaciones como la vivida por Horan.
La experiencia de Danielle Horan no es única, pero resalta la urgencia de establecer controles más rigurosos. Big Brother Watch ha pedido al gobierno británico que prohíba completamente la tecnología de reconocimiento facial en minoristas hasta que se asegure la adecuada protección de derechos individuales.
Últimas Noticias
Cómo conseguir más de 1.000 seguidores en Instagram para hacer Live y ganar dinero
Desde su página oficial, la compañía ha compartido una serie de buenas prácticas que permiten maximizar el alcance de los reels y aumentar las probabilidades de atraer nuevos seguidores
El exceso de señales WiFi y móviles dificulta ubicar con precisión la posición de la Tierra y pone en jaque al GPS
Ante este problema, los expertos proponen establecer zonas de silencio radioeléctrico, negociar con operadores de satélites para reducir el impacto de sus emisiones, entre otras acciones
Nintendo advierte que usar una Switch 2 a altas temperaturas causaría fallos de funcionamiento
A propósito de la ola de calor que afecta a varias partes del mundo durante el verano, el fabricante japonés lanzó pautas para evitar problemas con sus consolas
No son los abogados o los ingenieros: Bill Gates revela las únicas profesiones que no serán reemplazadas por la IA
El cofundador de Microsoft es optimista sobre el rol de esta tecnología en la sociedad para solucionar problemas globales como la desigualdad, las enfermedades y la crisis energética
Cómo crear mis propios chatbots con inteligencia artificial en las empresas
De Colombia a Brasil, firmas crean y reentrenan modelos propios para combatir fraudes, automatizar servicios y revolucionar agricultura, retail y educación
