Culpabilité par algorithme : une femme accusée à tort de vol à l’étalage en raison d’une erreur de reconnaissance faciale

Une femme est restée « furieuse » après avoir été accusée à tort d’avoir volé du papier toilette et expulsée de deux magasins Home Bargains dans le Grand Manchester, au Royaume-Uni, en raison d’une apparente confusion avec un système de reconnaissance faciale conçu pour empêcher le vol à l’étalage.

2–3 minutes

BBC News rapporte que Danielle Horan, propriétaire d’une boutique de maquillage, s’est retrouvée dans une situation pénible lorsqu’elle a été escortée hors des magasins Home Bargains de Salford et de Manchester, sans aucune explication. Il a été découvert plus tard que Horan avait été faussement accusée d’avoir volé pour environ 10 £ d’articles après que son profil a été ajouté à une liste de surveillance de reconnaissance faciale utilisée par les magasins.

L’incident s’est produit le 24 mai, alors qu’Horan se rendait au magasin Home Bargains de Regent Road à Salford. Alors qu’elle faisait ses courses, le gérant du magasin s’est approché d’elle et lui a demandé de partir, ce qui a provoqué chez Horan un sentiment de gêne et de confusion face aux autres clients. Malgré ses protestations, le gérant lui a conseillé de contacter directement Facewatch, l’entreprise de sécurité spécialisée dans la vente au détail qui fournit la technologie de reconnaissance faciale.

Les tentatives d’Horan pour contacter Facewatch et Home Bargains se sont d’abord avérées vaines. Cependant, lorsqu’elle s’est rendue dans un autre magasin Home Bargains à Fallowfield, Manchester, avec sa mère de 81 ans, le 4 juin, elle a de nouveau été encerclée par le personnel et sommée de quitter les lieux dès son entrée. Cette fois, Horan a tenu bon et a exigé des explications sur le traitement qu’elle avait subi.

Après avoir envoyé des courriels répétés à Facewatch et à Home Bargains, Horan a finalement appris qu’une allégation de vol d’environ 10 £ de rouleaux de papier toilette avait été formulée début mai. Sa photo avait circulé dans les commerces locaux, les alertant de ne pas la laisser entrer. Horan a vérifié son compte bancaire et a confirmé qu’elle avait bien payé les articles en question.

Finalement, Facewatch a répondu à Horan, affirmant qu’un examen de l’incident démontrait qu’elle n’avait rien volé. L’entreprise a reconnu le caractère pénible de l’expérience d’Horan et a indiqué que le détaillant avait depuis mis en place des formations complémentaires pour son personnel. Cependant, cette épreuve avait déjà eu des répercussions sur son bien-être mental, provoquant anxiété et stress, la rendant sujette à des doutes et à des nausées pendant une semaine.



L’association de défense des libertés civiles Big Brother Watch a reçu des plaintes de plus de 35 personnes affirmant avoir été placées à tort sur des listes de surveillance pour la reconnaissance faciale. Madeleine Stone, responsable principale du plaidoyer au sein de l’organisation, a déclaré que ces personnes étaient « signalées à tort comme des criminels » sans procédure régulière et expulsées des magasins, ce qui a de graves conséquences sur leur vie.

Dans le cas de Horan, Facewatch l’a informée que l’entreprise se basait sur les informations transmises par les magasins et que les succursales Home Bargains concernées avaient été suspendues de l’utilisation du système Facewatch suite à l’incident. Home Bargains a refusé de commenter l’affaire.

En savoir plus sur BBC News ici.

Voir l’article original cliquez ci-dessous :

Voir l’article

Page d'accueil pour retourner sur le site
Aller à l’accueil