Une enquête révèle les conséquences des erreurs de police après des tests de reconnaissance faciale par IA
Un homme noir emprisonné à tort pendant une semaine à la suite d'une erreur de reconnaissance faciale,
selon un rapport
La police de Louisiane se serait appuyée sur une fausse correspondance de reconnaissance faciale pour obtenir des mandats d'arrêt contre un homme noir pour des vols qu'il n'a pas commis. Randal Reid, 28 ans, est resté en prison pendant près d'une semaine après que la fausse correspondance ait conduit à son arrestation, selon un rapport publié lundi sur NOLA.com, le site web du journal Times-Picayune/New Orleans Advocate. Reid a déclaré au journal qu'il n'avait jamais été en Louisiane.
La police de Louisiane se serait appuyée sur une fausse correspondance de reconnaissance faciale pour obtenir des mandats d'arrêt contre un homme noir pour des vols qu'il n'a pas commis. Randal Reid, 28 ans, est resté en prison pendant près d'une semaine après que la fausse correspondance ait conduit à son arrestation, selon un rapport publié lundi sur "NOLA.com". Reid a déclaré au journal qu'il n'avait jamais été en Louisiane.
La police locale a arrêté Reid le 25 novembre alors qu'il conduisait sur l'Interstate 20 dans le comté de DeKalb, en Géorgie, pour se rendre à une fête de Thanksgiving tardive avec sa mère, a-t-il déclaré.« Ils m'ont dit que j'avais un mandat d'arrêt de la paroisse de Jefferson. J'ai dit, 'Qu'est-ce que c'est Jefferson Parish?' », a déclaré Reid. « Je ne suis jamais allé en Louisiane de ma vie. Puis ils m'ont dit que c'était pour vol. Donc non seulement je ne suis pas allé en Louisiane, mais en plus je ne vole pas. »
Reid a été placé dans la prison du comté de DeKalb en tant que fugitif, mais a été libéré le 1er décembre, selon un responsable de la prison. L'avocat de Reid, Tommy Calogero, a déclaré que les détectives du bureau du shérif de Jefferson Parish avaient « tacitement » admis leur erreur et annulé le mandat, selon le rapport. « Je pense qu'ils ont réalisé qu'ils avaient pris des risques en procédant à une arrestation sur la base d'un visage », a déclaré Calogero. « La police aurait pu vérifier sa taille et son poids ».
Décrivant son séjour en prison, Reid a déclaré qu'il « ne mangeait pas, ne dormait pas. Je pense à ces accusations. Je ne fais rien parce que je ne sais pas ce qui se passe vraiment pendant tout ce temps. Ils n'ont même pas essayé de faire la bonne identification. »
L'affaire aurait commencé par un vol, le 20 juin 2022, de sacs à main Chanel et Louis Vuitton d'une valeur de plus de 10 000 dollars à Metairie, en Louisiane. Calogero a déclaré qu'il n'aurait pas été difficile de déterminer que Reid n'était pas le coupable, qui aurait été « filmé en juin en train de saisir les numéros d'une carte de crédit volée à la caisse » du magasin.
Un grain de beauté sur le visage de Reid a été l'une des différences qui ont finalement obligé la police à le relâcher, a déclaré Calogero. Calogero a également « estimé qu'il y avait une différence de 40 livres entre Reid et le voleur de sac à main qu'il a vu sur les images de surveillance », selon le rapport Times-Picayune/New Orleans Advocate. Le coupable, contrairement à Reid, avait des « bras flasques ». «La police aurait pu vérifier sa taille et son poids ou faire un effort pour lui parler ou demander à marcher dans sa maison pour chercher des preuves. Il aurait obtempéré », a déclaré Calogero au journal.
Ce n'est pas la première fois qu’un tiers se fasse arrêter pour un crime qu’il n’a pas commis à l'aide de la technologie de reconnaissance faciale. Robert Julian-Borchak Williams, un Afro-Américain, se retrouve à gérer des démêlés avec la justice parce qu’un algorithme de reconnaissance faciale a, par « erreur », fait correspondre sa photo avec une vidéo d’une caméra de sécurité. La police a laissé filtrer que « l’ordinateur a dû se tromper. » Pourtant, le présumé voleur sort d’une audience de mise en accusation qui pourrait donner suite à d’autres. L’Union américaine pour les libertés civiles (ACLU) est sur le dossier et demande un arrêt total des poursuites judiciaires.
La technologie de reconnaissance faciale, lorsqu’on lui concède de pouvoir donner de bons résultats, est déjà problématique en ceci qu’elle peut être vue comme une intrusion à la vie privée. Dans la pratique, elle est surtout connue pour l’une des plus grosses tares qu’elle continue d’exhiber : les nombreux faux positifs. Des études tour à tour mises en ligne par l’ACLU et l’institut américain des normes et de la technologie (NIST) mettent en exergue le fait que les systèmes de reconnaissance faciale sont nettement plus susceptibles de générer des erreurs lorsqu'ils tentent de faire correspondre des images représentant des personnes dites de couleur.
Dans les chiffres, ceux-ci sont plus précis pour ce qui est des opérations d’identification d’individus blancs, mais sont 10 à 100 fois plus susceptibles de générer des faux positifs pour ce qui est des visages de Noirs et d’Asiatiques. Le NIST a également mis en avant le fait que les systèmes développés aux États-Unis sont très peu performants face aux visages des Amérindiens. C’est en tout cas ce qui ressort de l’étude de l’institut américain des normes et de la technologie qui a porté sur les performances de 189 algorithmes mis sur pied par 99 développeurs. L’évaluation des logiciels s’est faite sur plus de 18 millions d’images appartenant à plus de 8 millions d’individus.
En raison de préoccupations liées aux droits de l'homme, des chercheurs de l'université de Cambridge ont empêché la police d'utiliser la reconnaissance faciale pour des mesures de sécurité. Des chercheurs de l'université de Cambridge ont déclaré que la méthode de reconnaissance faciale ne répond pas aux normes éthiques et juridiques et que c'est pourquoi elle devrait être interdite dans les espaces publics.
Les chercheurs du Minderoo Center for Technology and Democracy ont analysé trois cas d'utilisation de la technologie de reconnaissance faciale (FRT) par des officiers de police et tous ces cas violaient les droits de l'homme.
Ces chercheurs ont ensuite inclus les lois britanniques sur la protection des données et l'égalité pour créer un audit permettant de vérifier les actes de FRT par rapport aux directives légales. Ils ont ensuite appliqué ces directives et ces normes aux FRT utilisés par la police britannique locale. Dans deux cas, il a été constaté que ce FRT était utilisé pour scanner des foules et comparer les visages à des criminels reconnus et permettre à d'autres d'être sur la "liste de surveillance". Même si les FRT étaient utilisés pour reconnaître et comparer les criminels, il y avait un manque de transparence, de responsabilité et de contrôle. La recherche a révélé que certaines informations importantes provenant de ces FRT étaient également cachées à la police. Il est donc difficile d'évaluer les problèmes liés à la technologie de reconnaissance faciale.
L'auteur principal de cette recherche a déclaré que la police n'est pas celle qui doit être déclarée responsable et tenue pour responsable des dommages causés par la technologie de reconnaissance faciale. Il n'y a pas eu de mauvaise utilisation de la technologie par la police et peu ou pas de preuves des communautés qui ont été affectées par cette technologie. Elle a également déclaré que "nous nous efforçons de rendre ces technologies éthiques et sûres pour les gens. Nous essayons toujours de trouver des preuves solides auprès des personnes et des communautés qui ont été lésées par le déploiement de la technologie de reconnaissance faciale par la police."
On ne sait pas exactement quelle reconnaissance faciale a été utilisée dans cette affaire. Dans des cas précédents, le bureau du shérif de la paroisse de Jefferson Joe Lopinto a demandé des analyses de reconnaissance faciale par l'intermédiaire du Louisiana State Analytic and Fusion Exchange de Baton Rouge, qui utilise les systèmes Clearview AI et MorphoTrak, indique le rapport.
Le logiciel Clearview compare les visages à des photos sur les médias sociaux et à de nombreuses autres sources. « Notre plateforme, alimentée par la technologie de reconnaissance faciale, comprend la plus grande base de données connue de plus de 30 milliards d'images faciales provenant de sources Web publiques, notamment les médias d'information, les sites Web de photos d'identité, les médias sociaux publics et d'autres sources ouvertes », a déclaré la société.
Le rapport du Times-Picayune/New Orleans Advocate indique que la mauvaise correspondance de la reconnaissance faciale a conduit à deux mandats d'arrêt pour Reid. Le premier a été obtenu par le bureau du shérif de Jefferson Parish, et le second concernait un crime distinct sur lequel la police de Baton Rouge enquête.
Un inspecteur de la police de Baton Rouge a ensuite adopté l'identification de Reid par le JPSO pour obtenir un mandat d'arrêt selon lequel il faisait partie des trois hommes impliqués dans un autre vol de sac à main de luxe commis la même semaine dans un magasin de l'autoroute Jefferson, comme le montrent les dossiers judiciaires, indique le Times-Picayune/New Orleans Advocate.
Le rapport indique que le bureau de Lopinto n'a pas répondu aux demandes d'information et « a refusé une demande officielle concernant le mandat d'arrêt du 18 juillet pour Reid et des copies de politiques ou d'achats liés à la reconnaissance faciale, citant une enquête en cours ». Le mandat distinct obtenu par la police de Baton Rouge « ne dit pas comment le bureau de Lopinto a identifié Reid », précise le rapport.
Les préoccupations relatives à la vie privée et les preuves de partialité des systèmes de reconnaissance faciale ont alimenté un mouvement visant à interdire l'utilisation de cette technologie par le gouvernement. « Les logiciels de reconnaissance faciale sont particulièrement mauvais lorsqu'il s'agit de reconnaître les Afro-Américains et d'autres minorités ethniques, les femmes et les jeunes. Ils les identifient souvent mal ou ne les identifient pas, ce qui a un impact disparate sur certains groupes », explique l'Electronic Frontier Foundation.
Source : Nola
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi :
Répondre avec citation
Envoyé par Bruno
) sans cette richesse et cette couleur que peut donner l'homme à la vie communautaire (oh pardon, "homme" est peut-être un mot interdit en opposition avec "femme" qui est peut-être un mot interdit en opposition à "homme" qui est peut-être un mot interdit... 
Partager