Discussion :

[Bill Fassinou]

Clearview AI, utilisé par la police pour trouver des criminels, est désormais entre les mains des avocats commis d'office
mais le logiciel de reconnaissance faciale fait l'objet de controverses

Clearview, le logiciel de reconnaissance faciale très controversé, aurait permis à un avocat de prouver l'innocence de son client. L'avocat a demandé à Clearview AI de trouver un témoin qui pourrait prouver que son client n'était pas le conducteur dans un accident mortel. L'entreprise a accepté et lui a accordé un accès à sa base de données de reconnaissance faciale de 20 milliards de photos, permettant ainsi de disculper le suspect jugé pour homicide involontaire. Bien que son logiciel soit fortement controversé, l'entreprise a récemment lancé JusticeClearview pour les avocats commis d'office.

Jusqu'à récemment, la clientèle de Clearview AI était limitée à la police et aux forces de l'ordre. Mais la société controversée a accepté de laisser les avocats d'Andrew Grantt Conlyn, un homme de la Floride, scanner son énorme base de données d'images construite à partir de photos glaner sur le Web, afin de prouver l'innocence de Conlyn dans un accident de voiture survenu en 2017 à Fort Myers. Selon le rapport de police, Conlyn et un ami étaient à bord d'une Ford Mustang ce soir-là. À la suite de l'accident, les procureurs ont affirmé que Conlyn était au volant de la voiture qui a percuté un lampadaire et plusieurs arbres, tuant son ami.

Mais ce n'était pas le cas. Conlyn a déclaré aux enquêteurs qu'il ne conduisait pas le soir de l'accident et que son ami était en état d'ébriété et désemparé. Lorsque l'accident s'est produit, Conlyn a perdu connaissance et lorsqu'il est revenu à lui, son ami avait disparu, la voiture était en feu et la boucle de sa ceinture de sécurité était coincée. Mais un bon samaritain est intervenu, a fait levier pour ouvrir la porte du conducteur et a sorti Conlyn du véhicule en feu. Conlyn n'a pas appris le nom de son sauveur ce soir-là, pas plus que la police, qui est arrivée sur les lieux et a trouvé le corps de son ami dans les buissons près de l'accident.

L'équipe juridique de Conlyn a passé des années à essayer de localiser l'homme, sans succès. En juin 2022, elle a contacté Hoan Ton-That, PDG de Clearview AI, pour essayer la reconnaissance faciale. Le PDG accepte, à condition que, si cela fonctionne, Conlyn en parle aux médias. Conlyn a été accusé d'homicide involontaire au volant, mais l'accès à la base de données de Clearview AI a permis de consulter les images d'une caméra corporelle de la scène. Elles montrent un homme portant un gilet orange qui avait tiré Conlyn de la voiture, insistant sur le fait que Conlyn était un passager du véhicule et que son ami était au volant.

L'homme au gilet orange, Vince Ramirez, a été retrouvé et après sa déposition au tribunal, les charges contre Conlyn ont été abandonnées. Il risquait jusqu'à 15 ans de prison. Toutefois, certains observateurs de la biométrie et de l'IA ont jeté le doute sur les motivations de Clearview AI. Ton-That s'est empressé de dépeindre Clearview AI comme une force du bien, alors même que l'entreprise fait l'objet d'interdictions dans plusieurs pays et qu'elle est critiquée pour ses liens étroits avec la police et l'armée. Ton-That a déclaré que l'entreprise était engagée dans une démarche visant à "équilibrer la balance de la justice".

Cela dit, Jumana Musa, experte en surveillance pour la "National Association of Criminal Defence Lawyers" (NACDL), a déclaré que le cas de Conlyn "ne va pas effacer les préoccupations éthiques sur la façon dont Clearview AI a construit cet outil". L'entreprise a raclé des milliards de photos de visages à partir de sites de médias sociaux, tels que Facebook, LinkedIn et Instagram, et d'autres parties du Web afin de construire une application qui cherche à dénicher chaque photo publique d'une personne qui existe en ligne. Les défenseurs des libertés civiles estiment que la vaste base de données de photos de Clearview viole la vie privée.

Selon eux, bien que les images soient accessibles au public sur le Web, elles ont été collectées de manière illégale et sans le consentement des personnes. L'outil peut mettre au jour des photos que les gens n'ont pas postées eux-mêmes et dont ils ne se rendent peut-être même pas compte qu'elles sont en ligne. Ses détracteurs affirment qu'il place des millions de personnes respectueuses de la loi dans une file d'attente perpétuelle pour les forces de l'ordre, ce qui est particulièrement troublant compte tenu des préoccupations plus générales concernant la précision de la reconnaissance faciale automatisée.

En raison de ces préoccupations, Clearview AI a été la cible de multiples poursuites judiciaires et sa base de données a été déclarée illégale au Canada, en Australie, en Grande-Bretagne, en France, en Italie et en Grèce. Elle fait face à de multiples amendes de plusieurs millions de dollars en Europe. En mettant de côté la controverse autour de Clearview, certains avocats commis d'office voient des avantages potentiels à avoir accès à la technologie de la société, comme dans le cas de Conlyn. « Il n'y a rien de pire que d'être tenu responsable d'un crime que vous n'avez pas commis. J'ai été honoré d'apporter mon aide », a déclaré Ton-That.

De son côté, Ramirez a déclaré : « la façon dont on m'a retrouvé, ça m'a choqué ». Il a déclaré qu'il avait entendu parler de la technologie de reconnaissance faciale, mais qu'il pensait qu'elle n'était utilisée que pour retrouver des criminels. « Je suis reconnaissant qu'ils m'aient trouvé. Je ne voulais pas qu'un innocent soit envoyé en prison pendant 15 ans pour quelque chose qu'il n'a pas fait », a-t-il ajouté. Par ailleurs, Ton-That a profité de l'occasion pour commencer à proposer son logiciel de reconnaissance faciale aux défenseurs publics et aux avocats engagés par le gouvernement pour représenter les clients indigents.

Clearview AI a déclaré que le nouveau produit, JusticeClearview, est unique en son genre et conçu spécifiquement pour les défenseurs publics qui cherchent à obtenir justice pour les personnes accusées à tort. « JusticeClearview s'appuiera sur la plateforme FRT de la société, piloté par l'algorithme le plus précis et le plus impartial du monde occidental et une base de données de plus de 20 milliards d'images faciales, pour aider les avocats commis d'office à disculper les personnes accusées à tort de crimes », a déclaré l'entreprise. L'histoire de Conlyn a fait office de publicité pour le lancement de JusticeClearview.

En janvier, Clearview AI a obtenu un brevet aux États-Unis pour son algorithme unique de reconnaissance faciale, qui a obtenu des résultats presque "parfaits" lors du récent test FRVT (Facial Recognition Vendor Test) du National Institute of Standards & Technology (NIST), en se classant numéro 1 aux États-Unis et numéro 2 dans le monde dans la catégorie WILD. La catégorie WILD est la plus difficile du test de reconnaissance faciale du NIST.

Source : JusticeClearview

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous du logiciel de reconnaissance faciale de Clearview AI ?
Que pensez-vous de l'utilisation de Clearview dans les cas comme celui-ci ?
Que pensez-vous du nouveau service JusticeClearview proposé par Clearview AI ?

Voir aussi

La police belge s'est servi illégalement de Clearview AI et n'a pas obtenu de résultats pertinents, selon un rapport de l'Organe de contrôle fédéral

Clearview AI voudrait mettre presque tous les humains dans sa base de données de reconnaissance faciale, 100 milliards de photos rendraient presque tout le monde « identifiable » selon l'entreprise

L'Ukraine a commencé à utiliser la reconnaissance faciale de Clearview AI, au cœur de la crise militaire dans le pays

« J'ai obtenu mon profil auprès de Clearview AI et ça m'a fait peur », a déclaré Thomas Smith, dont le profil contient des articles, des images, des URL, des pages de réseaux sociaux et autres

La France somme Clearview AI, l'entreprise américaine spécialisée dans la reconnaissance faciale, de supprimer ses données, elle dispose d'un délai de deux mois pour respecter les injonctions

[Anthony]

Le policier arrêté pour utilisation non autorisée de la reconnaissance faciale Clearview AI démissionne, après avoir recouru à la technologie pour retrouver des utilisateurs de médias sociaux liés à aucun crime

Un officier de police de l'Indiana a démissionné à la suite d'une controverse sur l'utilisation non autorisée de la technologie de reconnaissance faciale Clearview AI. L'agent a utilisé l'outil à mauvais escient pour effectuer de fréquentes recherches personnelles sur des utilisateurs de médias sociaux, contournant les protocoles officiels en déguisant les recherches sous des numéros de dossier légitimes.

Clearview AI est une société américaine de reconnaissance faciale, qui fournit des logiciels aux forces de l'ordre et aux agences gouvernementales, ainsi qu'à d'autres organisations. L'algorithme de l'entreprise fait correspondre les visages à une base de données de plus de 20 milliards d'images collectées sur Internet, y compris les applications de médias sociaux. Fondée par Hoan Ton-That et Richard Schwartz, l'entreprise est restée discrète jusqu'à la fin de l'année 2019, jusqu'à ce que son utilisation par les forces de l'ordre soit signalée pour la première fois.

Un policier de l'Indiana a démissionné après qu'il a été révélé qu'il utilisait fréquemment la technologie de reconnaissance faciale Clearview AI pour traquer des utilisateurs de médias sociaux qui n'étaient liés à aucun crime.

Selon un communiqué de presse de la police d'Evansville, il s'agit d'une "mauvaise utilisation" manifeste de la technologie controversée de reconnaissance faciale de Clearview AI, que certaines villes américaines ont interdite parce qu'elles craignaient qu'elle ne donne aux forces de l'ordre un pouvoir illimité pour traquer les gens dans leur vie quotidienne.

Philip Smith, Chef de police du Département de police d'Evansville, s'est exprimé concernant cette affaire :

Récemment, mon équipe de commandement a eu connaissance d'une utilisation abusive d'une technologie d'application de la loi appelée Clearview AI par une personne qui était, à l'époque, membre de cette agence. Cette personne n'est plus affiliée au département de police d'Evansville de quelque manière que ce soit. Mais j'y reviendrai.

Le logiciel Clearview AI permet aux forces de l'ordre d'utiliser la reconnaissance faciale à des fins d'enquête. Cet outil s'est avéré très utile pour nos officiers en termes de développement d'informations de base pour les enquêtes. Pour garantir que le logiciel est utilisé aux fins prévues, nous avons mis en place des lignes directrices opérationnelles internes et nous adhérons aux conditions de service de Clearview AI. Ces deux documents indiquent clairement qu'il s'agit d'un outil à usage officiel et qu'il ne doit pas être utilisé à des fins personnelles.

Mais en mars, alors que nous étions en pourparlers avec Clearview AI pour renouveler notre abonnement - et que nous examinions le nombre de licences à renouveler - nous avons réalisé un audit sur l'utilisation de Clearview AI par nos agents. Nous avons alors constaté une anomalie, à savoir une utilisation très intensive du logiciel par un agent dont le rendement n'était pas représentatif du nombre de recherches qu'il effectuait. Un examen plus approfondi de l'empreinte numérique laissée a révélé que cet agent utilisait un numéro de dossier réel associé à un incident réel pour masquer ses recherches sur des personnes qui n'avaient rien à voir avec l'incident. Nous avons ensuite localisé les images recherchées par ce policier, et elles ne correspondaient pas aux types d'images recherchées dans le cadre d'enquêtes légitimes. Lors d'enquêtes légitimes, les types d'images sont généralement des images en temps réel ou des images de télévision en circuit fermé. Les recherches de ce policier consistaient principalement en des images de médias sociaux.

Dès que j'ai appris cela, j'ai immédiatement demandé à la chaîne de commandement de l'officier de l'interroger et de lui permettre d'expliquer cette anomalie. Ils n'ont pas été en mesure de le faire à ma satisfaction.

Compte tenu des informations dont je disposais à l'époque, j'ai placé l'agent en congé administratif rémunéré jusqu'à ce que la chaîne de commandement ait terminé son enquête.

Lorsque cette enquête a montré clairement que cet agent utilisait Clearview AI à des fins personnelles pour le service de police d'Evansville, je l'ai suspendu sans solde pendant 21 jours et j'ai recommandé verbalement à la Commission du mérite de la police de mettre fin à l'emploi de cet agent au sein du service de police d'Evansville. Ce policier n'a pas contesté la suspension de 21 jours que je lui ai imposée, et il a démissionné avant que la Commission des mérites de la police ne puisse prendre une décision finale sur la question.

Source : Philip Smith, Chef de police du Département de police d'Evansville

Et vous ?

Quel est votre avis sur le sujet ?
Pensez-vous que l'utilisation des technologies de reconnaissance faciale par les forces de l'ordre pourront être suffisamment encadrées afin d'éviter de telles dérives ?

Voir aussi :

Clearview AI, utilisé par la police pour trouver des criminels, est désormais entre les mains des avocats commis d'office, mais le logiciel de reconnaissance faciale fait l'objet de controverses

Clearview AI voudrait mettre presque tous les humains dans sa base de données de reconnaissance faciale, 100 milliards de photos rendraient presque tout le monde « identifiable » selon l'entreprise