Discussion :

[Axel Lecomte]

Amazon annonce que la police ne pourra pas utiliser sa technologie de reconnaissance faciale pendant un an,
suite aux manifestations liées à la mort de George Floyd

Le 10 juin, Amazon a annoncé interdire pendant un an à la police d’utiliser son logiciel de reconnaissance faciale Rekognition, suite aux manifestations contre les violences policières et le racisme qui ont eu lieu aux États-Unis depuis la mort de l’Afro-Américain George Floyd. Pour rappel, ce dernier a été tué lors de son interpellation par quatre policiers et la scène a été filmée par des passants et des caméras de surveillance.

Depuis le début de l’affaire, Amazon s’est exprimé en faveur du mouvement Black Lives Matter. Le 3 juin, l’entreprise a notamment annoncé un don de 10 millions de dollars à plusieurs organisations qui soutiennent les opportunités économiques, l’éducation et la justice pour les Afro-Américains. Mais de nombreuses voix ont continué à demander plus de mesures. L’Union américaine pour les libertés civiles (ACLU), une association à but non lucratif, est par exemple revenue sur l’utilisation de Rekognition par la police. En juillet 2018, l’association avait déjà mené un test pour simuler la manière dont les forces de l’ordre utilisaient le logiciel. Ce dernier avait alors identifié 28 membres du Congrès comme étant des criminels.

« Nous mettons en place un moratoire d'un an sur l'utilisation par la police de la technologie de reconnaissance faciale d'Amazon. Nous continuerons à permettre à des organisations comme Thorn, le Centre international pour les enfants disparus et exploités, et Marinus Analytics d'utiliser Amazon Rekognition pour aider à sauver les victimes de la traite des êtres humains et à réunir les enfants disparus avec leurs familles », a déclaré la société dans un billet de blog.

« Nous avons plaidé pour que les gouvernements mettent en place des réglementations plus strictes pour régir l'utilisation éthique de la technologie de reconnaissance faciale, et ces derniers jours, le Congrès semble prêt à relever ce défi. Nous espérons que ce moratoire d'un an donnera au Congrès suffisamment de temps pour mettre en œuvre des règles appropriées, et nous sommes prêts à apporter notre aide si on nous le demande », a ajouté Amazon.

Cette déclaration intervient un jour après celle d’IBM, annonçant son retrait du marché de la reconnaissance faciale, étant donné qu’elle sert au profilage racial.

En réaction à l'annonce d’Amazon, Nicole Ozer, directrice de la technologie et des libertés civiles pour une branche californienne de l’ACLU, a déclaré : « Il a fallu deux ans à Amazon pour en arriver là, mais nous sommes heureux que la société reconnaisse enfin les dangers que la reconnaissance représente pour les communautés noires et brunes et, plus largement, pour les droits civils ».

« La menace que représente cette technologie de surveillance pour nos droits et libertés civiles ne disparaîtra pas en un an. Amazon doit s'engager à respecter un moratoire général sur l'utilisation de la reconnaissance faciale par les forces de l'ordre jusqu'à ce que les dangers soient totalement éliminés, et doit faire pression sur le Congrès et les assemblées législatives de tout le pays pour qu'ils fassent de même. Elle doit également s'engager à cesser de vendre des systèmes de surveillance comme Ring, qui alimentent la surveillance excessive des communautés de couleur », a-t-elle ajouté.

Par ailleurs, Nicole Ozer a également demandé à Microsoft et à d’autres sociétés de faire de même « pour aller vers le bon côté de l’histoire ».

Sources : Amazon, ACLU

Et vous ?

Qu'en pensez-vous ?

Voir aussi :

IBM annonce qu'il se retire du marché de la reconnaissance faciale étant donné qu'elle sert au profilage racial, et appelle à une réforme de la police
Le Vatican, IBM et Microsoft ensemble pour appeler à une réglementation de la reconnaissance faciale, et de façon générale, à une régulation de l'IA pour le bien de l'humanité
San Francisco devient la première ville US à interdire l'usage de la reconnaissance faciale, pour des raisons en lien avec les droits de l'Homme
Des agents de la police de New York utilisent l'application de reconnaissance faciale de Clearview AI, Twitter a demandé à la société de cesser d'utiliser des photos de son site, d'après un rapport
L'Inde envisage un énorme programme de reconnaissance faciale comparable à celui de la Chine, opportunité lucrative pour les sociétés de surveillance ou cauchemar pour les défenseurs de la vie privée

[foxzoolm]

parce que les societes (hors police donc) ont des utilisations mylittleponeyland rose paillette de la reconnaissance faciale ?
le but c'est quoi ? que la "police" tombent dans les mains du privé (ce qui vas arrivé au final, surtout s'ils profitent de l'affaire floyd pour ca)

[Neckara]

C'est vomissant de populisme.

D'où une entreprise privée, se permet de punir une Institution de l'État, parce que cette dernière ne lui plaît pas ?

Bonjour les dérives. Cette immixtion d'une société privée dans les affaire de l'État est intolérable. Ce serait une compagnie pétrolière/de pesticide/OGM/autre, on serait tous monté au créneau et crié au scandale.


Mais c'est bien, pas de reconnaissance faciale... donc si la police cherche un pédophile, un meurtrier, un violeur, Amazon ne va pas leur permettre d'utiliser la reconnaissance faciale ?

Pour moi, c'est ni plus ni moins qu'une forme de complicité.

[tom_45]

Juste histoire de faire du gauchia*

Car l'association "L’Union américaine pour les libertés civiles" avaient dénoncé ce logiciel de reconnaissance uniquement par ce qu'il reconnaissait moins bien les femmes noires (toujours le même refrain).

Mais les victimes des violences policières, ce n’est pas des hommes ???

[BufferBob]

c'est surtout très démagogique, 1 an c'est demain.

des sociétés privées qui se positionnent sur le terrain politique y'en a pleins, de plus en plus et c'est pas prêt d'aller en s'arrangeant, certains pensent même que le pouvoir finira par tomber aux mains des entreprises, devenues pour certaines plus légitimes que les états qui les régissent.

aussi et pour rappel, en Chine (pour ne citer qu'elle) le gouvernement utilise la reconnaissance faciale pour surveiller les minorités Ouïghours, à quoi on ne manquera pas de faire un parallèle avec les dérives policières actuelles.

en revanche depuis le temps qu'on nous rabat les oreilles avec "c'est pour lutter contre le terrorisme/la pédophilie/les nazis/les vampires/etc." force est de constater que les pédophiles doivent être infiniment nombreux parce que les états sont tous intéressés par ces technologies et lois qu'à une autre époque (une époque plus "gauchiasse" comme le souligneraient les grands intellectuels du nihilisme post 2000) on jugeait liberticides et très inquiétantes.

je ne suis pas un révolutionnaire, mais étant donné le nombre d'anti-systèmes dans la population de nos jours, songez qu'avec toutes ces technologies, la révolution sanglante dont rêvent certains (que ce soit pour mettre à mal les riches, les élites ou autres qui ne nous plaisent pas) vous pouvez vous asseoir dessus définitivement.

[polnioumane]

Amazon fait du droit divin maintenant ?!!, c'est bien la mentalité américaine dans toute sa splendeur et je trouve de plus stupide qui soit !

C'est intéressant ce que dit BufferBob, mais cette direction que prennent ces grosses entreprises n'est pas plus rassurante que le système politique que l'on connaît.

[Stéphane le calme]

Brad Smith de Microsoft demande un encadrement juridique de l'utilisation de la reconnaissance faciale,
estimant que le retrait du marché d'IBM, Amazon et Microsoft ne va pas nécessairement servir l'intérêt national

Microsoft, Amazon et IBM, trois des plus grandes sociétés technologiques du monde, ont renoncé à vendre la reconnaissance faciale aux forces de l'ordre dans un contexte où des protestations fusent dans le monde entier contre la brutalité policière.

La reconnaissance faciale devient un outil de plus en plus populaire pour les agences gouvernementales et les forces de l'ordre pour traquer les criminels, les terroristes ou les immigrants illégaux. Mais avec les manifestations de Black Lives Matter qui ont balayé le monde à la suite de la mort de George Floyd, il y a maintenant de nouveaux appels pour que les grandes entreprises technologiques cessent de vendre cet outil à la police. L'argument avancé depuis longtemps par les groupes de défense des droits civiques et les experts de l'IA est que la reconnaissance faciale affecte de manière disproportionnée les personnes de couleur de deux manières.

Premièrement l'outil pourrait être inévitablement utilisé pour cibler plus souvent les personnes de couleur. Ensuite, les données utilisées pour créer un logiciel de reconnaissance faciale enracinent des préjugés raciaux, ce qui rend plus probable l’identification erronée des femmes et des personnes de couleur, ce qui entraînerait à son tour des arrestations plus injustifiées.

Voici ce que les entreprises ont promis

IBM

IBM a été la première des trois sociétés à annoncer qu'elle se retirait du marché de la reconnaissance faciale et c'est également elle qui en a pris l'engagement le plus permanent.

Le PDG Arvind Krishna a fait cette annonce dans une lettre aux membres du Congrès, notamment adressée aux sénateurs Cory Booker et Kamala Harris, le 8 juin :

« IBM ne propose plus de logiciel de reconnaissance ou d'analyse faciale IBM à usage général. IBM s'oppose fermement et ne tolérera pas l'utilisation de toute technologie, y compris la technologie de reconnaissance faciale offerte par d'autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits et libertés fondamentaux de la personne, ou tout autre objectif non conforme à nos valeurs et principes de confiance et transparence. Nous pensons que le moment est venu d'entamer un dialogue national sur l'opportunité et la manière dont la technologie de reconnaissance faciale devrait être utilisée par les autorités nationales chargées de l'application des lois ».

L'annonce a été saluée par beaucoup, dont la députée américaine Alexandria Ocasio-Cortez.

Eva Blum-Dumontet, chercheuse senior chez Privacy International spécialisée dans IBM, a déclaré que la cessation de la vente de logiciels « à usage général » donne à l'entreprise la possibilité de développer des logiciels personnalisés pour les clients :

« Nous devrons voir ce que cela signifie dans la pratique. Il convient de garder à l'esprit qu'une grande partie du travail qu'IBM fait est en fait un travail personnalisé pour leurs clients, il est donc possible que nous ne voyions pas la fin d'IBM faisant la reconnaissance faciale pour tous, ils ne font que changer l'étiquette », a déclaré Blum-Dumontet.

Amazon

Amazon a annoncé le 10 juin qu'il suspendait la vente de son logiciel de reconnaissance faciale Rekognition aux forces de l'ordre pour un an.

En fait, depuis le début de l’affaire, Amazon s’est exprimé en faveur du mouvement Black Lives Matter. Le 3 juin, l’entreprise a notamment annoncé un don de 10 millions de dollars à plusieurs organisations qui soutiennent les opportunités économiques, l’éducation et la justice pour les Afro-Américains. Mais de nombreuses voix ont continué à demander plus de mesures. L’Union américaine pour les libertés civiles (ACLU), une association à but non lucratif, est par exemple revenue sur l’utilisation de Rekognition par la police. En juillet 2018, l’association avait déjà mené un test pour simuler la manière dont les forces de l’ordre utilisaient le logiciel. Ce dernier avait alors identifié 28 membres du Congrès comme étant des criminels.

Dans un billet de blog, la société a déclaré :

« Nous mettons en place un moratoire d'un an sur l'utilisation par la police de la technologie de reconnaissance faciale d'Amazon. Nous continuerons à permettre à des organisations comme Thorn, le Centre international pour les enfants disparus et exploités, et Marinus Analytics d'utiliser Amazon Rekognition pour aider à sauver les victimes de la traite des êtres humains et à réunir les enfants disparus avec leurs familles

« Nous avons plaidé pour que les gouvernements mettent en place des réglementations plus strictes pour régir l'utilisation éthique de la technologie de reconnaissance faciale, et ces derniers jours, le Congrès semble prêt à relever ce défi. Nous espérons que ce moratoire d'un an donnera au Congrès suffisamment de temps pour mettre en œuvre des règles appropriées, et nous sommes prêts à apporter notre aide si on nous le demande ».

Le Dr Nakeema Stefflbauer, un expert en politique d'éthique de l'IA, a estimé que si la déclaration d'Amazon est un pas dans la bonne direction, elle ne traite pas de ce qui arrivera à tous les services de police qui disposent déjà du logiciel. « Au lieu de suspendre de nouvelles ventes, il serait également intéressant de rappeler le logiciel dans son ensemble, comme cela se fait couramment avec d'autres produits défectueux ou peu fiables », a déclaré Stefflbauer.

Microsoft

Le président des affaires juridiques de Microsoft, Brad Smith, a déclaré dans une interview au Washington Post, le jeudi 11 juin, que Microsoft ne vend pas de technologie de reconnaissance faciale aux forces de police américaines et s'est engagé à ne pas la vendre jusqu'à ce qu'une loi nationale régissant son utilisation soit adoptée.

« Le point numéro un que je voudrais vraiment souligner est le suivant : nous devons vraiment profiter de ce moment pour appliquer une loi nationale solide régissant la reconnaissance faciale fondée sur la protection des droits de l'homme », a déclaré Smith.

Cela est intervenu deux jours après que plus de 250 employés de Microsoft ont publié une lettre ouverte appelant l'entreprise à rompre les relations commerciales avec les forces de police de manière plus générale.

Sans cadre juridique, d'autres entreprises pourraient se précipiter pour combler le vide

Smith a averti que des grandes enseignes comme Microsoft, Amazon et IBM qui se retireraient entièrement du marché de la reconnaissance faciale pourraient signifier que de plus petites entreprises allaient se précipiter pour combler le vide.

« Si toutes les entreprises responsables du pays cèdent ce marché à celles qui ne sont pas prêtes à prendre position, nous ne servirons pas nécessairement l'intérêt national ou la vie des Noirs et des Afro-Américains de cette nation. Il faut donc que le Congrès agisse, pas seulement les entreprises technologiques », a-t-il déclaré.

Le Dr Nakeema Stefflbauer a exprimé des préoccupations similaires selon lesquelles des entreprises moins connues pourraient commencer à proposer la reconnaissance faciale à la police.

« Du point de vue américain, ces annonces confirment le préjudice grave que la technologie de reconnaissance faciale non réglementée aux mains des forces de l'ordre a déjà causé aux Afro-Américains et à d'autres groupes [minoritaires] » a déclaré Stefflbauer.

Le Dr Steffblauer a ajouté que des fournisseurs de moindre envergure tels que Clearview, Kairos et PredPol pouvaient continuer à vendre des technologies de reconnaissance faciale sans nouvelles lois, aussi bien aux États-Unis que dans l'UE.

Elle a ajouté : « à mon avis, c'est le moment où les gouvernements américain et européen doivent prendre la réglementation technologique au sérieux et adopter une législation complète : ne pas le faire n'est rien de moins que donner la permission d'une attaque non contrôlée contre les droits de l'homme ».

Joy Buolamwini, qui a examiné les biais dans la technologie de reconnaissance faciale d'Amazon, a également souligné la nécessité d'un cadre réglementaire : « Nous ne pouvons pas compter sur l'autorégulation », a-t-elle déclaré.

Sources : Alexandria Ocasio-Cortez, Washington Post

Et vous ?

Que pensez-vous de ces réflexions ?

Voir aussi :

Corsight AI, une start-up israélienne récolte 5 millions USD pour développer et commercialiser une technologie de reconnaissance faciale permettant d'identifier les visages, même masqués
Chine : même les porteurs de masques peuvent être identifiés, selon une société chinoise de reconnaissance faciale
Le Vatican, IBM et Microsoft ensemble pour appeler à une réglementation de la reconnaissance faciale et de façon générale, à une régulation de l'IA pour le bien de l'humanité

[phil995511]

Ont-ils reversé le bénéfice engendré par ces technologies à des fondations humanistes reconnues comme étant de droit public ??

[BufferBob]

donc si j'ai bien compris, les états voudraient s'équiper de technos de reconnaissances faciales, les GAFAM disent qu'ils sont pas d'accord, mais sans cadre juridique ça laisserait le champs libre à d'autres entreprises
du coup l'idée ce serait que les états votent des lois pour s'empêcher eux-même de faire des appels d'offres pour s'équiper en reconnaissance faciale...