Amazon aurait choisi « d'entraîner » Alexa par des prestataires à leur insu
Amazon aurait choisi « d'entraîner » Alexa par des prestataires à leur insu.
Ils avaient pour mission de poser des questions dans une pièce remplie de prototypes d'Amazon Echo cachés
Un livre nous apprend un peu plus sur la manière dont Alexa, l'assistant personnel intelligent d'Amazon, a été développé. L'entreprise a choisi « d'entraîner » Alexa par des prestataires à leur insu. Les tests internes avec les employés d'Amazon étaient trop limités. L'entreprise avait besoin d'étendre massivement la version bêta d'Alexa tout en la gardant secrète du monde extérieur
Amazon a discrètement posé les bases pour dépasser Google et Apple dans la course aux assistants virtuels en collectant secrètement des données sur les modèles de discours de milliers de travailleurs sans méfiance, révèle un nouveau livre.
Lorsque l'idée derrière l'Amazon Echo a été lancée pour la première fois en 2011, les dirigeants ont exprimé des doutes. « Cela va être difficile », a déclaré Dave Limp, vice-président senior d'Amazon, bien qu’il entrevoyait dans ce dispositif une « expérience magique ».
L'appareil est resté bloqué dans les laboratoires d'Amazon pendant des années avant que la société ne fasse une percée majeure et lance le programme qui rendait Alexa « intelligente ». L'auteur Brad Stone a décomposé le processus de création d'Alexa par Amazon dans son nouveau livre « Amazon Unbound: Jeff Bezos et l'invention d'un empire mondial ».
« Les tests internes avec les employés d'Amazon étaient trop limités », a écrit Stone. « Ils avaient besoin d'étendre massivement la version bêta d'Alexa tout en la gardant secrète du monde extérieur ».
En 2013, l'équipe chargée de développer Amazon Echo a lancé un programme de collecte de données en partenariat avec la société externe Appen, rapporte Stone. Appen a loué des maisons et des appartements à Boston et a rempli les chambres de différents types d'électronique, des microphones et des téléviseurs aux tablettes et consoles de jeux, selon le livre.
Pendant ce temps, ils ont caché une vingtaine de premières versions de l'Amazon Echo dans les pièces.
Les contractuels temporaires étaient ensuite payés pour se promener dans les pièces, lire des questions scénarisées sur des tablettes. Stone a déclaré que les scripts demandaient aux participants d’effectuer des « demandes ouvertes ». Les haut-parleurs Echo étaient éteints, donc Alexa n'a pas répondu aux demandes, mais a collecté les données et les a renvoyées à une équipe d'employés d'Amazon qui a divisé les demandes en requêtes spécifiques qu'Alexa pourrait facilement comprendre.
Le processus a été répété six jours par semaine pendant six mois, selon Stone. Le processus de collecte de données a connu un tel succès qu'Amazon a décidé de l’étendre à 10 autres villes.
« Il s'agissait d'une explosion de nuages de champignons sur le placement des appareils, les environnements acoustiques, le bruit de fond, les accents régionaux et toutes les façons glorieusement aléatoires dont un être humain pouvait formuler une simple requête pour entendre la météo, par exemple, ou jouer un Justin Timberlake », a écrit Stone.
Le programme n'a pas été sans difficulté. Stone a déclaré que les voisins des différents endroits se méfiaient souvent des personnes entrant et sortant des lieux résidentiels. À un moment donné, un voisin de Boston a appelé la police, craignant que la résidence soit utilisée comme réseau de trafic de drogue ou de prostitution. La police a fait le tour de la maison et les locaux ont été rapidement fermés après leur départ, selon Stone.
Certains contractuels eux-mêmes se méfiaient même du programme, a-t-il rapporté. Il y avait souvent des cas où les travailleurs refusaient le travail immédiatement après avoir vu la configuration des chambres. D'autres se sont moqués du programme.
« Un employé d'Amazon qui annotait des transcriptions plus tard s'est rappelé avoir entendu un travailleur intérimaire interrompre une session et murmurer à quiconque il soupçonnait l'écoute : "C'est stupide. L'entreprise derrière cela devrait être embarrassée "», a écrit Stone.
Mais le projet secret d'Amazon était loin d'être un gaspillage, environ un an plus tard, Amazon Echo a été lancé et est finalement devenu un succès majeur pour l'entreprise.
Grâce au savoir-faire d'Alexa, la société a pu dépasser Apple et Google dans l'espace de l'assistant virtuel, même si Siri est sorti trois ans avant l'Amazon Echo. En 2019, Amazon Echo représentait la plus grande partie de la part de marché mondial des haut-parleurs intelligents avec 31,7%, selon l'expert en recherche en électronique grand public Lionel Sujay Vailshery de Statista.
Un outil qui a fait couler beaucoup d'encre
Début 2019, Amazon revendiquait avoir franchi la barre des 100 millions de vente d'appareils intégrant Alexa. Bien entendu, le chiffre de 100 millions incluait également des appareils qui ne sont pas fabriqués par Amazon, mais qui sont des appareils partenaires dans lesquels Alexa est intégré.
À la même période, en avril, le public a appris que les 1000 employés d'Amazon qui travaillent à améliorer son assistant vocal écoutaient les enregistrements vocaux de ce qui se disait dans les maisons et les bureaux des propriétaires d’Echo, lorsque ce dernier est activé. Ces employés pouvaient écouter jusqu'à 1000 enregistrements par jour.
En général, lorsque vous donnez un ordre à un périphérique Amazon Echo, seul le logiciel de reconnaissance vocale d'Amazon écoute. Mais, il a été découvert qu'une copie de l'audio était envoyée à un humain dans l'un des bureaux d'Amazon dans le monde. Cette personne écoute l'enregistrement audio, le transcrit et ajoute des annotations pour aider les algorithmes d'Amazon à s'améliorer. Les enregistrements incluent à la fois des commandes Alexa explicites et des conversations en arrière-plan.
D'ailleurs, deux employés ont déclaré avoir entendu ce qu'ils pensaient être un cas d'agression sexuelle, mais se sont fait dire que ce n'était pas à Amazon de prendre des mesures. Il faut aussi préciser que ces travailleurs ont également un forum de discussion interne où ils peuvent obtenir de l'aide pour analyser un mot confus, mais aussi partager certains enregistrements qu'ils trouvent amusants.
Les utilisateurs ont la possibilité de désactiver l'utilisation de leurs enregistrements vocaux depuis les paramètres de confidentialité de leurs appareils. Mais Amazon n'a pas joué franc jeu puisque la société, dans ses documents de marketing et de politique de confidentialité, ne dit pas explicitement que les humains écoutent des enregistrements de certaines conversations captées par Alexa.
Un porte-parole de l'entreprise a déclaré que ces employés n'annotent qu'un très petit échantillon d'enregistrements vocaux Alexa afin d'améliorer l'expérience client. Il a également fait savoir que ces employés n’ont pas directement accès aux informations permettant d’identifier la personne ou le compte dans le cadre de ce flux de travail. D'après lui, toutes les informations seraient traitées avec une confidentialité élevée.
En juin de la même année, la société a été la cible de deux poursuites judiciaires aux États-Unis concernant l'enregistrement et le stockage de voix d'enfants via son assistant numérique Alexa. Les poursuites font valoir que « bien que la plupart des gens croient que lorsqu'ils parlent à un appareil compatible avec Alexa, il convertit leur voix en un ensemble d'instructions numériques… Ils ne s'attendent pas à ce qu'Alexa crée et stocke un enregistrement permanent de leur voix ».
Les plaignants soutiennent qu’il ne s’agit là que de la moitié du problème. Ils allèguent qu'Amazon conserve une copie permanente de ces enregistrements et les utilise « à son propre avantage commercial ». Ils ont indiqué notamment qu'Amazon « crée des empreintes vocales d'utilisateurs, qui peuvent être utilisées pour les identifier lorsqu'ils parlent à d'autres appareils situés ailleurs », créant ainsi une « base de données massive d'enregistrements vocaux contenant les détails privés de millions d'Américains ».
Face à la succession des révélations, les éditeurs d'assistants numériques ont du faire des concessions sur leurs pratiques. Google a décidé de suspendre pendant trois mois les écoutes Google Assistant en Europe tandis qu'Apple a choisi d'arrêter son programme d’écoute partout dans le monde.
La réaction d'Amazon
Suite à ces révélations, Amazon précise qu’il est possible de demander directement à Alexa de supprimer tout ce que vous avez dit, aussi bien aujourd’hui que lors des trois derniers mois. Pour cela, il suffit de lui dire « Alexa, supprime tout mon historique vocal ». En outre, vous pouvez directement supprimer tout votre historique dans l’application Alexa. Enfin, il également possible sur tous les appareils Amazon de couper le microphone manuellement pour qu’Alexa ne puisse plus se déclencher lorsqu’elle entend son mot d’activation, « Alexa ».
Sources : Amazon Unbound: Jeff Bezos and the Invention of a Global Empire, Statista
Et vous ?
Utilisez-vous un assistant numérique ? Lequel ?
Voir aussi :
Répondre avec citation
Envoyé par Stéphane le calme
Partager