Discussion :

[Bruno]

Les publicités de Facebook seraient discriminatoires à l’égard des femmes,
selon une étude de l'Université de Californie du Sud

Les plateformes publicitaires telles que Facebook, Google et LinkedIn promettent le respect de l’équité à leurs différents utilisateurs. Cependant, de nombreuses études ont montré que la diffusion des publicités sur ces plateformes peut être faussée par le sexe ou la race en raison de l’optimisation des algorithmiques cachée sur leurs plateformes. Plus tôt cette semaine, une équipe de l'Université de Californie du Sud a apporté de nouvelles preuves que le système de publicité de Facebook est discriminatoire à l’égard des femmes. L’étude montre que l'algorithme utilisé pour cibler les annonces reproduit des disparités réelles entre les sexes lors de la présentation d'offres d'emploi.

Dans des domaines allant de l'ingénierie logicielle à la vente en passant par la livraison de nourriture, l'équipe a diffusé des séries d'annonces promouvant des offres d'emploi réelles dans des entreprises à peu près équivalentes et nécessitant à peu près les mêmes compétences, l'une pour une entreprise dont la main-d'œuvre existante était disproportionnellement masculine et l'autre disproportionnellement féminine. Facebook a montré à plus d'hommes les annonces pour les entreprises disproportionnellement masculines et à plus de femmes les annonces pour les entreprises disproportionnellement féminines, même si les qualifications du poste étaient les mêmes.

L’équipe de chercheurs s'est appuyée sur des travaux antérieurs pour mesurer la distorsion dans la diffusion des publicités, ils ont développé une nouvelle méthodologie pour l’étude des algorithmes discriminatoires dans la diffusion des annonces d'emploi. En appliquant la méthodologie aux plateformes Facebook et LinkedIn, les chercheurs ont confirmé l'existence d'un biais lié au sexe dans la diffusion des annonces sur Facebook, ils ont démontré qu'il ne peut être justifié par des différences de qualifications. Les chercheurs ont également indiqué qu’ils n’ont pas pu trouver de biais dans la diffusion des annonces sur LinkedIn.

Une étude réalisée en 2019 par un membre de l'équipe a fourni des preuves solides que l'algorithme publicitaire de Facebook est plus que capable d'être biaisé. En réponse à cette étude, et dans le sillage des critiques généralisées sur les outils qui pourraient être utilisés pour mener des campagnes publicitaires discriminatoires, Facebook avait déclaré à l'époque : « nous nous opposons à la discrimination sous toutes ses formes. Nous avons apporté des changements importants à nos outils de ciblage publicitaire et nous savons que ce n'est qu'une première étape. Nous avons examiné notre système de diffusion des annonces et avons engagé des leaders de l'industrie, des universitaires et des experts en droits civils sur ce même sujet ».

Selon l'étude, ce déséquilibre s'applique également aux offres d'emploi hautement qualifiées. Les algorithmes de Facebook étaient plus susceptibles de montrer aux femmes une annonce pour un emploi technique chez Netflix Inc, qui a un niveau d'emploi féminin relativement élevé pour le secteur technologique, qu'une annonce pour un emploi chez Nvidia Corp. un fabricant de puces graphiques dont la proportion d'employés masculins est plus élevée, selon les données des rapports d'emploi fédéraux.

Les résultats suggèrent « une plateforme dont l'algorithme apprend et perpétue la différence existante dans la démographie des employés », indique le document, notant que les algorithmes de Facebook semblaient produire des résultats biaisés même si un employeur avait l'intention d'atteindre un public démographiquement équilibré.
La loi fédérale interdit la discrimination fondée sur le sexe, la race, l'âge et d'autres caractéristiques dans la publicité pour le logement, l'emploi et les produits de crédit. Bien que l'application de cette loi à la publicité comportementale reste controversée, le gouvernement fédéral a fait valoir que les publicités doivent être distribuées de manière à ne pas désavantager les classes protégées en termes de capacité à les voir.

Plateformes publicitaires de LinkedIn et Facebook

Ce n’est plus un secret pour personne que Facebook et Linkedin tirent une grande partie de leurs chiffres d’affaires de la publicité, un marché de plusieurs milliards de dollars par an. Il est alors primordial pour ces géants du Web de s’assurer de la bonne santé de cette activité. Les annonceurs de LinkedIn et Facebook achètent des publicités pour atteindre différents objectifs marketing. LinkedIn et Facebook ont tous deux trois types d'objectifs : la sensibilisation, la considération et la conversion. Chaque type dispose de multiples options supplémentaires. L'objectif choisi contraint le format de l'annonce, la stratégie d'enchères et les options de paiement disponibles pour l'annonceur.

Sur les deux plateformes, les annonceurs peuvent cibler une audience en utilisant des attributs de ciblage tels que la géographique, l'âge et le sexe. Mais si l'annonceur révèle qu'il s'agit d'une annonce d'emploi, les plateformes désactivent ou limitent le ciblage par âge et par sexe. LinkedIn, qui est un réseau professionnel, permet également un ciblage par titre de poste, formation et expérience professionnelle.

En outre, les annonceurs des deux plateformes peuvent télécharger une liste de contacts connus pour créer une audience personnalisée appelée Matched Audience sur LinkedIn et Custom Audience sur Facebook. Sur LinkedIn, les contacts peuvent être spécifiés par prénom, nom de famille ou adresse électronique. Facebook permet de spécifier par de nombreux autres champs, tels que le code postal et le numéro de téléphone. Les plateformes publicitaires font ensuite correspondre la liste téléchargée aux informations de profil des comptes LinkedIn ou Facebook.

LinkedIn et Facebook fournissent tous deux des rapports sur les performances des publicités via l'interface de leur site web et via leurs API de marketing. Ces rapports reflètent les résultats de performance de la campagne en temps quasi réel, tels que le nombre de clics et d'impressions reçus par la publicité, ventilés selon différents axes. Les catégories d'informations pour lesquelles des ventilations agrégées sont disponibles diffèrent selon les plateformes. Les rapports Facebook ventilent les données de performance par emplacement, âge et le sexe, tandis que LinkedIn fournit des données ventilées par lieu d’emploi, secteur et l'entreprise, mais pas par âge ou par sexe.

La publicité ciblée est devenue omniprésente, jouant un rôle important dans l'information et l'accès aux opportunités pour des centaines de millions d'utilisateurs. Ces rapports reflètent les résultats de performance de la campagne en temps quasi réel, tels que le nombre de clics et d'impressions reçus par la publicité, ventilés selon différents axes.

Ciblage publicitaire discriminatoire

Les journalistes de ProPublica ont été parmi les premiers à montrer que les options de ciblage de Facebook permettaient aux annonceurs d'emplois et de logements de pratiquer une discrimination en fonction de l'âge, la race et le sexe. En réponse à ces découvertes et dans le cadre d'un accord de règlement d'un litige, Facebook a apporté des modifications pour restreindre les capacités de ciblage offertes aux annonceurs pour les publicités dans les domaines de l'emploi et du logement.

D'autres plateformes publicitaires, comme Google, ont annoncé des restrictions similaires. La question de savoir si ces restrictions sont suffisantes pour empêcher la discrimination d'un annonceur mal intentionné reste ouverte, car des études ont montré que les fonctionnalités avancées des plateformes publicitaires, telles que les audiences personnalisées et les audiences "sosies", peuvent être utilisées par les annonceurs.

Dans le cas de l’étude, les chercheurs de l'Université de Californie du Sud ont supposé que l'annonceur est bien intentionné et ont réalisé une étude de vérification en utilisant un ciblage équilibré entre les sexes. Les chercheurs ont émis l'hypothèse que les résultats discriminatoires peuvent résulter de choix dictés par la plateforme. Les chercheurs ont constaté que le nombre d'annonces, affiché, lié à des emplois très rémunérateurs lors d'une recherche Google était influencé par le sexe de l'internaute. Les comptes appartenant aux femmes voyant moins les annonces de cette catégorie.

Les études n'ont pas pu examiner les causes de ces résultats, car leur méthodologie n'a pas permis d'isoler le rôle de l'algorithme de la plateforme des autres facteurs possibles, comme la concurrence des annonceurs et l'activité des utilisateurs. Les travaux récents des chercheurs ont démontré que les annonces d'emploi et de logement placées sur Facebook sont diffusées de manière biaisée en fonction du sexe et de la race, même lorsque l'annonceur cible un public équilibré sur le plan du sexe et de la race, et que cette distorsion résulte des choix de l'algorithme de diffusion des annonces de Facebook.

L'algorithme de diffusion des publicités de Facebook, comme tous les autres systèmes automatisés de prise de décision qu'il utilise pour ses milliards d'utilisateurs, est une boîte noire, complètement opaque pour quiconque, à l'exception des employés de l'entreprise qui sont liés par des accords de non-divulgation et ont juré de garder le secret.

L'une des explications possibles des résultats de l'équipe de l'Université de Californie du Sud, est que l'algorithme de diffusion des publicités s'entraîne en fonction des personnes qui ont cliqué sur des publicités similaires dans le passé. Peut-être les hommes ont-ils tendance à cliquer sur les publicités Domino's plus que les femmes.

Source : Rapport d'étude

Et vous ?

Que pensez-vous à propos du travail des femmes ?

Êtes-vous pour ou contre le travail des femmes ? Pourquoi ?

En quoi la publicité discriminatoire de Facebook à l'égard des femmes est-elle préjudiciable ?

Quelles solutions envisager pour mettre fin à ces pratiques ?

Voir aussi :

Facebook accusé d'avoir procédé à une discrimination dans la diffusion d'annonces de logements, en violation de la Fair Housing Act

Facebook : des changements à venir pour mettre fin à la publicité discriminatoire, le réseau social et l'État de Washington signent une entente

Un groupe d'utilisateurs attaque Facebook en justice en raison de discrimination, basée sur le profilage racial des utilisateurs

Trump accuse Facebook, Google et Amazon de discrimination envers lui et de collusion avec les démocrates lors de sa campagne électorale

[air-dex]

Les conséquences du CIBLAGE. Par définition l'algorithme propose à des personnes susceptibles d'être INTÉRESSÉES. Si "après un long apprentissage, nous constatons que l'informatique ça n'intéresse pas les bonnes femmes" pour les IA de Facebook et de LinkedIn, alors c'est tout naturellement que les pubs d'informatiques ne seront pas proposées à des femmes. Tant pis pour les féministes si les IA en question mettent le doigt sur quelque chose qui les dérange. On n'a encore rien codé pour ménager leur susceptibilité comme partout ailleurs.

Ce qui, bien sûr, n'empêchera pas les IA d'en proposer à des femmes identifiées comme "geekettes" par ces dernières.

[cdubet]

C est curieux, on parle toujours de discrimination quand le rapport est defavorable aux femmes
Par contre, pas de probleme quand c est l inverse ...
Par exemple 75 % des etudiants de medecine sont des femmes -> no problem (et pourtant l impact est bien plus fort que pour des emplois en informatique, les deserts medicaux ca vous parle ?)
Hier je lisais dans "le monde" que 2% des notaires en cours de formation sont des hommes
On a meme un probleme plus general, le gros des personnes en echec scolaire sont des garcons, mais ca c est pas grave

PS: Pourquoi vouloir a tout prix avoir des femmes dans la tech ?
Si un eleve a de bon resultats scolaire, il ferait mieux de faire autre chose qui lui evitera d aller travailler en SSII
Vrai pour un homme comme pour une femme

[ddoumeche]

Les plateformes publicitaires telles que Facebook, Google et LinkedIn promettent le respect de l’équité à leurs différents utilisateurs. Cependant, de nombreuses études ont montré que la diffusion des publicités sur ces plateformes peut être faussée par le sexe ou la race en raison de l’optimisation des algorithmiques cachée sur leurs plateformes. Plus tôt cette semaine, une équipe de l'Université de Californie du Sud a apporté de nouvelles preuves que le système de publicité de Facebook est discriminatoire à l’égard des femmes.

Dans l'étude, on peut lire page 1 :

Prior work has hypothesized that ad delivery optimization plays a role in skewing recipient distribution by gender or race even when the advertiser targets their ad inclusively. This hypothesis was confirmed, at least
for Facebook, in a recent study, which showed that for jobs such as lumberjack and taxi driver, Facebook delivered ads to audiences skewed along gender and racial lines, even when the advertiser was targeting a gender- and race-balanced audience.
The Facebook study [2] established that the skew is not due to advertiser targeting or competition from other advertisers, and hypothesized that it could stem from the proprietary ad delivery algorithms trained on biased data optimizing for the platform’s objectives (§2.1).

Autrement dit, l'IA de Facebook est intelligente et cible les pubs selon ce que les goûts des internautes, et note que les femmes vont moins chercher de job de chauffeur de taxi et de bucheron (je ne sais plus qui me reprochait de couper le bois de chauffage sans laisser madame faire la moitié du boulot ). Or n'importe qui sait que la pub sur internet est personnalisé depuis au moins 15 ans.

En fait, cette étude nous apprend surtout que certaines entreprises ont une image et sont plus ou moins appréciées par tel ou tel sexe ... bref, pas de quoi fouetter un chat, rien n'est faussé et il n'y a aucune discrimination à moins de prétendre que c'est l'algorithme qui dicte le choix des internautes.

[air-dex]

C est curieux, on parle toujours de discrimination quand le rapport est defavorable aux femmes
Par contre, pas de probleme quand c est l inverse ...
Par exemple 75 % des etudiants de medecine sont des femmes -> no problem (et pourtant l impact est bien plus fort que pour des emplois en informatique, les deserts medicaux ca vous parle ?)
Hier je lisais dans "le monde" que 2% des notaires en cours de formation sont des hommes
On a meme un probleme plus general, le gros des personnes en echec scolaire sont des garcons, mais ca c est pas grave

PS: Pourquoi vouloir a tout prix avoir des femmes dans la tech ?
Si un eleve a de bon resultats scolaire, il ferait mieux de faire autre chose qui lui evitera d aller travailler en SSII
Vrai pour un homme comme pour une femme

Juste pour rester dans l'informatique : c'est un problème quand les développeurs sont des hommes, mais OSEF du fait que les graphistes soient majoritairement des femmes.

[Stéphane le calme]

Facebook segmente les publicités par race et âge en fonction des photos, que les annonceurs le veuillent ou non,
selon une étude

Les services en ligne tels que Facebook et Google sont aujourd'hui un moyen populaire par lequel les utilisateurs sont exposés à des produits, des services, des points de vue et des opportunités. Ces services mettent en œuvre des plateformes publicitaires qui permettent un ciblage précis des utilisateurs de la plateforme, et ils optimisent la diffusion des publicités au sous-ensemble d'utilisateurs ciblés censés être les plus réceptifs.

Malheureusement, des travaux récents ont montré qu'une telle diffusion peut, souvent à l'insu des annonceurs, diffuser des annonces à des groupes d'utilisateurs biaisés uniquement en fonction du contenu de l'annonce.

Ces préoccupations sont particulièrement prononcées pour les publicités qui contiennent des images de personnes (par exemple, les offres d'emploi montrant des travailleurs), car les annonceurs sélectionnent souvent des images pour transmettre avec soin leurs objectifs et leurs valeurs (par exemple, pour promouvoir la diversité dans l'embauche).

Cependant, il n'est toujours pas clair comment les algorithmes de diffusion des publicités réagissent et prennent des décisions de diffusion en fonction des caractéristiques démographiques des personnes représentées dans ces images publicitaires.

Dans une étude, des chercheurs ont examiné comment une plateforme publicitaire majeure (Facebook) diffuse des publicités qui incluent des photos de personnes d'âges, de sexes et de races différents.

La promesse de Facebook aux annonceurs est que son système est intelligent, efficace et facile à utiliser. Vous téléchargez vos annonces, remplissez quelques détails et l'algorithme de Facebook fait sa magie, parcourant des millions de personnes pour trouver l'audience idéale.

Le fonctionnement interne de cet algorithme est opaque, même pour les personnes qui travaillent chez Meta, la société mère de Facebook. Mais des recherches extérieures offrent parfois un aperçu de ce qui s'y passe. Une étude publiée mardi dans le journal de la bibliothèque numérique de l'Association for Computer Machinery révèle que Facebook utilise un logiciel de reconnaissance d'images pour classer la race, le sexe et l'âge des personnes photographiées dans les publicités, et que cette détermination joue un rôle énorme dans qui voit les publicités. Les chercheurs ont constaté que davantage d'annonces mettant en scène de jeunes femmes étaient diffusées auprès d'hommes de plus de 55 ans ; que les femmes voient plus de publicités avec des enfants ; et que les Noirs voient plus de publicités avec des Noirs.

Dans l'étude, les chercheurs ont créé des annonces pour des offres d'emploi avec des photos de personnes. Dans certaines publicités, ils ont utilisé des photos d'archives, mais dans d'autres, ils ont utilisé l'IA pour générer des images synthétiques identiques, à l'exception des données démographiques des personnes sur les images. Ensuite, les chercheurs ont dépensé des dizaines de milliers de dollars pour diffuser les publicités sur Facebook, en gardant une trace des publicités diffusées à quels utilisateurs.

Les résultats ont été spectaculaires. En moyenne, le public qui a vu les photos synthétiques de personnes noires était à 81 % noir. Mais lorsqu'il s'agissait d'une photo d'une personne blanche, l'audience moyenne n'était que de 50 % de Noirs. Le public qui a vu des photos d'adolescentes était composé à 57 % d'hommes. Des photos de femmes plus âgées ont été présentées à un public composé à 58 % de femmes.

L'étude a également révélé que les images d'archives fonctionnaient de manière identique aux images de visages artificiels, ce qui laisse penser que ce sont uniquement les données démographiques, et non d'autres facteurs, qui déterminent le résultat.

Meta assure être en train de développer « une technologie pour aider à résoudre ces problèmes »

En supposant que le ciblage Facebook est efficace, cela peut ne pas être problématique lorsque vous envisagez des publicités pour des produits. Mais « lorsque nous parlons de publicité pour des opportunités telles que l'emploi, le logement, le crédit, voire l'éducation, nous pouvons voir que les choses qui auraient pu très bien fonctionner pour vendre des produits peuvent conduire à des résultats sociétalement problématiques », a déclaré Piotr Sapiezynski, chercheur à la Northeastern University, coauteur de l'étude.

En réponse à une demande de commentaires, Meta a déclaré que la recherche met en évidence une préoccupation à l'échelle de l'industrie. « Nous développons une technologie conçue pour aider à résoudre ces problèmes », a déclaré Ashley Settle, porte-parole de Meta. « Nous avons fait des efforts considérables pour prévenir la discrimination sur notre plateforme publicitaire et continuerons à engager des groupes clés de défense des droits civiques, des universitaires et des régulateurs dans ce travail ».

Le ciblage publicitaire de Facebook par race et par âge n'est peut-être pas non plus dans l'intérêt des annonceurs. Les entreprises choisissent souvent les personnes dans leurs publicités pour démontrer qu'elles valorisent la diversité. Elles ne veulent pas que moins de Blancs voient leurs publicités simplement parce qu'elles ont choisi une photo d'une personne noire. Même si Facebook sait que les hommes plus âgés sont plus susceptibles de regarder des publicités représentant des jeunes femmes, cela ne signifie pas qu'ils sont plus intéressés par les produits. Mais il y a des conséquences bien plus importantes en jeu.

« Apprentissage automatique, apprentissage en profondeur, toutes ces technologies sont conservatrices en principe », estime Sapiezynski. Il a ajouté que des systèmes comme ceux de Facebook optimisent les systèmes en examinant ce qui a fonctionné dans le passé et supposent que c'est ainsi que les choses devraient se présenter à l'avenir. Si les algorithmes utilisent des hypothèses démographiques brutes pour décider qui voit les annonces de logement, d'emploi ou d'autres opportunités, cela peut renforcer les stéréotypes et consacrer la discrimination.

L'annonce de gauche a été diffusée auprès de 56% d'utilisateurs blancs. L'annonce de droite n'a été diffusée qu'à 29% d'utilisateurs blancs. Les deux ont été exécutés en même temps, avec le même budget et les mêmes paramètres de ciblage

Ce n'est pas la première fois qu'une étude relève le ciblage publicitaire discriminatoire de l'algorithme de Facebook

L'enquête de ProPublica

Une enquête ProPublica de 2016 a révélé que Facebook laissait les spécialistes du marketing cacher les annonces de logement aux Noirs et à d'autres groupes protégés en violation de la loi sur le logement équitable. Après l'intervention du ministère de la Justice, Facebook a cessé de laisser les annonceurs cibler les publicités en fonction de la race, de la religion et de certains autres facteurs.

D'autres plateformes publicitaires, comme Google, ont annoncé des restrictions similaires. La question de savoir si ces restrictions sont suffisantes pour empêcher la discrimination d'un annonceur mal intentionné reste ouverte, car des études ont montré que les fonctionnalités avancées des plateformes publicitaires, telles que les audiences personnalisées et les audiences « sosies », peuvent être utilisées par les annonceurs.

L'enquête d'une équipe de l'Université de Californie du Sud

L’équipe de chercheurs s'est appuyée sur des travaux antérieurs pour mesurer la distorsion dans la diffusion des publicités, ils ont développé une nouvelle méthodologie pour l’étude des algorithmes discriminatoires dans la diffusion des annonces d'emploi. En appliquant la méthodologie aux plateformes Facebook et LinkedIn, les chercheurs ont confirmé l'existence d'un biais lié au sexe dans la diffusion des annonces sur Facebook, ils ont démontré qu'il ne peut être justifié par des différences de qualifications. Les chercheurs ont également indiqué qu’ils n’ont pas pu trouver de biais dans la diffusion des annonces sur LinkedIn.

Une étude réalisée en 2019 par un membre de l'équipe a fourni des preuves solides que l'algorithme publicitaire de Facebook est plus que capable d'être biaisé. En réponse à cette étude, et dans le sillage des critiques généralisées sur les outils qui pourraient être utilisés pour mener des campagnes publicitaires discriminatoires, Facebook avait déclaré à l'époque : « nous nous opposons à la discrimination sous toutes ses formes. Nous avons apporté des changements importants à nos outils de ciblage publicitaire et nous savons que ce n'est qu'une première étape. Nous avons examiné notre système de diffusion des annonces et avons engagé des leaders de l'industrie, des universitaires et des experts en droits civils sur ce même sujet ».

Selon l'étude, ce déséquilibre s'applique également aux offres d'emploi hautement qualifiées. Les algorithmes de Facebook étaient plus susceptibles de montrer aux femmes une annonce pour un emploi technique chez Netflix Inc, qui a un niveau d'emploi féminin relativement élevé pour le secteur technologique, qu'une annonce pour un emploi chez Nvidia Corp. un fabricant de puces graphiques dont la proportion d'employés masculins est plus élevée, selon les données des rapports d'emploi fédéraux.

Les résultats suggèrent « une plateforme dont l'algorithme apprend et perpétue la différence existante dans la démographie des employés », indique le document, notant que les algorithmes de Facebook semblaient produire des résultats biaisés même si un employeur avait l'intention d'atteindre un public démographiquement équilibré.

La loi fédérale interdit la discrimination fondée sur le sexe, la race, l'âge et d'autres caractéristiques dans la publicité pour le logement, l'emploi et les produits de crédit. Bien que l'application de cette loi à la publicité comportementale reste controversée, le gouvernement fédéral a fait valoir que les publicités doivent être distribuées de manière à ne pas désavantager les classes protégées sur le plan de leur capacité à les voir.

Même sans outil explicite donné aux annonceurs, il est possible de faire de la discrimination

Et même si les annonceurs ne peuvent pas explicitement dire à Facebook de faire de la discrimination, l'étude a révélé que l'algorithme de Facebook pourrait le faire en fonction des images qu'ils mettent de toute façon dans leurs publicités. C'est un problème si les régulateurs veulent forcer un changement.

Settle, le porte-parole de Meta, a déclaré que Meta avait investi dans de nouvelles technologies pour résoudre son problème de discrimination en matière de logement et que l'entreprise étendrait ces solutions aux publicités liées au crédit et à l'emploi. La société aura plus à partager dans les mois à venir, a-t-elle ajouté.

Vous pourriez regarder ces résultats et penser : « Facebook ne publie pas les données, mais peut-être que les publicités avec des photos de Noirs fonctionnent moins bien avec un public blanc ». Sapiezynski a estimé que même si c'était vrai, ce n'était pas une justification raisonnable.

Quoi qu'il en soit, nous ne disposons pas d'assez de données pour prouver que les méthodes de Facebook sont efficaces. La recherche peut démontrer que le système publicitaire des plateformes n'est pas aussi sophistiqué que Facebook veut que vous le pensiez. « Il n'y a pas vraiment de compréhension plus approfondie de ce à quoi sert réellement l'annonce. Ils regardent l'image et créent un stéréotype de la façon dont les gens se comportaient auparavant », a déclaré Sapiezynski. « Cela n'a aucun sens, juste des associations grossières. Ce sont donc des exemples, je pense, qui montrent que le système ne fait pas réellement ce que veut l'annonceur. »

Source : rapport de l'étude

Et vous ?

Êtes-vous surpris par les conclusions de cette étude qui a mis (encore une fois) en lumière la discrimination dans l'algorithme de ciblage publicitaire de Facebook ?
Quelles implications potentielles y voyez-vous ? En quoi la publicité discriminatoire de Facebook est-elle préjudiciable ?
Quelles solutions envisager pour mettre fin à la situation ?

Voir aussi :

L'intelligence artificielle de Facebook censure une publicité pour des graines d'oignon au motif de ce qu'elle l'a jugée "ouvertement sexuelle"

[virginieh]

les deserts medicaux ca vous parle ?

Quel rapport entre le fait qu'il y ai des déserts médicaux et le fait qu'il y ait 75% de femmes en médecine ? (là aussi il faut de l'égalité, mais je vois pas comment tu fais un lien entre le 2 faits).

Par contre une anecdote : Quand j'étais en 1ere S j'avais environ 15 en maths, 12 en physique, 11 en biologie. Quand j'ai demandé à passer en Tale C (maths), ma conseillère d'orientation, et certains proches des gens de mon entourage se sont étonnés que je veuille m'orienter vers du technique au lieu de chercher à faire médecine justement parce que pour eux femme+bons résultats en science=médecine. Et 2 garçons de ma classe eux étaient poussés dans l'autre sens (ils avaient à peine la moyenne en maths, mais rattrapaient largement avec les autres moyennes) mais on leur mettait la pression pour qu'ils aillent en terminale C parce que c'était "la voie royale".
Tout ça pour dire que d'après moi en grand partie les inégalités vis à vis du genre aussi bien dans les STEM et en médecine ont la même cause justement : si on n'essaye plus de partir du principe que le genre doit déterminer tes gouts (que ce soit en matière de métier, de loisirs jusqu'aux couleurs qui doivent te plaire ou non), on aura fait un grand pas.

On a meme un probleme plus general, le gros des personnes en echec scolaire sont des garcons, mais ca c est pas grave

Le système éducatif nécessiterais une vraie reprise en main et pas un abandon en laissant glisser les choses vers le pire.
Pourquoi les garçons sont ils plus en échec scolaire ?
- Parce qu'on les aide moins et/ou qu'eux de leur coté sont plus considère que demander/accepter de l'aide c'est faire preuve de faiblesse ?
- Parce que le système éducatif demande beaucoup d'acceptation de l'autorité et qu'eux sont plus encouragés à la défier ?
- Parce qu'une majorité des enseignants surtout en maternelle/primaire sont des femmes et qu'ils sont mal à l'aise ?
- Une autre raison ?

Reste que les pour 3 raisons qui me sont venues en tête, moins de sexisme aiderait considérablement les choses.

Mais je suis d'accord avec toi, le sexisme fais des dégâts dans les 2 sens et il faut se pencher sur tous les problèmes qu'ils génèrent.
Par exemple les hommes ont moins de droits en ce qui concerne la parentalité. Même s'il y a eu des progrès.


PS : sur le titre dans le forum : . Attention il ne faut pas pas lire pubis :p

[Jade Emy]

Facebook peut être poursuivi pour son algorithme publicitaire discriminatoire, l'affaire découle d'un recours collectif selon lequel Facebook aurait violé les lois sur les droits civils.

Une cour d'appel de l'État de Californie a récemment statué que Facebook pouvait être poursuivi en justice pour des pratiques publicitaires prétendument discriminatoires. L'affaire découle d'un recours collectif intenté en 2020, selon lequel Facebook aurait violé les lois sur les droits civils en excluant les annonces d'assurance ciblant les femmes et les personnes âgées.

Facebook risque une action en justice

La semaine dernière, une cour d'appel de l'État de Californie a statué que Facebook pourrait faire l'objet d'une action en justice concernant des allégations de pratiques discriminatoires dans son algorithme publicitaire. Cette décision découle d'un recours collectif intenté contre Facebook en 2020, affirmant que l'entreprise a violé les lois sur les droits civils en omettant les annonces d'assurance destinées aux femmes et aux personnes plus âgées.

Au cœur de cette bataille juridique se trouve Samantha Liapes, une femme de 48 ans qui a utilisé Facebook pour rechercher des options d'assurance. L'action en justice soutenait que le mécanisme de distribution des publicités de Facebook n'avait pas affiché les publicités d'assurance pour Mme Liapes en fonction de son âge et de son sexe.

Dans un arrêt du 21 septembre, la cour d'appel a annulé un jugement antérieur qui avait invoqué l'article 230, lequel offre une protection juridique aux plateformes en ligne dans les cas impliquant des contenus illégaux générés par les utilisateurs. La cour d'appel a estimé que l'affaire présentait un argument suffisant pour démontrer que Facebook était au courant des annonceurs d'assurance qui orientaient délibérément leurs publicités vers des utilisateurs en fonction de leur âge et de leur sexe, violant ainsi la loi Unruh sur les droits civils.

L'algorithme publicitaire de Facebook fait l'objet d'un examen minutieux depuis plusieurs années. Un procès fédéral a été intenté en 2018 et a accusé l'entreprise de permettre la discrimination en matière de logement. Des études ultérieures ont fourni des preuves à l'appui de ces allégations. En 2022, Facebook a conclu un accord avec le gouvernement américain et a mis en place un nouveau système de distribution des publicités pour lutter contre la discrimination en matière de logement.

Décision de la Californie

La cour d'appel a récemment déterminé qu'un tribunal précédent avait commis une erreur de jugement en accordant à Facebook l'immunité en vertu de l'article 230 de la loi sur la décence des communications. Comme elle l'a indiqué dans son communiqué de presse, cette section protège généralement les sites web interactifs de toute responsabilité concernant le contenu de tiers. En outre, la cour d'appel a conclu que les accusations étaient suffisamment sérieuses pour permettre à l'affaire d'avancer, affirmant que les mécanismes de ciblage et de diffusion de la publicité de Facebook présentaient un comportement discriminatoire et facilitaient potentiellement la discrimination induite par les annonceurs.

Facebook a développé une plateforme publicitaire permettant aux entreprises d'adapter leurs publicités aux caractéristiques démographiques des utilisateurs. Selon Mme Liapes, Facebook a utilisé divers outils, dont certains sont influencés par la contribution des annonceurs et d'autres non, qui montrent une différence de traitement envers les utilisateurs sur la base d'attributs protégés. Elle a fait valoir que cela constituait une violation de la loi californienne Unruh sur les droits civils dans le contexte des publicités liées à l'assurance.

Le verdict de la cour d'appel du premier district de Californie correspond aux positions défendues par le Lawyers' Committee For Civil Rights Under Law, l'American Civil Liberties Union (ACLU), l'ACLU de Californie du Sud, l'ACLU de Californie du Nord et Upturn dans leur mémoire. Ces organisations soutiennent que les actions de Facebook constituent une discrimination et sont préjudiciables, en particulier à la lumière des antécédents de longue date du secteur de l'assurance en matière de préjugés à l'égard des femmes, des personnes âgées et des communautés marginalisées.

Dans l'affaire Samantha Liapes et al. c. Facebook, Inc., la cour d'appel a jugé qu'un tribunal inférieur avait commis une erreur en considérant que Facebook était exonéré de toute responsabilité en vertu de l'article 230 de la loi sur la décence des communications (Communications Decency Act), qui exonère généralement les sites web interactifs de toute responsabilité à l'égard du contenu d'un tiers. La cour d'appel a également estimé que les allégations étaient suffisantes pour que l'affaire soit instruite sur la base des allégations selon lesquelles les outils de ciblage et de diffusion des publicités de Facebook étaient discriminatoires et avaient aidé et encouragé la discrimination de la part des annonceurs.

Facebook a créé une plateforme publicitaire qui permet aux entreprises de cibler des publicités sur des catégories spécifiques d'utilisateurs. Mme Liapes affirme que Facebook a conçu et utilise divers outils (certains avec la participation sollicitée des annonceurs, d'autres sans) qui traitent les utilisateurs de manière disparate sur la base de caractéristiques protégées, en violation de la loi californienne Unruh sur les droits civils, afin de fournir des publicités pour des assurances.

Mme Liapes est une femme de 48 ans, utilisatrice régulière de Facebook, qui souhaitait s'informer sur les produits d'assurance par le biais de publicités affichées sur son fil d'actualité. Elle n'a pas été en mesure de demander un devis et éventuellement d'obtenir une police d'assurance parce qu'elle n'a pas pu voir plusieurs publicités d'assurance-vie affichées sur Facebook en raison de son âge ou de son sexe.

La décision de la cour d'appel du premier district de Californie est conforme aux arguments avancés par le Lawyers' Committee For Civil Rights Under Law, l'American Civil Liberties Union, l'ACLU of Southern California, l'ACLU of Northern California et Upturn dans un mémoire d'amicus curiae. Ces groupes ont fait valoir que le comportement de Facebook était discriminatoire et préjudiciable, compte tenu notamment de la longue tradition de discrimination du secteur de l'assurance à l'égard des femmes, des personnes âgées et d'autres groupes marginalisés.

"Il s'agit d'une décision décisive pour la discrimination en ligne", a déclaré David Brody, avocat responsable de l'initiative pour la justice numérique au sein du Comité des avocats pour les droits civils en vertu de la loi. "Il n'est pas acceptable de cibler et d'orienter les publicités vers des opportunités économiques importantes sur la base de caractéristiques protégées telles que la race ou le sexe. Cette décision montre clairement que les algorithmes et les modèles commerciaux fondés sur la discrimination doivent changer."

"Aujourd'hui, les consommateurs comptent sur l'internet, y compris sur la publicité en ligne, pour accéder à des opportunités économiques importantes, telles que les produits d'assurance. Facebook fait de la publicité pour des produits d'assurance directement auprès de certains utilisateurs, en l'occurrence des hommes et des jeunes, tout en obligeant illégalement d'autres utilisateurs, notamment des femmes et des personnes âgées, à faire des efforts supplémentaires pour se renseigner sur ces mêmes produits", a déclaré Olga Akselrod, avocate principale du programme de justice raciale de l'ACLU. "Nous sommes heureux que cette décision ouvre des voies possibles pour la responsabilisation des plateformes de médias sociaux."

"Si une entreprise technologique viole vos droits, elle doit être tenue pour responsable au même titre qu'une entreprise physique", a déclaré Jacob Snow, avocat principal de l'ACLU de Californie du Nord. "Cette décision importante réaffirme que les entreprises technologiques ne sont pas à l'abri des plaintes déposées en vertu de lois sur les droits civils vieilles de plusieurs décennies. La publicité ciblée qui est au cœur du modèle commercial de surveillance de Meta menace de nuire à des communautés déjà marginalisées, et cette décision confirme que les tribunaux doivent pleinement prendre en compte ces plaintes."

"Personne ne devrait se voir refuser une assurance ou d'autres services importants en raison de son identité", a déclaré Amanda Goad, directrice Audrey Irmas du projet LGBTQ, Gender & Reproductive Justice à l'ACLU de Californie du Sud. "Nous apprécions que le tribunal reconnaisse le préjudice que les pratiques discriminatoires de ciblage et de diffusion des publicités peuvent causer à des utilisateurs comme Mme Liapes."

"Les lois sur les droits civils protègent les personnes en ligne et hors ligne", a déclaré Mitra Ebadolahi, directrice de projet senior chez Upturn. "Notre étude montre clairement comment les actions de Facebook contribuent à la discrimination dans la publicité en ligne. Il est temps que Facebook soit tenu responsable de ses actions discriminatoires en matière de droits civils."

Source : ACLU

Et vous ?

Quel est votre avis sur cette affaire ?

Voir aussi :

Facebook accusé d'avoir procédé à une discrimination dans la diffusion d'annonces de logements en violation de la Fair Housing Act

Facebook : des changements à venir pour mettre fin à la publicité discriminatoire, le réseau social et l'État de Washington signent une entente

Facebook arrète le ciblage publicitaire en rapport avec la race, l'orientation sexuelle, la santé et la politique, ceci dès le 19 janvier prochain

[Bruno]

Le ciblage publicitaire sexiste de Facebook serait contraire à la loi californienne,
selon un tribunal

Facebook pourrait devoir revoir son système de ciblage publicitaire après qu’un tribunal californien a jugé que la plateforme avait violé la loi antidiscrimination en ciblant systématiquement les publicités en fonction de l’âge, du sexe et d’autres catégories protégées. Cette décision a été prise après qu’une utilisatrice de Facebook âgée de 48 ans, Samantha Liapes, a intenté une action collective contre Facebook en 2020.

Dans sa plainte, Liapes affirme que Facebook exige des annonceurs qu’ils choisissent l’âge et le sexe des utilisateurs qui recevront des publicités, et que les entreprises proposant des produits d’assurance lui demandent régulièrement de ne pas envoyer leurs publicités aux femmes ou aux personnes plus âgées. Elle affirme également que l’algorithme de diffusion des publicités de Facebook amplifie le problème en utilisant ces données requises pour diffuser les publicités à des « audiences similaires ». Liapes affirme avoir constaté que Facebook « discrimine les femmes et les personnes âgées » en les empêchant intentionnellement de voir certaines publicités relatives à l’assurance-vie.

En 2020, Liapes a déposé une plainte alléguant que Facebook avait violé la loi sur les droits civils en pratiquant une discrimination fondée sur l'âge et le sexe lorsqu'il fournissait aux utilisateurs des informations sur les possibilités d'assurance. Elle a affirmé qu'elle-même et ses collègues avaient subi des préjudices en étant séparés, classés et traités de manière inégale, stéréotypée et arbitraire, et en se voyant refuser des informations qu'ils ont le droit de recevoir sur une base égale en raison de leur âge, de leur sexe et de leur sexe.

Sa plainte initiale alléguait que les outils de sélection de l'audience et l'algorithme de Facebook excluaient systématiquement les personnes plus âgées et les femmes de la consultation de milliers d'annonces concernant des opportunités de services financiers. Facebook s'est désisté et a demandé à ce que l'affaire soit suspendue en faveur d'une action fédérale séparée déposée par l'avocat de Liapes et faisant valoir les mêmes revendications.

En outre, Liapes allègue que Facebook a aidé, encouragé et incité de nombreuses compagnies d'assurance à publier des chefs d'entreprise qui refusaient aux personnes âgées et/ou aux femmes des aménagements, des avantages, des installations et des services complets et adéquats dans leurs établissements commerciaux. Sur la base de ces mêmes allégations, Liapes a également affirmé que Facebook a violé la loi en discriminant intentionnellement, en boycottant et/ou en refusant de fournir des services aux femmes et aux personnes âgées en fonction de leur âge et de leur sexe.

En 2021, une étude de l'Université de Californie du Sud revèle que les publicités de Facebook sont discriminatoires à l'égard des femmes. Selon l'étude, ce déséquilibre s'applique également aux offres d'emploi hautement qualifiées. Les algorithmes de Facebook étaient plus susceptibles de montrer aux femmes une annonce pour un emploi technique chez Netflix Inc, qui a un niveau d'emploi féminin relativement élevé pour le secteur technologique, qu'une annonce pour un emploi chez Nvidia Corp. un fabricant de puces graphiques dont la proportion d'employés masculins est plus élevée, selon les données des rapports d'emploi fédéraux.

Les résultats suggèrent « une plateforme dont l'algorithme apprend et perpétue la différence existante dans la démographie des employés », indique le document, notant que les algorithmes de Facebook semblaient produire des résultats biaisés même si un employeur avait l'intention d'atteindre un public démographiquement équilibré.

La loi fédérale interdit la discrimination fondée sur le sexe, la race, l'âge et d'autres caractéristiques dans la publicité pour le logement, l'emploi et les produits de crédit. Bien que l'application de cette loi à la publicité comportementale reste controversée, le gouvernement fédéral a fait valoir que les publicités doivent être distribuées de manière à ne pas désavantager les classes protégées en termes de capacité à les voir.


Comment les annonceurs ciblent-ils leur audience sur Facebook ?

Facebook est un service de réseau social populaire qui compte plus de deux milliards d'utilisateurs par mois. Pour s'inscrire, les utilisateurs doivent lui communiquer leur date de naissance et leur sexe. Les utilisateurs s'engagent avec Facebook de différentes manières, notamment par le biais de son fil d'actualité, de ses histoires, de sa place de marché et de son service de surveillance. « Les entreprises l'utilisent pour envoyer des publicités aux consommateurs, par exemple pour des produits et services d'assurance. Elles paient Facebook pour qu'il place leurs annonces sur les fils d'actualité des utilisateurs.

Facebook met à la disposition des annonceurs plusieurs outils permettant de déterminer qui reçoit les annonces. L'un d'eux est la « sélection de l'audience », qui permet aux annonceurs de préciser les paramètres de l'audience cible des utilisateurs de Facebook qui seront éligibles pour recevoir l'annonce. « Il existe de nombreuses catégories que les annonceurs peuvent choisir d'exclure, comme les centres d'intérêt et les comportements, lorsqu'ils définissent l'audience. Mais les annonceurs sont tenus d'effectuer trois sélections établissant les paramètres de base de l'audience cible : l'âge, le sexe et le lieu de résidence. »

Chacune de ces trois catégories dispose d'un menu déroulant indiquant que les annonceurs peuvent inclure ou exclure des utilisateurs en fonction de leur âge ou de leur sexe. Le réglage par défaut est 18 à 65 ans et plus et tous les genres, ce qui signifie que tous les utilisateurs de 18 ans et plus recevraient l'annonce. Facebook, cependant, conseille de ne pas utiliser les paramètres par défaut de l'audience.

Dans « FacebookBlueprint », un programme de formation destiné aux annonceurs, Facebook les encourage vivement à réduire la fourchette d'âge et de sexe des utilisateurs qui recevront les publicités afin de les rendre plus efficaces. Il suggère, par exemple, « Commençons par le genre ». Si vous le souhaitez, vous pouvez choisir de vous adresser uniquement aux hommes ou uniquement aux femmes. Si vous avez un magasin de robes de chambre, les femmes peuvent être un meilleur public pour vous.

Mais si vous avez une entreprise de rasage et de toilettage de barbe, vous voudrez peut-être vous adresser aux femmes. Parmi les autres conseils, citons la prise en compte de la clientèle : [Pensez à ce que [vos clients] aiment, à leur degré de satisfaction et à leurs centres d'intérêt. Cela peut vous aider à identifier les options d'audience qui vous aideront à atteindre les gens qui les suivent sur Facebook.

Une fois le public sélectionné, l'annonceur détermine le contenu de l'en-tête et la page Facebook ou une autre page web sur laquelle l'en-tête sera lié. L'annonceur achète des impressions - événement qui se produit chaque fois qu'un utilisateur voit une publicité sur Facebook - ou des clics - événement qui se produit chaque fois qu'un utilisateur clique sur une publicité. Facebook élargit la liste des têtes de série au sein de l'Union européenne.

Les utilisateurs qui ne font pas partie de l'audience sélectionnée ne recevront pas de tête. Facebook permet également aux annonceurs de cibler leur audience grâce à l'outil Lookalike Audiences. Les annonceurs fournissent à Facebook une liste d'utilisateurs « qu'ils pensent être le type de clients qu'ils veulent atteindre ». Facebook applique ensuite son propre algorithme d'analyse et de calcul pour identifier une audience plus large ressemblant à l'audience de l'échantillon.

L'audience ainsi identifiée sera éligible pour recevoir des têtes de liste. Facebook utilise expressément l'âge et la tendance pour déterminer indirectement quels utilisateurs seront inclus dans l'audience ressemblante. Ainsi, si un annonceur crée un échantillon d'audience proportionnellement masculin ou jeune, l'audience de ressemblance exclura proportionnellement les femmes et les personnes plus âgées. Une fois le public sélectionné, Facebook utilise ensuite un algorithme de diffusion des annonces pour déterminer quels utilisateurs d'un public particulier recevront des annonces.

Facebook et la discrimination : les groupes de défense des droits de l’homme réagissent

Meta, la société mère de Facebook, fait face à des plaintes de groupes de défense des droits de l'homme en Europe alléguant que l'algorithme qu'elle utilise pour cibler les utilisateurs avec les offres d'emploi des entreprises est discriminatoire, des années après que l'entreprise se soit engagée pour la première fois à sévir dans ce domaine dans d'autres régions.

Ces allégations s'appuient sur des recherches menées par l'organisation internationale à but non lucratif Global Witness, qui montrent que la plateforme publicitaire de Facebook cible souvent les utilisateurs avec des critères fondés sur des stéréotypes historiques liés au genre. Les annonces d'emploi pour des postes de mécaniciens, par exemple, ont été affichées en grande majorité par des utilisateurs masculins, tandis que les annonces pour des enseignants de maternelle ont été affichées principalement par des utilisateurs féminins, selon les données que Global Witness a obtenues à partir de la plateforme Ad Manager de Facebook.

D'autres recherches partagées par Global Witness suggèrent que ce biais algorithmique est un problème mondial, affirme le groupe de défense des droits de l'homme. « Nous craignons que Facebook n'exacerbe les préjugés qui existent dans la société et ne compromette les possibilités de progrès et d'équité », a déclaré Naomi Hirst, qui dirige la stratégie de campagne de Global Witness sur les menaces numériques pesant sur la démocratie.

Global Witness, conjointement avec le Bureau Clara Wichmann et la Fondation des Femmes, a déposé des plaintes concernant Meta (FB) auprès des agences des droits de l'homme et des autorités chargées de la protection des données en France et aux Pays-Bas, sur la base de leurs recherches dans les deux pays. Les groupes demandent instamment aux agences d'enquêter pour déterminer si les pratiques de Meta violent les droits de l'homme ou les lois sur la protection des données de ces pays.

Global Witness a précédemment déposé des plaintes auprès de la Commission britannique pour l'égalité et les droits de l'homme et du Bureau du commissaire à l'information pour des problèmes de discrimination similaires. À l'époque, Global Witness a déclaré qu'un porte-parole de Meta (qui s'appelait encore Facebook à l'époque) avait indiqué au groupe que son « système prenait en compte différents types d'informations pour essayer de proposer aux gens des publicités qui les intéressent le plus » et qu'il « envisageait d'étendre les limitations des options de ciblage pour les publicités relatives à l'emploi, au logement et au crédit à d'autres régions que les États-Unis et le Canada ».

Selon Liapes, cela lui a causé un préjudice en l'empêchant de s'inscrire à des offres qui « changent souvent et peuvent expirer » - des offres qui, selon elle, sont diffusées de manière disproportionnée sur Facebook auprès d'audiences plus jeunes et/ou masculines. À titre de preuve, Mme Liapes a cité des publicités que Facebook ne lui a pas présentées - prétendument parce que les annonceurs ont utilisé les outils de sélection d'audience et d'audience similaire de la plateforme pour l'exclure - en tant que femme plus âgée :

Liapes a identifié une publicité pour une assurance-vie qui n'a été envoyée qu'aux hommes âgés de 30 à 49 ans parce que l'annonceur a utilisé l'outil de sélection de l'audience. Dans un autre cas, une publicité pour une assurance-vie ne lui a pas été montrée parce qu'elle n'avait été envoyée qu'à des personnes âgées de 25 à 45 ans - en raison de l'utilisation par l'annonceur de l'outil de sélection de l'audience - et parce que l'annonceur souhaitait atteindre des personnes semblables à ses clients - en raison de l'utilisation par l'annonceur de l'outil Lookalike Audience.

Facebook a affirmé que ses outils étaient neutres et que la plainte de Liapes ne contenait pas de preuves montrant toutes les publicités qui lui ont été diffusées, ce qui suggère que Liapes a pu voir différentes versions des publicités qu'elle affirme que la plateforme l'a exclue de son champ de vision. Facebook a également affirmé qu'il était possible que Liapes ait vu des publicités annonçant de meilleures offres, ce qui n'aurait pas causé de préjudice. En septembre, le tribunal a toutefois rejeté les arguments de Facebook, estimant que Liapes avait formulé une plainte valable.

Source : California court

Et vous ?

Comment Facebook peut-il garantir que les publicités ne sont pas discriminatoires ?

Quels sont les risques pour les entreprises qui utilisent des publicités discriminatoires ?

Comment les utilisateurs peuvent-ils signaler des publicités discriminatoires sur Facebook ?

Voir aussi :

Les publicités de Facebook seraient discriminatoires à l'égard des femmes, selon une étude de l'Université de Californie du Sud

Facebook accusé d'avoir procédé à une discrimination dans la diffusion d'annonces de logements, en violation de la Fair Housing Act

Un groupe d'utilisateurs attaque Facebook en justice en raison de discrimination, basée sur le profilage racial des utilisateurs