Discussion :

[Patrick Ruiz]

L’IA peut-elle éliminer les biais dans le processus de recrutement ?
Oui, d’après des observateurs qui pensent qu’elle supplante l’humain

Dans le cadre de la reconnaissance faciale, l’intelligence artificielle suscite beaucoup de controverses. Tenez par exemple, une récente publication publication de l’American Civil Liberties Union (ACLU) fait état de ce qu’une IA d’Amazon a, à tort, identifié 28 membres du congrès des États-Unis comme des criminels. Il n’empêche que cet ensemble de techniques a la faveur de certains observateurs sur le terrain du recrutement.

En juillet 2016, la multinationale anglo-néerlandaise Unilever a introduit l’intelligence artificielle à son processus de recrutement. Même son de cloche pour Entelo et Stella.ai qui font leur apparition après Unilever avec des plateformes en ligne d’automatisation du processus de recrutement basées sur l’intelligence artificielle. Ces entreprises vantent la technique pour sa capacité à opérer une extraction pertinente des candidats en s’appuyant sur la science des données. Dans le cas Unilever, les responsables soulignent que la technique a permis d’augmenter significativement l’embauche de candidats non blancs, mais aussi d’apporter plus de diversité en termes de genre et de milieu social d’origine.

L’aspect qui s’imbrique au précédent est celui de la neutralité que ces dernières lui attribuent. « L’algorithme effectue uniquement des correspondances sur la base des données qui lui sont fournies . Il ne scrute que les compétences et les industries », déclare Rich Joffe – CEO de Stella.ai.

Il faut le reconnaître, parcourir une pile de CV à la recherche de la perle rare est un exercice fastidieux et parfois improductif. Lorsqu’il faut effectuer une tâche de façon répétitive et sur la durée, un ordinateur est assurément mieux outillé. C’est probablement la raison pour laquelle Rich Joffe a ajouté que « bien qu’aucun algorithme ne soit livré avec une garantie d’infaillibilité, je crois qu’ils sont meilleurs que les humains. »

Seulement, dans un contexte où moins de 5 % des chefs d’entreprise du Fortune 500 sont des femmes, où la diversité raciale à la tête du même groupe d’entreprise est à questionner, l’argument de la neutralité de l’intelligence artificielle est mis à mal. Le fait est qu’ « identifier des candidats à forts potentiels est une tâche très subjective » comme le rappelle Alan Todd – CEO de CorpU. Il vient donc que l’intelligence artificielle peut exhiber les biais des programmeurs qui l’ont conçu. La question divise profondément au sein de la communauté de l’intelligence artificielle ; l’on n’arrive pas à tomber d’accord sur les caractéristiques de l’algorithme capable de rendre le processus de recrutement plus équitable.

L’intelligence artificielle à même de sortir l’homme du processus de recrutement de façon totale ? Il semble que ce ne soit pas pour demain. Pour le moment, les solutions adoptées en entreprise s’appuient sur le jumelage des capacités de l’homme à celles de la machine, en entendant ce fameux jour où l’ordre des choses va totalement s’inverser en faveur des ordinateurs.


Source : Bloomberg

Et vous ?

Avez-vous déjà eu à passer un entretien d’embauche avec une IA comme recruteur ? Partagez votre expérience. Quels sont les aspects qui vous ont plu (horripilé) ?

Est-il possible de créer une intelligence artificielle qui n’exhibe pas de biais ?

Voir aussi :

La Chine veut devenir leader mondial de l'intelligence artificielle avec un plan de développement national visant à augmenter son poids économique

Les chercheurs en intelligence artificielle peuvent-ils gagner jusqu'à 1 million $ par an dans la Silicon Valley ? Un aperçu des salaires

L'intelligence artificielle est-elle l'arme de la prochaine guerre froide ? Oui, répond un chercheur en informatique

Trolldi : cinq dangers émanant de l'utilisation de l'intelligence artificielle et la robotique

Des chercheurs du MIT créent la première intelligence artificielle psychopathe pour illustrer le problème de biais des données nourries aux IA

[BenoitM]

Avez-vous déjà eu à passer un entretien d’embauche avec une IA comme recruteur ? Partagez votre expérience. Quels sont les aspects qui vous ont plu (horripilé) ?

C'est quoi une IA?
Est-ce que les tests psychologiques sont des IA?

Est-il possible de créer une intelligence artificielle qui n’exhibe pas de biais ?

Elle peut peut-être réduire certains biais (discrimination sexuelle/raciale).

Mais je ne vois pas comment faire un test 1h pour recruter la bonne personne. Pas plus avec une IA qu'un humain.
Et je vois mal une IA pourvoir tester tous les types de métier
Juger de la compétence d'un maçon, un boucher uniquement via un test sur ordi me semble moyen comme idée...

ps: et j'ai toujours autant de mal avec le terme d'IA. Et je ne vois pas très bien comment marche cette IA.
Ca ressemble à un test de personnalité avec laquelle on paramètre quel profile ont souhaite.
Il n'y a pas l'air d'avoir grand chose de neuf...

[23JFK]

Les quelques tentatives d'utilisation d'IA dans ce genre de domaine ont montré que ces algorithmes décisionnels doivent être artificiellement biaisés par des quotas pour ne pas finir par exclure certains profils qui, quoi qu'en disent les bonnes âmes, s'avèrent souvent cohérés à une origine sociale/biologique/culturelle,... Bref, à l'histoire par laquelle et dans laquelle l'individu s'est construit.

[Invité]

L'IA peut-elle vraiment remplacer la graphologie ?

[_Bérenger_]

Les processus de recrutement actuels sont parfois tellement non-intelligents, que les remplacer par des processus avec une (non-)intelligence artificielle ne devrait pas changer grand-chose...

[Invité]

Est-il possible de créer une intelligence artificielle qui n’exhibe pas de biais ?

oui, c'est possible :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
Personne recruter(vector<Personne> vp) {
    return random(vp);
}

[Invité]

Les quelques tentatives d'utilisation d'IA dans ce genre de domaine ont montré que ces algorithmes décisionnels doivent être artificiellement biaisés par des quotas pour ne pas finir par exclure certains profils qui, quoi qu'en disent les bonnes âmes, s'avèrent souvent cohérés à une origine sociale/biologique/culturelle,... Bref, à l'histoire par laquelle et dans laquelle l'individu s'est construit.

Certes, mais dans ce cas ce sont des biais justifiés, qui sont corrigés par les quotas.
Si l'intégration de l'IA peut permettre d'éviter les biais qu'on peut avoir involontairement, même avec les meilleures intentions du monde, et qui ne sont pas forcément justifiés, moi je dis pourquoi pas.

[epimannn]

A partir du moment où on parle de respecter des quotas, c'est qu'on sacrifie la qualité à la quantité.
Donc si on doit faire respecter à une IA des quotas, soit il y a un problème avec le pool de départ, soit c'est l’algorithme qui ne respect pas des critères objectifs.

Si par contre, on se retrouve quand même avec un résultat "biaisé", par exemple, plus de femme pour les postes d'infirmier et plus d'homme pour des postes d'électricien, avec des critères objectifs uniquement sur les compétences, c'est pas un problème de biais de l'IA qui fait de la discrimination parce qu'elle a été codé par le système patriarcale blanc raciste et sexiste , mais du pool de départ et que la sélection reflète cette disparité homme/femme dans le pool de départ dans mon exemple.

[foetus]

oui, c'est possible

Tu me déçois Les algos génétiques devraient être parfaits.

La population de base est composée de

• X% de "réseau" (ou piston) (critère recommandation : 5)
• Y% de jeunes diplômés et de ceux qui coûtent le moins chers/ les plus malléables comme les chômeurs de longue durée ou les reconversions (critère recommandation : 3)
• Z% de profils correspondants (<- un vieux SELECT sur "un vivier" et un seuil minimum profil (soit à peu près 90%)) (critère recommandation : -1)

avec X >> Y >> Z

Et à chaque génération , soit tu prends ceux ayant le meilleur profil soit les plus recommandés et tu combines les populations faisant le plus de marge.

[Invité]

A partir du moment où on parle de respecter des quotas, c'est qu'on sacrifie la qualité à la quantité.
Donc si on doit faire respecter à une IA des quotas, soit il y a un problème avec le pool de départ, soit c'est l’algorithme qui ne respect pas des critères objectifs.

Pas forcément. Si on se rend compte par exemple que l'IA n'embauche que des diplômés de tel type d'école parce que la formation répond bien aux besoins de la boîte, mais qu'on préférerait embaucher aussi d'autres profils pour une raison X ou Y (apporter un regard extérieur à une équipe, par exemple), là les quotas prennent tout leur sens. La discrimination faite par l'IA à la base est justifiée par les besoins du poste, mais il y a d'autres paramètres qu'on n'a pas forcément pu lui faire ingérer. Les quotas peuvent corriger ça (sans parler de blancs ou de mâles).

[epimannn]

Pas forcément. Si on se rend compte par exemple que l'IA n'embauche que des diplômés de tel type d'école parce que la formation répond bien aux besoins de la boîte, mais qu'on préférerait embaucher aussi d'autres profils pour une raison X ou Y (apporter un regard extérieur à une équipe, par exemple), là les quotas prennent tout leur sens. La discrimination faite par l'IA à la base est justifiée par les besoins du poste, mais il y a d'autres paramètres qu'on n'a pas forcément pu lui faire ingérer. Les quotas peuvent corriger ça (sans parler de blancs ou de mâles).

Tu sacrifies la qualité à la quantité pour une raison subjective. Ou alors, c'est que tu as mal défini ton besoin de départ et tes critères de sélection sont à revoir.

Ces IA sont apparues pour répondre aux critiques de présumées discrimination à l'emploi des minorités aux USA. Faut voir ce que le mouvement féministe fait comme ravage là-bas sur ces sujets ( et à la population, ç'est arrivé en france surtout avec #metoo ). J'ai pas été lire l'article original, je peux me tromper, mais faut bien voir dans quel contexte cette news apparait. Et c'est subtilement suggéré que c'est pour répondre à ce problème de manque de diversité imposé par la "société-patriarcale-privilégiée-de-mâle-blanc-raciste-et-sexiste" ( l'argument qu'il n'y a pas assez de femme dans le top 500 des CEO est un des arguments phare des féministes US ). Le problème avec les individus de cette mouvance, c'est que même si on applique ces systèmes, ils vont encore trouver le moyen de ramener ça au "patriarcat-privilégié-de-mâle-blanc-raciste-et-sexiste" et de dire non à cette solution parce qu'il y a pas eu assez de femme, d'asiatiques, de genre "non femme et non homme parce que j'ai décidé d'être ni l'un ni l'autre", d'arabe, de noir et d'autres trucs qui me passent au dessus de la tête, dans l'équipe de développement de l'IA...

Jvoulais pas trop aborder ce sujet très politique, mais c'est pour expliquer d'où vient mon raisonnement. Ton raisonnement en France est tout à fait valide ( pour le moment, tu vas voir d'ici quelques années on va se la manger la vague féministe américaine en pleine dent et elles ont commencer avec la grammaire inclusive et d'autres absurdités dans les lois, comme aux USA )

[Hizin]

Ca présuppose aussi que l'offre d'emploi est claire et nette et que le besoin est clairement identifié.
Je ne pense pas être le seul à avoir passé un entretien (heureusement téléphonique) pour des postes n'ayant à peu de choses près strictement rien à voir avec soit mes compétences, soit l'offre d'emploi publiée.

On aura beau faire l'IA (ou l'aide décisionnelle) la meilleure, si le besoin de base est à côté de ses pompes, ça ne va pas changer grand chose :/

[den66]

Je trouve indécent, voire stupide de parler d'IA par-ci, d'IA par là, quand à la fin du compte on parle simplement d'algorithme ("L’algorithme effectue uniquement des correspondances sur la base des données qui lui sont fournies").

TOUS CES ALGORITHMES NE SONT PAS DES INTELLIGENCES (pas même artificielles). Dès que trois lignes de code "décident" de quelque chose, on parle d'intelligence artificielle ! Mais dans ce cas, mon shangai.swf qui décide si mon choix de cube est bien agencé est aussi une intelligence artificielle !

Vous le dites vous-même "L’algorithme effectue uniquement". UNIQUEMENT. Alors, pourquoi parler d'IA ? Sensationnalisme ? Volonté politique de nous faire croire que nous sommes dans un monde qui ne nous appartient plus ? Sincèrement, j'aimerais bien comprendre d'où vient cette mode, à quoi elle sert ?

[Invité]

Tu sacrifies la qualité à la quantité pour une raison subjective. Ou alors, c'est que tu as mal défini ton besoin de départ et tes critères de sélection sont à revoir.

C'est fort probable. N'oublions pas que ce sont des ressources humaines, donc complexes. Tu ne parviens pas forcément à définir précisément tes besoins au départ. Pour certains postes clés et pour lesquels le côté social est particulièrement important, l'entretien est déterminant. L'IA trie simplement les CV dans le cas de cet article, mais à l'entretien tu peux avoir envie de voir des profils différents pour affiner tes besoins et mieux les définir par la suite.

Ces IA sont apparues pour répondre aux critiques de présumées discrimination à l'emploi des minorités aux USA.

Peu importe, j'ai envie de dire. Chaque culture a ses propres biais, et si on est un recruteur consciencieux, on essaie d'en faire abstraction. Pour moi, l'IA peut très possiblement aider les recruteurs. Si tu tries ta pile de 500 CV manuellement et que ça fait 50 CV que tu lis qui te viennent du pôle emploi et qui ne correspondent pas du tout (exemple fictif bien sûr), tu mets les 150 CV restants du pôle emploi à la poubelle et tu concentres tes efforts sur les autres, Il y en avait peut-être 5 que tu as jetés injustement dont, qui sait, celui de la perle rare, mais tu as gagné 3 heures.

Jvoulais pas trop aborder ce sujet très politique, mais c'est pour expliquer d'où vient mon raisonnement.

J'avais bien compris, mais il me semble important de ne pas non plus tomber dans le raisonnement strictement inverse à la discrimination positive. Ni l'un ni l'autre n'apporteront rien de bon. On est heureusement assez loin de la situation catastrophique aux US (quoique, ça se discute), mais dans tous les cas, plus le recruteur est objectif (pour ça, il faut qu'il ait le temps nécessaire), mieux l'entreprise peut se porter.

[Jipété]

Il y en avait peut-être 5 que tu as jetés injustement dont, qui sait, celui de la perle rare, mais tu as gagné 3 heures.

Tu as gagné 3 heures sur le moment, mais combien de temps perdu ensuite sur le long terme pour être passé à côté de la perle rare ?
Comme je dis toujours à mon fils (qui bricole dans le monde de l'éclairage de scène), vaut mieux perdre 5 minutes avant à survérifier un truc suspect que 30 minutes ou plus après, avec le truc suspect qui t'aura pété à la figure, loi de Murphy oblige.

mais à l'entretien tu peux envie de voir

[Mat.M]

Tu as gagné 3 heures sur le moment, mais combien de temps perdu ensuite sur le long terme pour être passé à côté de la perle rare ?

je suis bien d'accord mais c'est quoi la perle rare ?
Si on parle de "perle rare" c'est que le marché de l'emploi du numérique et de l'informatique ne recrute pas tant que ça alors et il y a peu de postes à pourvoir en définitif.

[epimannn]

C'est un autre problème ça le marché de l'emploi...
Là, on parle juste du recrutement. Et dans l'optique de ce recrutement, on peut tomber sur des "star player" si on cherche suffisamment bien, et c'est un peu la quête de tout recruteur de tomber sur ces "star players". C'est pas juste la perle qui complète le collier pour un emplacement particulier une perle rare, c'est aussi et surtout un employé qui va faire avancer l'entreprise par ce qu'il apporte.
Et la seule métrique que les employeurs ont trouvé pour détecter de potentiels "star players" c'est le niveau d'étude et l'étendue de ses connaissances.

C'est généralement très maladroitement appliqué dans la programmation d'après ce que j'ai compris en lisant developpez.com, je suis d'abord un technicien réseau informatique ( un peu l'homme à tout faire dans l'entreprise tant que ça intéresse pas l'administrateur réseau ).

L'IA pourrait aider à les trouver si elle fait plus que simplement trier les CV sur des caractères objectifs. Mais il faudrait d'abord l'entrainer à reconnaitre les "star players" et trouver ce qu'ils ont en commun pour tenter de les dénicher... Et du peu que je sais sur le sujet... Les star players ça se trouve par pur hasard... Le bon employé, au bon endroit, au bon moment, dans la bonne équipe... Et je doute que l'IA soit capable pouvoir prendre en compte tous ces paramètres... En tout cas, celle qui sont rpésentées dans cet article, car le marketing met l'accent sur la neutralité de la sélection sur des caractères sociaux ( origine, sexe, couleur de peau ) et non sur la capacité à détecter les "star players".

[Mat.M]

C'est un autre problème ça le marché de l'emploi...
Là, on parle juste du recrutement.

je suis bien d'accord mais oui et non.
Parce que le sujet c'est l'IA dans les processus de recrutement or les processus de recrutement font partie de la dynamique du marché de l'emploi.
Ensuite comment définir avec des systèmes informatiques des "bons" candidats.
Sur quels critères peut-on se baser ?
Si je mets sur mon CV que j'ai 2 ans d'expérience en Java par exemple est-ce la réalité ?

[epimannn]

Ce n'est pas le propos de l'article ni des IA proposées par les 3 entreprises en question...
Le propos de l'article c'est l'équité de recrutement homme/femme dans la technologie et les CEO du top 500.
Et les "IA" proposées sont censée résoudre ce problème de représentation. Pas savoir si les compétences du CV sont vraies ou non.
D'ailleurs, si les recruteurs croyaient sur parole les CV, y aurait pas d'entretien d'embauche ou de période d'essai ( en tout cas en france, aux USA je sais pas comment ça marche ).

Edit:

Quant à savoir ce qu'est un bon candidat et donc un bon employé, ça renvoie un peu au facteur chances et incontrolables dont je parlais au sujet des "star players". Un bon employé, ça serait plus la définition de la "perle rare" l'employé qui comble un besoin spécifique dans le collier de l'entreprise, et le "star player" celui qui fait décoller l'entreprise par ces seules compétences. ( Après on peut débattre de ces définitions )

[Mat.M]

Ce n'est pas le propos de l'article ni des IA proposées par les 3 entreprises en question...

j'aimerais bien savoir pourquoi ce n'est pas le propos...peut-être faudrait-il savoir de quoi on parle et définir les choses.
lorsqu'on conçoit un système informatique il faut s'appuyer sur des choses concrètes et tangibles sinon le système ne fonctionne pas.
Ensuite pour s'appuyer sur des choses tangibles il faut définir les choses avec précision c'est là la phase où on fait les spécifications,l'architecture,la conceptualisation du projet.
Quand on fait des lignes de code donc de la programmation il est obligatoire de tout définir, les classes d'objets "mutantes" c.a.d. dont la structure varie au cours de l'utilisation mises à part.
Mais en utilisant des entités mutantes là c'est le risque de faire un projet difficilement contrôlable c'est la porte ouverte à des choses pléthoriques et hétérogènes.
Sans cela j'en conclus que l'IA c'est un truc marketing totalement bidon.