Editions ENI Livres | Vidéos | e-Formations
IA et emploi
Introduction
Qu’il s’agisse de scanner des CV ou d’augmenter un salaire, l’IA peut, par sa puissance d’analyse, constituer un véritable outil d’aide à la gestion des ressources humaines.
Or, c’est justement lorsqu’elle assiste les entreprises dans la prise de décision que l’IA crée les risques les plus élevés.
En effet, en excluant un candidat d’un processus de recrutement ou en déterminant le montant d’une prime, l’IA prend des décisions susceptibles d’avoir des conséquences juridiques importantes tant sur les individus que sur les entreprises utilisatrices.
Classée parmi les IA à haut risque par la Commission Européenne1, l’IA appliquée à l’emploi doit donc faire l’objet d’une gestion efficace des risques tant par les éditeurs de logiciels que par les entreprises utilisatrices.
État des lieux
Dans le monde du travail, l’IA est utilisée aussi bien lors du processus de recrutement que dans le cadre de l’exécution du contrat de travail.
1. IA et recrutement
Appliquée au recrutement, l’IA répond à trois besoins majeurs.
D’une part, l’IA peut servir à optimiser les offres d’emploi postées par les entreprises.
En s’entraînant sur la base de l’ensemble des annonces publiées, l’IA est capable d’adapter le langage de l’offre d’emploi au profil recherché.
Ce faisant, l’IA permet aux recruteurs d’économiser le temps de rédaction de l’annonce et, par là même, de se concentrer sur les tâches qui ne pourront pas être déléguées à l’IA.
C’est toutefois lorsqu’elle scanne les candidatures que l’IA crée le plus de risques pour les entreprises.
En effet, lorsque l’IA a été entraînée sur un jeu de données qui n’a pas été suffisamment éprouvé ou qu’elle présente, de par sa programmation même, des biais algorithmiques, elle est susceptible d’exclure des candidats pourtant qualifiés sur la base de critères discriminants.
À titre d’exemple, le scanneur de candidatures d’Amazon...
Recommandations
Dans le monde du travail, le recours à l’IA nécessite la mise en place d’un système efficace de gestion des risques.
1. Anticiper l’application du règlement européen sur l’intelligence artificielle
L’annexe 2 du projet de Règlement européen sur l’intelligence artificielle classe le domaine de l’emploi dans les secteurs parmi lesquels l’IA présente un niveau de risque élevé.
Appliquée à l’emploi, l’IA pourrait donc être soumise à un régime juridique contraignant imposant notamment aux éditeurs de solution de mettre en place un système efficace de gestion du risque.
Ce système devra notamment permettre :
-
d’identifier les risques9 ;
-
de tester les jeux de données sur lesquels l’IA va s’entraîner ;
-
de mettre en place une documentation technique10 ;
-
de mettre en place un système de logs permettant de tracer les décisions prises par la machine11 ;
-
de garantir la transparence en informant les personnes concernées12 ;
-
de présenter des garanties suffisantes en termes de robustesse, de pertinence et de cybersécurité13.
Afin d’anticiper l’entrée en vigueur de ce régime, les éditeurs d’IA sont invités, a minima, à se doter d’une documentation...
Notes
1 Projet de règlement européen sur l’IA du 21 avril 2021, Annexe 2
2 https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G
3 Recommandation relative à la collecte et au traitement d’informations nominatives lors d’opérations de recrutement, délibération 02-017 du 21 mars 2002
4 Art. L1132-1 du Code du travail
5 https://www.vox.com/recode/2019/12/12/20993665/artificial-intelligence-ai-job-screen
7 "Comme un patron, Uber dirige, contrôle et sanctionne", G. Haas, M. Torelli, 6 mars 2020
10 Article 11
11 Article 12
12 Article 13
13 Article 15
14 Art. L.2312-38 du Code du travail
15 Art. L.2312-38 du Code du travail
