La gestion des ressources humaines : de l’équilibre à trouver entre audace et prudence, du péril des discriminations aux garde-fous du règlement européen…
L’enjeu de l’audaceest deprofiter des avantages permis par les nouvelles technologies d’IA et d’automatisation (gains de productivité et surtout nouvelles opportunités et nouveaux modèles d’affaire) mais avec la prudence qui s’impose. L’entreprise cherche, ne serait-ce qu’à titre défensif, à rester compétitive.
L’enjeu de la prudence est decomprendre et respecter la réglementation, ce qui n’est pas toujours facile compte tenu des évolutions rapides des différentes lois et règlements nationaux et européens. En effet, sans mauvaise intention de sa part et sans s’en rendre compte, vu l’opacité des systèmes qui sont de véritables boîtes noires, l’entreprise qui recrute et gère son personnel, avec l’aide d’IA, peut être poursuivie au Conseil de prud’hommes par des salariés ou des candidats, éventuellement soutenus par des syndicats de travailleurs défendant l’intérêt de la profession. D’ores et déjà, c’est légalement possible sur le fondement du Code du travail et du RGPD.
Je suis intervenu au Business Legal Forum sur ces sujets, il y a un couple d’années et j’ai été interviewé par le magazine HEC stories.
La législation actuelle face aux nouvelles pratiques des entreprises
Le Code du travail français pose déjà depuis longtemps le principe de non- discrimination. Les article L. 1131-1 à L. 1134-5 du Code du travail traitent de la discrimination.
L’article L. 1132-1 prévoit qu’aucun salarié ne peut être sanctionné, licencié ou faire l’objet d’une mesure discriminatoire, directe ou indirecte en raison d’un certain nombre de raisons dont la liste exhaustive mérite d’être relue. Outre les opinions politiques et l’appartenance syndicale, on y trouve notamment : l’âge, le sexe, les moeurs, l’origine, le lieu de résidence ainsi que l’orientation sexuelle et l’identité de genre.
Il faut savoir que la charge de la preuve est la suivante : le demandeur doit simplement apporter des élements factuels qui laissent supposer une possible discrimination, charge alors à l’employeur de prouver que les différences de traitement sont justifiées par des éléments objectifs pertinents et non discriminatoires. Et le demandeur peut exiger par joie judiciaire que l’entreprise communique des éléments de comparaison plus ou moins anonymisés, avec d’autres candidats ou salariés (évolution de carrière, niveau de rémunération etc.). L’entreprise doit y prendre garde.
L’article 22 du RGPD dispose que la personne concernée a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques la concernant ou l’affectant de manière significative de façon similaire.
Les entreprises se sont déjà pour quelques unes ruées sur ces systèmes IA de gestion RH, par souci d’économie, de plus de qualité dans leur procesus ou même “d’amélioration de l’expérience client et salarié” (sic). Et ce, parfois au mépris de tout principe de précaution… Ou même en enfreignant les lois déjà existantes. Les éditeurs de logiciels et sociétés de service ne sont pas en reste pour les inciter dans cette course à “l’innovation” pour “devancer la concurrence”. Course où chacun risque in fine de faire du surplace en provoquant un recul social global (Hartmut Rosa).
Amazon a géré les candidatures automatiquement entre 2014 et 2018 : ce fut un écheccuisant. Comme le relevait un groupe de mes étudiants dans le master international de l’IAE Montpellier où j’encadrais leurs travaux. Amazon avait mis en place un système de filtrage et d’évaluation des candidats par score, avant de l’abandonner face à l’ampleur des biais du système, désavantageant les femmes (Dastin, 2018). Cette expérience montre qu’il n’est pas possible de pallier les biais par des moyens techniques, quand ils sont enkystés dans les données d’entraînement. Comme le soulignent Raghavan et al. (2020), pallier les biais ne requière pas seulement des ajustements algorithmiques, mais de reconsidérer radicalement les données, les usages, la gouvernance et le niveau d’automatisation… en laissant une part de décisions humaines.
Le défi auquel est confronté le législateur est de ne pas pénaliser la vie des affaires et la compétitivité française et européenne tout en encadrant les systèmes automatiques permis par les récents progrès technologiques pour prévenir les graves et très probables dérives en matière de droits fondamentaux.
Les garde-fous du règlement européen en cours d’adoption
Le règlement européen sur les systèmes d’intelligence artificielle (RIA) prévoit, pour les systèmes classés à haut risque, un certain nombre de dispositions contraignantes pour les entreprisesafin de protéger la santé, la sécurité et les droits fondamentaux des personnes. Parmi les principaux points à gérer doivent figurer une gestion des risques tout au long du cycle de vie, la qualité des données, la documentation technique, la supervision humaine et la surveillance après mise sur le marché.
Les systèmes RH utilisés pour le recrutement et la gestion de carrière sont concernés car ils sont classés à haut risque. Les dispositions du règlement devaient s’appliquer dès le 2 août 2026 mais cette date est repoussée au 2 décembre 2027.
Les garde-fous prévus par le RIA (l’IA Act) s’appliqueront à partir du 2 décembre 2027 pour tous les systèmes de gestion du recrutement et des carrières (cf. en fin d’article pour plus de précisions). Voilà qui donne un peu de répit aux entreprises afin de s’y préparer. En effet, devant l’inquiétude des milieux patronaux et du lobbying des éditeurs de logiciel, la Communauté européenne a simplifié certaines obligations et en a retardé l’application (c’est le « train de mesures omnibus » adopté en mars 2026).
Le rôle des autres acteurs institutionnels
Sans oublier le rôle des différents acteurs institutionnels en matière d’information et incitations, comme la CNIL (l’agence de l’État français en charge du sujet), l’INRIA (avec son Labor’IA), l’ANACT sur les conditions de travail, les organisations professionnelles patronales et syndicales, les universités et instituts de recherche (le CNAM avec notamment les ouvrages et MOOC de Michel Miné, titulaire de la chaire droit du Travail et droits de la personne), le Conseil économique social et environnemental (le CESE), le ministère du travail et l’inspection du travail (DREETS / DRIEETS) etc.
Le respect de la législation, un enjeu complexe pour les firmes multinationales
À noter que l’entreprise IBM Corporationdéclare respecter les lois des pays dans lesquelles elle opère. Par exemple, concernant la gestion des ressources humaines pour les résidents de New York City aux États-Unis, la réglementation NYC 144 qui encadre par un audit anti-biais l’usage de systèmes automatiques de décisions concernant le personnel : « Organizations are increasingly considering the use of Artificial Intelligence (“AI”) tools to enhance internal business processes. Applying AI to human resource operations is no exception. The use of AI tools to help determine who to hire, whom to fire, and who should be promoted raises a host of labor and employment issues, and implicates new state and municipal privacy statutes including, in particular, NYC Local Law 144 (“NYC 144”) which takes effect on July 5, 2023. NYC 144, and the regulations implementing the statute, require that employers that use an automated employment decision tool or “AEDT” to assist with employment decisions confirm that such tools have undergone a “bias audit.”
Sources et bibliographie
Sur la règlementation européenne
Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle.
Selon l’annexe III du règlement, sont à haut risque, dans le domaine de l’emploi, gestion de la main-d’œuvre et accès à l’emploi indépendant les systèmes suivants : a) systèmes d’IA destinés à être utilisés pour le recrutement ou la sélection de personnes physiques, en particulier pour publier des offres d’emploi ciblées, analyser et filtrer les candidatures et évaluer les candidats ; b) systèmes d’IA destinés à être utilisés pour prendre des décisions influant sur les conditions des relations professionnelles, la promotion ou le licenciement dans le cadre de relations professionnelles contractuelles, pour attribuer des tâches sur la base du comportement individuel, de traits de personnalité ou de caractéristiques personnelles ou pour suivre et évaluer les performances et le comportement de personnes dans le cadre de telles relations.
Amendements du parlement européen, adoptés le 26 mars 2026.
Sur le droit en général et le droit du travail en particulier
Heinich, Julia, Porchy-Simon, Stéphanie, sous la direction de Xavier Lagarde (2025) Initiation aux études juridiques. Un ouvrage universitaire de référence richement illustré à destination de tous ceux qui s’engagent à étudier le droit. Il y a quelques pages sur les évolutions de la justice face à l’IA dont le sujet de la justice prédictive.
Miné, Michel (2025), Le Grand Livre du Droit du Travail,éditions EYROLLES. Une référence incontournable pour rendre intelligible la complexité du droit du travail français.
Sur les travaux en sciences du management à l’heure de l’IA
Herring (2009), Does Diversity Pay? : cette étude sur plus de 500 entreprises américaines conclut que la diversité raciale, de genre et d’âge est associée à de meilleurs indicateurs économiques, notamment chiffre d’affaires, nombre de clients et résultats.
Raghavan, M., Barocas, S., Kleinberg, J., & Levy, K. (2020). Mitigating bias in algorithmic hiring: evaluating claims and practices.FAT* ’20: Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency, 469–481. https://doi.org/10.1145/3351095.3372828
Ce glossaire a été préparé par Tudual Lucas Huon, conseiller juridique. Suivre le lien linkedIn.
Et enfin, pour terminer, une vidéo datant de 2017 de Cathy O’Neil expliquant pourquoi l’ère de la confiance aveugle dans le big data et l’IA doit finir…
The era of blind faith in big data must end
Cet article est publié sous le nom de son auteur (l’article n’engage pas les organisations auxquelles il pourrait appartenir). Il n’a pas valeur de conseil juridique – sous réserve d’erreurs et d’omissions.
