Gestion du personnel et systèmes d’IA : du péril des discriminations aux garde-fous du règlement européen
Le règlement européen sur les systèmes d’intelligence artificielle prévoit, pour les systèmes classés à haut risque, un certain nombre de dispositions contraignantes pour les entreprises. Les systèmes RH utilisés pour le recrutement et la gestion de carrière sont concernés car ils sont classés à haut risque. Les dispositions du règlement devaient s’appliquer dès le 2 août 2026 mais cette date est repoussée au 2 décembre 2027.
Autrement dit, les garde-fous prévus par l’IA Act s’appliqueront à partir du 2 décembre 2027 pour tous les systèmes de gestion du recrutement et des carrières (cf. en fin d’article pour plus de précisions).
Voilà qui donne un peu de répit aux entreprises afin de s’y préparer.
En effet, devant l’inquiétude des milieux patronaux et du lobbying des éditeurs de logiciel, la Communauté européenne a simplifié certaines obligations et en a retardé l’application (c’est le « train de mesures omnibus » adopté en mars 2026).
Quel est l’enjeu ? Ne pas pénaliser la vie des affaires et la compétitivité européenne tout en encadrant les systèmes automatiques permis par les récents progrès technologiques pour prévenir les graves et très probables dérives en matière de droits fondamentaux.
Le Code du travail français pose déjà depuis longtemps le principe de non- discrimination. L’article L.1132-1 prévoit qu’aucun salarié ne peut être sanctionné, licencié ou faire l’objet d’une mesure discriminatoire, directe ou indirecte en raison d’un certain nombre de raisons dont la liste exhaustive mérite d’être relue. Outre les opinions politiques et l’appartenance syndicale, on y trouve notamment : l’âge, le sexe, les moeurs, l’origine, le lieu de résidence ainsi que l’orientation sexuelle et l’identité de genre.
Les entreprises se sont déjà pour quelques unes ruées sur ces systèmes IA de gestion RH, par souci d’économie, de plus de qualité dans leur procesus ou même “d’amélioration de l’expérience client et salarié” (sic). Et ce, parfois au mépris de tout principe de précaution… Ou même en enfreignant les lois déjà existantes. Les éditeurs de logiciels et sociétés de service ne sont pas en reste pour les inciter dans cette course à “l’innovation” pour “devancer la concurrence”. Course où chacun risque in fine de faire du surplace en provoquant un recul social global (Hartmut Rosa).
Amazon a géré les candidatures automatiquement entre 2014 et 2018 : ce fut un échec cuisant. Comme le relevait un groupe de mes étudiants dans le master international de l’IAE Montpellier où j’encadrais leurs travaux. Amazon avait mis en place un système de filtrage et d’évaluation des candidats par score, avant de l’abandonner face à l’ampleur des biais du système, désavantageant les femmes (Dastin, 2018). Cette expérience montre qu’il n’est pas possible de pallier les biais par des moyens techniques, quand ils sont enkystés dans les données d’entraînement. Comme le soulignent Raghavan et al. (2020), pallier les biais ne requière pas seulement des ajustements algorithmiques, mais de reconsidérer radicalement les données, les usages, la gouvernance et le niveau d’automatisation… en laissant une part de décisions humaines.
Le règlement européen sur l’IA encadrera les systèmes à haut risque pour protéger la santé, la sécurité et les droits fondamentaux. Parmi les principaux figurent une gestion des risques tout au long du cycle de vie, la qualité des données, la documentation technique, la supervision humaine et la surveillance après mise sur le marché.
Pour les entreprises, il y a plusieurs enjeux majeurs :
Le premier enjeu est de comprendre et respecter la réglementation, ce qui n’est pas toujours facile compte tenu des évolutions rapides des différentes lois et règlements nationaux et européens.
Le second enjeu est de profiter des avantages permis par ces technologies mais avec la prudence qui s’impose. Sans mauvaise intention de sa part et sans s’en rendre compte, vu l’opacité des systèmes qui sont de véritables boîtes noires, l’entreprise qui recrute et gèrer son personnel, avec l’aide d’IA, peut être poursuivi au Conseil de prud’hommes par des salariés ou des candidats, éventuellement soutenus par des syndicats de travailleurs défendant l’intérêt de la profession. D’ores et déjà, c’est légalement possible sur le fondement du Code du travail et du RGPD.
Or, en matière de discrimination, en France, la charge de la preuve est la suivante : le demandeur doit simplement apporter des élements factuels qui laissent penser à une possible discrimination, charge alors à l’employeur de prouver que les différences de traitement sont justifiées par des éléments objectifs pertinents et non discriminatoires. Et le demandeur peut exiger par joie judiciaire que l’entreprise communique des éléments de comparaison plus ou moins anonymisés, avec d’autres candidats ou salariés (évolution de carrière, niveau de rémunération etc.). L’entreprise doit y prendre garde.
Le troisième enjeu est de maintenir le niveau de confiance et d’engagement de ses salariés, et d’éviter les effets négatifs sur l’image de marque.
Le quatrième enjeu pour l’entreprise, sans doute le plus important, est de préserver une diversité dans ses effectifs. C’est le fondement du succès économique. La plupart des études sur le sujet montrent une corrélation robuste entre diversité et performance (Herring, 2009). D’autant qu’il est difficile de prévoir quelles sont les compétences qui seront indispensables demain. De plus la compétence n’est pas une matière purement individuelle, mais d’équipe ou d’organisation. La seule définition des rôles et des compétences associés à un poste, à laquelle s’accrochent la plupart des entreprises, trouve rapidement ses limites dans la vie réelle.
Quant aux syndicats de salariés, ils ont bien entendu un rôle à jouer, même si leurs adhérents sont plus souvent préoccupés par le maintien de l’emploi et les augmentations de salaire que par les questions d’intérêt commun et de non-discrimination.
Tout d’abord, s’approprier les évolutions technologiques, leurs enjeux et leurs impacts, afin de pouvoir jouer le rôle traditionnel de contrepouvoir au sein de l’entreprise (limité certes, mais tangible). De lancer si nécessaire des alertes et servir d’aiguillon pour que les bénéfices des innovations soient partagés. Pour leurs adhérents, leurs électeurs (aux élections professionnelles) et plus largement dans l’intérêt collectif (qu’ils se retrouvent parfois, paradoxalement, les seuls à défendre).
À noter les possibilités d’expertise offertes aux Comités Sociaux et Économiques, dans les entreprises d’une certaine taille qui en sont dotées. Ils peuvent missionner des cabinets d’expert agréés pour questionner les projets d’automatisation ou de changements organisationnels. Et jouer ainsi pleinement leur rôle dans le cadre des obligations d’information et consultation (il y a déjà eu des jurisprudences suspendant des projets IA, au Tribunal Judiciaire, par exemple en référé pour non respect de procédure d’information consultation du CSE).
Ce rôle des syndicats et élus du personnel est important, car ce sont des procès retentissants intentés par les salariés, les acteurs de la société civile et les syndicats qui pourront servir d’exemples et d’avertissements aux entreprises imprudentes. La peur du gendarme…
Sans oublier le rôle des différents acteurs institutionnels en matière d’information et incitations, comme la CNIL (l’agence de l’État français en charge du sujet), l’INRIA (avec son Labor’IA), l’ANACT sur les conditions de travail, les organisations professionnelles patronales et syndicales, les universités et instituts de recherche (le CNAM avec notamment les ouvrages et MOOC de Michel Miné), le Conseil économique social et environnemental etc.
Sources :
Sur la règlementation européenne
- Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 (règlement sur l’intelligence artificielle) (Texte présentant de l’intérêt pour l’EEE)
Selon l’annexe III du règlement, sont à haut risque, dans le domaine de l’emploi, gestion de la main-d’œuvre et accès à l’emploi indépendant les systèmes suivants : a) systèmes d’IA destinés à être utilisés pour le recrutement ou la sélection de personnes physiques, en particulier pour publier des offres d’emploi ciblées, analyser et filtrer les candidatures et évaluer les candidats ; b) systèmes d’IA destinés à être utilisés pour prendre des décisions influant sur les conditions des relations professionnelles, la promotion ou le licenciement dans le cadre de relations professionnelles contractuelles, pour attribuer des tâches sur la base du comportement individuel, de traits de personnalité ou de caractéristiques personnelles ou pour suivre et évaluer les performances et le comportement de personnes dans le cadre de telles relations. - Amendements du parlement européen, adoptés le 26 mars 2026.
Sur les travaux en sciences humaines (sociologie du travail ou management)
- Dastin, J. (2018, October 11). Insight – Amazon scraps secret AI recruiting tool that showed bias against women. Reuters. https://www.reuters.com/article/world/insight-amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK0AG/
- Hartmut, Rosa Accélération, une critique sociale du temps et Aliénation et Accélération, vers une critique de la modernité tardive et Résonance, une sociologie de la relation au monde, le sociologue allemand.
- Herring (2009), “Does Diversity Pay?” : cette étude sur plus de 500 entreprises américaines conclut que la diversité raciale, de genre et d’âge est associée à de meilleurs indicateurs économiques, notamment chiffre d’affaires, nombre de clients et résultats.
- Raghavan, M., Barocas, S., Kleinberg, J., & Levy, K. (2020). Mitigating bias in algorithmic hiring: evaluating claims and practices. FAT* ’20: Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency, 469–481. https://doi.org/10.1145/3351095.3372828
Cet article est publié sous le nom de son auteur (et n’engage pas les organisations auquel il pourrait appartenir). Il n’a pas valeur de conseil juridique – sous réserve d’erreurs et d’omissions.