Gestion du personnel et syst\u00e8mes d\u2019IA\u00a0: du p\u00e9ril des discriminations aux garde-fous du r\u00e8glement europ\u00e9en<\/p>\n\n\n\n
Le r\u00e8glement europ\u00e9en sur les syst\u00e8mes d\u2019intelligence artificielle<\/strong> pr\u00e9voit, pour les syst\u00e8mes class\u00e9s \u00e0 haut risque<\/strong>, un certain nombre de dispositions contraignantes pour les entreprises. Les syst\u00e8mes RH utilis\u00e9s pour le recrutement et la gestion de carri\u00e8re sont concern\u00e9s car ils sont class\u00e9s \u00e0 haut risque. Les dispositions du r\u00e8glement devaient s\u2019appliquer d\u00e8s le 2 ao\u00fbt 2026 mais cette date est repouss\u00e9e au 2 d\u00e9cembre 2027<\/strong>.<\/p>\n\n\n\n Autrement dit, les garde-fous pr\u00e9vus par l\u2019IA Act s\u2019appliqueront \u00e0 partir du 2 d\u00e9cembre 2027 <\/strong>pour tous les syst\u00e8mes de gestion du recrutement et des carri\u00e8res (cf. en fin d\u2019article pour plus de pr\u00e9cisions).<\/p>\n\n\n\n Voil\u00e0 qui donne un peu de r\u00e9pit aux entreprises afin de s\u2019y pr\u00e9parer.<\/p>\n\n\n\n En effet, devant l\u2019inqui\u00e9tude des milieux patronaux et du lobbying des \u00e9diteurs de logiciel, la Communaut\u00e9 europ\u00e9enne a simplifi\u00e9 certaines obligations et en a retard\u00e9 l\u2019application (c\u2019est le \u00ab train de mesures omnibus \u00bb adopt\u00e9 en mars 2026).<\/p>\n\n\n\n Quel est l\u2019enjeu ? <\/strong>Ne pas p\u00e9naliser la vie des affaires et la comp\u00e9titivit\u00e9 europ\u00e9enne tout en encadrant les syst\u00e8mes automatiques permis par les r\u00e9cents progr\u00e8s technologiques pour pr\u00e9venir les graves et tr\u00e8s probables d\u00e9rives en mati\u00e8re de droits fondamentaux.<\/p>\n\n\n\n Le Code du travail fran\u00e7ais pose d\u00e9j\u00e0 depuis longtemps le principe de non- discrimination<\/strong>. L\u2019article L.1132-1 pr\u00e9voit qu\u2019aucun salari\u00e9 ne peut \u00eatre sanctionn\u00e9, licenci\u00e9 ou faire l’objet d’une mesure discriminatoire, directe ou indirecte en raison d\u2019un certain nombre de raisons dont la liste exhaustive m\u00e9rite d\u2019\u00eatre relue. Outre les opinions politiques et l\u2019appartenance syndicale, on y trouve notamment : l\u2019\u00e2ge, le sexe, les moeurs, l\u2019origine, le lieu de r\u00e9sidence ainsi que l\u2019orientation sexuelle et l\u2019identit\u00e9 de genre.<\/p>\n\n\n\n Les entreprises se sont d\u00e9j\u00e0 pour quelques unes ru\u00e9es sur ces syst\u00e8mes IA de gestion RH<\/strong>, par souci d\u2019\u00e9conomie, de plus de qualit\u00e9 dans leur procesus ou m\u00eame \u201cd\u2019am\u00e9lioration de l\u2019exp\u00e9rience client et salari\u00e9\u201d (sic). Et ce, parfois au m\u00e9pris de tout principe de pr\u00e9caution\u2026 Ou m\u00eame en enfreignant les lois d\u00e9j\u00e0 existantes. Les \u00e9diteurs de logiciels et soci\u00e9t\u00e9s de service ne sont pas en reste pour les inciter dans cette course \u00e0 \u201cl\u2019innovation\u201d pour \u201cdevancer la concurrence\u201d. Course o\u00f9 chacun risque in fine de faire du surplace en provoquant un recul social global (Hartmut Rosa).<\/p>\n\n\n\n Amazon a g\u00e9r\u00e9 les candidatures automatiquement entre 2014 et 2018 : ce fut un \u00e9chec<\/strong> cuisant. <\/strong>Comme le relevait un groupe de mes \u00e9tudiants dans le master international de l\u2019IAE Montpellier o\u00f9 j\u2019encadrais leurs travaux. Amazon avait mis en place un syst\u00e8me de filtrage et d\u2019\u00e9valuation des candidats par score, avant de l\u2019abandonner face \u00e0 l\u2019ampleur des biais du syst\u00e8me, d\u00e9savantageant les femmes (Dastin, 2018). Cette exp\u00e9rience montre qu\u2019il n\u2019est pas possible de pallier les biais par des moyens techniques, quand ils sont enkyst\u00e9s dans les donn\u00e9es d\u2019entra\u00eenement. Comme le soulignent Raghavan et al. (2020), pallier les biais ne requi\u00e8re pas seulement des ajustements algorithmiques, mais de reconsid\u00e9rer radicalement les donn\u00e9es, les usages, la gouvernance et le niveau d\u2019automatisation\u2026 en laissant une part de d\u00e9cisions humaines.<\/p>\n\n\n\n Le r\u00e8glement europ\u00e9en sur l\u2019IA encadrera les syst\u00e8mes \u00e0 haut risque <\/strong>pour prot\u00e9ger la sant\u00e9, la s\u00e9curit\u00e9 et les droits fondamentaux. Parmi les principaux figurent une gestion des risques tout au long du cycle de vie, la qualit\u00e9 des donn\u00e9es, la documentation technique, la supervision humaine et la surveillance apr\u00e8s mise sur le march\u00e9.<\/p>\n\n\n\n Pour les entreprises, il y a plusieurs enjeux<\/strong> majeurs<\/strong> :<\/p>\n\n\n\n Le premier enjeu est de comprendre et respecter la r\u00e9glementation<\/strong>, ce qui n\u2019est pas toujours facile compte tenu des \u00e9volutions rapides des diff\u00e9rentes lois et r\u00e8glements nationaux et europ\u00e9ens.<\/p>\n\n\n\n Le second enjeu est de profiter des avantages permis par ces technologies mais avec la prudence qui s\u2019impose.<\/strong> Sans mauvaise intention de sa part et sans s\u2019en rendre compte, vu l\u2019opacit\u00e9 des syst\u00e8mes qui sont de v\u00e9ritables bo\u00eetes noires, l\u2019entreprise qui recrute et g\u00e8rer son personnel, avec l\u2019aide d\u2019IA, peut \u00eatre poursuivi au Conseil de prud\u2019hommes par des salari\u00e9s ou des candidats, \u00e9ventuellement soutenus par des syndicats de travailleurs d\u00e9fendant l\u2019int\u00e9r\u00eat de la profession. D\u2019ores et d\u00e9j\u00e0, c\u2019est l\u00e9galement possible sur le fondement du Code du travail et du RGPD.<\/p>\n\n\n\n Or, en mati\u00e8re de discrimination, en France, la charge de la preuve est la suivante :<\/strong> le demandeur doit simplement apporter des \u00e9lements factuels qui laissent penser \u00e0 une possible discrimination, charge alors \u00e0 l\u2019employeur de prouver que les diff\u00e9rences de traitement sont justifi\u00e9es par des \u00e9l\u00e9ments objectifs pertinents et non discriminatoires. Et le demandeur peut exiger par joie judiciaire que l\u2019entreprise communique des \u00e9l\u00e9ments de comparaison plus ou moins anonymis\u00e9s, avec d\u2019autres candidats ou salari\u00e9s (\u00e9volution de carri\u00e8re, niveau de r\u00e9mun\u00e9ration etc.). L\u2019entreprise doit y prendre garde.<\/p>\n\n\n\n Le troisi\u00e8me enjeu est de maintenir le niveau de confiance et d\u2019engagement de ses salari\u00e9s, et d\u2019\u00e9viter les effets n\u00e9gatifs sur l\u2019image de marque.<\/strong><\/p>\n\n\n\n Le quatri\u00e8me enjeu pour l\u2019entreprise, sans doute le plus important, est de pr\u00e9server une diversit\u00e9 dans ses effectifs. C\u2019est le fondement du succ\u00e8s \u00e9conomique.<\/strong> La plupart des \u00e9tudes sur le sujet montrent une corr\u00e9lation robuste entre diversit\u00e9 et performance (Herring, 2009). D\u2019autant qu\u2019il est difficile de pr\u00e9voir quelles sont les comp\u00e9tences qui seront indispensables demain. De plus la comp\u00e9tence n\u2019est pas une mati\u00e8re purement individuelle, mais d\u2019\u00e9quipe ou d\u2019organisation. La seule d\u00e9finition des r\u00f4les et des comp\u00e9tences associ\u00e9s \u00e0 un poste, \u00e0 laquelle s\u2019accrochent la plupart des entreprises, trouve rapidement ses limites dans la vie r\u00e9elle.<\/p>\n\n\n\n Quant aux syndicats de salari\u00e9s,<\/strong> ils ont bien entendu un r\u00f4le \u00e0 jouer, m\u00eame si leurs adh\u00e9rents sont plus souvent pr\u00e9occup\u00e9s par le maintien de l\u2019emploi et les augmentations de salaire que par les questions d\u2019int\u00e9r\u00eat commun et de non-discrimination.<\/p>\n\n\n\n Tout d\u2019abord, s\u2019approprier les \u00e9volutions technologiques, leurs enjeux et leurs impacts, afin de pouvoir jouer le r\u00f4le traditionnel de contrepouvoir au sein de l\u2019entreprise (limit\u00e9 certes, mais tangible). De lancer si n\u00e9cessaire des alertes et servir d\u2019aiguillon pour que les b\u00e9n\u00e9fices des innovations soient partag\u00e9s. Pour leurs adh\u00e9rents, leurs \u00e9lecteurs (aux \u00e9lections professionnelles) et plus largement dans l\u2019int\u00e9r\u00eat collectif (qu\u2019ils se retrouvent parfois, paradoxalement, les seuls \u00e0 d\u00e9fendre).<\/p>\n\n\n\n \u00c0 noter les possibilit\u00e9s d\u2019expertise offertes aux Comit\u00e9s Sociaux et \u00c9conomiques, dans les entreprises d\u2019une certaine taille qui en sont dot\u00e9es. Ils peuvent missionner des cabinets d\u2019expert agr\u00e9\u00e9s pour questionner les projets d\u2019automatisation ou de changements organisationnels. Et jouer ainsi pleinement leur r\u00f4le dans le cadre des obligations d\u2019information et consultation<\/strong> (il y a d\u00e9j\u00e0 eu des jurisprudences suspendant des projets IA, au Tribunal Judiciaire, par exemple en r\u00e9f\u00e9r\u00e9 pour non respect de proc\u00e9dure d\u2019information consultation du CSE).<\/p>\n\n\n\n Ce r\u00f4le des syndicats et \u00e9lus du personnel est important, car ce sont des proc\u00e8s retentissants intent\u00e9s par les salari\u00e9s, les acteurs de la soci\u00e9t\u00e9 civile et les syndicats qui pourront servir d\u2019exemples et d\u2019avertissements aux entreprises imprudentes. La peur du gendarme\u2026<\/p>\n\n\n\n Sans oublier le r\u00f4le des diff\u00e9rents acteurs institutionnels en mati\u00e8re d\u2019information et incitations, comme la CNIL (l\u2019agence de l\u2019\u00c9tat fran\u00e7ais en charge du sujet), l\u2019INRIA (avec son Labor\u2019IA), l\u2019ANACT sur les conditions de travail, les organisations professionnelles patronales et syndicales, les universit\u00e9s et instituts de recherche (le CNAM avec notamment les ouvrages et MOOC de Michel Min\u00e9), le Conseil \u00e9conomique social et environnemental etc.<\/p>\n\n\n\n Sources :<\/p>\n\n\n\n Sur la r\u00e8glementation europ\u00e9enne<\/em><\/p>\n\n\n\n Sur les travaux en sciences humaines (sociologie du travail ou management)<\/em><\/p>\n\n\n\n\n
Selon l\u2019annexe III du r\u00e8glement, sont \u00e0 haut risque<\/strong>, dans le domaine de l\u2019emploi, gestion de la main-d’\u0153uvre et acc\u00e8s \u00e0 l’emploi ind\u00e9pendant les syst\u00e8mes suivants : a) syst\u00e8mes d’IA destin\u00e9s \u00e0 \u00eatre utilis\u00e9s pour le recrutement<\/strong> ou la s\u00e9lection de personnes physiques, en particulier pour publier des offres d’emploi cibl\u00e9es, analyser et filtrer les candidatures et \u00e9valuer les candidats ; b) syst\u00e8mes d’IA destin\u00e9s \u00e0 \u00eatre utilis\u00e9s pour prendre des d\u00e9cisions influant sur les conditions des relations professionnelles, la promotion ou le licenciement<\/strong> dans le cadre de relations professionnelles contractuelles, pour attribuer des t\u00e2ches<\/strong> sur la base du comportement individuel, de traits de personnalit\u00e9 ou de caract\u00e9ristiques personnelles ou pour suivre et \u00e9valuer les performances et le comportement<\/strong> de personnes dans le cadre de telles relations.\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0
<\/li>\n\n\n\n\n
\n
\n