L’éthique, une des trois composantes d’une IA digne de confiance
Le terme « IA digne de confiance » comporte trois dimensions : juridique, éthique et robuste. Cette distinction a été établie par le groupe d’experts de haut niveau de l’UE sur l’IA, dans ses lignes directrices éthiques pour une IA digne de confiance, publiées en avril 2019. Ces lignes directrices définissent un système d’IA digne de confiance comme un système qui est conforme à la loi, éthique et robuste.
- « Conforme à la loi » signifie qu’il respecte la législation applicable.
- « Éthique » signifie qu’il adhère à des principes pouvant aller au-delà des exigences légales.
- « Robuste » signifie qu’il fonctionne de manière sûre et fiable dans des conditions d’exploitation réelles, y compris en cas d’utilisation malveillante.
Vers une gouvernance éthique de l’IA au sein de l’entreprise ?
À titre d’exemple, IBM Corporation promeut une gouvernance éthique de l’IA. Les points clés du dispositif qu’elle met en place en interne sont :
- Le comité consultatif sur les politiques : des dirigeants internationaux de haut niveau qui supervisent le comité d’éthique de l’IA et contribuent à définir la stratégie et la tolérance au risque de l’entreprise.
- Le conseil d’éthique de l’IA : un organe central et interdisciplinaire qui soutient un processus centralisé de gouvernance, d’examen et de prise de décision pour les politiques, pratiques, communications, recherches, produits et services d’IBM en matière d’éthique. Le conseil a récemment publié son point de vue sur les modèles de fondation traitant des risques posés par l’IA générative.
- Les points focaux en matière d’éthique de l’IA : des représentants des unités commerciales formés à l’éthique de l’IA, qui agissent en tant que premiers interlocuteurs pour identifier les préoccupations, atténuer les risques associés à chaque cas d’utilisation et transmettre les problèmes au comité d’éthique de l’IA si nécessaire.
- Un réseau de défense : un réseau de base composé d’employés issus des nombreux groupes de travail du comité, qui partagent et promeuvent les principes d’éthique technologique d’IBM au sein de leurs équipes et déploient les initiatives en matière d’éthique de l’IA à l’échelle de l’entreprise.
- De plus, le bureau du projet d’éthique de l’IA du CPO soutient toutes ces initiatives : il assure la liaison entre les rôles de gouvernance, soutient la mise en œuvre des priorités en matière d’éthique technologique, contribue à établir les programmes du conseil d’éthique de l’IA et veille à ce que celui-ci soit tenu informé des tendances du secteur et de la stratégie de l’entreprise.
Le logiciel Watsonx.governance permet de mettre sous contrôle le déploiement de l’IA dans les processus de l’entreprise.