La CNIL et le CIANum (Conseil de l’IA et du Numérique) ont mené une réflexion commune sur les enjeux soulevés par l’IA agentique pour la protection des données personnelles. Ces travaux font écho aux échanges engagés sur ce sujet par la CNIL avec ses homologues internationaux, notamment dans le cadre du G7 des autorités de protection des données et de la vie privée organisé par la CNIL à l’occasion de la présidence française du G7.
Le passage à l’agentique marque un changement d’échelle dans les usages d’intelligence artificielle (IA), lequel amplifie les risques de cybersécurité ainsi que les risques pour les données personnelles des utilisateurs, sujet de cette note. En effet, en dépassant le simple traitement de requêtes pour atteindre une autonomie d’action croissante, les systèmes agentiques questionnent la mise en œuvre du cadre légal de la protection des données et diluent la maîtrise de l’utilisateur sur la circulation de ses données personnelles.
Caractérisées par leur capacité à réaliser de multiples tâches successives et à interconnecter plusieurs agents au système orchestrateur, les IA agentiques constituent une rupture dans le traitement et la circulation des données personnelles. Elles mettent ainsi en tension les principes fondamentaux du Règlement général sur la protection des données personnelles (RGPD). Pour autant, ces principes restent absolument essentiels à la protection des données personnelles, sujet crucial à l’ère de l’intelligence artificielle afin d’éviter des dérives sociétales majeures.
source : la CNIL