IA agentique : la CNIL et le CIANum alertent sur les risques pour la protection des données

Deux institutions françaises viennent unir leurs voix sur un sujet jusqu'ici traité en ordre dispersé. La CNIL et le Conseil de l'IA et du numérique (CIANum) publient une note exploratoire commune sur les risques que l'IA agentique fait peser sur la protection des données personnelles. Derrière la promesse d'agents capables d'agir seuls pour le compte des utilisateurs, les deux instances pointent une réalité plus prosaïque : opacité des chaînes de traitement, cascades d'erreurs et vide de responsabilité que le règlement européen sur l'IA n'a pas comblé.

Ce qui s'est passé

Le CIANum — l'instance consultative installée en juin 2025 en remplacement du Conseil national du numérique — définit l'IA agentique comme « un programme informatique capable de décomposer un processus, d'enchaîner les actions et de prendre des décisions inspirées par l'IA générative ». Sa note distingue cinq degrés d'autonomie, de la simple exécution de règles prédéfinies jusqu'à des flux semi-autonomes, l'IA « complètement auto-dirigée » restant à ce jour du domaine de la recherche.

Le document identifie plusieurs risques concrets pour les organisations. D'abord des cascades d'erreurs : chaque étape d'un processus délégué à un agent peut générer une erreur qui s'amplifie au fil de la chaîne, sans supervision humaine intermédiaire. Ensuite un risque d'orchestration défaillante lorsque plusieurs agents agissent simultanément et se transmettent des informations contradictoires. Vient enfin la question de la responsabilité : en cas d'erreur dommageable, qui répond — l'éditeur du modèle, l'organisation qui déploie l'agent, ou l'utilisateur qui valide le résultat ? Selon la note, l'AI Act « aurait dû poser un cadre » sur ce point mais ne l'a pas fait.

La note souligne aussi un coût souvent négligé : selon l'Ademe, la généralisation des agents autonomes pourrait faire passer la part de l'IA dans la consommation électrique des centres de données de 20 % à 49 % d'ici la fin de l'année.

Pourquoi c'est important pour les DPO

Cette note relaie un constat que Leto documente depuis plusieurs mois dans sa veille : les agents IA nécessitent, pour agir, un accès étendu à des données parfois sensibles, qu'ils analysent, combinent, stockent ou transmettent sans que le responsable de traitement en garde toujours une visibilité complète. C'est exactement le terrain couvert par l'article 32 du RGPD, qui impose des mesures techniques et organisationnelles adaptées au risque — un exercice rendu plus complexe quand la « boîte noire » n'est plus un seul modèle mais une chaîne d'agents qui s'appellent les uns les autres.

Le sujet n'est pas nouveau pour les autorités françaises : l'ANSSI avait déjà déconseillé formellement le déploiement en production d'agents IA autonomes sur les postes de travail, pointant des risques de compromission et de fuite de données très proches de ceux relevés aujourd'hui par le CIANum. La convergence des deux notes, à quelques mois d'écart, dessine une doctrine française qui se précise : prudence par défaut, supervision humaine obligatoire sur les cas à enjeu.

Ce que ça change pour les organisations

Concrètement, toute organisation qui envisage de déployer un agent IA autonome — service client automatisé, agent de recherche interne, assistant capable d'exécuter des actions sur des systèmes métier — devrait traiter le sujet comme un traitement à risque au sens du RGPD, et non comme un simple outil bureautique. Cela suppose de documenter la finalité précise de chaque agent avant son déploiement, de vérifier s'il déclenche l'obligation de réaliser une analyse d'impact relative à la protection des données, et de tracer les décisions prises de façon autonome pour pouvoir en rendre compte en cas de contrôle.

La question de la responsabilité en cascade, faute de cadre clair dans l'AI Act, doit aussi se régler contractuellement dès aujourd'hui : clauses de responsabilité avec les éditeurs d'agents, validation humaine obligatoire sur les actions à fort impact, et gouvernance documentée plutôt que des correctifs ajoutés après coup — une approche que plusieurs juristes qualifient déjà de « gouvernance sparadrap » à éviter. Le rôle du DPO devient central dans cet arbitrage, aux côtés du RSSI : c'est l'un des chantiers qui redéfinissent la fonction à mesure que l'IA agentique s'installe dans les organisations.

Ce que Leto pense de cette décision

Cette note a le mérite de dire tout haut ce que beaucoup de DPO observent déjà sur le terrain : l'IA agentique avance plus vite que les cadres censés l'encadrer. Mais une note exploratoire, aussi bienvenue soit-elle, ne remplace pas une doctrine contraignante. Tant que l'AI Act ne tranche pas clairement la question de la responsabilité en cascade, ce sera aux organisations — et à leurs DPO — de combler le vide par la contractualisation et la documentation. C'est fastidieux, mais c'est aussi la meilleure protection en cas de contrôle.

Sources : CNIL — Note exploratoire IA agentique et CIANum, Weka — Le CIANum alerte sur les limites de l'IA agentique, CIANum — Note complète (PDF)