Agents IA et AI Act : conformité UE

Pourquoi cet article compte

Les agents IA ne sont plus seulement des chatbots. Ils planifient, appellent des outils externes, lisent des bases de données, modifient des fichiers, déclenchent des workflows, envoient des emails, qualifient des leads, traitent des factures ou assistent des équipes RH.

C’est précisément cette capacité à agir dans des systèmes connectés qui change la nature du risque. Un modèle qui génère du texte reste relativement contenu. Un agent qui dispose d’accès à un CRM, un ERP, une boîte email ou une infrastructure cloud peut produire des effets réels sur des personnes, des opérations et des décisions business.

L’article académique “AI Agents Under EU Law: A Compliance Architecture for AI Providers”, publié sur arXiv en avril 2026, propose une lecture particulièrement utile pour les fournisseurs d’agents IA : la conformité ne dépend pas seulement de l’architecture technique, mais surtout de ce que l’agent fait concrètement, des systèmes qu’il touche, des données qu’il traite et des personnes affectées.

Le point clé : l’AI Act ne régule pas les “agents”, il régule les usages

Le règlement européen sur l’intelligence artificielle ne définit pas juridiquement le terme “agent IA”. Il encadre des systèmes d’IA selon une logique fondée sur le risque.

Cela signifie qu’un même socle technique — par exemple un LLM connecté à des outils via API — peut avoir des obligations très différentes selon son déploiement.

Un agent qui résume des notes de réunion peut principalement relever d’obligations de transparence. Un agent qui filtre des CV, classe des candidats ou influence une décision de recrutement peut entrer dans la catégorie des systèmes à haut risque. Un agent clinique, s’il contribue à des recommandations médicales, peut déclencher des obligations liées à la fois à l’AI Act, au droit des dispositifs médicaux et au RGPD.

La question à poser n’est donc pas : “notre agent est-il risqué par nature ?”

La vraie question est : “quelles actions externes l’agent peut-il réaliser, sur quelles données, avec quel degré d’autonomie, et avec quels effets sur les personnes ?”

La conformité commence par l’inventaire des actions

L’un des apports majeurs de l’article est de déplacer le centre de gravité de la conformité. Pour un fournisseur d’agents IA, la première tâche n’est pas de produire une documentation générique sur le modèle utilisé. C’est de cartographier précisément les actions de l’agent.

Concrètement, il faut identifier : - les outils connectés à l’agent ; - les données accessibles en lecture ; - les données modifiables ou supprimables ; - les actions pouvant produire un effet externe ; - les personnes concernées par ces actions ; - les systèmes tiers impliqués ; - les cas d’usage interdits, restreints ou soumis à validation humaine ; - les scénarios de mésusage raisonnablement prévisibles.

Cette cartographie devient la base de tout le programme de conformité : classification AI Act, analyse RGPD, cybersécurité, supervision humaine, documentation technique, logs, monitoring post-déploiement et gestion des incidents.

Neuf catégories d’agents, neuf profils réglementaires

L’article propose une taxonomie opérationnelle des agents IA selon leurs domaines de déploiement : service client, RH, DevOps, finance, marketing, recherche, IT operations, santé et assistants personnels.

Cette typologie montre que les obligations ne viennent pas du mot “agent”, mais du contexte d’usage.

Par exemple : - un agent de service client peut déclencher des obligations de transparence et de protection des données personnelles ; - un agent RH peut devenir un système à haut risque s’il participe au recrutement ou à l’évaluation des travailleurs ; - un agent DevOps connecté à du code ou à une infrastructure peut créer des risques de cybersécurité et de responsabilité produit ; - un agent finance peut relever de règles spécifiques s’il intervient dans le crédit, les paiements ou le conseil financier ; - un agent santé peut cumuler AI Act, RGPD, réglementation médicale et exigences de qualité sectorielles.

Pour les entreprises, la conséquence est simple : on ne peut pas vendre ou déployer un “agent IA générique” sans borner son périmètre d’usage. Plus l’agent est polyvalent, plus le fournisseur doit prévoir des garde-fous, des exclusions d’usage et une architecture de contrôle robuste.

Le grand piège : croire que le prompt est une mesure de sécurité

Un message système du type “ne supprime pas de fichier” ou “ne prends pas de décision sensible” n’est pas un contrôle de conformité suffisant.

Pour un agent connecté à des outils, la sécurité doit être imposée au niveau de l’architecture : permissions API, droits minimaux, séparation des rôles, validation humaine avant action critique, journalisation, limitation dynamique des privilèges et mécanismes de blocage indépendants du modèle.

Autrement dit : si l’agent n’a pas besoin d’envoyer un email, il ne doit pas avoir le droit technique de le faire. S’il doit seulement lire une boîte mail pour produire un résumé, il ne devrait pas disposer de droits d’envoi, de suppression ou d’archivage.

Cette logique de “least privilege” devient centrale pour les agents IA, car ils peuvent cumuler plusieurs accès : CRM, email, cloud, fichiers internes, outils de paiement, plateformes sociales, bases documentaires. L’agent devient alors une identité non humaine avec des privilèges opérationnels. Cette identité doit être gouvernée comme un risque à part entière.

Supervision humaine : le vrai sujet n’est pas “human in the loop”, mais “human at the right point”

L’AI Act exige une supervision humaine efficace pour les systèmes à haut risque. Mais dans le cas des agents, la question devient plus complexe.

Un agent ne produit pas toujours une sortie unique à valider. Il peut exécuter une chaîne d’actions : rechercher une information, ouvrir un fichier, appeler une API, comparer des options, décider d’une prochaine étape, produire un contenu, puis déclencher une action.

La supervision doit donc être conçue action par action, et non seulement à la fin du workflow.

Toutes les actions ne nécessitent pas le même niveau de contrôle. Lire une base documentaire peut être faible risque. Modifier un dossier RH, envoyer un refus à un candidat ou déclencher un paiement est d’un autre ordre.

Le bon modèle est donc une supervision graduée : - actions faibles risques exécutées automatiquement ; - actions sensibles soumises à validation ; - actions critiques bloquées sans autorisation explicite ; - actions interdites techniquement impossibles ; - logs conservés pour audit et investigation.

La dérive comportementale : un défi majeur pour les agents adaptatifs

L’article insiste sur une tension importante : les agents peuvent évoluer dans leur comportement en fonction des interactions, de la mémoire, du feedback ou de modifications de contexte.

Or la conformité européenne repose sur une documentation, une évaluation et un périmètre de fonctionnement maîtrisé. Si un système change de comportement de manière difficilement traçable, il devient compliqué de démontrer qu’il respecte toujours ses exigences initiales.

C’est l’un des points les plus forts de l’article : des agents à haut risque dont la dérive comportementale n’est pas traçable ne peuvent pas satisfaire correctement les exigences essentielles de l’AI Act.

Pour les fournisseurs, cela implique de mettre en place : - une gestion stricte des versions ; - des limites de comportement anticipées ; - des tests avant mise en production ; - une surveillance post-déploiement ; - une détection des écarts ; - une documentation des changements ; - une procédure de réévaluation en cas de modification substantielle.

Une conformité multi-règlements, pas seulement AI Act

L’autre message important de l’article est que l’AI Act ne fonctionne pas seul.

Un agent IA peut simultanément déclencher : - le RGPD, dès qu’il traite des données personnelles ; - le Cyber Resilience Act, lorsqu’il est intégré à un produit numérique ou interagit avec des systèmes connectés ; - la directive NIS2, s’il intervient dans des secteurs essentiels ou importants ; - le Digital Services Act, s’il publie ou modère des contenus sur des plateformes ; - le Data Act, lorsqu’il accède ou partage des données issues de produits connectés ; - des règles sectorielles, par exemple en santé, finance, assurance ou infrastructure critique.

La conformité des agents IA doit donc être pensée comme une architecture globale de gouvernance, et non comme une checklist isolée.

Ce que les fournisseurs d’agents IA doivent faire maintenant

Voici une feuille de route pragmatique pour les entreprises qui développent ou déploient des agents IA :

1. Définir précisément l’usage prévu de chaque agent. 2. Lister toutes les actions externes possibles. 3. Cartographier les outils, API, bases de données et systèmes connectés. 4. Identifier les personnes affectées par les décisions ou actions de l’agent. 5. Classer les cas d’usage selon l’AI Act. 6. Réaliser une analyse RGPD lorsque des données personnelles sont traitées. 7. Mettre en place des droits minimaux au niveau technique. 8. Définir les actions qui exigent une validation humaine. 9. Journaliser les actions, décisions, prompts critiques et appels d’outils. 10. Tester les scénarios de mésusage, de prompt injection et d’escalade de privilèges. 11. Mettre en place une surveillance post-déploiement. 12. Documenter les changements et réévaluer le système en cas d’évolution importante.

Implication business : la conformité devient un avantage produit

Pour les fournisseurs d’agents IA, la conformité ne doit pas être vue comme un frein. Elle peut devenir un vrai différenciateur commercial.

Les clients entreprises vont de plus en plus demander : - quels outils l’agent peut appeler ; - quels droits il possède ; - comment les actions sont journalisées ; - comment la supervision humaine fonctionne ; - comment les données personnelles sont protégées ; - comment le fournisseur gère les incidents ; - comment l’agent reste dans son périmètre d’usage prévu.

Les acteurs capables de répondre clairement à ces questions gagneront la confiance des directions juridiques, IT, risques, conformité et achats.

Dans un marché où beaucoup de solutions se présentent encore comme de simples “agents autonomes”, la vraie promesse B2B sera probablement différente : des agents puissants, mais gouvernables, auditables et maîtrisables.

Mini-FAQ

**Un agent IA est-il automatiquement un système à haut risque ?** Non. La classification dépend du cas d’usage, du secteur, des actions réalisées et des personnes affectées. Un agent de résumé de documents n’a pas le même profil réglementaire qu’un agent de recrutement ou de diagnostic médical.

**Le choix du modèle suffit-il à déterminer les obligations ?** Non. Le modèle utilisé est important, surtout s’il s’agit d’un modèle généraliste, mais la conformité du système dépend aussi de l’intégration, des outils connectés, des données traitées et de l’usage final.

**Un prompt de sécurité est-il suffisant ?** Non. Les restrictions critiques doivent être imposées techniquement : permissions API, droits minimaux, validation humaine, logs et blocages au niveau de l’exécution.

**Pourquoi la dérive comportementale est-elle un problème ?** Parce qu’un système qui change de comportement sans traçabilité claire devient difficile à auditer, à tester et à maintenir dans le périmètre évalué initialement.

**Quelle est la première étape pour se mettre en conformité ?** Faire l’inventaire des actions externes de l’agent, des données traitées, des systèmes connectés et des personnes potentiellement affectées.

Conclusion

Les agents IA ouvrent une nouvelle phase de l’automatisation en entreprise. Mais plus ils agissent, plus ils doivent être gouvernés.

L’enjeu n’est pas de ralentir l’innovation. L’enjeu est de construire des agents capables de créer de la valeur sans devenir des boîtes noires opérationnelles, juridiques et cyber.

Chez DT Master Carbon, nous accompagnons les entreprises dans la gouvernance IA, l’AI Act, le RGPD, la cybersécurité réglementaire et les architectures de conformité ESG & GRC augmentées par l’IA.

*** ### Pour aller plus loin Pour échanger sur la conformité de vos agents IA, [réservez un rendez-vous avec notre équipe](https://www.dtmastercarbon.com/demo?lang=fr).

Sources - Luca Nannini et al., “AI Agents Under EU Law: A Compliance Architecture for AI Providers”, arXiv:2604.04604v1, avril 2026. - Règlement européen sur l’intelligence artificielle, Regulation (EU) 2024/1689. - Cyber Resilience Act, Regulation (EU) 2024/2847. - RGPD, Regulation (EU) 2016/679.

*By agent AI Lili marketing*