Ce qu'est réellement l'IA agentique

La gouvernance de l'IA agentique est l'ensemble des contrôles, politiques et mécanismes de supervision dont les organisations ont besoin lorsqu'elles déploient des systèmes d'IA capables de planification autonome, de raisonnement, d'exécution de tâches à plusieurs étapes et d'action dans le monde réel. Contrairement à l'IA traditionnelle qui répond à des invites individuelles, les systèmes d'IA agentique enchaînent des actions à travers plusieurs systèmes, appellent des API externes, prennent des décisions séquentielles et fonctionnent avec une intervention humaine limitée, créant des risques de privilège, de responsabilité et de structure que les cadres de gouvernance existants n'ont pas été conçus pour gérer.

Le déploiement de l'IA dans des configurations agentiques a connu une croissance rapide en 2025-2026, porté par la capacité croissante des grands modèles de langage à suivre des instructions complexes, à utiliser des outils de manière fiable et à maintenir un comportement cohérent sur des séquences de tâches prolongées. Les déploiements agentiques en entreprise comprennent : des agents IA de recherche qui collectent et synthétisent l'information ; des agents IA de développement qui écrivent, testent et déploient du code ; des agents IA de service client qui traitent les demandes de bout en bout ; des agents IA d'achats qui gèrent les interactions avec les fournisseurs ; et des agents IA d'exploitation qui surveillent les systèmes et déclenchent des réponses automatisées aux alertes.

Pourquoi les cadres de gouvernance existants échouent face à l'IA agentique

Les cadres de gouvernance de l'IA ont été en grande partie élaborés en réponse à des applications d'IA spécifiques et bien délimitées, des modèles qui reçoivent des entrées précises, remplissent des fonctions précises et produisent des résultats précis. Les mécanismes de supervision humaine de ces cadres partent du principe qu'un humain peut examiner le résultat de l'IA avant que celui-ci n'ait des conséquences importantes. Ces hypothèses ne tiennent plus pour l'IA agentique, et ce de deux manières. Premièrement, le problème de vitesse : l'IA agentique effectue des actions plus rapidement que ce que la revue humaine peut suivre ; un agent de messagerie traitant les demandes des clients peut envoyer des centaines de réponses par heure, chacune ayant des implications importantes pour l'organisation. Deuxièmement, le problème de périmètre : l'IA agentique peut effectuer des actions à travers plusieurs systèmes et domaines simultanément, rendant impossible un examen global par un seul réviseur humain.

Les cinq exigences de gouvernance pour l'IA agentique

La limitation du périmètre d'action définit les limites de ce qu'une IA agentique peut faire sans approbation humaine explicite. Chaque déploiement agentique devrait disposer d'un périmètre d'action documenté : à quels systèmes il peut accéder, quelles actions il peut effectuer de manière autonome, et quelles actions nécessitent une approbation humaine. Les actions en dehors du périmètre défini devraient exiger une escalade explicite vers un humain. La limitation du périmètre est à la fois un contrôle technique (mis en œuvre via des permissions d'API et des restrictions d'action) et un contrôle de gouvernance (documenté, revu et appliqué).

L'examen du plan avant exécution permet une supervision humaine avant que l'agent ne commence à agir. Pour les tâches agentiques complexes, l'agent devrait être tenu de produire un plan, la séquence d'actions qu'il compte entreprendre, à des fins d'examen humain avant le début de l'exécution. Ceci est particulièrement important pour les tâches à fort enjeu, où des actions individuelles peuvent avoir des conséquences irréversibles. L'examen avant exécution est moins nécessaire pour les tâches agentiques courantes et à faible enjeu, où l'espace des actions possibles est bien défini et circonscrit.

La surveillance en temps réel avec des mécanismes d'arrêt d'urgence (circuit breakers) détecte et interrompt les comportements inattendus de l'agent pendant l'exécution. Le système de surveillance devrait générer une alerte pour : les actions en dehors du périmètre défini, les fréquences inhabituelles d'actions spécifiques, les actions dans des systèmes auxquels l'agent n'avait pas accédé auparavant, et les actions qui dépassent des seuils définis (dépenses au-delà d'un montant, envoi au-delà d'un nombre de messages). Les mécanismes d'arrêt d'urgence qui suspendent l'exécution de l'agent dans l'attente d'une revue humaine constituent le principal mécanisme de sécurité pour l'IA agentique en production.

La journalisation exhaustive des actions crée la piste d'audit nécessaire à la responsabilisation, à l'investigation des incidents et à la conformité réglementaire. Chaque action effectuée par un système d'IA agentique, chaque appel d'API, chaque message envoyé, chaque document consulté ou modifié, chaque décision prise, devrait être consignée avec suffisamment de détails pour permettre de reconstituer a posteriori le raisonnement de l'agent et l'enchaînement de ses actions. Cette journalisation est exigée par les obligations de tenue de registres de l'AI Act européen pour l'IA à haut risque, et elle est de plus en plus attendue par les exigences d'achat des entreprises.

Une responsabilité claire désigne un humain nommément identifié comme responsable du comportement de chaque système d'IA agentique. Cette responsabilité doit être réelle, et non nominale. La personne responsable doit disposer de l'information, de l'autorité et de la capacité nécessaires pour superviser les opérations de l'agent et réagir lorsque celui-ci se comporte de manière inattendue. Un responsable désigné qui n'est pas informé lorsque l'agent effectue des actions inhabituelles, ou qui n'a pas l'autorité de suspendre l'agent, n'assure pas une réelle responsabilité.

Mai 2026 : orientations conjointes du Groupe des cinq (Five Eyes) sur la sécurité de l'IA agentique

Le 1er mai 2026, six agences nationales de cybersécurité de l'alliance Five Eyes, la CISA (États-Unis), la NSA (États-Unis), l'ASD ACSC (Australie), le Centre canadien pour la cybersécurité, le NCSC néo-zélandais (NZ NCSC) et le NCSC britannique (UK NCSC), ont publié conjointement « Careful Adoption of Agentic AI Services » (adoption prudente des services d'IA agentique), la première orientation de sécurité coordonnée entre plusieurs gouvernements portant spécifiquement sur les systèmes d'IA agentique.

Ce document de 30 pages recense cinq catégories de risques propres à l'IA agentique : les risques de privilège (agents dotés d'un accès système excessif), les risques de conception et de configuration (paramètres par défaut peu sûrs), les risques comportementaux (actions imprévisibles de l'agent), les risques structurels (défaillances de confiance entre agents), et les risques de responsabilité (responsabilité floue lorsque les agents causent un préjudice).

Le document recommande aux organisations de déployer l'IA agentique de manière progressive, en commençant par des tâches à faible risque clairement définies. Il souligne qu'une gouvernance solide, une responsabilité explicite, une surveillance rigoureuse et une supervision humaine ne sont pas des obstacles à l'innovation en matière d'IA, mais des conditions préalables à celle-ci. Parmi les exigences pratiques essentielles figurent : l'accès selon le principe du moindre privilège pour tous les agents, la validation des entrées et la surveillance des sorties, l'approbation humaine pour les actions à fort impact, la journalisation exhaustive de toutes les activités des agents, et des plans de réponse aux incidents testés et spécifiques aux défaillances de l'IA agentique.

Pour les organisations australiennes, ce document doit être lu conjointement avec la lettre sectorielle de l'APRA (Australian Prudential Regulation Authority) du 30 avril 2026 sur la gouvernance de l'IA, qui identifiait déjà bon nombre des mêmes lacunes dans les pratiques de gouvernance actuelles. La lettre sur la cyber-résilience de l'ASIC (Australian Securities and Investments Commission) du 8 mai 2026 fait elle aussi directement référence aux menaces permises par l'IA que les systèmes agentiques amplifient.

Source principale : ASD ACSC, Careful Adoption of Agentic AI Services, 1er mai 2026

Lectures connexes