Qué es realmente la IA agéntica

La gobernanza de la IA agéntica es el conjunto de controles, políticas y mecanismos de supervisión que las organizaciones necesitan al desplegar sistemas de IA capaces de planificación autónoma, razonamiento, ejecución de tareas de varios pasos y acción en el mundo real. A diferencia de la IA tradicional, que responde a instrucciones individuales, los sistemas de IA agéntica encadenan acciones a través de distintos sistemas, invocan API externas, toman decisiones secuenciales y operan con una intervención humana limitada, lo que genera riesgos de privilegios, de responsabilidad y estructurales que los marcos de gobernanza existentes no fueron diseñados para gestionar.

El despliegue de la IA en configuraciones agénticas ha crecido rápidamente en 2025-2026, impulsado por la creciente capacidad de los grandes modelos de lenguaje para seguir instrucciones complejas, usar herramientas de forma fiable y mantener un comportamiento coherente a lo largo de secuencias de tareas extensas. Los despliegues agénticos empresariales incluyen: agentes de IA de investigación que recopilan y sintetizan información; agentes de IA de programación que escriben, prueban y despliegan código; agentes de IA de atención al cliente que gestionan consultas de principio a fin; agentes de IA de compras que gestionan las interacciones con proveedores; y agentes de IA de operaciones que supervisan sistemas y responden de forma automatizada a las alertas.

Por qué los marcos de gobernanza existentes fallan con la IA agéntica

Los marcos de gobernanza de la IA se desarrollaron en gran medida en respuesta a aplicaciones de IA específicas y acotadas, modelos que reciben entradas concretas, realizan funciones concretas y producen resultados concretos. Los mecanismos de supervisión humana de estos marcos parten del supuesto de que una persona puede revisar el resultado de la IA antes de que este tenga consecuencias significativas. Estos supuestos se derrumban en el caso de la IA agéntica por dos motivos. Primero, el problema de la velocidad: la IA agéntica realiza acciones más rápido de lo que la revisión humana puede seguir; un agente de correo electrónico que gestiona consultas de clientes puede enviar cientos de respuestas por hora, cada una con implicaciones relevantes para la organización. Segundo, el problema del alcance: la IA agéntica puede realizar acciones en múltiples sistemas y ámbitos simultáneamente, lo que hace imposible una revisión integral por parte de un único revisor humano.

Los cinco requisitos de gobernanza para la IA agéntica

La limitación del alcance de las acciones define los límites de lo que una IA agéntica puede hacer sin aprobación humana explícita. Cada despliegue agéntico debería contar con un alcance de acción documentado: a qué sistemas puede acceder, qué acciones puede realizar de forma autónoma y qué acciones requieren aprobación humana. Las acciones que queden fuera del alcance definido deberían requerir una escalada explícita a una persona. La limitación del alcance es tanto un control técnico (implementado mediante permisos de API y restricciones de acciones) como un control de gobernanza (documentado, revisado y aplicado).

La revisión del plan antes de la ejecución permite la supervisión humana antes de que el agente empiece a actuar. En el caso de tareas agénticas complejas, debería exigirse al agente que elabore un plan, la secuencia de acciones que se propone realizar, para que una persona lo revise antes de que comience la ejecución. Esto es especialmente importante en tareas de alto riesgo, donde acciones individuales pueden tener consecuencias irreversibles. La revisión previa a la ejecución es menos necesaria en tareas agénticas rutinarias y de bajo riesgo, en las que el espacio de acción está bien definido y acotado.

La monitorización en tiempo real con mecanismos de interrupción automática (circuit breakers) detecta y detiene el comportamiento inesperado del agente durante la ejecución. El sistema de monitorización debería generar alertas ante: acciones fuera del alcance definido, frecuencias inusuales de determinadas acciones, acciones en sistemas a los que el agente no había accedido previamente y acciones que superen los umbrales definidos (gasto por encima de un importe determinado, envío de mensajes por encima de un número determinado). Los mecanismos de interrupción automática que pausan la ejecución del agente a la espera de revisión humana constituyen el principal mecanismo de seguridad para la IA agéntica en producción.

El registro exhaustivo de las acciones crea el rastro de auditoría necesario para la rendición de cuentas, la investigación de incidentes y el cumplimiento normativo. Cada acción realizada por un sistema de IA agéntica, cada llamada a una API, cada mensaje enviado, cada documento consultado o modificado, cada decisión tomada, debería registrarse con el detalle suficiente para reconstruir a posteriori el razonamiento y la secuencia de acciones del agente. Este registro lo exigen las obligaciones de conservación de registros del Reglamento de IA de la UE (EU AI Act) para la IA de alto riesgo, y cada vez más los requisitos de compras empresariales lo dan por hecho.

Una responsabilidad clara asigna a una persona designada como responsable del comportamiento de cada sistema de IA agéntica. Esta responsabilidad debe ser real, no meramente nominal. La persona responsable debe disponer de la información, la autoridad y la capacidad necesarias para supervisar las operaciones del agente y responder cuando este se comporte de forma inesperada. Un responsable designado que no es informado cuando el agente realiza acciones inusuales, o que carece de autoridad para pausarlo, no está ejerciendo una responsabilidad real.

Mayo de 2026: orientación conjunta de Five Eyes sobre la seguridad de la IA agéntica

El 1 de mayo de 2026, seis agencias nacionales de ciberseguridad de la alianza Five Eyes, CISA (EE. UU.), NSA (EE. UU.), ASD ACSC (Australia), el Canadian Centre for Cyber Security, NZ NCSC (Nueva Zelanda) y UK NCSC (Reino Unido), publicaron conjuntamente “Careful Adoption of Agentic AI Services” (Adopción prudente de servicios de IA agéntica), la primera orientación de seguridad coordinada entre varios gobiernos dedicada específicamente a los sistemas de IA agéntica.

La orientación, de 30 páginas, identifica cinco categorías de riesgo propias de la IA agéntica: riesgos de privilegios (agentes con un acceso excesivo a los sistemas), riesgos de diseño y configuración (ajustes predeterminados inseguros), riesgos de comportamiento (acciones impredecibles del agente), riesgos estructurales (fallos de confianza entre agentes) y riesgos de responsabilidad (responsabilidad poco clara cuando los agentes causan daños).

La orientación recomienda que las organizaciones desplieguen la IA agéntica de forma incremental, comenzando por tareas de bajo riesgo claramente definidas. Subraya que una gobernanza sólida, una responsabilidad explícita, una monitorización rigurosa y la supervisión humana no son obstáculos para la innovación en IA, sino requisitos previos para ella. Entre los requisitos prácticos clave se incluyen el acceso con privilegios mínimos para todos los agentes, la validación de entradas y la monitorización de salidas, la aprobación humana para acciones de alto impacto, el registro exhaustivo de todas las actividades del agente y planes de respuesta ante incidentes probados y específicos para fallos de la IA agéntica.

Para las organizaciones australianas, esta orientación debe leerse junto con la carta sectorial de la APRA (Australian Prudential Regulation Authority) del 30 de abril de 2026 sobre gobernanza de la IA, que identificó muchas de las mismas carencias en las prácticas de gobernanza actuales. La carta sobre resiliencia cibernética de la ASIC (Australian Securities and Investments Commission) del 8 de mayo de 2026 también hace referencia directa a las amenazas habilitadas por la IA que los sistemas agénticos amplifican.

Fuente principal: ASD ACSC, Careful Adoption of Agentic AI Services, 1 de mayo de 2026

Lecturas relacionadas