Gobernanza de IA para el CISO, donde la ciberseguridad se encuentra con el riesgo de la IA

Para los CISO en 2026, la IA plantea un doble desafío: los sistemas de IA son a la vez una nueva superficie de ataque que defender y una nueva categoría de activo que gobernar. El Global Cybersecurity Outlook 2025 del Foro Económico Mundial (WEF) informó de que el 72% de las organizaciones afirma que el riesgo cibernético ha aumentado. La encuesta de 2025 de Darktrace reveló que el 78% de los CISO reporta un impacto significativo de las amenazas de IA, y el 93% espera ataques diarios habilitados por IA en el plazo de un año. La IA ha pasado de ser una preocupación tecnológica a convertirse en una cuestión de seguridad y gobernanza a nivel de consejo de administración.

Las cuatro categorías de amenazas de IA que los CISO deben abordar

Inyección de prompts (prompt injection) y ataques adversarios. El informe de abril de 2026 de la Cloud Security Alliance confirmó la ejecución remota de código mediante inyección de prompts en sistemas de IA en producción. Los vectores de ataque incluyen la inyección de prompts directa, la inyección de prompts indirecta a través de fuentes de datos, el secuestro de navegadores agénticos de tipo "zero-click" y la manipulación del uso de herramientas. El Top 10 de OWASP para aplicaciones LLM es la referencia de base, aunque solo el 29% de las organizaciones lo sigue (Moody's, 2025).

Fuga de datos a través de la IA. Empleados que introducen datos confidenciales en herramientas de IA de consumo, IA que procesa datos personales más allá del alcance autorizado, extracción de datos de entrenamiento a partir de los modelos. La encuesta de 2026 de Saviynt a más de 200 CISO reveló que "la IA tiene accesos que nadie concedió", con agentes de IA que operan con permisos que nunca se autorizaron formalmente a través de procesos de IAM.

Envenenamiento de modelos y cadena de suministro. Datos de entrenamiento comprometidos, ajuste fino (fine-tuning) malicioso, ataques a la cadena de suministro a través de repositorios de modelos de IA. La divulgación de la vulnerabilidad OpenClaw (noviembre de 2025) identificó más de 21.000 instancias expuestas, con un 12% del contenido de los repositorios conteniendo malware.

Amenazas habilitadas por la IA. Phishing generado por IA (el 40% del phishing ahora se genera con IA, según Cobalt), vulnerabilidades de código asistidas por IA (el 87% de las pull requests generadas por IA contienen fallos de seguridad, según DryRun), deepfakes para ingeniería social y descubrimiento automatizado de vulnerabilidades.

Las expectativas específicas de la APRA (Australian Prudential Regulation Authority) relevantes para el CISO

La carta sectorial de la APRA del 30 de abril de 2026 señaló la gestión de identidades y accesos para actores no humanos (agentes de IA) como una carencia específica. Esto se sitúa directamente en el terreno del CISO: los agentes de IA requieren controles de IAM, autenticación, autorización y registro de auditoría equivalentes a los de los usuarios humanos. La CPS 234 (seguridad de la información) se aplica a los sistemas de IA que procesan activos de información. Se esperan pruebas adversarias (inyección de prompts, jailbreak, exfiltración de datos) para los sistemas de IA materiales.

Alineación de marcos normativos para el CISO

El conjunto de marcos operativos para la gobernanza de IA del CISO: el NIST AI RMF (gestión de riesgos específica de la IA) + el NIST Cybersecurity Framework 2.0 (gestión del riesgo cibernético) + el NIST IR 8596 (borrador preliminar de diciembre de 2025 que conecta ambos). La ISO/IEC 42001 para el sistema de gestión de IA + la ISO 27001 para la seguridad de la información. El Top 10 de OWASP para LLM para la seguridad de las aplicaciones. Los requisitos de ciberseguridad del Reglamento de IA de la UE para la IA dentro de su ámbito de aplicación. La CPS 234 para la seguridad de la información en los servicios financieros australianos.

Qué deben construir los CISO

Controles de seguridad específicos para la IA. Pruebas de inyección de prompts, filtrado de salidas, validación de entradas para los sistemas de IA. Limitación de tasa (rate limiting) y detección de anomalías para el acceso a las API de IA. Reglas de prevención de pérdida de datos (DLP) que cubran las entradas a las herramientas de IA. Segmentación de red para la infraestructura de entrenamiento e inferencia de IA.

IAM para actores no humanos. Los agentes de IA, los flujos de trabajo automatizados y los procesos impulsados por IA necesitan gestión de identidades: identidades únicas, acceso con privilegio mínimo, autenticación, registro de auditoría y revisión de accesos. Esta es la carencia que la APRA señaló específicamente.

Evaluación de seguridad de proveedores de IA. La evaluación estándar de riesgos de terceros, ampliada con preguntas específicas sobre IA: pruebas de seguridad del modelo, seguridad de los datos de entrenamiento, robustez frente a ataques adversarios, respuesta a incidentes para fallos específicos de la IA.

Respuesta a incidentes para la IA. Los incidentes de IA (anomalías en el comportamiento del modelo, ataques adversarios, fuga de datos a través de la IA, incidentes relacionados con contenido generado por IA) requieren procedimientos de respuesta definidos, vías de escalado y obligaciones de notificación.

Concienciación en seguridad sobre la IA. Formación del personal sobre los riesgos específicos de la IA: qué no introducir en las herramientas de IA, cómo reconocer el phishing generado por IA, cómo reportar problemas de seguridad relacionados con la IA.

Lecturas relacionadas

Lectura adicional: Guía sobre IA agéntica de la ASD ACSC