Governança de IA para o CISO, onde a cibersegurança encontra o risco de IA

Para os CISOs em 2026, a IA cria um duplo desafio: os sistemas de IA são, ao mesmo tempo, uma nova superfície de ataque a defender e uma nova categoria de ativo a governar. O Global Cybersecurity Outlook 2025, do WEF, relatou que 72% das organizações afirmam que o risco cibernético aumentou. A pesquisa de 2025 da Darktrace constatou que 78% dos CISOs relatam impacto significativo de ameaças de IA, sendo que 93% esperam ataques diários habilitados por IA dentro de um ano. A IA deixou de ser uma preocupação tecnológica para se tornar uma questão de segurança e governança em nível de conselho de administração.

As quatro categorias de ameaças de IA que os CISOs precisam endereçar

Injeção de prompt e ataques adversariais. O relatório de abril de 2026 da Cloud Security Alliance confirmou a execução remota de código por meio de injeção de prompt em sistemas de IA em produção. Os vetores de ataque incluem injeção direta de prompt, injeção indireta de prompt por meio de fontes de dados, sequestro zero-click de navegadores agênticos e manipulação do uso de ferramentas. O OWASP Top 10 for LLM Applications é a referência de base, embora apenas 29% das organizações o sigam (Moody's, 2025).

Vazamento de dados por meio da IA. Funcionários inserindo dados confidenciais em ferramentas de IA de consumo, IA processando dados pessoais além do escopo autorizado, extração de dados de treinamento a partir dos modelos. A pesquisa de 2026 da Saviynt com mais de 200 CISOs concluiu que "a IA tem acessos que ninguém concedeu", agentes de IA operando com permissões que nunca foram formalmente autorizadas pelos processos de IAM.

Envenenamento de modelos e cadeia de suprimentos. Dados de treinamento comprometidos, ajuste fino malicioso, ataques à cadeia de suprimentos por meio de repositórios de modelos de IA. A divulgação da vulnerabilidade OpenClaw (novembro de 2025) identificou mais de 21.000 instâncias expostas, com 12% do conteúdo dos repositórios contendo malware.

Ameaças habilitadas por IA. Phishing gerado por IA (40% do phishing hoje é gerado por IA, segundo a Cobalt), vulnerabilidades em código assistido por IA (87% dos pull requests gerados por IA contêm falhas de segurança, segundo a DryRun), deepfakes para engenharia social e descoberta automatizada de vulnerabilidades.

As expectativas específicas da APRA (Australian Prudential Regulation Authority) relevantes para o CISO

A carta ao setor da APRA, de 30 de abril de 2026, apontou a gestão de identidade e acesso para atores não humanos (agentes de IA) como uma lacuna específica. Isso está diretamente no território do CISO: agentes de IA exigem controles de IAM, autenticação, autorização e registro de auditoria equivalentes aos de usuários humanos. O CPS 234 (segurança da informação) aplica-se a sistemas de IA que processam ativos de informação. Testes adversariais, injeção de prompt, jailbreak, exfiltração de dados, são esperados para sistemas de IA materiais.

Alinhamento de frameworks para CISOs

A pilha operacional de frameworks para a governança de IA do CISO: NIST AI RMF (gestão de riscos específicos de IA) + NIST Cybersecurity Framework 2.0 (gestão de risco cibernético) + NIST IR 8596 (rascunho preliminar de dezembro de 2025 que faz a ponte entre os dois). ISO/IEC 42001 para o sistema de gestão de IA + ISO 27001 para segurança da informação. OWASP Top 10 LLM para segurança de aplicações. Requisitos de cibersegurança do EU AI Act para a IA no escopo. CPS 234 para a segurança da informação em serviços financeiros australianos.

O que os CISOs devem construir

Controles de segurança específicos para IA. Testes de injeção de prompt, filtragem de saídas, validação de entradas para sistemas de IA. Limitação de taxa (rate limiting) e detecção de anomalias no acesso a APIs de IA. Regras de prevenção contra perda de dados (DLP) cobrindo as entradas em ferramentas de IA. Segmentação de rede para a infraestrutura de treinamento e inferência de IA.

IAM para atores não humanos. Agentes de IA, fluxos de trabalho automatizados e processos conduzidos por IA precisam de gestão de identidade: identidades únicas, acesso de menor privilégio, autenticação, registro de auditoria e revisão de acessos. Essa é a lacuna que a APRA apontou especificamente.

Avaliação de segurança de fornecedores de IA. A avaliação padrão de risco de terceiros, ampliada com perguntas específicas de IA: testes de segurança do modelo, segurança dos dados de treinamento, robustez adversarial, resposta a incidentes para falhas específicas de IA.

Resposta a incidentes de IA. Incidentes de IA (anomalias de comportamento do modelo, ataques adversariais, vazamento de dados por meio da IA, incidentes com conteúdo gerado por IA) precisam de procedimentos de resposta definidos, caminhos de escalonamento e obrigações de reporte.

Conscientização em segurança para IA. Treinamento dos colaboradores sobre riscos específicos de IA: o que não inserir em ferramentas de IA, como reconhecer phishing gerado por IA e como reportar preocupações de segurança relacionadas à IA.

Leituras relacionadas

Leitura adicional: Orientações do ASD ACSC sobre IA agêntica