Loading
Definições em linguagem simples dos termos que importam em governança de IA, regulamentação e gestão de riscos.
O princípio de que indivíduos ou órgãos específicos assumem responsabilidade pelas decisões e resultados do sistema de IA - incluindo a obrigação de explicar decisões, aceitar consequências por danos e implementar ações corretivas.
Quando um sistema de IA produz saídas que desfavorecem injustamente indivíduos com base em características protegidas como raça, gênero, idade ou deficiência, seja por design, dados de treinamento ou contexto de implantação.
Um registro cronológico da atividade do sistema de IA, entradas, saídas, decisões e modificações, mantido para permitir revisão posterior, verificação de conformidade e responsabilidade.
Erros sistemáticos nas saídas de IA que resultam em tratamento injusto de certos grupos. As fontes incluem dados de treinamento tendenciosos, design de modelo falho e objetivos de otimização desalinhados.
No âmbito da Lei de IA da UE, o processo pelo qual sistemas de IA de alto risco são avaliados em relação a requisitos obrigatórios antes da colocação no mercado. Pode ser realizada pelo desenvolvedor (autoavaliação) ou por um organismo notificado (avaliação de terceiros).
O histórico documentado de um conjunto de dados, sua origem, método de coleta, etapas de processamento e cadeia de custódia. Crítico para a governança de IA, pois a qualidade dos dados afeta diretamente a confiabilidade e a justiça do modelo.
Regulamento (UE) 2024/1689, o primeiro quadro jurídico vinculativo e abrangente do mundo para IA. Estabelece um sistema de classificação baseado em risco com usos proibidos, obrigações de alto risco e requisitos gerais. As obrigações de transparência do artigo 50.º aplicam-se a partir de 2 de agosto de 2026; as obrigações de alto risco do anexo III a partir de 2 de dezembro de 2027, nos termos do Regulamento (UE) 2026/1744.
O grau em que as saídas de um sistema de IA podem ser entendidas e interpretadas por humanos. Varia de total transparência (sistemas baseados em regras) a métodos de explicação post-hoc para modelos de caixa preta.
Quando um sistema de IA generativa produz saídas factualmente incorretas, fabricadas ou internamente inconsistentes, mas apresentadas com aparente confiança. Um risco chave em aplicações empresariais intensivas em conhecimento.
No âmbito da Lei de IA da UE, sistemas de IA em setores específicos (saúde, educação, emprego, infraestrutura crítica, aplicação da lei, etc.) que representam risco significativo para direitos ou segurança. Sujeitos a requisitos obrigatórios incluindo documentação, supervisão humana e avaliação de conformidade.
A capacidade de humanos qualificados monitorarem, intervirem e, se necessário, interromperem a operação do sistema de IA. Necessário para IA de alto risco no âmbito da Lei de IA da UE e cada vez mais esperado como padrão mínimo de governança.
ISO/IEC 42001:2023 - o padrão internacional para sistemas de gerenciamento de IA. Fornece um framework para as organizações estabelecerem, implementarem, manterem e melhorarem continuamente a governança responsável de IA.
A degradação do desempenho do modelo de IA ao longo do tempo, à medida que as distribuições de dados do mundo real se afastam das condições de treinamento. Requer monitoramento contínuo e retreinamento periódico para manter saídas confiáveis.
O Framework de Gerenciamento de Risco de IA do Instituto Nacional de Padrões e Tecnologia (2023). Um framework voluntário dos EUA para identificar, avaliar e gerenciar riscos de IA em quatro funções: Govern, Map, Measure, Manage.
O uso de ferramentas de IA por funcionários sem conhecimento, aprovação ou supervisão organizacional. Cria riscos de segurança de dados, propriedade intelectual e conformidade, particularmente com ferramentas de IA para consumidores.
O conjunto de dados usado para treinar um modelo de IA. Sua qualidade, representatividade e proveniência determinam diretamente o comportamento, desempenho e propriedades de justiça do modelo.