As oito categorias do Anexo III em detalhe

Categoria 1, Identificação e categorização biométrica: IA usada para identificação biométrica remota em tempo real em espaços acessíveis ao público (sujeita a exceções específicas para a aplicação da lei e a autorizações dos Estados-membros), sistemas de identificação biométrica remota a posteriori usados pelas autoridades responsáveis pela aplicação da lei, e IA usada para categorizar indivíduos com base em dados biométricos segundo atributos sensíveis (raça, opiniões políticas, religião, orientação sexual). Observação: a IA de reconhecimento de emoções e a categorização biométrica para finalidades privadas restritas (desbloquear o próprio celular) não se enquadram nesta categoria.

Categoria 2, Infraestrutura crítica: IA usada como componente de segurança na gestão ou operação de infraestrutura digital crítica (redes elétricas, sistemas de água, redes de transporte), gestão do tráfego rodoviário e fornecimento de água, gás, aquecimento ou eletricidade. O ponto central é que a IA precisa ser crítica para a segurança; a IA usada para otimização ou eficiência não se enquadra automaticamente nesta categoria.

Categoria 3, Educação e formação profissional: IA usada para determinar o acesso a instituições de ensino e formação profissional ou a distribuição de vagas nessas instituições, para avaliar resultados de aprendizagem de formas que afetem as trajetórias educacionais dos alunos, para avaliar a competência dos alunos de formas que afetem seu futuro, e para monitorar alunos durante avaliações. A IA usada para apoiar o ensino ou auxiliar os alunos na aprendizagem geralmente não é considerada de alto risco nesta categoria.

Categoria 4, Emprego, gestão de trabalhadores e acesso ao trabalho autônomo: IA usada para tomar decisões relacionadas ao emprego, incluindo recrutamento e seleção (triagem de candidatos), decisões sobre promoção, rescisão da relação de trabalho, atribuição de tarefas, monitoramento e avaliação de desempenho, e decisões sobre acesso a oportunidades de trabalho autônomo. Esta é a categoria que afeta o maior número de implementações de IA corporativa; praticamente qualquer IA usada em RH que afete decisões relacionadas ao emprego é de alto risco.

Categoria 5, Acesso a serviços privados essenciais e a serviços e benefícios públicos essenciais: IA usada para avaliar a capacidade creditícia e a pontuação de crédito (com exceções limitadas), IA usada na avaliação de risco e na precificação de seguros de vida e saúde, IA usada para avaliar a elegibilidade a benefícios assistenciais e serviços sociais, IA usada no despacho de serviços de emergência, e IA usada no acesso à educação. Esta categoria abrange a maior parte da IA de serviços financeiros que afeta os resultados dos clientes.

Categoria 6, Aplicação da lei: IA usada como polígrafos e ferramentas similares, IA usada para avaliar a confiabilidade de provas, IA usada para prever a probabilidade de um indivíduo cometer um delito, IA usada para elaboração de perfis em investigações. Restrições significativas se aplicam à IA usada na aplicação da lei, e muitas aplicações são proibidas, não apenas classificadas como de alto risco.

Categoria 7, Gestão de migração, asilo e controle de fronteiras: IA usada para avaliar riscos relacionados a indivíduos que solicitam vistos ou asilo, IA usada no controle de fronteiras, e IA usada para detectar a autenticidade de documentos.

Categoria 8, Administração da justiça e processos democráticos: IA usada para auxiliar autoridades judiciais na pesquisa e interpretação de fatos e da lei, IA usada na resolução de litígios, e IA usada para influenciar eleições e o comportamento de voto.

Sua IA é de alto risco? A estrutura de avaliação

Passo 1: identifique o caso de uso especificamente. A classificação de alto risco é específica para cada caso de uso, não para a tecnologia em si. Um modelo de linguagem de grande escala (LLM) não é inerentemente de alto risco, mas o mesmo modelo usado para triagem de candidatos a emprego é de alto risco segundo a Categoria 4. Passo 2: compare o caso de uso com as categorias do Anexo III. Leia cada categoria com atenção e considere se o seu caso de uso específico se enquadra nela. As categorias têm texto definitório no AI Act que deve ser lido em conjunto com o Anexo III. Passo 3: considere se alguma exclusão se aplica. O AI Act exclui a IA usada exclusivamente para finalidades processuais restritas, a IA usada para detectar fraudes, e a IA destinada a ser um elemento preparatório para uma decisão humana (com revisão humana genuína) em alguns contextos. Passo 4: documente sua avaliação. Seja qual for a conclusão, se a IA é ou não é de alto risco, documente a avaliação com a devida justificativa. Essa documentação é necessária para due diligence, para eventuais consultas regulatórias e para a responsabilização interna.

Leitura complementar: texto integral do EU AI Act

Leituras relacionadas

Leitura complementar: texto integral do EU AI Act