Las ocho categorías del Anexo III al completo

Categoría 1, Identificación y categorización biométricas: IA utilizada para la identificación biométrica remota en tiempo real en espacios de acceso público (sujeta a excepciones específicas en materia de aplicación de la ley y a autorizaciones de los Estados miembros), sistemas de identificación biométrica remota en diferido utilizados por las autoridades policiales, e IA utilizada para categorizar a las personas a partir de datos biométricos según atributos sensibles (raza, opiniones políticas, religión, orientación sexual). Nota: la IA de reconocimiento de emociones y la categorización biométrica para fines privados limitados (desbloquear el propio teléfono) no entran en esta categoría.

Categoría 2, Infraestructuras críticas: IA utilizada como componente de seguridad en la gestión o el funcionamiento de infraestructuras digitales críticas (redes eléctricas, sistemas de agua, redes de transporte), en la gestión del tráfico rodado y en el suministro de agua, gas, calefacción o electricidad. La clave es que la IA debe ser crítica para la seguridad, la IA utilizada para optimización o eficiencia no entra automáticamente en esta categoría.

Categoría 3, Educación y formación profesional: IA utilizada para determinar el acceso o la asignación a instituciones de educación y formación profesional, para evaluar los resultados del aprendizaje de forma que afecte a la trayectoria educativa de los estudiantes, para evaluar la competencia de los estudiantes de forma que afecte a su futuro, y para vigilar a los estudiantes durante los exámenes. La IA utilizada para apoyar la docencia o ayudar a los estudiantes en su aprendizaje generalmente no es de alto riesgo con arreglo a esta categoría.

Categoría 4, Empleo, gestión de los trabajadores y acceso al autoempleo: IA utilizada para tomar decisiones de empleo, incluidas la contratación y la selección (preselección de candidatos), decisiones sobre promociones, la extinción de relaciones laborales, la asignación de tareas, el seguimiento y la evaluación del rendimiento, y decisiones sobre el acceso a oportunidades de autoempleo. Esta es la categoría que afecta al mayor número de despliegues de IA empresarial, prácticamente cualquier IA utilizada en recursos humanos que afecte a decisiones de empleo es de alto riesgo.

Categoría 5, Acceso a servicios privados esenciales y a servicios y prestaciones públicos esenciales: IA utilizada para evaluar la solvencia y la calificación crediticia (con excepciones limitadas), IA utilizada en la evaluación de riesgos y la fijación de precios de los seguros de vida y de salud, IA utilizada para evaluar la admisibilidad a prestaciones sociales y servicios sociales, IA utilizada en el despacho de los servicios de emergencia, e IA utilizada en el acceso a la educación. Esta categoría abarca la mayor parte de la IA de servicios financieros que afecta a los resultados de los clientes.

Categoría 6, Aplicación de la ley: IA utilizada como polígrafo y herramientas similares, IA utilizada para evaluar la fiabilidad de las pruebas, IA utilizada para predecir la probabilidad de que una persona cometa una infracción penal, e IA utilizada para la elaboración de perfiles en investigaciones. A la IA policial se le aplican restricciones significativas y muchas aplicaciones están prohibidas, no meramente clasificadas como de alto riesgo.

Categoría 7, Migración, asilo y gestión del control fronterizo: IA utilizada para evaluar riesgos relacionados con personas que solicitan visados o asilo, IA utilizada en el control fronterizo, e IA utilizada para detectar la autenticidad de documentos.

Categoría 8, Administración de justicia y procesos democráticos: IA utilizada para asistir a las autoridades judiciales en la investigación e interpretación de los hechos y del Derecho, IA utilizada en la resolución de litigios, e IA utilizada para influir en elecciones y en el comportamiento de voto.

¿Es su IA de alto riesgo? El marco de evaluación

Paso 1: identifique el caso de uso de forma específica. La clasificación de alto riesgo es específica del caso de uso, no de la tecnología. Un gran modelo de lenguaje no es intrínsecamente de alto riesgo, pero ese mismo modelo utilizado para cribar candidatos a un puesto de trabajo es de alto riesgo con arreglo a la categoría 4. Paso 2: contraste el caso de uso con las categorías del Anexo III. Lea cada categoría con atención y valore si su caso de uso específico se encuadra en ella. Las categorías cuentan con texto definitorio en el Reglamento de IA que debe leerse junto con el Anexo III. Paso 3: considere si se aplica alguna exclusión. El Reglamento de IA excluye la IA utilizada únicamente para fines procedimentales limitados, la IA utilizada para detectar fraudes y la IA destinada a ser un elemento preparatorio de una decisión humana (con revisión humana real) en algunos contextos. Paso 4: documente su evaluación. Tanto si su conclusión es que la IA es de alto riesgo como si no lo es, documente la evaluación con su razonamiento. Esta documentación es necesaria para la diligencia debida, para las consultas regulatorias y para la rendición de cuentas interna.

Lectura complementaria: Texto completo del Reglamento de IA de la UE

Lecturas relacionadas

Lectura complementaria: Texto completo del Reglamento de IA de la UE