La gobernanza de la IA en robótica es la disciplina que gestiona los riesgos de seguridad, responsabilidad, ética y regulación que surgen cuando la inteligencia artificial controla sistemas físicos que interactúan con las personas y con el mundo físico. Esto incluye robots industriales de fabricación, robots quirúrgicos, automatización de almacenes y logística, robots agrícolas, drones autónomos, robots de reparto, robots de servicio en hostelería y comercio minorista, y robots colaborativos (cobots) que trabajan junto a personas. El reto de gobernanza es fundamentalmente distinto al de la IA basada únicamente en software: cuando un sistema de IA que controla un robot físico comete un error, las consecuencias son físicas: lesiones, daños materiales, daños medioambientales o muerte. Esto genera una intersección de gobernanza entre la regulación de la IA, el derecho de seguridad de productos, el derecho de seguridad laboral y la responsabilidad por producto, que la mayoría de los marcos de gobernanza de la IA no han sido diseñados para abordar.

Panorama regulatorio de la IA en robótica

El Reglamento de Máquinas de la UE (2023/1230), que sustituye a la Directiva de Máquinas y entra en vigor en enero de 2027, introduce requisitos específicos para los componentes de seguridad habilitados con IA en la maquinaria. Los fabricantes deben realizar evaluaciones de riesgo que tengan en cuenta los modos de fallo específicos de la IA, incluidos el comportamiento inesperado, la deriva basada en el aprendizaje y las entradas adversarias. La Ley de IA de la UE clasifica los sistemas de IA utilizados como componentes de seguridad de productos cubiertos por la legislación de seguridad de productos de la UE como de alto riesgo en virtud del artículo 6(1) y el anexo I, y el cumplimiento se exige ahora antes de agosto de 2028 tras la ampliación del Digital Omnibus.

La Directiva de Responsabilidad por Productos revisada de la UE (2024/2853), que los Estados miembros deben transponer antes de diciembre de 2026, cubre explícitamente la IA y los productos digitales. Introduce una presunción de defecto cuando un fabricante no revela información relevante sobre su sistema de IA, y extiende la responsabilidad a los proveedores de software, no solo a los fabricantes de hardware. Se trata de un cambio significativo para las empresas de robótica que integran IA de terceros.

Las normas ISO para la seguridad de robots, la ISO 10218 (robots industriales), la ISO/TS 15066 (robots colaborativos) y la ISO 13482 (robots de asistencia personal), establecen requisitos de seguridad física que deben integrarse con la gobernanza de la IA. Estas normas abarcan la seguridad mecánica, la limitación de fuerza, el control de velocidad y separación, y la interacción entre humanos y robots, pero se redactaron antes de que la autonomía impulsada por IA fuera habitual y no abordan plenamente los riesgos específicos de la IA, como la deriva del modelo, los comportamientos aprendidos inesperados o la manipulación adversaria.

Requisitos clave de gobernanza

Las organizaciones que despliegan robots impulsados por IA deben implementar la gobernanza de «safety case» (caso de seguridad): un argumento documentado y basado en evidencias de que el sistema es aceptablemente seguro para el contexto previsto, mantenido y actualizado durante toda la vida operativa del sistema. Esto incluye pruebas de validación específicas de la IA (evaluar no solo la seguridad mecánica, sino también la toma de decisiones de la IA en casos límite, condiciones adversarias y entradas degradadas), mecanismos de supervisión humana (procedimientos claros para la intervención humana, la parada de emergencia y la anulación manual), monitorización continua del rendimiento del sistema de IA en producción (detectando la deriva, los comportamientos inesperados y la degradación), procedimientos de respuesta a incidentes específicos para fallos de robots con IA (distintos de la respuesta a incidentes de TI), y gobernanza de la cadena de suministro para los componentes de IA (garantizando que los modelos de IA de terceros integrados en los sistemas robóticos cumplan con sus requisitos de seguridad y gobernanza).

Más información: Ley de IA de la UE | ISO 10218, seguridad de robots industriales | guía de los Five Eyes sobre IA agéntica

Lecturas relacionadas

Más información: Ley de IA de la UE | ISO 10218, seguridad de robots industriales | guía de los Five Eyes sobre IA agéntica