La Agencia Nacional de Aviación Civil de Brasil (ANAC) estableció una nueva Condición Especial para regular el uso de Inteligencia Artificial (IA) y Aprendizaje Automático (ML) en sistemas de seguridad crítica. Esta normativa, identificada como CE/SC 25-072, se centra específicamente en la instalación del Sistema de Aviso y Conciencia de Excursión de Pista (Runway Overrun Awareness and Alerting System – ROAAS) en aeronaves del fabricante Embraer.
La regulación se aplica inicialmente a los modelos EMB-550 (familia Praetor) y ERJ 190-300/-400 (familia E-Jets E2). El objetivo principal es garantizar que la integración de algoritmos de IA/ML en el sistema ROAAS cumpla con los estándares de seguridad exigidos por el Reglamento Brasileño de la Aviación Civil (RBAC 25).
Según informó la ANAC, el uso de estas tecnologías debe clasificarse por niveles. Esta condición especial se enfoca en el Nivel 1, donde la IA asiste al piloto, pero la supervisión humana sigue siendo el factor determinante en la toma de decisiones.
Requisitos de seguridad y explicabilidad
Para que un sistema basado en IA/ML obtenga la certificación, los operadores y fabricantes deben cumplir con una serie de criterios técnicos rigurosos:
Dominio de Diseño Operacional (ODD): definición clara de las condiciones bajo las cuales el sistema puede operar de manera segura.
Explicabilidad (explainability): el sistema debe proveer información comprensible y oportuna sobre cómo llega a sus resultados, permitiendo que el usuario humano confíe en la herramienta.
Gestión de datos: se exige la capacidad de recolectar y analizar datos para reproducir escenarios en servicio y entender el comportamiento del modelo.
Ciberseguridad: evaluación de vulnerabilidades específicas relacionadas con la manipulación de datos o modelos de aprendizaje…
