航空安全保证面临人工智能挑战:形式化验证与ASTM F3269-21运行时保证被视为认证桥梁
行业影响AI 航电系统的认证很可能不再取决于证明模型本身,而在于用经认证的确定性监控器为其划定边界,保障责任也随之转向系统架构与验证工具。
事件详述
Adnan Masood 博士发表了一篇文章,探讨人工智能如何重塑航空安全保障。这门工程学科要证明的是:机载和地面系统每十亿飞行小时(10⁻⁹)引发灾难性故障不会超过一次。

文章列举了正在空域体系中铺开的 AI 应用:FAA 基于云端的 SMART 流量规划器和图神经网络;HAAWAII 的声学复诵错误检测器,检测率达到 82%;以及 Airbus DragonFly 的视觉引导着陆测试。
Masood 认为,这些系统与确定性的认证标准存在冲突。RTCA DO-178C A 级要求用修正条件/判定覆盖(MC/DC)验证每一条布尔代码分支,而系统行为若隐含分布在数百万个浮点神经权重之中,这种测试就无从施展。
为弥合这一差距,文章提出把形式化数学验证求解器与 ASTM F3269-21 运行时保障配合使用。求解器指 Reluplex、Marabou 和 α,β-CROWN,它们能为紧凑的 ReLU 网络证明精确的可达性边界。按照这一思路,复杂的 AI 模型被约束在经 DO-178C 认证的 Simplex 安全监控器之内。
行业影响与后续观察
这一论点指向 AI 进入经认证航空系统的一个结构性分野。DO-178C A 级所要求的覆盖率测试,是为逻辑可以逐分支阅读的软件设计的,而训练出来的神经网络并不以这种方式呈现其行为。文章给出的办法不是让网络本身通过 MC/DC。模型在传统意义上仍然不经认证,安全论证转移到外围那个已获认证的监控器上。
这会影响供应商和集成商规划认证工作的方式。工作重心将转向三处:界定 Simplex 监控器所执行的安全包线,证明监控器始终能够接管,以及基于求解器的证明,即文章所说的 Reluplex、Marabou 和 α,β-CROWN 对紧凑 ReLU 网络可达性边界的证明。对紧凑网络的证明,比对任意 AI 模型的证明要窄,因此放进这个笼子里的网络有多大、属于什么类型,将决定这条路径能走多远。
后续要跟踪的事项很具体:认证机构是否接受 ASTM F3269-21 运行时保障,作为批准 AI 驱动功能的依据;文中点名的验证工具,能否用于 SMART 规划器、HAAWAII 复诵检测和 DragonFly 视觉引导着陆背后的模型。

















































