基于条件高斯PAC-Bayes的机载CNN分类器安全性评估

doi:10.7527/S1000-6893.2024.30824

电子电气工程与控制

本期目录 | 过刊浏览 | 高级检索

前一篇 |

基于条件高斯PAC-Bayes的机载CNN分类器安全性评估

马赞¹, 白杰¹(), 陈勇², 刘瑞华¹, 张艳婷¹

^1.中国民航大学民用航空器适航审定技术重点实验室，天津 300300
^2.中国商飞上海飞机设计研究院，上海 200216

收稿日期:2024-06-14 修回日期:2024-07-03 接受日期:2024-09-05 出版日期:2024-09-12 发布日期:2024-09-10
通讯作者: 白杰 E-mail:jbai@cauc.edu.cn
基金资助:
国家重点研发计划(2022YFB3904300)

Safety assessment for airborne CNN classifier based on conditional Gaussian PAC-Bayes

Zan MA¹, Jie BAI¹(), Yong CHEN², Ruihua LIU¹, Yanting ZHANG¹

^1.Key Laboratory of Civil Aircraft Airworthiness Certification Technology，Civil Aviation University of China，Tianjin 300300，China
^2.COMAC Shanghai Aircraft Design & Research Institute，Shanghai 200216，China

Received:2024-06-14 Revised:2024-07-03 Accepted:2024-09-05 Online:2024-09-12 Published:2024-09-10
Contact: Jie BAI E-mail:jbai@cauc.edu.cn
Supported by:
National Key Research and Development Program of China(2022YFB3904300)

摘要/Abstract

摘要：

针对机器学习技术的固有不确定输出特性给航空器适航安全性定量评估造成的挑战，在SAE ARP4761标准框架下，基于条件高斯PAC-Bayes泛化理论提出一种面向卷积神经网络（CNN）分类功能的系统安全性评估方法。首先，基于PAC-Bayes理论，通过条件高斯分布改进训练方法，优化泛化界，获取CNN模型不确定性量化表示。其次，提出一种基于泛化界置信度的软件不确定性与硬件可靠性融合方法，获取CNN部件的综合失效基础数据，支持整机/系统的定量安全性评估。最后，以基于CNN的全球导航卫星系统干扰信号识别模块装机为案例，表明该方法对适航安全性评估的有效支撑作用，为CNN技术的装机应用提供了必要的适航符合性保证。同时也实验验证基于条件高斯的方法比标准PAC-Bayes及Vapnik-Chervonenkis维都具有更紧的计算边界。

关键词: 机载CNN分类器, PAC-Bayes, SAE ARP4761, 条件高斯, 适航安全性

Abstract:

To address the airworthiness safety challenges caused by inherent uncertainty outputs of machine learning technology in airborne systems， a system safety assessment method based on the generalization theory is proposed for CNN classification under the framework of SAE ARP4761standards. First， based on the PAC-Bayes theory， the training method is improved through conditional gaussian process to optimize the generalization bound and obtain a quantified representation of the uncertainty of the CNN model. Second， an integration method for software uncertainty and hardware reliability based on generalization bound confidence is proposed to obtain comprehensive failure basic data of CNN components， supporting quantitative safety assessment of the aircraft/system. Finally， taking the airborne GNSS interference signal recognition module based on CNN as a case， the proposed method is shown to be effective in safety assessment， and is also experimentally verified that the generalization boundary based on conditional gaussian process has a tighter computational boundary than that of ordinary PAC-Bayes and Vapnik-Chervonenkis dimensions.

Key words: airborne CNN classifier, PAC-Bayes, SAE ARP4761, conditional Gaussian, airworthiness safety

中图分类号:

V244.12

马赞, 白杰, 陈勇, 刘瑞华, 张艳婷. 基于条件高斯PAC-Bayes的机载CNN分类器安全性评估[J]. 航空学报, 2025, 46(4): 330824.

Zan MA, Jie BAI, Yong CHEN, Ruihua LIU, Yanting ZHANG. Safety assessment for airborne CNN classifier based on conditional Gaussian PAC-Bayes[J]. Acta Aeronautica et Astronautica Sinica, 2025, 46(4): 330824.

图/表 14

表1

表2

图1

表3

表4

表5

图 2

表6

图 3

图 4

图5

图 6

图 7

表7

参考文献 24

1	刘嘉琛，董磊，陈曦，等. 基于改进STPA-DEMATEL的智能航电系统致因要素分析［J］. 系统工程与电子技术， 2024， 46（6）： 2023-2033.
	LIU J C， DONG L， CHEN X， et al. Analysis of causal factors of intelligent avionics system based on improved STPA-DEMTEL［J］. Systems Engineering and Electronics， 2024， 46（6）： 2023-2033 （in Chinese）.
2	PATRICK K Y. Artificial intelligence roadmap： A human-centric approach to AI in aviation（version1.0）［R］. Cologne： EASA， 2020.
3	PATRICK K Y. Artificial intelligence roadmap： A human-centric approach to AI in aviation（version2.0）［R］. Cologne： EASA， 2023.
4	JEAN C， XAVIER H， GEORGES R， et al. Concepts of design assurance for neural networks ［R］. Cologne： EASA， 2020.
5	TORENS C， DURAK U， DAUER J C. Guidelines and regulatory framework for machine learning in aviation［C］∥Proceedings of the AIAA SCITECH 2022 Forum. Reston： AIAA， 2022.
6	JOHN D， ERIC P，BOB M， et al. Guidelines for development of civil aircraft and systems： ARP4754A ［S］. Warrendale： SAE International， 2011.
7	JOHN D， LARRY L， MICHAEL B， et al. Guidelines and methods for conducting the safety assessment process on civil airborne systems and equipment： ARP4761 ［S］. Warrendale： SAE International， 1996.
8	ROGER S， DANIEL H， MICHAEL D， et al. Software considerations in airborne systems and equipment certification： DO-178 ［S］. Washington D.C： RTCA， 2011.
9	ROBERT C， LEE J， AMAUD D， et al. Design assurance guidance for airborne electronic hardware： DO-254 ［S］. Washington D.C： RTCA， 2000.
10	JAKOB G. A survey of uncertainty in deep neural networks［DB/OL］. arXiv preprint： 2107.0334， 2022.
11	VAPNIK V N， CHERVONENKIS A Y. On the uniform convergence of relative frequencies of events to their probabilities［J］. Theory of Probability & Its Applications， 1971， 16（2）： 264-280.
12	NATARAJAN B K. On learning sets and functions［J］. Machine Learning， 1989， 4（1）： 67-97.
13	BEN-DAVID S， CESA-BIANCHI N， HAUSSLER D， et al. Characterizations of learnability for classes of｛0， ..， n｝-valued functions［J］. Journal of Computer and System Sciences， 1995， 50： 74-86.
14	MCALLESTER D A. PAC-Bayesian model averaging［C］‍‍∥Proceedings of the twelfth annual conference on Computational learning theory. New York： ACM， 1999.
15	BÉGIN L， GERMAIN P， LAVIOLETTE F， et al. PAC-Bayesian theory for transductive learning［C］‍∥Proceedings of the Seventeenth International Conference on Artificial Intelligence and Statistics. Reykjavik： PMLR， 2014.
16	李旭燕，任晓. 主观解释的新发展：主体交互解释［J］. 心智与计算， 2007， 1（3）： 293-299.
	LI X Y， REN X. The new development of subjective interpretation： Subject interaction interpretation［J］. Mind and Computing， 2007， 1（3）： 293-299 （in Chinese）.
17	WASHINGTON A， CLOTHIER R A， WILLIAMS B P. A Bayesian approach to system safety assessment and compliance assessment for unmanned aircraft systems［J］. Journal of Air Transport Management， 2017， 62： 18-33.
18	WASHINGTON A， CLOTHIER R， NEOGI N， et al. Adoption of a Bayesian belief network for the system safety assessment of remotely piloted aircraft systems［J］. Safety Science， 2019， 118： 654-673.
19	王海朋，段富海. 复杂不确定系统可靠性分析的贝叶斯网络方法［J］. 兵工学报， 2020， 41（1）： 171-182.
	WANG H P， DUAN F H. Bayesian network method for reliability analysis of complex uncertainty systems［J］. Acta Armamentarii， 2020， 41（1）： 171-182 （in Chinese）.
20	LANGFORD J. Tutorial on practical prediction theory for classification［J］. Journal of Machine Learning Research， 2005， 6： 273-306.
21	MCALLESTER D A. PAC-Bayesian stochastic model selection［J］. Machine Learning， 2003， 51（1）： 5-21.
22	BIGGS F， GUEDJ B. Differentiable PAC-bayes objectives with partially aggregated neural networks［J］. Entropy， 2021， 23（10）： 1280.
23	CLERICO E， DELIGIANNIDIS G， DOUCET A. Wide stochastic networks： Gaussian limit and PAC-Bayesian training［DB/OL］. arXiv preprint： 2016. 09798， 2021.
24	XU H， CHENG Y F， LIANG J D， et al. A jamming recognition algorithm based on deep neural network in satellite navigation system［M］∥Lecture Notes in Electrical Engineering. Singapore： Springer Singapore， 2020： 701-711.

编辑推荐 0

Metrics

阅读次数

全文

HTML			PDF

最新录用	在线预览	正式出版	最新录用	在线预览	正式出版
0	0	5	28	0	26

来源	本网站	其他网站

次数	45	14
比例	76%	24%

摘要

313

最新录用	在线预览	正式出版

64	0	249

来源	本网站	其他网站

次数	66	247
比例	21%	79%

本文评价

地址：北京市海淀区北四环中路辅路238号柏彦大厦

邮政编码：100083

E-mail：hkxb@buaa.edu.cn

关于我们

期刊社服务

专业学科

封面文章

友情链接

主管单位：中国科学技术协会主办单位：中国航空学会北京航空航天大学

步骤	流程
1：	初始化参数先验分布 $P$ ；训练样本集 $S$ ；学习率 $η$ ；迭代次数 $T$ ；网络参数后验和先验的均值及方差 $(m, s)$
2：	For $t$ in $T$ ：
3：	隐含层的输出函数 $θ ← Q ~ P$
4：	最后一个隐含层的输出函数 $h = h (S, θ)$
5：	网络输出的均值 $M = M (h, m) = m W φ (h) 2 + m B$
6：	网络输出的方差 $V = V (h, s) = s W φ (h) 2 + s B 2$
7：	经验误差 $Q ̂ S = l (M, V)$
8：	真实误差 $B o u n d = k l - 1 (Q ̂ S, ε)$
9：	更新网络参数 $θ ← θ - η ∇ B o u n d$
10：	Return $θ$
11：	End
12：	得到CNN分类模型识别准确率、置信度 $δ$ ，以及真实误差 $Q D$ 的上限

信号参数	数值
P/dBw	-160
$f J$ （CWI）/MHz	$U (3.8,4.2)$
$f J$ （SCWI） /MHz	$U (3.8,4.5)$
$f c s w p$ （LFI）/MHz	$U (4.1,4.5)$
JSR/dB	（-5，50）
SNR/dB	45

网络层	卷积核	激活函数	输出维度
Conv1	（13，13）	ReLU	（216，216，10）
Conv2	（9，9）	ReLU	（208，208，15）
Conv3	（3，3）	ReLU	（50，50，20）
Conv4	（2，2）	ReLU	（49，49，30）
Full_con		ReLU	17 280
Linear1		ReLU	100
Linear2		Softmax	5

编号	故障树底事件	失效概率/每次飞行^-1
1	信号处理模块硬件失效	3.5×10^-6
2	捕获跟踪模块失效	4.6×10^-6
3	基带数字信号处理模块失效	6.1×10^-6
4	电文缓冲解析模块失效	2.7×10^-6
5	串口数据模块失效	3.5×10^-6
6	故障检测模块失效	4.3×10^-6
7	伪距测量解算模块失效	5.5×10^-6
8	位置解算模块失效	5.7×10^-6
9	速度解算模块失效	4.9×10^-6
10	硬件完好，ML不确定性导致性能超出限制	4.0×10^-5

基于条件高斯PAC-Bayes的机载CNN分类器安全性评估

Safety assessment for airborne CNN classifier based on conditional Gaussian PAC-Bayes

RichHTML

PDF (PC)

可视化

摘要/Abstract

引用本文

使用本文

图/表 14

参考文献 24

相关文章 1

编辑推荐 0

Metrics

本文评价