首页 >

机载系统轻量化意图理解模型的部署优化研究(AFC增刊,分论坛9)

吴安琪,曹敬帅,许新爽,王涛,谢峰   

  1. 中山大学
  • 收稿日期:2026-06-01 修回日期:2026-08-20 出版日期:2026-08-31 发布日期:2026-08-31
  • 通讯作者: 王涛
  • 基金资助:
    中央军委科技委基础加强计划技术领域基金项目;国家自然科学基金

  • Received:2026-06-01 Revised:2026-08-20 Online:2026-08-31 Published:2026-08-31
  • Supported by:
    The Foundation of Basic Strengthening Plan in Technical Field of the Science and Technology Committee of the Central Military Commission;National Natural Science Foundation of China

摘要: 针对机载系统部署大模型实时性差、资源占用高及语义结构信息易丢失等问题,提出一套轻量化意图理解部署优化框架。该框架从三个层面协同解决问题:(1)算法层面,融合知识蒸馏与量化感知训练,引入意图-槽位一致性损失与跨层语义对齐损失,在压缩过程中保留结构化语义;(2)部署层面,针对嵌入式平台特性,实现从ONNX模型转换、图优化、算子适配到动态推理引擎的全链路部署优化;(3)自适应层面,引入基于MAML的在线元学习,支持小样本场景下快速适应语义漂移。在CMNEE和UAV-Inst数据集上的实验结果表明,语义框架准确率分别达到90.59%和88.19%,相比通用压缩方法DistilBERT分别提升5.25和3.56个百分点;在Orange Pi 5 Plus边缘平台上,模型体积压缩至127.62MB,较BERT-base减小69.4%,推理延迟降至9.7ms,能耗降低62.7%。消融实验验证了各结构感知损失模块的有效性,元学习实验验证了少样本快速自适应能力,部署实验验证了全链路优化的工程可行性。研究结果表明,所提方法在保持高精度的同时,有效提升了机载环境下的运行效率,为空天智能系统的人机协同提供了可行方案。

关键词: 意图理解, 模型轻量化, 知识蒸馏, 量化, 边缘部署, 元学习

中图分类号: