模块级故障诊断属于航空装备三级维修体系中的中继级维修范畴，是提升航空保障能力的关键环节。航空电子设备各模块间交联关系复杂^[1-3]，难以对各故障建立严格的数学模型，这对故障诊断带来了极大的挑战^[4-5]。

基于数据驱动的方法为解决上述问题提供了良好的思路。其中，深度学习与基于核方法的学习算法在航空电子部件的故障诊断中得到了最广泛的关注。前者主要适用于故障样本充足、计算资源丰富的情况，因此应用范围较为狭小，在电路元件级诊断中较为常见，文献[6-7]用深度置信网络(DBN)自动提取模拟电路的抽象故障特征，极大地提高了诊断正确率；考虑到神经网络训练时间长以及固有的人为经验依赖性，文献[8]结合数据压缩和自编码技术，提出了一种基于改进人工神经网络的航天器电信号分类方法。后者在小样本条件下尤为适用^[9]，在文献[10-11]中，支持向量机(SVM)与核极限学习机(KELM)分别被运用于电子系统的故障诊断，展现了较强的统计学习能力。此外，从诊断方法的角度看，为使航空电子设备的诊断结论更加可靠，将多个分类器的结果进行信息融合是另一个重要的研究方向^[12]；从诊断对象的角度看，作为航空电子设备在服役中后期的主要故障类型，间歇故障的诊断正受到越来越多的关注，将成为复杂电子设备故障诊断的新方向^[13]；从诊断的基础看，当前航空电子设备很少考虑故障诊断的测试需求，直接导致特征参数获取困难，因此，测试性设计技术也依然是研究的重点^[14]。

实际应用中，航空电子部件的样本规模一般很小^[11]，因此，基于核方法的学习算法更有前景。在该类方法中，核函数及其参数的选取将严重制约方法的性能^[15-16]。大量研究表明，多核学习(Multiple Kernel Learning, MKL)可增强决策函数的可解释性，且比单核模型具备更优的性能^[17-18]。文献[19-20]分别在模拟电路、局域网的故障诊断中尝试运用MKL，在多种复杂故障情形下验证了MKL对提升诊断精度的有效性。文献[21]提出了一种更有效的MKL方法，称作SimpleMKL，通过简单的子梯度下降方法求解MKL问题，提高了MKL的实用性。但在MKL的框架里，基核权重被不加判别地应用于整个输入空间，忽视了基核在不同样本上可用性的差异。针对该问题，局部算法被引入到MKL中，称之为局部多核学习(Localized MKL，LMKL)。

近年来，国内外学者对LMKL进行了广泛的研究，大致可分为两类。一类为每一个样本学习一组独立的基核权重，称之为面向样本的LMKL(Sample-based Localized MKL，S-LMKL)模型^[22-23]。针对S-LMKL中局部权重的优化形式二次非凸的问题，文献[24]中Gnen和Alpaydin通过一系列参数化的门模型(Gating Model)去局部地拟合核参数；文献[25]则着重研究了SVM分类框架下，对基核权重施加不同的范数约束对LMKL的影响。另一类是由Yang等^[26]最初提出的基于分组的LMKL(Group-based Localized MKL，G-LMKL)模型，该方法首先根据样本相似性进行聚类，再为每个聚类学习一组基核权重，继承了S-LMKL的局部特征自适应表达能力，还有效约减了计算量，避免了过拟合。基于文献[26]的思想，文献[27]将聚类过程嵌入LMKL的训练中，提出了基于动态聚类的G-LMKL模型；文献[11]则引入近邻传播聚类来挖掘局部特征信息，由于事先不需指定聚类数目，使得G-LMKL对于不同规模的样本均具有较好的实用性。

G-LMKL克服了S-LMKL面临的主要风险，并且可以通过控制聚类数量来控制计算复杂性，更具灵活性。然而，G-LMKL中简单的“硬聚类”并不足以有效描述样本间的多样性，在同一聚类的内部基核的可用性显然也存在差异。出于这样的考虑，针对航空电子设备故障样本的采集困难性、分布复杂性以及本身固有的不确定性，提出一种小样本条件下融合隶属度信息的局部多核超限学习机模型(Fuzzy Clustering Localized Multi-Kernel Extreme Learning Machine，FC-LMKELM)，其主要贡献在于：

1) 不同于现有的基于SVM的G-LMKL，受2015年提出的多核超限学习机(MK-ELM)^[28]和文献[11]启发，本文将G-LMKL与ELM结合，从理论上给出了G-LMK-ELM的形式化表达。

2) 不同于已有的基于“硬聚类”的G-LMKL，基于模糊C均值聚类结果，本文的核权重将由样本落入各聚类的概率以及为每个聚类分配的核权重共同决定。在继承一般G-LMKL算法局部特征自适应能力和计算复杂性约减能力的同时，还进一步挖掘类内多样性，有利于提高诊断精度。

3) 针对局部权重优化形式的二次非凸问题，通过剖析G-LMK-ELM的初始优化问题及其对偶优化问题之间的关系，搭建了面向初始-对偶混合优化问题的参数三阶段交替更新策略。

1 问题描述

对于一个多故障模式诊断问题，设训练集和测试集分别为$\boldsymbol{D}_{\mathrm{Tr}}=\left\{\left(\boldsymbol{x}_{i}, \boldsymbol{y}_{i}\right)\right\}_{i=1}^{n} $和$ {\mathit{\boldsymbol{D}}_{{\rm{Te}}}} = \left\{ {\left( {\mathit{\boldsymbol{x}}_i^\prime } \right.} \right., \left. {\left. {\mathit{\boldsymbol{y}}_i^\prime } \right)} \right\}_{i = 1}^{{n^\prime }}$。其中，$\boldsymbol{x}_{i} \in \mathbf{R}^{d} $和$ \boldsymbol{x}_{i}^{\prime} \in \mathbf{R}^{d}$分别表示训练样本和测试样本实例，d∈R表示x_i的维数；$ \boldsymbol{y}_{i} \in \mathbf{R}^{m}(m \geqslant 2)$表示x_i的故障模式(标签)，$ {\mathit{\boldsymbol{y}}_i^\prime }$未知。故障诊断的本质就是基于D_Tr获得一个映射f(·):R^d→R，使$ {\mathit{\boldsymbol{x}}_i^\prime }$通过该映射得到的故障模式$\mathit{\boldsymbol{y}}_i^\prime \in {{\mathbf{R}}^m} $与真实的${\mathit{\boldsymbol{y}}_i^\prime } $尽可能的相同。

设原始数据集可聚类为G个不同的“群组”，$ \left\{k_{q}(\cdot, \cdot)\right\}_{q=1}^{r}$为预定义的r个基核，则面向于群组聚类的LMK-ELM(G-LMK-ELM)的局部权重定义为$ \gamma=\left\{\gamma_{q}^{c\left(x_{i}\right)}\right\}_{q=1, 2, \cdots, r}^{i=1, 2, \cdots, n}$，其中c(x_i)∈{1, 2, …, G}表示样本x_i所属的“群组”标签。每一个局部权重既与q相关，又与c(x_i)相关。设$ \left\{ {{\phi _q}( \cdot )} \right\}_{q = 1}^r$和$ \left\{ {{\mathit{\boldsymbol{K}}_q}} \right\}_{q = 1}^r$分别为与基核$\left\{ {{k_q}( \cdot , \cdot )} \right\}_{q = 1}^r $相对应的特征映射和核矩阵，基于ELM理论，G-LMK-ELM可形式化为

$ \begin{array}{l} \mathop {\min }\limits_{\mathit{\boldsymbol{\beta }},\mathit{\boldsymbol{\xi }},\mathit{\boldsymbol{\gamma }}} \;\;\;\;\frac{1}{2}\sum\limits_{q = 1}^r {\left\| {{\mathit{\boldsymbol{\beta }}_q}} \right\|_{\rm{F}}^2} + \frac{C}{2}\sum\limits_{i = 1}^n {\left\| {{\mathit{\boldsymbol{\xi }}_i}} \right\|_2^2} \\ {\rm{s}}.\;{\rm{t}}.\;\;\;\;\sum\limits_{q = 1}^r {\gamma _q^{c\left( {{\mathit{\boldsymbol{x}}_i}} \right)}{\phi _q}\left( {{\mathit{\boldsymbol{x}}_i}} \right){\mathit{\boldsymbol{\beta }}_q}} = \mathit{\boldsymbol{y}}_i^{\rm{T}} - \mathit{\boldsymbol{\xi }}_i^{\rm{T}},i = 1,2, \cdots ,n \end{array} $

（1）

式中：$ {\mathit{\boldsymbol{\beta }}_q} \in {{\mathbf{R}}^{\left| {{\phi _q}( \cdot )} \right| \times m}}$为基于第q个基核的输出权重；$ |{\phi _q}( \cdot )|$为第q个基核诱导的特征空间维数，m为类别数量；$ \boldsymbol{y}_{i}=\left[y_{i 1}, y_{i 2}, \cdots, y_{i m}\right]^{\mathrm{T}}$和$ {\mathit{\boldsymbol{\xi }}_i} = {\left[ {{\xi _{i1}}, {\xi _{i2}}, \cdots , {\xi _{im}}} \right]^{\rm{T}}}$分别为与x_i对应的理想输出向量和误差向量；C为正则化因子。

在该问题的Lagrange函数中分别对β_q和ξ_i求偏导，并令结果等于0，可以进一步获得其对偶优化形式，即

$ \begin{array}{l} \mathop {\max }\limits_\alpha \mathop {\min }\limits_x - \frac{1}{2}\sum\limits_{i = 1}^n {\sum\limits_{j = 1}^n {\mathit{\boldsymbol{\alpha }}_i^{\rm{T}}{\mathit{\boldsymbol{\alpha }}_j}} } \sum\limits_{q = 1}^r {\gamma _q^{c\left( {{\mathit{\boldsymbol{x}}_i}} \right)}\gamma _q^{c\left( {{\mathit{\boldsymbol{x}}_j}} \right)}{k_q}\left( {{\mathit{\boldsymbol{x}}_i},{\mathit{\boldsymbol{x}}_j}} \right)} - \\ \;\;\;\;\;\;\;\;\;\;\;\;\frac{1}{{2C}}\sum\limits_{i = 1}^n {\mathit{\boldsymbol{\alpha }}_i^{\rm{T}}{\mathit{\boldsymbol{\alpha }}_i}} + \sum\limits_{i = 1}^n {\mathit{\boldsymbol{\alpha }}_i^{\rm{T}}{\mathit{\boldsymbol{y}}_i}} \end{array} $

（2）

式中：α_i为Lagrange乘子，对应于ELM的模型参数，并且有α_i=[α_i1, α_i2, …, α_im]^T，α=[α₁, α₂, …, α_n]^T。

求解上述对偶优化问题，得到以下决策函数

$ f\left( {{\mathit{\boldsymbol{x}}_i}} \right) = \sum\limits_{j = 1}^n {\mathit{\boldsymbol{\alpha }}_j^{\rm{T}}} \sum\limits_{q = 1}^r {\gamma _q^{c\left( {{\mathit{\boldsymbol{x}}_i}} \right)}\gamma _q^{c\left( {{\mathit{\boldsymbol{x}}_j}} \right)}{k_q}\left( {{\mathit{\boldsymbol{x}}_i},{\mathit{\boldsymbol{x}}_j}} \right)} $	（3）

尽管G-LMK-ELM在继承LMKL局部特征自适应能力的同时，兼顾了模型的泛化性能，但两个关键问题制约着式(2)所示优化问题的求解：① “粗暴”的硬聚类无法解释群组内部的基核可用性的差异，只依赖于群组的局部核权重会带来诊断准确性下降的风险；②式(2)对$\left\{ {\gamma _q^{c\left( {{\mathit{\boldsymbol{x}}_i}} \right)}} \right\}_{q = 1, 2, \cdots , r}^{i = 1, 2, \cdots , n} $的求解是困难的二次非凸问题。

2 基于隶属度的G-LMK-ELM诊断模型 2.1 基于模糊C均值聚类的样本空间划分

本节运用模糊C均值聚类方法(FCM)^[29]对数据集进行模糊划分，进而达到挖掘样本局部分布特征的目的。不同于硬聚类方法，模糊C均值聚类可以获取每个故障样本对于各个聚类的隶属度，将该隶属度信息作为先验知识融入G-LMK-ELM的局部核权重的优化中，有利于增强诊断模型的解释性，提高其诊断精度。

在FCM中，对样本的模糊划分可以表示成一个隶属度矩阵U=[u_ij](1≤i≤n, 1≤j≤C)，且U满足:

$ \begin{array}{l} \sum\limits_{j = 1}^G {{\mu _{ij}}} = 1\;\;\;\;{\mu _{ij}} \in \left[ {0,1} \right]\\ \;\;\;\;\;\;0 < \sum\limits_{i = 1}^n {{\mu _{ij}}} < n,1 \le i \le n,1 \le j \le G \end{array} $	（4）

式中：μ_ij为第i个数据关于第j个聚类的隶属度，u_ij越大，则第i个数据落入第j个聚类的概率越大。FCM算法的具体实施流程描述如下：

步骤1   输入训练数据集{x_i}_i=1ⁿ、糊聚类数目G、权重指数w、最大迭代次数maxT，初始化隶属度矩阵U，阈值ε，当前迭代次数t=1。

步骤2   更新聚类中心

$ {\mathit{\boldsymbol{c}}_i} = \frac{{\sum\limits_{j = 1}^n {\mu _{ij}^w{\mathit{\boldsymbol{x}}_j}} }}{{\sum\limits_{j = 1}^n {\mu _{ij}^w} }} $

步骤3   更新隶属度矩阵

$ {\mu _{ij}}\left( t \right) = {\left( {\sum\limits_{g = 1}^G {{{\left( {\frac{{\left\| {{\mathit{\boldsymbol{x}}_i} - {\mathit{\boldsymbol{c}}_j}} \right\|}}{{\left\| {{\mathit{\boldsymbol{x}}_i} - {\mathit{\boldsymbol{c}}_g}} \right\|}}} \right)}^{2/\left( {w - 1} \right)}}} } \right)^{ - 1}} $

步骤4  若$\sum\limits_{i = 1}^N {\sum\limits_{j = 1}^G {\left| {\mu _{{l_{ij}}}^w(t) - \mu _{ij}^w(t - 1)} \right|} } \le \varepsilon $或达到最大迭代次数maxT，则输出U，结束聚类；否则t=t+1，进入步骤2。

2.2 基于隶属度的FC-LMKELM诊断模型优化

根据2.1节的聚类结果，将隶属度矩阵U中元素记为p_x^g(g=1, 2, …, G)，表示样本x落入聚类g的概率。将关于群组的局部权重记为γ=$ \left[\gamma_{q}^{g}\right] \begin{array}{l}{g=1, 2, \cdots, G} \\ {q=1, 2, \cdots, r}\end{array}$。将隶属度信息纳入学习模型中，此时，式(1)所示的初始优化问题改写为

$ \begin{array}{l} \mathop {\min }\limits_{\beta ,\xi ,\gamma } \;\;\;\;\frac{1}{2}\sum\limits_{q = 1}^r {\left\| {{\mathit{\boldsymbol{\beta }}_q}} \right\|_{\rm{F}}^2} + \frac{C}{2}\sum\limits_{i = 1}^n {\left\| {{\mathit{\boldsymbol{\xi }}_i}} \right\|_2^2} \\ {\rm{s}}.\;{\rm{t}}.\;\;\;\;\sum\limits_{q = 1}^r {\sum\limits_{g = 1}^G {\gamma _q^gp_{{\mathit{\boldsymbol{x}}_i}}^g{\phi _q}\left( {{\mathit{\boldsymbol{x}}_i}} \right){\mathit{\boldsymbol{\beta }}_q}} } = \mathit{\boldsymbol{y}}_i^{\rm{T}} - \mathit{\boldsymbol{\xi }}_i^{\rm{T}},i = 1,2, \cdots ,n \end{array} $

（5）

不同于G-LMKL和S-LMKL，在FC-LMKL中，每个样本的核权重既与群组权重γ=$ \left[\gamma_{q}^{g}\right] \begin{array}{l}{g=1, 2, \cdots, G} \\ {q=1, 2, \cdots, r}\end{array}$有关，又与该样本落入各个群组的概率有关。其对偶优化问题等效于下面的max-min问题

$ \begin{array}{l} \mathop {\max }\limits_\mathit{\boldsymbol{\alpha }} \mathop {\min }\limits_\mathit{\boldsymbol{\gamma }} \left[ { - \frac{1}{2}\sum\limits_{i = 1}^n {\sum\limits_{j = 1}^n {\mathit{\boldsymbol{\alpha }}_i^{\rm{T}}{\mathit{\boldsymbol{\alpha }}_j}} } \sum\limits_{g = 1}^G {\sum\limits_{g' = 1}^G {\sum\limits_{q = 1}^r {p_{{\mathit{\boldsymbol{x}}_i}}^g\gamma _q^g{k_q}} } } \cdot } \right.\\ \;\;\;\;\;\;\;\;\;\;\;\left. {\left( {{\mathit{\boldsymbol{x}}_i},{\mathit{\boldsymbol{x}}_j}} \right)p_{{\mathit{\boldsymbol{x}}_j}}^{g'}\gamma _q^{g'} - \frac{1}{{2C}}\sum\limits_{i = 1}^n {\mathit{\boldsymbol{\alpha }}_i^{\rm{T}}{\mathit{\boldsymbol{\alpha }}_i}} + \sum\limits_{i = 1}^n {\mathit{\boldsymbol{\alpha }}_i^{\rm{T}}{\mathit{\boldsymbol{y}}_i}} } \right] \end{array} $

（6）

式(5)和式(6)对应的基于隶属度信息的FC-LMKL-ELM优化问题可以等效为式(7)所示的初始-对偶混合优化问题

$ \begin{array}{l} \mathop {\min }\limits_\mathit{\boldsymbol{\gamma }} \mathop {\min }\limits_\mathit{\boldsymbol{\beta }} \mathop {\max }\limits_\mathit{\boldsymbol{\alpha }} \;\;\;\;\frac{1}{2}\sum\limits_{q = 1}^r {\left\| {{\mathit{\boldsymbol{\beta }}_q}} \right\|_{\rm{F}}^2} + \frac{1}{{2C}}\sum\limits_{i = 1}^n {\mathit{\boldsymbol{\alpha }}_i^{\rm{T}}{\mathit{\boldsymbol{\alpha }}_i}} - \\ \;\;\;\;\;\;\;\sum\limits_{i = 1}^n {\left( {\sum\limits_{g = 1}^G {\sum\limits_{q = 1}^r {\gamma _q^g} } p_{{\mathit{\boldsymbol{x}}_i}}^G{\phi _q}\left( {{\mathit{\boldsymbol{x}}_i}} \right){\mathit{\boldsymbol{\beta }}_q} - \mathit{\boldsymbol{y}}_i^{\rm{T}}} \right){\mathit{\boldsymbol{\alpha }}_i}} \end{array} $

（7）

证明：

步骤1  由表达式(5)到表达式(7)

初始优化问题(5)对应的Lagrange函数为

$ \begin{array}{l} L\left( {\mathit{\boldsymbol{\alpha }},\mathit{\boldsymbol{\beta }},\mathit{\boldsymbol{\xi }},\mathit{\boldsymbol{\gamma }}} \right) = \frac{1}{2}\sum\limits_{q = 1}^r {\left\| {{\mathit{\boldsymbol{\beta }}_q}} \right\|_{\rm{F}}^2} + \frac{C}{2}\sum\limits_{i = 1}^n {\left\| {{\mathit{\boldsymbol{\xi }}_i}} \right\|_{\rm{2}}^2} - \\ \;\;\;\;\;\;\;\;\sum\limits_{i = 1}^n {\left( {\sum\limits_{g = 1}^G {\sum\limits_{q = 1}^r {\gamma _q^g} } p_{{\mathit{\boldsymbol{x}}_i}}^g{\phi _q}\left( {{\mathit{\boldsymbol{x}}_i}} \right){\mathit{\boldsymbol{\beta }}_q} - \mathit{\boldsymbol{y}}_i^{\rm{T}} + \mathit{\boldsymbol{\xi }}_i^{\rm{T}}} \right){\mathit{\boldsymbol{\alpha }}_i}} \end{array} $

在Lagrange函数中对ξ_i求偏导，并令结果等于0，有

$ \frac{{\partial L\left( {\mathit{\boldsymbol{\alpha }},\mathit{\boldsymbol{\beta }},\mathit{\boldsymbol{\xi }},\mathit{\boldsymbol{\gamma }}} \right)}}{{\partial {\mathit{\boldsymbol{\xi }}_i}}} = C\sum\limits_{i = 1}^n {{\mathit{\boldsymbol{\xi }}_i}} - \sum\limits_{i = 1}^n {{\mathit{\boldsymbol{\alpha }}_i}} = 0 \Rightarrow {\mathit{\boldsymbol{\xi }}_i} = \frac{1}{C}{\mathit{\boldsymbol{\alpha }}_i} $

将该结果代入Lagrange函数中，得到式(7)。

步骤2  由表达式(7)到表达式(6)

将表达式(7)重新写为

$ \begin{array}{l} \mathop {\min }\limits_\mathit{\boldsymbol{\gamma }} \mathop {\max }\limits_\mathit{\boldsymbol{\alpha }} \mathop {\min }\limits_\mathit{\boldsymbol{\beta }} \;\;\;\;\;\sum\limits_{i = 1}^n {\mathit{\boldsymbol{\alpha }}_i^{\rm{T}}{\mathit{\boldsymbol{y}}_i}} - \frac{1}{{2C}}\sum\limits_{i = 1}^n {\mathit{\boldsymbol{\alpha }}_i^{\rm{T}}{\mathit{\boldsymbol{\alpha }}_i}} + \\ \;\;\;\;\;\;\sum\limits_{q = 1}^r {\sum\limits_{k = 1}^m {\left( {\frac{1}{2}\left\| {\mathit{\boldsymbol{\beta }}_q^k} \right\|_2^2 - \sum\limits_{i = 1}^n {\sum\limits_{g = 1}^g {{\alpha _{ik}}} } \gamma _q^gp_{{\mathit{\boldsymbol{x}}_i}}^g{\phi _q}\left( {{\mathit{\boldsymbol{x}}_i}} \right)\mathit{\boldsymbol{\beta }}_q^k} \right)} } \end{array} $

（8）

式中：β_q^k为矩阵$ {\mathit{\boldsymbol{\beta }}_q} \in {{\mathbf{R}}^{\left| {{\phi _q}( \cdot )} \right| \times m}}$中第k个列向量。显然，式(8)关于β_q^k是凸的，对β_q^k求偏导，并令结果等于0，可得

$ \mathit{\boldsymbol{\beta }}_q^k = \sum\limits_{i = 1}^n {\sum\limits_{g = 1}^G {{\alpha _{ik}}} } \gamma _q^gp_{{x_i}}^g{\phi _q}\left( {{\mathit{\boldsymbol{x}}_i}} \right) $	（9）

将式(9)代入式(7)中，整理后可式(6)。

证毕。

2.3 FC-LMKELM的模型优化

为了求解融合隶属度的FC-LMKELM模型，针对式(7)定义的优化问题，提出一种3阶段的参数交替优化策略。

1) 固定γ，优化α

为了表示的简洁性，对于Lagrange乘子$ \mathit{\boldsymbol{\alpha }} \in {{\mathbf{R}}^{n \times m}}$和理想输出矩阵y执行向量化操作，即$ \mathit{\boldsymbol{\alpha '}} = {\mathop{\rm Vec}\nolimits} (\mathit{\boldsymbol{\alpha }}) = {\left[ {\mathit{\boldsymbol{\alpha }}_1^{\rm{T}}, \mathit{\boldsymbol{\alpha }}_2^{\rm{T}}, \cdots , \mathit{\boldsymbol{\alpha }}_n^{\rm{T}}} \right]^{\rm{T}}} \in {{\mathbf{R}}^{mn \times 1}}, $ ${\mathit{\boldsymbol{y}}^\prime } = {\mathop{\rm Vec}\nolimits} (\mathit{\boldsymbol{y}}) = {\left[ {\mathit{\boldsymbol{y}}_1^{\rm{T}}, \mathit{\boldsymbol{y}}_2^{\rm{T}}, \cdots , \mathit{\boldsymbol{y}}_n^{\rm{T}}} \right]^{\rm{T}}} \in {{\mathbf{R}}^{mn \times 1}} $。此时，从式(6)关于的优化目标函数可以表示为

$ J\left( {\mathit{\boldsymbol{\alpha '}}} \right) = {{\mathit{\boldsymbol{\alpha '}}}^{\rm{T}}}\mathit{\boldsymbol{y'}} - \frac{1}{2}{{\mathit{\boldsymbol{\alpha '}}}^{\rm{T}}}\mathit{\boldsymbol{K'\alpha '}} - \frac{1}{{2C}}{{\mathit{\boldsymbol{\alpha '}}}^{\rm{T}}}\mathit{\boldsymbol{\alpha '}} $	（10）

式中：$\boldsymbol{K}^{\prime} \in \mathbf{R}^{m n \times m n} $为核矩阵$ \mathit{\boldsymbol{K}}(\mathit{\boldsymbol{\gamma }}) = \sum\nolimits_{q = 1}^r {} \left( {{\mathit{\boldsymbol{\gamma }}_q}\mathit{\boldsymbol{\gamma }}_q^{\rm{T}}} \right)^\circ {\mathit{\boldsymbol{K}}_q}$的增广矩阵；$ {\mathit{\boldsymbol{\gamma }}_q} = \left[ {\sum\limits_{g = 1}^G {p_{{\mathit{\boldsymbol{x}}_1}}^g} \gamma _q^g} \right., {\left. {\sum\limits_{g = 1}^G {p_{{\mathit{\boldsymbol{x}}_2}}^g} \gamma _q^g, \cdots , \sum\limits_{g = 1}^G {p_{{\mathit{\boldsymbol{x}}_n}}^g} \gamma _q^g} \right]^{\rm{T}}}$；K_q为第q个基核诱导的核矩阵；表示矩阵之间对应元素分别相乘。将K′进一步展开，其具体形式如图 1所示。图中：$\mathit{\boldsymbol{K}}{(\mathit{\boldsymbol{\gamma }})_{ij}} = \sum\limits_{g = 1}^G {p_{{\mathit{\boldsymbol{x}}_i}}^g} \sum\limits_{{g^\prime } = 1}^G {p_{{\mathit{\boldsymbol{x}}_j}}^{{g^\prime }}} \sum\limits_{q = 1}^r {\gamma _q^g} \gamma _q^{{g^\prime }}{k_q}\left( {{\mathit{\boldsymbol{x}}_i}, {\mathit{\boldsymbol{x}}_j}} \right) $，每个虚线框内均是$ \mathit{\boldsymbol{K}}{(\mathit{\boldsymbol{\gamma }})_{ij}}$与m阶单位矩阵的乘积。

对式(10)的α′求偏导，并令结果等于0，可得

$ \mathit{\boldsymbol{\alpha '}} = {\left( {\mathit{\boldsymbol{K'}} + \mathit{\boldsymbol{I''}}/C} \right)^{ - 1}}\mathit{\boldsymbol{y'}} $	（11）

式中：I″为一个mn阶的单位矩阵。通过反矩阵向量化操作可得$\mathit{\boldsymbol{\alpha }} = {\mathop{\rm Vec}\nolimits} (\mathit{\boldsymbol{\alpha '}}) $。

2) 给定α、γ，计算β_q和f_q(x_i)

根据式(9)所示的β_q^k，容易得到

$ {\mathit{\boldsymbol{\beta }}_q} = \sum\limits_{i = 1}^n {\sum\limits_{g = 1}^G {\gamma _q^g} } p_{{\mathit{\boldsymbol{x}}_i}}^g\phi _q^T\left( {{\mathit{\boldsymbol{x}}_i}} \right)\mathit{\boldsymbol{\alpha }}_i^{\rm{T}} $	（12）

不妨用f_q(·)表示第q个基核导出的子分类器的输出函数，则样本x_i基于f_q(·)的输出向量为

$ {f_q}\left( {{\mathit{\boldsymbol{x}}_i}} \right) = {\phi _q}\left( {{\mathit{\boldsymbol{x}}_i}} \right){\mathit{\boldsymbol{\beta }}_q} = \sum\limits_{j = 1}^n {\sum\limits_{g = 1}^G {\gamma _q^g} } p_{{\mathit{\boldsymbol{x}}_j}}^g{k_q}\left( {{\mathit{\boldsymbol{x}}_i},{\mathit{\boldsymbol{x}}_j}} \right)\mathit{\boldsymbol{\alpha }}_j^{\rm{T}} $	（13）

3) 固定α、f_q(x_i)，更新γ

只考虑式(7)中与γ相关的项目，且注意到$ \parallel \mathit{\boldsymbol{\beta }}_q^k\parallel _2^2 = {\left( {\mathit{\boldsymbol{\beta }}_q^k} \right)^{\rm{T}}} \cdot \mathit{\boldsymbol{\beta }}_q^k = \sum\limits_{i = 1}^n {\sum\limits_{g = 1}^G {{\alpha _{ik}}} } \gamma _q^gp_{{\mathit{\boldsymbol{x}}_i}}^g{\phi _q}\left( {{\mathit{\boldsymbol{x}}_i}} \right)\mathit{\boldsymbol{\beta }}_q^k$，因此，式(7)等价于优化

$ \mathop {\min }\limits_\mathit{\boldsymbol{\gamma }} - \frac{1}{2}\sum\limits_{q = 1}^r {\sum\limits_{i = 1}^n {\sum\limits_{g = 1}^G {\gamma _q^g} } } p_{{\mathit{\boldsymbol{x}}_i}}^g{f_q}\left( {{\mathit{\boldsymbol{x}}_i}} \right){\mathit{\boldsymbol{\alpha }}_i} $	（14）

在式(14)中对γ_q^g施加不同约束，可得以下两种不同的局部权重更新方式。

1) l₁-范数约束

此时，式(14)在$\sum\nolimits_{q = 1}^r {} \gamma _q^g = 1, \gamma _q^g \ge 0 $约束下的优化问题本质上属于线性规划问题，运用MATLAB内置的linprog函数可以获得γ_q^g。

2) l_p-范数约束

式(14)在l_p-范数约束下的Lagrange函数表示为

$ \begin{array}{l} L = - \frac{1}{2}\sum\limits_{g = 1}^G {\sum\limits_{q = 1}^r {\gamma _q^g} } \sum\limits_{i = 1}^n {{p_{\mathit{\boldsymbol{x}}_i^g}}} {f_q}\left( {{\mathit{\boldsymbol{x}}_i}} \right){\mathit{\boldsymbol{\alpha }}_i} + \\ \;\;\;\;\;{\lambda _g}\left( {\sum\limits_{q = 1}^r {{{\left[ {\gamma _q^g} \right]}^p}} - 1} \right) \end{array} $	（15）

在式(15)中对γ_q^g求偏导并令结果等于0，有

$ \sum\limits_{i = 1}^n {p_{{\mathit{\boldsymbol{x}}_i}}^g} {f_q}\left( {{\mathit{\boldsymbol{x}}_i}} \right){\mathit{\boldsymbol{\alpha }}_i} = 2p{\lambda _i}{\left[ {\gamma _q^g} \right]^{p - 1}} $	（16）

联合l_p-范数约束条件和式(16)，可得

$ \gamma _q^g = \frac{{{{\left( {\sum\limits_{i = 1}^n {{p_{\mathit{\boldsymbol{x}}_i^g}}} {f_q}\left( {{\mathit{\boldsymbol{x}}_i}} \right){\mathit{\boldsymbol{\alpha }}_i}} \right)}^{1/\left( {p - 1} \right)}}}}{{{{\left( {\sum\limits_{q = 1}^r {{{\left[ {\sum\limits_{i = 1}^n {{p_{\mathit{\boldsymbol{x}}_i^g}}} {f_q}\left( {{\mathit{\boldsymbol{x}}_i}} \right){\mathit{\boldsymbol{\alpha }}_i}} \right]}^2}} } \right)}^{1/2}}}} $

（17）

特别地，当p=2时，有

$ \gamma _q^g = \frac{{\sum\limits_{i = 1}^n {{p_{\mathit{\boldsymbol{x}}_i^g}}} {f_q}\left( {{\mathit{\boldsymbol{x}}_i}} \right){\mathit{\boldsymbol{\alpha }}_i}}}{{{{\left( {\sum\limits_{q = 1}^r {\left[ {\sum\limits_{i = 1}^n {{p_{\mathit{\boldsymbol{x}}_i^g}}} {f_q}\left( {{\mathit{\boldsymbol{x}}_i}} \right){\mathit{\boldsymbol{\alpha }}_i}} \right]} } \right)}^{1/2}}}} $	（18）

2.4 诊断决策

基于2.3节3阶段交替优化后的α^*=[α₁, α₂, …, α_n]^T和${\mathit{\boldsymbol{\gamma }}^*}\quad = \left[ {\gamma _q^g} \right]_{q = 1, 2, \cdots , r}^{g = 1, 2, \cdots , G} $可进行诊断决策。在应用过程中，对于未知类别的数据实例z，首先通过模糊C均值聚类计算出它落入各个聚类的概率$ \left[ {p_\mathit{\boldsymbol{z}}^g} \right]^{g = 1, 2, \cdots , G}$；然后对聚类核权重$ \left[ {\gamma _q^g} \right]_{q = 1, 2, \cdots , r}^{g = 1, 2, \cdots , G}$与$ \left[ {p_\mathit{\boldsymbol{z}}^g} \right]^{g = 1, 2, \cdots , G}$取内积得到面向样本z的总核权重${\gamma _q}(\mathit{\boldsymbol{z}}) = \sum\limits_{g = 1}^G {\gamma _q^g} p_z^g $。最终，所提算法的决策函数为

$ f\left( z \right) = \sum\limits_{j = 1}^n {\sum\limits_{q = 1}^r {\sum\limits_{g' = 1}^G {\sum\limits_{g = 1}^G {\gamma _q^g} } } } p_\mathit{\boldsymbol{z}}^g\gamma _q^{g'}{p_{x_q^{g'}}}{k_q}\left( {\mathit{\boldsymbol{z}},{\mathit{\boldsymbol{x}}_j}} \right)\mathit{\boldsymbol{\alpha }}_j^{*{\rm{T}}} $	（19）

决策模型的图形解释如图 2所示。

在融合隶属度的FC-LMKELM模型中，不妨设测试样本的模型输出$ f(\mathit{\boldsymbol{z}}) = \left\{ {{f^{(1)}}(\mathit{\boldsymbol{z}}), } \right.\left. {{f^{(2)}}(\mathit{\boldsymbol{z}}), \cdots , {f^{(m)}}(\mathit{\boldsymbol{z}})} \right\}$，其中，$ {f^{(l)}}(\mathit{\boldsymbol{z}})$对应于第l个节点的输出值，则z的故障模式判定为

$ label\left( \mathit{\boldsymbol{z}} \right) = \arg \mathop {\max }\limits_{l \in \left\{ {1,2, \cdots ,m} \right\}} {f^{\left( l \right)}}\left( \mathit{\boldsymbol{z}} \right) $	（20）

融合隶属度的FC-MKELM模型整体框架总结如图 3所示。

3 方法流程

为方便表示，不妨将采用l₁-范数和l₂-范数约束时的FC-LMKELM分别记为l₁-FC-LMKELM和l₂-FC-LMKELM。根据图 4将所提方法的实施流程总结如下：

步骤1   确定训练数据集D_Tr=[(x_i, y_i)]_i=1ⁿ、基核[k_q(·, ·)]_q=1^r、模糊聚类数目G、最大迭代次数maxT以及ELM正则化因子C。

步骤2   通过FCM算法对训练样本进行聚类划分，获得隶属度矩阵U(即获取$ \left[ {p_{{\mathit{\boldsymbol{x}}_i}}^g} \right]_{i = 1, 2, \cdots , n}^{g = 1, 2, \cdots , G}$)和对应的聚类中心$ \left[v_{g}\right]^{g=1, 2, \cdots, G}$，根据不同的范数约束方式初始化$\left[ {\gamma _q^g} \right]_{q = 1, 2, \cdots , r}^{g = 1, 2, \cdots , G} $。

步骤3  基于$\left[ {\gamma _q^g} \right]_{q = 1, 2, \cdots , r}^{g = 1, 2, \cdots , G} $和$ \left[ {p_{{\mathit{\boldsymbol{x}}_i}}^g} \right]_{i = 1, 2, \cdots , n}^{g = 1, 2, \cdots , G}$，计算组合核矩阵K(γ)，将K(γ)组织成增广矩阵K′；通过式(11)计算α′，并反向量化为α。

步骤4   通过式(13)计算f_q(x_i)。

步骤5  若采用l₁-范数约束，通过解式(14)在l₁-范数约束下的线性规划问题获得$\left[ {\gamma _q^g} \right]_{q = 1, 2, \cdots , r}^{g = 1, 2, \cdots , G} $；若采用l_p-范数(本文以p=2为例)，通过式(18)更新$\left[ {\gamma _q^g} \right]_{q = 1, 2, \cdots , r}^{g = 1, 2, \cdots , G} $。

步骤6  若$\left|\gamma_{q}^{g}(t+1)-\gamma_{q}^{g}(t)\right| \leqslant 10^{-3} $，则执行步骤8；否则t=t+1，返回步骤3。

步骤7   计算测试样本x′_i到聚类中心v_g(g=1, 2, …, G)的隶属度获取$ {\left[ {p_{\mathit{\boldsymbol{x}}_i^\prime }^g} \right]^{g = 1, 2, \cdots G}}$。

步骤8  基于$ {\left[ {p_{\mathit{\boldsymbol{x}}_i^\prime }^g} \right]^{g = 1, 2, \cdots G}}$和最新的$\left[ {\gamma _q^g} \right]_{q = 1, 2, \cdots , r}^{g = 1, 2, \cdots , G} $，通过式(19)获取模型最终输出f(x′_i)；通过式(20)确定x′_i所属的故障模式。

4 实验分析

本节将以SimpleMKL^[21](基于MKL)，LCMKELM^[11](基于G-LMKL)和LMKL^[24](基于S-LMKL)作为比较算法，设计两个实验来验证FC-LMKELM的性能优势。其中，因选通函数不同，LMKL分别记作S-LMKL-softmax和S-LMKL-sigmoid，与文献[11]一致，LCMKELM分别记作M₁-LCMKELM和M₂-LCMKELM；根据范数约束的不同，将所提方法分别记为l₁-FC-LMKELM和l₂-FC-LMKELM。在训练之前，对所有的非高斯核矩阵$ \boldsymbol{K}=\left[K_{i j}=k\left(\boldsymbol{x}_{i}, \boldsymbol{x}_{j}\right)\right]_{i, j=1}^{r}$作正规化处理，即$ \widetilde{K}_{i j}=\frac{k\left(\boldsymbol{x}_{i}, \boldsymbol{x}_{j}\right)}{\sqrt{k\left(\boldsymbol{x}_{i}, \boldsymbol{x}_{i}\right) k\left(\boldsymbol{x}_{j}, \boldsymbol{x}_{j}\right)}}$；在以下两个实验中，正则化因子C以5倍交叉验证的方式从{10^－2, 0.1, 1, 10, 10², 10³, 10⁴}中选出；所提方法中涉及的FCM算法的参数设置为m=2，maxT=100；LCMKELM涉及的AP算法中λ=0.8，最大迭代次数为1000；各算法涉及的多核及其参数设置在以下具体的实验中进行表述。

所有算法均在MATLAB 2018a上运行，实验电脑配置为：Windows 7操作系统，Inter Core i7-4770 CPU，3.4 GHz主频和8 GB RAM。

4.1 方法有效性验证

本节通过人造数据集Gauss4证明FC-LMKELM的有效性。由于Gauss4具有明显的类内局部结构，因此常用其进行局部算法的性能验证^{[11, 24]}。该数据集包含2种类别，每个类别服从2个不同的高斯分布，每个分布产生300个样本，共1200个样本。与文献[11, 24]一致，每种分布的先验概率、均值、协方差为

$ {\rho _{11}} = 0.25,{\rho _{12}} = 0.25,{\rho _{21}} = 0.25,{\rho _{22}} = 0.25 $

$ {\mathit{\boldsymbol{\mu }}_{11}} = \left[ {\begin{array}{*{20}{l}} { - 3.0}\\ { + 1.0} \end{array}} \right],{\mathit{\boldsymbol{\mu }}_{12}} = \left[ {\begin{array}{*{20}{l}} { + 1.0}\\ { + 1.0} \end{array}} \right] $

$ {\mathit{\boldsymbol{\mu }}_{21}} = \left[ {\begin{array}{*{20}{c}} { - 1.0}\\ { - 2.2} \end{array}} \right],{\mathit{\boldsymbol{\mu }}_{22}} = \left[ {\begin{array}{*{20}{l}} { + 3.0}\\ { - 2.2} \end{array}} \right] $

$ {\mathit{\boldsymbol{ \boldsymbol{\varSigma} }}_{11}} = \left[ {\begin{array}{*{20}{c}} {0.8}&0\\ 0&{2.0} \end{array}} \right],{\mathit{\boldsymbol{ \boldsymbol{\varSigma} }}_{12}} = \left[ {\begin{array}{*{20}{c}} {0.8}&0\\ 0&{2.0} \end{array}} \right] $

$ {\mathit{\boldsymbol{ \boldsymbol{\varSigma} }}_{21}} = \left[ {\begin{array}{*{20}{c}} {0.8}&0\\ 0&{4.0} \end{array}} \right],{\mathit{\boldsymbol{ \boldsymbol{\varSigma} }}_{22}} = \left[ {\begin{array}{*{20}{c}} {0.8}&0\\ 0&{4.0} \end{array}} \right] $

实验共进行20次，每次随机选择600个样本用于训练，400个样本用于测试，设置所提方法的聚类数量为4。将所提方法与SimpleMKL^[21]、M₁-LCMKELM^[11]、M₂-LCMKELM^[11]、S-LMKL-softmax^[24]、S-LMKL-sigmoid^[24]比较。参考文献[11, 24]中的配置，上述所有方法均以线性核、参数是2的多项式核、参数是1的高斯核作为基核；F1分数是统计学中衡量二分类模型精确度的重要指标^[30]，本节将之与分类准确率以及文献[31]中的G-mean作为评价分类性能的3大指标，其值以“均值±标准差”的形式记录于表 1中。

由表 1可知，与其他方法相比，在l₁-范数和l₂-范数约束下，FC-LMKELM可以实现最优的分类性能。其原因在于：

1) SimpleMKL没有考虑样本的局部特征信息，因此在所有方法中，其分类性能最差。

2) 与2种常见的S-LMKL方法相比，LCMKELM和FC-LMKELM将基核权重拟合到样本所属聚类而非每个样本上，一定程度上抑制了过学习问题，分类精度得以提升；与2种基于硬聚类的LCMKELM方法相比，隶属度信息的融入使FC-LMKELM得以有效描述聚类内部样本间的多样性，因此，即便与诊断性能更佳的M₂-LCMKELM相比，在不同范数约束下，诊断精度也分别提升了0.35%和1.10%。

为更直观地展现FC-LMKELM相较于其他方法的优势，选取l₂-FC-LMKELM、SimpleMKL、S-LMKL-softmax与M₁-LCMKELM的受试者工作特征曲线(ROC)绘制于图 4中。由图 4可知，l₂-FC-LMKELM的曲线下方面积(AUC)依次大于M₁-LCMKELM、S-LMKL-softmax和SimpleMKL，这进一步验证了所提方法的性能。

为说明聚类数量对算法精度的影响，随机选择600个样本用于训练，400个样本用于测试，设置不同的聚类数量后，其测试结果如表 2所示。

由表 2可知：当聚类数量为1时，诊断精度处于较低水平；随着聚类数量增加，模型诊断精度出现不同程度的提高，但最佳的聚类数量与输入空间的局部结构有关，并无明确的规律可循，当聚类数量取值不当时，测试精度甚至会出现下降；当聚类数量增加到训练样本数量时，本文方法演变为S-LMKL-ELM，泛化性能有所降低。

4.2 某型机前端接收机故障诊断实例

某型机前端接收机组成如图 5所示，本节以其为例，验证FC-LMKELM的有效性。自动测试系统(ATS)对其进行12项测试：5个频点的灵敏度、动态范围，以及两项射频增益。用F₀、F₁、F₂、F₃分别表示正常模式、放大单元故障、微波单元1故障和微波单元2故障。ATS对每种模式采集48组样本，共得到192组样本，将之均分后形成训练集和测试集。基于厂家维护保养手册中的测量方法，利用ATS的标准信号源、功率计和频谱仪对每种模式采集48组样本，共获得特征数为12、样本数为192的原始数据集，对该数据集按特征进行Z-score标准化预处理，然后将之均分为训练集和测试集。运用t分布随机邻域嵌入(t-SNE)算法^[32]将训练集的96个样本降维到三维空间中，如图 6所示。显然，不同故障模式的样本间重叠严重，同一故障模式的样本分布也并不集中，这对分类算法性能提出了较高的要求。

基于该训练集，以线性核、参数为2的多项式核、参数分别为[2,10,20,30,40,50]的高斯核作为基核(共8个)，运用FC-LMKELM进行诊断。首先对训练样本进行模糊C均值聚类，经试验，当聚类数为4时可达到最佳性能，其隶属度矩阵如表 3所示。

基于表 3所示的隶属度信息，按照第3节中的步骤3~步骤6执行迭代更新过程，在不同的范数约束下，FC-LMKELM的学习曲线如图 7所示。

模型收敛后$\left[ {\gamma _q^g} \right]_{q = 1, 2, \cdots , r}^{g = 1, 2, \cdots , G} $的分布如图 8所示。显然，l₁-范数约束带来了基核权重的稀疏解(在本例中，在每个聚类群组内部事实上只有一个基核起到作用)，而l₂-范数约束则产生了非稀疏解。在测试阶段，计算每一个测试样本对于各个聚类中心的隶属度${\left[ {p_{\mathit{\boldsymbol{x}}_i^\prime }^g} \right]^{g = 1, 2, \cdots G}} $，结合ELM模型参数α和局部权重$\left[ {\gamma _q^g} \right]_{q = 1, 2, \cdots , r}^{g = 1, 2, \cdots , G} $，根据第3节中的步骤8便可得到诊断模型对测试样本的诊断结果。

图 9以混淆矩阵的形式直观地展示了FC-LMKELM与SimpleMKL、S-LMKL-softmax、S-LMKL-sigmoid、M₂-LCMKELM的诊断效果。

表 4对各方法的精度指标进行了总结。由图 9和表 4可知：

1) FC-LMKELM在避免漏警与抑制虚警方面表现优异，尤其是l₂-FC-LMKELM，实现了0漏警，0虚警。

2) 两种S-LMKL方法的测试诊断精度远远低于训练诊断精度，显然发生了严重的过拟合，其原因在于为每一个样本点学习独立的基核权重导致了算法泛化性能严重下降。与之相对的是M₂-LCMKELM，通过“硬聚类”的方式将局部权重关联至所属聚类而非各个样本上，既关注了局部特征又防止了过学习，泛化性能得以提升。

3) 由于融合了各个样本对群组的隶属度信息，相比于M₂-LCMKELM，这种“软聚类”的方式使FC-LMKELM的泛化性能得到了进一步的提升；l₂-FC-LMKELM的诊断准确性比l₁-FC-LMKELM高，原因在于后者的基核权重具有稀疏性(见图 8)，可能带来有用信息的损失。相比其他4种非“软聚类”方法，在测试精度方面，l₁-FC-LMKELM分别提升了4.16%、6.99%、4.16%和1.04%；l₂-FC-LMKELM则分别提升了5.20%、8.03%、5.20%和2.08%。

从另一个角度看，本节以文献[28]中给出的适用于多分类问题的F1的推广形式微观F1(Micro-F1)、宏观F1(Macro-F1)以及G-mean作为诊断方法的精确性评价指标，基于图 9的直观结果将这3大指标统计于表 5中，从中可知FC-LMKELM仍然表现最佳。

最后，为了探究所提方法的时效性，重复10次实验，表 6以“均值±标准差”的形式统计了各方法的时间开销。

由表 6可知：①在训练时间上，尽管FC-LMKELM要略长于其他方法，尤其在l₁-范数约束下，每次迭代中加入的解线性规划过程更多地延长了训练时间，但需要注意的是，正如图 7所示，只需极少的迭代步数FC-LMKELM就能快速收敛，因此训练时间开销实际上是可控的；②在测试时间上，FC-LMKELM与其他方法基本相同，均可实现实时输出；③作为线下诊断方法，以少量时间开销来换取更多的精确性上的提高是值得的；此外，航空电子部件的诊断多数情况下在小样本条件下进行，时间花费不会过多，因此FC-LMKELM是有效的。

5 结论

面向航空电子部件模块级故障诊断问题，提出一种融合隶属度信息的FC-LMKELM诊断方法。以某型机前端接收机的ATS测试数据为例，验证了所提方法的有效性，可以得到以下结论：

1) 在诊断精度方面，相比于MKL方法和3种非“软聚类”的LMKL方法，FC-LMKELM能够有效避免漏警、抑制虚警并提升诊断精确度。对于某型机前端接收机，l₁-FC-LMKELM和l₂-FC-LMKELM比其他方法的平均值分别提高了4.09%和5.13%。

2) 在时间开销方面，相比于MKL方法和3种非“软聚类”的LMKL方法，FC-LMKELM训练时间稍长，但较少的迭代次数确保了时间开销的可控性；在测试时间上各方法基本在同一水平。

3) 聚类数量对所提方法的性能有很大的影响，并且没有明确的规律可循，需要依据具体的数据进行验证后确定。在训练过程中融入聚类数量自适应变化的“软聚类”方法是下一步的研究方向。