论文题目:A knowledge-informed multi-scale feature extraction siamese neural network for bearing fault diagnosis in few-shot scenarios(面向小样本场景轴承故障诊断的知识引导多尺度特征提取孪生神经网络)
期刊:Neurocomputing 2027
摘要:针对工业轴承故障诊断中标注样本匮乏的挑战,本文提出一种基于知识引导孪生神经网络(SNN)的小样本方法。SNN 的核心架构采用参数共享的混合网络,结合双通道卷积神经网络(DCCNN)与双向长短期记忆网络(BiLSTM),分别捕捉空间和时间特征。DCCNN 包含两条并行路径:一条利用大卷积核在宏观层面捕捉波形轮廓,另一条使用小卷积核在微观层面识别瞬态冲击。为缓解低数据量下的过拟合并赋予特征物理意义,辅助分支提取峰值、均方根等八项由专家定义的时域指标,作为辅助重建目标。通过联合优化对比损失和知识引导损失,DCCNN-BiLSTM 模型能够有效提取符合先验物理知识的特征。与其他基于 SNN 的模型变体相比,所提模型在凯斯西储大学(CWRU)轴承数据集上的诊断精度显著提高。在仅有 300 个样本的数据稀缺条件下,其 one-shot 诊断精度达到 96.25%,five-shot 诊断精度达到 98.38%。实验结果表明,所提诊断框架显著提升了复杂环境中智能诊断系统的可靠性与可解释性。
一、研究背景与核心问题
轴承振动信号往往包含两类信息:一类是故障造成的短时冲击和局部波形变化,另一类是随时间展开的周期性与演化规律。传统信号处理依赖人工特征,CNN、LSTM 虽能自动学习,却通常需要较多标注;工业现场恰恰缺少故障数据。
这篇论文聚焦三个问题:标注极少时怎样分类?常规多分类器容易过拟合,因此改为学习样本相似度。如何兼顾局部冲击和长程时序?单尺度卷积容易顾此失彼。怎样防止网络记住偶然模式?类别可分不代表特征保留了有用的振动统计信息。
作者组合三种机制:SNN 负责小样本度量学习,DCCNN-BiLSTM 负责多尺度时空特征,辅助任务则引入专家时域指标,而非完整的轴承动力学方程。
二、方法整体框架:从分类转向相似性判断
论文 Figure 1:DCCNN-BiLSTM-SNN 整体诊断框架
Figure 1 的主线是“振动切分 → 构造样本对 → 共享特征提取 → 联合训练”。原始振动序列通过长度为 2048、步长为 512 的滑动窗口生成样本,再将每段均匀下采样到 250 个点。样本被配成同类对和异类对,两路输入交给参数共享的 DCCNN-BiLSTM,最终在特征空间比较距离;与此同时,另一条辅助路径根据深层特征重建八项时域指标。
论文 Figure 2:SNN,孪生神经网络的双分支共享参数结构
SNN 的关键不是简单地复制两个模型,而是让两个输入使用同一套特征提取参数。同类样本应该映射到邻近位置,异类样本则应尽量分开。设共享编码器为 f(·),两段振动信号为 x₁ 和 x₂,则作者采用的平方欧氏距离为:
随后通过可学习的线性变换与 Sigmoid,将距离映射为同类概率:。其中 ω 与 b 由训练学习,P 越接近 1 表示模型越倾向于判断两段信号属于同一故障类。论文用正负样本对的交叉熵及权重正则化构造对比损失 Lc,促使类内聚集、类间分离。
测试时,训练样本总量与K-shot 支持集大小是两个不同概念。例如“300 个样本、five-shot”表示模型在相应的 300 样本训练设置下,测试阶段每类使用 5 个参考样本进行相似性比较,并不意味着全程只使用 5 个样本。one-shot 每类仅有一个参考样本,直接选择同类概率最高的类别;five-shot 则将某类 K 个参考样本的预测概率求和,再选择总相似度最高的类别:
能否学到有效距离,仍取决于编码器的表达质量。
三、多尺度特征提取:DCCNN 与 BiLSTM 如何配合
论文 Figure 3:双通道卷积与 BiLSTM 特征提取结构
DCCNN 同时处理一段 1 × 250 的序列,但两条卷积分支的观察尺度不同。较大卷积核分支先后采用大小为 20 和 10 的卷积核,偏向提取宏观波形轮廓与低频变化;另一分支使用多个大小为 6 的卷积核,关注局部瞬态冲击及细粒度形态。两路分别覆盖宏观与微观尺度。
作者没有简单拼接两路特征,而是使用逐元素乘法进行所谓的“软融合”:。这里的 ⊙ 表示对应位置相乘;直观上,融合特征同时受到两种尺度响应的影响。这是一种特定的融合策略,并非所有任务的最优选择。
融合后的特征序列进入 BiLSTM,分别沿正向和反向提取时间关联,再组合输出。CNN 解决的是不同感受野下“看见什么”,BiLSTM 进一步处理这些特征在时间上“如何关联”。轴承故障可能不仅体现为单次冲击,还体现为冲击的重复规律,因此将局部空间表征交给双向时序模型处理具有明确的任务动机。
论文 Table 1:DCCNN-BiLSTM 各层卷积核、输出尺寸与参数量
Table 1 用于理解网络规模与复现设置,而非证明准确率。两路卷积最终形成可融合的特征,BiLSTM 使用 60 个隐藏单元,双向输出对应 120 维表示;表中合计参数量为84,810。相对于仅有数百样本的训练情形,这个规模仍存在过拟合压力,也引出了下一节的知识引导约束。
四、知识引导辅助任务:让特征保留物理含义
多尺度网络可以学到分类所需的信息,却不保证这些信息符合轴承状态监测中的基本经验。作者在共享特征提取器后增加回归分支,要求 BiLSTM 的深层特征重建八项时域指标。辅助目标来自原始样本预先计算的专家指标,而不是额外采集的故障标签。
这八项指标包括均值、均方根(RMS)、峰值、偏度、峭度、峰值因子、脉冲因子和裕度因子。其中 RMS 反映能量,峰值关注瞬时冲击,偏度刻画不对称性,峭度反映尖峰程度,其余三个因子从不同角度归一化描述冲击。辅助任务不是直接把这八个数字送入分类器,而是要求深层表征能够反推出这些数字,借此降低编码器丢弃重要时域信息的可能性。
设第 p 个样本计算得到的八维指标向量为,辅助分支的预测为
,每批共有 n 个样本,则知识引导损失采用均方误差:
最终训练目标是论文最重要的联合损失:
其中 Lc 负责样本对的相似性辨别,Lk 负责时域知识重建,λ 决定两项任务的权重。λ = 0 时退化为不使用知识辅助约束的 SNN;λ 过大也可能干扰主要分类任务。论文在不同训练样本规模下使用验证集上的贝叶斯优化确定 λ。这里的核心思想更接近以专家统计指标构造辅助监督/正则化,不应等同于显式求解动力学方程的物理信息神经网络。
五、实验结果与消融分析
5.1 数据集、训练设置与评价方式
论文 Table 2:CWRU 数据集的十种轴承状态与类别编号
实验使用 CWRU 轴承数据集驱动端、12 kHz 采样的振动信号,共有正常状态 C0,以及滚动体、内圈、外圈三种故障位置与三种损伤尺寸组合构成的 C1–C9。虽然论文介绍了 0–3 hp 工况,Table 2 所列十类均为 1730 r/min,不代表跨全部转速、负载的验证。
数据处理有一个值得留意的细节:论文先将原始连续振动信号划分为互不重叠的训练、验证和测试片段,再在各自内部执行重叠滑窗,以避免高度相似的相邻窗口跨集合造成信息泄漏。优化器为 Adam,学习率 0.0006,训练 1000 个 epoch;使用 RTX 4060 训练约 8 分钟。评价方式为 N-way one-shot / five-shot 准确率,其中 N 对应故障类别数量,K 对应测试时每类的支持样本数。
5.2 主实验:真正困难的是样本非常少时
论文 Table 3:不同训练样本规模下,各模型的 one-shot / five-shot 诊断准确率
Table 3 是整篇论文最关键的量化证据。仅用 300 个训练样本时,本文方法达到96.25% one-shot和98.38% five-shot;增至 400 个样本,five-shot 为99.88%。增加每类参考样本通常有利于累积相似度判别。
比较对象包含 ProtoNet、QS-Former、MLKFE、CNN-BiGRU-SNN、CDAE-SNN、CA-Unet-SNN、MixMamba 和 DeepCosineMNet。300 样本 one-shot 场景下,MixMamba 为 95.73%,CDAE-SNN 为 94.93%,本文方法为 96.25%;在 600 样本 five-shot 场景,本文方法与 DeepCosineMNet 均为 99.00%。所以更准确的结论是:该方法在极小样本条件下优势明显,但并非所有设置都唯一最优。另外,各训练规模的准确率并非严格单调上升,也不宜把“样本越多必然越准”当作实验定律。
5.3 辅助任务消融:知识是否真的发挥作用
论文 Figure 4:λ = 0 与 λ = 0.1633 的混淆矩阵对比
在 300 样本、1000 个 epoch 的 one-shot 对比中,不使用知识约束时准确率为93.88%;将 λ 设置为该实验的最优值 0.1633 后,准确率升至96.25%,提高2.37 个百分点。混淆矩阵显示,原先 C9/C5、C2/C8 等类别之间的混淆明显减轻。这说明辅助任务缓解了易混类别的判别困难。
论文 Figure 5:加入知识辅助任务前后的 t-SNE 特征分布
Figure 5 补充了特征证据。加入知识引导后,十种状态的嵌入簇更加紧凑,类间分隔更清楚,与 Figure 4 的混淆减少相互对应。但 t-SNE 属于降维可视化,主要支持定性解释,不能独立证明高维空间中所有类别的真实间隔都变大。
论文 Figure 6:有无知识辅助任务时,30–300 训练样本下的准确率及波动范围
Figure 6 关注的不是单次最好成绩,而是不同样本量与重复实验下的准确率和稳定性。论文报告在 60 个训练样本处,知识引导模型的平均准确率优势达到7.38 个百分点;180 个样本时,不使用辅助任务的准确率标准差为6.35%,加入后为0.56%。知识约束还改善了小样本结果的稳定性。图中的阴影表示十次支持集重复实验的标准差,而不是置信区间。
5.4 模块消融与高斯噪声鲁棒性
论文 Table 4:去除知识辅助损失后的架构变体,在不同高斯噪声信噪比下的诊断准确率
Table 4 容易被误读,必须注意实验条件:作者为了单独比较架构,在1000 个训练样本的设置下进行噪声实验,没有引入知识辅助损失。比较的是 DCCNN-BiLSTM+Softmax、WDCNN-SNN、DCCNN-SNN 和 DCCNN-BiLSTM-SNN。因此,这张表验证的是多尺度卷积、时间建模与孪生度量结构的组合效果,不能把全部抗噪收益归功于 Lk。
在信噪比 0 dB 时,DCCNN-BiLSTM-SNN 准确率为79.98%,而 DCCNN-BiLSTM+Softmax 为56.50%;在更苛刻的 −4 dB 条件下,前者仍有45.53%,高于 WDCNN-SNN 的34.73%和 DCCNN-SNN 的20.93%。这里的模块分工较清晰:缺少 BiLSTM 的 DCCNN-SNN 抗噪更弱;相同提取器配 Softmax 也不及相似度 SNN。需要强调,这验证的是所测试的加性高斯噪声条件,不等同于验证所有工业干扰或跨工况迁移。
六、总结与思考
如果把这篇论文压缩成一句话,就是:用孪生度量学习解决“标签少”,用双尺度 CNN + BiLSTM 解决“信号特征复杂”,再用可重建的时域专家指标限制“学偏了”的风险。三者对应不同问题,联合使用比孤立地增大网络复杂度更有针对性。
我认为最值得借鉴的是知识辅助任务的设计。它不要求手工给出精确的物理微分方程,也不直接用八项指标取代深度特征,而是让网络在学习类别差异时保留能够解释信号状态的统计量。这一“专家特征重建 + 主任务联合优化”的思路值得借鉴。
论文也明确承认其验证主要集中在单一 CWRU 数据集,知识辅助目标依赖预先定义的时域指标。未来仍需要跨数据集、跨工况与真实工业故障验证,并研究自适应先验以及 zero-shot 诊断。现有结果尚不足以保证复杂工业环境下的普遍泛化。
最终值得记住的不是某个接近 100% 的准确率,而是一条清楚的方法逻辑:少样本场景下,好的特征既要能够区分类别,也要尽量保留与任务相关、可以检验的先验知识。