在发表于期刊《IEEE Transactions on Industrial Electronics》的论文《Multiple Wavelet Coefficients Fusion in Deep Residual Networks for Fault Diagnosis》中，提出了一种结合多小波系数融合与深度残差网络的机械故障诊断方法。在旋转机械微弱故障诊断过程中，振动信号常呈现出非平稳特性且包含复杂背景噪声；由于缺乏判定最优小波基函数的统一准则，单一小波变换难以对各类局部损伤均保持敏感。该方法针对这一特性，将多种小波基函数提取的时频信息融合至深度残差网络中，利用网络参数自适应调整各时频特征的分量权重。

该方法的第一阶段为多小波包时频特征矩阵的构建。首先采集机械传动系统的原始一维振动信号序列，并设定统一的离散小波包分解层数。选取若干不同滤波特性的多组小波基函数，分别对同一振动信号段进行完全小波包分解，以获得覆盖各个频带的终端子带分解系数。对于每一个特定的小波基函数，将其在各个子带节点展开的小波系数按时间顺序排列，重构为规整的二维时频系数矩阵；再将基于不同小波基函数生成的多个二维矩阵按通道方向进行多层堆叠，形成包含多源时频表征的三维数据输入块。

论文Fig. 3：多小波包分解及二维系数矩阵构建与堆叠示意图

算法采用深度残差网络作为特征提取与模式分类的基础架构。网络由初始卷积层、若干级联的残差构建单元、全局平均池化层以及连接分类器的全连接输出层依次构成。每个残差构建单元内部包含两层卷积操作、批归一化处理与激活函数，并引入恒等快捷连接。恒等快捷连接将浅层特征直接传递至深层，在误差反向传播时维持梯度通畅，便于较深层数网络结构的稳定更新。在分类之前，利用全局平均池化层对各通道特征进行全局汇总，降低特征对冲击出现位置的敏感性，并配合随机丢弃技术抑制网络在训练过程中的过拟合现象。

论文Fig. 5：深度残差网络基础架构示意图

在多小波信息的融合机制上，论文提出了两种方案。第一种方案为基于通道拼接的多小波系数融合方法。该方法直接将多个小波基函数生成的二维小波包系数矩阵在通道维度进行拼接，作为深度残差网络输入层的综合数据。输入层第一层卷积核的通道深度调整为与输入的小波基总数相匹配，使得网络能够在最前端通过多通道加权卷积操作，协同整合来自不同小波变换的时频表征，并在后续深层残差单元的计算中逐步提炼特征。

第二种方案为基于逐元素最大化的多小波系数融合方法。针对机械微弱冲击在有效小波基变换下常表现为较大绝对值系数的特性，该方案在网络前端为每一个小波基对应的二维系数矩阵分别配置独立的初级卷积层，赋予各分支自主提取与突出冲击特征的能力。在各卷积分支之后设置无额外参数的最大化融合层，沿通道对应位置提取各个分支特征图的逐元素极大值，从而保留对冲击响应最强的信息并抑制冗余分量，将融合后的特征图送入后续通用的深度残差主干网络中。

论文Fig. 7：基于拼接（a）与基于最大化（b）的多小波系数融合网络架构示意图

模型的端到端训练过程采用监督学习。通过反向传播算法计算交叉熵损失函数的误差梯度，结合动量优化器更新网络中各卷积层的卷积核权重、偏置项以及批归一化层的缩放与平移参数。在训练周期中分阶段逐步降低学习率，使模型在前期实现较大步长的参数更新并在后期微调，通过分类输出层计算输入样本属于各健康状态的概率分布，完成对正常状态及各类齿轮、轴承局部损伤状态的判别。

参考文献：

Multiple Wavelet Coefficients Fusion in Deep Residual Networks for Fault Diagnosis[J].  IEEE Transactions on Industrial Electronics, 2019.