飞机涡扇发动机的剩余使用寿命预测方法及系统

摘要

飞机涡扇发动机的剩余使用寿命预测方法及系统，它属于故障预测与人工智能相结合的学科交叉领域。本发明解决了传统基于数据驱动的剩余使用寿命预测方法的预测效果不佳以及参数繁多、难以直接处理将来时刻数据的问题。本发明通过传感器收集到的历史数据，训练一种基于对时间步长的自注意力机制双向门控循环单元的深度神经网络，构建传感器数据和剩余使用寿命的映射关系，能够解决传统长短时记忆网络所面临的参数繁多、难以直接处理将来时刻数据、以及难以反映不同时刻数据重要性程度的问题；然后提取系统在线工作过程中相应的传感器数据输入到训练好的深度神经网络中，实现了系统剩余使用寿命的实时预测。本发明可以应用于剩余使用寿命预测领域。

权利要求

1.飞机涡扇发动机的剩余使用寿命预测方法，其特征在于，所述方法具体包括以下步骤：

步骤一、收集飞机涡扇发动机在工作过程中的传感器历史数据作为初始数据，并对收集的初始数据进行特征筛选，再对筛选出的数据进行平滑降噪，获得降噪后的数据；

采用时间窗口的形式将降噪后的数据进行组合，将组合后的数据与对应时刻下飞机涡扇发动机的剩余使用寿命分别作为训练数据集的输入与输出；

步骤二、搭建深度神经网络，所述深度神经网络包括对时间步长的自注意力机制子网络、双向门控循环单元子网络和全连接子网络；

所述对时间步长的自注意力机制子网络包括第一交换层和第二交换层，其中，第一交换层的输出再依次经过Sigmoid激活函数和Softmax激活函数，Softmax激活函数的输出再经过第二交换层；

输入数据经过第一交换层后，第一交换层的输出再通过Sigmoid激活函数获得不同时刻数据与重要性的映射关系：

其中，f为Sigmoid激活函数，Xi表示第i个时刻的输入样本xi经过第一交换层后的输出，zi表示第i个时刻的输入样本xi的重要性，Wi和bi分别为Xi的权重矩阵和偏置向量，T为转置操作，e为自然对数的底数；

再利用Softmax激活函数对各个时刻输入样本的重要性进行归一化：其中，αi为第i个时刻输入样本的归一化的重要性，d为时间窗口的长度；

将各个时刻的输入样本与归一化后的重要性程度进行对应相乘，得到相乘结果：Y＝[y1,y2,...,yd]＝[α1X1,α2X2,...,αdXd]                   (3)其中，Y为相乘结果；

相乘结果Y再经过第二交换层，得到对时间步长的自注意力机制子网络的输出，即双向门控循环单元子网络的输入；

步骤三、利用训练数据集的输入与输出对搭建的深度神经网络进行训练；

步骤四、采集飞机涡扇发动机在实际工作过程中的在线传感器数据，在对采集的传感器数据进行特征筛选和平滑降噪后，采用时间窗口组合的方式获得用于预测的数据；

步骤五、将获得的用于预测的数据输入到训练好的深度神经网络，通过训练好的深度神经网络输出对飞机涡扇发动机的剩余使用寿命的预测结果。

2.根据权利要求1所述的飞机涡扇发动机的剩余使用寿命预测方法，其特征在于，所述对收集的初始数据进行特征筛选，其具体过程为：剔除飞机涡扇发动机在工作过程中数据为恒定值的传感器数据后，将剩余的数据作为筛选出的数据。

3.根据权利要求2所述的飞机涡扇发动机的剩余使用寿命预测方法，其特征在于，所述对筛选出的数据进行平滑降噪采用的是滑动平均滤波算法。

4.根据权利要求3所述的飞机涡扇发动机的剩余使用寿命预测方法，其特征在于，所述双向门控循环单元子网络由3层双向门控循环单元组成，双向门控循环单元子网络用于对输入数据中隐含的时间依赖性进行提取，获得特征信息。

5.根据权利要求4所述的飞机涡扇发动机的剩余使用寿命预测方法，其特征在于，所述全连接子网络由2个全连接层组成，全连接子网络用于实现由双向门控循环单元子网络提取到的特征信息向剩余使用寿命的映射。

6.根据权利要求5所述的飞机涡扇发动机的剩余使用寿命预测方法，其特征在于，所述对搭建的深度神经网络进行训练时所采用的损失函数为均方误差损失函数。

7.根据权利要求6所述的飞机涡扇发动机的剩余使用寿命预测方法，其特征在于，所述对搭建的深度神经网络进行训练时所采用的优化算法为Adam优化算法。

8.根据权利要求7所述的飞机涡扇发动机的剩余使用寿命预测方法，其特征在于，所述对搭建的深度神经网络进行训练时，学习速率设置为0.001。

9.飞机涡扇发动机的剩余使用寿命预测系统，其特征在于，所述系统用于执行权利要求1至权利要求8之一所述的飞机涡扇发动机的剩余使用寿命预测方法。

说明书

飞机涡扇发动机的剩余使用寿命预测方法及系统

技术领域

[0001] 本发明属于工业过程中的故障预测与人工智能相结合的学科交叉领域，具体涉及一种飞机涡扇发动机的剩余使用寿命预测方法及系统。

背景技术

[0002] 随着各种大型复杂装备性能的不断提高以及复杂性的不断增加，系统的可靠性、故障诊断和预测、维修保障等问题越来越受到人们的重视。自20世纪70年代起，故障预测与
健康管理(Prognostics Health Management，PHM)技术在航空、航海、原子能、结构工程等
领域得到越来越广泛的应用。故障预测与健康管理技术是指通过传感器系统采集设备运行
过程中所产生的大量数据信息，运用数据挖掘和分析手段管理、监控、评估设备的健康状
态，预测故障的发生，并提供维护保障建议或者策略。剩余使用寿命(Remaining Useful 
Life，RUL)预测在故障预测与健康管理技术中扮演着至关重要的角色，剩余使用寿命是指
部件或者设备从当前时刻到发生故障(寿命结束)所经历的时间。准确的预测剩余使用寿命
可以使用户在系统发生故障之前的适宜时机采取恰当的维修措施，其意义在于及时掌握系
统的运行情况，降低设备维修成本，为确定合适的检修决策提供依据。

[0003] 由于涡扇发动机属于飞机上的核心部件之一，因此，对涡扇发动机剩余使用寿命预测的准确与否将直接关乎飞机能否安全运行。根据学习算法方式的不同，基于数据驱动
的剩余使用寿命预测方法包括传统的机器学习方法和近日兴起的深度学习方法。基于传统
机器学习的预测方法虽然能够挖掘历史数据与剩余使用寿命之间的关系，但是对于数据的
拟合能力有限，并且没有考虑数据在时间上的依赖性，因此对于多维非线性数据的预测效
果难以令人满意。

[0004] 对于深度学习方法，比如长短时记忆网络等能够学习数据在时间上的依赖性，并且拥有很好的剩余使用寿命预测效果。然而，基本的长短时记忆网络还是存在一定局限性，
不仅存在参数繁多、难以直接处理将来时刻数据等问题，而且不能反映不同时刻对剩余使
用寿命预测结果的差异。

发明内容

[0005] 本发明的目的是为解决传统基于数据驱动的剩余使用寿命预测方法的预测效果不佳以及参数繁多、难以直接处理将来时刻数据的问题，而提出的一种飞机涡扇发动机的
剩余使用寿命预测方法及系统。

[0006] 本发明为解决上述技术问题所采取的技术方案是：

[0007] 基于本发明的一个方面，飞机涡扇发动机的剩余使用寿命预测方法，所述方法具体包括以下步骤：

[0008] 步骤一、收集飞机涡扇发动机在工作过程中的传感器历史数据作为初始数据，并对收集的初始数据进行特征筛选，再对筛选出的数据进行平滑降噪，获得降噪后的数据；

[0009] 采用时间窗口的形式将降噪后的数据进行组合，将组合后的数据与对应时刻下飞机涡扇发动机的剩余使用寿命分别作为训练数据集的输入与输出；

[0010] 步骤二、搭建深度神经网络，所述深度神经网络包括对时间步长的自注意力机制子网络、双向门控循环单元子网络和全连接子网络；

[0011] 步骤三、利用训练数据集的输入与输出对搭建的深度神经网络进行训练；

[0012] 步骤四、采集飞机涡扇发动机在实际工作过程中的在线传感器数据，再对采集的传感器数据进行特征筛选和平滑降噪后，采用时间窗口组合的方式获得用于预测的数据；

[0013] 步骤五、将获得的用于预测的数据输入到训练好的深度神经网络，通过训练好的深度神经网络输出对飞机涡扇发动机的剩余使用寿命的预测结果。

[0014] 基于本发明的另一个方面，飞机涡扇发动机的剩余使用寿命预测系统，用于执行飞机涡扇发动机的剩余使用寿命预测方法。

[0015] 本发明的有益效果是：本发明提出了一种飞机涡扇发动机的剩余使用寿命预测方法及系统，本发明在无需事先了解对象系统任何先验知识的情况下，通过传感器收集到的
历史数据，训练一种基于对时间步长的自注意力机制双向门控循环单元的深度神经网络，
构建传感器数据和剩余使用寿命之间的映射关系，能够解决传统的长短时记忆网络所面临
的参数繁多、难以直接处理将来时刻数据、以及难以反映不同时刻数据重要性程度的问题；
然后提取系统在线工作过程中相应的传感器数据输入到训练好的深度神经网络中，即可实
现系统剩余使用寿命的实时预测。

[0016] 通过实验证明，采用本发明方法在飞机涡扇发动机上的剩余使用寿命预测的RMSE＝12.56，S‑Score＝213.35，能够有效地预测飞机涡扇发动机的剩余使用寿命。

附图说明

[0017] 图1是本发明的飞机涡扇发动机的剩余使用寿命预测方法的工作流程图；

[0018] 图2是本发明的深度神经网络的结构图；

[0019] 图3是对时间步长的自注意力机制子网络的原理图；

[0020] 图4是本发明在具体应用时的结果示意图。

具体实施方式

[0021] 具体实施方式一、结合图1说明本实施方式。本实施方式所述的飞机涡扇发动机的剩余使用寿命预测方法，所述方法具体包括以下步骤：

[0022] 步骤一、收集飞机涡扇发动机在工作过程中的传感器历史数据作为初始数据，并对收集的初始数据进行特征筛选，再对筛选出的数据进行平滑降噪，获得降噪后的数据；

[0023] 采用时间窗口的形式(是指将一定时间窗口长度的数据按照时间顺序进行拼接)将降噪后的数据进行组合，将组合后的数据与对应时刻下飞机涡扇发动机的剩余使用寿命
分别作为训练数据集的输入与输出；

[0024] 步骤二、搭建深度神经网络，所述深度神经网络包括对时间步长的自注意力机制子网络、双向门控循环单元子网络和全连接子网络；

[0025] 步骤三、利用训练数据集的输入与输出对搭建的深度神经网络进行训练；

[0026] 步骤四、采集飞机涡扇发动机在实际工作过程中的在线传感器数据，在对采集的传感器数据进行特征筛选和平滑降噪后，采用时间窗口组合的方式获得用于预测的数据；

[0027] 步骤五、将获得的用于预测的数据输入到训练好的深度神经网络，通过训练好的深度神经网络输出对飞机涡扇发动机的剩余使用寿命的预测结果。

[0028] 本发明中的神经网络包含对时间步长的自注意力机制子网络、双向门控循环单元子网络和全连接子网络这三个部分；对时间步长的自注意力机制子网络主要由交换
(Permute)层和激活函数为Sigmoid和Softmax的神经网络层组成；双向门控循环单元子网
络由3层双向门控循环单元组成，能够对时序数据中隐含的时间依赖性进行提取，获得高维
度特征信息。值得注意的是，门控循环单元相比较于传统的长短时记忆网络而言减少了一
个门控结构，能够解决参数繁多的问题，提高训练速度，除此之外，双向门控循环单元是双
向循环网络，能够构建正向时间序列和反向时间序列，并同时加入到网络中进行训练，相当
于利用了将来时刻的数据预测当前的剩余使用寿命。全连接子网络由2层全连接层组成，其
作用是由双向门控循环单元网络提取的特征向目标剩余使用寿命的映射。与大多数现有的
剩余使用寿命预测方法相比，在本发明设计的神经网络中，对时间步长的自注意力机制子
网络能够在不需要任何关于对象先验知识的前提下，确定不同的时间步长对于剩余使用寿
命的重要性，为重要的时间步长赋予更大的权重，为次要的时间步长赋予更小的权重，将更
多的计算资源集中在对剩余使用寿命预测影响关键的时间步长上，从而达到提升剩余使用
寿命预测效果的目的。在此基础上，本发明设计了对时间步长的自注意力机制网络。

[0029] 具体实施方式二：本实施方式与具体实施方式一不同的是，所述对收集的初始数据进行特征筛选，其具体过程为：

[0030] 剔除飞机涡扇发动机在工作过程中数据为恒定值的传感器数据后，将剩余的数据作为筛选出的数据。

[0031] 本实施方式的目的是防止无意义的数据对实际预测产生的消极影响，降低数据的维度。

[0032] 具体实施方式三：本实施方式与具体实施方式二不同的是，所述对筛选出的数据进行平滑降噪采用的是滑动平均滤波算法。

[0033] 本实施方式的目的是去除数据在实际测量中所受到的噪声的影响。

[0034] 具体实施方式四：结合图2和图3说明本实施方式。本实施方式与具体实施方式三不同的是，所述对时间步长的自注意力机制子网络包括第一交换层(Permute层)和第二交
换层，其中，第一交换层的输出再依次经过Sigmoid激活函数和Softmax激活函数，Softmax
激活函数的输出再经过第二交换层；

[0035] 输入数据经过第一交换层后，将时间对应的维度变换到最后一个维度，便于计算每一个时刻对应的权重，第一交换层的输出再通过Sigmoid激活函数获得不同时刻数据与
重要性的映射关系：

[0036]

[0037] 其中，f为Sigmoid激活函数，Xi表示第i个时刻的输入样本xi经过第一交换层后的输出，zi表示第i个时刻的输入样本xi的重要性，Wi和bi分别为Xi的权重矩阵和偏置向量，T为
转置操作，e为自然对数的底数；

[0038] 对时间步长的自注意力机制子网络的输入数据可以表示成：X＝{xi|i＝1,2,...,m
d}，其中xi∈R，d为时间窗口的长度，m为每个样本的特征维数；

[0039] 在获得每一个时刻的输入样本的重要性程度后，再利用Softmax激活函数对各个时刻输入样本的重要性进行归一化：

[0040]

[0041] 其中，αi为第i个时刻输入样本的归一化的重要性，d为时间窗口的长度；

[0042] 将各个时刻的输入样本与归一化后的重要性程度进行对应相乘，得到相乘结果：

[0043] Y＝[y1,y2,...,yd]＝[α1X1,α2X2,...,αdXd]                   (3)

[0044] 其中，Y为相乘结果；

[0045] 相乘结果Y再经过第二交换层，即可得到对时间步长的自注意力机制子网络的输出，即双向门控循环单元子网络的输入。

[0046] 具体实施方式五：本实施方式与具体实施方式四不同的是，所述双向门控循环单元子网络由3层双向门控循环单元(BiGRU)组成，双向门控循环单元子网络用于对输入数据
中隐含的时间依赖性进行提取，获得高维度特征信息。

[0047] 具体实施方式六：本实施方式与具体实施方式五不同的是，所述全连接子网络由2个全连接层组成，全连接子网络用于实现由双向门控循环单元子网络提取到的特征信息向
剩余使用寿命的映射。

[0048] 具体实施方式七：本实施方式与具体实施方式六不同的是，所述对搭建的深度神经网络进行训练时所采用的损失函数为均方误差损失函数。

[0049] 具体实施方式八：本实施方式与具体实施方式七不同的是，所述对搭建的深度神经网络进行训练时所采用的优化算法为Adam优化算法。

[0050] 在训练深度神经网络时，随机划分整个数据集80％的部分作为训练数据集训练模型，余下20％的部分作为验证数据集检验模型的预测效果。选取在验证集上预测效果最好
的模型并保存下来，以用于最终的预测。

[0051] 具体实施方式九：本实施方式与具体实施方式八不同的是，所述对搭建的深度神经网络进行训练时，学习速率设置为0.001。

[0052] 具体实施方式十：本实施方式的一种飞机涡扇发动机的剩余使用寿命预测系统，该系统用于执行具体实施方式一至具体实施方式九之一的一种飞机涡扇发动机的剩余使
用寿命预测方法。

[0053] 实施例

[0054] 本发明是为了解决复杂工业背景下基于数据驱动的剩余使用寿命预测问题。在无需事先了解对象系统任何先验知识的情况下，通过传感器收集到的历史数据，训练一种基
于对时间步长的自注意力机制双向门控循环单元的深度神经网络，构建传感器数据和剩余
使用寿命之间的映射关系。然后提取系统在线工作过程中相应的传感器数据输入到训练好
的神经网络中，即可实现系统剩余使用寿命的实时预测，本发明的工作流程图如图1所示。

[0055] 本发明主要通过以下的技术方案实现：

[0056] 离线网络训练阶段

[0057] 第1步、数据预处理；其具体内容是收集复杂系统或者设备在工作过程中的传感器历史数据作为初始数据。通过预处理程序进行特征筛选，剔除诸如工作过程中为恒定值的
常数特征，以防止无意义的数据对实际预测产生的消极影响，降低数据的维度。由于数据在
实际测量的时候会受到噪声的影响，因此需要引入滑动平均滤波算法对数据进行平滑降
噪。接着，采用时间窗口的形式将降噪后的数据进行组合，与相应时刻下复杂系统或者设备
真实的剩余使用寿命共同构成训练数据集的输入和输出。

[0058] 第2步、搭建神经网络；本发明中的神经网络包含对时间步长的自注意力机制子网络、双向门控循环单元子网络和全连接层子网络这三个部分，其结构图如图2所示。对时间
步长的自注意力机制子网络主要由Permute层和激活函数分别为Sigmoid和Softmax的神经
网络层组成，其原理图如图3所示。Permute层的作用是对输入的数据进行维度变换，将时间
对应的维度变换到最后一个维度，便于计算每一个时刻对应的权重；激活函数为Sigmoid和
Softmax的神经网络层作用分别是计算输入样本在每一个时刻的重要性程度并进行权重归
一化。对时间步长的自注意力机制子网络的输入数据可以表示成：x＝{xi|i＝1,2,...,d}，
m
其中xi∈R ，d为时间窗口的长度，m为每个样本的特征维数，可以获得不同时刻与其重要性
zi的映射关系，如表达式(1)所示：

[0059]

[0060] 其中，Xi表示第i个时刻的输入样本xi经过第一交换层后的输出，zi表示第i个时刻的输入样本xi的重要性，Wi和bi为相应的权重矩阵和偏置向量，T为转置操作，f为Sigmoid激
活函数。在获得每一个时刻的输入样本的重要性程度后，通过Softmax函数获得归一化后的
重要性程度αi，如表达式(2)所示：

[0061]

[0062] 将每个时刻的归一化重要性程度同相应时刻的样本数据相乘后即可获得自注意力机制子网络的输出Y，作为后续双向门控循环子网络的输入，表达式如式(3)所示：

[0063] Y＝[y1,y2,...,yd]＝[α1X1,α2X2,...,αdXd]                  (3)

[0064] 双向门控循环单元子网络由3层双向门控循环单元组成，能够对时序数据中隐含的时间依赖性进行提取，获得高维度特征信息。最后，神经网络通过全连接层子网络的2层
全连接层实现由双向门控循环单元子网络提取的特征向目标剩余使用寿命的映射。

[0065] 第3步、训练神经网络；将步骤1中经过数据预处理的训练数据集输入到步骤2中搭建的对时间步长的自注意力机制双向门控循环单元网络中，训练网络，构建输入的传感器
采集数据和输出剩余使用寿命之间的映射关系。随机划分整个数据集80％的部分作为训练
数据集训练模型，余下20％的部分作为验证数据集检验模型的预测效果。选取在验证集上
预测效果最好的模型并保存下来，以用于最终的预测。其中，网络训练的损失函数为均方误
差损失函数，优化算法为Adam优化算法，学习速率为0.001，网络训练过程在1块GPU(GTX 
1660Ti显卡)的硬件环境下进行。

[0066] 在线网络预测阶段

[0067] 第4步、在线预测剩余使用寿命；收集复杂系统或者设备在工作过程中的传感器的在线数据，经过步骤1中特征筛选、平滑降噪以及时间窗口组合等方式获得测试数据。将测
试数据输入到训练好的对时间步长的自注意力机制双向门控循环单元网络中，可以实现剩
余使用寿命的实时预测。

[0068] 第5步、评估在线预测效果；本发明采用均方根误差(Root mean square error，RMSE)、S‑分数(S‑Score)这两个指标评估提出的神经网络模型对于在线工作过程中复杂系
统或者设备的剩余使用寿命预测效果。RMSE的表达式如式(4)所示：

[0069]

[0070] 其中，N为测试数据的样本数量，i为样本的序号，RULpi和RULti分别为第i个样本剩余使用寿命的预测值和真实值。从表达式可以看出，早期预测和晚期预测对于RMSE的影响
效果是相同的。然而，考虑到安全性问题，对于复杂系统的退化过程而言，早期预测能够为
用户提供预警，其效果优于晚期预测。因此，本发明还采用了S‑分数，当绝对值误差相同时，
晚期预测的分数高于早期预测的分数，其表达式如式(5)所示：

[0071]

[0072] 均方根误差和S‑分数均描述了剩余使用寿命的预测值和真实值之间的差距，其值越小，则说明网络模型的在线预测效果越好。

[0073] 本发明采用了NASA Ames预测中心提供的商用模块化航空推进系统仿真所获得的飞机涡扇发动机全生命周期数据验证所提出的方法。以第一个工况FD001为例，该工况包含
了用于模型训练的训练数据集和用于模型检验的测试数据集，其中训练数据集包含了100
个飞机涡扇发动机从健康状态到发生故障的全生命周期演化数据，测试数据集则包含了
100个飞机涡扇发动机在一段时间内的初始演变数据。本发明需要利用测试数据集提供的
初始演变数据预测该段时间最后一个时刻飞机涡扇发动机的剩余使用寿命，具体步骤如
下：

[0074] 第1步、数据预处理：对飞机涡扇发动机在工作过程中传感器的测量数据进行特征筛选，选择编号为2,3,4,7,8,9,11,12,13,14,15,17,20和21等14种传感器数据并采用滑动
平滑滤波算法降低噪声对实际预测的影响。然后采用时间窗口组合数据，与相应时刻下复
杂系统真实的剩余使用寿命共同构成训练数据集的特征和目标。

[0075] 第2步、搭建神经网络：依照图2所示的网络结构搭建对时间步长的自注意力机制双向门控循环单元网络。

[0076] 第3步、训练神经网络：将步骤1中经过数据预处理的训练数据集输入到步骤2中搭建的神经网络中，构建输入的传感器采集数据和剩余使用寿命之间的映射关系。随机划分
整个数据集80％的部分作为训练数据集训练模型，余下20％的部分作为验证数据集检验模
型的预测效果。选取在验证集上预测效果最好的模型并保存下来，以用于最终的预测。

[0077] 第4步、在线预测剩余使用寿命：将测试数据集中飞机涡扇发动机在工作过程中传感器的测量数据进行特征筛选和平滑降噪，组合成时间窗口的形式输入到训练好的对时间
步长的自注意力机制双向门控循环单元网络中，预测剩余使用寿命。

[0078] 第5步、评估在线预测效果：采用均方根误差、S‑分数这两个指标评估提出的对时间步长的自注意力机制双向门控循环单元网络对于飞机涡扇发动机剩余使用寿命的预测
结果，以验证模型的效果。图4展示了提出的方法在飞机涡扇发动机测试数据集剩余使用寿
命的预测值和真实值，根据式(4)和(5)可以计算出RMSE＝12.56，S‑Score＝213.35。可以看
出，本发明提出的方法能够有效地预测复杂系统或者设备的剩余使用寿命，令用户在系统
发生故障之前的适宜时机采取恰当的维修措施，合理安排维修计划，并为确定合适的检修
决策提供依据。

[0079] 本发明的上述算例仅为详细地说明本发明的计算模型和计算流程，而并非是对本发明的实施方式的限定。对于所属领域的普通技术人员来说，在上述说明的基础上还可以
做出其它不同形式的变化或变动，这里无法对所有的实施方式予以穷举，凡是属于本发明
的技术方案所引伸出的显而易见的变化或变动仍处于本发明的保护范围之列。