基于融合神经网络模型的发动机喘振故障预测系统及方法转让专利
申请号 : CN202011056637.4
文献号 : CN112131673B
文献日 : 2021-09-28
发明人 : 郑德生 , 唐晓澜 , 张柯欣 , 邓碧颖 , 蒋东浦 , 吴欣隆
申请人 : 西南石油大学
摘要 :
权利要求 :
1.基于融合神经网络模型的发动机喘振故障预测系统,其特征在于:所述系统包括:预测模块,用于将发动机的三维结构时间序列数据生成指定长度的预测时间序列,实现未来一段时间内发动机的工作状态数据的预测;
特征提取模块,用于提取预测时间序列的局部特征、数据间的语义关系,以及整体序列趋势特征;
分类模块,用于根据预测时间序列的局部特征、数据间的语义关系,以及整体序列趋势特征判断是否为喘振故障;
所述预测模块包括顺次连接的第一LSTM层和第二LSTM层;
所述第一LSTM层作为编码器,用于将发动机的三维结构时间序列数据编码成批量的二维语义向量;所述第二LSTM层作为解码器,用于将二维语义向量解码为指定长度的预测时间序列;
批量的二维语义向量是由第一LSTM层中最后一个Cell的输出,表示当前整个输入序列的语义特征,接着将二维语义向量复制,使当前序列长度与输出序列长度相等,以保证数据预测的精准性;将指定长度的二维语义向量解码为指定长度的预测时间序列,通过设置不同个数的LSTM Cell可以生成指定长度的预测时间序列,最终得到未来一段时间内航空发动机的工作状态数据值。
2.根据权利要求1所述的基于融合神经网络模型的发动机喘振故障预测系统,其特征在于:所述特征提取模块包括顺次连接的一维卷积单元和第三LSTM层;
所述一维卷积单元用于提取预测时间序列的局部特征;所述第三LSTM层用于对提取预测时间序列中数据间的语义关系、以及整体序列趋势特征。
3.根据权利要求2所述的基于融合神经网络模型的发动机喘振故障预测系统,其特征在于:所述一维卷积单元具体包括两个顺次连接的、卷积步长为1的一维卷积层。
4.根据权利要求1所述的基于融合神经网络模型的发动机喘振故障预测系统,其特征在于:所述分类模块包括顺次连接的第一全连接层和第二全连接层;
所述第一全连接层用于将预测时间序列的局部特征、数据间的语义关系,以及整体序列趋势特征信息进行加权映射;所述第二全连接层用于将加权映射后的特征信息进行二分类,判断发动机在未来一段时间内是否会发生喘振故障。
5.基于融合神经网络模型的发动机喘振故障预测方法,其特征在于:所述方法包括以下步骤:
将发动机的三维结构时间序列数据生成指定长度的预测时间序列;所述将发动机的三维结构时间序列数据生成指定长度的预测时间序列通过预测模块实现,所述预测模块包括顺次连接的第一LSTM层和第二LSTM层;所述第一LSTM层作为编码器,用于将发动机的三维结构时间序列数据编码成批量的二维语义向量;所述第二LSTM层作为解码器,用于将二维语义向量解码为指定长度的预测时间序列;
批量的二维语义向量是由第一LSTM层中最后一个Cell的输出,表示当前整个输入序列的语义特征,接着将二维语义向量复制,使当前序列长度与输出序列长度相等,以保证数据预测的精准性;将指定长度的二维语义向量解码为指定长度的预测时间序列,通过设置不同个数的LSTM Cell可以生成指定长度的预测时间序列,最终得到未来一段时间内航空发动机的工作状态数据值;
提取预测时间序列的局部特征、数据间的语义关系,以及整体序列趋势特征;
根据预测时间序列的局部特征、数据间的语义关系,以及整体序列趋势特征判断是否为喘振故障。
6.根据权利要求5所述的基于融合神经网络模型的发动机喘振故障预测方法,其特征在于:所述根据预测时间序列的局部特征、数据间的语义关系,以及整体序列趋势特征判断是否为喘振故障具体包括:
将预测时间序列的局部特征、数据间的语义关系,以及整体序列趋势特征信息进行加权映射;
将加权映射后的特征信息进行二分类,判断发动机在未来一段时间内是否会发生喘振故障。
7.根据权利要求6所述的基于融合神经网络模型的发动机喘振故障预测方法,其特征在于:所述将加权映射后的特征信息进行二分类时具体包括:采用Sigmoid激活函数判断发动机在未来一段时间内是否会发生喘振故障,函数为:其中,x表示加权映射后的特征信息的线性组合。
8.根据权利要求5所述的基于融合神经网络模型的发动机喘振故障预测方法,其特征在于:所述方法还包括数据预处理步骤:采用滑动窗口法截取发动机不同监测装置数据的子序列,得到子序列集;
将子序列集中的某一子序列作为划分点子序列,将划分点子序列之前的子序列作为训练集,将划分点子序列之后的子序列作为测试集。
9.根据权利要求5所述的基于融合神经网络模型的发动机喘振故障预测方法,其特征在于:所述方法还包括反向传播训练步骤:采用二分类交叉熵函数作为损失函数进行反向传播训练得到所述预测方法基于的模型中各网络层的权重系数梯度,进而对各网络层的权重系数进行更新;
损失函数为:
其中,pi表示某一序列i得到的预测结果为喘振故障的概率,yi表示样本i的标签值,N为样本个数。
说明书 :
基于融合神经网络模型的发动机喘振故障预测系统及方法
技术领域
背景技术
要解决的难题。而航空发动机喘振故障是一种常见的不正常工作状态,它会导致发动机机
件的剧烈震动和热端超温,严重时甚至会危及飞行安全。因此在发动机即将出现喘振时及
时发现并识别出喘振现象,进而采取消喘措施,是避免出现飞行事故的重要前提之一。
统,因此对于预测模型的建立非常困难。
应用中还有诸多问题有待解决。
深度学习模型的故障预测技术已逐渐成为目前的主流方法,特别是基于深度学习通过构建
神经网络模型来完成对发动机故障预测的方法能够不依赖于前期假设,无需处理原始数
据,能够直接通过构建的网络模型自动学习预测性的特征。
ARMA、ARIMA等线性模型,其对于平稳时间序列预测有着较好的效果。但是对于股市数据、水
文数据又或者是此次提到的航空发动机传感器数据来说大部分都具有非线性特征,传统的
线性预测很难得到较好的预测结果。
是故障诊断等问题。其中基于数据使用机器学习算法或建立深度学习模型进行预测的方案
非常少,绝大部分都是基于模型或知识来进行预测,不仅费时费力且预测准确度不高。
发明内容
喘振故障预测系统及方法。
特征;分类模块,用于根据预测时间序列的局部特征、数据间的语义关系,以及整体序列趋
势特征判断是否为喘振故障。
所述第二LSTM层作为解码器,用于将二维语义向量解码为指定长度的预测时间序列。
序列中数据间的语义关系、以及整体序列趋势特征。
征信息进行加权映射;所述第二全连接层用于将加权映射后的特征信息进行二分类,判断
发动机在未来一段时间内是否会发生喘振故障。
发生喘振故障。
分点子序列之后的子序列作为测试集。
类模块提取预测时间序列的局部特征、数据间的语义关系,以及整体序列趋势特征并进行
分类,进而判断未来一段时间内发动机的工作状态数据是否包括喘振故障数据,以此对发
动机喘振故障进行更加准确、快速的提前预测。
更全面的特征信息,利于提升数据分类的准确性。
和召回率。
提取预测时间序列的局部特征、数据间的语义关系,以及整体序列趋势特征并进行分类,进
而判断未来一段时间内发动机的工作状态数据是否包括喘振故障数据,以此对发动机喘振
故障进行更加准确、快速的提前预测。
来一段时间内是否会发生喘振故障的预测场景。
子序列划分训练集和测试集,防止引入未来数据使模型训练过程中发生过拟合现象影响模
型最终的预测效果。
附图说明
号来表示相同或相似的部分,本申请的示意性实施例及其说明用于解释本申请,并不构成
对本申请的不当限定。
具体实施方式
员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、
以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,属于“第一”、“第二”仅
用于描述目的,而不能理解为指示或暗示相对重要性。
以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是
两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本
发明中的具体含义。
了对航空发动机喘振故障的提前预测。
类模块。具体地,预测模块用于发动机的三维结构时间序列数据生成指定长度的预测时间
序列;特征提取模块用于提取预测时间序列的局部特征、数据间的语义关系,以及整体序列
趋势特征;分类模块,用于根据预测时间序列的局部特征、数据间的语义关系,以及整体序
列趋势特征判断是否为喘振故障。本发明系统预测模块将发动机的三维结构时间序列数据
(时间序列矩阵)生成指定长度的预测时间序列(预测序列矩阵),即实现未来一段时间内发
动机的工作状态数据的预测,再通过特征提取模块、分类模块提取预测时间序列的局部特
征、数据间的语义关系,以及整体序列趋势特征并进行分类,进而判断未来一段时间内发动
机的工作状态数据是否包括喘振故障数据,以此对发动机喘振故障进行更加准确、快速的
提前预测。相较于现有技术中卷积层、LSTM层顺次连接的神经网络模型而言,本发明能够实
现对未来一段时间内是否发生喘振故障进行预测,而非局限于仅对历史数据的故障诊断,
具有更广阔的应用前景。
第二LSTM层作为解码器,用于将二维语义向量解码为指定长度的预测时间序列。更为具体
地,批量的二维语义向量是由第一LSTM层中最后一个Cell的输出,表示当前整个输入序列
的语义特征,接着将该语义向量复制,使当前序列长度与输出序列长度相等,以保证数据预
测的精准性。将指定长度的二维语义向量解码为指定长度的预测时间序列,可通过设置其
LSTM解码器中Cell的个数实现,即通过设置不同个数的LSTM Cell可以生成指定长度的预
测时间序列,最终得到未来一段时间内航空发动机的工作状态数据值。更为具体地,预测模
块还包括一全连接层,该全连接层与第二LSTM层连接,用于将输出的三维向量中的Cell单
元神经元的个数通过维度变换输出与所需时序数据每个时间点的特征数所对应的个数。需
要说明的是,第二LSTM层输出的特征信息是一个包括训练的批量数据个数、时间步数(序列
长度)、每个Cell单元神经元数的三维向量,其中,第三个维度即每个Cell单元神经元的个
数一般表示的是该时间步数据的特征个数,在这里指代的便是当前时间点航空发动机检测
装置的个数即当前时间点的特征数。
函数进行最后输出的激活,因此并没有再次使用Tanh函数和与之类似的Sigmoid函数,Relu
函数本身常用于避免深度神经网络训练中经常出现的梯度消失问题,而本发明提到的预测
模块是属于浅层神经网络,则无需再进一步采用Relu函数。
后一维卷积单元的输入,一维卷积单元提取预测时间序列的局部特征并进行特征分析,第
三LSTM层再对提取预测时间序列中数据间的语义关系、以及整体序列趋势特征,以获得发
动机时间序列数据更全面的特征信息,利于提升数据分类的准确性。
的精准性和召回率。更为具体地,两个一维卷积层均采用了Relu激活函数,让一部分神经元
输出为0,以使网络具有稀疏性,减少了参数之间的相互依存性和过拟合发生的概率,减少
计算量以加快训练速度。需要进一步说明的是,传统CNN架构一般为卷积层+池化层,其中卷
积层负责提取数据特征,池化层负责对提取到的特征信息做出进一步的降维操作,其中池
化层的目的是为了能够进一步提炼特征,并加快训练速度,减小过拟合;作为一选项,传统
CNN架构中也可以用卷积步长大于1的跳步卷积来代替池化层的作用,其中计算任意给定卷
积层的输出的大小的公式如下:
与此同时也会丢失掉相邻时间点的信息,这并不适用于对时间序列数据进行特征提取,相
邻时间点信息的丢失,会大大降低系统的预测准确性。为了进一步说明本发明采用卷积步
长为1的一维卷积层应用在时间序列数据的优越性,将其与采用卷积+池化、卷积步长大于1
(无池化)的现有技术进行了性能对照试验,试验结果如下表1所示:
Score上本方案采用的无池化层的卷积步长为1的卷积取得了最好的效果,达到了94.7%。
加权映射;第二全连接层用于将加权映射后的特征信息(预测时间序列的局部特征、数据间
的语义关系,以及整体序列趋势特征)进行二分类,判断发动机在未来一段时间内是否会发
生喘振故障。更为具体地,第一全连接层采用了Relu激活函数,让一部分神经元输出为0,以
使网络具有稀疏性,减少了参数之间的相互依存性和过拟合发生的概率,减少计算量以加
快训练速度。第二全连接层采用Sigmoid激活函数对加权映射后的特征信息进行二分类。
比较结果见下表2所示:
数不断增加,其训练集的准确率和测试集的准确率整体都呈现出上升趋势,且不会出现过
拟合现象。
相等,以保证数据预测的精准性。
长度的预测时间序列,最终得到未来一段时间内航空发动机的工作状态数据值。
势特征。更为具体地,两个一维卷积层均采用了Relu激活函数,让一部分神经元输出为0,以
使网络具有稀疏性,减少了参数之间的相互依存性和过拟合发生的概率,减少计算量以加
快训练速度。Relu激活函数公式如下:
系,以及整体序列趋势特征信息进行加权映射,该全连接层采用Relu激活函数,让一部分神
经元输出为0,以使网络具有稀疏性,减少了参数之间的相互依存性和过拟合发生的概率,
减少计算量以加快训练速度,Relu激活函数的具体公式参见一维卷积层Relu激活函数,在
此不再赘述。
机在未来一段时间内是否会发生喘振故障。
喘振故障的预测场景。
序列集,利于对预测模型进行训练,以提高模型的预测准确率。作为一具体实施例,滑动步
长为1,子序列的长度对应滑动窗口长度,窗口大小为64,其中每个序列中的每个时间点存
储着不同传感器(航空发动机的监测装置)采集的数据(发动机工作状态数据)。
了标准化处理。其中,根据划分点子序列划分训练集和测试集,不会造成采用传统随机打乱
序列数据再进行排序影响预测模型的预测效果的问题。需要进一步说明的是,对训练集和
测试集分别进行了标准化处理即将数据的分布转换成为均值为0、标准差为1的标准正态分
布,用于取消由于量纲不同、数值相差较大所引起的误差,从而加速权重参数的收敛并提高
模型训练效果。
代次数;具体地,损失函数具体为:
络层的权重系数进行更新。
取预测时间序列的局部特征、数据间的语义关系,以及整体序列趋势特征并进行分类,进而
判断未来一段时间内发动机的工作状态数据是否包括喘振故障数据,以此对发动机喘振故
障进行更加准确、快速的提前预测。
测方法的步骤。
储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络
设备等)执行本发明各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、移动
硬盘、只读存储器(Read‑Only Memory,ROM)、随机存取存储器(Random Access Memory,
RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
例2中的基于融合神经网络模型的发动机喘振故障预测方法的步骤。处理器可以是单核或
者多核中央处理单元或者特定的集成电路,或者配置成实施本发明的一个或者多个集成电
路。
提下,还可以做出若干简单推演和替代,都应当视为属于本发明的保护范围。