基于目标分割的海洋中尺度涡检测方法及系统转让专利

申请号 : CN202310224170.7

文献号 : CN115953394B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 霍吉东张杰王际朝杨俊钢阮宗利吴国丽

申请人 : 中国石油大学(华东)

摘要 :

本发明公开了一种基于目标分割的海洋中尺度涡检测方法及系统,涉及数字图像处理技术领域,该方法包括:获取待测海平面异常数据图像;将预处理后的待测海平面异常数据图像输入至基于目标分割的海洋中尺度涡检测网络;对输入的待测海平面异常图像进行多层卷积处理,提取图像的低级细节信息和高级语义信息,将低级细节信息和高级语义信息融合,获取多尺度融合特征图;基于多尺度融合特征图,输出海洋中尺度涡的预测图像;将预测图像作为边缘检测网络的输入,通过边缘检测网络提取输入图像的边缘信息,输出待测海平面异常数据图像中的海洋中尺度涡,提升涡旋边界的检测能力,提升海洋中尺度涡检测的准确率和检测速度。

权利要求 :

1.一种基于目标分割的海洋中尺度涡检测方法,其特征是,包括:

获取待测海平面异常数据图像,对待测海平面异常数据图像进行预处理;

将预处理后的待测海平面异常数据图像输入至基于目标分割的海洋中尺度涡检测网络,检测待测海平面异常数据图像中的海洋中尺度涡;

所述基于目标分割的海洋中尺度涡检测网络中,对输入的待测海平面异常图像进行多层卷积处理,提取图像的低级细节信息和高级语义信息,将低级细节信息和高级语义信息融合,获取多尺度融合特征图;基于多尺度融合特征图,输出海洋中尺度涡的预测图像;将预测图像作为边缘检测网络的输入,通过边缘检测网络提取输入图像的边缘信息,输出待测海平面异常数据图像中的海洋中尺度涡;

利用训练样本集对海洋中尺度涡检测网络进行训练,包括:

将训练样本集中的海平面异常数据图像输入海洋中尺度涡检测网络中,获得融合不同尺度的特征图,基于特征图输出标注图像中存在的海洋中尺度涡的预测图像;

将预测图像和标注的海平面异常数据图像输入边缘检测网络进行边缘检测,将边缘检测的差值作为损失值进行反向传播,直至损失值小于预设值,完成模型的训练;

所述边缘检测网络的损失函数为:

将进行边缘检测的预测图像和真实标注图像的边缘信息差异作为损失值,构建边缘检测网络的损失函数,为:其中,x表示输入图像, 表示经目标分割检测后的中尺度涡预测图像,y表示真实的标注图像, 表示通过边缘检测网络提取预测图像的边缘特征, 表示通过边缘检测网络提取真实标注图像的边缘特征。

2.如权利要求1所述的基于目标分割的海洋中尺度涡检测方法,其特征是,所述基于目标分割的海洋中尺度涡检测网络的训练过程包括:获取海平面异常数据集,对数据集中原始海平面异常数据图像进行预处理,标注图像中海洋中尺度涡及其种类,构建训练样本集;

构建基于目标分割的海洋中尺度涡检测网络;所述海洋中尺度涡检测网络采用编码器‑解码器网络架构,所述编码器包括用于下采样的卷积网络,所述解码器包括用于上采样的卷积网络和多尺度特征融合网络,所述解码器后设置用于提取输入图像边缘信息的边缘检测网络;

利用训练样本集对海洋中尺度涡检测网络进行训练,得到训练完成的基于目标分割的海洋中尺度涡检测网络。

3.如权利要求2所述的基于目标分割的海洋中尺度涡检测方法,其特征是,所述对数据集中原始海平面异常数据图像进行预处理,标注图像中海洋中尺度涡及其种类,构建训练样本集,包括:采用基于专家经验的物理检测方法对数据集中原始海平面异常数据图像进行初步分割与检测,识别并标注出图像中存在的海洋中尺度涡及其涡旋种类以及海洋中尺度涡轮廓;

根据专家经验对基于物理检测方法识别出的海洋中尺度涡进行二次核验,完成海洋中尺度涡标注数据集的构建。

4.如权利要求2所述的基于目标分割的海洋中尺度涡检测方法,其特征是,所述基于目标分割的海洋中尺度涡检测网络中,通过编码器中的用于下采样的卷积网络,对输入的海平面异常数据图像进行卷积处理,提取图像初始的低级细节信息,并通过多层用于下采样的卷积网络,对输入的海平面异常图像进行多层卷积处理,提取图像的高级语义信息;

通过解码器中的用于上采样的卷积网络和多尺度特征融合网络,在上采样的过程中融合图像的高级语义信息和低级细节信息,获取多尺度融合特征图,基于多尺度融合特征图,输出海洋中尺度涡的预测图像。

5.如权利要求4所述的基于目标分割的海洋中尺度涡检测方法,其特征是,所述编码器包括多个卷积网络,每个卷积网络包括1×1卷积层、3×3卷积层、BN层、激活层以及跳跃链接,通过对输入的海平面异常数据图像进行多层卷积处理,获得每层对应的特征图,分别将处理后得到的特征图输入至解码器;

所述解码器包括相应个数的卷积网络,每个卷积网络对输入的特征图逐层向上进行上采样,并在逐层上采样的过程中不断融合编码器输入的不同尺度的特征图。

6.如权利要求2所述的基于目标分割的海洋中尺度涡检测方法,其特征是,所述基于目标分割的海洋中尺度涡检测网络的损失函数为Dice损失函数和边缘检测损失函数之和。

7.一种基于目标分割的海洋中尺度涡检测系统,其特征是,包括:

图像获取及预处理模块,用于获取待测海平面异常数据图像,对待测海平面异常数据图像进行预处理;

海洋中尺度涡检测模块,用于将预处理后的待测海平面异常数据图像输入至基于目标分割的海洋中尺度涡检测网络,检测待测海平面异常数据图像中的海洋中尺度涡;

所述基于目标分割的海洋中尺度涡检测网络中,对输入的待测海平面异常图像进行多层卷积处理,提取图像的低级细节信息和高级语义信息,将低级细节信息和高级语义信息融合,获取多尺度融合特征图;基于多尺度融合特征图,输出海洋中尺度涡的预测图像;将预测图像作为边缘检测网络的输入,通过边缘检测网络提取输入图像的边缘信息,输出待测海平面异常数据图像中的海洋中尺度涡;

利用训练样本集对海洋中尺度涡检测网络进行训练,包括:

将训练样本集中的海平面异常数据图像输入海洋中尺度涡检测网络中,获得融合不同尺度的特征图,基于特征图输出标注图像中存在的海洋中尺度涡的预测图像;

将预测图像和标注的海平面异常数据图像输入边缘检测网络进行边缘检测,将边缘检测的差值作为损失值进行反向传播,直至损失值小于预设值,完成模型的训练;

所述边缘检测网络的损失函数为:

将进行边缘检测的预测图像和真实标注图像的边缘信息差异作为损失值,构建边缘检测网络的损失函数,为:其中,x表示输入图像, 表示经目标分割检测后的中尺度涡预测图像,y表示真实的标注图像, 表示通过边缘检测网络提取预测图像的边缘特征, 表示通过边缘检测网络提取真实标注图像的边缘特征。

8.如权利要求7所述的基于目标分割的海洋中尺度涡检测系统,其特征是,所述基于目标分割的海洋中尺度涡检测网络的训练过程包括:获取海平面异常数据集,对数据集中原始海平面异常数据图像进行预处理,标注图像中海洋中尺度涡及其种类,构建训练样本集;

构建基于目标分割的海洋中尺度涡检测网络;所述海洋中尺度涡检测网络采用编码器‑解码器网络架构,所述编码器包括用于下采样的卷积网络,所述解码器包括用于上采样的卷积网络和多尺度特征融合网络,所述解码器后设置用于提取输入图像边缘信息的边缘检测网络;

利用训练样本集对海洋中尺度涡检测网络进行训练,得到训练完成的基于目标分割的海洋中尺度涡检测网络。

说明书 :

基于目标分割的海洋中尺度涡检测方法及系统

技术领域

[0001] 本发明涉及数字图像处理技术领域,尤其涉及一种基于目标分割的海洋中尺度涡检测方法及系统。

背景技术

[0002] 海洋中尺度涡本质是水的旋转涡旋,广泛的分布在全球海洋中,在海洋中呈现非规则螺旋状结构,它具体表现特征为空间尺度达几十公里至上百公里、寿命为10‑100天、内部结构为封闭环流。海洋中尺度涡流能够对如碳、热、浮游植物、盐等量能进行传递及输送,因此,在全球海洋热量、盐分和生物活性等方面起到重要的作用,且进一步影响海洋生态系统;在应用方面,海洋中尺度涡对舰艇航行,特别是潜艇等水下船只的航行影响很大,如果不清楚海洋中尺度涡的影响,将削弱舰艇水下通信和探测的性能;海洋中尺度涡能够将丰富的营养物质从海洋深层带到海洋表面,因此其能够间接影响海洋牧场的选址,通过借助海洋中尺度涡可以指导渔业生产。因此,研究海洋中尺度涡在海洋学、大气和生物现象中的作用,具有重要的科研以及应用价值。
[0003] 近年来,针对海洋中尺度涡的研究主要侧重于研究实现自动检测和分类涡流,目前普遍使用的方法主要分为两大类,即基于物理参数的方法和基于几何轮廓的方法。但是上述传统方法的局限性在于检测速度慢、检测精度低、物理参数导致检测敏感性较强以及泛化性较差。
[0004] 随着人工智能的发展,基于深度学习方法在图像领域实现了大规模应用,例如图像检测、图像分割、图像识别等应用方向已证实了其以巨大效率解决广泛实际问题的能力。现有技术中,存在利用上述深度学习方法检测海洋中尺度涡的方案,但是,这一基于深度学习检测海洋中尺度涡的方法存在检测海洋中尺度涡边界不准确的问题。

发明内容

[0005] 为解决传统的海洋中尺度涡检测存在局限性和现有的基于深度学习检测海洋中尺度涡的方法存在检测海洋中尺度涡边界不准确的问题,本发明提供了一种基于目标分割的海洋中尺度涡检测方法及系统,以高效的基于卷积块的编码器‑解码器结构作为海洋中尺度涡检测模型架构,结合多尺度特征融合及边缘检测,提升涡旋边界的检测能力,将高级语义信息和低级图像细节信息进行融合,提升目标分割的准确率,相比现有的深度学习方法能够提升检测准确率,相比传统的中尺度涡检测能够提升检测速度。
[0006] 第一方面,本公开提供了一种基于目标分割的海洋中尺度涡检测方法,包括:
[0007] 获取待测海平面异常数据图像,对待测海平面异常数据图像进行预处理;
[0008] 将预处理后的待测海平面异常数据图像输入至基于目标分割的海洋中尺度涡检测网络,检测待测海平面异常数据图像中的海洋中尺度涡;
[0009] 所述基于目标分割的海洋中尺度涡检测网络中,对输入的待测海平面异常图像进行多层卷积处理,提取图像的低级细节信息和高级语义信息,将低级细节信息和高级语义信息融合,获取多尺度融合特征图;基于多尺度融合特征图,输出海洋中尺度涡的预测图像;将预测图像作为边缘检测网络的输入,通过边缘检测网络提取输入图像的边缘信息,输出待测海平面异常数据图像中的海洋中尺度涡。
[0010] 进一步的技术方案,所述基于目标分割的海洋中尺度涡检测网络的训练过程包括:
[0011] 获取海平面异常数据集,对数据集中原始海平面异常数据图像进行预处理,标注图像中海洋中尺度涡及其种类,构建训练样本集;
[0012] 构建基于目标分割的海洋中尺度涡检测网络;所述海洋中尺度涡检测网络采用编码器‑解码器网络架构,所述编码器包括用于下采样的卷积网络,所述解码器包括用于上采样的卷积网络和多尺度特征融合网络,所述解码器后设置用于提取输入图像边缘信息的边缘检测网络;
[0013] 利用训练样本集对海洋中尺度检测网络进行训练,得到训练完成的基于目标分割的海洋中尺度涡检测网络。
[0014] 进一步的技术方案,所述对数据集中原始海平面异常数据图像进行预处理,标注图像中海洋中尺度涡及其种类,构建训练样本集,包括:
[0015] 采用基于专家经验的物理检测方法对数据集中原始海平面异常数据图像进行初步分割与检测,识别并标注出图像中存在的海洋中尺度涡及其涡旋种类以及海洋中尺度涡轮廓;
[0016] 根据专家经验对基于物理检测方法识别出的海洋中尺度涡进行二次核验,完成海洋中尺度涡标注数据集的构建。
[0017] 进一步的技术方案,所述基于目标分割的海洋中尺度涡检测网络中,通过编码器中的用于下采样的卷积网络,对输入的海平面异常数据图像进行卷积处理,提取图像初始的低级细节信息,并通过多个用于下采样的卷积网络,对输入的海平面异常图像进行多层卷积处理,提取图像的高级语义信息;
[0018] 通过解码器中的用于上采样的卷积网络和多尺度特征融合网络,在上采样的过程中融合图像的高级语义信息和低级细节信息,获取多尺度融合特征图,基于多尺度融合特征图,输出海洋中尺度涡的预测图像。
[0019] 进一步的技术方案,所述编码器包括多个卷积网络,每个卷积网络包括1×1卷积层、3×3卷积层、BN层、激活层以及跳跃链接,通过对输入的海平面异常数据图像进行多层卷积处理,获得每层对应的特征图,分别将处理后得到的特征图输入至解码器;
[0020] 所述解码器包括相应个数的卷积网络,每个卷积网络对输入的特征图逐层向上进行上采样,并在逐层上采样的过程中不断融合编码器输入的不同尺度的特征图。
[0021] 进一步的技术方案,所述利用训练样本集对海洋中尺度检测网络进行训练,包括:
[0022] 将训练样本集中的海平面异常数据图像输入海洋中尺度检测网络中,获得融合不同尺度的特征图,基于特征图输出标注图像中存在的海洋中尺度涡的预测图像;
[0023] 将预测图像和标注的海平面异常数据图像输入边缘检测网络进行边缘检测,将边缘检测的差值作为损失值进行反向传播,直至损失值小于预设值,完成模型的训练。
[0024] 进一步的技术方案,所述基于目标分割的海洋中尺度涡检测网络的损失函数为Dice损失函数和边缘检测损失函数之和。
[0025] 第二方面,本公开提供了一种基于目标分割的海洋中尺度涡检测系统,包括:
[0026] 图像获取及预处理模块,用于获取待测海平面异常数据图像,对待测海平面异常数据图像进行预处理;
[0027] 海洋中尺度涡检测模块,用于将预处理后的待测海平面异常数据图像输入至基于目标分割的海洋中尺度涡检测网络,检测待测海平面异常数据图像中的海洋中尺度涡;
[0028] 所述基于目标分割的海洋中尺度涡检测网络中,对输入的待测海平面异常图像进行多层卷积处理,提取图像的低级细节信息和高级语义信息,将低级细节信息和高级语义信息融合,获取多尺度融合特征图;基于多尺度融合特征图,输出海洋中尺度涡的预测图像;将预测图像作为边缘检测网络的输入,通过边缘检测网络提取输入图像的边缘信息,输出待测海平面异常数据图像中的海洋中尺度涡。
[0029] 进一步的技术方案,所述基于目标分割的海洋中尺度涡检测网络的训练过程包括:
[0030] 获取海平面异常数据集,对数据集中原始海平面异常数据图像进行预处理,标注图像中海洋中尺度涡及其种类,构建训练样本集;
[0031] 构建基于目标分割的海洋中尺度涡检测网络;所述海洋中尺度涡检测网络采用编码器‑解码器网络架构,所述编码器包括用于下采样的卷积网络,所述解码器包括用于上采样的卷积网络和多尺度特征融合网络,所述解码器后设置用于提取输入图像边缘信息的边缘检测网络;
[0032] 利用训练样本集对海洋中尺度检测网络进行训练,得到训练完成的基于目标分割的海洋中尺度涡检测网络。
[0033] 进一步的技术方案,所述利用训练样本集对海洋中尺度检测网络进行训练,包括:
[0034] 将训练样本集中的海平面异常数据图像输入海洋中尺度检测网络中,获得融合不同尺度的特征图,基于特征图输出标注图像中存在的海洋中尺度涡的预测图像;
[0035] 将预测图像和标注的海平面异常数据图像输入边缘检测网络进行边缘检测,将边缘检测的差值作为损失值进行反向传播,直至损失值小于预设值,完成模型的训练。
[0036] 以上一个或多个技术方案存在以下有益效果:
[0037] 1、本发明提供了一种基于目标分割的海洋中尺度涡检测方法及系统,以高效的基于卷积块的编码器‑解码器结构作为海洋中尺度涡检测模型架构,结合多尺度特征融合及边缘检测,提升涡旋边界的检测能力,将高级语义信息和低级图像细节信息进行融合,提升目标分割的准确率,相比现有的深度学习方法能够提升检测准确率,相比传统的中尺度涡检测能够提升检测速度。
[0038] 2、本发明考虑到普通电脑训练缓慢以及海洋数据集较大,影响检测网络的训练效率,因此,采用基于超算的分布式并行技术,完成海洋中尺度涡检测网络的并行训练,提高检测网络的训练效率。

附图说明

[0039] 构成本发明的一部分的说明书附图用来提供对本发明的进一步理解,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。
[0040] 图1为本发明实施例一所述方法的整体流程图;
[0041] 图2为本发明实施例一中训练基于目标分割的海洋中尺度涡检测网络的流程图;
[0042] 图3为本发明实施例一中构建的海洋中尺度涡数据集的示意图;
[0043] 图4为本发明实施例一中海洋中尺度涡检测网络的总体架构示意图;
[0044] 图5为本发明实施例一中编码器‑解码器的架构示意图;
[0045] 图6为本发明实施例一中多尺度特征融合网络的结构示意图;
[0046] 图7为本发明实施例一中基于边缘检测网络的海洋中尺度涡边缘检测结果的示意图;
[0047] 图8为本发明实施例一中采用的基于超算数据并行的分布式并行训练的示意图;
[0048] 图9为本发明实施例一中海洋中尺度涡检测的效果图。

具体实施方式

[0049] 应该指出,以下详细说明都是示例性的,旨在对本发明提供进一步的说明。除非另有指明,本文使用的所有技术和科学术语具有与本发明所属技术领域的普通技术人员通常理解的相同含义。
[0050] 需要注意的是,这里所使用的术语仅是为了描述具体实施方式,而非意图限制根据本发明的示例性实施方式。如在这里所使用的,除非上下文另外明确指出,否则单数形式也意图包括复数形式,此外,还应当理解的是,当在本说明书中使用术语“包含”和/或“包括”时,其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
[0051] 实施例一
[0052] 本实施例提供了一种基于目标分割的海洋中尺度涡检测方法,如图1所示,包括以下步骤:
[0053] 获取待测海平面异常数据图像,对待测海平面异常数据图像进行预处理;
[0054] 将预处理后的待测海平面异常数据图像输入至基于目标分割的海洋中尺度涡检测网络,检测待测海平面异常数据图像中的海洋中尺度涡;
[0055] 所述基于目标分割的海洋中尺度涡检测网络中,对输入的待测海平面异常图像进行多层卷积处理,提取图像的低级细节信息和高级语义信息,将低级细节信息和高级语义信息融合,获取多尺度融合特征图;基于多尺度融合特征图,输出海洋中尺度涡的预测图像;将预测图像作为边缘检测网络的输入,通过边缘检测网络提取输入图像的边缘信息,输出待测海平面异常数据图像中的海洋中尺度涡。
[0056] 上述对待测海平面异常数据图像的预处理包括图像分割等,统一待测海平面异常数据图像的大小,以便后续处理。所述基于目标分割的海洋中尺度涡检测网络的训练过程,如图2所示,包括以下步骤:
[0057] 步骤S1、获取海平面异常数据集,对数据集中原始海平面异常数据图像进行预处理,标注图像中海洋中尺度涡及其种类,构建训练样本集;
[0058] 步骤S2、构建基于目标分割的海洋中尺度涡检测网络;所述海洋中尺度涡检测网络采用编码器‑解码器网络架构,所述编码器包括用于下采样的卷积网络,所述解码器包括用于上采样的卷积网络和多尺度特征融合网络,所述解码器后设置用于提取输入图像边缘信息的边缘检测网络;
[0059] 步骤S3、利用训练样本集对海洋中尺度检测网络进行训练,得到训练完成的基于目标分割的海洋中尺度涡检测网络。
[0060] 如图1所示,本实施例所提出的基于目标分割的海洋中尺度涡检测方法包括四大部分,具体为:数据集的构建;基于目标分割的中尺度涡数据预处理及模型设计;中尺度涡模型训练及推理;中尺度涡模型应用。
[0061] 首先,构建海洋中尺度涡图像样本库。在本实施例中,基于AVISO网站,获取自1992年至2010年所公开的海平面异常(SLA,Sea Level Anomaly)数据图像集,该获取的图像的分辨率为0.25°,SLA数据图像如图3中a图所示。以此构建海洋中尺度涡原始数据集,即海洋中尺度涡图像样本库。其中,以自1992年至2008年所公开的海平面异常(SLA)数据图像集为训练集,以自2009年至2010年所公开的海平面异常(SLA)数据图像集为测试集。
[0062] 然后,对训练集中原始海平面异常数据图像进行预处理。在本实施例中,采用基于专家经验的物理检测方法对训练集中原始海平面异常数据图像进行初步分割与检测,识别并标注出图像中存在的海洋中尺度涡及其涡旋种类(即气旋或反气旋)以及海洋中尺度涡轮廓;之后,根据专家经验对基于物理检测方法识别出的海洋中尺度涡进行二次核验,完成海洋中尺度涡标注数据集的构建。中尺度涡标注图像数据如图3中b图所示,中尺度涡轮廓标注如图3中c图所示。
[0063] 上述采用基于专家经验的物理检测方法对数据训练集中原始海平面异常数据图像进行预处理,所采用方法的规则具体为:
[0064] A、海洋中尺度涡像素数量要求大于8且小于1000;B、仅包含海平面异常 SLA值高于当前反气旋涡旋 SLA 间隔值的像素,或仅包含海平面异常SLA值低于当前气旋涡旋SLA间隔值的像素;C、对于反气旋(旋风) ,不包含多于一个局部 SLA 最大值,对于气旋,不包含多于一个局部SLA最小值;D、振幅Z满足1≤Z≤150cm。
[0065] 经过上述方法后,将海平面异常数据生成气旋数据及反气旋数据,将气旋和反气旋nc格式数据进行合并生成初次标注文件,然后经专家审核后作为海洋中尺度涡标注数据集。
[0066] 其次,进行海洋中尺度涡模型的设计。在本实施例中,海洋中尺度涡检测网络的整体架构如图4所示,采用编码器‑解码器的网络架构,结合卷积网络、多尺度特征融合网络和边缘检测网络,构建基于目标分割的海洋中尺度涡检测网络。
[0067] 具体的,所述海洋中尺度涡检测网络采用编码器‑解码器网络架构,编码器‑解码器的网络架构中,可以将特征提取作为一个编码器,将原始图片编码成有利于机器学习的中间表达形式,而解码器则是把中间表达形式转化为另一种表达形式。即,编码器中包含多个用于下采样的卷积网络,解码器中包含多个相应的上采样卷积网络。在本实施例中,编码器包括用于下采样的卷积网络,对输入的海平面异常数据图像进行卷积处理,提取图像初始的低级细节信息,并通过多个用于下采样的卷积网络,对输入的海平面异常图像进行多层卷积处理,提取图像的高级语义信息。
[0068] 多尺度特征融合网络的架构如图6所示,通过该网络对输入的海平面异常(SLA)图像进行卷积处理提取图像初始的低级细节信息,以及对输入的海平面异常(SLA)图像进行多层卷积处理提取图像的高级语义信息,之后将图像的高级语义信息和低级图像细节信息融合,获取多尺度融合特征,提升目标分割的准确率。即,所述解码器包括用于上采样的卷积网络和多尺度特征融合网络,在上采样的过程中融合图像的高级语义信息和低级细节信息,获取多尺度融合特征图,基于多尺度融合特征图,输出海洋中尺度涡的预测图像。
[0069] 编码器‑解码器(Encoder‑Decoder)的网络架构结合卷积网络、多尺度特征融合网络的具体实现如图5所示,编码器包括四个卷积网络模块,每个卷积网络模块采用残差网络设计思想,包括1×1卷积层、3×3卷积层、BN层(Batch Normalization,规范化)、激活层以及跳跃链接,通过对输入的海平面异常(SLA)图像进行四次卷积处理,获得对应的特征图,分别记为F1、F2、F3及F4,之后分别将处理后得到的特征图输入至解码器,解码器对输入的特征图逐层向上进行上采样,并在逐层上采样的过程中不断融合编码器输入的不同尺度的特征图,如图5所示,具体为:首先对特征图F4进行上采样得到特征图U1,将特征图U1与特征图F3融合,利用1*1的卷积网络将融合后的通道恢复至和特征图F3相同,并将特征图记为D1,将特征图D1传递给Decoder解码器;在解码器层,对特征图D1进行上采样获得特征图U2,将特征图U2和编码器输出的特征图F2进行融合,利用1*1的卷积网络将融合后的通道恢复至和F2相同,并将特征图记为D2;对特征图D2进行上采样得到特征图U3,将特征图U3和编码器输出的特征图F1进行融合,利用1*1的卷积网络将融合后的通道恢复至和F1相同,并将特征图记为D3;对特征图D3进行上采样得到最终的中尺度涡分割结果。
[0070] 也就是说,编码器和解码器是一种网络框架,在该框架下利用多尺度特征融合将不同尺寸的图像进行融合,这是由于包含高级语义信息的特征图和包含图像细节信息的特征图的尺寸并不相同,需要对小尺寸的特征图,如32*32大小的特征图,经过上采样恢复到大尺寸特征图,如64*64大小的特征图,经过上采样后再将两者特征图即同一尺寸64*64大小的特征图进行融合,以此实现将提取的高级语义信息和图像细节信息的融合作为输出结果。
[0071] 在上述基础上,在结合边缘检测网络,即在解码器后设置用于提取输入图像边缘信息的边缘检测网络。边缘检测网络具体为采用卷积网络提取输入图像的边缘信息,基于边缘检测网络对输入的海平面异常(SLA)图像进行边缘检测,其检测结果如图7所示,其中左侧为边缘检测网络的输入,右侧是对输入的图像进行边缘检测的结果。
[0072] 在本实施例中,基于上述融合得到的特征图输出检测结果,即标注图像中存在的海洋中尺度涡及其轮廓的预测图像,将该预测结果记为R1,对该检测结果R1进行边缘检测,将该边缘检测结果记为E1;对训练集中标注出该图像中存在的海洋中尺度涡及其轮廓的图像进行边缘检测,将该边缘检测结果记为E2,以E1和E2的差异作为loss损失值,进行反向传播。通过上述方案不断训练,直至损失值小于预设值,完成模型的训练。
[0073] 由于中尺度涡和医学影响分割任务相似,它是一种集合相似度度量指标,通常用于计算两个样本的相似度,在医学图像中经常用于图像分割,分割的最好结果是1,最差时候结果为0。因此,本实施例所述基于目标分割的海洋中尺度涡检测网络采用Dice作为损失函数,Dice是一种集合相似度度量函数,通常用于计算两个样本的相似度,取值为[0,1],在本实施例总,Dice系数和Dice损失函数的表达式如下:
[0074] (1)
[0075] (2)
[0076] 其中,S表示Dice系数,X表示预测图像,Y表示真实的标注图像。
[0077] 此外,考虑到本实施例所述海洋中尺度涡检测网络中还采用边缘检测网络对输入的海平面异常(SLA)图像进行边缘检测,因此,将进行边缘检测的预测图像和真实标注图像的边缘信息差异作为损失值,构建边缘检测网络的损失函数,具体为:
[0078] (3)
[0079] 其中,x表示输入图像, 表示经目标分割检测后的中尺度涡预测图像,y表示真实的标注图像, 表示通过边缘检测网络提取预测图像的边缘特征,表示通过边缘检测网络提取真实标注图像的边缘特征。
[0080] 然后,利用训练样本集对海洋中尺度检测网络进行训练。本实施例采用基于超算的分布式并行技术进行模型训练,训练的具体过程为:首先,使用基于超算数据并行设计海洋中尺度检测网络对中尺度涡原始数据集以及标注数据集进行监督训练,其次,采用边缘检测网络提升海洋中尺度检测网络对中尺度涡边缘细节的生成能力;在模型训练成功后,进行模型推理测试,最后将模型部署到可移动终端设备上。
[0081] 上述所采用的基于超算数据并行的结构如图8所示,在本实施例中,采用8张GPU(即显卡)进行分布式并行训练,设置整体训练数据量global batchsize(即可选的全局批量大小值,通常batchsize表示一次训练所抓取的数据样本数量,batchsize的大小影响训练速度和模型优化)后,根据GPU显卡的数量均等平分,结合基于数据并行的深度学习前向传播(Data Parallel Forward),最后将每个GPU显卡训练数据后得到的损失值(Loss all reduce)进行汇总,以此实现检测网络的训练。
[0082] 具体的,在本实施例所述检测网络的训练过程中,通过数据并行,将global batchsize平均的分配到每一GPU设备上,每一CPU设备上分配得到单个CPU的训练数据量Micro batch size(即局部批量大小值),对应的global batchsize = batchsize*d,其中d为GPU设备的个数(在本实施例中d=8),batchsize表示单个GPU每次训练数据的数量,globalbatchsize表示每次整体训练的数据量。在数据并行中,通信发生在反向梯度传播的All Reduce(算法)上,高效的将不同GPU中的数据整合之后再把结果分发给各个GPU,计算与通信的比值F为:
[0083] (4)
[0084] 通常d>>1,BS表示batchsize,因此上式简化为:
[0085] (5)
[0086] 因此,提升数据并行计算的主要手段是增大global batchsize,但是,global batchsize过大又导致计算发散,故,本实施例的global batch size设置为32。
[0087] 最后,基于训练完成的海洋中尺度涡检测网络,检测待测海平面异常数据图像中的海洋中尺度涡,也即海洋中尺度涡模型应用。在完成基于目标分割的海洋中尺度涡检测网络的训练后,获得对应的检测模型,然后可进行海洋中尺度涡模型应用,具体的,采集待测海平面异常(SLA)图像作为输入图像,输入至训练完成的海洋中尺度涡检测网络中,输出该图像存在的海洋中尺度涡检测结果。中尺度涡检测结果如图9所示,左图为原始的海平面异常SLA图像,右图为检测后的结果图像。
[0088] 实施例二
[0089] 本实施例提供了一种基于目标分割的海洋中尺度涡检测系统,包括:
[0090] 图像获取及预处理模块,用于获取待测海平面异常数据图像,对待测海平面异常数据图像进行预处理;
[0091] 海洋中尺度涡检测模块,用于将预处理后的待测海平面异常数据图像输入至基于目标分割的海洋中尺度涡检测网络,检测待测海平面异常数据图像中的海洋中尺度涡;
[0092] 所述基于目标分割的海洋中尺度涡检测网络中,对输入的待测海平面异常图像进行多层卷积处理,提取图像的低级细节信息和高级语义信息,将低级细节信息和高级语义信息融合,获取多尺度融合特征图;基于多尺度融合特征图,输出海洋中尺度涡的预测图像;将预测图像作为边缘检测网络的输入,通过边缘检测网络提取输入图像的边缘信息,输出待测海平面异常数据图像中的海洋中尺度涡。
[0093] 以上实施例二中涉及的各步骤与方法实施例一相对应,具体实施方式可参见实施例一的相关说明部分。
[0094] 本领域技术人员应该明白,上述本发明的各模块或各步骤可以用通用的计算机装置来实现,可选地,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。本发明不限制于任何特定的硬件和软件的结合。
[0095] 以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
[0096] 上述虽然结合附图对本发明的具体实施方式进行了描述,但并非对本发明保护范围的限制,所属领域技术人员应该明白,在本发明的技术方案的基础上,本领域技术人员不需要付出创造性劳动即可做出的各种修改或变形仍在本发明的保护范围以内。