一种煤流量检测方法及条件生成对抗网络的训练方法转让专利
申请号 : CN202210779444.4
文献号 : CN114842015B
文献日 : 2022-09-20
发明人 : 郝博南 , 张立亚 , 孟庆勇 , 吴文臻 , 姜玉峰 , 杨志方 , 崔竟成 , 李晨鑫 , 李标 , 杨国伟 , 赵青 , 彭丽 , 王超
申请人 : 煤炭科学技术研究院有限公司
摘要 :
权利要求 :
1.一种生成条件生成对抗网络的训练方法,其特征在于,所述条件生成对抗网络应用于煤流量检测中,所述训练方法包括以下步骤:基于第一样本图像、第一模型样本数据和煤流假图,迭代训练所述条件生成对抗网络中的判别器,以得到目标判别器,使得所述目标判别器将所述第一样本图像判定为真,且将所述煤流假图判定为假,其中,所述第一样本图像为煤流的深度图,所述煤流假图为所述条件生成对抗网络中的条件生成器生成的深度图,所述第一模型样本数据中包括煤流的三维模型信息;
基于第二样本图像和第二模型样本数据,迭代训练所述条件生成器,以得到目标条件生成器,使得所述目标条件生成器生成的煤流假图被所述目标判别器判定为真,其中,所述第二样本图像为煤流的三维毫米波热图,所述第二模型样本数据中包括煤流的三维模型信息;
基于所述目标判别器和所述目标条件生成器,得到目标条件生成对抗网络。
2.根据权利要求1所述的生成条件生成对抗网络的训练方法,其特征在于,所述第一样本图像、所述第一模型样本数据和所述煤流假图对应于同一煤流样本,所述第二样本图像和所述第二模型样本数据对应于同一煤流样本。
3.一种煤流量检测方法,其特征在于,包括:
获取煤流的第一采集图像、第一煤流模型数据和预设的第二煤流模型数据;
基于如权利要求1或2所述的目标条件生成对抗网络,根据所述第一采集图像、所述第一煤流模型数据和所述第二煤流模型数据,生成所述煤流对应的目标图像;
根据所述目标图像,获取所述煤流对应的瞬时煤流量,以得到预设时间内的煤流总量。
4.根据权利要求3所述的煤流量检测方法,其特征在于,所述基于目标条件生成对抗网络,根据所述第一采集图像、所述第一煤流模型数据和所述第二煤流模型数据,生成所述煤流对应的目标图像,包括:将所述第一煤流模型数据和所述第二煤流模型数据确定为条件输入信息;
将所述第一采集图像确定为随机噪声信息;
将所述条件输入信息和所述随机噪声信息输入所述目标条件生成对抗网络,生成所述目标图像。
5.根据权利要求4所述的煤流量检测方法,其特征在于,所述第一采集图像为基于毫米波雷达采集的三维毫米波热图,所述目标图像为深度图。
6.根据权利要求4所述的煤流量检测方法,其特征在于,所述第一煤流模型数据中包括所述煤流的三维模型信息,所述第二煤流模型数据中包括预设煤流的三维模型信息。
7.根据权利要求4所述的煤流量检测方法,其特征在于,所述根据所述目标图像,获取所述煤流对应的瞬时煤流量,包括:根据所述目标图像,得到所述煤流对应的三维点云;
获取所述三维点云表征的煤堆的体积;
根据所述体积,得到所述煤流对应的瞬时煤流量。
8.一种煤流量检测装置,其特征在于,包括:
第一获取模块,用于获取煤流的第一采集图像、第一煤流模型数据和预设的第二煤流模型数据;
生成模块,用于基于如权利要求1或2所述的目标条件生成对抗网络,根据所述第一采集图像、所述第一煤流模型数据和所述第二煤流模型数据,生成所述煤流对应的目标图像;
第二获取模块,用于根据所述目标图像,获取所述煤流对应的瞬时煤流量,以得到预设时间内的煤流总量。
9.一种生成条件生成对抗网络的训练装置,其特征在于,所述条件生成对抗网络应用于煤流量检测中,所述训练装置包括:第一训练模块,用于基于第一样本图像、第一模型样本数据和煤流假图,迭代训练所述条件生成对抗网络中的判别器,以得到目标判别器,使得所述目标判别器将所述第一样本图像判定为真,且将所述煤流假图判定为假,其中,所述第一样本图像为煤流的深度图,所述煤流假图为所述条件生成对抗网络中的条件生成器生成的深度图,所述第一模型样本数据中包括煤流的三维模型信息;
第二训练模块,用于基于第二样本图像和第二模型样本数据,迭代训练所述条件生成器,以得到目标条件生成器,使得所述目标条件生成器生成的煤流假图被所述目标判别器判定为真,其中,所述第二样本图像为煤流的三维毫米波热图,所述第二模型样本数据中包括煤流的三维模型信息;
组成模块,用于基于所述目标判别器和所述目标条件生成器,得到目标条件生成对抗网络。
10.一种电子设备,其特征在于,包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述程序时,实现如权利要求3‑7中任一项所述的煤流量检测方法,或者实现如权利要求1‑2中任一项所述的生成条件生成对抗网络的训练方法。
说明书 :
一种煤流量检测方法及条件生成对抗网络的训练方法
技术领域
背景技术
测大多使用摄像机、激光雷达和毫米波雷达等设备来获得煤流量信息,其中毫米波雷达对
光的依赖性较差,而且可以穿透粉尘、烟雾等,为煤流量检测提供了更多有利的特性,然而
使用毫米波雷达进行成像时存在分辨率较低且存在多路径反射和镜面反射的问题,相关技
术中毫米波成像系统使用人体尺寸的机械可控阵列来提高分辨率,它们隔离了近场中成像
的物体以消除多路径反射,并围绕物体旋转阵列以解决镜面反射问题。然而这种设计非常
地笨重,对于煤矿环境来说并不适用。
发明内容
条件生成对抗网络,根据所述第一采集图像、所述第一煤流模型数据和所述第二煤流模型
数据,生成所述煤流对应的目标图像;根据所述目标图像,获取所述煤流对应的瞬时煤流
量,以得到预设时间内的煤流总量。
括:将所述第一煤流模型数据和所述第二煤流模型数据确定为条件输入信息;将所述第一
采集图像确定为随机噪声信息;将所述条件输入信息和所述随机噪声信息输入所述目标条
件生成对抗网络,生成所述目标图像。
煤堆的体积;根据所述体积,得到所述煤流对应的瞬时煤流量。
生成对抗网络中的判别器,以得到目标判别器,使得所述目标判别器将所述第一样本图像
判定为真,且将所述煤流假图判定为假,其中,所述第一样本图像为煤流的深度图,所述煤
流假图为所述条件生成对抗网络中的条件生成器生成的深度图,所述第一模型样本数据中
包括煤流的三维模型信息;基于第二样本图像和第二模型样本数据,迭代训练所述条件生
成器,以得到目标条件生成器,使得所述目标条件生成器生成的煤流假图被所述目标判别
器判定为真,其中,所述第二样本图像为煤流的三维毫米波热图,所述第二模型样本数据中
包括煤流的三维模型信息;基于所述目标判别器和所述目标条件生成器,得到目标条件生
成对抗网络。
样本。
模型数据;生成模块,用于基于目标条件生成对抗网络,根据所述第一采集图像、所述第一
煤流模型数据和所述第二煤流模型数据,生成所述煤流对应的目标图像;第二获取模块,用
于根据所述目标图像,获取所述煤流对应的瞬时煤流量,以得到预设时间内的煤流总量。
息;将所述条件输入信息和所述随机噪声信息输入所述目标条件生成对抗网络,生成所述
目标图像。
所述煤流对应的瞬时煤流量。
迭代训练所述条件生成对抗网络中的判别器,以得到目标判别器,使得所述目标判别器将
所述第一样本图像判定为真,且将所述煤流假图判定为假,其中,所述第一样本图像为煤流
的深度图,所述煤流假图为所述条件生成对抗网络中的条件生成器生成的深度图,所述第
一模型样本数据中包括煤流的三维模型信息;第二训练模块,用于基于第二样本图像和第
二模型样本数据,迭代训练所述条件生成器,以得到目标条件生成器,使得所述目标条件生
成器生成的煤流假图被所述目标判别器判定为真,其中,所述第二样本图像为煤流的三维
毫米波热图,所述第二模型样本数据中包括煤流的三维模型信息;组成模块,用于基于所述
目标判别器和所述目标条件生成器,得到目标条件生成对抗网络。
样本。
述程序时,实现如本申请第一方面实施例中任一项所述的煤流量检测方法,或者第二方面
实施例中任一项所述的条件生成对抗网络的训练方法。
据,根据煤流的第一采集图像生成对应的目标图像,根据该目标图像获取煤流对应的瞬时
煤流量,以得到预设时间内的煤流总量,本申请的煤流量检测方法结构简单,能够适用于煤
矿环境中对煤流量进行检测,且结合煤流的模型数据和采集图像生成目标图像,使得目标
图像能够更加清晰地表征煤流的信息,增强煤流量检测的效果。
附图说明
具体实施方式
请而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本
公开,并且能够将本申请的范围完整的传达给本领域的技术人员。
工作所需必要的软件。可选的,执行主体可包括工作站、服务器,计算机、用户终端及其他设
备。
维毫米波热图,第一煤流模型数据中可以包括煤流的三维模型信息,例如第一煤流模型数
据可以为三维的CAD煤流真实模型对应的数据,第一煤流模型可以借助毫米波雷达或借助
深度相机等设备来进行建模。此外,本申请还获取预设的第二煤流模型数据,该第二煤流模
型为提前构建的、已知的煤流模型,无需在实际煤流量检测中进行实时测量构建,同样的,
第二煤流模型数据中可以包括预设煤流的三维模型信息。
以及预设的第二煤流模型数据输入目标条件生成对抗网络(Conditional Generative
Adversarial Network,简称CGAN),以生成煤流对应的目标图像,其中目标图像可以为包含
煤流量深度信息的高分辨率深度图。
型数据和第二煤流模型数据,根据第一采集图像生成一个高分辨率的深度图。
度,且由于三维毫米波热图较大的传感带宽,可以在深度维度上实现高分辨率。该网络能够
准确捕获三维毫米波热图中的低频和高频分量,生成工矿环境下煤矿皮带煤流量的高分辨
率深度图。
传送的煤流量,由此可以在预设时间内,对带式输送机上传送的煤流进行图像采集以及获
取第一煤流模型数据,基于第一采集图像、第一煤流模型数据和预设的第二煤流模型数据
分别对每一个 内的煤流量进行检测,从而得到预设时间内的煤流总量,其中预设时间可
以为预先设置的煤流总量的检测时间,如带式输送机一次传送任务的工作时间。
检测次数或瞬时煤流量的计算次数,j=1,2,……,100,为减少计算量,可以将 代替
来表示 时间内的煤流总量,其中k表示为了减少计算量而采取的检测次数或瞬
时煤流量的计算次数,k=1,2,……,20,由此在预设时间T内只需继续20次瞬时煤流量计算
即可。
图像,根据该目标图像获取对应的瞬时煤流量,以得到预设时间内的煤流总量,本申请的煤
流量检测方法结构简单,能够适用于煤矿环境中对煤流量进行检测,且结合煤流的模型数
据和采集图像生成目标图像,使得目标图像能够更加清晰地表征煤流的信息,增强煤流量
识别的效果。
像”可以包括以下步骤:
图。
标条件生成器,生成基于条件输入信息的煤流深度图,该煤流深度图经过目标判别器判别
为真后,作为目标条件生成对抗网络的输出,即为目标图像。
的根据一帧第一采集图像生成的目标图像得到的、经过三角网格化的三维点云,其中第一
采集图像为毫米波雷达通过发射毫米波光束对皮带上的煤流进行图像获取得到的。
角形,即每一行代表一个三角形,每一行的三个元素代表三角形顶点的索引,例如(8,6,7)
表示点云数组中的第8个点、第6个点和第7个点组成的一个三角形,其中点云数组中包括网
格化后的三维点云中全部点在点云坐标系下的坐标,该点云数组可以为M*3的数组,M为全
部点的个数,每一行的三个元素表示一个点在XYZ轴的坐标。
积。在一些实施例中,可以基于点云坐标系,确定网格化后的三维点云的顶面,计算顶面中
每个三角形对应的三棱柱的体积,以此计算三维点云对应的体积。
面得到投影三角形 ,基于下列公式可根据三角形 的三个顶点的坐标计算得
到投影三角形 的边长:
作为该三棱柱的高,计算该三棱柱的体积,其中,体积计算公式如下:
图像,根据该目标图像获取对应的瞬时煤流量,以得到预设时间内的煤流总量,本申请的煤
流量检测方法结构简单,能够适用于煤矿环境中对煤流量进行检测,且结合煤流的模型数
据和采集图像生成目标图像,使得目标图像能够更加清晰地表征煤流的信息,通过目标条
件生成对抗网络学习处理原始毫米波热图中的镜面反射和多路径反射的问题,得到高分辨
率的深度图,基于该深度图增强煤流量识别的效果。
假图判定为假,其中,第一样本图像为煤流的深度图,煤流假图为条件生成对抗网络中的条
件生成器生成的深度图,第一模型样本数据中包括煤流的三维模型信息。
理能力的硬件设备和/或驱动该硬件设备工作所需必要的软件。可选的,执行主体可包括工
作站、服务器,计算机、用户终端及其他设备。
型样本数据,第二样本图像为该煤流对应的三维毫米波热图。其中第一样本图像可以通过
图像采集设备采集,例如,基于宽基线立体相机系统捕获煤流实况的高分辨率2D深度图,第
二样本图像可以基于毫米波雷达采集,例如基于针对煤矿环境定制的毫米波成像模块来捕
获3D毫米波热图。作为一种可行的实施方式,还可以基于煤块的三维CAD模型和毫米波光线
追踪算法来合成数据以扩大训练数据集。
器能够将第一样本图像判定为真,且将煤流假图判定为假。
图像为煤流的三维毫米波热图,第二模型样本数据中包括煤流的三维模型信息。
声信息,对条件生成对抗网络中的条件生成器进行多轮迭代训练,得到训练好的目标条件
生成器,使得该目标条件生成器生成的煤流假图能够被目标判别器判定为真。具体为,将条
件生成器生成的煤流假图和第二模型样本数据输入目标判别器,对该煤流假图进行判别,
基于判别结果调整条件生成器的参数,再根据下一煤流样本对应的第二样本图像和第二模
型样本数据进行下一轮训练,直至得到目标条件生成器。
本数据与第二模型样本数据相同。
随机噪声, 表示噪声分布,条件生成器G学习到的数据分布为 ,条件生成器基于生成映
射函数在条件输入信息下将随机噪声z转化为煤流假图数据;判别器D基于判别映射函数在
条件输入信息下判别输入判别器的数据x来自真实数据data而不是条件生成器输出的生成
数据(煤流假图)的概率。
使得 的期望最小化。这个优化过程可以归结为一个“二元极小极大博弈
(Minimax Two‑player Game)”问题,条件生成对抗网络的目标函数为带有条件概率的二元
极大极小博弈,其中目标函数如下:
下 的期望值, 表示条件生成器G在条件输入信息下生成的煤流假图数据,
表示在煤流假图数据 作为判别器D的输入信息x时,判别器D在条件输入
信息下判定输入信息 来自真实数据的概率, 表示判别器D在条件输入
信息下判定输入信息 来自煤流假图数据的概率, 表示
在噪声分布下 的期望值。
目标判别器将第一样本图像判定为真,且将煤流假图判定为假,其中,第一样本图像为煤流
的深度图,煤流假图为条件生成对抗网络中的条件生成器生成的深度图,第一模型样本数
据中包括煤流的三维模型信息;基于第二样本图像和第二模型样本数据,迭代训练条件生
成器,以得到目标条件生成器,使得目标条件生成器生成的煤流假图被目标判别器判定为
真,其中,第二样本图像为煤流的三维毫米波热图,第二模型样本数据中包括煤流的三维模
型信息;基于目标判别器和目标条件生成器,得到目标条件生成对抗网络。本申请以毫米波
热图作为第二样本图像,以相机采集的深度图作为第一样本图像,同时结合煤流的模型样
本数据作为条件输入信息,对条件生成对抗网络进行训练,使得条件生成对抗网络能够学
习处理原始毫米波热图中的镜面反射和多路径反射,得到目标条件生成对抗网络,该目标
条件生成对抗网络能够根据实测的三维毫米热图生成高分辨率的深度图,以增强煤流量检
测的效果,且基于目标条件生成对抗网络获取高分辨率煤流深度图的设备结构简单,便于
在煤矿场景下实施。
信息和随机噪声信息输入目标条件生成对抗网络,生成目标图像。
瞬时煤流量。
图像,根据该目标图像获取对应的瞬时煤流量,以得到预设时间内的煤流总量,本申请的煤
流量检测方法结构简单,能够适用于煤矿环境中对煤流量进行检测,且结合煤流的模型数
据和采集图像生成目标图像,使得目标图像能够更加清晰地表征煤流的信息,增强煤流量
识别的效果。
判定为真,且将煤流假图判定为假,其中,第一样本图像为煤流的深度图,煤流假图为条件
生成对抗网络中的条件生成器生成的深度图,第一模型样本数据中包括煤流的三维模型信
息。
真,其中,第二样本图像为煤流的三维毫米波热图,第二模型样本数据中包括煤流的三维模
型信息。
目标判别器将第一样本图像判定为真,且将煤流假图判定为假,其中,第一样本图像为煤流
的深度图,煤流假图为条件生成对抗网络中的条件生成器生成的深度图,第一模型样本数
据中包括煤流的三维模型信息;基于第二样本图像和第二模型样本数据,迭代训练条件生
成器,以得到目标条件生成器,使得目标条件生成器生成的煤流假图被目标判别器判定为
真,其中,第二样本图像为煤流的三维毫米波热图,第二模型样本数据中包括煤流的三维模
型信息;基于目标判别器和目标条件生成器,得到目标条件生成对抗网络。本申请以毫米波
热图作为第二样本图像,以相机采集的深度图作为第一样本图像,同时结合煤流的模型样
本数据作为条件输入信息,对条件生成对抗网络进行训练,使得条件生成对抗网络能够学
习处理原始毫米波热图中的镜面反射和多路径反射,得到目标条件生成对抗网络,该目标
条件生成对抗网络能够根据实测的三维毫米热图生成高分辨率的深度图,以增强煤流量检
测的效果,且基于目标条件生成对抗网络获取高分辨率煤流深度图的设备结构简单,便于
在煤矿场景下实施。
程序时,实现前述的煤流量检测方法或者条件生成对抗网络的训练方法。
隐含地包括一个或者更多个该特征。在本申请的描述中,“多个”的含义是两个或两个以上,
除非另有明确具体的限定。
点包含于本申请的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不
必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任
一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技
术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结
合和组合。
实施例进行变化、修改、替换和变型。