基于联合学习的语义边缘检测方法、装置、系统及介质转让专利
申请号 : CN202110072475.1
文献号 : CN112396069B
文献日 : 2021-04-13
发明人 : 李天驰 , 孙悦 , 王帅
申请人 : 深圳点猫科技有限公司
摘要 :
权利要求 :
1.一种基于联合学习的语义边缘检测方法,其特征在于,包括如下步骤:预先构建生成对抗网络和边缘检测网络;
获取边缘噪声样本,根据所述边缘噪声样本对所述生成对抗网络和边缘检测网络进行噪声学习和边缘检测的联合学习训练,当边缘检测结果达到期望值时得到完成联合学习训练的生成对抗网络和边缘检测网络;
将待检测图像输入至所述完成联合学习训练的边缘检测网络后输出语义边缘检测结果;
所述生成对抗网络包括用于生成模拟真实噪声样本的生成器网络,以及用于对所述模拟真实噪声样本进行真伪识别以及分类的判别器网络,通过生成器网络和判别器网络之间的对抗性优化,从训练的边缘噪声样本数据中生成模拟真实边缘噪声分布的合成样本;
所述获取边缘噪声样本,根据所述边缘噪声样本对所述生成对抗网络和边缘检测网络进行噪声学习和边缘检测的联合学习训练,当边缘检测结果达到期望值时得到完成联合学习训练的生成对抗网络和边缘检测网络,包括:获取边缘噪声样本并将其输入至所述生成器网络,通过所述生成器网络生成模拟真实噪声样本;
将所述模拟真实噪声样本经所述判别器网络识别真伪后输入至所述边缘检测网络;
根据当前输入的模拟真实噪声样本以及边缘检测网络的损失函数对所述边缘检测网络进行边缘检测训练,反馈边缘检测结果至所述生成对抗网络;
根据所述边缘检测结果调节所述生成对抗网络的参数直到边缘检测结果达到期望值,得到完成联合学习训练的生成对抗网络和边缘检测网络。
2.根据权利要求1所述的基于联合学习的语义边缘检测方法,其特征在于,所述构建边缘检测网络,具体包括:
构建用于边缘检测的卷积神经网络,以及用于训练所述卷积神经网络的损失函数,其中所述卷积神经网络包括用于对语义边缘进行分类预测的边缘细化层。
3.根据权利要求2所述的基于联合学习的语义边缘检测方法,其特征在于,所述损失函数包括交叉熵损失、NMS损失以及方向损失。
4.根据权利要求2所述的基于联合学习的语义边缘检测方法,其特征在于,所述边缘细化层具体通过计算边缘法线方向进行边缘分类预测。
5.根据权利要求4所述的基于联合学习的语义边缘检测方法,其特征在于,所述根据当前输入的模拟真实噪声样本以及损失函数对所述边缘检测网络进行边缘检测训练,反馈边缘检测结果至所述生成对抗网络,包括:获取判别器网络识别为真的模拟真实噪声样本并将其输入至所述卷积神经网络;
通过所述损失函数对所述卷积神经网络输出的边缘检测结果进行误差评价;
根据误差评价结果调节所述卷积神经网络的权重参数,并将所述边缘检测结果反馈至所述生成对抗网络。
6.一种基于联合学习的语义边缘检测装置,其特征在于,所述装置包括:构建模块,用于预先构建生成对抗网络和边缘检测网络;
联合学习模块,用于获取边缘噪声样本,根据所述边缘噪声样本对所述生成对抗网络和边缘检测网络进行噪声学习和边缘检测的联合学习训练,当边缘检测结果达到期望值时得到完成联合学习训练的生成对抗网络和边缘检测网络;
检测模块,用于将待检测图像输入至所述完成联合学习训练的边缘检测网络后输出语义边缘检测结果;
其中所述生成对抗网络包括用于生成模拟真实噪声样本的生成器网络,以及用于对所述模拟真实噪声样本进行真伪识别以及分类的判别器网络,通过生成器网络和判别器网络之间的对抗性优化,从训练的边缘噪声样本数据中生成模拟真实边缘噪声分布的合成样本;
所述联合学习模块具体用于获取边缘噪声样本并将其输入至所述生成器网络,通过所述生成器网络生成模拟真实噪声样本;将所述模拟真实噪声样本经所述判别器网络识别真伪后输入至所述边缘检测网络;根据当前输入的模拟真实噪声样本以及边缘检测网络的损失函数对所述边缘检测网络进行边缘检测训练,反馈边缘检测结果至所述生成对抗网络;
根据所述边缘检测结果调节所述生成对抗网络的参数直到边缘检测结果达到期望值,得到完成联合学习训练的生成对抗网络和边缘检测网络。
7.一种基于联合学习的语义边缘检测系统,其特征在于,所述系统包括至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1‑5任一项所述的基于联合学习的语义边缘检测方法。
8.一种非易失性计算机可读存储介质,其特征在于,所述非易失性计算机可读存储介质存储有计算机可执行指令,该计算机可执行指令被一个或多个处理器执行时,可使得所述一个或多个处理器执行权利要求1‑5任一项所述的基于联合学习的语义边缘检测方法。
说明书 :
基于联合学习的语义边缘检测方法、装置、系统及介质
技术领域
背景技术
原因,而厚边界预测对下游任务来说是不可取的。
发明内容
习训练的生成对抗网络和边缘检测网络;
的判别器网络。
训练,当边缘检测结果达到期望值时得到完成联合学习训练的生成对抗网络和边缘检测网
络,包括:
对抗网络,包括:
法。
执行时,可使得所述一个或多个处理器执行上述的基于联合学习的语义边缘检测方法。
述程序指令被处理器执行时,使所述处理器执行上述的基于联合学习的语义边缘检测方
法。
络进行联合学习,同时执行噪声学习任务和边缘检测任务,形成闭环训练结构,能有效提高
各任务的性能,使得联合学习后得到的边缘检测网络具有更加精确和清晰的语义边缘检测
效果。
附图说明
具体实施方式
结合附图对本发明实施例进行介绍。
联合学习训练的生成对抗网络和边缘检测网络;
实施例中所述生成对抗网络包括用于生成模拟真实噪声样本的生成器网络,以及用于对所
述模拟真实噪声样本进行真伪识别以及分类的判别器网络,通过这两个网络之间的对抗性
优化,能够从训练的边缘噪声样本数据中生成模拟真实边缘噪声分布的合成样本,因此本
实施例获取边缘噪声样本后根据所述边缘噪声样本对所述生成对抗网络和边缘检测网络
进行噪声学习和边缘检测的联合学习任务,同时执行噪声学习任务和边缘检测任务以形成
闭环训练结构,最终当边缘检测结果达到期望值时得到完成联合学习训练的生成对抗网络
和边缘检测网络,该边缘检测网络由于在训练过程中加入了生成对抗网络的噪声学习,完
成联合学习的生成对抗网络可生成无限接近真实边界信号的模拟真实噪声样本,在边缘检
测时通过该模拟真实噪声样本进行边缘检测训练,可实现标注噪声的显式推理来学习清
晰、精确的语义边界,产生更加准确的语义边缘预测。
练所述卷积神经网络的损失函数也相应的增加了损失项,具体所述损失函数包括交叉熵损
失、NMS损失以及方向损失。
图 ,通常假设其分解为一组按Bernoulli分布建模的像素概率,它是用卷积神
经网络f计算的,具有k个sigmoid函数输出以及参数θ,因此,允许每个像素属于多个类,以
处理多类遮挡边界的情况。
为所有类中的非边缘像素数, 为像素的总数。在多类场景中,假设类是独立的,
因此,在学习中交叉熵损失可表示为:
位置执行softmax(一种逻辑回归模型),帮助增强边界像素,提高边缘预测的精确性,具体
实施时,对于类k的每个真实值边界像素p,将其沿法向方向的响应归一化为
,其中 ,其中,t∈{−L,−L +
1,…, L}, L表示像素pt与p沿法线的最大距离,使用基本三角学和估计二阶导数的固定卷
积层从真值边界图计算法向 ,参数τ表示softmax的温度,优选的所述L = 2,τ =0.1,当
然也可根据需要设置为其它数值。
类分布推向狄拉克函数目标分布:
,其中 是边界像素p中的真实法线方向, 是预
测边界计算的法线方向。
部,强制边缘检测器预测沿边缘法向的最大响应,同时也使其方向规则化。通过这样做,可
以缓解预测过厚边界的问题,并直接优化非最大抑制边,实现更加薄且精准的边缘预测。
输入至所述判别器网络进行真伪判别。具体来说,所述生成器网络具有编码模块和译码模
块,更具体地,生成器网络通过自定义图形卷积层分离图像的风格和内容,再经过编码与译
码生成新的图像,其中编码模块是一个残差网络,由卷积层、残差块组成,通过残差网络来
提取图像特征,将图像压缩成一定数量的特征向量;译码模块也是由卷积层和残差块组成,
利用反卷积层,从特征向量中还原出低级特征,最后生成图像。所述判别器网络则可通过对
抗性学习来判断此时生成器网络生成的图像是“真”还是“假”并输出相应的标签,即通过生
成器网络和判别器网络之间的生成对抗性优化,可输出与真实边界噪声接近的模拟真实噪
声样本。
述边缘检测结果调节所述生成对抗网络的参数以加强生成对抗网络生成的质量,使得生成
器网络输出的模拟真实噪声样本尽量接近真实的边界噪声,形成训练闭环结构,直到边缘
检测结果达到期望值,以实现联合训练学习的目的,大大提高了边缘检测的效果。
边缘噪声样本的识别结果为真,之后通过生成对抗网络产生的模拟真实噪声样本来对边缘
检测网络进行训练,具体将具有精准标注噪声的模拟真实噪声样本输入至卷积神经网络,
通过所述损失函数对所述卷积神经网络输出的边缘检测结果进行误差评价,根据误差评价
结果反向传播调节所述卷积神经网络的权重参数,并反馈边缘检测结果至生成对抗网络,
通过使用真实的边界信号训练边界网络,能够学习并产生更准确的预测,同时联合学习训
练调整参数的方案也有助于得到性能更好的边缘检测网络。
边缘检测任务,形成闭环训练结构,能有效提高各任务的性能,使得联合学习后得到的边缘
检测网络具有更加精确和清晰的语义边缘检测效果。
序,亦即,可以并行执行,亦可以交换执行等等。
望值时得到完成联合学习训练的生成对抗网络和边缘检测网络;
Machine)或其它可编程逻辑器件、分立门或晶体管逻辑、分立的硬件组件或者这些部件的
任何组合。还有,处理器110还可以是任何传统处理器、微处理器或状态机。处理器110也可
以被实现为计算设备的组合,例如,DSP和微处理器的组合、多个微处理器、一个或多个微处
理器结合DSP和/或任何其它这种配置。
检测方法对应的程序指令。处理器110通过运行存储在存储器120中的非易失性软件程序、
指令以及单元,从而执行系统10的各种功能应用以及数据处理,即实现上述方法实施例中
的基于联合学习的语义边缘检测方法。
此外,存储器120可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一
个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中,存储器120可
选包括相对于处理器110远程设置的存储器,这些远程存储器可以通过网络连接至系统10。
上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
中的方法步骤S100至步骤S300。
述的图1中的方法步骤S100至步骤S300。
缓存存储器的随机存取存储器(RAM)。通过说明丽非限制,RAM可以以诸如同步RAM(SRAM)、
动态RAM、(DRAM)、同步DRAM(SDRAM)、双数据速率SDRAM(DDR SDRAM)、增强型SDRAM
(ESDRAM)、Synchlink DRAM(SLDRAM)以及直接Rambus(兰巴斯)RAM(DRRAM)之类的许多形式
得到。本文中所描述的操作环境的所公开的存储器组件或存储器旨在包括这些和/或任何
其他适合类型的存储器中的一个或多个。
处理器执行时,使所述处理器执行上述方法实施例的基于联合学习的语义边缘检测方法。
例如,执行以上描述的图1中的方法步骤S100至步骤S300。
述边缘噪声样本对所述生成对抗网络和边缘检测网络进行噪声学习和边缘检测的联合学
习训练,当边缘检测结果达到期望值时得到完成联合学习训练的生成对抗网络和边缘检测
网络;将待检测图像输入至所述完成联合学习训练的边缘检测网络后输出语义边缘检测结
果。本发明实施例通过在统一的框架内构建生成对抗网络和边缘检测网络进行联合学习,
同时执行噪声学习任务和边缘检测任务,形成闭环训练结构,能有效提高各任务的性能,使
得联合学习后得到的边缘检测网络具有更加精确和清晰的语义边缘检测效果。
位于一个地方,或者也可以分布到多个网络单元上。可以根据实际需要选择其中的部分或
者全部模块来实现本实施例方案的目的。
方案本质上或者说对相关技术做出贡献的部分可以以软件产品的形式体现出来,该计算机
软件产品可以存在于计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以
使得一台计算机电子设备(可以是个人计算机,服务器,或者网络电子设备等)执行各个实
施例或者实施例的某些部分的方法。
包括(然而其他实施方式不包括)特定特征、元件和/或操作。因此,这样的条件语言一般地
还旨在暗示特征、元件和/或操作对于一个或多个实施方式无论如何都是需要的或者一个
或多个实施方式必须包括用于在有或没有输入或提示的情况下判定这些特征、元件和/或
操作是否被包括或者将在任何特定实施方式中被执行的逻辑。
的目的来描述元件和/或方法的每个可以想象的组合,但是可以认识到,所公开的特征的许
多另外的组合和置换是可能的。因此,显而易见的是,在不脱离本公开的范围或精神的情况
下能够对本公开做出各种修改。此外,或在替代方案中,本公开的其他实施例从对本说明书
和附图的考虑以及如本文中所呈现的本公开的实践中可能是显而易见的。意图是,本说明
书和附图中所提出的示例在所有方面被认为是说明性的而非限制性的。尽管在本文中采用
了特定术语,但是它们在通用和描述性意义上被使用并且不用于限制的目的。