绝缘子绑扎线缺失识别方法、装置和计算机设备转让专利
申请号 : CN202110733778.3
文献号 : CN113192071B
文献日 : 2021-11-23
发明人 : 李鹏 , 黄文琦 , 吴洋 , 曾群生 , 钟连宏 , 樊灵孟 , 姚森敬 , 刘高
申请人 : 南方电网数字电网研究院有限公司
摘要 :
权利要求 :
1.一种绝缘子绑扎线缺失识别方法,其特征在于,所述方法包括:获取绝缘子的原始图像;
将所述原始图像输入训练后的绝缘子检测模型,得到所述绝缘子的类型和所述绝缘子在所述原始图像中的位置区域;其中,所述绝缘子检测模型以跨阶段局部网络和Darknet53网络作为主干网络提取训练样本特征,以路径聚合网络作为特征金字塔生成网络改善底层特征传播,以单层卷积作为预测网络输出目标类别和位置;所述Darknet53网络为Yolov3网络的主干网络;
若所述绝缘子的类型为预设类型,则将所述绝缘子在所述原始图像中的位置区域向外扩充设定的距离,基于扩充后的位置区域,从所述绝缘子的原始图像中裁剪得到绝缘子区域图像;
将所述绝缘子区域图像输入训练后的绑扎线分类模型,得到所述绝缘子的绑扎线缺失识别结果;所述训练后的绑扎线分类模型用于将所述绝缘子区域图像中的绝缘子分为有绑扎线和无绑扎线两类。
2.根据权利要求1所述的方法,其特征在于,在基于所述位置区域,从所述绝缘子的原始图像中裁剪得到绝缘子区域图像之前,还包括:基于所述位置区域,获取构成所述绝缘子的各个边界线的长度;
从各个所述边界线的长度中,确定出最大边界线的长度;
当所述最大边界线的长度大于长度阈值时,从所述绝缘子的原始图像中裁剪得到绝缘子区域图像。
3.根据权利要求1所述的方法,其特征在于,所述绝缘子检测模型的训练过程,包括:获取多种类型的绝缘子的样本图像,作为训练样本;
采用所述训练样本对预先构建的绝缘子检测模型进行训练,得到训练后的绝缘子检测模型。
4.根据权利要求3所述的方法,其特征在于,在采用所述训练样本对预先构建的绝缘子检测模型进行训练之前,还包括:对所述训练样本中的样本图像进行优化处理,得到处理后的训练样本;
采用所述处理后的训练样本对所述预先构建的绝缘子检测模型进行训练。
5.根据权利要求4所述的方法,其特征在于,所述优化处理包括图像缩放处理、图像色彩空间调整处理和多个样本图像的组合处理中的至少一种;
所述对所述训练样本中的样本图像进行优化处理,得到处理后的训练样本,包括:若所述优化处理为图像缩放处理,则对所述训练样本中的第一设定数目的样本图像进行缩小处理,得到缩小后的训练样本,和/或,对所述训练样本中的第二设定数目的样本图像进行放大处理,得到放大后的训练样本;
若所述优化处理为图像色彩空间调整,则将所述训练样本中的样本图像与预设的背景图像进行融合,得到融合后的训练样本;
若所述优化处理为多个样本图像的组合处理,则将所述训练样本中的多个样本图像进行拼接,并将得到的拼接图像的分辨率调整回拼接前的样本图像的分辨率,得到分辨率调整后的拼接图像的训练样本。
6.根据权利要求1所述的方法,其特征在于,所述绑扎线分类模型的训练包括:获取包含有绑扎线的绝缘子图像和未包含绑扎线的绝缘子图像,作为所述绑扎线分类模型的训练样本;
采用所述绑扎线分类模型的训练样本对预先构建的绑扎线分类模型进行训练,得到训练后的绑扎线分类模型。
7.一种绝缘子绑扎线缺失识别装置,其特征在于,所述装置包括:获取模块,用于获取绝缘子的原始图像;
检测模块,用于将所述原始图像输入训练后的绝缘子检测模型,得到所述绝缘子的类型和所述绝缘子在所述原始图像中的位置区域;其中,所述绝缘子检测模型以跨阶段局部网络和Darknet53网络作为主干网络提取训练样本特征,以路径聚合网络作为特征金字塔生成网络改善底层特征传播,以单层卷积作为预测网络输出目标类别和位置;所述Darknet53网络为Yolov3网络的主干网络;
分割模块,用于若所述绝缘子的类型为预设类型,则将所述绝缘子在所述原始图像中的位置区域向外扩充设定的距离,基于扩充后的位置区域,从所述绝缘子的原始图像中裁剪得到绝缘子区域图像;
识别模块,用于将所述绝缘子区域图像输入训练后的绑扎线分类模型,得到所述绝缘子的绑扎线缺失识别结果;所述训练后的绑扎线分类模型用于将所述绝缘子区域图像中的绝缘子分为有绑扎线和无绑扎线两类。
8.根据权利要求7所述的装置,其特征在于,所述分割模块,还用于基于所述位置区域,获取构成所述绝缘子的各个边界线的长度;从各个所述边界线的长度中,确定出最大边界线的长度;当所述最大边界线的长度大于长度阈值时,从所述绝缘子的原始图像中裁剪得到绝缘子区域图像。
9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6中任一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
说明书 :
绝缘子绑扎线缺失识别方法、装置和计算机设备
技术领域
背景技术
所采集的机巡图片中,线路是否固定在瓷绝缘子上,这种人工识别的方法的劳动强度大,需
要消耗较多的时间和人力成本。
发明内容
置、计算机设备和存储介质。
本图像进行放大处理,得到放大后的训练样本;
率调整后的拼接图像的训练样本。
始图像中的位置区域,并在判定绝缘子的类型为预设类型时,基于位置区域,从绝缘子的原
始图像中裁剪得到绝缘子区域图像,最后将绝缘子区域图像输入训练后的绑扎线分类模
型,得到绝缘子的绑扎线缺失识别结果。该方法采用级联检测的策略,第一步采用训练后的
绝缘子检测模型检测绝缘子的类型和绝缘子位置区域,第二步在绝缘子位置区域上采用训
练后的绑扎线分类模型再次检测绝缘子绑扎线是否缺失,一方面提高了识别效率,克服了
传统人工识别存在的劳动强度大,耗费较多时间和人工成本的缺陷,另一方面,还可提高绝
缘子绑扎线缺失识别的准确度,解决传统识别方法依赖于用户经验,对绑扎线缺失的识别
不及时不全面,容易出现误检、漏检的问题。
附图说明
具体实施方式
用于限定本申请。
用于包括终端和服务器的系统,并通过终端和服务器的交互实现。本实施例中,该方法包括
以下步骤:
行处理。或者,无人机采集得到绝缘子的原始图像后,将原始图像传输给数据库或服务器进
行存储,终端从数据库或服务器获取绝缘子的原始图像,并进行处理。
缘子检测模型需要具有识别原始图像中绝缘子是否为瓷绝缘子的功能,若识别出原始图像
中的绝缘子为瓷绝缘子,可进一步识别瓷绝缘子上的绑扎线是否缺失;若识别出原始图像
中的绝缘子为复合绝缘子或玻璃绝缘子,由于其自身并不需要通过绑扎线对线路进行固
定,因此,也无需进一步进行绑扎线是否缺失的识别。基于此,需要采用不同类型的绝缘子
的原始图像对绝缘子检测模型进行训练,使得在将原始图像输入训练后的绝缘子检测模型
后,不仅可以得到绝缘子在原始图像中的位置区域,还可以得到绝缘子的类型,本步骤通过
对绝缘子类型的识别,可以在原始图像中的绝缘子为复合绝缘子或玻璃绝缘子时,无需进
行绑扎线是否缺失的识别,避免计算资源的浪费。
绝缘子检测的原理示意图,首先将原始图像的尺寸调整到608*608,将调整后的图像输入
YOLOv3目标检测算法中得到目标框位置和类别信息,其中,这些框中存在大量冗余的框,需
要通过非极大值抑制(Non‑Maximum Suppression,NMS)过滤掉,最后得到图2中的最后一个
图所示的瓷绝缘子部件检测框。其中,非极大值抑制过滤方法是指去掉各个检测框中重叠
面积大于阈值,如50%的检测框。
像裁剪,将绝缘子所在区域的图像裁剪出来,从而去除了背景部分图像的干扰,以便于之后
将得到的绝缘子区域图像输入训练后的绑扎线分类模型中,识别绑扎线是否缺失时,可以
减少识别区域,提高识别效率。
果时,判定该绝缘子处的线路固定异常,进行异常报警,提示运维人员对异常的绝缘子处的
线路进行重新绑扎和固定。
判定绝缘子的类型为预设类型时,基于位置区域,从绝缘子的原始图像中裁剪得到绝缘子
区域图像,最后将绝缘子区域图像输入训练后的绑扎线分类模型,得到绝缘子的绑扎线缺
失识别结果。该方法采用级联检测的策略,第一步采用训练后的绝缘子检测模型检测绝缘
子的类型和绝缘子位置区域,第二步在绝缘子位置区域上采用训练后的绑扎线分类模型再
次检测绝缘子绑扎线是否缺失,一方面提高了绝缘子绑扎线缺失识别的效率,克服了传统
人工识别存在的劳动强度大,耗费较多时间和人工成本的缺陷,另一方面,还可提高绝缘子
绑扎线缺失识别的准确度,解决传统识别方法依赖于用户经验,对绑扎线缺失的识别不及
时不全面,容易出现误检、漏检的问题。
长度中确定出最大边界线的长度;当最大边界线的长度大于长度阈值时,从绝缘子的原始
图像中裁剪得到绝缘子区域图像。
的原始图像中裁剪得到绝缘子区域图像之前,还需要基于绝缘子的尺寸对需要进行缺失识
别的绝缘子进行过滤,以减少计算资源的浪费。更具体地,可根据绝缘子在原始图像中的位
置区域,获取绝缘子的各个边界线的像素数目,并从中确定出最大边界线的像素数目。将该
最大边界线的像素数目与像素阈值(例如,60像素)进行比较,若最大边界线的像素数目大
于像素阈值,则可进一步从绝缘子的原始图像中裁剪得到绝缘子区域图像。反之,若最大边
界线的像素数目小于或等于像素阈值,则无需对对应的绝缘子进行裁剪。
始图像中裁剪出来,得到多个绝缘子区域图像。
像,可以避免训练后的绑扎线分类模型对最大边界线的长度小于或等于长度阈值的绝缘子
区域图像的无效计算和识别的问题。
置区域,从绝缘子的原始图像中裁剪得到绝缘子区域图像。
的训练样本;采用训练样本对预先构建的绝缘子检测模型进行训练,得到训练后的绝缘子
检测模型。
度消失问题,又可以减少网络参数量;将PANET(路径聚合网络)作为特征金字塔生成网络改
善底层特征传播,将单层卷积作为预测网络输出目标类别和位置。在获取样本图像后,可采
用图像标注工具,如labelme标注工具对样本图像进行标注,生成VOC格式的xml文件作为训
练样本,将训练样本划分为训练集、测试集和验证集,具体地,训练集、测试集和验证集的划
分比例可以为6:1:1。在对绝缘子检测模型进行训练时,可采用GIOU_Loss作为回归框的损
失函数,以便于获得更精确的目标位置,其计算公式为: ,其中,IoU是两
个区域的交集面积除以两个区域的并集面积得到, 是两个矩形框的最小闭包区域面积,U
是两个矩形框的并集面积。在训练完成后,利用测试集评估模型效果。
子的类型。
练样本对预先构建的绝缘子检测模型进行训练。
大处理,得到放大后的训练样本;
的拼接图像的训练样本。
图像色彩空间调整。更具体地,若是图像缩放处理,则对训练样本中的第一设定数目的样本
图像进行缩小处理,得到缩小后的训练样本,和/或,对训练样本中的第二设定数目的样本
图像进行放大处理,得到放大后的训练样本。若是多个样本图像的组合处理,则将训练样本
中的多个样本图像进行拼接,并将得到的拼接图像的分辨率调整回拼接前的样本图像的分
辨率,得到分辨率调整后的拼接图像的训练样本。若优化处理为图像色彩空间调整,则将训
练样本中的样本图像与预设的背景图像进行融合,得到融合后的训练样本,其中,预设的背
景图像可以为包含强光反射、鸟屎、污渍等的多种复杂背景图像。
标的情况下的识别结果的准确度;通过加入强光反射、鸟屎、污渍等复杂背景图像的负样
本,可以增强绝缘子检测模型的鲁棒性,通过这三种优化处理方法,丰富了训练样本的多样
性,从而提高了绝缘子检测模型的抗干扰性和鲁棒性,增强了模型的识别效果。
训练样本对预先构建的绑扎线分类模型进行训练,得到训练后的绑扎线分类模型。
率,并且后续在从绝缘子的原始图像中裁剪得到的绝缘子区域图像时,可以将绝缘子区域
图像的尺寸或分辨率裁剪到与该设定的尺寸或分辨率一致,从而,在通过绑扎线分类模型
对绝缘子区域图像进行缺失识别时,可以提高识别效率和准确性。
剪得到的绝缘子区域图像的尺寸或分辨率一致,从而可提高通过绑扎线分类模型对绝缘子
区域图像进行缺失识别时的识别效率和准确性。
造成遮挡、屏幕视觉误差,极易造成误检。本实施例提供的绝缘子绑扎线缺失识别方法,采
用级联检测的策略,第一步采用深度学习目标检测算法检测绝缘子部件与绝缘子绑扎线缺
失缺陷,第二步在特定的绝缘子部件上采用深度学习目标检测算法再次检测瓷绝缘子绑扎
线缺失缺陷,极大增加绑扎线的减除率。最后在通过非极大值抑制,去掉重复检测的结果,
在训练绑扎线分类模型时,同时加入绑扎线无缺失的样本,极大的增强了模型的鲁棒性。
步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图1和图3中的
至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时
刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次
进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地
执行。
大于长度阈值时,从绝缘子的原始图像中裁剪得到绝缘子区域图像。
中裁剪得到绝缘子区域图像。
训练后的绝缘子检测模型。
进行训练。
训练样本中的第一设定数目的样本图像进行缩小处理,得到缩小后的训练样本,和/或,对
训练样本中的第二设定数目的样本图像进行放大处理,得到放大后的训练样本;若优化处
理为图像色彩空间调整,则将训练样本中的样本图像与预设的背景图像进行融合,得到融
合后的训练样本;若优化处理为多个样本图像的组合处理,则将训练样本中的多个样本图
像进行拼接,并将得到的拼接图像的分辨率调整回拼接前的样本图像的分辨率,得到分辨
率调整后的拼接图像的训练样本。
分类模型的训练样本对预先构建的绑扎线分类模型进行训练,得到训练后的绑扎线分类模
型。
益效果均适用于绝缘子绑扎线缺失识别装置的实施例中,具体内容可参见本申请方法实施
例中的叙述,此处不再赘述,特此声明。
也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块
对应的操作。
屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存
储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程
序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算
机设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过WIFI、
运营商网络、NFC(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种绝
缘子绑扎线缺失识别方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示
屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上
设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申
请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括
非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read‑Only
Memory,ROM)、磁带、软盘、闪存或光存储器等。易失性存储器可包括随机存取存储器
(Random Access Memory,RAM)或外部高速缓冲存储器。作为说明而非局限,RAM可以是多种
形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存
储器(Dynamic Random Access Memory,DRAM)等。
盾,都应当认为是本说明书记载的范围。
不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。
因此,本申请专利的保护范围应以所附权利要求为准。