端子连接状态检测方法及装置转让专利
申请号 : CN202011552665.5
文献号 : CN112784853B
文献日 : 2022-05-03
发明人 : 陈海波 , 易伟
申请人 : 深兰人工智能芯片研究院(江苏)有限公司
摘要 :
权利要求 :
1.一种端子连接状态检测方法,其特征在于,包括:基于摄像头采集的端子连接图像,确定多个第一插接件和多个第二插接件对应的位置坐标;
基于所述多个第一插接件和多个第二插接件对应的位置坐标,将每个所述第一插接件与距离最近的所述第二插接件进行匹配,得到匹配结果;
对多个所述匹配结果所对应的第一插接件与第二插接件的距离进行求和,得到目标距离,并基于所述目标距离和距离阈值,确定端子嵌合状态;
若所述端子嵌合状态为已嵌合,基于所述端子连接图像,确定每个所述匹配结果所对应的第一插接件和第二插接件的接线颜色,若每个所述匹配结果所对应的第一插接件和第二插接件的接线颜色均匹配,确认端子连接状态为正常。
2.根据权利要求1所述的端子连接状态检测方法,其特征在于,所述基于摄像头采集的端子连接图像,确定多个第一插接件和多个第二插接件对应的位置坐标,包括:将所述端子连接图像输入至位置识别模型,输出多个第一插接件和多个第二插接件对应的位置坐标;
所述位置识别模型为,以端子连接图像样本数据为样本,所述端子连接图像样本数据对应的多个第一插接件和多个第二插接件对应的位置坐标样本数据为样本标签进行训练得到。
3.根据权利要求2所述的端子连接状态检测方法,其特征在于,所述位置识别模型在训练时采用添加了Quant‑Noise的乘积量化算法和/或Int8量化算法。
4.根据权利要求1‑3中任一项所述的端子连接状态检测方法,其特征在于,所述基于摄像头采集的端子连接图像,确定多个第一插接件和多个第二插接件对应的位置坐标,包括:通过摄像头采集所述端子连接图像;
从所述端子连接图像中截取目标区域图像;
对所述目标区域图像进行预处理,得到参考图像;
基于所述参考图像,确定所述多个第一插接件和多个第二插接件对应的位置坐标。
5.根据权利要求4所述的端子连接状态检测方法,其特征在于,所述对所述目标区域图像进行预处理,得到参考图像,包括:对所述目标区域图像进行矩阵化处理和/或颜色处理,得到参考图像。
6.根据权利要求1‑3中任一项所述的端子连接状态检测方法,其特征在于,所述摄像头采集的端子连接图像为:通过摄像头在漫反射环境下连续曲面打光以采集原始图像,并基于邻域聚类算法对所述原始图像进行滤波得到。
7.根据权利要求1‑3中任一项所述的端子连接状态检测方法,其特征在于,所述基于所述多个第一插接件和多个第二插接件对应的位置坐标,将每个所述第一插接件与距离最近的所述第二插接件进行匹配,得到匹配结果,包括:基于匈牙利算法以及所述多个第一插接件和多个第二插接件对应的位置坐标,将每个所述第一插接件与距离最近的所述第二插接件进行匹配,得到匹配结果。
8.一种端子连接状态检测装置,其特征在于,包括:第一确定模块,用于基于摄像头采集的端子连接图像,确定多个第一插接件和多个第二插接件对应的位置坐标;
匹配模块,用于基于所述多个第一插接件和多个第二插接件对应的位置坐标,将每个所述第一插接件与距离最近的所述第二插接件进行匹配,得到匹配结果;
第二确定模块,用于对多个所述匹配结果所对应的第一插接件与第二插接件的距离进行求和,得到目标距离,并基于所述目标距离和距离阈值,确定端子嵌合状态;
第三确定模块,用于若所述端子嵌合状态为已嵌合,基于所述端子连接图像,确定每个所述匹配结果所对应的第一插接件和第二插接件的接线颜色,若每个所述匹配结果所对应的第一插接件和第二插接件的接线颜色均匹配,确认端子连接状态为正常。
9.根据权利要求8所述的端子连接状态检测装置,其特征在于,所述第一确定模块还用于将所述端子连接图像输入至位置识别模型,输出多个第一插接件和多个第二插接件对应的位置坐标;
所述位置识别模型为,以端子连接图像样本数据为样本,所述端子连接图像样本数据对应的多个第一插接件和多个第二插接件对应的位置坐标样本数据为样本标签进行训练得到。
10.根据权利要求8所述的端子连接状态检测装置,其特征在于,所述第一确定模块包括:
采集子模块,用于通过摄像头采集所述端子连接图像;
截取子模块,用于从所述端子连接图像中截取目标区域图像;
预处理子模块,用于对所述目标区域图像进行预处理,得到参考图像;
位置坐标确定子模块,用于基于所述参考图像,确定所述多个第一插接件和多个第二插接件对应的位置坐标。
11.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至7任一项所述端子连接状态检测方法的步骤。
12.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述端子连接状态检测方法的步骤。
说明书 :
端子连接状态检测方法及装置
技术领域
背景技术
的稳定性和准确性,因此需要对 端子的连接状态进行检测。
较低。
发明内容
多个第二插接件对应的位置坐标, 将每个所述第一插接件与距离最近的所述第二插接件
进行匹配,得到 匹配结果;对多个所述匹配结果所对应的第一插接件与第二插接件的 距
离进行求和,得到目标距离,并基于所述目标距离和距离阈值,确 定端子嵌合状态;若所述
端子嵌合状态为已嵌合,基于所述端子连接 图像,确定每个所述匹配结果所对应的第一插
接件和第二插接件的接 线颜色,若每个所述匹配结果所对应的第一插接件和第二插接件
的接 线颜色均匹配,确认端子连接状态为正常。
图像输入至位置识别模型,输出多 个第一插接件和多个第二插接件对应的位置坐标;所述
位置识别模型 为,以端子连接图像样本数据为样本,所述端子连接图像样本数据对 应的
多个第一插接件和多个第二插接件对应的位置坐标样本数据为 样本标签进行训练得到。
所述端子连接图像;从所述端子连 接图像中截取目标区域图像;对所述目标区域图像进行
预处理,得到 参考图像;基于所述参考图像,确定所述多个第一插接件和多个第二 插接件
对应的位置坐标。
参考图像。
所述原始图像进行滤波得到。
件进行匹配,得到匹配结果,包括: 基于匈牙利算法以及所述多个第一插接件和多个第二
插接件对应的 位置坐标,将每个所述第一插接件与距离最近的所述第二插接件进行 匹
配,得到匹配结果。
件对应的位置坐标;匹配模块, 用于基于所述多个第一插接件和多个第二插接件对应的位
置坐标,将 每个所述第一插接件与距离最近的所述第二插接件进行匹配,得到匹 配结果;
第二确定模块,用于对多个所述匹配结果所对应的第一插接 件与第二插接件的距离进行
求和,得到目标距离,并基于所述目标距 离和距离阈值,确定端子嵌合状态;第三确定模
块,用于若所述端子 嵌合状态为已嵌合,基于所述端子连接图像,确定每个所述匹配结果
所对应的第一插接件和第二插接件的接线颜色,若每个所述匹配结果 所对应的第一插接
件和第二插接件的接线颜色均匹配,确认端子连接 状态为正常。
置坐标;所述位置识别模型为,以端 子连接图像样本数据为样本,所述端子连接图像样本
数据对应的多个 第一插接件和多个第二插接件对应的位置坐标样本数据为样本标签 进
行训练得到。
截取目标区域图像;预处理子模 块,用于对所述目标区域图像进行预处理,得到参考图像;
位置坐标 确定子模块,用于基于所述参考图像,确定所述多个第一插接件和多 个第二插
接件对应的位置坐标。
所述端子连接状态检测方法的步 骤。
二插接件的颜色判断第二插接件和 第一插接件的对应关系是否正确,从而检测出端子连
接状态,能够降 低人工成本,提高检测的准确率和效率。
附图说明
一些实施例,对于本领域普通技术 人员来讲,在不付出创造性劳动的前提下,还可以根据
这些附图获得 其他的附图。
具体实施方式
例,而不是全部的实施例。基于 本申请中的实施例,本领域普通技术人员在没有作出创造
性劳动前提 下所获得的所有其他实施例,都属于本申请保护的范围。
于装配时可能存在误差,使得第 一插接件不一定和对应的第二插接件嵌合,需要对第一插
接件和第二 插接件的连接状态进行检测。
和主板等电子元件,分析主 机上可以运行linux或者Windows10系统,摄像头可以为工业相
机。
置坐标和多个第二插接件的位置 坐标。
置坐标,计算每个第一插接件与 每个第二插接件的距离,找到每个第一插接件与其本身距
离最近的第 二插接件,将每个第一插接件都和与其距离最近的那个第二插接件进 行匹
配,得到匹配结果,也就是说,多个第一插接件和多个第二插接 件对应匹配,得到了多个匹
配结果,每个匹配结果中包含一个第一插 接件和一个第二插接件。
配,得到匹配结果。
插接件和第二插接件的距离相加, 将求和结果作为目标距离,并预设距离阈值,基于目标
距离和距离阈 值的比较,来确定端子嵌合状态,端子嵌合状态可以为已嵌合和未嵌 合。
未全部嵌合紧实,存在松脱的情况。
合,距离阈值可以为0mm‑2mm, 比如可以为1mm。
插接件的接线颜色均匹配,确认 端子连接状态为正常。
和第二插接件的对应关系是否正 确,是否存在插错的情况。
比如在第一插接件的接线颜色和第 二插接件的接线颜色相同时,确定匹配结果中的第一
插接件和第二插 接件的对应关系正确。
常的。
子的接线颜色判断第一插接件和 第二插接件的对应是否正确,采用的是先易后难的处理
顺序,能够提 高运算速度。
件的颜色判断第二插接件和第一插 接件的对应关系是否正确,从而检测出端子连接状态,
能够降低人工 成本,提高检测的准确率和效率。
输出多个第一插接件和多个第 二插接件对应的位置坐标。
的位置坐标。
到。
过有监督学习的方式确保位置识别 模型的训练准确度。
行比对,经过比对符合要求的特 征可以保留下来,而经过比对不符合要求的特征通过Loss
参数进行 忽略,经过对输入的大量端子连接图像的不断迭代训练,可以最终学 会那些需
要记忆的核心特征,并将不同的核心特征进行分类,最终可 以根据这些核心特征来对新输
入的端子连接图像进行判别。
滤波器修改权重以使其能够检测 特定的场景,这正是一种有监督学习方式,基于这种有监
督学习方式, 深度学习神经网络能够自行学习需要出核心特征,以根据这些核心特 征来
对新输入的端子连接图像进行判别。
200 98.0%
300 99.0%
1000 99.9%
和核心特征无关的外界因素,能够 检测到以任意角度摆放的端子,在复杂环境以及经常变
动的环境中检 测时相比人工目检泛用性和准确性都有较大提升。
重和Activation,能够在确保位置识 别模型的精度下,得到极致压缩效果。
kl):首先,计算与目标 量化方法相关的块(b_kl);然后在每个前向传播过程中,随机选择
这些块(b_kl)的子集,并添加一些失真;在反向传播过程中,使用 STE逼近失真的权重,进
而计算所有权重的梯度值。
满足端子连接状态检测的应用 场景。
端子连接图像去除了与端子连接状 态检测无关的背景内容。
够提高目标区域图像中的关 键特征的辨识度,降低无关特征的辨识度。
维数组的行对应目标区域图像的高, 二维数组的列对应目标区域图像的宽,二维数组的元
素对应目标区域 图像的像素,二维数组元素的值就是像素的灰度,用二维数组来表示 目
标区域图像,符合二维图像的行列特性,能够提高图像识别的效率。
个,那么一个像素点就有约 1600万的颜色变化范围,此处将目标区域图像进行颜色处理,
就能 够将彩色图像变为灰度图像,能够使得后续的计算量变小,灰度图像 和彩色图像均
反映了整幅图像的整体和局部的色度和亮度等级的分 布和特征,在端子嵌合状态检测的
应用场景中,并不会影响特征提取 的准确度,并且会提升检测的速度。
行滤波得到。
响到点云分割、特征提取、曲面重 建和误差分析等后续图像处理过程,通常噪声点会使光
线边缘产生毛 刺,会在主体点云外产生小的局部亮点,会导致光线条纹像素识别错 误,因
此必须对图像的点云噪声进行滤除。
于匈牙利算法以及多个第一插 接件和多个第二插接件对应的位置坐标,将每个第一插接
件与距离最 近的第二插接件进行匹配,得到匹配结果。
接件一一对应快速匹配,能够快速 将每个第一插接件与距离最近的第二插接件进行匹配,
得到匹配结果。
接件和第二插接件的接线颜色均 匹配,确认端子连接状态为正常。
样本数据为样本,端子连接图像样 本数据对应的多个第一插接件和多个第二插接件对应
的位置坐标样 本数据为样本标签进行训练得到。
接件进行匹配,得到匹配结果。
的有益效果,此处不再赘述。
(memory)530和通信总线540, 其中,处理器510,通信第二插接件520,存储器530通过通信
总线 540完成相互间的通信。处理器510可以调用存储器530中的逻辑指 令,以执行端子连
接状态检测方法,该方法包括:基于摄像头采集的 端子连接图像,确定多个第一插接件和
多个第二插接件对应的位置坐 标;基于多个第一插接件和多个第二插接件对应的位置坐
标,将每个 第一插接件与距离最近的第二插接件进行匹配,得到匹配结果;对多 个匹配结
果所对应的第一插接件与第二插接件的距离进行求和,得到 目标距离,并基于目标距离和
距离阈值,确定端子嵌合状态;若端子 嵌合状态为已嵌合,基于端子连接图像,确定每个匹
配结果所对应的 第一插接件和第二插接件的接线颜色,若每个匹配结果所对应的第一 插
接件和第二插接件的接线颜色均匹配,确认端子连接状态为正常。
本申请的技术方案本质上或者说 对现有技术做出贡献的部分或者该技术方案的部分可以
以软件产品 的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若 干指令
用以使得一台计算机设备(可以是个人计算机,服务器,或者 网络设备等)执行本申请各个
实施例所述方法的全部或部分步骤。而 前述的存储介质包括:U盘、移动硬盘、只读存储器
(ROM,Read‑Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟 或者光盘
等各种可以存储程序代码的介质。
的实施方式一致,且可以达到相 同的有益效果,此处不再赘述。
对应参照。
方法所提供的端子连接状态检测 方法,该方法包括:基于摄像头采集的端子连接图像,确
定多个第一 插接件和多个第二插接件对应的位置坐标;基于多个第一插接件和多 个第二
插接件对应的位置坐标,将每个第一插接件与距离最近的第二 插接件进行匹配,得到匹配
结果;对多个匹配结果所对应的第一插接 件与第二插接件的距离进行求和,得到目标距
离,并基于目标距离和 距离阈值,确定端子嵌合状态;若端子嵌合状态为已嵌合,基于端子
连接图像,确定每个匹配结果所对应的第一插接件和第二插接件的接 线颜色,若每个匹配
结果所对应的第一插接件和第二插接件的接线颜 色均匹配,确认端子连接状态为正常。
的有益效果,此处不再赘述。
述的端子连接状态检测方法可相 互对应参照。
于摄像头采集的端子连接图像, 确定多个第一插接件和多个第二插接件对应的位置坐标;
基于多个第 一插接件和多个第二插接件对应的位置坐标,将每个第一插接件与距 离最近
的第二插接件进行匹配,得到匹配结果;对多个匹配结果所对 应的第一插接件与第二插接
件的距离进行求和,得到目标距离,并基 于目标距离和距离阈值,确定端子嵌合状态;若端
子嵌合状态为已嵌 合,基于端子连接图像,确定每个匹配结果所对应的第一插接件和第
二插接件的接线颜色,若每个匹配结果所对应的第一插接件和第二插 接件的接线颜色均
匹配,确认端子连接状态为正常。
的实施方式一致,且可以达到相同 的有益效果,此处不再赘述。
单元,即可以位于一个地方,或者也 可以分布到多个网络单元上。可以根据实际的需要选
择其中的部分或 者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付 出
创造性的劳动的情况下,即可以理解并实施。
解,上述技术方案本质上或者说对现 有技术做出贡献的部分可以以软件产品的形式体现
出来,该计算机软 件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光 盘等,
包括若干指令用以使得一台计算机设备(可以是个人计算机, 服务器,或者网络设备等)执
行各个实施例或者实施例的某些部分所 述的方法。
可以对前述各实施例所记载的技 术方案进行修改,或者对其中部分技术特征进行等同替
换;而这些修 改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方 案的
精神和范围。