用于识别目标部件安装状态的方法、设备和存储介质转让专利
申请号 : CN202111017515.9
文献号 : CN113450356B
文献日 : 2021-12-03
发明人 : 李侠 , 陈宏海 , 周治国
申请人 : 蘑菇物联技术(深圳)有限公司
摘要 :
权利要求 :
1.一种用于识别目标部件安装状态的方法,包括:在管理设备处,获取待安装目标部件的尺寸信息和多个视图数据;
经由终端设备,获取以预定角度采集的目标设备的安装位置处的安装环境图像数据,以及目标部件安装于安装位置处的安装后图像数据;
基于目标部件的尺寸信息、属性信息、正视图、侧视图和基准三维模型,重构目标部件虚拟模型数据,所述多个视图数据包括正视图、侧视图;
基于安装环境图像数据,重构安装环境虚拟模型数据;
拼接目标部件虚拟模型数据和安装环境虚拟模型数据,以生成基准模拟安装图像数据;
基于安装环境图像数据和安装后图像数据,获取安装状态的目标部件的图像特征;
基于安装后图像数据和基准模拟安装图像数据的比对结果,调整基准模拟安装图像数据以生成校准模拟安装图像数据,以便提取校准模拟安装图像数据的图像特征;以及匹配安装后图像数据的图像特征和校准模拟安装图像数据的图像特征,以便基于匹配结果生成关于目标部件安装状态的指示信息。
2.根据权利要求1所述的方法,其中所述目标部件为流量计,所述目标设备为空压站中的压缩空气母管,所述尺寸信息包括待安装目标部件的宽度信息、高度信息和深度信息。
3.根据权利要求1所述的方法,其中获取安装状态的目标部件的图像特征包括:比较安装环境图像数据和安装后图像数据,以便获取差异数据;以及基于所获取的差异数据,提取安装状态的目标部件的轮廓特征。
4.根据权利要求1所述的方法,其中生成校准模拟安装图像数据包括:获取安装后图像数据的基准轴信息;
获取基准模拟安装图像数据的基准轴信息;
比较安装后图像数据的基准轴信息和模拟安装图像数据的基准轴信息,以便生成关于基准轴信息的比较信息;
基于关于基准轴的差异信息,经由预测模型,确定用于调整基准模拟安装图像数据的旋转角度;
基于用于调整基准模拟安装图像数据的旋转角度,重复生成经调整的基准模拟安装图像数据、关于基准轴的差异信息以及经由预测模型生成旋转角度,直至关于基准轴的差异信息符合预定收敛条件;以及
将基于当前经调整的基准模拟安装图像数据确定为校准模拟安装图像数据。
5.根据权利要求1所述的方法,其中匹配安装后图像数据的图像特征和校准模拟安装图像数据的图像特征,以便基于匹配结果生成关于目标部件安装状态的指示信息包括:基于安装状态的目标部件的轮廓特征和校准模拟安装图像数据的轮廓特征,计算轮廓点偏差数据、平行度数据、垂直度数据和各轴旋转角度偏差数据中至少一项;以及响应于确定所计算的轮廓点偏差数据、平行度数据、垂直度数据和各轴旋转角度偏差数据中的至少一个大于或者等于对应的预定阈值,生成用于指示目标部件安装状态不符合预定条件的指示信息。
6.根据权利要求1所述的方法,其中多个视图数据至少包括目标部件的正视图数据、俯视图数据、侧视图数据和轴测视图数据,所述方法还包括:经由与目标部件相关联的链接,获取关于目标部件的属性信息和标准三维虚拟模型;
以及
向终端设备发送关于目标部件安装状态的指示信息。
7.一种计算设备,包括:
至少一个处理单元;
至少一个存储器,所述至少一个存储器被耦合到所述至少一个处理单元并且存储用于由所述至少一个处理单元执行的指令,所述指令当由所述至少一个处理单元执行时,使得所述计算设备执行根据权利要求1至6任一项所述的方法。
8.一种计算机可读存储介质,其上存储有机器可执行指令,该机器可执行指令在被执行时使机器执行根据权利要求1至6中任一项所述的方法。
说明书 :
用于识别目标部件安装状态的方法、设备和存储介质
技术领域
背景技术
靠人眼识别,即,由监管人员到达施工现场进行监督指正,上述方式,智能化程度较低,使得
安装质量识别效率低下、人员成本过高、并且质量识别标准不一致。
效率低、人员成本高、识别标准缺乏一致性的不足之处。因而,有必要针对传统的识别目标
部件安装状态的方案进行改进。
发明内容
定角度采集的目标设备的安装位置处的安装环境图像数据,以及目标部件安装于安装位置
处的安装后图像数据;至少基于目标部件的尺寸信息和多个视图数据、以及安装环境图像
数,生成用于模拟目标部件安装至安装位置处的基准模拟安装图像数据;基于安装环境图
像数据和安装后图像数据,获取安装状态的目标部件的图像特征;基于安装后图像数据和
基准模拟安装图像数据的比对结果,调整基准模拟安装图像数据以生成校准模拟安装图像
数据,以便提取校准模拟安装图像数据的图像特征;以及匹配安装后图像数据的图像特征
和校准模拟安装图像数据的图像特征,以便基于匹配结果生成关于目标部件安装状态的指
示信息。
个处理单元执行的指令,指令当由至少一个处理单元执行时,使得计算设备执行本公开的
第一方面的方法。
面的方法。
目标部件的轮廓特征。
的差异信息,经由预测模型,确定用于调整基准模拟安装图像数据的旋转角度;基于用于调
整基准模拟安装图像数据的旋转角度,重复生成经调整的基准模拟安装图像数据、关于基
准轴的差异信息以及经由预测模型生成旋转角度,直至关于基准轴的差异信息符合预定收
敛条件;将基于当前经调整的基准模拟安装图像数据确定为校准模拟安装图像数据。
部件虚拟模型数据,目标部件为流量计,目标设备为空压站中的压缩空气母管;基于安装环
境图像数据,重构安装环境虚拟模型数据;以及拼接目标部件虚拟模型数据和安装环境虚
拟模型数据,以生成基准模拟安装图像数据。
目标部件的轮廓特征和校准模拟安装图像数据的轮廓特征,计算轮廓点偏差数据、平行度
数据、垂直度数据和各轴旋转角度偏差数据中至少一项;以及响应于确定所计算的轮廓点
偏差数据、平行度数据、垂直度数据和各轴旋转角度偏差数据中的至少一个大于或者等于
对应的预定阈值,生成用于指示目标部件安装状态不符合预定条件的指示信息。
的属性信息和标准三维虚拟模型;以及向终端设备发送关于目标部件安装状态的指示信
息。
意限制本公开的范围。
附图说明
具体实施方式
制。相反,提供这些实施例是为了使本公开更加透彻和完整,并且能够将本公开的范围完整
地传达给本领域的技术人员。
例”和“一个实施例”表示“至少一个示例实施例”。术语“另一实施例”表示“至少一个另外的
实施例”。术语“第一”、“第二”等等可以指代不同的或相同的对象。
得的目标部件的尺寸信息和多个视图数据、以及安装环境图像数,生成用于模拟目标部件
安装至安装位置处的基准模拟安装图像数据;然后,基于安装环境图像数据(即安装前图像
数据)和安装后图像数据,获取安装状态的目标部件的图像特征,本公开可以准确提取出实
际安装状态的目标部件的图像特征。另外,通过基于安装后图像数据和基准模拟安装图像
数据的比对结果,调整基准模拟安装图像数据以生成校准模拟安装图像数据,以便提取校
准模拟安装图像数据的图像特征,本公开能够根据实际安装状态的图像数据来校准用于安
装质量评估的模拟安装图像数据。再者,本公开通过匹配安装后图像数据的图像特征和校
准模拟安装图像数据的图像特征,以便基于匹配结果生成关于目标部件安装状态的指示信
息,本公开可以在校准一致的基础上对实际安装图像的特征与虚拟安装图像的特征进行比
较,进而快速判断安装状态的合格性。因而,本公开准确而高效率地对目标部件的现场安装
质量进行智能识别和判断。
140、目标设备120。终端设备110可以通过网络150以有线或者无线的方式与管理设备130进
行数据交互。目标部件140例如是工业设备的仪表,例如流量计。目标设备120例如是工业设
备。标记122例如指示空压站中的压缩空气母管124(图1中仅示出压缩空气母管的一部分)
的安装位置处。
部件140安装于安装位置处122的安装后图像数据(例如,图4中的图像数据404)。终端设备
110例如是安装人员的手机或其他移动终端。
如,图4中的图像数据402)。管理设备130还可以用于生成用于模拟目标部件140安装至安装
位置处122的基准模拟安装图像数据,以及获取安装状态的目标部件140的图像特征。管理
设备130还可以基于安装后图像数据和基准模拟安装图像数据的比对结果,调整基准模拟
安装图像数据以生成校准模拟安装图像数据;以及匹配安装后图像数据的图像特征和校准
模拟安装图像数据的图像特征,以便基于匹配结果生成关于目标部件140安装状态的指示
信息。在一些实施例中,管理设备130可以具有一个或多个处理单元,包括诸如GPU、FPGA和
ASIC等的专用处理单元以及诸如CPU的通用处理单元。另外,在每个管理设备130上也可以
运行着一个或多个虚拟机。
流程图。图3示出了根据本公开的实施例的目标部件的多个视图数据的示意图。图4示出了
根据本公开的一些实施例的安装环境图像数和安装后图像数据的示意图。图6示出了根据
本公开的另一些实施例的安装环境图像数和安装后图像数据的示意图。应当理解,方法200
例如可以在图8所描述的电子设备800处执行图8所描述的电子设备800处执行。也可以在图
1所描述的管理设备130处执行。应当理解,方法200还可以包括未示出的附加动作和/或可
以省略所示出的动作,本公开的范围在此方面不受限制。
性信息和目标部件的基准三维模型数据。
包括:目标部件的材料信息等。
的待安装位置处的安装环境图像数据。以在空压站中的压缩空气母管上安装流量计的应用
为例,安装环境图像数据例如包括:以与流量计的正视图相同角度拍摄的、安装流量计之前
的、压缩空气母管的流量计安装基座的图像数据。需要说明的是,目标部件现场安装完成
后,利用终端设备以预定角度采集安装后图像数据,该安装后图像数据的采集角度需要与
安装前采集安装环境图像数据时的预定角度完全一致,以便利于管理设备130高度准确地
识别与评估目标部件的安装质量。
部件为流量计,目标设备为空压站中的压缩空气母管;基于安装环境图像数据,重构安装环
境虚拟模型数据;以及拼接目标部件虚拟模型数据和安装环境虚拟模型数据,以生成基准
模拟安装图像数据。
目标部件的基准三维模型的正面投影数据和侧面投影数据;分别提取目标部件的正视图的
正面轮廓曲线以及侧视图的侧面轮廓曲线;然后,管理设备130提取正面轮廓曲线多个第一
特性点信息和侧面轮廓曲线的多个第二特性点信息,将目标部件的正面轮廓曲线的多个第
一特性点信息与正面投影轮廓曲线的多个对应特征点进行匹配的,以便计算正面投影转换
矩阵;将目标部件的侧面轮廓曲线的多个第二特性点信息与侧面投影轮廓曲线的多个对应
特征点进行匹配的,以便计算侧面投影转换矩阵;以及基于正面投影转换矩阵、侧面投影转
换矩阵和目标部件的基准三维模型,重构目标部件模拟图像数据。
个特征点的二维透视投影点的坐标信息。 代表正面投影转换矩阵。 代表水平方向的平
移。 代表竖直方向的平移。 代表水平方向的缩放系数。 代表竖直方向的缩放系数。
在目标部件的正面轮廓曲线的主轴与关于目标部件的基准三维模型的正面投影轮廓曲线
的主轴平行时, 与 为0。基于与上述公式(1)的类似的方法,将目标部件的侧面轮廓
曲线多个第二特性点信息与基准三维模型的侧面投影轮廓曲线多个对应特征点进行匹配。
模型而重构安装环境虚拟模型数据。其也可以包括:基于安装环境图像数据,经由神经网络
模型,生成安装环境虚拟模型数据。具体而言,神经网络模型例如包括:基于CNN网络模型所
构建的编码器、基于 LSTM 单元排列成3D网格结构而构建的中间层和基于去卷积
(Deconvolution) 网络而构建的解码器。其中,基于CNN网络模型所构建的编码器用于针对
二维多个视图数据进行编码。中间层中的每个 LSTM 单元用于将编码器所输出的特征向量
与临近单元的卷积隐藏状态输送到解码器中。应该理解,也可以采用其他合适的方式将二
维的安装环境图像数据映射为安装环境虚拟模型数据。
件虚拟模型数据和安装环境虚拟模型数据中相互耦合表面的局部图像进行匹配。具体而
言,例如,集合 Pl={x1,x2,x3,…,xn}代表目标部件虚拟模型数据的耦合表面的坐标点。P2
={y1, y2,y3,…,yn}代表安装环境虚拟模型数据的耦合表面的坐标点。可以利用局部图像
配准技术(ICP)迭代求解Pl和P2中距离最近的对应点;然后基于对应点计算变换矩阵;以及
基于所计算的变换矩阵对安装环境虚拟模型数据进行变换,重复迭代,直到达到Pl和P2之
间距离的收敛条件,迭代停止,基于符合收敛条件的经变换的安装环境虚拟模型数据和目
标部件虚拟模型数据,形成基准模拟安装图像数据。
目标部件的轮廓特征。例如,管理设备130计算安装环境图像数据和安装后图像数据之间的
差值,然后取差值的绝对值作为安装状态的目标部件的数据(即,将差值的绝对值作为前景
目标的图像数据),使用预定阈值针对差值的绝对值进行二值化,以便获取安装状态的目标
部件的轮廓特征。该目标部件的轮廓特征例如是仪表的轮廓特征。
图像数据的图像特征。
准模拟安装图像数据的旋转角度;基于用于调整基准模拟安装图像数据的旋转角度,重复
生成经调整的基准模拟安装图像数据、关于基准轴的差异信息以及经由预测模型生成旋转
角度,直至关于基准轴的差异信息符合预定收敛条件;确定关于基准轴的差异信息是否符
合预定收敛条件; 以及响应于确定关于基准轴的差异信息符合预定收敛条件,将基。下文
将结合图5具体说明用于生成校准模拟安装图像数据的方法,在此,不再赘述。
然后,基于安装环境图像数据(即安装前图像数据)和安装后图像数据,获取安装状态的目
标部件的图像特征,本公开可以准确提取出实际安装状态的目标部件的图像特征。另外,通
过基于安装后图像数据和基准模拟安装图像数据的比对结果,调整基准模拟安装图像数据
以生成校准模拟安装图像数据,以便提取校准模拟安装图像数据的图像特征,本公开能够
根据实际安装状态的图像数据来校准用于安装质量评估的模拟安装图像数据。再者,本公
开通过匹配安装后图像数据的图像特征和校准模拟安装图像数据的图像特征,以便基于匹
配结果生成关于目标部件安装状态的指示信息,本公开可以在校准一致的基础上对实际安
装图像的特征与虚拟安装图像的特征进行比较,进而快速判断安装状态的合格性。因而,本
公开准确而高效率地对目标部件的现场安装质量进行智能识别和判断。
图。应当理解,方法500例如可以在执行图8所描述的电子设备800处执行。也可以在图1所描
述的管理设备130处执行。应当理解,方法500还可以包括未示出的附加动作和/或可以省略
所示出的动作,本公开的范围在此方面不受限制。
取的基准轴与步骤502处所提取的基准轴是针对同一目标对象的。
的目标部件的轮廓特征的基准轴信息和校准模拟安装图像数据的轮廓特征的基准轴信息,
生成关于基准轴的差异信息。
装图像数据的基准轴重合,则关于基准轴的差异信息为0或者非常小,则表明目标部件的图
像特征和校准模拟安装图像数据的基准一致,经由预测模型所预测的旋转角度为0。如果关
于基准轴的差异信息超出预定阈值,则确定目标部件的图像特征的基准轴和校准模拟安装
图像数据的基准轴不重合,经由预测模型提取差异信息的特征,以预测一匹配的旋转角度,
以便用于旋转基准模拟安装图像数据。
转角度,直至关于基准轴的差异信息符合预定收敛条件。
整的基准模拟安装图像数据,并再次将经调整的基准模拟安装图像数据的基准轴信息与安
装后图像数据的基准轴信息进行比对,如此重复,直至安装后图像数据的基准轴信息与经
调整的基准模拟安装图像数据的基准轴重合,即基准轴达到一致,关于基准轴的差异信息
符合预定收敛条件。
装图像数据绕旋转轴(例如Z轴)旋转的旋转变换矩阵。
的基准三维模型;计算不同旋转角度所对应的目标部件的基准三维模型中基准轴信息之间
的偏差信息,以便生成关于基准轴信息之间的偏差信息的多个输入样本集;利用对应的旋
转角度针对多个输入样本集进行标注,以便利用带有对应旋转角度标签的关于基准轴信息
之间的偏差信息的多个输入样本训练预测模型。
进行比较,进而利于准确识别与评估目标部件的安装质量。
示信息的方法700的流程图。应当理解,方法700例如可以在图8所描述的电子设备800处执
行。也可以在图1所描述的管理设备130处执行。应当理解,方法700还可以包括未示出的附
加动作和/或可以省略所示出的动作,本公开的范围在此方面不受限制。
数据中至少一项。
示目标部件安装状态不符合预定条件的指示信息。
态符合预定条件的指示信息。
否相对于竖直轴中心对称,如果确定目标部件的水平截面并非相对于竖直轴中心对称;确
定目标部件的轮廓线面积(例如正面图像中目标部件的轮廓线面积)与预定轮廓线面积之
间的差值是否大于预定面积阈值。如果确定目标部件的轮廓线面积与预定轮廓线面积之间
的差值大于预定面积阈值,则确定目标对象绕竖直轴旋转角度偏差数据超出对应的安装质
量标准,管理设备130生成安装质量不合格的警示信息,以及基于差值所计算的关于竖直轴
的旋转角度的纠正信息。需要注意的是,如果确定目标部件的水平截面相对于竖直轴中心
对称,例如属于目标部件的水平截面为圆形,则目标部件绕竖直轴旋转角度也不会导致轮
廓线面积的偏差。
安装状态不符合预定条件的指示信息。再例如,管理设备130基于如图6所示的安装环境图
像数据602和安装后图像数604,而计算的轮廓点偏差数据、平行度数据、垂直度数据和各轴
旋转角度偏差数据中均小于对应的预定阈值,生成用于指示目标部件安装状态符合预定条
件的指示信息。
合格,或安装质量不合格及对应的纠正指引。
括中央处理单元(CPU)801,其可以根据存储在只读存储器(ROM)802中的计算机程序指令或
者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序指令,来执行各种适当
的动作和处理。在RAM中,还可存储设备800操作所需的各种程序和数据。CPU、ROM以及RAM通
过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
700。例如,在一些实施例中,方法200、500和700可被实现为计算机软件程序,其被存储于机
器可读介质,例如存储单元808。在一些实施例中,计算机程序的部分或者全部可以经由ROM
和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM并由CPU执行
时,可以执行上文描述的方法200、500和700的一个或多个操作。备选地,在其他实施例中,
CPU可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行方法200、500和700
的一个或多个动作。
可读程序指令。
磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体
的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器
(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩
盘只读存储器(CD‑ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储
有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可
读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波
导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电
信号。
部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关
计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计
算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计
算机可读存储介质中。
任意组合编写的源代码或目标代码,该编程语言包括面向对象的编程语言—诸如
Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机
可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独
立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机
或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包
括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利
用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令
的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可
编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方
面。
或框图中各方框的组合,都可以由计算机可读程序指令实现。
通过计算机或其它可编程数据处理装置的处理单元执行时,产生了实现流程图和/或框图
中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储
在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特
定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图
和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的
指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
表一个模块、程序段或指令的一部分,该模块、程序段或指令的一部分包含一个或多个用于
实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可
以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,
它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流
程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作
的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨
在最好地解释各实施例的原理、实际应用或对市场中的技术改进,或者使本技术领域的其
它普通技术人员能理解本文披露的各实施例。
效替换、改进等,均应包含在本公开的保护范围之内。