用于识别目标部件安装状态的方法、设备和存储介质转让专利

申请号 : CN202111017515.9

文献号 : CN113450356B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 李侠陈宏海周治国

申请人 : 蘑菇物联技术(深圳)有限公司

摘要 :

本公开涉及一种用于识别目标部件安装状态的方法、计算设备和存储介质。该方法包括:至少基于目标部件的尺寸信息和多个视图数据、以及安装环境图像数,生成用于模拟目标部件安装至安装位置处的基准模拟安装图像数据;基于安装环境图像数据和安装后图像数据,获取安装状态的目标部件的图像特征;调整基准模拟安装图像数据以生成校准模拟安装图像数据,以便提取校准模拟安装图像数据的图像特征;以及匹配安装后图像数据的图像特征和校准模拟安装图像数据的图像特征,以便生成关于目标部件安装状态的指示信息。本公开能够准确而高效率地对目标部件的现场安装质量进行智能识别和判断。

权利要求 :

1.一种用于识别目标部件安装状态的方法,包括:在管理设备处,获取待安装目标部件的尺寸信息和多个视图数据;

经由终端设备,获取以预定角度采集的目标设备的安装位置处的安装环境图像数据,以及目标部件安装于安装位置处的安装后图像数据;

基于目标部件的尺寸信息、属性信息、正视图、侧视图和基准三维模型,重构目标部件虚拟模型数据,所述多个视图数据包括正视图、侧视图;

基于安装环境图像数据,重构安装环境虚拟模型数据;

拼接目标部件虚拟模型数据和安装环境虚拟模型数据,以生成基准模拟安装图像数据;

基于安装环境图像数据和安装后图像数据,获取安装状态的目标部件的图像特征;

基于安装后图像数据和基准模拟安装图像数据的比对结果,调整基准模拟安装图像数据以生成校准模拟安装图像数据,以便提取校准模拟安装图像数据的图像特征;以及匹配安装后图像数据的图像特征和校准模拟安装图像数据的图像特征,以便基于匹配结果生成关于目标部件安装状态的指示信息。

2.根据权利要求1所述的方法,其中所述目标部件为流量计,所述目标设备为空压站中的压缩空气母管,所述尺寸信息包括待安装目标部件的宽度信息、高度信息和深度信息。

3.根据权利要求1所述的方法,其中获取安装状态的目标部件的图像特征包括:比较安装环境图像数据和安装后图像数据,以便获取差异数据;以及基于所获取的差异数据,提取安装状态的目标部件的轮廓特征。

4.根据权利要求1所述的方法,其中生成校准模拟安装图像数据包括:获取安装后图像数据的基准轴信息;

获取基准模拟安装图像数据的基准轴信息;

比较安装后图像数据的基准轴信息和模拟安装图像数据的基准轴信息,以便生成关于基准轴信息的比较信息;

基于关于基准轴的差异信息,经由预测模型,确定用于调整基准模拟安装图像数据的旋转角度;

基于用于调整基准模拟安装图像数据的旋转角度,重复生成经调整的基准模拟安装图像数据、关于基准轴的差异信息以及经由预测模型生成旋转角度,直至关于基准轴的差异信息符合预定收敛条件;以及

将基于当前经调整的基准模拟安装图像数据确定为校准模拟安装图像数据。

5.根据权利要求1所述的方法,其中匹配安装后图像数据的图像特征和校准模拟安装图像数据的图像特征,以便基于匹配结果生成关于目标部件安装状态的指示信息包括:基于安装状态的目标部件的轮廓特征和校准模拟安装图像数据的轮廓特征,计算轮廓点偏差数据、平行度数据、垂直度数据和各轴旋转角度偏差数据中至少一项;以及响应于确定所计算的轮廓点偏差数据、平行度数据、垂直度数据和各轴旋转角度偏差数据中的至少一个大于或者等于对应的预定阈值,生成用于指示目标部件安装状态不符合预定条件的指示信息。

6.根据权利要求1所述的方法,其中多个视图数据至少包括目标部件的正视图数据、俯视图数据、侧视图数据和轴测视图数据,所述方法还包括:经由与目标部件相关联的链接,获取关于目标部件的属性信息和标准三维虚拟模型;

以及

向终端设备发送关于目标部件安装状态的指示信息。

7.一种计算设备,包括:

至少一个处理单元;

至少一个存储器,所述至少一个存储器被耦合到所述至少一个处理单元并且存储用于由所述至少一个处理单元执行的指令,所述指令当由所述至少一个处理单元执行时,使得所述计算设备执行根据权利要求1至6任一项所述的方法。

8.一种计算机可读存储介质,其上存储有机器可执行指令,该机器可执行指令在被执行时使机器执行根据权利要求1至6中任一项所述的方法。

说明书 :

用于识别目标部件安装状态的方法、设备和存储介质

技术领域

[0001] 本公开总体上涉及目标对象识别,并且具体地,涉及识别目标部件安装状态的方法、设备和存储介质。

背景技术

[0002] 工业设备通常需要安装或者替换仪表(如传感器),例如,空压站中的压缩空气母管需要安装流量计。传统的用于识别目标部件(例如而不限于仪表)安装状态的方案主要依
靠人眼识别,即,由监管人员到达施工现场进行监督指正,上述方式,智能化程度较低,使得
安装质量识别效率低下、人员成本过高、并且质量识别标准不一致。
[0003] 在工业互联网时代,工厂车间要实现数字化、网络化、智能化,离不开软硬件相结合的物联网解决方案。而上述传统的用于识别目标部件安装状态的方案存在安装质量识别
效率低、人员成本高、识别标准缺乏一致性的不足之处。因而,有必要针对传统的识别目标
部件安装状态的方案进行改进。

发明内容

[0004] 本公开提供一种用于识别目标部件安装状态的方法、计算设备和计算机存储介质,能够准确而高效率地对目标部件的现场安装质量进行智能识别和判断。
[0005] 根据本公开的第一方面,提供了一种识别目标部件安装状态的方法。该方法包括:在管理设备处,获取待安装目标部件的尺寸信息和多个视图数据;经由终端设备,获取以预
定角度采集的目标设备的安装位置处的安装环境图像数据,以及目标部件安装于安装位置
处的安装后图像数据;至少基于目标部件的尺寸信息和多个视图数据、以及安装环境图像
数,生成用于模拟目标部件安装至安装位置处的基准模拟安装图像数据;基于安装环境图
像数据和安装后图像数据,获取安装状态的目标部件的图像特征;基于安装后图像数据和
基准模拟安装图像数据的比对结果,调整基准模拟安装图像数据以生成校准模拟安装图像
数据,以便提取校准模拟安装图像数据的图像特征;以及匹配安装后图像数据的图像特征
和校准模拟安装图像数据的图像特征,以便基于匹配结果生成关于目标部件安装状态的指
示信息。
[0006] 根据本发明的第二方面,还提供了一种计算设备,该设备包括:至少一个处理单元;至少一个存储器,至少一个存储器被耦合到至少一个处理单元并且存储用于由至少一
个处理单元执行的指令,指令当由至少一个处理单元执行时,使得计算设备执行本公开的
第一方面的方法。
[0007] 根据本公开的第三方面,还提供了一种计算机可读存储介质。该计算机可读存储介质上存储有机器可执行指令,该机器可执行指令在被执行时使机器执行本公开的第一方
面的方法。
[0008] 在一些实施例中,目标部件为流量计,目标设备为空压站中的压缩空气母管,尺寸信息包括待安装目标部件的宽度信息、高度信息和深度信息。
[0009] 在一些实施例中,获取安装状态的目标部件的图像特征包括:比较安装环境图像数据和安装后图像数据,以便获取差异数据;以及基于所获取的差异数据,提取安装状态的
目标部件的轮廓特征。
[0010] 在一些实施例中,生成校准模拟安装图像数据包括:获取安装后图像数据的基准轴信息;
[0011] 获取基准模拟安装图像数据的基准轴信息;比较安装后图像数据的基准轴信息和模拟安装图像数据的基准轴信息,以便生成关于基准轴信息的比较信息;基于关于基准轴
的差异信息,经由预测模型,确定用于调整基准模拟安装图像数据的旋转角度;基于用于调
整基准模拟安装图像数据的旋转角度,重复生成经调整的基准模拟安装图像数据、关于基
准轴的差异信息以及经由预测模型生成旋转角度,直至关于基准轴的差异信息符合预定收
敛条件;将基于当前经调整的基准模拟安装图像数据确定为校准模拟安装图像数据。
[0012] 在一些实施例中,生成用于模拟目标部件安装至安装位置处的基准模拟安装图像数据包括:基于目标部件的尺寸信息、属性信息、正视图、侧视图和基准三维模型,重构目标
部件虚拟模型数据,目标部件为流量计,目标设备为空压站中的压缩空气母管;基于安装环
境图像数据,重构安装环境虚拟模型数据;以及拼接目标部件虚拟模型数据和安装环境虚
拟模型数据,以生成基准模拟安装图像数据。
[0013] 在一些实施例中,匹配安装后图像数据的图像特征和校准模拟安装图像数据的图像特征,以便基于匹配结果生成关于目标部件安装状态的指示信息包括:基于安装状态的
目标部件的轮廓特征和校准模拟安装图像数据的轮廓特征,计算轮廓点偏差数据、平行度
数据、垂直度数据和各轴旋转角度偏差数据中至少一项;以及响应于确定所计算的轮廓点
偏差数据、平行度数据、垂直度数据和各轴旋转角度偏差数据中的至少一个大于或者等于
对应的预定阈值,生成用于指示目标部件安装状态不符合预定条件的指示信息。
[0014] 在一些实施例中,多个视图数据至少包括目标部件的正视图数据、俯视图数据、侧视图数据和轴测视图数据,方法还包括:经由与目标部件相关联的链接,获取关于目标部件
的属性信息和标准三维虚拟模型;以及向终端设备发送关于目标部件安装状态的指示信
息。
[0015] 提供发明内容部分是为了以简化的形式来介绍对概念的选择,它们在下文的具体实施方式中将被进一步描述。发明内容部分无意标识本公开的关键特征或主要特征,也无
意限制本公开的范围。

附图说明

[0016] 图1示出了根据本公开的实施例的用于识别目标部件安装状态的方法的系统的示意图。
[0017] 图2示出了根据本公开的实施例的用于识别目标部件安装状态的方法的流程图。
[0018] 图3示出了根据本公开的实施例的目标部件的多个视图数据的示意图。
[0019] 图4示出了根据本公开的一些实施例的安装环境图像数和安装后图像数据的示意图。
[0020] 图5示出了根据本公开的实施例的用于生成校准模拟安装图像数据的方法的流程图。
[0021] 图6示出了根据本公开的另一些实施例的安装环境图像数和安装后图像数据的示意图。
[0022] 图7示出了根据本公开的实施例的生成关于目标部件安装状态的指示信息的方法的流程图。
[0023] 图8示意性示出了适于用来实现本公开实施例的电子设备的框图。
[0024] 在各个附图中,相同或对应的标号表示相同或对应的部分。

具体实施方式

[0025] 下面将参照附图更详细地描述本公开的优选实施例。虽然附图中显示了本公开的优选实施例,然而应该理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限
制。相反,提供这些实施例是为了使本公开更加透彻和完整,并且能够将本公开的范围完整
地传达给本领域的技术人员。
[0026] 在本文中使用的术语“包括”及其变形表示开放性包括,即“包括但不限于”。除非特别申明,术语“或”表示“和/或”。术语“基于”表示“至少部分地基于”。术语“一个示例实施
例”和“一个实施例”表示“至少一个示例实施例”。术语“另一实施例”表示“至少一个另外的
实施例”。术语“第一”、“第二”等等可以指代不同的或相同的对象。
[0027] 如前文提及,传统的用于识别目标部件安装状态的方案存在的不足之处在于:安装质量识别效率低、人员成本高、识别标准缺乏一致性。
[0028] 为了至少部分地解决上述问题以及其他潜在问题中的一个或者多个,本公开的示例实施例提出了一种用于识别目标部件安装状态的方案。在该方案中,通过至少基于所获
得的目标部件的尺寸信息和多个视图数据、以及安装环境图像数,生成用于模拟目标部件
安装至安装位置处的基准模拟安装图像数据;然后,基于安装环境图像数据(即安装前图像
数据)和安装后图像数据,获取安装状态的目标部件的图像特征,本公开可以准确提取出实
际安装状态的目标部件的图像特征。另外,通过基于安装后图像数据和基准模拟安装图像
数据的比对结果,调整基准模拟安装图像数据以生成校准模拟安装图像数据,以便提取校
准模拟安装图像数据的图像特征,本公开能够根据实际安装状态的图像数据来校准用于安
装质量评估的模拟安装图像数据。再者,本公开通过匹配安装后图像数据的图像特征和校
准模拟安装图像数据的图像特征,以便基于匹配结果生成关于目标部件安装状态的指示信
息,本公开可以在校准一致的基础上对实际安装图像的特征与虚拟安装图像的特征进行比
较,进而快速判断安装状态的合格性。因而,本公开准确而高效率地对目标部件的现场安装
质量进行智能识别和判断。
[0029] 图1示出了根据本公开的实施例的用于识别目标部件安装状态的方法的系统100的示意图。如图1所示,系统100例如包括终端设备110、管理设备130、网络150、目标部件
140、目标设备120。终端设备110可以通过网络150以有线或者无线的方式与管理设备130进
行数据交互。目标部件140例如是工业设备的仪表,例如流量计。目标设备120例如是工业设
备。标记122例如指示空压站中的压缩空气母管124(图1中仅示出压缩空气母管的一部分)
的安装位置处。
[0030] 关于终端设备110,其用于以预定角度采集目标设备120的安装位置处122的安装环境图像数据(例如,图4中的图像数据402)。终端设备110还可以用于以预定角度采集目标
部件140安装于安装位置处122的安装后图像数据(例如,图4中的图像数据404)。终端设备
110例如是安装人员的手机或其他移动终端。
[0031] 关于管理设备130,其例如是云端服务器。管理设备130用于获取待安装目标部件140的尺寸信息和多个视图数据(例如,图3中的图像数据302至310)、安装环境图像数据(例
如,图4中的图像数据402)。管理设备130还可以用于生成用于模拟目标部件140安装至安装
位置处122的基准模拟安装图像数据,以及获取安装状态的目标部件140的图像特征。管理
设备130还可以基于安装后图像数据和基准模拟安装图像数据的比对结果,调整基准模拟
安装图像数据以生成校准模拟安装图像数据;以及匹配安装后图像数据的图像特征和校准
模拟安装图像数据的图像特征,以便基于匹配结果生成关于目标部件140安装状态的指示
信息。在一些实施例中,管理设备130可以具有一个或多个处理单元,包括诸如GPU、FPGA和
ASIC等的专用处理单元以及诸如CPU的通用处理单元。另外,在每个管理设备130上也可以
运行着一个或多个虚拟机。
[0032] 以下将结合图2和图3、图4和图6描述根据本公开的实施例的用于识别目标部件安装状态的方法。图2示出了根据本公开的实施例的用于识别目标部件安装状态的方法200的
流程图。图3示出了根据本公开的实施例的目标部件的多个视图数据的示意图。图4示出了
根据本公开的一些实施例的安装环境图像数和安装后图像数据的示意图。图6示出了根据
本公开的另一些实施例的安装环境图像数和安装后图像数据的示意图。应当理解,方法200
例如可以在图8所描述的电子设备800处执行图8所描述的电子设备800处执行。也可以在图
1所描述的管理设备130处执行。应当理解,方法200还可以包括未示出的附加动作和/或可
以省略所示出的动作,本公开的范围在此方面不受限制。
[0033] 在步骤202处,管理设备130获取待安装目标部件的尺寸信息和多个视图数据。在一些实施例中,管理设备130还可以经由与目标部件相关联的链接,获取关于目标部件的属
性信息和目标部件的基准三维模型数据。
[0034] 关于待安装的目标部件,其例如而不限于是用于测量工业设备状态的传感器或者仪表,例如流量计。
[0035] 关于目标部件的尺寸信息,其例如而不限于包括:待安装目标部件的宽度、高度、深度、外轮廓的最大尺寸信息和外轮廓的最小尺寸信息。关于目标部件的属性信息,其例如
包括:目标部件的材料信息等。
[0036] 关于多个视图数据300,如图3所示,其例如而不限于至少包括目标部件的正视图数据302、俯视图数据306、侧视图数据308和310、仰视图数据304和轴测视图数据等。
[0037] 在步骤204处,管理设备130经由终端设备110,获取以预定角度采集的目标设备的安装位置处的安装环境图像数据,以及目标部件安装于安装位置处的安装后图像数据。
[0038] 关于目标设备,其例如而不限于是工业设备。例如是:空压站中的压缩空气母管。
[0039] 关于安装环境图像数据,其例如包括多张图像。安装环境图像数据例如是以与目标部件的某个或某几个视图(例如正视图、俯视图或者侧视图)相同角度而拍摄的目标设备
的待安装位置处的安装环境图像数据。以在空压站中的压缩空气母管上安装流量计的应用
为例,安装环境图像数据例如包括:以与流量计的正视图相同角度拍摄的、安装流量计之前
的、压缩空气母管的流量计安装基座的图像数据。需要说明的是,目标部件现场安装完成
后,利用终端设备以预定角度采集安装后图像数据,该安装后图像数据的采集角度需要与
安装前采集安装环境图像数据时的预定角度完全一致,以便利于管理设备130高度准确地
识别与评估目标部件的安装质量。
[0040] 在步骤206处,管理设备130至少基于目标部件的尺寸信息和多个视图数据、以及安装环境图像数,生成用于模拟目标部件安装至安装位置处的基准模拟安装图像数据。
[0041] 关于生成基准模拟安装图像数据的方法,其例如包括:管理设备130基于目标部件的尺寸信息、属性信息、正视图、侧视图和基准三维模型,重构目标部件虚拟模型数据,目标
部件为流量计,目标设备为空压站中的压缩空气母管;基于安装环境图像数据,重构安装环
境虚拟模型数据;以及拼接目标部件虚拟模型数据和安装环境虚拟模型数据,以生成基准
模拟安装图像数据。
[0042] 其中,关于重构目标部件虚拟模型数据的方法,其例如包括:管理设备130基于目标部件的尺寸信息、属性信息和正视图和侧视图,确定目标部件的基准三维模型;获取关于
目标部件的基准三维模型的正面投影数据和侧面投影数据;分别提取目标部件的正视图的
正面轮廓曲线以及侧视图的侧面轮廓曲线;然后,管理设备130提取正面轮廓曲线多个第一
特性点信息和侧面轮廓曲线的多个第二特性点信息,将目标部件的正面轮廓曲线的多个第
一特性点信息与正面投影轮廓曲线的多个对应特征点进行匹配的,以便计算正面投影转换
矩阵;将目标部件的侧面轮廓曲线的多个第二特性点信息与侧面投影轮廓曲线的多个对应
特征点进行匹配的,以便计算侧面投影转换矩阵;以及基于正面投影转换矩阵、侧面投影转
换矩阵和目标部件的基准三维模型,重构目标部件模拟图像数据。
[0043] 以下结合公式(1)说明将目标部件的正面轮廓曲线多个第一特性点信息与基准三维模型的正面投影轮廓曲线多个对应特征点进行匹配的方法。
[0044]
[0045] 在上述公式(1)中, 代表目标部件的正面轮廓曲线上的第 个特征点的二维透视投影点的坐标信息。 代表关于目标部件的基准三维模型的正面投影轮廓曲线上的第
个特征点的二维透视投影点的坐标信息。 代表正面投影转换矩阵。 代表水平方向的平
移。 代表竖直方向的平移。 代表水平方向的缩放系数。 代表竖直方向的缩放系数。
在目标部件的正面轮廓曲线的主轴与关于目标部件的基准三维模型的正面投影轮廓曲线
的主轴平行时, 与 为0。基于与上述公式(1)的类似的方法,将目标部件的侧面轮廓
曲线多个第二特性点信息与基准三维模型的侧面投影轮廓曲线多个对应特征点进行匹配。
[0046] 关于重构安装环境虚拟模型数据的方法,可以包括多种,其可以是类似于上述重构目标部件虚拟模型数据的方法,即,基于安装环境图像数据和关于安装环境的基准三维
模型而重构安装环境虚拟模型数据。其也可以包括:基于安装环境图像数据,经由神经网络
模型,生成安装环境虚拟模型数据。具体而言,神经网络模型例如包括:基于CNN网络模型所
构建的编码器、基于 LSTM  单元排列成3D网格结构而构建的中间层和基于去卷积
(Deconvolution) 网络而构建的解码器。其中,基于CNN网络模型所构建的编码器用于针对
二维多个视图数据进行编码。中间层中的每个 LSTM 单元用于将编码器所输出的特征向量
与临近单元的卷积隐藏状态输送到解码器中。应该理解,也可以采用其他合适的方式将二
维的安装环境图像数据映射为安装环境虚拟模型数据。
[0047] 关于拼接目标部件虚拟模型数据和安装环境虚拟模型数据的方法包括多种,可以采用现有的三维图形引擎用于拼接两个三维模型。例如,采用迭代最近点算法针对目标部
件虚拟模型数据和安装环境虚拟模型数据中相互耦合表面的局部图像进行匹配。具体而
言,例如,集合 Pl={x1,x2,x3,…,xn}代表目标部件虚拟模型数据的耦合表面的坐标点。P2
={y1, y2,y3,…,yn}代表安装环境虚拟模型数据的耦合表面的坐标点。可以利用局部图像
配准技术(ICP)迭代求解Pl和P2中距离最近的对应点;然后基于对应点计算变换矩阵;以及
基于所计算的变换矩阵对安装环境虚拟模型数据进行变换,重复迭代,直到达到Pl和P2之
间距离的收敛条件,迭代停止,基于符合收敛条件的经变换的安装环境虚拟模型数据和目
标部件虚拟模型数据,形成基准模拟安装图像数据。
[0048] 在步骤208处,管理设备130基于安装环境图像数据和安装后图像数据,获取安装后的目标部件的图像特征。
[0049] 关于获取安装状态的目标部件的图像特征的方法,其例如包括:比较安装环境图像数据和安装后图像数据,以便获取差异数据;以及基于所获取的差异数据,提取安装后的
目标部件的轮廓特征。例如,管理设备130计算安装环境图像数据和安装后图像数据之间的
差值,然后取差值的绝对值作为安装状态的目标部件的数据(即,将差值的绝对值作为前景
目标的图像数据),使用预定阈值针对差值的绝对值进行二值化,以便获取安装状态的目标
部件的轮廓特征。该目标部件的轮廓特征例如是仪表的轮廓特征。
[0050] 在步骤210处,管理设备130基于安装后图像数据和基准模拟安装图像数据的比对结果,调整基准模拟安装图像数据以生成校准模拟安装图像数据,以便提取校准模拟安装
图像数据的图像特征。
[0051] 关于生成校准模拟安装图像数据的方法,其例如包括:获取安装后图像数据的基准轴信息;获取基准模拟安装图像数据的基准轴信息;
[0052] 比较安装后图像数据的基准轴信息和模拟安装图像数据的基准轴信息,以便生成关于基准轴信息的比较信息;基于关于基准轴的差异信息,经由预测模型,确定用于调整基
准模拟安装图像数据的旋转角度;基于用于调整基准模拟安装图像数据的旋转角度,重复
生成经调整的基准模拟安装图像数据、关于基准轴的差异信息以及经由预测模型生成旋转
角度,直至关于基准轴的差异信息符合预定收敛条件;确定关于基准轴的差异信息是否符
合预定收敛条件; 以及响应于确定关于基准轴的差异信息符合预定收敛条件,将基。下文
将结合图5具体说明用于生成校准模拟安装图像数据的方法,在此,不再赘述。
[0053] 在步骤212处,管理设备130匹配安装后的目标部件的图像特征和校准模拟安装图像数据的图像特征,以便基于匹配结果生成关于目标部件安装状态的指示信息。
[0054] 在上述方案中,通过至少基于所获得的目标部件的尺寸信息和多个视图数据、以及安装环境图像数,生成用于模拟目标部件安装至安装位置处的基准模拟安装图像数据;
然后,基于安装环境图像数据(即安装前图像数据)和安装后图像数据,获取安装状态的目
标部件的图像特征,本公开可以准确提取出实际安装状态的目标部件的图像特征。另外,通
过基于安装后图像数据和基准模拟安装图像数据的比对结果,调整基准模拟安装图像数据
以生成校准模拟安装图像数据,以便提取校准模拟安装图像数据的图像特征,本公开能够
根据实际安装状态的图像数据来校准用于安装质量评估的模拟安装图像数据。再者,本公
开通过匹配安装后图像数据的图像特征和校准模拟安装图像数据的图像特征,以便基于匹
配结果生成关于目标部件安装状态的指示信息,本公开可以在校准一致的基础上对实际安
装图像的特征与虚拟安装图像的特征进行比较,进而快速判断安装状态的合格性。因而,本
公开准确而高效率地对目标部件的现场安装质量进行智能识别和判断。
[0055] 以下将结合图5描述根据本公开的实施例的用于生成校准模拟安装图像数据的方法。图5示出了根据本公开的实施例的用于生成校准模拟安装图像数据的方法500的流程
图。应当理解,方法500例如可以在执行图8所描述的电子设备800处执行。也可以在图1所描
述的管理设备130处执行。应当理解,方法500还可以包括未示出的附加动作和/或可以省略
所示出的动作,本公开的范围在此方面不受限制。
[0056] 在步骤502处,管理设备130获取安装后图像数据的基准轴信息。在一些实施例中,管理设备130提取安装状态的目标部件的轮廓特征的基准轴。
[0057] 在步骤504处,管理设备130获取基准模拟安装图像数据的基准轴信息。例如,管理设备130提取校准模拟安装图像数据的轮廓特征的基准轴。需要注意的是,步骤504处所提
取的基准轴与步骤502处所提取的基准轴是针对同一目标对象的。
[0058] 在步骤506处,管理设备130比较安装后图像数据的基准轴信息和模拟安装图像数据的基准轴信息,以便生成关于基准轴信息的比较信息。例如,管理设备130比较安装状态
的目标部件的轮廓特征的基准轴信息和校准模拟安装图像数据的轮廓特征的基准轴信息,
生成关于基准轴的差异信息。
[0059] 在步骤508处,管理设备130基于关于基准轴的差异信息,经由预测模型,确定用于调整基准模拟安装图像数据的旋转角度。如果目标部件的图像特征的基准轴和校准模拟安
装图像数据的基准轴重合,则关于基准轴的差异信息为0或者非常小,则表明目标部件的图
像特征和校准模拟安装图像数据的基准一致,经由预测模型所预测的旋转角度为0。如果关
于基准轴的差异信息超出预定阈值,则确定目标部件的图像特征的基准轴和校准模拟安装
图像数据的基准轴不重合,经由预测模型提取差异信息的特征,以预测一匹配的旋转角度,
以便用于旋转基准模拟安装图像数据。
[0060] 在步骤510处,管理设备130基于用于调整基准模拟安装图像数据的旋转角度,重复生成经调整的基准模拟安装图像数据、关于基准轴的差异信息以及经由预测模型生成旋
转角度,直至关于基准轴的差异信息符合预定收敛条件。
[0061] 例如,经由基于神经网络模型所构建的预测模型根据关于基准轴的差异信息预测用于微调基准模拟安装图像数据的旋转角度,然后,基于所预测的旋转角度重新生成经调
整的基准模拟安装图像数据,并再次将经调整的基准模拟安装图像数据的基准轴信息与安
装后图像数据的基准轴信息进行比对,如此重复,直至安装后图像数据的基准轴信息与经
调整的基准模拟安装图像数据的基准轴重合,即基准轴达到一致,关于基准轴的差异信息
符合预定收敛条件。
[0062] 以下结合公式(2)来说明用于重复生成经调整的基准模拟安装图像数据的方法。
[0063]
[0064] 在上述公式(2)中, 代表将基准模拟安装图像数据旋转所确定旋转角度 之后的经调整的基准模拟安装图像数据。 代表基准模拟安装图像数据。 代表将基准模拟安
装图像数据绕旋转轴(例如Z轴)旋转的旋转变换矩阵。
[0065] 关于预训练的神经网络模型的训练样本的生成方法,其例如包括:将目标部件的基准三维模型按照特定的角度进行多次旋转,从而得到与不同旋转角度所对应的目标部件
的基准三维模型;计算不同旋转角度所对应的目标部件的基准三维模型中基准轴信息之间
的偏差信息,以便生成关于基准轴信息之间的偏差信息的多个输入样本集;利用对应的旋
转角度针对多个输入样本集进行标注,以便利用带有对应旋转角度标签的关于基准轴信息
之间的偏差信息的多个输入样本训练预测模型。
[0066] 在步骤512处,将基于当前经调整的基准模拟安装图像数据确定为校准模拟安装图像数据。
[0067] 通过采用上述手段,本公开能够调整基准模拟安装图像数据的基准轴,在使其与安装后图像数据的基准轴信息一致的基准上,对目标部件的实际安装轮廓与虚拟安装轮廓
进行比较,进而利于准确识别与评估目标部件的安装质量。
[0068] 以下将结合图4、图6、图7描述根据本公开的实施例的生成关于目标部件安装状态的指示信息的方法700。图7示出了根据本公开的实施例的生成关于目标部件安装状态的警
示信息的方法700的流程图。应当理解,方法700例如可以在图8所描述的电子设备800处执
行。也可以在图1所描述的管理设备130处执行。应当理解,方法700还可以包括未示出的附
加动作和/或可以省略所示出的动作,本公开的范围在此方面不受限制。
[0069] 在步骤702处,管理设备130基于安装状态的目标部件的轮廓特征和校准模拟安装图像数据的轮廓特征,计算轮廓点偏差数据、平行度数据、垂直度数据和各轴旋转角度偏差
数据中至少一项。
[0070] 在步骤704处,管理设备130确定所计算的轮廓点偏差数据平行度数据、垂直度数据和各轴旋转角度偏差数据中的至少一个是否大于或者等于对应的预定阈值。
[0071] 在步骤706处,如果管理设备130确定所计算的轮廓点偏差数据、平行度数据、垂直度数据和各轴旋转角度偏差数据中的至少一个大于或者等于对应的预定阈值,生成用于指
示目标部件安装状态不符合预定条件的指示信息。
[0072] 在步骤708处,如果管理设备130确定所计算的轮廓点偏差数据、平行度数据、垂直度数据和各轴旋转角度偏差数据中均小于对应的预定阈值,生成用于指示目标部件安装状
态符合预定条件的指示信息。
[0073] 例如,以下以竖直轴旋转角度偏差数据为例,说明生成关于目标部件安装状态的指示信息的方法。例如,管理设备130基于目标部件的尺寸信息确定目标部件的水平截面是
否相对于竖直轴中心对称,如果确定目标部件的水平截面并非相对于竖直轴中心对称;确
定目标部件的轮廓线面积(例如正面图像中目标部件的轮廓线面积)与预定轮廓线面积之
间的差值是否大于预定面积阈值。如果确定目标部件的轮廓线面积与预定轮廓线面积之间
的差值大于预定面积阈值,则确定目标对象绕竖直轴旋转角度偏差数据超出对应的安装质
量标准,管理设备130生成安装质量不合格的警示信息,以及基于差值所计算的关于竖直轴
的旋转角度的纠正信息。需要注意的是,如果确定目标部件的水平截面相对于竖直轴中心
对称,例如属于目标部件的水平截面为圆形,则目标部件绕竖直轴旋转角度也不会导致轮
廓线面积的偏差。
[0074] 例如,管理设备130基于如图4所示的安装环境图像数据402和安装后图像数404,而计算的平行度数据和垂直度数据大于或者等于对应的预定阈值,生成用于指示目标部件
安装状态不符合预定条件的指示信息。再例如,管理设备130基于如图6所示的安装环境图
像数据602和安装后图像数604,而计算的轮廓点偏差数据、平行度数据、垂直度数据和各轴
旋转角度偏差数据中均小于对应的预定阈值,生成用于指示目标部件安装状态符合预定条
件的指示信息。
[0075] 再例如,云端服务器根据安装质量判定结果,匹配对应的提示信息返回给用户终端,例如移动端。用户终端的应用接收到云端返回的结果并提示,提示信息可能是安装质量
合格,或安装质量不合格及对应的纠正指引。
[0076] 通过采用上述手段,本公开智能评估目标部件安装质量是否符合要求,并将提示信息发送给远程的安装人员。
[0077] 图8示意性示出了适于用来实现本公开实施例的电子设备800的框图。设备800可以是用于实现执行图2、图5和图7所示的方法200、500和700的设备。如图8所示,设备800包
括中央处理单元(CPU)801,其可以根据存储在只读存储器(ROM)802中的计算机程序指令或
者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序指令,来执行各种适当
的动作和处理。在RAM中,还可存储设备800操作所需的各种程序和数据。CPU、ROM以及RAM通
过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
[0078] 设备800中的多个部件连接至I/O接口805,包括:输入单元806、输出单元807、存储单元808,中央处理单元801执行上文所描述的各个方法和处理,例如执行方法200、500和
700。例如,在一些实施例中,方法200、500和700可被实现为计算机软件程序,其被存储于机
器可读介质,例如存储单元808。在一些实施例中,计算机程序的部分或者全部可以经由ROM
和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM并由CPU执行
时,可以执行上文描述的方法200、500和700的一个或多个操作。备选地,在其他实施例中,
CPU可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行方法200、500和700
的一个或多个动作。
[0079] 需要进一步说明的是,本公开可以是方法、装置、系统和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于执行本公开的各个方面的计算机
可读程序指令。
[0080] 计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是但不限于电存储设备、磁存储设备、光存储设备、电
磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体
的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器
(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩
盘只读存储器(CD‑ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储
有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可
读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波
导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电
信号。
[0081] 这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外
部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关
计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计
算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计
算机可读存储介质中。
[0082] 用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的
任意组合编写的源代码或目标代码,该编程语言包括面向对象的编程语言—诸如
Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机
可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独
立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机
或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包
括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利
用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令
的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可
编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方
面。
[0083] 这里参照根据本公开实施例的方法、设备(系统)、和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/
或框图中各方框的组合,都可以由计算机可读程序指令实现。
[0084] 这些计算机可读程序指令可以提供给语音交互装置中的处理器、通用计算机、专用计算机或其它可编程数据处理装置的处理单元,从而生产出一种机器,使得这些指令在
通过计算机或其它可编程数据处理装置的处理单元执行时,产生了实现流程图和/或框图
中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储
在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特
定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图
和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
[0085] 也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产
生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的
指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
[0086] 附图中的流程图和框图显示了根据本公开的多个实施例的设备、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代
表一个模块、程序段或指令的一部分,该模块、程序段或指令的一部分包含一个或多个用于
实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可
以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,
它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流
程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作
的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
[0087] 以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技
术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨
在最好地解释各实施例的原理、实际应用或对市场中的技术改进,或者使本技术领域的其
它普通技术人员能理解本文披露的各实施例。
[0088] 以上该仅为本公开的可选实施例,并不用于限制本公开,对于本领域的技术人员来说,本公开可以有各种更改和变化。凡在本公开的精神和原则之内,所作的任何修改、等
效替换、改进等,均应包含在本公开的保护范围之内。