一种视觉系统的图像处理方法、系统、存储介质及处理器转让专利

申请号 : CN202310104475.4

文献号 : CN115775251B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 黄剑周旭东张记复

申请人 : 成都睿瞳科技有限责任公司

摘要 :

本发明属于计算机视觉领域,具体涉及一种视觉系统的图像处理方法、系统、存储介质及处理器,方法包括:第一图像获取装置获取检验流水线的出口位置区域的图像,将其中的工业零件图像与存储的工业零件图像进行相似性比对,把工业零件图像所代表的工业零件的类型判定是存储的工业零件图像所代表的工业零件的类型,还对工业零件进行自动检查,将工业零件运送到工厂的组装流水线的进口位置区域;设置第二图像获取装置能够获取组装流水线的远离进口位置区域的图像,并且辨别与其中的工业零件图像相对应的工业零件的类型;第二图像获取装置更新第一图像获取装置存储的工业零件图像。本发明提高辨别工业零件的准确度,解决辨别准确度低的问题。

权利要求 :

1.一种视觉系统的图像处理方法,其特征在于,包括如下的步骤:

将工业零件放置在工厂的检验流水线上,并且在所述检验流水线的出口位置区域的上方设置第一图像获取装置,所述第一图像获取装置获取包含所述检验流水线的出口位置区域的图像在内的图像数据,同时从所述图像数据中确定所述检验流水线的出口位置区域的图像,将其中的工业零件图像与存储的工业零件图像进行相似性比对,当相似度大于预先设定的相似度阈值时,把工业零件图像所代表的工业零件的类型判定是存储的工业零件图像所代表的工业零件的类型,还根据工业零件图像针对与工业零件图像相对应的工业零件进行自动检查,在自动检查也通过时,将与工业零件图像相对应的工业零件通过运送装置运送到工厂的组装流水线的进口位置区域;

在工厂的所述组装流水线的远离进口位置区域的上方设置第二图像获取装置,使得所述第二图像获取装置能够获取所述组装流水线的远离进口位置区域的图像,并且基于所述组装流水线的远离进口位置区域的图像中的工业零件图像使用机器学习辨别与工业零件图像相对应的工业零件的类型;

所述第二图像获取装置将所述组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给所述第一图像获取装置,用来与所述检验流水线的出口位置区域的图像中的工业零件图像进行相似性比对。

2.根据权利要求1所述的一种视觉系统的图像处理方法,其特征在于,所述第二图像获取装置将所述组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给所述第一图像获取装置之前,还包括所述第一图像获取装置将其辨别的工业零件的类型发送给所述第二图像获取装置,所述第二图像获取装置比较其辨别的工业零件的类型和所述第一图像获取装置辨别的工业零件的类型的一致性,当二者不一致时,才将所述组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给所述第一图像获取装置。

3.根据权利要求2所述的一种视觉系统的图像处理方法,其特征在于,所述第二图像获取装置将所述组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给所述第一图像获取装置之后,还包括所述第一图像获取装置在其存储的工业零件图像中删除与所述检验流水线的出口位置区域的图像中的工业零件图像进行过相似性比对的工业零件图像。

4.根据权利要求1所述的一种视觉系统的图像处理方法,其特征在于,从所述图像数据中确定所述检验流水线的出口位置区域的图像,包括如下的步骤:

基于所述图像数据检测其中包含的不同的物体,并且使用预先设定的形状的边框分别针对不同的所述物体进行框选来分别得到多个由边框限定图像范围的边框图像,所述边框图像中包含所述物体的图像,还对于多个所述边框图像进行筛选;

根据所述图像数据检测其中包含的不同长度的线条,并且分别计算所述线条与所有的所述边框图像的边框的各边形成的小于等于九十度的角的正弦值,同时判断全部的所述正弦值与预先设定的正弦值阈值的大小关系,当全部的所述正弦值都大于等于所述正弦值阈值时删除所述线条;

在筛选后的所述边框图像中,选择一个还未经过处理的所述边框图像,并且计算所述边框图像的边框与距离其最近的若干所述线条的匹配度,匹配度为所述边框图像的边框与距离其最近的若干所述线条的重合率,在匹配度大于预先设定的匹配度阈值一的情况下,将所述边框图像确定为中间图像;

判断是否筛选后的所有的所述边框图像都已经过处理,若不是的话,跳转上一步继续执行,若是的话,在筛选后的所有的所述边框图像中查找至少边框的一边与所述中间图像的边框的任意一边平行的所述边框图像,并且计算所述边框图像的边框与距离其最近的若干所述线条的匹配度,匹配度为所述边框图像的边框与距离其最近的若干所述线条的重合率,在匹配度大于预先设定的匹配度阈值二的情况下,也将所述边框图像添加为所述中间图像;

对于全部的所述中间图像分别针对其中包含的所述物体的图像进行自动辨别,以分别得到与全部的所述中间图像相对应的所述物体的种类,并且使用所述种类为工业零件的所述中间图像组成所述检验流水线的出口位置区域的图像。

5.根据权利要求4所述的一种视觉系统的图像处理方法,其特征在于,对于多个所述边框图像进行筛选的过程包括,分别计算每个所述边框图像的面积,以及所述图像数据的总面积,并且计算每个所述边框图像的面积占所述图像数据的总面积的比例,同时比较所述比例与预先设定的比例阈值的大小,在所述比例大于等于所述比例阈值的情况下,删除与所述比例相对应的所述边框图像。

6.一种视觉系统的图像处理系统,用于实现如权利要求1‑5任意一项所述的方法,其特征在于,包括如下的模块:

第一辨别模块,用于将工业零件放置在工厂的检验流水线上,并且在检验流水线的出口位置区域的上方设置第一图像获取装置,第一图像获取装置获取包含检验流水线的出口位置区域的图像在内的图像数据,同时从图像数据中确定检验流水线的出口位置区域的图像,将其中的工业零件图像与存储的工业零件图像进行相似性比对,当相似度大于预先设定的相似度阈值时,把工业零件图像所代表的工业零件的类型判定是存储的工业零件图像所代表的工业零件的类型,还根据工业零件图像针对与工业零件图像相对应的工业零件进行自动检查,在自动检查也通过时,将与工业零件图像相对应的工业零件通过运送装置运送到工厂的组装流水线的进口位置区域;

第二辨别模块,用于在工厂的组装流水线的远离进口位置区域的上方设置第二图像获取装置,使得第二图像获取装置能够获取组装流水线的远离进口位置区域的图像,并且基于组装流水线的远离进口位置区域的图像中的工业零件图像使用机器学习辨别与工业零件图像相对应的工业零件的类型;

学习模块,用于第二图像获取装置将组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给第一图像获取装置,用来与检验流水线的出口位置区域的图像中的工业零件图像进行相似性比对。

7.一种计算机存储介质,其特征在于,所述计算机存储介质存储有程序指令,其中,在所述程序指令运行时控制所述计算机存储介质所在设备执行权利要求1至5中任意一项所述的方法。

8.一种处理器,其特征在于,所述处理器用于运行程序,其中,所述程序运行时执行权利要求1至5中任意一项所述的方法。

说明书 :

一种视觉系统的图像处理方法、系统、存储介质及处理器

技术领域

[0001] 本发明属于计算机视觉技术领域,具体涉及一种视觉系统的图像处理方法、系统、存储介质及处理器。

背景技术

[0002] 计算机视觉指的是用摄影机和电脑代替人眼对目标进行辨别、跟踪和测量等的计算机技术,目前计算机视觉在工业中的应用场景变得越来越多,在一些工厂的危险的工作环境中,不适合依靠人工来检验和运送工业零件,而且人工检验和运送工业零件的效率也较低,因而先将工业零件放置在工厂的检验流水线上,通过分析包含检验流水线上的工业零件的图像来辨别工业零件以及检验工业零件的质量,并且再将合格的工业零件运送到工厂的组装流水线上从而对于工业零件进行组装,然而,在现有技术中可能会出现错误的工业零件从检验流水线被运送到了组装流水线上的技术问题。
[0003] 申请号为CN2020100525908的发明专利提供了图像识别系统和图像识别方法,在半导体器件的制造处理中,为了确认探针与器件的电极垫连接在一起的情况,使用了由摄像机拍摄电极垫,根据该图像来识别针迹的图像识别技术,在无法正确地进行针迹等识别对象的图像识别的情况下,也能够在短时间内识别出识别对象,然而,该图像识别系统和该图像识别方法存在图像数据可能被错误识别的技术问题。由此,本发明提供一种视觉系统的图像处理方法、系统、存储介质及处理器来提高根据图像辨别工业零件的准确度。

发明内容

[0004] 本发明的第一图像获取装置获取检验流水线的出口位置区域的图像,辨别与其中的工业零件图像相对应的工业零件的类型,同时检验工业零件的质量,将工业零件运送到组装流水线的进口位置区域,本发明的第二图像获取装置获取组装流水线的远离进口位置区域的图像,也辨别与其中的工业零件图像相对应的工业零件的类型,还使用其中的工业零件图像更新第一图像获取装置存储的工业零件图像,本发明旨在提高根据图像辨别工业零件的准确度。
[0005] 为了达到上述的发明目的,本发明给出如下所述的一种视觉系统的图像处理方法,主要包括以下的步骤:
[0006] 将工业零件放置在工厂的检验流水线上,并且在所述检验流水线的出口位置区域的上方设置第一图像获取装置,所述第一图像获取装置获取包含所述检验流水线的出口位置区域的图像在内的图像数据,同时从所述图像数据中确定所述检验流水线的出口位置区域的图像,将其中的工业零件图像与存储的工业零件图像进行相似性比对,当相似度大于预先设定的相似度阈值时,把工业零件图像所代表的工业零件的类型判定是存储的工业零件图像所代表的工业零件的类型,还根据工业零件图像针对与工业零件图像相对应的工业零件进行自动检查,在自动检查也通过时,将与工业零件图像相对应的工业零件通过运送装置运送到工厂的组装流水线的进口位置区域;
[0007] 在工厂的所述组装流水线的远离进口位置区域的上方设置第二图像获取装置,使得所述第二图像获取装置能够获取所述组装流水线的远离进口位置区域的图像,并且基于所述组装流水线的远离进口位置区域的图像中的工业零件图像使用机器学习辨别与工业零件图像相对应的工业零件的类型;
[0008] 所述第二图像获取装置将所述组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给所述第一图像获取装置,用来与所述检验流水线的出口位置区域的图像中的工业零件图像进行相似性比对。
[0009] 作为本发明的一种优选技术方案,所述第二图像获取装置将所述组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给所述第一图像获取装置之前,还包括所述第一图像获取装置将其辨别的工业零件的类型发送给所述第二图像获取装置,所述第二图像获取装置比较其辨别的工业零件的类型和所述第一图像获取装置辨别的工业零件的类型的一致性,当二者不一致时,才将所述组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给所述第一图像获取装置。
[0010] 作为本发明的一种优选技术方案,所述第二图像获取装置将所述组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给所述第一图像获取装置之后,还包括所述第一图像获取装置在其存储的工业零件图像中删除与所述检验流水线的出口位置区域的图像中的工业零件图像进行过相似性比对的工业零件图像。
[0011] 作为本发明的一种优选技术方案,从所述图像数据中确定所述检验流水线的出口位置区域的图像,包括如下的步骤:
[0012] 基于所述图像数据检测其中包含的不同的物体,并且使用预先设定的形状的边框分别针对不同的所述物体进行框选来分别得到多个由边框限定图像范围的边框图像,所述边框图像中包含所述物体的图像,还对于多个所述边框图像进行筛选;
[0013] 根据所述图像数据检测其中包含的不同长度的线条,并且分别计算所述线条与所有的所述边框图像的边框的各边形成的小于等于九十度的角的正弦值,同时判断全部的所述正弦值与预先设定的正弦值阈值的大小关系,当全部的所述正弦值都大于等于所述正弦值阈值时删除所述线条;
[0014] 在筛选后的所述边框图像中,选择一个还未经过处理的所述边框图像,并且计算所述边框图像的边框与距离其最近的若干所述线条的匹配度,匹配度为所述边框图像的边框与距离其最近的若干所述线条的重合率,在匹配度大于预先设定的匹配度阈值一的情况下,将所述边框图像确定为中间图像;
[0015] 判断是否筛选后的所有的所述边框图像都已经过处理,若不是的话,跳转上一步继续执行,若是的话,在筛选后的所有的所述边框图像中查找至少边框的一边与所述中间图像的边框的任意一边平行的所述边框图像,并且计算所述边框图像的边框与距离其最近的若干所述线条的匹配度,匹配度为所述边框图像的边框与距离其最近的若干所述线条的重合率,在匹配度大于预先设定的匹配度阈值二的情况下,也将所述边框图像添加为所述中间图像;
[0016] 对于全部的所述中间图像分别针对其中包含的所述物体的图像进行自动辨别,以分别得到与全部的所述中间图像相对应的所述物体的种类,并且使用所述种类为工业零件的所述中间图像组成所述检验流水线的出口位置区域的图像。
[0017] 作为本发明的一种优选技术方案,对于多个所述边框图像进行筛选的过程包括,分别计算每个所述边框图像的面积,以及所述图像数据的总面积,并且计算每个所述边框图像的面积占所述图像数据的总面积的比例,同时比较所述比例与预先设定的比例阈值的大小,在所述比例大于等于所述比例阈值的情况下,删除与所述比例相对应的所述边框图像。
[0018] 本发明还提供一种视觉系统的图像处理系统,包括如下的模块:
[0019] 第一辨别模块,用于将工业零件放置在工厂的检验流水线上,并且在检验流水线的出口位置区域的上方设置第一图像获取装置,第一图像获取装置获取包含检验流水线的出口位置区域的图像在内的图像数据,同时从图像数据中确定检验流水线的出口位置区域的图像,将其中的工业零件图像与存储的工业零件图像进行相似性比对,当相似度大于预先设定的相似度阈值时,把工业零件图像所代表的工业零件的类型判定是存储的工业零件图像所代表的工业零件的类型,还根据工业零件图像针对与工业零件图像相对应的工业零件进行自动检查,在自动检查也通过时,将与工业零件图像相对应的工业零件通过运送装置运送到工厂的组装流水线的进口位置区域;
[0020] 第二辨别模块,用于在工厂的组装流水线的远离进口位置区域的上方设置第二图像获取装置,使得第二图像获取装置能够获取组装流水线的远离进口位置区域的图像,并且基于组装流水线的远离进口位置区域的图像中的工业零件图像使用机器学习辨别与工业零件图像相对应的工业零件的类型;
[0021] 学习模块,用于第二图像获取装置将组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给第一图像获取装置,用来与检验流水线的出口位置区域的图像中的工业零件图像进行相似性比对。
[0022] 本发明还提供一种计算机存储介质,所述计算机存储介质存储有程序指令,其中,在所述程序指令运行时控制所述计算机存储介质所在设备执行上述中任意一项所述的方法。
[0023] 本发明还提供一种处理器,所述处理器用于运行程序,其中,所述程序运行时执行上述中任意一项所述的方法。
[0024] 与现有技术相比,本发明的有益效果至少如下所述:
[0025] 在本发明中,首先第一图像获取装置获取检验流水线的出口位置区域的图像,将其中的工业零件图像与存储的工业零件图像进行相似性比对,把工业零件图像所代表的工业零件的类型判定是存储的工业零件图像所代表的工业零件的类型,还对工业零件进行自动检查,将工业零件运送到工厂的组装流水线的进口位置区域;其次设置第二图像获取装置能够获取组装流水线的远离进口位置区域的图像,并且辨别与其中的工业零件图像相对应的工业零件的类型;最后第二图像获取装置更新第一图像获取装置存储的工业零件图像。本发明解决了现有技术中存在的错误的工业零件从检验流水线被运送到了组装流水线的技术问题,提高了根据图像数据辨别工业零件的准确度。

附图说明

[0026] 图1为本发明的一种视觉系统的图像处理方法的步骤流程图;
[0027] 图2为本发明的一种视觉系统的图像处理系统的组成结构图。实施方式
[0028] 为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
[0029] 可以理解,本申请所使用的术语“第一”、“第二”等可在本文中用于描述各种元件,但除非特别说明,这些元件不受这些术语限制。这些术语仅用于将第一个元件与另一个元件区分。举例来说,在不脱离本申请的范围的情况下,可以将第一xx脚本称为第二xx脚本,且类似地,可将第二xx脚本称为第一xx脚本。
[0030] 本发明提供了如图1所示的一种视觉系统的图像处理方法,主要通过执行如下的步骤过程来实现:
[0031] 步骤一、将工业零件放置在工厂的检验流水线上,并且在上述检验流水线的出口位置区域的上方设置第一图像获取装置,上述第一图像获取装置获取包含上述检验流水线的出口位置区域的图像在内的图像数据,同时从上述图像数据中确定上述检验流水线的出口位置区域的图像,将其中的工业零件图像与存储的工业零件图像进行相似性比对,当相似度大于预先设定的相似度阈值时,把工业零件图像所代表的工业零件的类型判定是存储的工业零件图像所代表的工业零件的类型,还根据工业零件图像针对与工业零件图像相对应的工业零件进行自动检查,在自动检查也通过时,将与工业零件图像相对应的工业零件通过运送装置运送到工厂的组装流水线的进口位置区域;
[0032] 步骤二、在工厂的上述组装流水线的远离进口位置区域的上方设置第二图像获取装置,使得上述第二图像获取装置能够获取上述组装流水线的远离进口位置区域的图像,并且基于上述组装流水线的远离进口位置区域的图像中的工业零件图像使用机器学习辨别与工业零件图像相对应的工业零件的类型;
[0033] 步骤三、上述第二图像获取装置将上述组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给上述第一图像获取装置,用来与上述检验流水线的出口位置区域的图像中的工业零件图像进行相似性比对。
[0034] 具体的,发明人发现在现有技术中可能会存在错误的工业零件从检验流水线被运送到了组装流水线上的技术问题,该错误的工业零件可能为类型被辨别错误的工业零件,也可能为自动检查结果是错误的工业零件,即质量合格却被当作是不合格的工业零件,或者质量不合格却被当作是合格的工业零件,为了解决这个技术问题,发明人提出了上述步骤一到上述步骤三。
[0035] 在上述步骤一中,在检验流水线的出口位置区域的上方设置第一图像获取装置,由于上述运送装置需要从检验流水线的出口位置区域取工业零件,该运送装置可以为带有机械手臂等的机器人,为了避免该运送装置误碰到第一图像获取装置,造成第一图像获取装置被损坏,第一图像获取装置被设置的较高,也即第一图像获取装置在竖直方向上距离检验流水线的出口位置区域较远,因而通过第一图像获取装置获取的图像数据不仅包括检验流水线的出口位置区域的图像,还包括比如地面区域的图像,运送装置所在区域的图像等,特别的,不同区域中包含的物体都被放置在区域中的特定位置,特定位置由一个固定形状的位置边界进行限定,固定形状可以为正方形、长方形。在从图像数据中自动确定了检验流水线的出口位置区域的图像之后,将其中包含的工业零件的图像和存储的工业零件图像进行相似性的计算,一开始存储的工业零件图像为从网络上下载的工业零件图像,如果相似度大于相似度阈值,那么就能将与工业零件的图像相对应的工业零件的类型判定为是存储的工业零件图像所代表的工业零件的类型,通过这种简便的方法能够加快第一图像获取装置辨别工业零件的类型的速度,第一图像获取装置还在成功辨别了工业零件的类型之后,再基于相应的工业零件图像来自动检查工业零件的质量,可以从相应的工业零件图像中提取工业零件的特征数据,将特征数据输入训练好的机器学习模型,机器学习模型输出工业零件的质量是否合格的判定结果,也即自动检查的结果,如果工业零件的自动检查为合格的话,第一图像获取装置通知上述运送装置将工业零件运送到工厂的组装流水线的进口位置区域。在上述步骤二中,第二图像获取装置被设置在组装流水线的远离进口位置区域的上方,因为组装流水线的远离进口位置区域在水平方向上距离上述运送装置较远,第二图像获取装置不会与上述运送装置相碰,所以第二图像获取装置可以在竖直方向上距离组装流水线的远离进口位置区域较近,从而使得第二图像获取装置恰好能够获取组装流水线的远离进口位置区域的图像,也即第二图像获取装置在竖直方向上与组装流水线的远离进口位置区域的距离要小于第一图像获取装置在竖直方向上与检验流水线的出口位置区域的距离,并且第二图像获取装置将组装流水线的远离进口位置区域的图像中的工业零件图像输入机器学习模型,机器学习模型自动输出工业零件图像所代表的工业零件的类型。在上述步骤三中,考虑到第二图像获取装置在竖直方向上与组装流水线的远离进口位置区域的距离要小于第一图像获取装置在竖直方向上与检验流水线的出口位置区域的距离,因而组装流水线的远离进口位置区域的图像中的工业零件图像的分辨率要高于检验流水线的出口位置区域的图像中的工业零件图像的分辨率,而且第二图像获取装置和第一图像获取装置所处的工厂环境相同,考虑到工厂环境对图像亮度等的影响,第二图像获取装置获取的组装流水线的远离进口位置区域的图像中的工业零件图像更适合被第一图像获取装置在进行工业零件的类型辨别时使用,因此,第二图像获取装置将组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给第一图像获取装置。
[0036] 进一步的,上述第二图像获取装置将上述组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给上述第一图像获取装置之前,还包括上述第一图像获取装置将其辨别的工业零件的类型发送给上述第二图像获取装置,上述第二图像获取装置比较其辨别的工业零件的类型和上述第一图像获取装置辨别的工业零件的类型的一致性,当二者不一致时,才将上述组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给上述第一图像获取装置。
[0037] 具体的,在上述步骤三中,第二图像获取装置总是将组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给第一图像获取装置进行存储,但是这样做会在一定程度上增加第一图像获取装置和第二图像获取装置之间的通信频率和通信数据量,因此,为了进一步解决这个技术问题,第一图像获取装置将其辨别的工业零件的类型发送给第二图像获取装置,第二图像获取装置比较其辨别的工业零件的类型和第一图像获取装置辨别的工业零件的类型的一致性,当不一样时,很可能是因为第一图像获取装置存储的工业零件图像的分辨率较低,或者存储的工业零件图像的采集环境和工厂环境有较大不同造成的,才将组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给第一图像获取装置。
[0038] 进一步的,上述第二图像获取装置将上述组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给上述第一图像获取装置之后,还包括上述第一图像获取装置在其存储的工业零件图像中删除与上述检验流水线的出口位置区域的图像中的工业零件图像进行过相似性比对的工业零件图像。
[0039] 具体的,因为第二图像获取装置获取的组装流水线的远离进口位置区域的图像中的工业零件图像比第一图像获取装置一开始存储的工业零件图像更适合用来进行工业零件的类型的辨别,所以在第一图像获取装置接收到了第二图像获取装置获取的组装流水线的远离进口位置区域的图像中的工业零件图像之后,第一图像获取装置还应该将相应的之前存储的工业零件图像进行删除。
[0040] 进一步的,从所述图像数据中确定所述检验流水线的出口位置区域的图像,包括如下的步骤:
[0041] 步骤一、基于上述图像数据检测其中包含的不同的物体,并且使用预先设定的形状的边框分别针对不同的上述物体进行框选来分别得到多个由边框限定图像范围的边框图像,上述边框图像中包含上述物体的图像,还对于多个上述边框图像进行筛选;
[0042] 步骤二、根据上述图像数据检测其中包含的不同长度的线条,并且分别计算上述线条与所有的上述边框图像的边框的各边形成的小于等于九十度的角的正弦值,同时判断全部的上述正弦值与预先设定的正弦值阈值的大小关系,当全部的上述正弦值都大于等于上述正弦值阈值时删除上述线条;
[0043] 步骤三、在筛选后的上述边框图像中,选择一个还未经过处理的上述边框图像,并且计算上述边框图像的边框与距离其最近的若干上述线条的匹配度,在上述匹配度大于预先设定的匹配度阈值一的情况下,将上述边框图像确定为中间图像;
[0044] 步骤四、判断是否筛选后的所有的上述边框图像都已经过处理,若不是的话,跳转上一步继续执行,若是的话,在筛选后的所有的上述边框图像中查找至少边框的一边与上述中间图像的边框的任意一边平行的上述边框图像,并且计算上述边框图像的边框与距离其最近的若干上述线条的匹配度,在上述匹配度大于预先设定的匹配度阈值二的情况下,也将上述边框图像添加为上述中间图像;
[0045] 步骤五、对于全部的上述中间图像分别针对其中包含的上述物体的图像进行自动辨别,以分别得到与全部的上述中间图像相对应的上述物体的种类,并且使用所述种类为工业零件的所述中间图像组成所述检验流水线的出口位置区域的图像。
[0046] 进一步的,对于多个上述边框图像进行筛选的过程包括,分别计算每个上述边框图像的面积,以及上述图像数据的总面积,并且计算每个上述边框图像的面积占上述图像数据的总面积的比例,同时比较上述比例与预先设定的比例阈值的大小,在上述比例大于等于上述比例阈值的情况下,删除与上述比例相对应的上述边框图像。
[0047] 具体的,上述步骤一到上述步骤五提供了一种从第一图像获取装置获取的图像数据中自动确定出检验流水线的出口位置区域的图像的方法。在上述步骤一中,检测第一图像获取装置获取的图像数据中包含的不同的物体,并且使用固定形状的边框分别针对不同的物体进行框选,得到多个由边框限定图像范围的边框图像,其中,固定形状可以为正方形,或者长方形,还对边框图像进行筛选,目的是为了去除掉噪声边框图像。在上述步骤二中,在第一图像获取装置获取的图像数据中检测不同的线条,线条可能是上述不同区域中包含的物体被放置的特定位置的位置边界的线条,针对每一个线条,分别计算其与所有的边框图像的边框的各边形成的小于等于九十度的角的正弦值,如果计算得到的全部的正弦值都大于等于正弦值阈值的话,那么就删除相应的线条,因为相应的线条和所有的边框图像的边框的各边都偏离较远。在上述步骤三中,选择一个还未经过处理的筛选后的边框图像,计算边框图像的边框与距离其最近的若干线条的匹配度,该匹配度可以通过计算边框图像的边框与距离其最近的若干线条组成的边框的相似度得到,或者通过计算边框图像的边框与距离其最近的若干线条的重合率得到,如果匹配度大于匹配度阈值一的话,就将边框图像确定为中间图像。在上述步骤四中,继续对其他还未经过处理的筛选后的边框图像进行与上述步骤三相同的处理,直到筛选后的所有的边框图像都已经过处理,再在筛选后的所有的边框图像中查找至少边框的一边与中间图像的边框的任意一边平行的边框图像,并且计算边框图像的边框与距离其最近的若干线条的匹配度,如果匹配度大于匹配度阈值二的话,其中,匹配度阈值二小于匹配度阈值一,那么也将边框图像作为中间图像。在上述步骤五中,对于全部的中间图像分别针对其中包含的物体的图像进行自动辨别,分别得到与全部的中间图像相对应的物体的种类,这里同样可以使用机器学习算法辨别与全部的中间图像相对应的物体的种类,但是这里仅辨别物体的种类是否为工业零件,不辩别工业零件的具体类型,最后使用种类为工业零件的中间图像组成检验流水线的出口位置区域的图像。
[0048] 根据本发明实施例的另一个方面,参考如图2所示,还提供一种视觉系统的图像处理系统,包括第一辨别模块10,第二辨别模块20,学习模块30,用来实现如以上内容所描述的一种视觉系统的图像处理方法,包括如下的模块:
[0049] 第一辨别模块10,用于将工业零件放置在工厂的检验流水线上,并且在检验流水线的出口位置区域的上方设置第一图像获取装置,第一图像获取装置获取包含检验流水线的出口位置区域的图像在内的图像数据,同时从图像数据中确定检验流水线的出口位置区域的图像,将其中的工业零件图像与存储的工业零件图像进行相似性比对,当相似度大于预先设定的相似度阈值时,把工业零件图像所代表的工业零件的类型判定是存储的工业零件图像所代表的工业零件的类型,还根据工业零件图像针对与工业零件图像相对应的工业零件进行自动检查,在自动检查也通过时,将与工业零件图像相对应的工业零件通过运送装置运送到工厂的组装流水线的进口位置区域;
[0050] 第二辨别模块20,用于在工厂的组装流水线的远离进口位置区域的上方设置第二图像获取装置,使得第二图像获取装置能够获取组装流水线的远离进口位置区域的图像,并且基于组装流水线的远离进口位置区域的图像中的工业零件图像使用机器学习辨别与工业零件图像相对应的工业零件的类型;
[0051] 学习模块30,用于第二图像获取装置将组装流水线的远离进口位置区域的图像中的工业零件图像和与工业零件图像相对应的工业零件的类型传输给第一图像获取装置,用来与检验流水线的出口位置区域的图像中的工业零件图像进行相似性比对。
[0052] 根据本发明实施例的另一个方面,提供了一种计算机存储介质,计算机存储介质存储有程序指令,其中,在程序指令运行时控制计算机存储介质所在设备执行上述中任意一项的方法。
[0053] 根据本发明实施例的另一个方面,提供了一种处理器,处理器用于运行程序,其中,程序运行时执行上述中任意一项的方法。
[0054] 应该理解的是,虽然本发明各实施例的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,各实施例中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
[0055] 本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,上述的程序可存储于一个非易失性计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
[0056] 以上上述的实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
[0057] 以上上述的实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。
[0058] 以上上述的仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。