低重合率显微图像的无缝拼接方法转让专利

申请号 : CN201710212589.5

文献号 : CN107093166B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 刘洪英陈雪蓉张烽肖志睿严斯能

申请人 : 华东师范大学

摘要 :

本发明公开一种低重合率显微图像的无缝拼接方法,所述方法包括以下步骤:选取参考图和待拼接图的感兴趣区域ROI,对ROI进行预处理;提取ROI的SURF特征点,采用FLANN方法对特征点进行粗匹配;根据两幅图像的偏移范围剔除空间距离过大的匹配对;统计余下匹配对的空间距离的离散分布,以最大分布概率所对应的区间为标准范围,进一步剔除误匹配对,若匹配对不足,返回前述步骤,修改特征提取参数及匹配参数,以获取更多匹配对;根据余下匹配对,计算两幅图像的位置关系;对待拼接图进行亮度调整,采取加权平均法对图像进行融合。该方法基于改进的SURF特征点配准方法,在图像低重叠率的情况下有效提高特征匹配精度和效率,从而提高图像拼接的质量和速度。

权利要求 :

1.一种低重合率显微图像的无缝拼接方法,其特征在于,该方法包括以下步骤:步骤1:选取参考图和待拼接图的感兴趣区域即ROI,对ROI进行预处理;

步骤2:提取ROI的SURF特征点,采用FLANN方法对特征点进行粗匹配;

步骤3:根据两幅图像的偏移范围剔除空间距离过大的匹配对;

步骤4:统计余下匹配对的空间距离的离散分布,以最大分布概率所对应的区间为标准范围,进一步剔除误匹配对;若匹配对不足,返回前述步骤,修改特征提取参数及匹配参数,以获取更多匹配对;

步骤5:根据余下匹配对,计算两幅图像的位置关系;

步骤6:对待拼接图进行亮度调整,采取加权平均法对图像进行融合;其中:所述低重合率为相邻图像间的重合率在3%~11%之间;

所述步骤3具体为:

根据多次所采集图像样本的特征,图像重叠率在3% 11%之间,垂直方向的偏移量在5%~以内,取较大边界11%和5%,得出对应的边界偏移量,以此为门限,对粗匹配结果中的每对匹配点,判断其空间距离是否满足该门限条件,满足则保留;不满足则视为误匹配被剔除;

所述步骤4具体为:

将匹配点对的空间距离划分为多个步长相等的区间,将空间距离离散化;对上一步所保留下来的所有匹配对,计算匹配对空间距离的离散分布情况;若次最大概率与最大概率的比值小于一定阈值T,则选取最大概率所对应区间为标准范围;若该比值大于一定阈值,且次最大概率与最大概率所对应区间相邻,则选取这两个相邻区间的中间段作为标准范围;其他情况,则返回步骤2,改变SURF特征点的提取参数,以及FLANN匹配的参数,以获取更多的匹配点对;依次判断每一对保留下来的匹配点对的空间距离是否满足该标准范围,满足条件的作为正确匹配对保留,不满足的视为误匹配对被剔除;判断最终保留下来的匹配对数是否达到一定数量,若数量不足,返回步骤2,改变SURF特征点的提取参数,以及FLANN匹配的参数,以获取更多的匹配点对;其中,一定阈值T取值范围为0.4 0.6。

~

2.根据权利要求1所述的低重合率显微图像的无缝拼接方法,其特征在于,所述步骤1具体为:读取参考图像I0(x, y)和待拼接图像I1(x, y),选取两幅图中包含重叠部分的临近区域作为感兴趣区域 ROI,采用中值滤波法去除ROI中的噪声点,其中,滤波窗口大小设置为3×3;

采用直方图均衡化的方法,扩大其动态范围,以增强图像的对比度。

3.根据权利要求1所述的低重合率显微图像的无缝拼接方法,其特征在于,所述步骤2具体为:分别提取ROI中的SURF特征点,每个特征点用一个等长的特征向量描述,提取出的特征点集分别记为F0和F1;

采用FLANN方法,对于F0中的每个特征点,在F1中找出与之特征向量距离最小的K个点,K=2,若最小距离与次小距离的比值小于一定阈值,则认为最小距离所对应的点是匹配的;

否则,认为F0中的该特征点在F1中是没有与其匹配的特征点;其中,一定阈值初始值设为

0.5。

4.根据权利要求1所述的低重合率显微图像的无缝拼接方法,其特征在于,所述步骤5具体为:对最终保留下来的匹配点对,根据匹配点的空间位置,采用平均法求取参考图像和待拼接图像的空间偏移量,确定两者之间的位置关系。

5.根据权利要求1所述的低重合率显微图像的无缝拼接方法,其特征在于,所述步骤6具体为:根据上一步得出的两幅图像的相对位置关系,确定两幅图像的真正重叠区域;

分别计算参考图像和待拼接图像间重叠区域的RGB颜色均值,得到参考图像的各颜色分量均值R0,G0,B0,以及待拼接图像的各颜色分量均值R1,G1,B1;

待拼接图像的颜色均值减去参考图像的颜色均值,得到颜色差值 Dr,Dg,Db,以此作为两幅图像的整体亮度差值;

对待拼接图像的每个像素点,各颜色分量分别加上Dr,Dg,Db,以将其亮度水平调整到与参考图像一致;

对参考图像和经过亮度调整的待拼接图像重叠区域的每个像素点,根据其所在位置,设置不同的权重,用渐进渐出的加权平均方法,对重叠区域进行融合,非重叠区则直接复制原图。

说明书 :

低重合率显微图像的无缝拼接方法

技术领域

[0001] 本发明涉及数字图像处理技术领域,特别涉及一种相邻显微图像低重合率下无缝拼接的方法。

背景技术

[0002] 生物样本的显微镜检观察一直存在非常耗时且效率低下的问题,目前全自动镜检平台逐步代替原有的人工镜检,这大大地节省了人力。为了获得大视野大场景的显微图像,需要对多场景下的图像进行拼接。若全自动镜检机需要N个不同小视野下的大视野图像,这需要有效地把这N个显微图像拼接成一副无缝图像,以备后续实现生物样本的自动分类、识别与计数。
[0003] 图像拼接应用于工业测量,其核心技术为图像配准技术,包括模板配准方法、相位相关度法和特征匹配法。这些方法以相邻图像的重叠区域为配准基础,依赖于图像本身的特征进行配准,因此拼接精度不高,计算量非常大,对重叠区域的重叠比例要求比较高,有的甚至要达到50%以上的重叠比例。当测量物镜倍数较高时,测量视场本身已经比较小的情况下,大的重叠比例严重制约了拼接对测量视场面积的扩大,特别是当重叠区域没有明显的特征时,甚至会出现无法匹配的情况。

发明内容

[0004] 本发明的目的在于提供一种低重合率显微图像的无缝拼接方法,该方法能够有效地提高多场景下图像拼接的精度与速度。
[0005] 实现本发明的技术方案是:
[0006] 一种低重合率显微图像的无缝拼接方法,该方法包括以下步骤:
[0007] 步骤1:选取参考图和待拼接图的感兴趣区域(ROI),对ROI进行预处理;
[0008] 步骤2:提取ROI的SURF(Speed-up robust feature)特征点,采用FLANN(Fast Library Approximate Nearest Neighbors)方法对特征点进行粗匹配;
[0009] 步骤3:根据两幅图像的偏移范围剔除空间距离过大的匹配对;
[0010] 步骤4:统计余下匹配对的空间距离的离散分布,以最大分布概率所对应的区间为标准范围,进一步剔除误匹配对;若匹配对不足,返回前述步骤,修改特征提取参数及匹配参数,以获取更多匹配对;
[0011] 步骤5:根据余下匹配对,计算两幅图像的位置关系;
[0012] 步骤6:对待拼接图进行亮度调整,采取加权平均法对图像进行融合;其中:
[0013] 所述低重合率为相邻图像间的重合率在3%~11%之间。
[0014] 所述步骤1具体为:
[0015] 读取参考图像I0(x, y)和待拼接图像I1(x, y),选取两幅图中包含重叠部分的临近区域作为感兴趣区域 ROI,采用中值滤波法去除ROI中的噪声点,其中,滤波窗口大小设置为3×3;
[0016] 采用直方图均衡化的方法,扩大其动态范围,以增强图像的对比度。
[0017] 所述步骤2具体为:
[0018] 分别提取ROI中的SURF特征点,每个特征点用一个等长的特征向量描述,提取出的特征点集分别记为F0和F1;
[0019] 采用FLANN方法,对于F0中的每个特征点,在F1中找出与之特征向量距离最小的K个点,K=2,若最小距离与次小距离的比值小于一定阈值,则认为最小距离所对应的点是匹配的;否则,认为F0中的该特征点在F1中是没有与其匹配的特征点;其中,一定阈值初始值设为0.5。
[0020] 所述步骤3具体为:
[0021] 根据多次所采集图像样本的特征,图像重叠率在3% 11%之间,垂直方向的偏移量~在5%以内,取较大边界11%和5%,得出对应的边界偏移量,以此为门限,对粗匹配结果中的每对匹配点,判断其空间距离是否满足该门限条件,满足则保留;不满足则视为误匹配被剔除。
[0022] 所述步骤4具体为:
[0023] 将匹配点对的空间距离划分为多个步长相等的区间,将空间距离离散化;对上一步所保留下来的所有匹配对,计算匹配对空间距离的离散分布情况;若次最大概率与最大概率的比值小于一定阈值T,则选取最大概率所对应区间为标准范围;若该比值大于一定阈值,且次最大概率与最大概率所对应区间相邻,则选取这两个相邻区间的中间段作为标准范围;其他情况,则返回步骤2,改变SURF特征点的提取参数,以及FLANN匹配的参数,以获取更多的匹配点对;依次判断每一对保留下来的匹配点对的空间距离是否满足该标准范围,满足条件的作为正确匹配对保留,不满足的视为误匹配对被剔除;判断最终保留下来的匹配对数是否达到一定数量,若数量不足,返回步骤2,改变SURF特征点的提取参数,以及FLANN匹配的参数,以获取更多的匹配点对;其中,一定阈值T取值范围为0.4 0.6。~
[0024] 所述步骤5具体为:
[0025] 对最终保留下来的匹配点对,根据匹配点的空间位置,采用平均法求取参考图像和待拼接图像的空间偏移量,确定两者之间的位置关系。
[0026] 所述步骤6具体为:
[0027] 根据上一步得出的两幅图像的相对位置关系,确定两幅图像的真正重叠区域;
[0028] 分别计算参考图像和待拼接图像间重叠区域的RGB颜色均值,得到参考图像的各颜色分量均值R0,G0,B0,以及待拼接图像的各颜色分量均值R1,G1,B1;
[0029] 待拼接图像的颜色均值减去参考图像的颜色均值,得到颜色差值 Dr,Dg,Db,以此作为两幅图像的整体亮度差值;
[0030] 对待拼接图像的每个像素点,各颜色分量分别加上Dr,Dg,Db,以将其亮度水平调整到与参考图像一致;
[0031] 对参考图像和经过亮度调整的待拼接图像重叠区域的每个像素点,根据其所在位置,设置不同的权重,用渐进渐出的加权平均方法,对重叠区域进行融合,非重叠区则直接复制原图。
[0032] 本发明的有益效果是:本发明所提出的一种低重合率下的显微图像无缝拼接方法,在相邻图像低重叠率的情况下采用改进的SURF特征点配准方法,有效提取图像特征并提高特征匹配的效率和精度,从而提高图像拼接的质量和拼接速度。

附图说明

[0033] 图1为本发明提供的获取的图像序列示意图;
[0034] 图2为本发明的流程图;
[0035] 图3为本发明改进的基于特征点的图像拼接方法流程图;
[0036] 图4为本发明提供的图像增强对特征点提取效果的影响示意图;图4(a)是未进行图像增强采用SURF算法提取的特征点;图4(b)是对图像增强采用SURF算法提取的特征点;
[0037] 图5为本发明提供的方法以及其他匹配方法的效果对比图;图5(a)是FLANN粗匹配的效果图、图5(b)是采用RANSAC算法对图5(a)进行误匹配剔除后的效果图、图5(c)是采用改进的特征点匹配方法对图5(a)剔除部分误匹配后的效果图;
[0038] 图6为本发明提供的采用亮度调整对融合质量提升的效果图;图6(a)是参考图像、6(b)是待拼接图像、6(c)是未进行亮度调整直接对图像融合后的效果图、6(d)是进行亮度调整而后对图像融合后的效果图;
[0039] 图7为采用本发明的图像拼接方法针对4×4的采集图像,拼接出来的效果图;图7(a)是原始的4×4的皮肤采集图像、7(b)是原始的4×4的结核杆菌采集图像;图7(c)是拼接后的皮肤图像、7(d)是拼接后的结核杆菌图像。

具体实施方式

[0040] 为了更加清楚明白地说明本发明所述的技术手段、技术改进及有益效果,以下结合附图对本发明进行详细的说明。
[0041] 自动镜检平台多采用步进电机控制载物台的运动,由于步进电机在精度方面的特性以及在运动过程中存在的回差问题,连续平移后采集到的图像并不能保证在X轴和Y轴的绝对对齐,总略有偏差,图1是自动镜检机获取的图像序列示意图;但步进电机总体上控制精度还是很高的,因此针对自动镜检机下获得的显微图像拼接问题,本发明所提供的一种基于低重合率下的显微图像无缝拼接方法,参见图2 和图3,包括以下几个步骤:
[0042] S101:选取参考图和待拼接图的感兴趣区域(ROI),对ROI进行预处理。
[0043] 该步骤具体为:
[0044] 读取参考图像I0(x, y)和待拼接图像I1(x, y);
[0045] 选取I0(x, y)和I1(x, y)中包括重叠区在内的邻近区域作为感兴趣区域(ROI),记为IR0和IR1;
[0046] 采用中值滤波法对IR0和IR1进行滤波以去除异常点,其中中值滤波的窗口大小设’ ’置为3×3,处理后的图像记为IR0 和IR1 ;
[0047] 对IR0’和IR1’,采用直方图均衡化的方法,扩大其动态范围,以增强图像的对比度,处理后的图像记为IR0’’和IR1’’。
[0048] S102:提取ROI的SURF特征点,采用FLANN方法对特征点进行粗匹配。
[0049] 该步骤具体为:
[0050] 分别提取IR0’’和IR1’’中的SURF特征点,提取出的特征点集分别记为F0和F1;
[0051] 采用FLANN方法,对于F0中的每个特征点,在F1中找出与之特征向量距离最小的K(K可设为2)个点,若最小距离与次小距离的比值小于一定阈值(初始值设为0.5),则认为最小距离所对应的点是匹配的;否则,认为F0中的该特征点在F1中是没有与其匹配的特征点;匹配对集合记为M1。
[0052] S103:根据两幅图像的偏移范围剔除空间距离过大的匹配对。
[0053] 该步骤具体为:
[0054] 根据多次所采集图像样本的特征,图像重叠率在3% 11%之间,垂直方向的偏移量~在5%以内,取较大边界11%和5%,得出对应的边界偏移量,以此为门限,对M1中每对匹配点,判断其空间距离是否满足该门限条件,满足则保留;不满足则视为误匹配被剔除。保留下来的匹配对组成的集合记为M2。
[0055] S104:统计余下匹配对的空间距离的离散分布,以最大分布概率所对应的区间为标准范围,进一步剔除误匹配对;若匹配对不足,返回S102,修改特征提取参数及匹配参数,以获取更多匹配对。
[0056] 该步骤具体为:
[0057] 将M2中匹配点对的空间距离划分为多个步长相等的区间d1, d2 , d3,…dn,将空间距离离散化;
[0058] 对M2中的所有匹配点对,计算其空间距离的离散分布情况,即落在各个区间的概率;
[0059] 最大概率记为P1, 次大概率记为P2, P2与P1的比值记为Ratio;
[0060] 若Ratio的值小于一定阈值(取值范围为0.4~0.6),选取P1所对应的区间作为标准区间ds;若Ratio大于一定阈值,且P1与P2所对应的区间相邻,则选取这两个区间的中间段作为标准区间ds;其他情况,则返回步骤S102,改变SURF特征点的提取参数,以及FLANN匹配的参数,以获取更多的匹配点对;
[0061] 依次判断M2中每一对匹配点对的空间距离是否属于标准区间ds,属于ds的作为正确匹配对保留,不属于的视为误匹配对被剔除,保留下来的匹配对的集合记为M3;
[0062] 判断M3中的匹配对数是否达到一定数量,若数量不足,返回步骤S102,改变SURF特征点的提取参数,以及FLANN匹配的参数,以获取更多的匹配点对。
[0063] S105:根据最终保留下来的匹配点对,计算参考图像和待拼接图像间的位置关系。
[0064] 该步骤具体为:
[0065] 对M3中的匹配点对,根据匹配点的空间位置,采用平均法求取参考图像和待拼接图像的空间偏移量,确定参考图像和匹配图像间的位置关系。
[0066] S106:对待拼接图像进行亮度调整,采取加权平均法对图像进行拼接融合。
[0067] 该步骤具体为:
[0068] 根据上一步得出的两幅图像的相对位置关系,确定两幅图像的真正重叠区域,I0(x, y)中的重叠区记为r0, I1(x, y)中的重叠区记为r1;
[0069] 分别计算r0和r1的RGB颜色均值,得到r0的各颜色分量均值R0,G0,B0,以及r1的各颜色分量均值R1,G1,B1;
[0070] R1,G1,B1与R0,G0,B0分别作差,得到颜色差值 Dr, Dg, Db,以此作为两幅图像的整体亮度差值;
[0071] 对待拼接图像I1(x, y)的每个像素点,各颜色分量分别加上Dr, Dg, Db,结果记为I1’(x, y),以将I1(x, y)的亮度水平调整到与参考图像I0(x, y)一致;
[0072] 对I0(x, y)和I1’(x, y)重叠区域的每个像素点,根据其所在位置,设置不同的权重,用渐进渐出的加权平均方法,对重叠区域进行融合,非重叠区则直接复制原图,得到拼接图像Imosaic。
[0073] 表1为本发明提供的应用本发明方法以及应用RANSAC方法提高匹配精度所耗费时间的对比图。
[0074] 表1
[0075]精匹配方法 RANSAC (s) 本发明提供的方法(s)
皮肤细胞图 0.140 0.027
结核杆菌图 0.513 0.021
[0076] 综上所述,本发明所提出的一种显微图像下低重合率的图像无缝拼接方法,在配准方法上基于SURF特征点,进一步通过图像增强方法提高图像的对比度,使图像的特征更为突出,利用FLANN算法对提取出的特征点进行粗匹配,而后采用基于匹配点之间空间距离特征的方法,逐步剔除粗匹配结果中的误匹配点对;若保留下来的正确匹配点对不足,可通过调整SURF特征点的提取参数,以及FLANN匹配的参数,以获取更多的匹配点对,从而提高配准精度;由于参考图像和待拼接图像会有一定的色差,通过图像亮度调整可大幅度提高图像融合后的效果。利用本发明方法为后续利用大视野的显微图像进行组织分析提供有效数据。根据不同的应用背景,本发明经过适当的修改同样适用于其他相关领域的图像拼接。
[0077] 以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。