无人机深度图像的获取方法及无人机转让专利
申请号 : CN201510628505.7
文献号 : CN105225241B
文献日 : 2017-09-15
发明人 : 陈有生
申请人 : 广州极飞科技有限公司
摘要 :
权利要求 :
1.一种无人机深度图像的获取方法,其特征在于,包括以下步骤:
S1:通过无人机的机载相机采集预定场景的图像序列,其中,所述图像序列中第N帧图像和第N+1帧图像具有重叠区域且所述重叠区域的面积与所述第N帧图像或第N+1帧图像的面积之比高于预设比例;
S2:利用基于特征匹配的光流法得到所述重叠区域中第N帧图像的每个像素点在第N+1帧图像中的位置信息的变化情况,并根据所述位置信息的变化情况得到所述重叠区域中无人机的每个像素点在相机坐标系下的像素移动速度;
S3:获取所述无人机在世界坐标系下的实际飞行速度;以及
S4:根据每个所述重叠区域中无人机的每个像素点在相机坐标系下的像素移动速度、所述无人机在世界坐标系下的实际飞行速度以及所述机载相机的参数得到每个所述重叠区域的深度图像,根据每个所述重叠区域的深度图像整合得到所述预定场景的深度图像。
2.根据权利要求1所述的无人机深度图像的获取方法,其特征在于,所述S2,进一步包括:利用基于特征匹配的光流法得到所述重叠区域中无人机的每个像素点在所述相机坐标系下的移动距离,具体包括:根据同一个像素点在第N帧图像中的位置信息和第N+1帧图像中的位置信息,得到该像素点的位置信息变化情况,根据所述位置信息变化情况得到该像素点在所述相机坐标系下的移动距离;
对所述重叠区域中无人机的每个像素点在所述相机坐标系下的移动距离进行求导,得到所述重叠区域中无人机的每个像素点在所述相机坐标系下的像素移动速度。
3.根据权利要求1所述的无人机深度图像的获取方法,其特征在于,所述S4,进一步包括:根据小孔成像原理建立所述重叠区域中无人机的每个像素点在所述相机坐标系下的像素移动速度、所述无人机在世界坐标系下的实际飞行速度和所述无人机的飞行高度之间的关联关系;
根据所述关联关系得到所述重叠区域中无人机的每个像素点的深度值;
根据每个所述重叠区域中无人机的每个像素点的深度值得到每个所述重叠区域的深度图像,根据每个所述重叠区域的深度图像整合得到预定场景的深度图像。
4.根据权利要求3所述的无人机深度图像的获取方法,其特征在于,所述关联关系为:其中,所述vm为所述无人机在世界坐标系下的实际飞行速度,v为所述重叠区域中无人机的每个像素点在相机坐标系下的像素移动速度,Z为所述无人机的飞行高度,f为所述机载相机的焦距。
5.根据权利要求4所述的无人机深度图像的获取方法,其特征在于,所述重叠区域中无人机的每个像素点的深度值为:其中,Zi为所述重叠区域中第i个像素点的深度值,vi为第i个像素点在相机坐标系下的像素移动速度。
6.根据权利要求3所述的无人机深度图像的获取方法,其特征在于,还包括:判断所述相机坐标系和所述世界坐标系的方向是否一致;
如果所述相机坐标系和所述世界坐标系的方向不一致,则对所述相机坐标系的方向进行调整,以使所述相机坐标系的方向与所述世界坐标系的方向一致。
7.根据权利要求1-6任一项所述的无人机深度图像的获取方法,其特征在于,所述机载相机的视野角度低于预设角度,所述预设角度为60度。
8.根据权利要求7所述的无人机深度图像的获取方法,其特征在于,在所述S2之前,还包括:对所述图像序列中的图像的畸变进行校正。
9.根据权利要求1所述的无人机深度图像的获取方法,其特征在于,所述预设比例为
60%。
10.一种无人机,其特征在于,包括:
机载相机,所述机载相机用于采集预定场景的图像序列,其中,所述图像序列中第N帧图像和第N+1帧图像具有重叠区域且所述重叠区域的面积与所述第N帧图像或第N+1帧图像的面积之比高于预设比例;
计算模块,所述计算模块利用基于特征匹配的光流法得到所述重叠区域中第N帧图像的每个像素点在第N+1帧图像中的位置信息的变化情况,并根据所述位置信息的变化情况得到所述重叠区域中无人机的每个像素点在相机坐标系下的像素移动速度;
测量模块,所述测量模块用于获取所述无人机在世界坐标系下的实际飞行速度;以及获取模块,所述获取模块用于根据每个所述重叠区域中无人机的每个像素点在相机坐标系下的像素移动速度、所述无人机在世界坐标系下的实际飞行速度以及所述机载相机的参数得到每个所述重叠区域的深度图像,根据每个所述重叠区域的深度图像整合得到所述预定场景的深度图像。
11.根据权利要求10所述的无人机,其特征在于,所述计算模块用于:利用基于特征匹配的光流法得到所述重叠区域中无人机的每个像素点在所述相机坐标系下的移动距离,具体包括:根据同一个像素点在第N帧图像中的位置信息和第N+1帧图像中的位置信息,得到该像素点的位置信息的变化情况,根据所述位置信息的变化情况得到该像素点在所述相机坐标系下的移动距离;以及对所述重叠区域中无人机的每个像素点在所述相机坐标系下的移动距离进行求导,得到所述重叠区域中无人机的每个像素点在所述相机坐标系下的像素移动速度。
12.根据权利要求10所述的无人机,其特征在于,所述获取模块用于根据小孔成像原理建立所述重叠区域中无人机的每个像素点在所述相机坐标系下的像素移动速度、所述无人机在世界坐标系下的实际飞行速度和所述无人机的飞行高度之间的关联关系;
根据所述关联关系得到所述重叠区域中无人机的每个像素点的深度值;
根据每个所述重叠区域中无人机的每个像素点的深度值得到每个所述重叠区域的深度图像,根据每个所述重叠区域的深度图像整合得到预定场景的深度图像。
13.根据权利要求12所述的无人机,其特征在于,所述关联关系为:其中,所述vm为所述无人机在世界坐标系下的实际飞行速度,v为所述重叠区域中无人机的每个像素点在相机坐标系下的像素移动速度,Z为所述无人机的飞行高度,f为所述机载相机的焦距。
14.根据权利要求13所述的无人机,其特征在于,所述重叠区域中无人机的每个像素点的深度值为:其中,Zi为所述重叠区域中第i个像素点的深度值,vi为第i个像素点在相机坐标系下的像素移动速度。
15.根据权利要求12所述的无人机,其特征在于,还包括:
调整模块,所述调整模块用于判断所述相机坐标系和所述世界坐标系的方向是否一致,并在所述相机坐标系和所述世界坐标系的方向不一致时,对所述相机坐标系的方向进行调整,以使所述相机坐标系的方向与所述世界坐标系的方向一致。
16.根据权利要求10所述的无人机,其特征在于,所述机载相机通过自稳云台安装在所述无人机上。
17.根据权利要求10-16任一项所述的无人机,其特征在于,所述机载相机的视野角度低于预设角度,所述预设角度为60度。
18.根据权利要求17所述的无人机,其特征在于,所述机载相机还用于对所述图像序列中的图像的畸变进行校正。
19.根据权利要求10所述的无人机,其特征在于,所述预设比例为60%。
说明书 :
无人机深度图像的获取方法及无人机
技术领域
背景技术
测绘等),获取深度图无论对于理论研究还是对于工程实践都具有重要的意义。
法,例如双目视觉等。
其次该方法要求被测物体必须能够反射能量,如果大部分发射能量被吸收掉,那么就会导
致此方法的失效;最后该方法的可测量范围有限,因为发射的能量在大气中会被衰减,如果
距离太远,衰减就会严重,从而不能够准确测量出深度信息。另一方面,基于双目视觉的方
法需要两个相机,且两个相机之间必须要求有一定的距离,测量的距离越远两个相机间的
间距就要越大,对于小型无人机而言其增加了载荷,另外由于小型无人机的空间有限,从而
限制了两个相机间的最大距离。
发明内容
序列中第N帧图像和第N+1帧图像具有重叠区域且所述重叠区域的面积与所述第N帧图像或
第N+1帧图像的面积之比高于预设比例;S2:利用基于特征匹配的光流法得到所述重叠区域
中第N帧图像的每个像素点在第N+1帧图像中的位置信息的变化情况,并根据所述位置信息
的变化情况得到所述重叠区域中无人机的每个像素点在相机坐标系下的像素移动速度;
S3:获取所述无人机在世界坐标系下的实际飞行速度;以及S4:根据每个所述重叠区域中无
人机的每个像素点在相机坐标系下的像素移动速度、所述无人机在世界坐标系下的实际飞
行速度以及所述机载相机的参数得到每个所述重叠区域的深度图像,根据每个所述重叠区
域的深度图像整合得到所述预定场景的深度图像。
机坐标系下各像素点的像素移动速度,再利用如无人机机载GPS等设备测量出无人机在世
界坐标系下的实际飞行速度,最后通过无人机在相机坐标系下各像素点的像素移动速度、
无人机在世界坐标系下的实际飞行速度及飞行高度之间的关系,计算得到无人机的深度图
像,该方法能够准确获取深度图像,且操作流程简单、易于实现。同时,对被测物体是否能够
反射能量没有特定要求,可测距离足够远,不存在能量的衰减问题,适用范围广。另外,该方
法的实现都是利用现有无人机上的设备,不需要增加额外的设备,从而减小无人机的载荷,
也降低了测量成本,避免了由于能量衰减,或者被测物体表面吸收等问题导致的主动式测
量失败等问题。
在第N帧图像中的位置信息和第N+1帧图像中的位置信息,得到该像素点的位置信息变化情
况,根据所述位置信息变化情况得到该像素点在所述相机坐标系下的移动距离;对所述重
叠区域中无人机的每个像素点在所述相机坐标系下的移动距离进行求导,得到所述重叠区
域中无人机的每个像素点在所述相机坐标系下的像素移动速度。,为所述像素点在所述相
机坐标系下的移动距离;进行求导,得到所述无人机在所述相机坐标系下各像素点的像素
移动速度。
飞行速度和所述无人机的飞行高度之间的关联关系,其中,所述关联关系为:
述机载相机的焦距;
使所述相机坐标系的方向与所述世界坐标系的方向一致。
域且所述重叠区域的面积与所述第N帧图像或第N+1帧图像的面积之比高于预设比例;计算
模块,所述计算模块利用基于特征匹配的光流法得到所述重叠区域中第N帧图像的每个像
素点在第N+1帧图像中的位置信息的变化情况,并根据所述位置信息的变化情况得到所述
重叠区域中无人机的每个像素点在相机坐标系下的像素移动速度;测量模块,所述测量模
块用于获取所述无人机在世界坐标系下的实际飞行速度;以及获取模块,所述获取模块用
于根据每个所述重叠区域中无人机的每个像素点在相机坐标系下的像素移动速度、所述无
人机在世界坐标系下的实际飞行速度以及所述机载相机的参数得到每个所述重叠区域的
深度图像,根据每个所述重叠区域的深度图像整合得到所述预定场景的深度图像。
素移动速度,再利用如无人机机载GPS等设备测量出无人机在世界坐标系下的实际飞行速
度,最后通过无人机在相机坐标系下各像素点的像素移动速度、无人机在世界坐标系下的
实际飞行速度及飞行高度之间的关系,计算得到无人机的深度图像,因此该无人机能够准
确获取深度图像。同时,对被测物体是否能够反射能量没有特定要求,可测距离足够远,不
存在能量的衰减问题,适用范围广。另外,该无人机的实现都是利用现有无人机上的设备,
不需要增加额外的设备,从而减小无人机的载荷,也降低了测量成本,避免了由于能量衰
减,或者被测物体表面吸收等问题导致的主动式测量失败等问题。
在第N帧图像中的位置信息和第N+1帧图像中的位置信息,得到该像素点的位置信息的变化
情况,根据所述位置信息的变化情况得到该像素点在所述相机坐标系下的移动距离;以及
对所述重叠区域中无人机的每个像素点在所述相机坐标系下的移动距离进行求导,得到所
述重叠区域中无人机的每个像素点在所述相机坐标系下的像素移动速度。
行速度和所述无人机的飞行高度之间的关联关系,其中,所述关联关系为:
述机载相机的焦距;
例中,还包括:调整模块,所述调整模块用于判断所述相机坐标系和所述世界坐标系的方向
是否一致,并在所述相机坐标系和所述世界坐标系的方向不一致时,对所述相机坐标系的
方向进行调整,以使所述相机坐标系的方向与所述世界坐标系的方向一致。
附图说明
具体实施方式
图描述的实施例是示例性的,仅用于解释本发明,而不能理解为对本发明的限制。
之比高于预设比例。换言之,即通过无人机的机载相机拍摄得到被测物体的图像序列,并从
中提取两帧连续的图像,例如分别为第N帧图像和第N+1帧图像,并且,第N帧图像和第N+1帧
图像之间必须具有重叠区域。为了保证后续光流计算的准确性,该重叠区域的面积与第N帧
图像或第N+1帧图像的面积之比高于预设比例。更为具体地,在本发明的一个实施例中,预
设比例例如为60%,也即重叠区域的面积高于第N帧图像或第N+1帧图像面积的60%。
无人机上,例如图2所示。同时,为了减小相机拍摄的图像本身畸变影响,机载相机的视野角
度不能太大,在本发明的一个实施例中,选取的机载相机的视野角度低于预设角度,更为具
体地,预设角度例如为60度,例如图2所示。当然,预设角度的值不限于此,可以根据实际场
景需求而选定,此处仅是以示例性为目的的描述。
机的每个像素点在相机坐标系下的像素移动速度。
帧图像中的位置信息,得到该像素点的位置信息变化情况,根据该位置信息变化情况得到
该像素点在相机坐标系下的移动距离。作为具体的示例,例如,重叠区域中无人机的每个像
素点在相机坐标系下的移动距离的计算公式为:
动距离,进而通过该移动距离得到无人机的每个像素点在相机坐标系下的像素移动速度。
其中,基于特征匹配的光流法包括稠密算法和稀疏算法。稠密算法是图像中的每一个像素
点都参与计算,从而计算得到图像中每一个像素点的像素移动速度;稀疏光流法是在图像
中选取一部分易于跟踪的像素点,对选取的这部分易于跟踪的像素点进行光流运算,得到
这些易于跟踪的像素点的像素移动速度。其中,在本发明的一个实施例中,使用的基于特征
匹配的光流法例如为稠密光流法。需要说明的是,使用基于特征匹配的光流法计算无人机
的各像素点在相机坐标系下的像素移动速度仅是本发明的一种实施方式,并不能理解为对
本发明的限制,其它可以计算无人机各像素点在相机坐标系下的像素移动速度的方法也适
用于本发明,也属于本发明的保护范围之内。
图像,根据每个重叠区域的深度图像整合得到预定场景的深度图像。其中,在本发明的一个
实施例中,机载相机的参数例如包括机载相机的焦距。
联关系,其中,该关联关系为:
为一个已知常量。
物体)的深度图像。
标系的方向进行调整,以使相机坐标系的方向与世界坐标系的方向一致。
度(无人机在相机坐标系下各像素点的像素移动速度)和无人机本身实际飞行速度相结合
得到深度图像的方法都应在本发明的保护范围之内。
机在相机坐标系下各像素点的像素移动速度,再利用如无人机机载GPS等设备测量出无人
机在世界坐标系下的实际飞行速度,最后通过无人机在相机坐标系下各像素点的像素移动
速度、无人机在世界坐标系下的实际飞行速度及飞行高度之间的关系,计算得到无人机的
深度图像,该方法能够准确获取深度图像,且操作流程简单、易于实现。同时,对被测物体是
否能够反射能量没有特定要求,可测距离足够远,不存在能量的衰减问题,适用范围广。另
外,该方法的实现都是利用现有无人机上的设备,不需要增加额外的设备,从而减小无人机
的载荷,也降低了测量成本,避免了由于能量衰减,或者被测物体表面吸收等问题导致的主
动式测量失败等问题。
于预设比例。换言之,即机载相机110拍摄得到被测物体的图像序列,并从中提取两帧连续
的图像,例如分别为第N帧图像和第N+1帧图像,并且,第N帧图像和第N+1帧图像之间必须具
有重叠区域。为了保证后续光流计算的准确性,该重叠区域的面积与第N帧图像或第N+1帧
图像的面积之比高于预设比例,预设比例例如为60%,也即重叠区域的面积高于第N帧图像
或第N+1帧图像面积的60%。
台安装在无人机100上。同时,为了减小相机拍摄110的图像本身畸变影响,机载相机110的
视野角度不能太大,在本发明的一个实施例中,选取的机载相机110的视野角度低于预设角
度,更为具体地,预设角度例如为60度。当然,预设角度的值不限于此,可以根据实际场景需
求而选定,此处仅是以示例性为目的的描述。
续操作。
无人机的每个像素点在相机坐标系下的像素移动速度。
在第N帧图像中的位置信息和第N+1帧图像中的位置信息,得到该像素点的位置信息的变化
情况,根据位置信息的变化情况得到该像素点在相机坐标系下的移动距离;然后对重叠区
域中无人机的每个像素点在相机坐标系下的移动距离进行求导,得到重叠区域中无人机的
每个像素点在相机坐标系下的像素移动速度。
距离得到无人机的每个像素点在相机坐标系下的像素移动速度。其中,基于特征匹配的光
流法包括稠密算法和稀疏算法。稠密算法是图像中的每一个像素点都参与计算,从而计算
得到图像中每一个像素点的像素移动速度;稀疏光流法是在图像中选取一部分易于跟踪的
像素点,对选取的这部分易于跟踪的像素点进行光流运算,得到这些易于跟踪的像素点的
像素移动速度。其中,在本发明的一个实施例中,使用的基于特征匹配的光流法例如为稠密
光流法。需要说明的是,使用基于特征匹配的光流法计算无人机的各像素点在相机坐标系
下的像素移动速度仅是本发明的一种实施方式,并不能理解为对本发明的限制,其它可以
计算无人机各像素点在相机坐标系下的像素移动速度的方法也适用于本发明,也属于本发
明的保护范围之内。
度。
域的深度图像,根据每个重叠区域的深度图像整合得到预定场景的深度图像。其中,在本发
明的一个实施例中,机载相机的参数例如包括机载相机的焦距。
立重叠区域中无人机的每个像素点在相机坐标系下的像素移动速度、无人机在世界坐标系
下的实际飞行速度和无人机的飞行高度之间的关联关系,其中,该关联关系为:
为一个已知常量。
标系的方向不一致时,对相机坐标系的方向进行调整,以使相机坐标系的方向与世界坐标
系的方向一致。
度(无人机在相机坐标系下各像素点的像素移动速度)和无人机本身实际飞行速度相结合
得到深度图像的方法都应在本发明的保护范围之内。
素移动速度,再利用如无人机机载GPS等设备测量出无人机在世界坐标系下的实际飞行速
度,最后通过无人机在相机坐标系下各像素点的像素移动速度、无人机在世界坐标系下的
实际飞行速度及飞行高度之间的关系,计算得到无人机的深度图像,因此该无人机能够准
确获取深度图像。同时,对被测物体是否能够反射能量没有特定要求,可测距离足够远,不
存在能量的衰减问题,适用范围广。另外,该无人机的实现都是利用现有无人机上的设备,
不需要增加额外的设备,从而减小无人机的载荷,也降低了测量成本,避免了由于能量衰
减,或者被测物体表面吸收等问题导致的主动式测量失败等问题。
隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三
个等,除非另有明确具体的限定。
部的连通或两个元件的相互作用关系,除非另有明确的限定。对于本领域的普通技术人员
而言,可以根据具体情况理解上述术语在本发明中的具体含义。
第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方,或仅仅表示
第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第
一特征在第二特征正下方或斜下方,或仅仅表示第一特征水平高度小于第二特征。
点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不
必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任
一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技
术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结
合和组合。
实施例进行变化、修改、替换和变型。