车载摄像头的姿态估计方法、装置和系统及电子设备转让专利

申请号 : CN201810973920.X

文献号 : CN110858405A

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 戴兴王哲石建萍

申请人 : 北京市商汤科技开发有限公司

摘要 :

本发明提供一种车载摄像头的姿态估计方法、装置和系统及电子设备。该方法包括:基于车载摄像头采集的车辆行驶路面的视频流进行路面的车道线检测;根据车道线的检测结果获取车辆行驶路面的地平线信息;根据地平线信息获取车载摄像头的姿态信息。本发明提供的车载摄像头的姿态估计方法中车载摄像头的位置无需固定,且摄像头的姿态可实时获取,因此提高了车载摄像头的姿态估计准确度。

权利要求 :

1.一种车载摄像头的姿态估计方法,其特征在于,包括:基于车载摄像头采集的车辆行驶路面的视频流进行所述路面的车道线检测;

根据车道线的检测结果获取所述车辆行驶路面的地平线信息;

根据所述地平线信息获取所述车载摄像头的姿态信息。

2.根据权利要求1所述的方法,其特征在于,所述路面为结构化道路;和/或,所述车载摄像头安装在所述车辆的前挡风玻璃上的任意位置。

3.根据权利要求1或2所述的方法,其特征在于,所述车载摄像头的姿态信息包括所述车载摄像头的旋转角,所述根据所述地平线信息获取所述车载摄像头的姿态信息,包括:根据所述地平线的斜率信息确定所述车载摄像头的旋转角。

4.根据权利要求1-3中任一项所述的方法,其特征在于,所述根据车道线的检测结果获取所述车辆行驶路面的地平线信息,包括:根据所述车道线的检测结果拟合车道线,得到至少两条车道线的车道线信息;

根据所述至少两条车道线的车道线信息,获取车道线的视觉交点;

根据所述车道线的视觉交点,获取地平线信息。

5.一种车载摄像头的姿态估计装置,其特征在于,包括:车道线检测模块,用于基于车载摄像头采集的车辆行驶路面的视频流进行所述路面的车道线检测;

地平线信息获取模块,用于根据车道线的检测结果获取所述车辆行驶路面的地平线信息;

姿态信息获取模块,用于根据所述地平线信息获取所述车载摄像头的姿态信息。

6.根据权利要求5所述的装置,其特征在于,所述路面为结构化道路;和/或,所述车载摄像头安装在所述车辆的前挡风玻璃上的任意位置。

7.根据权利要求5或6所述的装置,其特征在于,所述车载摄像头的姿态信息包括所述车载摄像头的旋转角,所述姿态信息获取模块包括:旋转角获取单元,用于根据所述地平线的斜率信息确定所述车载摄像头的旋转角。

8.一种电子设备,其特征在于,包括:

存储器,用于存储程序指令;

处理器,用于调用并执行所述存储器中的程序指令,执行如权利要求1-4任一项所述的方法步骤。

9.一种可读存储介质,其特征在于,所述可读存储介质中存储有计算机程序,所述计算机程序用于执行如权利要求1-4任一项所述的方法步骤。

10.一种车载摄像头的姿态估计系统,应用于车辆,其特征在于,包括安装在所述车辆上的摄像头以及与所述摄像头通信连接的如权利要求5-7任一项所述的车载摄像头的姿态估计装置。

说明书 :

车载摄像头的姿态估计方法、装置和系统及电子设备

技术领域

[0001] 本发明涉及辅助驾驶技术,尤其涉及一种车载摄像头的姿态估计方法、装置和系统及电子设备。

背景技术

[0002] 高级驾驶辅助系统(Advanced Driver Assistant System,ADAS)是利用安装在车辆(汽车、电动车、火车等)上的各式各样传感器,在车辆行驶过程中随时来感应周围的环境,从而辅助驾驶者操控车辆以及向驾驶者预警可能发生的危险,提高驾驶者在行驶过程中的安全性以及舒适性。
[0003] 在ADAS中,车载摄像头作为主要的传感器,其所采集的数据尤为重要。通常车载摄像头以特定的姿态工作,其所采集的数据均为该特定姿态下的数据,而且车辆行驶过程中车载摄像头可能发生震动、车载摄像头的维修过程可能对车载摄像头进行拆装,均会导致车载摄像头的姿态发生变化,因此需要实时获取车载摄像头的姿态。

发明内容

[0004] 本发明实施例提供一种车载摄像头的姿态估计及其应用的技术方案。
[0005] 第一方面,本发明实施例提供一种车载摄像头的姿态估计方法,包括:
[0006] 基于车载摄像头采集的车辆行驶路面的视频流进行所述路面的车道线检测;
[0007] 根据车道线的检测结果获取所述车辆行驶路面的地平线信息;
[0008] 根据所述地平线信息获取所述车载摄像头的姿态信息。
[0009] 在第一方面的一种可行的实施方式中,所述路面为结构化道路;和/或,所述车载摄像头安装在所述车辆的前挡风玻璃上的任意位置。
[0010] 在第一方面的一种可行的实施方式中,所述车载摄像头的姿态信息包括所述车载摄像头的旋转角,所述根据所述地平线信息获取所述车载摄像头的姿态信息,包括:
[0011] 根据所述地平线的斜率信息确定所述车载摄像头的旋转角。
[0012] 在第一方面的一种可行的实施方式中,所述车载摄像头的姿态信息包括所述车载摄像头的水平偏角;所述根据所述地平线信息获取所述车载摄像头的姿态信息,包括:
[0013] 根据所述地平线信息获取所述车辆的航线信息;
[0014] 根据所述航线信息,获取所述车载摄像头的水平偏角。
[0015] 在第一方面的一种可行的实施方式中,所述根据所述航线信息,获取所述车载摄像头的水平偏角,包括:
[0016] 根据所述航线信息和所述车载摄像头的焦距,获取所述车载摄像头的水平偏角。
[0017] 在第一方面的一种可行的实施方式中,所述车载摄像头的姿态信息包括所述车载摄像头的俯仰角。
[0018] 在第一方面的一种可行的实施方式中,所述根据所述地平线信息获取所述车载摄像头的姿态信息,包括:
[0019] 根据所述地平线信息和所述车载摄像头的焦距,获取所述车载摄像头的俯仰角。
[0020] 在第一方面的一种可行的实施方式中,所述根据车道线的检测结果获取所述车辆行驶路面的地平线信息,包括:
[0021] 根据所述车道线的检测结果拟合车道线,得到至少两条车道线的车道线信息;
[0022] 根据所述至少两条车道线的车道线信息,获取车道线的视觉交点;
[0023] 根据所述车道线的视觉交点,获取地平线信息。
[0024] 在第一方面的一种可行的实施方式中,所述根据所述车道线的检测结果拟合车道线,得到至少两条车道线的车道线信息,包括:
[0025] 根据所述车道线的检测结果,获取属于车道线的车道线像素点;
[0026] 根据所述车道线像素点拟合车道线,得到至少两条车道线的车道线信息。
[0027] 在第一方面的一种可行的实施方式中,所述根据所述车道线的视觉交点,获取地平线信息,包括:
[0028] 根据所述视频流包括的多帧图像中的每帧图像内的车道线的视觉交点,获取交点概率图;
[0029] 根据所述交点概率图,获取属于地平线的视觉交点;
[0030] 根据获取到的属于地平线的视觉交点,获取所述地平线信息。
[0031] 在第一方面的一种可行的实施方式中,所述根据所述地平线信息获取所述车辆的航线信息,包括:
[0032] 根据所述地平线信息和所述车载摄像头的灭点,获取所述车辆的航线信息。
[0033] 在第一方面的一种可行的实施方式中,所述车载摄像头的姿态估计方法还包括:
[0034] 根据所述视频流包括的多帧图像中的每帧图像内的至少两条车道线的视觉交点,获取属于地平线的视觉交点;
[0035] 对所述获取到的属于地平线的视觉交点进行均值处理,获取所述车载摄像头的灭点。
[0036] 在第一方面的一种可行的实施方式中,所述车载摄像头的姿态估计方法还包括:
[0037] 根据所述视频流中至少两帧图像,获取车道线的概率图像,所述概率图像中的各像素点的取值指示各像素点属于车道线的概率;
[0038] 根据所述概率图像获取至少两条车道线的车道线信息;
[0039] 根据所述至少两条车道线的车道线信息,获取所述车载摄像头的灭点。
[0040] 在第一方面的一种可行的实施方式中,所述车载摄像头的姿态估计方法还包括:
[0041] 根据所述姿态信息标定所述车载摄像头;和/或,
[0042] 根据所述姿态信息确定所述车辆的定位信息。
[0043] 第二方面,本发明实施例还提供一种车载摄像头的姿态估计装置,包括:
[0044] 车道线检测模块,用于基于车载摄像头采集的车辆行驶路面的视频流进行所述路面的车道线检测;
[0045] 地平线信息获取模块,用于根据车道线的检测结果获取所述车辆行驶路面的地平线信息;
[0046] 姿态信息获取模块,用于根据所述地平线信息获取所述车载摄像头的姿态信息。
[0047] 在第二方面的一种可行的实施方式中,所述路面为结构化道路和/或,所述车载摄像头安装在所述车辆的前挡风玻璃上的任意位置。
[0048] 在第二方面的一种可行的实施方式中,所述车载摄像头的姿态信息包括所述车载摄像头的旋转角,所述姿态信息获取模块包括:
[0049] 旋转角获取单元,用于根据所述地平线的斜率信息确定所述车载摄像头的旋转角。
[0050] 在第二方面的一种可行的实施方式中,所述车载摄像头的姿态信息包括所述车载摄像头的水平偏角;所述车载摄像头的姿态估计装置还包括:航线信息获取模块,用于根据所述地平线信息获取所述车辆的航线信息;
[0051] 所述姿态信息获取模块包括:
[0052] 水平偏角获取单元,用于根据所述航线信息,获取所述车载摄像头的水平偏角。
[0053] 在第二方面的一种可行的实施方式中,所述水平偏角获取单元具体用于,根据所述航线信息和所述车载摄像头的焦距,获取所述车载摄像头的水平偏角。
[0054] 在第二方面的一种可行的实施方式中,所述车载摄像头的姿态信息包括所述车载摄像头的俯仰角。
[0055] 在第二方面的一种可行的实施方式中,所述姿态信息获取模块包括:
[0056] 俯仰角获取单元,用于根据所述地平线信息和所述车载摄像头的焦距,获取所述车载摄像头的俯仰角。
[0057] 在第二方面的一种可行的实施方式中,所述地平线信息获取模块包括:
[0058] 车道线信息获取单元,用于根据所述车道线的检测结果拟合车道线,得到至少两条车道线的车道线信息;
[0059] 交点获取单元,用于根据所述至少两条车道线的车道线信息,获取车道线的视觉交点;
[0060] 地平线信息获取单元,用于根据所述车道线的视觉交点,获取地平线信息。
[0061] 在第二方面的一种可行的实施方式中,所述车道线信息获取单元具体用于,根据所述车道线的检测结果,获取属于车道线的车道线像素点;
[0062] 根据所述车道线像素点拟合车道线,得到至少两条车道线的车道线信息。
[0063] 在第二方面的一种可行的实施方式中,所述地平线信息获取单元具体用于,[0064] 根据所述视频流包括的多帧图像中的每帧图像内的车道线的视觉交点,获取交点概率图;
[0065] 根据所述交点概率图,获取属于地平线的视觉交点;
[0066] 根据获取到的属于地平线的视觉交点,获取所述地平线信息。
[0067] 在第二方面的一种可行的实施方式中,所述航线信息获取模块具体用于,根据所述地平线信息和所述车载摄像头的灭点,获取所述车辆的航线信息。
[0068] 在第二方面的一种可行的实施方式中,所述车载摄像头的姿态估计装置还包括:灭点获取模块,用于根据所述视频流包括的多帧图像中的每帧图像内的至少两条车道线的视觉交点,获取属于地平线的视觉交点;
[0069] 对所述获取到的属于地平线的视觉交点进行均值处理,获取所述车载摄像头的灭点。
[0070] 在第二方面的一种可行的实施方式中,所述车载摄像头的姿态估计装置还包括:灭点获取模块,用于根据所述视频流中至少两帧图像,获取车道线的概率图像,所述概率图像中的各像素点的取值指示各像素点属于车道线的概率;
[0071] 根据所述概率图像获取至少两条车道线的车道线信息;
[0072] 根据所述至少两条车道线的车道线信息,获取所述车载摄像头的灭点。
[0073] 在第二方面的一种可行的实施方式中,所述车载摄像头的姿态估计装置还包括:
[0074] 摄像头标定模块,用于根据所述姿态信息标定所述车载摄像头;和/或,[0075] 车辆定位模块,用于根据所述姿态信息确定所述车辆的定位信息。
[0076] 第三方面,本发明实施例提供一种电子设备,包括:
[0077] 存储器,用于存储程序指令;
[0078] 处理器,用于调用并执行所述存储器中的程序指令,执行如上述第一方面任意一种可行的实施方式中的方法步骤。
[0079] 第四方面,本发明实施例提供一种可读存储介质,所述可读存储介质中存储有计算机程序,所述计算机程序用于执行如上述第一方面任意一种可行的实施方式中的方法步骤。
[0080] 第五方面,本发明实施例提供一种车载摄像头的姿态估计系统,应用于车辆,包括安装在所述车辆上的摄像头以及与所述摄像头通信连接的如上述第二方面任意一种可行的实施方式中的车载摄像头的姿态估计装置。
[0081] 本发明实施例提供的车载摄像头的姿态估计方法和装置,包括:基于车载摄像头采集的车辆行驶路面的视频流进行路面的车道线检测;根据车道线的检测结果获取车辆行驶路面的地平线信息;根据地平线信息获取车载摄像头的姿态信息。本发明提供的车载摄像头的姿态估计方法中车载摄像头的位置无需固定,且摄像头的姿态可实时获取,因此提高了车载摄像头的姿态估计准确度。

附图说明

[0082] 为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
[0083] 图1为本发明实施例一提供的车载摄像头的姿态估计方法的流程示意图;
[0084] 图2为本发明实施例适用的应用场景;
[0085] 图3为本发明实施例中车载摄像头拍摄得到的图像示意图一;
[0086] 图4为本发明实施例中车载摄像头拍摄得到的图像示意图二;
[0087] 图5为本发明实施例二提供的车载摄像头的姿态估计方法的流程示意图;
[0088] 图6为本发明实施例三提供的车载摄像头的姿态估计方法的流程示意图;
[0089] 图7为本发明实施例提供的车载摄像头的俯仰角估计的原理示意图;
[0090] 图8为本发明实施例提供的车载摄像头的水平偏角估计的原理示意图;
[0091] 图9为本发明实施一例提供的车载摄像头的姿态估计装置的结构示意图;
[0092] 图10为本发明实施二例提供的车载摄像头的姿态估计装置的结构示意图;
[0093] 图11为本发明实施例提供的电子设备的实体框图;
[0094] 图12为本发明实施例提供的车载摄像头的姿态估计系统的架构示意图。

具体实施方式

[0095] 为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
[0096] 图1为本发明实施例一提供的车载摄像头的姿态估计方法的流程示意图。本实施例中,对车载摄像头拍摄得到的图像进行车道线检测,根据车道线检测结果确定图像内的车道线信息,再根据各图像内的车道线信息获取摄像头的姿态,计算量较少且降低了对摄像头的位置要求。本实施例的执行主体可以为车载摄像头。如图1所示,本发明实施例提供的车载摄像头的姿态估计方法,包括如下步骤:
[0097] S101、基于车载摄像头采集的车辆行驶路面的视频流进行所述路面的车道线检测。
[0098] 示例性的,本实施例应用于安装有车载摄像头的车辆中,车载摄像头能够拍摄路面信息。图2为本发明实施例适用的应用场景,如图2所示,车辆行驶在道路上时,设置在车辆正面的车载摄像头拍摄路面,车载摄像头采集的车辆行驶路面的视频流,视频流中包括至少一帧图像。示例性的,本发明各实施例中车载摄像头安装在车辆的前挡风玻璃上的任意位置。
[0099] 可选的,本申请各实施例中的路面为结构化道路。结构化道路一般是指高速公路、城市干道等结构化较好的公路,这类道路具有如车道线等道路标志线,道路的背景环境比较单一,道路的几何特征也比较明显。非结构化道路一般是指城市非主干道、乡村街道等结构化程度较低的道路,这类道路没有车道线和/或清晰的道路边界,再加上受阴影和水迹等的影响,道路区域和非道路区域难以区分。将本发明实施例提供的技术方案应用在结构化道路上,车载摄像头的姿势估计效果好、结果准确。
[0100] 可选的,确定车辆行驶在结构化道路上的过程具体可以包括:
[0101] 基于车载摄像头采集的车辆行驶路面的视频流进行路面的车道线检测;在视频流中存在一图像中包含至少两条车道线时,确定车辆行驶在结构化道路上。
[0102] 示例性的,当车辆在路面上行驶并打开车载摄像头开始拍摄时,对摄像头拍摄得到的图像进行路面的车道线检测,当检测到某一帧图像中包含至少两条车道线时,可确定车辆行驶在结构化道路上。可选的,可以是检测到某一帧图像中包含与车辆相邻的至少两条车道线,则确定车辆行驶在结构化道路上。
[0103] 示例性的,车道线检测结果可以包括车道线信息。
[0104] 可选的,上述车道线信息可以是车辆左右弦的两条车道线的信息或者路面上的任意两条车道线的信息。该两条车道线既可以是直车道线,也可以是弯车道线,本公开实施例对此不做限制。
[0105] 上述车道线信息可以通过车道线函数表示,车道线信息的获取过程将在下述实施例中进行说明。
[0106] S102、根据车道线的检测结果获取车辆行驶路面的地平线信息。
[0107] 示例性的,地平线信息可以为车载摄像头拍摄得到的图像中的地平线函数。
[0108] 可选的,一种可行的获取地平线信息的方法包括:
[0109] S11、根据车道线的检测结果拟合车道线,得到至少两条车道线的车道线信息。
[0110] 示例性的,对于车载摄像头采集到的视频流中的至少两帧图像中的每一帧图像,获取图像中的至少两条车道线对应的车道线函数。图3为本发明实施例中车载摄像头拍摄得到的图像示意图一。图4为本发明实施例中车载摄像头拍摄得到的图像示意图二。如图3和图4所示,可通过特征提取等算法对图像进行检测,获取图像中的车道线,车道线一般为如图3所示的直线和如图4所示的曲线。示例性的,以图像左上角为坐标原点,可拟合出车道线在图像中的车道线函数。
[0111] 可选的,获取图像中的至少两条车道线对应的车道线函数,具体包括:
[0112] S111、根据所述车道线的检测结果,获取属于车道线的车道线像素点。
[0113] 示例性的,考虑到车道线存在连续,通常为直线、曲线等特性,可采用图像分割算法、特征提取算法、卷积神经网络算法等,对图像中的车道进行检测,根据检测结果在图像中标记的属于车道线的车道线像素点。
[0114] S112、根据车道线像素点拟合车道线,得到至少两条车道线的车道线信息。
[0115] 示例性的,在确定了图像中属于车道线的车道线像素点后,利用OpenCV对图像中的车道像素点进行曲线函数拟合处理,即可得到图像中的所有车道线的车道线函数。示例性的,对于直车道线,车道线函数通常为一次函数。
[0116] S12、根据至少两条车道线的车道线信息,获取车道线的视觉交点。
[0117] 示例性的,根据透视原理,车道线在地平线处相交,因此,各车道线函数的视觉交点落在地平线上。根据各车道线函数即可获取图像内视觉交点的坐标。示例性的,当车道线为曲线时,将车道线函数在图像像素坐标范围内的点作为车道线函数的视觉交点。
[0118] S13、根据车道线的视觉交点,获取地平线信息。
[0119] 示例性的,考虑到车道线的视觉交点位于地平线上,因此可根据获取的每帧图像内的视觉交点,获取地平线函数。
[0120] 示例性的,在本实施例的基础上,在上述S102中的获取地平线信息之后,车载摄像头的姿态估计还包括:
[0121] S1021、根据地平线信息和车载摄像头的灭点,获取车辆的航线信息。
[0122] 示例性的,航线信息可以为航线函数。灭点随着车载摄像头的视角移动,车载摄像头的灭点指车载摄像头拍摄的航线的路面消失点。根据透视原理,由于车辆行驶航线与地平线垂直,且车载摄像头在图像中的灭点位于车辆行驶航线上,因此,可根据获取到的地平线函数和图像灭点,获取车辆行驶的航线函数。
[0123] S103、根据地平线信息获取车载摄像头的姿态信息。
[0124] 示例性的,车载摄像头的姿态信息包括如下中的至少一项:车载摄像头的旋转角、俯仰角和水平偏角。
[0125] 示例性的,随着车载摄像头的姿态的变化,车载摄像头拍摄得到的图像中的地平线和航线不同,因此可根据获取到的地平线信息和航线信息获取车载摄像头的姿态。
[0126] 示例性的,具体可根据地平线的斜率信息确定车载摄像头的旋转角。根据航线信息,获取车载摄像头的水平偏角。根据地平线信息获取所述车载摄像头的俯仰角。
[0127] 本发明实施例提供的车载摄像头的姿态估计方法,包括:基于车载摄像头采集的车辆行驶路面的视频流进行路面的车道线检测;根据车道线的检测结果获取车辆行驶路面的地平线信息;根据地平线信息获取车载摄像头的姿态信息。本发明提供的车载摄像头的姿态估计方法中车载摄像头的位置无需固定,且摄像头的姿态可实时获取,因此提高了车载摄像头的姿态估计准确度。
[0128] 示例性的,上述实施例所涉及的方案可以应用于智能驾驶场景中,例如辅助驾驶或者自动驾驶场景中,通过实时获取准确的车载摄像头的姿态,可提高辅助驾驶或者自动驾驶的安全性。示例性的,在获取摄像头的姿态信息后,可进一步根据车载摄像头的姿态信息来进行摄像头的姿态的自标定和/或车辆定位等。
[0129] 示例性的,上述实施例的基础上,本发明实施例还提供一种车载摄像头的姿态估计方法。图5为本发明实施例二提供的车载摄像头的姿态估计方法的流程示意图。本实施例中对根据车道线的视觉交点获取地平线信息的过程进行详细解释。如图5所示,根据车道线的视觉交点获取地平线信息,包括:
[0130] S501、根据视频流包括的多帧图像中的每帧图像内的车道线的视觉交点,获取交点概率图。
[0131] 示例性的,对于视频流包括的多帧图像中的N帧图像,统计每帧图像内的视觉交点的像素坐标,根据N帧图像内的视觉交点的像素坐标,得到交点概率图,交点概率图中的每个像素点的取值为N帧图像内的视觉交点位于该像素点处的图像数量。其中,N为大于1的正整数。
[0132] S502、根据交点概率图,获取属于地平线的视觉交点。
[0133] 示例性的,在获取到交点概率图后,采用基于密度的聚类算法,去掉离群点,在交点概率图中确定出属于地平线的视觉交点。
[0134] S503、根据获取到的属于地平线的视觉交点,获取地平线信息。
[0135] 示例性的,在获取到属于地平点的视觉交点后,可根据各视觉交点的坐标构建地平线函数,地平线函数为一次函数。示例性的,在一种可能的实现方式中,以图像左上角为坐标原点,地平线函数可以为Y=100。此时,图像的地平线为一条水平线。
[0136] 示例性的,本实施例基于透视原理,考虑到各车道线的视觉交点位于地平线,因此可根据各图像内的车道线的视觉交点确定地平线信息,简化了地平线信息的获取方式,减少了车载摄像头的姿态估计的计算量。
[0137] 进一步的,在上述任一实施例的基础上,灭点的获取方式示例性的可以为:
[0138] 第一种灭点的获取方式:
[0139] 对获取到的属于地平线的视觉交点进行均值处理,获取车载摄像头的灭点。
[0140] 示例性的,根据透视原理,考虑到灭点位于地平线上,根据属于地平线的视觉交点的坐标,对各视觉交点的横纵坐标分别取平均值,即可确定出灭点的横纵坐标,从而得到灭点。
[0141] 第二种灭点的获取方式:
[0142] 图6为本发明实施例三提供的车载摄像头的姿态估计方法的流程示意图。如图6所示,灭点的获取过程包括:
[0143] S601、根据视频流包括的多帧图像中至少两帧图像,获取车道线的概率图像。
[0144] 其中,概率图像中的各像素点的取值指示各像素点属于车道线的概率。
[0145] 示例性的,在一种可能实现方式中,对于N帧图像,考虑到直车道线的数量远多于弯车道线的数量,因此,可根据统计得到直车道线的概率图像。概率图像中的各像素点的取值指示各像素点属于车道线的概率。可选的,概率图像中的像素点的取值还可指示N帧图像中该像素点属于车道线的次数。
[0146] S602、根据概率图像获取至少两条车道线的车道线信息。
[0147] 示例性的,在概率图像中确定属于车道线的像素点,根据属于车道线的像素点,即可拟合出车道线的函数。
[0148] S603、根据至少两条车道线的车道线信息获取车载摄像头的灭点。
[0149] 示例性的,根据透视原理,获取各车道线的函数的视觉交点作为灭点。
[0150] 示例性的,本实施例基于透视原理,考虑到车道线的视觉交点即为灭点,基于多帧图像统计得到概率图像,进而确定出车道线函数,从而根据车道线的视觉交点获取灭点,简化了灭点的获取方式,减少了车载摄像头的姿态估计的计算量。
[0151] 进一步的,在上述任一实施例的基础上,根据地平线函数获取车载摄像头的俯仰角,具体包括:
[0152] 根据地平线信息和车载摄像头的焦距,获取车载摄像头的俯仰角。
[0153] 示例性的,根据车载摄像头的主光轴映射在图像中的像素点到地平线函数的距离和车载摄像头的焦距,获取车载摄像头的俯仰角。
[0154] 示例性的,获取车载摄像头的主光轴映射在图像中的像素点到地平线函数的距离D1,根据arctan(D1/(f*PM))获取车载摄像头的俯仰角;
[0155] 其中,f为车载摄像头的焦距,PM为车载摄像头采集的图像的内参,内参的单位为像素/毫米,指示成像元件上每毫米可以成像的像素数。
[0156] 图7为本发明实施例提供的车载摄像头的俯仰角估计的原理示意图。图7为车辆在路面上行驶的侧视图。如图7所示,BE为车辆行驶的路面,BD垂直于地面,AD平行于地面,AD所在虚线表示与摄像头同高度的地面平行线。MA为f,即车载摄像头的焦距。MN为摄像头中的成像元件的尺寸。θ为车载摄像头的俯仰角,tanθ=MN/f。同时,车载摄像头的主光轴映射在图像中的像素点为P点,PQ为车载摄像头的主光轴映射在图像中的像素点到地平线函数的距离D1,D1的单位为像素,MN=PQ/PM。
[0157] 具体的,根据航线信息,获取车载摄像头的水平偏角,包括;
[0158] 根据航线信息和车载摄像头的焦距,获取车载摄像头的水平偏角。
[0159] 示例性的,根据车载摄像头的主光轴映射在图像中的像素点到航线函数的距离和车载摄像头的焦距,获取车载摄像头的水平偏角。
[0160] 示例性的,获取车载摄像头的主光轴映射在图像中的像素点到航线函数的距离D2,根据arctan(D2/(f*PM))获取车载摄像头的水平偏角。
[0161] 示例性的,图8为本发明实施例提供的车载摄像头的水平偏角估计方法的原理示意图。图8为车辆在路面上行驶的俯视图。如图8所示,ψ为车载摄像头的水平偏角,GAC为车辆的航向,tanψ=GH/f。其中,GH为摄像头中的成像元件的尺寸,GH=CD/PM。车载摄像头的主光轴映射在图像中的像素点为D点,CD为车载摄像头的主光轴映射在图像中的像素点到航线函数的距离D2。
[0162] 具体的,根据地平线信息获取车载摄像头的姿态信息,包括:
[0163] 根据地平线的斜率信息确定车载摄像头的旋转角。
[0164] 示例性的,地平线函数在图像中为一次函数,当车载摄像头未旋转时,地平线函数为水平的直线。当车载摄像头发生旋转时,地平线函数的斜率即可指示车载摄像头的旋转角。
[0165] 本发明实施例另一方面还提供一种车载摄像头的姿态估计装置,图9为本发明实施例一提供的车载摄像头的姿态估计装置的结构示意图。如图9所示,车载摄像头的姿态估计装置包括:
[0166] 车道线检测模块901,用于基于车载摄像头采集的车辆行驶路面的视频流进行所述路面的车道线检测;
[0167] 地平线信息获取模块902,用于根据车道线的检测结果获取所述车辆行驶路面的地平线信息;
[0168] 姿态信息获取模块903,用于根据所述地平线信息获取所述车载摄像头的姿态信息。
[0169] 可选的,所述路面为结构化道路,和/或,所述车载摄像头安装在所述车辆的前挡风玻璃上的任意位置。
[0170] 可选的,所述车载摄像头的姿态信息包括所述车载摄像头的旋转角。
[0171] 示例性的,在图9所述实施例的基础上,图10为本发明实施例二提供的车载摄像头的姿态估计装置的结构示意图。如图10所示,姿态信息获取模块903包括:
[0172] 旋转角获取单元1001,用于根据所述地平线的斜率信息确定所述车载摄像头的旋转角。
[0173] 可选的,所述车载摄像头的姿态信息还包括所述车载摄像头的水平偏角。
[0174] 如图9所示,车载摄像头的姿态估计装置还包括:航线信息获取模块904,用于根据所述地平线信息获取所述车辆的航线信息。
[0175] 可选的,如图10所示,所述姿态信息获取模块903包括:
[0176] 水平偏角获取单元1002,用于根据所述航线信息,获取所述车载摄像头的水平偏角。
[0177] 可选的,所述水平偏角获取单元1002具体用于,根据所述航线信息和所述车载摄像头的焦距,获取所述车载摄像头的水平偏角。
[0178] 可选的,所述车载摄像头的姿态信息包括所述车载摄像头的俯仰角。
[0179] 可选的,如图10所示,所述姿态信息获取模块903包括:
[0180] 俯仰角获取单元1003,用于根据所述地平线信息和所述车载摄像头的焦距,获取所述车载摄像头的俯仰角。
[0181] 可选的,如图9所示,所述地平线信息获取模块902包括:
[0182] 车道线信息获取单元9021,用于根据所述车道线的检测结果拟合车道线,得到至少两条车道线的车道线信息;
[0183] 交点获取单元9022,用于根据所述至少两条车道线的车道线信息,获取车道线的视觉交点;
[0184] 地平线信息获取单元9023,用于根据所述车道线的视觉交点,获取地平线信息。
[0185] 可选的,所述车道线信息获取单元9021具体用于,根据所述车道线的检测结果,获取属于车道线的车道线像素点;
[0186] 根据所述车道线像素点拟合车道线,得到至少两条车道线的车道线信息。
[0187] 可选的,所述地平线信息获取单元9023具体用于,
[0188] 根据所述视频流包括的多帧图像中的每帧图像内的车道线的视觉交点,获取交点概率图;
[0189] 根据所述交点概率图,获取属于地平线的视觉交点;
[0190] 根据获取到的属于地平线的视觉交点,获取所述地平线信息。
[0191] 可选的,如图9所示,车载摄像头的姿态估计装置还包括:灭点获取模块905,用于根据所述视频流包括的多帧图像中的每帧图像内的至少两条车道线的视觉交点,获取属于地平线的视觉交点;
[0192] 对所述获取到的属于地平线的视觉交点进行均值处理,获取所述车载摄像头的灭点。
[0193] 可选的,如图9所示,车载摄像头的姿态估计装置还包括:灭点获取模块905,用于根据所述视频流中至少两帧图像,获取车道线的概率图像,所述概率图像中的各像素点的取值指示各像素点属于车道线的概率;
[0194] 根据所述概率图像获取至少两条车道线的车道线信息;
[0195] 根据所述至少两条车道线的车道线信息,获取所述车载摄像头的灭点。
[0196] 示例性的,如图9所示,车载摄像头的姿态估计装置还包括:
[0197] 摄像头标定模块906,用于根据所述姿态信息标定所述车载摄像头。
[0198] 示例性的,如图9所示,车载摄像头的姿态估计装置还包括:
[0199] 车辆定位模块907,用于根据所述姿态信息确定所述车辆的定位信息。
[0200] 图11为本发明实施例提供的电子设备的实体框图,如图11所示,该电子设备包括:
[0201] 存储器1101,用于存储程序指令;
[0202] 处理器1102,用于调用并执行所述存储器中的程序指令,执行上述方法实施例中所述的方法步骤。
[0203] 图12为本发明实施例提供的车载摄像头的姿态估计系统的架构示意图,该系统应用于车辆,如图12所示,该系统包括安装在车辆上的摄像头1201以及与摄像头1201连接的上述车载摄像头的姿态估计装置1202。
[0204] 本发明实施例还提供一种可读存储介质,可读存储介质中存储有计算机程序,计算机程序用于执行上述方法实施例中所述的方法步骤。
[0205] 应当理解,本发明实施例所提供的任一车载摄像头的姿态估计装置、车载摄像头的姿态估计系统、电子设备中各部件、模块或单元的工作过程和设置方式,可以参见本公开上述方法实施例的相应记载,限于篇幅,不再赘述。
[0206] 本领域普通技术人员可以理解:实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
[0207] 最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。