用于激光雷达的校正方法及装置、环境感知系统转让专利

申请号 : CN202010802839.2

文献号 : CN111965625B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 张程向少卿

申请人 : 上海禾赛科技有限公司

摘要 :

用于激光雷达的校正方法及其装置、环境感知系统,所述校正方法包括:获取所述激光雷达生成的点云数据;获取所述点云数据对应的图像;基于所述图像中各像素的像素数据,确定所述图像中符合预设条件的图像区域;获取所述图像区域对应的点数据集合;基于所述图像区域的像素数据和所述点数据集合,调整所述激光雷达中对应的发射通道的输出激光功率。采用上述方案,能够有效保障激光雷达生成的点云数据的质量和降低激光雷达的能耗,进而可以提高激光雷达的工作性能。

权利要求 :

1.一种用于激光雷达的校正方法,其特征在于,所述校正方法包括:获取所述激光雷达生成的点云数据;

获取所述点云数据对应的图像;

基于所述图像中各像素的像素数据,在所述图像中获取反射率符合预设要求的物体对应的图像区域;

获取所述图像区域对应的点数据集合;

基于所述图像区域的像素数据和所述点数据集合,调整所述激光雷达中对应的发射通道的输出激光功率。

2.根据权利要求1所述的用于激光雷达的校正方法,其特征在于,所述基于所述图像中各像素的像素数据,在所述图像中获取反射率符合预设要求的物体对应的图像区域,包括:基于所述图像中各像素的像素数据,检测所述图像中是否存在物体;

若检测到所述图像中存在物体,识别所述图像中的物体,并获得所述物体的特征信息,所述特征信息包括:颜色信息、亮度信息和形状信息中至少一种;

根据各物体的特征信息,判断各物体是否处于预设反射率区间,从所述图像中获取处于所述反射率区间的物体对应的区域。

3.根据权利要求2所述的用于激光雷达的校正方法,其特征在于,所述反射率区间包括:第一反射率区间和第二反射率区间,所述第一反射率区间的所有端点的数值大于所述第二反射率区间的所有端点的数值;

所述根据各物体的特征信息,判断各物体是否处于预设反射率区间,从所述图像中获取处于所述反射率区间的物体对应的区域,包括以下至少一种:根据各物体的特征信息,判断各物体是否处于所述第一反射率区间,并从所述图像中获取处于第一反射率区间的物体对应的第一区域;

根据各物体的特征信息,判断各物体是否处于所述第二反射率区间,从所述图像中获取处于第二反射率区间的物体对应的第二区域。

4.根据权利要求3所述的用于激光雷达的校正方法,其特征在于,所述基于所述图像区域的像素数据和所述点数据集合,调整所述激光雷达中对应的发射通道的输出激光功率,包括以下至少一种:对于所述第一区域,从所述点数据集合中获取对应的距离,并在所述第一区域对应的距离不大于预设的第一距离时,减小所述第一区域对应的发射通道的输出激光功率;

对于所述第二区域,从所述点数据集合中获取对应的距离,并在所述第二区域对应的距离不小于预设的第二距离时,增大所述第二区域对应的发射通道的输出激光功率;其中所述第二距离大于所述第一距离。

5.根据权利要求1所述的用于激光雷达的校正方法,其特征在于,所述基于所述图像中各像素的像素数据,在所述图像中获取反射率符合预设要求的物体对应的图像区域,包括:基于所述图像中各像素的像素数据,检测所述图像中是否存在天空;

若检测到所述图像中存在天空,从所述图像中获取所述天空对应的天空区域。

6.根据权利要求5所述的用于激光雷达的校正方法,其特征在于,所述基于所述图像区域的像素数据和所述点数据集合,调整所述激光雷达中对应的发射通道的输出激光功率,包括:计算所述天空区域在所述图像上的像素占比;

在确定所述像素占比超过预设阈值后,基于所述点数据集合,从所述激光雷达的多个发射通道中选取与所述天空区域对应的发射通道;

调整所述天空区域对应的发射通道的输出激光功率。

7.根据权利要求6所述的用于激光雷达的校正方法,其特征在于,所述调整所述天空区域对应的发射通道的输出激光功率,包括:降低所述天空区域对应的发射通道的输出激光功率。

8.根据权利要求5‑7任一项所述的用于激光雷达的校正方法,其特征在于,所述根据所述点数据集合,从所述激光雷达的多个发射通道中选取与所述天空区域对应的发射通道,包括:基于所述点数据集合获取的发射角度,确定所述天空区域对应的发射角度区间,并根据所述发射角度区间,从所述激光雷达的多个发射通道中选取对应的发射通道。

9.根据权利要求1所述的用于激光雷达的校正方法,其特征在于,在所述获取所述点云数据对应的图像之前,还包括:将所述图像所在坐标系和所述点云数据所在坐标系进行联合标定,建立坐标转换关系。

10.一种用于激光雷达的校正装置,其特征在于,所述校正装置包括:数据获取单元,适于获取所述激光雷达生成的点云数据和所述点云数据对应的图像;

图像区域确定单元,适于根据所述图像中各像素的像素数据,在所述图像中获取反射率符合预设要求的物体对应的图像区域;

点数据集合确定单元,适于确定所述图像区域对应的点数据集合;

输出激光功率调整单元,适于根据所述图像区域的像素数据和所述点数据集合,调整所述激光雷达中对应的发射通道的输出激光功率。

11.根据权利要求10所述的用于激光雷达的校正装置,其特征在于,所述图像区域确定单元包括:物体检测子单元,适于根据所述图像中各像素的像素数据,检测所述图像中是否存在物体;

物体识别子单元,适于在检测到所述图像中存在物体后,识别所述图像中的物体,并获得所述物体的特征信息,所述特征信息包括:颜色信息、亮度信息和形状信息中至少一种;

反射率匹配子单元,适于根据各物体的特征信息,判断各物体是否处于预设反射率区间;

区域获取子单元,适于从所述图像中获取处于所述反射率区间的物体对应的区域。

12.根据权利要求11所述的用于激光雷达的校正装置,其特征在于,所述反射率区间包括:第一反射率区间和第二反射率区间,所述第一反射率区间的所有端点的数值大于所述第二反射率区间的所有端点的数值;

所述区域获取子单元包括以下至少一种:

第一区域获取模块,适于根据各物体的特征信息,判断各物体是否处于所述第一反射率区间,并从所述图像中获取处于第一反射率区间的物体对应的第一区域;

第二区域获取模块,适于根据各物体的特征信息,判断各物体是否处于所述第二反射率区间,从所述图像中获取处于第二反射率区间的物体对应的第二区域。

13.根据权利要求12所述的用于激光雷达的校正装置,其特征在于,所述输出激光功率调整单元包括以下至少一种:第一输出激光功率调整子单元,适于从所述点数据集合中获取对应的距离,并在所述第一区域对应的距离不大于预设的第一距离时,减小所述第一区域对应的发射通道的输出激光功率;

第二输出激光功率调整子单元,适于从所述点数据集合中获取对应的距离,并在所述第二区域对应的距离不小于预设的第二距离时,增大所述第二区域对应的发射通道的输出激光功率;其中所述第二距离大于所述第一距离。

14.根据权利要求10所述的用于激光雷达的校正装置,其特征在于,所述图像区域确定单元包括:天空检测子单元,适于根据所述图像中各像素的像素数据,检测所述图像中是否存在天空;

天空区域获取子单元,适于在检测到所述图像中存在天空后,从所述图像中获取所述天空对应的天空区域。

15.根据权利要求14所述的用于激光雷达的校正装置,其特征在于,所述输出激光功率调整单元包括:第三输出激光功率调整子单元,适于计算所述天空区域在所述图像上的像素占比,在确定所述像素占比超过预设阈值后,根据所述点数据集合,从所述激光雷达的多个发射通道中选取与所述天空区域对应的发射通道,并调整所述天空区域对应的发射通道的输出激光功率。

16.根据权利要求15所述的用于激光雷达的校正装置,其特征在于,所述第三输出激光功率调整子单元适于根据所述点数据集合获取的发射角度,确定所述天空区域对应的发射角度区间,并根据所述发射角度区间,从所述激光雷达的多个发射通道中选取对应的发射通道。

17.根据权利要求10所述的用于激光雷达的校正装置,其特征在于,所述校正装置还包括:坐标转换关系建立单元,适于将所述图像所在坐标系和所述点云数据所在坐标系进行联合标定,建立坐标转换关系,以用于获取所述点云数据对应的图像,以及将所述图像区域与所述点云数据进行匹配;

所述数据获取单元适于根据所述坐标转换关系,获取所述点云数据对应的图像;

所述点数据集合确定单元适于根据所述坐标转换关系,将所述图像区域与所述点云数据进行匹配,并获取所述点云数据中匹配的点数据,得到所述图像区域对应的点数据集合。

18.一种环境感知系统,其特征在于,包括:

图像采集装置,适于采集图像;

激光雷达,适于生成点云数据;

上述权利要求10‑17任一项所述的校正装置,适于根据获取到的图像和点云数据,调整所述激光雷达中对应的发射通道的输出激光功率。

说明书 :

用于激光雷达的校正方法及装置、环境感知系统

技术领域

[0001] 本发明涉及激光雷达领域,尤其涉及一种用于激光雷达的校正方法及其装置、环境感知系统。

背景技术

[0002] 目前,激光雷达通过向物体发射的探测信号以及物体反射回来的回波信号,可以计算物体物理信息,如距离信息、方位信息、高度信息、速度信息、姿态信息等,这些物理信息形成具有三维空间信息的点数据,将大量的点数据进行处理可以生成三维点云数据,从而可以实现目标物体识别、参数测量和运动跟踪等目的。
[0003] 在实际应用中,为了确保激光雷达具有远距离探测能力,激光雷达需要设置较高的探测光输出激光功率,输出较高强度的探测光信号,从而扩大探测范围。然而,激光雷达持续处于较高输出激光功率会累计产生巨大能耗,无法长时间进行点云数据采集工作。
[0004] 因此,如何优化激光雷达工作性能成为了本领域技术人员亟待解决的问题。

发明内容

[0005] 有鉴于此,本发明提供一种用于激光雷达的校正方法及其装置、环境感知系统,能够有效保障激光雷达生成的点云数据的质量和降低激光雷达的能耗,故而提高激光雷达的工作性能。
[0006] 本发明提供了一种用于激光雷达的校正方法,包括:
[0007] 获取所述激光雷达生成的点云数据;
[0008] 获取所述点云数据对应的图像;
[0009] 基于所述图像中各像素的像素数据,确定所述图像中符合预设条件的图像区域;
[0010] 获取所述图像区域对应的点数据集合;
[0011] 基于所述图像区域的像素数据和所述点数据集合,调整所述激光雷达中对应的发射通道的输出激光功率。
[0012] 可选地,所述基于所述图像中各像素的像素数据,确定所述图像中符合预设条件的图像区域,包括:
[0013] 基于所述图像中各像素的像素数据,检测所述图像中是否存在物体;
[0014] 若检测到所述图像中存在物体,识别所述图像中的物体,并获得所述物体的特征信息,所述特征信息包括:颜色信息、亮度信息和形状信息中至少一种;
[0015] 根据各物体的特征信息,判断各物体是否处于预设反射率区间,从所述图像中获取处于所述反射率区间的物体对应的区域。
[0016] 可选地,所述反射率区间包括:第一反射率区间和第二反射率区间,所述第一反射率区间的所有端点的数值大于所述第二反射率区间的所有端点的数值;
[0017] 所述根据各物体的特征信息,判断各物体是否处于预设反射率区间,从所述图像中获取处于所述反射率区间的物体对应的区域,包括以下至少一种:
[0018] 根据各物体的特征信息,判断各物体是否处于所述第一反射率区间,并从所述图像中获取处于第一反射率区间的物体对应的第一区域;
[0019] 根据各物体的特征信息,判断各物体是否处于所述第二反射率区间,从所述图像中获取处于第二反射率区间的物体对应的第二区域。
[0020] 可选地,所述基于所述图像区域的像素数据和所述点数据集合,调整所述激光雷达中对应的发射通道的输出激光功率,包括以下至少一种:
[0021] 对于所述第一区域,从所述点数据集合中获取对应的距离,并在所述第一区域对应的距离不大于预设的第一距离时,减小所述第一区域对应的发射通道的输出激光功率;
[0022] 对于所述第二区域,从所述点数据集合中获取对应的距离,并在所述第二区域对应的距离不小于预设的第二距离时,增大所述第二区域对应的发射通道的输出激光功率;其中所述第二距离大于所述第一距离。
[0023] 可选地,所述基于所述图像中各像素的像素数据,确定所述图像中符合预设条件的图像区域,包括:
[0024] 基于所述图像中各像素的像素数据,检测所述图像中是否存在天空;
[0025] 若检测到所述图像中存在天空,从所述图像中获取所述天空对应的天空区域。
[0026] 可选地,所述基于所述图像区域的像素数据和所述点数据集合,调整所述激光雷达中对应的发射通道的输出激光功率,包括:
[0027] 计算所述天空区域在所述图像上的像素占比;
[0028] 在确定所述像素占比超过预设阈值后,基于所述点数据集合,从所述激光雷达的多个发射通道中选取与所述天空区域对应的发射通道;
[0029] 调整所述天空区域对应的发射通道的输出激光功率。
[0030] 可选地,所述调整所述天空区域对应的发射通道的输出激光功率,包括:
[0031] 降低所述天空区域对应的发射通道的输出激光功率。
[0032] 可选地,所述根据所述点数据集合,从所述激光雷达的多个发射通道中选取与所述天空区域对应的发射通道,包括:
[0033] 基于所述点数据集合获取的发射角度,确定所述天空区域对应的发射角度区间,并根据所述发射角度区间,从所述激光雷达的多个发射通道中选取对应的发射通道。
[0034] 可选地,在所述获取所述点云数据对应的图像之前,还包括:
[0035] 将所述图像所在坐标系和所述点云数据所在坐标系进行联合标定,建立坐标转换关系。
[0036] 本发明还提供了一种用于激光雷达的校正装置,所述校正装置包括:
[0037] 数据获取单元,适于获取所述激光雷达生成的点云数据和所述点云数据对应的图像;
[0038] 图像区域确定单元,适于根据所述图像中各像素的像素数据,确定所述图像中符合预设条件的图像区域;
[0039] 点数据集合确定单元,适于确定所述图像区域对应的点数据集合;
[0040] 输出激光功率调整单元,适于根据所述图像区域的像素数据和所述点数据集合,调整所述激光雷达中对应的发射通道的输出激光功率。
[0041] 可选地,所述图像区域确定单元包括:
[0042] 物体检测子单元,适于根据所述图像中各像素的像素数据,检测所述图像中是否存在物体;
[0043] 物体识别子单元,适于在检测到所述图像中存在物体后,识别所述图像中的物体,获得所述物体的特征信息,所述特征信息包括:颜色信息、亮度信息和形状信息中至少一种;
[0044] 反射率匹配子单元,适于根据各物体的特征信息,判断各物体是否处于预设反射率区间;
[0045] 区域获取子单元,适于从所述图像中获取处于所述反射率区间的物体对应的区域。
[0046] 可选地,所述反射率区间包括:第一反射率区间和第二反射率区间,所述第一反射率区间的所有端点的数值大于所述第二反射率区间的所有端点的数值;
[0047] 所述区域获取子单元包括以下至少一种:
[0048] 第一区域获取模块,适于根据各物体的特征信息,判断各物体是否处于所述第一反射率区间,并从所述图像中获取处于第一反射率区间的物体对应的第一区域;
[0049] 第二区域获取模块,适于根据各物体的特征信息,判断各物体是否处于所述第二反射率区间,从所述图像中获取处于第二反射率区间的物体对应的第二区域。
[0050] 可选地,所述输出激光功率调整单元包括以下至少一种:
[0051] 第一输出激光功率调整子单元,适于从所述点数据集合中获取对应的距离,并在所述第一区域对应的距离不大于预设的第一距离时,减小所述第一区域对应的发射通道的输出激光功率;
[0052] 第二输出激光功率调整子单元,适于从所述点数据集合中获取对应的距离,并在所述第二区域对应的距离不小于预设的第二距离时,增大所述第二区域对应的发射通道的输出激光功率;其中所述第二距离大于所述第一距离。
[0053] 可选地,所述图像区域确定单元包括:
[0054] 天空检测子单元,适于根据所述图像中各像素的像素数据,检测所述图像中是否存在天空;
[0055] 天空区域获取子单元,适于在检测到所述图像中存在天空后,从所述图像中获取所述天空对应的天空区域。
[0056] 可选地,所述输出激光功率调整单元包括:
[0057] 第三输出激光功率调整子单元,适于计算所述天空区域在所述图像上的像素占比,在确定所述像素占比超过预设阈值后,根据所述点数据集合,从所述激光雷达的多个发射通道中选取与所述天空区域对应的发射通道,并调整所述天空区域对应的发射通道的输出激光功率。
[0058] 可选地,所述第三输出激光功率调整子单元适于根据所述点数据集合获取的发射角度,确定所述天空区域对应的发射角度区间,并根据所述发射角度区间,从所述激光雷达的多个发射通道中选取对应的发射通道。
[0059] 可选地,所述校正装置还包括:
[0060] 坐标转换关系建立单元,适于将所述图像所在坐标系和所述点云数据所在坐标系进行联合标定,建立坐标转换关系,以用于获取所述点云数据对应的图像,以及将所述图像区域与所述点云数据进行匹配;
[0061] 所述数据获取单元适于根据所述坐标转换关系,获取所述点云数据对应的图像;
[0062] 所述点数据集合确定单元适于根据所述坐标转换关系,将所述图像区域与所述点云数据进行匹配,并获取所述点云数据中匹配的点数据,得到所述图像区域对应的点数据集合。
[0063] 本发明还提供了一种环境感知系统,包括:
[0064] 图像采集装置,适于采集图像;
[0065] 激光雷达,适于生成点云数据;
[0066] 校正装置,适于根据获取到的图像和点云数据,调整所述激光雷达中对应的发射通道的输出激光功率。
[0067] 由于激光雷达的远距离探测能力会产生巨大能耗,因此,采用本发明的校正方法,激光雷达可以将采集的图像作为激光探测的反馈控制信息,根据图像中符合预设条件的图像区域以及与所述图像区域相匹配的点数据集合,可以调整所述激光雷达中对应的发射通道的输出激光功率,使得各发射通道的输出激光功率能够动态变化,灵活切换各发射通道的近距离探测能力和远距离探测能力,有效保障激光雷达生成的点云数据的质量,并且,由于激光雷达的各发射通道不是持续处于较高输出激光功率,因此可以有效降低激光雷达的能耗,综上可知,上述方法能够提高激光雷达的工作性能。
[0068] 进一步地,通过所述图像的像素数据检测到所述图像中存在物体后,根据各物体的特征信息,判断各物体是否处于预设反射率区间,从所述图像中获取处于所述反射率区间的物体对应的区域。采用上述方案,根据所述图像的像素数据,可以获取特定反射率的区域,从而调整所述区域对应发射通道的输出激光功率,改善激光雷达能耗浪费的情况。
[0069] 进一步地,根据各物体的特征信息,从所述图像中获取处于第一反射率区间的物体对应的第一区域,然后,可以减小距离不大于预设的第一距离的第一区域对应的发射通道的输出激光功率;根据各物体的特征信息,从所述图像中获取处于第二反射率区间的物体对应的第二区域,然后,可以增大距离符合预设的第二距离的第二区域对应的发射通道的输出激光功率。由此,根据不同反射率和距离的物体对应的区域,可以灵活改变激光雷达的输出激光功率,提升激光雷达检测远距离低反射率的物体的能力,以及降低对近距离高反射率的物体进行检测的能耗,提升激光雷达检测近距离高反射率的物体的能力,故采用上述方案能有效提高激光雷达的工作性能。
[0070] 进一步地,基于所述图像中各像素的像素数据,在检测到所述图像中存在天空之后,可以从所述图像中获取所述天空对应的天空区域。采用上述方案,能够调整天空区域对应发射通道的输出激光功率,改善激光雷达能耗浪费的情况。
[0071] 采用本发明的环境感知系统,校正装置适于根据获取到的图像和点云数据,调整所述激光雷达中对应的发射通道的输出激光功率。由此,通过校正装置调整激光雷达的输出激光功率,可以有效降低激光雷达的能耗,从而使图像采集装置能够辅助激光雷达对其点云数据进行校正,提升激光雷达的工作性能,实现图像采集装置和激光雷达的数据互通,达到多传感器联合运作的效果。

附图说明

[0072] 为了更清楚地说明本发明的技术方案,下面将对本发明或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面所描述的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0073] 图1是本发明实施例中一种用于激光雷达的校正方法的流程图;
[0074] 图2是本发明实施例中一种确定图像区域方法的流程图;
[0075] 图3是本发明实施例中另一种确定图像区域方法的流程图;
[0076] 图4是本发明实施例中一种调整输出激光功率方法的流程图;
[0077] 图5是本发明实施例中一种用于激光雷达的校正装置的结构框图;
[0078] 图6是本发明实施例中一种校正装置的具体结构框图;
[0079] 图7是本发明实施例中另一种校正装置的具体结构框图;
[0080] 图8是本发明实施例中一种环境感知系统的结构框图。

具体实施方式

[0081] 本发明提供了一种校正方法,应用于激光雷达,在确定采集的图像中符合预设条件的图像区域后,可以获取与所述图像区域相匹配的点数据集合,并基于所述图像区域的像素数据和点数据集合,调整所述激光雷达中对应的发射通道的输出激光功率,故能够降低激光雷达的能耗,进而有效提高激光雷达的工作性能。
[0082] 为使本领域技术人员更加清楚地了解及实施本发明的构思、实现方案及优点,以下参照附图,通过具体应用场景进行详细说明。
[0083] 在一应用场景中,激光雷达可作为一种传感器应用于环境感知系统,激光雷达通过向外界物体发射的探测信号以及获取物体反射回来的回波信号,可以计算物体的物理信息,如距离信息、方位信息、高度信息、速度信息、姿态信息等,这些物理信息形成具有三维空间信息的点数据,将大量的点数据进行处理可以生成三维点云数据。
[0084] 此外,环境感知系统还可以包括图像采集装置等其他传感器。图像采集装置可以获取外界物体的图像信息,实现图像采集的目的。
[0085] 由于图像采集装置采集的图像信息形成的是二维平面的像素数据,无法判断物体在三维空间中的位置状态、运动状态和实际大小,因此,为了提高环境感知系统的鲁棒性,可以采用多传感器融合的技术方案,例如,激光雷达可以辅助图像采集装置工作,在像素数据上叠加点数据,生成高精地图。
[0086] 在实际应用过程中,设置激光雷达输出激光功率的方式可以分为两种:
[0087] 1)为激光雷达设定一固定的输出激光功率值,激光雷达的发射通道在任何发光时刻、任何扫描角度的输出激光功率相同。
[0088] 在具体实施中,为了使激光雷达具有远距离探测能力,通常为激光雷达设定一固定的较高输出激光功率值,由此,激光雷达中的发射通道可以输出较高强度的探测信号,较高强度的探测信号能够传播更远,进而扩大激光雷达的探测范围,探测更远距离的物体,采集远距离的点数据。
[0089] 但是,对于近距离高反射率的物体,其反射的回波信号强度较高,容易使相应接收通道发生回波信号饱和(也可以称为脉冲回波响应饱和)的情况,导致无法准确获取物体的位置、距离等信息。
[0090] 因此,回波信号饱和问题会影响回波信号检测效率,使得激光雷达的近距离探测能力下降。故而方式1)无法同时满足远距离探测和近距离探测的需求。在保障远距离探测能力时,只能通过其他方式减少回波信号饱和的影响,如设置能够加速释放接收通道能量的电路。
[0091] 2)根据激光雷达的接收通道在上一时序检测到的回波信号的强弱程度,自动调节激光雷达发射通道的输出激光功率。
[0092] 在具体实施中,无目标或超出测距能力将会造成无回波信号的情况,此时不存在上一时序检测到的回波信号,激光雷达无法自动调节发光功率。为了减少无回波信号的情况,即使进行了自动调节,还是需要使激光雷达处于一较高的输出激光功率,确保激光雷达具有较远距离探测能力。
[0093] 由上可知,采用上述任意一种方式设置输出激光功率,激光雷达均需要持续处于较高输出激光功率,从而累计产生巨大能耗。因此,如何优化激光雷达工作性能成为了本领域技术人员亟待解决的问题。
[0094] 可以理解的是,本发明涉及的“较高”、“近距离”和“远距离”等程度的形容词是相对于激光雷达而言的,不同型号的激光雷达具有不同的采集参数,因此对于输出激光功率的程度划分可以不相同。如对于一些激光雷达,3毫瓦(mW)可以为较高的输出激光功率,而对于另一些激光雷达,3瓦(W)可以为较高的输出激光功率。又如,对于一些激光雷达,3米和5米视为近距离,而对于另一些激光雷达,10米甚至几十米都可以视为近距离。并且,对于“高反射率”和“低反射率”等的程度可以根据先验知识划分或根据实际情景自定义划分。本发明实施例对于输出激光功率、距离、反射率等的程度划分规则不做限定。
[0095] 为了解决上述技术问题,本发明实施例提供了一种用于激光雷达的校正方法的流程图,参照图1所示,所述方法可以包括以下步骤:
[0096] S11,获取所述激光雷达生成的点云数据。
[0097] 其中,根据实际情况,可以设定每次获取的点云数据量。比如每次可以获取一帧点云数据,对应于图像采集装置采集的一帧图像。
[0098] 在具体实施中,激光雷达包括发射装置和接收装置,所述发射装置的各发射通道用于产生作为探测信号的光束,探测信号的强弱由各发射通道设定的输出激光功率所决定,外界的物体会将探测信号进行反射,对于激光雷达而言,物体反射回来的光束就是回波信号,所述接收模块的各接收通道进行回波信号检测。激光雷达的数据处理模块根据所述探测信号和回波信号进行数据处理,可以得到点云数据。
[0099] S12,获取所述点云数据对应的图像。
[0100] 其中,根据实际情况,可以设定每次获取的图像数量。比如每次可以获取一帧图像,对应于激光雷达的一帧点云数据。
[0101] 在具体实施中,图像采集装置和激光雷达安装于同一移动平台,如无人车。在无人车移动过程中,激光雷达和图像采集装置分别采集周围环境的数据,具体地,激光雷达生成三维的点云数据,图像采集装置生成二维的图像,由于二者采集的数据类型不同,因此,在获取所述点云数据对应的图像之前,需要建立点云数据和图像之间的对应关系,从而确保获取的图像和点云数据相互匹配。以下通过具体实施例详细说明如何建立点云数据和图像之间的对应关系。
[0102] 在本发明一实施例中,可以将所述图像所在坐标系和所述点云数据所在坐标系进行联合标定,建立点云数据与图像之间的坐标转换关系。根据坐标转换关系,可以确定点云数据中各点(point)数据的三维坐标与图像中各像素(pixel)的二维坐标之间的空间对应关系,从而可以用于获取所述点云数据对应的图像。
[0103] 其中,在进行联合标定时,一个点数据可能对应一个像素,或者一个点数据也可能对应多个像素。
[0104] 在实际应用中,可以一台激光雷达和多台图像采集装置进行联合标定,也可以多台激光雷达和一台图像采集装置进行联合标定,还可以多台激光雷达和多台图像采集装置进行联合标定,因此,存在一对多和多对多的联合标定情况,而且,多台图像采集装置采集的图像可能存在交叠区域,多台激光雷达采集的点云数据也可能存在交叠区域。
[0105] 在图像存在交叠区域时,对于多个坐标交叠的像素可能对应一个点数据。
[0106] 在多个激光雷达的点云数据存在交叠区域时,对于多个坐标交叠的点数据可能对应一个像素,或者,对于多个坐标交叠的点数据也可能对应多个像素。
[0107] 在图像和点云数据均存在交叠区域时,多个坐标交叠的像素可能对应多个坐标交叠的点数据。
[0108] 可选地,本发明实施例可以采用以下联合标定方法:
[0109] 1)通过内参标定算法,确定图像采集装置所处的三维坐标系到图像所处的二维平面坐标系的投影关系,获得内部参数,其中,图像采集装置所处的三维坐标系采用长度单位,图像所处的二维平面坐标系采用像素单位,图像采集装置的内部参数可用于对这两个坐标系之间进行线性转换。
[0110] 2)通过外参联合标定算法,确定图像采集装置所处的三维坐标系与激光雷达所处的三维坐标系之间的相对位置关系,获得外部参数,其中,所述外部参数可以包括平移矩阵和旋转矩阵,图像采集装置的三维坐标通过外部参数可以转换为激光雷达的三维坐标。
[0111] 3)根据外参联合标定算法获得的外部参数,可以将激光雷达所处三维坐标系下的点数据投影到图像采集装置所处的三维坐标系下,在根据内参标定算法获得的内部参数,可以将图像采集装置所处的三维坐标系下的点数据投影到图像所处的二维平面坐标系下,从而能够确定点云数据中各点数据的三维坐标与图像中各像素的二维坐标之间的对应关系。
[0112] 进一步的,可以通过深度学习训练得到的神经网络模型去预测内部参数和外部参数。其中,神经网络模型可以采用卷积神经网络(Convolutional Neural Networks,CNN)及其变种。
[0113] 可以理解的是,本实施例中步骤S11和S12仅为示例说明,步骤S12仅用于限定点云数据与图像之间存在对应关系,并不是限定执行上的先后顺序,在实际操作过程中,由于激光雷达和图像采集装置分别采集周围环境的数据,点云数据和图像均可以存储于存储器中,在根据上述坐标转换关系,确定对应的图像和点云数据后,可以同时获取对应的图像和点云数据,也可以依次获取对应的图像和点云数据,本发明实施例对于点云数据和图像的获取顺序不作限制。
[0114] 还可以理解的是,本发明实施例中所述互相对应的点云数据和图像,可以包括点云数据中的部分点数据与图像中的像素对应的情况,换而言之,并非一定是点云数据中的全部点数据与图像中的像素对应才能认为所述点云数据和所述图像互相对应。
[0115] 采用上述联合标定建立坐标转换关系的方案,可以适用于任意排布位置和数量的激光雷达和图像采集装置,适用范围广泛。
[0116] 在具体实施中,激光雷达和图像采集装置均可以通过标记时间戳的方式记录点云数据的帧时间信息和图像的帧时间信息,使得点云数据和图像具有时间属性,其中,标记时间戳的时机可以根据实际情景进行设定,例如,可以是在采集数据时进行标记,也可以是在生成数据时进行标记。本发明实施例对标记时间戳的时机不做具体限制。
[0117] 在实际应用中,由于采集周期不相同、采集方向不相同等因素,激光雷达和图像采集装置不一定同步采集,为了确保获取到全部对应的点云数据和图像,即保障数据的完整性,需要获取大量的图像和点云数据,然后根据坐标转换关系,从中确定互相对应的图像和点云数据。
[0118] 为了解决上述问题,可以通过时间戳,获取帧时间信息相同的点云数据和图像,再通过坐标转换关系,确定二者是否为对应的点云数据和图像,从而得到在时间和空间上对应的点云数据和图像。由此,提高获取对应的点云数据和图像的效率。
[0119] 在实际应用时,由于激光雷达和图像采集装置的采集频率可以不相同,因而,点云数据的帧时间信息和图像的帧时间信息可能无法一一对应,为此,可以将激光雷达和图像采集装置中一设备作为基准设备,激光雷达和图像采集装置中另一设备作为非基准设备,从基准设备记录的帧时间信息作为基准帧时间信息,并从非基准设备记录的帧时间信息中选取与基准帧时间信息之间的时间间隔最小的帧时间信息,并与基准帧时间信息建立对应关系。
[0120] 例如,若基准设备记录的帧时间信息可以包括:帧时间信息TA1、帧时间信息TA2和帧时间信息TA3,而非基准设备记录的帧时间信息可以包括:帧时间信息Tp1、帧时间信息Tp2和帧时间信息Tp3。基准设备的帧时间信息TA2作为基准帧时间信息时,经过匹配发现非基准设备记录的帧时间信息Tp1与基准帧时间信息TA2之间的时间间隔最小,则选取帧时间信息Tp1与基准帧时间信息TA2建立对应关系。
[0121] 可以理解的是,根据实际情景可以选取激光雷达或图像采集装置作为基准设备。例如,图像采集装置的采集频率为25~30赫兹(Hz),而激光雷达的采集频率为10赫兹,若设定将采集频率较慢的设备作为基准设备,则可以将激光雷达作为基准设备;若设定将采集频率较快的设备作为基准设备,则可以将图像采集装置作为基准设备。
[0122] 若激光雷达和图像采集装置在采集数据时进行时间戳标记,则可以获取基准设备在基准帧时间采集的数据,并获取非基准设备在与基准时间信息存在对应关系的帧时间采集的数据,从而生成帧时间信息对应的图像和点云数据;若激光雷达和图像采集装置在生成数据时进行时间戳标记,则可以获取基准设备在基准帧时间生成的数据,并获取非基准设备在与基准帧时间信息存在对应关系的帧时间生成的数据,得到帧时间信息对应的图像和点云数据。其中,标注的时间戳可以由基准设备提供。
[0123] 由此,将帧时间信息对应的图像和点云数据进行坐标转换,确定二者在空间上是否为对应的点云数据和图像,从而得到在时间和空间上对应的点云数据和图像,提高获取对应的点云数据和图像的效率。
[0124] S13,基于所述图像中各像素的像素数据,确定所述图像中符合预设条件的图像区域。
[0125] 在具体实施中,像素数据可以包括颜色信息、亮度信息、饱和度信息和对比度信息等。对于彩色图像,颜色信息可以包括各颜色的色值,如RGB(Red‑Green‑Blue,红绿蓝三原色)三色值和/或CMYK(Cyan‑Magenta‑Yellow‑Black,青、品红、黄、黑四色)四色值等,亮度信息、饱和度信息和对比度信息可以通过颜色信息计算得到;对于灰度图像,颜色信息和亮度信息均可以通过灰度值来表示,对比度信息可以通过颜色信息计算得到。
[0126] 可选地,根据预设的转换公式,可以将彩色图像转换为灰度图像。例如,根据各颜色的色值分配的权重,对各颜色的色值进行加权计算,将计算结果作为灰度值,从而得到彩色图像中各像素对应的灰度值,生成灰度图像。
[0127] 在具体实施时,根据上述背景技术和应用场景的描述可知,激光雷达发射通道的输出激光功率与探测范围相关,为了能够探测更远距离,激光雷达需要发射更高强度的探测信号,而激光雷达是否能够接收到的回波信号以及回波信号的强弱,除了与探测信号的传播距离有关,还与外界环境有关,因此,根据图像上能够反映外界环境的信息,预设相关筛选条件,进而可以从图像中筛选出存在关键信息的区域,得到图像区域。
[0128] S14,获取所述图像区域对应的点数据集合。
[0129] 在具体实施中,根据点云数据与图像之间的坐标转换关系,可以将所述图像区域与所述点云数据进行匹配,进而从点云数据中获取所述图像区域对应的点数据,得到点数据集合。
[0130] S15,基于所述图像区域的像素数据和所述点数据集合,调整所述激光雷达中对应的发射通道的输出激光功率。
[0131] 其中,点数据可以包括时间戳信息、物体的坐标位置信息、发射通道信息。进一步地,点数据还可以包括接收通道信息等。发射通道可以对应单个或多个激光器。
[0132] 在具体实施中,由于点数据可以包括对应的发射通道信息,因此,可以确定点数据集合对应的发射通道,根据预设条件筛选出来的图像区域的像素数据以及图像区域与点数据之间的坐标转换关系,可调整对应发射通道的输出激光功率,进而可以调整探测信号的强度。
[0133] 在实际应用时,可以采用以下任意一种方式调整发射通道的输出激光功率:
[0134] 1.调整激光雷达中对应发射通道的出光功率。具体地,可以采用以下任意一种方式调整发射通道的出光功率:
[0135] (1)调整对应发射通道中激光器驱动电路的驱动电压,激光器驱动电路的驱动电压与对应发射通道的输出激光功率成正比,因此,减小激光器驱动电路的驱动电压能够降低对应发射通道的输出激光功率,增加激光器驱动电路的驱动电压能够提高对应发射通道的输出激光功率。
[0136] (2)调整对应发射通道中激光器驱动电路的充电时间,驱动电路的充电时间与对应发射通道的输出激光功率成正比,因此,减少驱动电路的充电时间能够降低对应发射通道的输出激光功率;增长驱动电路的充电时间能够提高对应发射通道的输出激光功率。
[0137] 2.调整激光雷达中对应发射通道的发光点数量。
[0138] 以垂直腔面发射激光器(Vertical‑Cavity Surface‑Emitting Laser,VCSEL)为例,所述VCSEL为面阵激光器,VCSEL可以包括:基底,以及位于基底上的谐振腔,谐振腔可以在垂直基底的方向上发射探测光信号。其中,所述谐振腔包括依次位于基底上的底部布拉格反射镜、有源区和顶部布拉格反射镜,谐振腔上方具有出光窗口。所述有源区可以是量子阱层(quantum well),所述量子阱层在加载电压时能产生光子,光子在谐振腔中振荡形成激光,所述激光通过所述出光窗口发射,形成发光点,将发光点整合可以作为一束探测光信号输出。
[0139] 通过减少通过增加VCSEL中激活的发光点数量,能够提高发射通道的输出激光功率;通过减少VCSEL中激活的发光点数量,能够降低发射通道的输出激光功率。
[0140] 由上可知,减少发射通道的发光点数量能够降低对应发射通道的输出激光功率;增加发射通道的发光点数量能够提高对应发射通道的输出激光功率。
[0141] 可以理解的是,上述实施例中的VCSEL仅为示意说明,并非对于激光雷达使用的探测器类型进行限定,在实际应用中,激光雷达可以根据实际情景,选择符合需求的探测器,本发明实施例对于激光雷达使用的探测器类型不做限制。
[0142] 采用上述校正方法,将采集的图像作为激光探测的反馈控制信息,根据图像区域和相匹配的点数据集合,能够确定需要调整输出激光功率的发射通道,从而调整对应的发射通道的输出激光功率,使得各发射通道的输出激光功率能够动态变化,灵活切换各发射通道的近距离探测能力和远距离探测能力,有效保障激光雷达生成的点云数据的质量,并且,由于激光雷达的各发射通道不是持续处于较高输出激光功率,因此可以有效降低激光雷达的能耗,综上可知,上述方法能够提高激光雷达的工作性能。
[0143] 在具体实施中,本发明实施例提供的校正方法可以应用于工作中的激光雷达,根据图像采集装置采集的图像,能够通过图像中符合预设条件的图像区域以及相匹配的点数据集合,从而实时调整所述激光雷达中对应的发射通道的输出激光功率,使得激光雷达可以根据调整后的输出激光功率输出探测光信号,有效保障激光雷达的工作效率和工作性能。
[0144] 在实际应用中,在外界环境存在物体时,激光雷达才可能接收到回波信号,而物体反射的回波信号的强弱取决于物体的反射率。因此,可以通过图像确定外界环境中是否存在物体,以及通过图像判别物体的反射率,在图像中获取反射率符合要求的物体对应的区域,从而得到图像区域,由此调整图像区域对应的发射通道的输出激光功率。
[0145] 在一可实现示例中,如图2所示,所述基于所述图像中各像素的像素数据,确定所述图像中符合预设条件的图像区域,具体可以包括:
[0146] S21,基于所述图像中各像素的像素数据,检测所述图像中是否存在物体。
[0147] S22,若检测到所述图像中存在物体,识别所述图像中的物体,并获得所述物体的特征信息。
[0148] 其中,所述特征信息可以包括:颜色信息、亮度信息和形状信息中至少一种。所述颜色信息和亮度信息可以通过各物体在图像中对应区域的像素数据获得,所述形状信息可以通过轮廓提取方法获得。
[0149] 在具体实施中,可以采用物体检测算法,检测所述图像中是否存在物体进而在确定所述图像中存在物体后,通过物体识别算法,识别所述图像中的物体。
[0150] 其中,所述物体检测算法可以包括:基于区域的目标检测算法和单步检测(Single Shoot Detectors,SSD)算法等。所述基于区域的目标检测算法可以包括:滑动窗口检测器(sliding‑windows detectors)算法,RCNN(Regions with CNN,具有区域的卷积神经网络)特征算法及其变形算法,R‑FCN(Region‑based Fully Convolutional Networks,基于区域的全卷积神经网络)算法,FPN(Feature Pyramid Networks,特征金字塔网络)算法等。所述物体识别算法可以包括:SIFT(Scale‑Invariant Feature Transform,尺度不变特征变换)算法、SURF(Speeded‑Up Robust Features,加速鲁棒特征)算法、haar‑like算法(一种特征提取算法)和霍夫(hough)变换算法等。
[0151] 可以理解的是,上述实施例仅示出了检测到图像中存在物体的情况,在检测所述图像中是否存在物体时,还可能存在未检测到图像中存在物体的情况。对于未检测到图像中存在物体的情况,可以根据实际情景设定相应的处理方法,并在判断出未检测到图像中存在物体后,跳转到相应步骤执行设定的处理方法。例如,若未检测到图像中存在物体,可以结束当前图像的物体检测流程,进入下一个图像的物体检测流程。
[0152] S23,根据各物体的特征信息,判断各物体是否处于预设反射率区间,从所述图像中获取处于所述反射率区间的物体对应的区域。
[0153] 在具体实施中,一方面,物体的反射率通常受到物体的颜色、材质等影响,例如,白色物体的反射率比黑色物体的反射率高,又例如,表面光滑的物体比表面粗糙的物体反射率高,而在图像中可以用颜色信息和亮度信息来表征物体的颜色和材质。因此,反射率区间可以包括:颜色子区间和/或亮度子区间,当颜色信息和/或亮度信息处于颜色子区间和/或亮度子区间时,该物体对应的区域为所述图像中所要获取的区域。
[0154] 可选地,对于灰度图像,由于亮度信息可以通过灰度值表示,反射率区间可以包括:灰度子区间,当物体的灰度值处于灰度子区间时,该物体对应的区域为所述图像中所要获取的区域。其中,灰度图像可以包括由彩色图像转成的灰度图像。
[0155] 可以理解的是,由于图像采集装置的型号和参数不同,其灰度取值范围也不相同,如采用8比特(bit)的图像采集装置对应的灰度取值范围为0~255,采用12比特的图像采集装置对应的灰度取值范围为0~4096,因此,灰度子区间的最大取值范围根据实际使用的图像采集装置决定,本发明实施例对此不作限制。
[0156] 另一方面,对于一些具有提示作用的物体,如路牌、路标等,这些提示作用的物体通常形状、颜色及分布位置较为固定,因此,在图像中,可以通过形状信息确定是否为具有提示作用的物体;进一步地,还可结合颜色信息和亮度信息进行判断。
[0157] 可以理解的是,在实际应用时,可以根据具体场景选择颜色信息、亮度信息和形状信息中至少一种特征信息,判断各物体是否处于预设反射率区间。本发明实施例对此不作限制。
[0158] 采用上述方案,根据所述图像的像素数据,可以获取特定反射率的区域,从而调整所述区域对应发射通道的输出激光功率,改善激光雷达能耗浪费的情况。
[0159] 在具体实施中,可以设置不同程度反射率的区间,如所述反射率区间可以包括:第一反射率区间和第二反射率区间,所述第一反射率区间的所有端点的数值大于所述第二反射率区间的所有端点的数值。由此,所述根据各物体的特征信息,判断各物体是否处于预设反射率区间,从所述图像中获取处于所述反射率区间的物体对应的区域,具体可以包括以下至少一种:
[0160] 根据各物体的特征信息,判断各物体是否处于所述第一反射率区间,并从所述图像中获取处于第一反射率区间的物体对应的第一区域;
[0161] 根据各物体的特征信息,判断各物体是否处于所述第二反射率区间,从所述图像中获取处于第二反射率区间的物体对应的第二区域。
[0162] 在具体实施中,点数据中可以包含激光雷达与物体之间距离的物体距离信息,在得到第一区域和/或第二区域后,所述基于所述图像区域的像素数据和所述点数据集合,调整所述激光雷达中对应的发射通道的输出激光功率,具体可以包括以下至少一种:
[0163] 对于所述第一区域,从所述点数据集合中获取对应的距离,并在所述第一区域对应的距离不大于预设的第一距离时,减小所述第一区域对应的发射通道的输出激光功率;
[0164] 对于所述第二区域,从所述点数据集合中获取对应的距离,并在所述第二区域对应的距离不小于预设的第二距离时,增大所述第二区域对应的发射通道的输出激光功率;其中所述第二距离大于所述第一距离。
[0165] 需要说明的是,在本发明实施例的描述中,“第一”、“第二”等术语仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”等术语的特征可以明示或者隐含的包括一个或者多个该特征。而且,“第一”、“第二”等术语是用于区别类似的对象,而不必用于描述特定的顺序或表示重要性。例如,根据实际情况可以设定一个或多个第一反射率区间和/或第二反射率区间;又例如,根据实际情况可以设定一个或多个第一距离和/或第二距离。
[0166] 在实际应用中,由于所述第一反射率区间的所有端点的数值大于所述第二反射率区间的所有端点的数值,因此,可以将第一反射率区间得到的第一区域对应高反射率的物体,而第二反射率区间得到的第二区域对应低反射率的物体。
[0167] 在一可选示例中,第一反射率区间可以包括:第一颜色子区间和/或第一亮度子区间。第一颜色子区间可以根据高反射率参照物(比如90%以上反射率的物体)对应的颜色确定;第一亮度子区间可以根据高反射率参照物(比如90%以上反射率的物体)对应颜色确定,或者,第一亮度子区间可以根据历史图像的亮度标准正态分布确定,比如根据亮度标准正态分布,通过距离亮度平均值的2个标准差来确定第一亮度子区间的范围,第一亮度子区间为距离亮度平均值至少2个正标准差的亮度值。
[0168] 在一可选示例中,第二反射率区间可以包括:第二颜色子区间和/或第二亮度子区间,第二颜色子区间可以根据低反射率参照物(比如10%以下反射率的物体)对应的颜色确定;第二亮度子区间可以根据低反射率参照物(比如10%以下反射率的物体)对应亮度确定,或者,第二亮度子区间可以根据历史图像的亮度标准正态分布确定,比如根据亮度标准正态分布,通过距离亮度平均值的2个标准差来确定第二亮度子区间的范围,第二亮度阈值为距离亮度平均值至少2个负标准差的亮度值。
[0169] 相应地,由于所述第二距离大于所述第一距离,因此,可以将第一距离设定较小的距离值,而将第二距离设定较大的距离值,由此,在所述第一区域对应的距离不大于预设的第一距离时,减小所述第一区域对应的发射通道的输出激光功率,就是减小近距离高反射率的物体对应的发射通道的输出激光功率,而在所述第二区域对应的距离不小于预设的第二距离时,增大所述第二区域对应的发射通道的输出激光功率,就是增大远距离低反射率的物体对应的发射通道的输出激光功率。
[0170] 由上述方案可知,根据不同反射率和距离的物体对应的区域,可以灵活改变激光雷达的输出激光功率,提升激光雷达检测远距离低反射率的物体的能力,以及降低对近距离高反射率的物体进行检测的能耗,提升激光雷达检测近距离高反射率的物体的能力,故采用上述方案能有效提高激光雷达的工作性能。
[0171] 在具体实施中,天空对于探测信号的反射能力较弱,可以将整个天空视为一种低反射率的物体,并且天空中存在的物体数量较少,即使存在物体通常距离也较远。因此,可以通过图像确定外界环境中是否存在天空,并调整向天空发射探测信号的发射通道的发射功率。
[0172] 在一可实现示例中,如图3所示,所述基于所述图像中各像素的像素数据,确定所述图像中符合预设条件的图像区域,具体可以包括:
[0173] S31,基于所述图像中各像素的像素数据,检测所述图像中是否存在天空。
[0174] S32,若检测到所述图像中存在天空,从所述图像中获取所述天空对应的天空区域。
[0175] 在具体实施中,可以根据图像的颜色信息识别天空区域,由于颜色信息可以包括各颜色的色值,而天空区域在图像中颜色变化较为平缓,因此,可以将图像转换成相应的像素梯度图,像素梯度起伏较小的区域表示颜色变化较为平缓,通过预设一个像素变化阈值,可以检测所述图像中是否存在天空,并在检测到所述图像中存在天空后,将图像分割为天空区域和非天空区域。
[0176] 可选地,通过图像的直方图、纹理、亮度等,对天空区域和非天空区域做进一步地优化处理,从而得到更精确的天空区域和非天空区域。
[0177] 采用上述方案,能够调整天空区域对应发射通道的输出激光功率,改善激光雷达能耗浪费的情况。
[0178] 可以理解的是,上述实施例仅示出了检测到图像中存在天空的情况,在检测所述图像中是否存在天空时,还可能存在未检测到图像中存在天空的情况。对于未检测到图像中存在天空的情况,可以根据实际情景设定相应的处理方法,并在判断出未检测到图像中存在天空后,跳转到相应步骤执行设定的处理方法。例如,若未检测到图像中存在天空,可以结束当前图像的天空检测流程,进入下一个图像的天空检测流程。
[0179] 在具体实施中,如图4所示,在获得天空区域后,基于所述图像区域的像素数据和所述点数据集合,调整所述激光雷达中对应的发射通道的输出激光功率,具体可以包括:
[0180] S41,计算所述天空区域在所述图像上的像素占比。
[0181] S42,在确定所述像素占比超过预设阈值后,基于所述点数据集合,从所述激光雷达的多个发射通道中选取与所述天空区域对应的发射通道。
[0182] 其中,所述像素占比超过预设阈值可以理解为像素占比大于预设阈值,也可以理解为像素占比大于或等于预设阈值。
[0183] 在具体实施中,预设阈值可以根据实际应用场景设定,例如,预设阈值可以为30%,所述天空区域在所述图像上的像素占比超过30%,则根据点数据集合和天空区域的坐标转换关系,获得天空区域对应的点数据,再根据点数据中包含的发射通道信息,从所述激光雷达的多个发射通道中选取与所述天空区域对应的发射通道来调整输出激光功率。
[0184] 进一步的,点数据中可以包含发射角度的信息,基于所述点数据集合可以获各发射通道的发射角度,确定所述天空区域对应的发射角度区间,并根据所述发射角度区间,从所述激光雷达的多个发射通道中选取对应的发射通道。
[0185] 其中,所述天空区域对应的发射角度区间根据实际使用的激光雷达以及激光雷达所处环境进行设定,并且,可以按照激光雷达在参考坐标系的位置设定水平发射角度区间和/或垂直发射角度区间,例如,发射角度区间可以包括:垂直方向的发射角度区间[+10°,+180°]、水平方向的发射角度区间[‑20°,+20°]、水平方向的发射角度区间[‑30°,+30°]等。
[0186] 可以理解的是,水平发射角度和垂直发射角度是根据激光雷达设定的发射方向而言的,可以与外界环境实际的水平方向和垂直方向相同,也可以不相同;并且,角度的正负表示相对于初始位置的偏移方向,初始位置可以根据实际情景设定。
[0187] 例如,激光雷达设置在移动平台(如无人车)的正前方,可以将正前方作为初始位置,在设定水平发射方向后,水平向左偏移的角度可以为正,水平向右偏移的角度可以为负,从而根据水平发射角度进行水平方向的发射。
[0188] 又例如,激光雷达设置在移动平台(如无人车)的正后方,可以将正后方作为初始位置,设定垂直发射方向后,垂直向上偏移的角度为正,垂直向下偏移的角度为负,从而根据垂直发射角度进行垂直方向的发射。
[0189] 可以理解的是,上述实施例仅示出了像素占比超过预设阈值后的情况,在比较天空区域在图像上的像素占比和预设阈值时,还可能存在天空区域在图像上的像素占比未超过预设阈值的情况。对于天空区域在图像上的像素占比未超过预设阈值的情况,可以根据实际情景设定相应的处理方法,并在判断出天空区域在图像上的像素占比未超过预设阈值后,跳转到相应步骤执行设定的处理方法。例如,若天空区域在图像上的像素占比未超过预设阈值,可以结束当前图像的天空像素占比判断流程,进入下一个图像的天空像素占比判断流程。
[0190] S43,调整所述天空区域对应的发射通道的输出激光功率。
[0191] 具体而言,由于天空中物体较少且无人驾驶时更关注路面信息,天空区域对无人驾驶影响很小,因此,可以降低所述天空区域对应的发射通道的输出激光功率。
[0192] 由上可知,当天空区域在图像上的像素占比超过预设阈值,可以认为图像中天空所占区域较大,通过调整天空区域对应的发射通道的输出激光功率,可以有效降低发射通道的输出激光功率,从而改善激光雷达能耗浪费的情况。
[0193] 在具体实施中,由于所述图像区域的像素数据不一定相同,所述点数据集合中获取的距离和/或发射角度也不一定相同,因此,可以对所述激光雷达中对应的发射通道设定不同的输出激光功率调整方案。例如,根据第一区域的距离小于第一距离的程度,可以对所述激光雷达中对应的发射通道进行不同程度的减小;又例如,根据第二区域的距离大于第二距离的程度,可以对所述激光雷达中对应的发射通道进行不同程度的增大;还例如,根据天空区域在所述图像上的像素占比大小,可以对所述激光雷达中对应的发射通道进行不同程度的减小。
[0194] 其中,可以线性或者非线性地调整输出激光功率。
[0195] 在一可选示例中,基于所述图像区域的像素数据和所述点数据集合,与预设的查询表中相应区间进行匹配,确定对应的发射通道的激光发射参考信息,并基于所述激光发射参考信息,调整对应的接收通道的输出激光功率。
[0196] 其中,所述激光发射参考信息可以包括一个或多个参考数值,也可以包括一个或多个参考数值区间。所述激光发射参考信息作为调整输出激光功率时的参考信息,调整完的输出激光功率值大小可以包含于所述激光发射参考信息中,也可以不包含与激光发射参考信息。
[0197] 进一步的,查询表可以根据图像区域的像素数据和所述点数据集合包含的信息,设定一种或多种信息类型的区间,如颜色区间、亮度区间、距离区间、像素占比区间等。由此,通过匹配查询表中一种或多种信息类型的区间,可以确定对应的发射通道的激光发射参考信息。
[0198] 可以理解的是,上文描述了本发明实施例提供的多个实施例方案,各实施例方案介绍的各可选方式可在不冲突的情况下相互结合、交叉引用,从而延伸出多种可能的实施例方案,这些均可认为是本发明披露、公开的实施例方案。
[0199] 本发明实施例还提供了与上述用于激光雷达的校正方法对应的校正装置,以下参照附图,通过具体实施例进行详细介绍。需要知道的是,下文描述的校正装置可以认为是为实现本发明实施例提供的校正方法所需设置的功能模块;下文描述的校正装置的内容,可与上文描述的校正方法的内容相互对应参照。
[0200] 参照图5所示的本发明实施例中一种用于激光雷达的校正装置的结构框图,在本发明实施例中,所述校正装置50可以包括:
[0201] 数据获取单元51,适于获取所述激光雷达生成的点云数据和所述点云数据对应的图像;
[0202] 图像区域确定单元52,适于根据所述图像中各像素的像素数据,确定所述图像中符合预设条件的图像区域;
[0203] 点数据集合确定单元53,适于确定所述图像区域对应的点数据集合;
[0204] 输出激光功率调整单元54,适于根据所述图像区域的像素数据和所述点数据集合,调整所述激光雷达中对应的发射通道的输出激光功率。
[0205] 采用上述方案,将采集的图像作为激光探测的反馈控制信息,根据图像区域和相匹配的点数据集合,能够确定需要调整输出激光功率的发射通道,从而调整对应的发射通道的输出激光功率,使得各发射通道的输出激光功率能够动态变化,灵活切换各发射通道的近距离探测能力和远距离探测能力,有效保障激光雷达生成的点云数据的质量,并且,由于激光雷达的各发射通道不是持续处于较高输出激光功率,因此可以有效降低激光雷达的能耗,综上可知,上述装置能够提高激光雷达的工作性能。
[0206] 在具体实施中,本发明实施例提供的校正装置可以应用于工作中的激光雷达,根据图像采集装置采集的图像,校正装置能够通过图像中符合预设条件的图像区域以及相匹配的点数据集合,实时调整所述激光雷达中对应的发射通道的输出激光功率,使得激光雷达可以根据调整后的输出激光功率输出探测光信号,有效保障激光雷达的工作效率和工作性能。
[0207] 可选地,所述激光雷达的发射装置可以包括以下至少一种激光器:
[0208] 垂直腔面发射激光器(Vertical‑Cavity Surface‑Emitting Laser,VCSEL);
[0209] 边缘发射激光器(Edge Emitting Laser,EEL)。
[0210] 在具体实施中,如图5所示,所述校正装置50还可以包括:
[0211] 坐标转换关系建立单元55,适于将所述图像所在坐标系和所述点云数据所在坐标系进行联合标定,建立坐标转换关系;
[0212] 所述数据获取单元51适于根据所述坐标转换关系,获取所述点云数据对应的图像;
[0213] 所述点数据集合确定单元53适于根据所述坐标转换关系,将所述图像区域与所述点云数据进行匹配,并获取所述点云数据中匹配的点数据,得到所述图像区域对应的点数据集合。
[0214] 在实际应用中,在外界环境存在物体时,激光雷达才可能接收到回波信号,而物体反射的回波信号的强弱取决于物体的反射率。因此,可以通过图像确定外界环境中是否存在物体,以及通过图像判别物体的反射率,在图像中获取反射率符合要求的物体对应的区域,从而得到图像区域,由此调整图像区域对应的发射通道的输出激光功率。
[0215] 在一可实现示例中,结合参考图5和图6,所述图像区域确定单元52可以包括:
[0216] 物体检测子单元61,适于根据所述图像中各像素的像素数据,检测所述图像中是否存在物体;
[0217] 物体识别子单元62,适于在检测到所述图像中存在物体后,识别所述图像中的物体,获得所述物体的特征信息;
[0218] 反射率匹配子单元63,适于根据各物体的特征信息,判断各物体是否处于预设反射率区间;
[0219] 区域获取子单元64,适于从所述图像中获取处于所述反射率区间的物体对应的区域。
[0220] 其中,所述特征信息可以包括:颜色信息、亮度信息和形状信息中至少一种。
[0221] 采用上述方案,根据所述图像的像素数据,可以获取特定反射率的区域,从而调整所述区域对应发射通道的输出激光功率,改善激光雷达能耗浪费的情况。
[0222] 在具体实施中,可以设置不同程度反射率的区间,如所述反射率区间可以包括:第一反射率区间和第二反射率区间,所述第一反射率区间的所有端点的数值大于所述第二反射率区间的所有端点的数值,具体可参照上述方法相关部分描述,在此不做赘述。
[0223] 相应地,继续参考图6所示,所述区域获取子单元64可以包括以下至少一种:
[0224] 第一区域获取模块641,适于根据各物体的特征信息,判断各物体是否处于所述第一反射率区间,并从所述图像中获取处于第一反射率区间的物体对应的第一区域;
[0225] 第二区域获取模块642,适于根据各物体的特征信息,判断各物体是否处于所述第二反射率区间,从所述图像中获取处于第二反射率区间的物体对应的第二区域。
[0226] 在具体实施中,点数据中可以包含激光雷达与物体之间距离的物体距离信息,在得到第一区域和/或第二区域后,所述输出激光功率调整单元可以根据点数据集合中获取的距离,调整第一区域和/或第二区域对应的发射通道的输出激光功率。具体而言,继续参考图6所示,所述输出激光功率调整单元54可以包括以下至少一种:
[0227] 第一输出激光功率调整子单元65,适于从所述点数据集合中获取对应的距离,并在所述第一区域对应的距离不大于预设的第一距离时,减小所述第一区域对应的发射通道的输出激光功率;
[0228] 第二输出激光功率调整子单元66,适于从所述点数据集合中获取对应的距离,并在所述第二区域对应的距离不小于预设的第二距离时,增大所述第二区域对应的发射通道的输出激光功率;其中所述第二距离大于所述第一距离。
[0229] 由上述方案可知,根据不同反射率和距离的物体对应的区域,可以灵活改变激光雷达的输出激光功率,提升激光雷达检测远距离低反射率的物体的能力,以及降低对近距离高反射率的物体进行检测的能耗,提升激光雷达检测近距离高反射率的物体的能力,故采用上述方案能有效提高激光雷达的工作性能。
[0230] 在具体实施中,天空对于探测信号的反射能力较弱,可以将整个天空视为一种低反射率的物体,并且天空中存在的物体数量较少,即使存在物体通常距离也较远。因此,可以通过图像确定外界环境中是否存在天空,并调整向天空发射探测信号的发射通道的发射功率。
[0231] 在另一可实现示例中,结合参考图5和图7,所述图像区域确定单元52可以包括:
[0232] 天空检测子单元71,适于根据所述图像中各像素的像素数据,检测所述图像中是否存在天空;
[0233] 天空区域获取子单元72,适于在检测到所述图像中存在天空后,从所述图像中获取所述天空对应的天空区域。
[0234] 采用上述方案,能够调整天空区域对应发射通道的输出激光功率,改善激光雷达能耗浪费的情况。
[0235] 在具体实施中,在得到天空区域后,所述输出激光功率调整单元可以根据天空区域在图像上的像素占比,调整所述天空区域对应的发射通道的输出激光功率。具体而言,如图7所示,所述输出激光功率调整单元54可以包括:
[0236] 第三输出激光功率调整子单元73,适于计算所述天空区域在所述图像上的像素占比,在确定所述像素占比超过预设阈值后,根据所述点数据集合,从所述激光雷达的多个发射通道中选取与所述天空区域对应的发射通道,并调整所述天空区域对应的发射通道的输出激光功率。
[0237] 在具体实施中,由于天空中物体较少且天空的回波信号较弱,可以降低所述天空区域对应的发射通道的输出激光功率。
[0238] 由上可知,当天空区域在图像上的像素占比超过预设阈值,可以认为图像中天空所占区域较大,通过调整天空区域对应的发射通道的输出激光功率,可以有效降低发射通道的输出激光功率,从而改善激光雷达能耗浪费的情况。
[0239] 在具体实施中,所述第三输出激光功率调整子单元73适于根据所述点数据集合获取的发射角度,确定所述天空区域对应的发射角度区间,并根据所述发射角度区间,从所述激光雷达的多个发射通道中选取对应的发射通道。
[0240] 需要说明的是,在实际应用中,校正装置可以通过硬件、软件或者软硬件结合的方式实现。例如,校正装置包含的各模块可以采用相应的硬件电路或器件、模组等进行实施。又例如,校正装置包含的各模块可以通过单片机、FPGA等处理器执行相应的软件程序进行实施。其中,校正装置包含的各模块可以通过同一处理器件进行控制,也可以通过不同的处理器件执行,所述不同的处理器可以分布于同一硬件设备上,也可以分布于不同的硬件设备上。
[0241] 可以理解的是,上文描述了本发明实施例提供的多个实施例方案,各实施例方案介绍的各可选方式可在不冲突的情况下相互结合、交叉引用,从而延伸出多种可能的实施例方案,这些均可认为是本发明披露、公开的实施例方案。
[0242] 本发明实施例还提供了与上述用于激光雷达的校正方法对应的环境感知系统,以下参照附图,通过具体实施例进行详细介绍。
[0243] 参照图8所示的本发明实施例中一种环境感知系统的结构框图,在本发明实施例中,所述环境感知系统80可以包括:
[0244] 图像采集装置81,适于采集图像;
[0245] 激光雷达82,适于生成点云数据;
[0246] 以及上述任意一种所述的校正装置83,适于根据获取到的图像和点云数据,调整所述激光雷达中对应的发射通道的输出激光功率。
[0247] 其中,所述图像采集装置可以包括数字式相机、红外相机、热成像相机中至少一种。并且,所述红外相机和热成像相机便于采集夜间的图像,使得校正装置能够在夜间调整激光雷达的输出激光功率。
[0248] 采用本发明实施例的环境感知系统,通过校正装置调整激光雷达的输出激光功率,可以有效降低激光雷达的能耗,从而使图像采集装置能够辅助激光雷达对其点云数据进行校正,提升激光雷达的工作性能,实现图像采集装置和激光雷达的数据互通,达到多传感器联合运作的效果。
[0249] 在具体实施中,激光雷达与图像采集装置之间的数据传输可以是通过线缆或无线通信直接交互,也可以是通过中控平台(例如,发明实施例提供的校正装置,或者其他具有通信功能的平台)进行交互。
[0250] 在具体实施中,在激光雷达和相机融合方案中,所述环境感知系统还会配置其他多种传感器,如图8所示,所述环境感知系统80还可以包括:
[0251] 传感器组84,适于采集环境数据和路况数据中至少一种,其中,所述环境数据包括:温度数据、湿度数据、天气数据中至少一种,所述路况数据包括:超声波测距数据、定位数据和车联网通信数据中至少一种;
[0252] 所述校正装置83还适于获取传感器组采集的数据,以结合获取到的图像和点云数据,调整所述激光雷达中对应的发射通道的输出激光功率。
[0253] 例如,所述校正装置根据路况数据确定移动平台处于静止状态(如等红绿灯、堵车等情况),则在确定移动平台静止时间超过预设时间阈值后,认为激光雷达已经完成周围环境的数据采集,则可以降低激光雷达所有发射通道的输出激光功率,从而减少激光雷达的功耗。
[0254] 采用上述方案,结合传感器组、激光雷达和图像采集装置采集的数据,校正装置能够根据多维度的数据,调整激光雷达的输出功耗,从而降低激光雷达的能耗,使图像采集装置和传感器组能够辅助激光雷达对其点云数据进行校正,提升激光雷达的工作性能,实现多维度数据互通,达到多传感器联合运作的效果。
[0255] 在具体实施中,所述校正装置还适于根据所述传感器组采集的环境数据,检测所述激光雷达所处天气状况,并在检测到所述激光雷达处于恶劣天气状况之后,将所述激光雷达的接受通道的回波检测模式调整为最后回波模式。
[0256] 例如,在雨雪环境下,由于持续落下的雨雪会对激光雷达产生干扰,使得生成的点云数据中包含随机雨雪噪点,这些雨雪噪点并不是激光雷达想要采集的真实目标物体,因此,对于通过多次回波技术实现多种回波检测模式的激光雷达,可以采用最后回波检测模式,将最后一次检测到的回波信号作为有效的回波信号,与探测信号进行数据处理,得到点云数据。
[0257] 采用最后回波检测模式的激光雷达,可以获得更符合真实场景的点云数据,进而有效保障点云数据的质量。
[0258] 可以理解的是,图8所示环境感知系统仅为示例说明,在具体实施中,校正装置可以通过硬件、软件或者软硬件结合的方式实现,根据实际情景,校正装置可以设置于激光雷达中,也可以设置于与激光雷达建立通信连接的外部设备中,还可以作为独立的外部设备与激光雷达建立通信连接。本发明实施例对此不做限制。
[0259] 需要说明的是,本发明所称的“一个实施例”或“实施例”是指可包含于本发明的至少一个实现方式中的特定特征、结构或特性。并且在本发明的描述中,“第一”、“第二”等术语仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”等术语的特征可以明示或者隐含的包括一个或者多个该特征。而且,“第一”、“第二”等术语是用于区别类似的对象,而不必用于描述特定的顺序或表示重要性。可以理解的是,这样使用的术语在适当情况下可以互换,以使这里描述的本发明实施例能够以除了在这里图示或描述的那些以外的顺序实施。
[0260] 虽然本发明实施例披露如上,但本发明并非限定于此。任何本领域技术人员,在不脱离本发明的精神和范围内,均可作各种更动与修改,因此本发明的保护范围应当以权利要求所限定的范围为准。