一种点云数据中3D框的标注方法和装置转让专利
申请号 : CN202111502715.3
文献号 : CN113903029B
文献日 : 2022-03-22
发明人 : 康含玉 , 张海强 , 李成军 , 李芹卜
申请人 : 智道网联科技(北京)有限公司
摘要 :
权利要求 :
1.一种点云数据中3D框的标注方法,其特征在于,包括:获取路侧单元中激光雷达采集的点云数据和摄像头采集的图像数据,所述激光雷达和所述摄像头覆盖相同视野;
分别对所述点云数据和所述图像数据进行目标检测,获取第一检测数据和第二检测数据,所述第一检测数据关联目标的3D框信息,所述第一检测数据和第二检测数据包括目标位置;
将所述第一检测数据与所述第二检测数据进行数据融合,得到目标融合数据,包括:将第一检测数据中的目标位置和第二检测数据中的目标位置进行加权融合,得到融合后的目标位置;
根据所述目标融合数据,在所述点云数据上标注所述3D框信息,包括:在所述点云数据中融合后的目标位置处标注所述3D框信息;
通过下述步骤对所述点云数据进行目标检测:利用三维检测模型对所述点云数据进行目标检测,得到目标的第一检测数据及目标的
3D框信息;所述三维检测模型是利用开源数据集进行标注训练所得到的。
2.根据权利要求1所述的方法,其特征在于,获取路侧单元中激光雷达采集的点云数据和摄像头采集的图像数据,包括:获取所述点云数据的时间戳信息;
根据所述时间戳信息从摄像头采集的图像数据集中获得与所述时间戳信息对应的图像数据。
3.根据权利要求1所述的方法,其特征在于,在将所述第一检测数据与所述第二检测数据进行数据融合之前,还包括:根据所述第一检测数据与所述第二检测数据进行目标一致性检测;
将所述第一检测数据与所述第二检测数据进行数据融合,包括:对通过目标一致性检测的第一检测数据与第二检测数据进行数据融合。
4.根据权利要求3所述的方法,其特征在于,根据所述第一检测数据与所述第二检测数据进行目标一致性检测,包括:分别根据第一检测数据和第二检测数据构建特征向量;
对所述特征向量利用匈牙利匹配检测算法进行目标一致性检测。
5.根据权利要求4所述的方法,其特征在于,分别根据第一检测数据和第二检测数据构建特征向量,包括:
将第一检测数据和第二检测数据中的目标位置转换到同一坐标系下,利用同一坐标系下的目标位置构建特征向量。
6.一种点云数据中3D框的标注装置,其特征在于,包括:数据获取单元,用于获取路侧单元中激光雷达采集的点云数据和摄像头采集的图像数据,所述激光雷达和所述摄像头覆盖相同视野;
目标检测单元,用于分别对所述点云数据和所述图像数据进行目标检测,获取第一检测数据和第二检测数据,所述第一检测数据关联目标的3D框信息,所述第一检测数据和第二检测数据包括目标位置;
数据融合单元,用于将所述第一检测数据与所述第二检测数据进行数据融合,得到目标融合数据,具有是用于将第一检测数据中的目标位置和第二检测数据中的目标位置进行加权融合,得到融合后的目标位置;
3D框标注单元,用于根据所述目标融合数据,在所述点云数据上标注所述3D框信息,具体是用于在所述点云数据中融合后的目标位置处标注所述3D框信息;
其中目标检测单元,进一步用于利用三维检测模型对所述点云数据进行目标检测,得到目标的第一检测数据及目标的3D框信息;所述三维检测模型是利用开源数据集进行标注训练所得到的。
7.一种电子设备,其特征在于,包括:处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行所述权利要求1 5之任一所述点云数据中3D框的标注方法。
~
8.一种计算机可读存储介质,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被处理器执行时,实现所述权利要求1 5之任一所述点云数据中3D框的标~
注方法。
说明书 :
一种点云数据中3D框的标注方法和装置
技术领域
背景技术
为待识别图像中的目标对象添加与其内容相关的文本信息,为图像识别提供良好的基础。
低,数据标注的质量差。
发明内容
盖相同视野;分别对所述点云数据和所述图像数据进行目标检测,获取第一检测数据和第
二检测数据,所述第一检测数据关联目标的3D框信息;将所述第一检测数据与所述第二检
测数据进行数据融合,得到目标融合数据;根据所述目标融合数据,在所述点云数据上标注
所述3D框信息。
检测模型是利用开源数据集进行标注训练所得到的。
据集中获得与所述时间戳信息对应的图像数据。
测数据与所述第二检测数据进行数据融合,包括:对通过目标一致性检测的第一检测数据
与第二检测数据进行数据融合。
利匹配检测算法进行目标一致性检测。
标位置转换到同一坐标系下,利用同一坐标系下的目标位置构建特征向量。
权融合,得到融合后的目标位置;根据所述目标融合数据,在所述点云数据上标注所述3D框
信息,包括:在所述点云数据中融合后的目标位置处标注所述3D框信息。
据和所述图像数据进行目标检测,获取第一检测数据和第二检测数据,所述第一检测数据
关联目标的3D框信息;数据融合单元,用于将所述第一检测数据与所述第二检测数据进行
数据融合,得到目标融合数据;3D框标注单元,用于根据所述目标融合数据,在所述点云数
据上标注所述3D框信息。
3D框的标注方法。
3D框的标注方法。
再将图像数据的目标检测数据与点云数据的目标检测数据进行数据融合,提高点云数据中
目标的检测精度,利用具有更高检测精度的目标融合数据在点云数据上对3D框进行精细标
注,提高点云数据的3D框标注精度。
附图说明
的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
具体实施方式
附图中显示了本发明的示例性实施例,然而应当理解,可以以各种形式实现本发明而不应
被这里阐述的实施例所限制。
深度学习三维检测是路侧目标的常用检测方法之一。
形框的方法人工成本高、标注效率低、数据标注的质量差。
框,提高点云数据3D框的标注精度。
激光雷达可进行360全视野扫描,而摄像头为局部视场角,例如摄像头的视场角为120度,则
路侧单元应包括至少一个可360度扫描的激光雷达和至少三个视场角为120度的摄像头,这
里至少一个激光雷达和至少三个摄像头的安装应满足激光雷达和摄像头能够覆盖相同的
视野。
置离地面4米左右较佳。
应利用激光雷达的硬件信号触发摄像头,使点云数据和图像数据具有相同的数据采集时
间。
该目标的3D框信息;对图像数据的检测可以得到该目标的二维检测结果,该二维检测结果
包括第二检测数据。当包括多个目标时,对点云数据的检测可以得到每个目标的三维检测
结果,每个三维检测结果包括该目标的3D框信息;对图像数据的检测可以得到每个目标的
二维检测结果。这里第一检测数据和第二检测数据从数据类型上来说包括目标位置、目标
类型等,3D框信息包括但不限于长宽高信息和方向信号。
合,所得到的目标融合数据相比于第一检测数据,具有更高的精度,利用目标融合数据对点
云数据的3D框进行精细标注,可以提高3D框的标注精度。
侧对象,待标注的目标可以是一个,也可以同时标注多个目标。在实际应用中,本实施例的
标注方法还可以应用到其他场景,只需应用场景包括本实施例所需的360度扫描的激光雷
达和全视场角的摄像头。
数据的目标检测数据进行数据融合,提高点云数据中目标的检测精度,利用具有更高检测
精度的目标融合数据在点云数据上对3D框进行精细标注,提高点云数据的3D框标注精度。
目标数据进行数据融合,提升目标数据精度,利用具有更高精度的融合数据对点云数据的
3D框进行标注,提升数据标注的质量,为后续路侧目标的精准追踪提供基础。
同的时间戳信息,以便于根据点云数据的时间戳信息获取与点云数据匹配的图像数据。
雷达采集的点云数据和摄像头采集的图像数据,包括:获取点云数据的时间戳信息;根据时
间戳信息从摄像头采集的图像数据集中获得与时间戳信息对应的图像数据。
误差在合理范围内,则判断图像数据与点云数据时间对齐。
所采集到的每帧点云数据和每帧图像数据具有相同的时间戳信息,这样基于时间戳信息筛
选出相互匹配的点云数据和图像数据,利用筛选出的图像数据对点云数据进行校正。
及在激光雷达和摄像头采集数据之前,本实施例还对激光雷达和摄像头进行联合标定,将
激光雷达和摄像头标定到同一坐标系下,以便于后续对目标数据进行一致性检测。
是利用开源数据集进行标注训练所得到的。当然,实际应用中,本领域技术人员也可以采用
其他框架来搭建三维检测模型,例如基于常用的目标检测追踪框架来进行三维目标的检
测。
精度较低。例如利用训练后的CenterPoint模型对路侧场景下的点云数据进行标注时,由于
模型对点云数据中的路侧目标的位置检测精度较低,而对路侧目标本身的形态检测精度是
较高的,因此本实施例是结合图像数据确定点云数据中3D框的最终标定位置,3D框是复用
模型输出的值。
件模型)模型等传统目标检测算法,或者基于区域建议的神经网络算法、基于目标回归的神
经网络算法、基于搜索的神经网络算法等等。对图像数据进行目标检测后,会获得各个目标
的位置信息和类别信息,应注意的是,此时获得的目标位置信息是相对于图像数据的位置
信息,在进行目标一致性检测前,还应对第二检测数据中的位置信息进行坐标转换处理。
建出各种车辆对应的2D框,这样在识别出目标的类别信息之后,就可以确定出该目标的2D
框信息,基于2D框信息对图像数据进行标注,以获得标注后的图像数据,为其他应用场景提
供数据支撑。
数据融合,保证数据融合的可靠性。
征向量,以及对各个目标的第二检测数据,根据其目标位置和目标类别为该目标构建第二
类特征向量。
第二类特征向量的匹配结果为第一数值时,确定该第一类特征向量对应的目标与该第二类
特征向量对应的目标通过目标一致性检测;当某个第一类特征向量与某个第二类特征向量
的匹配结果为第二数值时,确定该第一类特征向量对应的目标与该第二类特征向量对应的
目标没有通过目标一致性检测。
目标数据的目标位置和目标类别为每个目标构建特征向量,得到二维目标T2D1对应的第一
类特征向量V2D 1,二维目标T2D2对应的第一类特征向量V2D 2,三维目标T3D1对应的第二类特
征向量V3D 1,三维目标T3D2对应的第二类特征向量V3D 2。
高,本领域技术人员可以根据应用场景选择合适的参数进行特征向量的构建。
其中Out1表示特征向量V2D 1和V3D 1的匹配情况,Out2表示特征向量V2D 2和V3D 1的匹配情
况,Out3表示特征向量V2D 1和V3D 2的匹配情况,Out2表示特征向量V2D 2和V3D 2的匹配情
况,若输出的值为1,表示相应的特征向量匹配,则特征向量对应的目标通过一致性检测,若
输出的值为0,表示相应的特征向量不匹配,则特征向量对应的目标没有通过一致性检测。
标位置和第二检测数据中的目标位置转换到同一坐标系下,利用同一坐标系下的目标位置
构建特征向量。
技术人员还可以参考其他多目标匹配算法,例如基于欧氏距离的阈值判断算法等等。
检测数据中的目标位置对应的权重为0.4,设置第二检测数据中的目标位置对应的权重为
0.6,将两者的目标位置按照该权重进行加权求和,得到融合后的目标位置,在点云数据中
融合后的目标位置处标注3D框信息,即将3D框标注在点云数据融合后的目标位置处,提高
点云数据中3D框的标注精度。
检测数据中的目标位置对应的权重大于第一检测数据中的目标位置对应的权重,这样使得
融合后的目标位置具有更高的精度。
进行标注训练所得到的。
第二检测数据进行目标一致性检测。
标系下的目标位置构建特征向量。
用于在所述点云数据中融合后的目标位置处标注所述3D框信息。
点云数据中3D框的标注装置,此处不再赘述。
含内存,例如高速随机存取存储器(Random‑Access Memory,RAM),也可能还包括非易失性
存储器(non‑volatile memory),例如至少1个磁盘存储器等。当然,该电子设备还可能包括
其他业务所需要的硬件。
Component Interconnect,外设部件互连标准)总线或EISA(Extended Industry Standard
Architecture,扩展工业标准结构)总线等。总线可以分为地址总线、数据总线、控制总线
等。为便于表示,图4中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总
线。
第一检测数据和第二检测数据,所述第一检测数据关联目标的3D框信息;将所述第一检测
数据与所述第二检测数据进行数据融合,得到目标融合数据;根据所述目标融合数据,在所
述点云数据上标注所述3D框信息。
力。在实现过程中,上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件
形式的指令完成。
方法。
施例的形式。而且,本发明可采用在一个或多个包含有计算机可用程序代码的计算机可用
存储介质(包括但不限于磁盘存储器、CD‑ROM、光学存储器等)上实施的计算机程序产品的
形式。
令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或
多个方框中指定的功能。
其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一
个方框或多个方框中指定功能的步骤。
质的示例。
按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体 (transitory media),如调
制的数据信号和载波。
括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要
素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的
过程、方法、商品或者设备中还存在另外的相同要素。
本发明范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第
一信息。
改进等,均应包含在本发明的权利要求范围之内。