轨迹预测方法、装置、计算机设备和存储介质转让专利
申请号 : CN201980037489.0
文献号 : CN113811830B
文献日 : 2022-05-10
发明人 : 不公告发明人
申请人 : 深圳元戎启行科技有限公司
摘要 :
权利要求 :
1.一种轨迹预测方法,包括:
获取当前环境中多个障碍物的历史轨迹信息,和当前位置信息;
将所述历史轨迹信息进行渲染,得到轨迹渲染图;
在所述当前位置信息中提取地图元素,根据多个通道维度将所述地图元素进行渲染至对应的地图元素渲染图中;
根据多个通道维度将所述轨迹渲染图和所述地图元素渲染图进行拼接,得到拼接后的图像矩阵;
将所述拼接后的图像矩阵输入至训练后的特征提取器,通过所述特征提取器对所述拼接后的图像矩阵进行特征提取,得到特征提取结果;及根据所述特征提取结果预测多个障碍物在预设时间段内的轨迹。
2.根据权利要求1所述的方法,其特征在于,所述将所述历史轨迹信息进行渲染,得到轨迹渲染图,包括:
根据所述历史轨迹信息确定历史时序信息;及将所述历史时序信息在当前帧进行融合,得到多个障碍物对应的轨迹渲染图。
3.根据权利要求1所述的方法,其特征在于,所述根据多个通道维度将所述地图元素进行渲染至对应的地图元素渲染图中,包括:根据每个通道维度在所述地图元素中识别是否存在所述通道维度对应的地图元素;及当所述地图元素中存在所述通道维度对应的地图元素时,则将所述地图元素渲染至所述通道维度对应的地图元素渲染图中。
4.根据权利要求1所述的方法,其特征在于,所述特征提取器包括多个网络层,所述通过所述特征提取器对所述拼接后的图像矩阵进行特征提取,得到特征提取结果,包括:通过所述特征提取器的输入层提取所述拼接后的图像矩阵中的图像向量和上下文向量;
将所述图像向量和上下文向量输入卷积层,提取所述图像向量对应的图像特征信息和所述上下文向量对应的上下文特征信息;
将所述图像特征信息和上下文特征信息输入池化层,对所述图像特征信息和上下文特征信息进行降维处理;及
将降维处理后的图像特征信息和上下文特征信息输入全连接层,输出所述拼接后的图像矩阵对应的特征提取结果。
5.根据权利要求1所述的方法,其特征在于,所述根据所述特征提取结果预测多个障碍物在预设时间段内的轨迹,包括:根据预设时间段和预设采样率计算得到预测点的数量;
根据所述预测点的数量和所述特征提取结果回归预测多个障碍物在预设时间段内的位置变化信息;及
根据所述位置变化信息得到多个障碍物在预设时间段内的轨迹。
6.根据权利要求1至5中任意一项所述的方法,其特征在于,所述获取当前环境中障碍物的历史轨迹信息,包括:
获取待检测信息;
根据所述待检测信息的类型对所述待检测信息进行检测,确定当前环境中的障碍物;
及
对所述障碍物的运动过程进行跟踪,获取所述障碍物的历史轨迹信息。
7.一种轨迹预测装置,包括:
获取模块,用于获取当前环境中多个障碍物的历史轨迹信息和当前位置信息;
第一渲染模块,用于将所述历史轨迹信息进行渲染,得到轨迹渲染图;
第二渲染模块,用于在所述当前位置信息中提取地图元素,根据多个通道维度将所述地图元素渲染至对应的地图元素渲染图中;
拼接模块,用于根据多个通道维度将所述轨迹渲染图和所述地图元素渲染图进行拼接,得到拼接后的图像矩阵;
提取模块,用于将所述拼接后的图像矩阵输入至训练后的特征提取器,通过所述特征提取器对所述拼接后的图像矩阵进行特征提取,得到特征提取结果;及预测模块,用于根据所述特征提取结果预测多个障碍物在预设时间段内的轨迹。
8.根据权利要求7所述的装置,其特征在于,所述第一渲染模块还用于根据所述历史轨迹信息确定历史时序信息;及将所述历史时序信息在当前帧进行融合,得到多个障碍物对应的轨迹渲染图。
9.根据权利要求7所述的装置,其特征在于,所述第二渲染模块还用于根据每个通道维度在所述地图元素中识别是否存在所述通道维度对应的地图元素;及当所述地图元素中存在所述通道维度对应的地图元素时,则将所述地图元素渲染至所述通道维度对应的地图元素渲染图中。
10.根据权利要求7所述的装置,其特征在于,所述提取模块还用于通过所述特征提取器的输入层提取所述拼接后的图像矩阵中的图像向量和上下文向量;将所述图像向量和上下文向量输入卷积层,提取所述图像向量对应的图像特征信息和所述上下文向量对应的上下文特征信息;将所述图像特征信息和上下文特征信息输入池化层,对所述图像特征信息和上下文特征信息进行降维处理;及将降维处理后的图像特征信息和上下文特征信息输入全连接层,输出所述拼接后的图像矩阵对应的特征提取结果。
11.一种计算机设备,包括存储器及一个或多个处理器,所述存储器中存储有计算机可读指令,所述计算机可读指令被所述一个或多个处理器执行时,使得所述一个或多个处理器执行以下步骤:
获取当前环境中多个障碍物的历史轨迹信息,和当前位置信息;
将所述历史轨迹信息进行渲染,得到轨迹渲染图;
在所述当前位置信息中提取地图元素,根据多个通道维度将所述地图元素渲染至对应的地图元素渲染图中;
根据多个通道维度将所述轨迹渲染图和所述地图元素渲染图进行拼接,得到拼接后的图像矩阵;
将所述拼接后的图像矩阵输入至训练后的特征提取器,通过所述特征提取器对所述拼接后的图像矩阵进行特征提取,得到特征提取结果;及根据所述特征提取结果预测多个障碍物在预设时间段内的轨迹。
12.根据权利要求11所述的计算机设备,其特征在于,所述处理器执行所述计算机可读指令时还执行以下步骤:根据所述历史轨迹信息确定历史时序信息;及将所述历史时序信息在当前帧进行融合,得到多个障碍物对应的轨迹渲染图。
13.根据权利要求11所述的计算机设备,其特征在于,所述处理器执行所述计算机可读指令时还执行以下步骤:根据每个通道维度在所述地图元素中识别是否存在所述通道维度对应的地图元素;及当所述地图元素中存在所述通道维度对应的地图元素时,则将所述地图元素渲染至所述通道维度对应的地图元素渲染图中。
14.根据权利要求11所述的计算机设备,其特征在于,所述处理器执行所述计算机可读指令时还执行以下步骤:通过所述特征提取器的输入层提取所述拼接后的图像矩阵中的图像向量和上下文向量;将所述图像向量和上下文向量输入卷积层,提取所述图像向量对应的图像特征信息和所述上下文向量对应的上下文特征信息;将所述图像特征信息和上下文特征信息输入池化层,对所述图像特征信息和上下文特征信息进行降维处理;及将降维处理后的图像特征信息和上下文特征信息输入全连接层,输出所述拼接后的图像矩阵对应的特征提取结果。
15.根据权利要求11所述的计算机设备,其特征在于,所述处理器执行所述计算机可读指令时还执行以下步骤:根据预设时间段和预设采样率计算得到预测点的数量;根据所述预测点的数量和所述特征提取结果回归预测多个障碍物在预设时间段内的位置变化信息;
及根据所述位置变化信息得到多个障碍物在预设时间段内的轨迹。
16.一个或多个存储有计算机可读指令的非易失性计算机可读存储介质,所述计算机可读指令被一个或多个处理器执行时,使得所述一个或多个处理器执行以下步骤:获取当前环境中多个障碍物的历史轨迹信息,和当前位置信息;
将所述历史轨迹信息进行渲染,得到轨迹渲染图;
在所述当前位置信息中提取地图元素,根据多个通道维度将所述地图元素渲染至对应的地图元素渲染图中;
根据多个通道维度将所述轨迹渲染图和所述地图元素渲染图进行拼接,得到拼接后的图像矩阵;
将所述拼接后的图像矩阵输入至训练后的特征提取器,通过所述特征提取器对所述拼接后的图像矩阵进行特征提取,得到特征提取结果;及根据所述特征提取结果预测多个障碍物在预设时间段内的轨迹。
17.根据权利要求16所述的存储介质,其特征在于,所述计算机可读指令被所述处理器执行时还执行以下步骤:根据所述历史轨迹信息确定历史时序信息;及将所述历史时序信息在当前帧进行融合,得到多个障碍物对应的轨迹渲染图。
18.根据权利要求16所述的存储介质,其特征在于,所述计算机可读指令被所述处理器执行时还执行以下步骤:根据每个通道维度在所述地图元素中识别是否存在所述通道维度对应的地图元素;及当所述地图元素中存在所述通道维度对应的地图元素时,则将所述地图元素渲染至所述通道维度对应的地图元素渲染图中。
19.根据权利要求16所述的存储介质,其特征在于,所述计算机可读指令被所述处理器执行时还执行以下步骤:通过所述特征提取器的输入层提取所述拼接后的图像矩阵中的图像向量和上下文向量;将所述图像向量和上下文向量输入卷积层,提取所述图像向量对应的图像特征信息和所述上下文向量对应的上下文特征信息;将所述图像特征信息和上下文特征信息输入池化层,对所述图像特征信息和上下文特征信息进行降维处理;及将降维处理后的图像特征信息和上下文特征信息输入全连接层,输出所述拼接后的图像矩阵对应的特征提取结果。
20.根据权利要求16所述的存储介质,其特征在于,所述计算机可读指令被所述处理器执行时还执行以下步骤:根据预设时间段和预设采样率计算得到预测点的数量;根据所述预测点的数量和所述特征提取结果回归预测多个障碍物在预设时间段内的位置变化信息;
及根据所述位置变化信息得到多个障碍物在预设时间段内的轨迹。
说明书 :
轨迹预测方法、装置、计算机设备和存储介质
技术领域
背景技术
测,能够使车辆更早识别障碍物的意图,并根据障碍物意图来规划行驶路线和行驶速度,从
而避免碰撞,减少安全事故的发生。障碍物的未来轨迹受多方面因素的影响。传统的轨迹预
测方式,是根据障碍物的自身信息来预测障碍物的轨迹,而障碍物的自身信息只是部分影
响因素,导致预测得到的障碍物轨迹的准确性较低。
发明内容
下步骤:
附图说明
域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附
图。
具体实施方式
限定本申请。
头。计算机设备104对待检测信息进行处理,得到当前环境中多个障碍物的历史轨迹信息。
车载计算机设备可以简称为计算机设备。车载定位器106将采集到的当前位置信息发送至
计算机设备104。计算机设备104将历史轨迹信息进行渲染,得到轨迹渲染图。计算机设备
104在当前位置信息中提取地图元素,根据多个通道维度将地图元素渲染至对应的地图元
素渲染图中。计算机设备104根据多个通道维度将轨迹渲染图和地图元素渲染图进行拼接,
得到拼接后的图像矩阵。计算机设备104将拼接后的图像矩阵输入至训练后的特征提取器
中,通过特征提取器对拼接后的图像矩阵进行特征提取,得到特征提取结果。计算机设备
104根据特征提取结果预测多个障碍物在预设时间段内的轨迹。
载传感器采集待检测信息,进而通过检测器和跟踪器获取多个障碍物的历史轨迹信息。车
载跟踪器将多个障碍物的历史轨迹信息发送至计算机设备。车载定位器将采集到的当前位
置信息发送至计算机设备。例如,车载定位器可以是GPS(Global Positioning System,全
球定位系统)定位器。车载定位器可以通过接收卫星的GPS信号,对GPS信号进行分析,计算
得到对应的地理位置信息,进而通过GSM(Global System of Mobile communication,全球
移动通讯系统)/CDMA(Code Division Multiple Access,码分多址)等无线网络将地理位
置信息发送至计算机设备。
的历史轨迹信息在当前帧进行渲染,进而得到轨迹渲染图。轨迹渲染图中障碍物在每一帧
的颜色随着离当前帧的时间远近发生变化,离当前帧的时间越远,障碍物的颜色越浅。
在当前位置信息中提取地图元素。地图元素可以包括车道线、中心线、人行道、停止线等信
息。计算机设备可以根据多个通道维度将提取出来的地图元素进行渲染,将地图元素渲染
至通道维度对应的地图元素渲染图中。当地图元素不同时,地图元素对应的通道维度也可
以是不同的。通道维度可以包括颜色通道、元素通道等。颜色通道可以包括红色、绿色、蓝色
三个通道。元素通道可以包括车道线通道、中心线通道和人行道通道等。
渲染图和地图元素渲染图在相应的通道维度上进行图像拼接,进而得到拼接后的图像矩
阵。拼接后的图像矩阵可以是包含有轨迹渲染图和地图元素渲染图的完整图像。拼接后的
图像矩阵的示意图可以如图3所示。图中的白圈可以表示车辆。多个白圈所形成的线条表示
车辆的轨迹。线条表示车道线。线条的交叉处表示中心线。
染图和地图元素渲染图进行滤波处理,得到滤波处理后的轨迹渲染图和滤波处理后的地图
元素渲染图。计算机设备通过对轨迹渲染图和地图元素渲染图进行滤波处理,能够得到平
滑的轨迹渲染图和地图元素渲染图,并且能够去除噪声,有利于提高后续进行特征提取的
准确性。
到的。特征提取器可以包括多个网络层结构。例如,可以包括输入层、卷积层、池化层和全连
接层。
征提取器中。计算机设备通过特征提取器提取出拼接后的图像矩阵对应的图像特征信息和
上下文特征信息,进而通过特征提取器的全连接层输出拼接后的图像矩阵对应的特征提取
结果。
来预测障碍物在预设时间段内的位置坐标。障碍物在预设时间段内任一时刻的位置坐标可
以用P(x,y)来表示。例如,预设时间段可以是5s。
周围的环境信息,实现从多方面考虑轨迹的影响因素,更有利于提高轨迹预测的准确性。计
算机设备根据多个通道维度将当前位置信息中的地图元素渲染至地图元素渲染图中。能够
通过地图元素对应的通道维度直观、准确地将障碍物的当前位置进行渲染,有利于后续进
行轨迹预测。计算机设备从而根据多个通道维度将轨迹渲染图和地图元素渲染图进行拼
接,将拼接后的图像矩阵输入至训练后的特征提取器中进行特征提取,得到特征提取结果。
实现将障碍物轨迹的多方面影响因素进行结合,进一步提高了特征提取结果的全面性。计
算机设备对特征提取结果进行回归预测,由于得到的特征提取结果包含多个障碍物的历史
帧的轨迹,扩大了环境信息的范围,实现根据多方面的影响因素进行轨迹预测,从而提供了
轨迹预测的准确性。
对应的时间,根据每个障碍物的历史每帧轨迹对应的时间得到多个障碍物的历史时序信
息。历史时序信息中可以包括按照时间的先后顺序生成的每个障碍物在历史每一帧对应的
轨迹。计算机设备根据历史轨迹信息确定当前帧对应的渲染通道,根据对应的渲染通道将
多个障碍物对应的历史时序信息在当前帧融合至一张图像中,从而得到多个障碍物对应的
轨迹渲染图。
图像中,有利于对障碍物的轨迹进行全局分析。同时,无需将逐个将障碍物的历史轨迹信息
渲染至单独的图像中,有效节约了计算机设备的计算资源。
色通道、元素通道等。颜色通道可以包括红色、绿色、蓝色三个通道。元素通道可以包括车道
线通道、中心线通道和人行道通道等。计算机设备根据每个通道维度在获取到的地图元素
中识别是否存在该通道维度对应的地图元素。当存在该通道维度对应的地图元素时,将地
图元素渲染至该通道维度对应的地图元素渲染图中,当所有的地图元素渲染完成之后,根
据多个地图元素渲染图得到障碍物的周围地图信息渲染图。例如,计算机设备根据中心线
通道识别地图元素中是否存在中心线,当存在中心线时,则将地图元素中的中心线渲染至
中心线通道对应的中心线渲染图中。
来。同时,有利于后续根据通道维度将地图元素渲染图和轨迹渲染图进行拼接。
图像矩阵中的图像向量和上下文向量;将图像向量和上下文向量输入卷积层,提取图像向
量对应的图像特征信息和上下文向量对应的上下文特征信息;将图像特征信息和上下文特
征信息输入池化层,对图像特征信息和上下文特征信息进行降维处理;将降维处理后的图
像特征信息输入全连接层,输出拼接后的图像矩阵对应的特征提取结果。
训练得到的。特征提取器可以包括多个网络层结构。例如,可以包括输入层、卷积层、池化层
和全连接层。
入,通过卷积层进行相应特征信息的提取,得到图像特征信息和上下文特征信息。图像特征
信息可以包括空间特征信息和时序特征信息。空间特征信息可以包括障碍物的历史速度变
化信息。时序特征信息可以包括障碍物在预设时间段内的位置信息与方向信息。特征提取
器的卷积层从而将图像特征信息和上下文特征信息作为池化层的输入,通过池化层对图像
特征信息和上下文特征信息进行降维处理。特征提取器的池化层将降维处理后的图像特征
信息和上下文特征信息作为全连接层的输入,通过全连接层输出拼接后的图像矩阵对应的
特征提取结果。
的上下文特征信息,能够将拼接后的图像矩阵中的干扰信息进行过滤,实现对拼接后的图
像矩阵进行聚焦处理,得到特征信息。计算机设备通过特征提取器的池化层对图像特征信
息和上下文特征信息进行降维处理,能够提取主要的图像特征信息和上下文特征,避免多
余特征的影响。计算机设备进而通过全连接层输出图像矩阵对应的特征提取结果,有利于
提高特征提取的准确性。
数量和特征提取结果回归预测多个障碍物在预设时间段内的位置变化信息;根据位置变化
信息得到多个障碍物在预设时间段内的轨迹。
5s,预设采样率为0.2,则5/0.2=25,即预测点的数量为25。计算机设备根据特征提取结果
回归预测每个预测点的位置信息。位置信息可以是障碍物的位置坐标。计算机设备根据多
个预测点的位置信息计算得到障碍物在预设时间段内的位置变化信息。位置变化信息可以
是位置偏移量。计算机设备进而根据位置变化信息得到障碍物在预设时间段内的轨迹。
息,进而根据位置变化信息得到多个障碍物在预设时间段内的轨迹。由于特征提取结果包
含有多个障碍物的特征信息,提供了更大范围的上下文特征信息。同时,只需通过一次预测
就可以得到多个障碍物在预设时间段内的轨迹,从而有效减少了计算量,提高了轨迹预测
效率,实现实时对障碍物进行轨迹预测。
的运动过程进行跟踪,获取障碍物的历史轨迹信息。
境中的障碍物信息。车载传感器可以是激光雷达,也可以是车载摄像头。当车载传感器为激
光雷达时,待检测信息的类型为点云数据。计算机设备可以通过对点云数据进行分类,确定
当前时刻环境中的障碍物。当车载传感器为车载摄像头时,待检测信息的类型为图像。计算
机设备可以对图像按照语义类别进行分割和语义标注,确定当前环境中的障碍物。计算机
设备对障碍物的运动过程进行跟踪,根据障碍物在前一时刻的位置信息来预测当前时刻的
位置信息,将预测得到的当前时刻的位置信息与实际位置信息进行比较,得到误差信息。根
据误差信息对下一时刻的位置信息进行修正,从而得到多个障碍物的历史轨迹信息。计算
机设备可以获取多种类型的待检测信息,根据待检测信息的类型确定对应的检测方式,实
现对当前环境中的障碍物进行检测,并对障碍物的运动过程进行跟踪,获取障碍物的历史
轨迹信息。能够灵活地进行障碍物检测,并获取对应的历史轨迹信息。
则将地图元素渲染至通道维度对应的地图元素渲染图中。
向量对应的图像特征信息和上下文向量对应的上下文特征信息;将图像特征信息和上下文
特征信息输入池化层,对图像特征信息和上下文特征信息进行降维处理;将降维处理后的
图像特征信息和上下文特征信息输入全连接层,输出拼接后的图像矩阵对应的特征提取结
果。
的位置变化信息;根据位置变化信息得到多个障碍物在预设时间段内的轨迹。
障碍物的历史轨迹信息。
述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储
于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、
内存储器。该非易失性存储介质存储有操作系统、计算机可读指令和数据库。该内存储器为
非易失性存储介质中的操作系统和计算机可读指令的运行提供环境。该计算机设备的数据
库用于存储障碍物的历史轨迹信息和当前位置信息。该计算机设备的通信接口用于与车载
传感器和车载定位器连接通信。该计算机可读指令被处理器执行时以实现一种轨迹预测方
法。
可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
方法实施例中的步骤。
骤。
性计算机可读取存储介质中,该计算机可读指令在执行时,可包括如上述各方法的实施例
的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的
任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器
(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失
性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM
以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM
(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线
(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM
(RDRAM)等。
盾,都应当认为是本说明书记载的范围。
说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护
范围。因此,本申请专利的保护范围应以所附权利要求为准。