位置推定装置、位置推定方法及程序转让专利

申请号 : CN202010882864.6

文献号 : CN112824994A

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 下山贤一宫本拓弥

申请人 : 株式会社东芝

摘要 :

本发明关于位置推定装置、位置推定方法及程序。其目的是提供一种减轻起因于移动体的周围状况的位置推定的推定精度下降的位置推定技术。有关实施方式的位置推定装置具备取得部、评价部、调整部和推定部。取得部取得反映移动体的周围环境的传感器信息。评价部计算表示所取得的传感器信息的适当度的评价信息。调整部根据计算出的评价信息,生成用来使移动体的位置姿势调整的指示信号并输出。推定部使用上述传感器信息进行上述移动体的位置推定。

权利要求 :

1.一种位置推定装置,其特征在于,具备:取得部,取得反映移动体的周围环境的传感器信息;

评价部,计算表示上述传感器信息的适当度的评价信息;

调整部,根据上述评价信息,生成用来使上述移动体的位置姿势调整的指示信号并输出;以及

推定部,使用上述传感器信息进行上述移动体的位置推定。

2.如权利要求1所述的位置推定装置,其特征在于,上述调整部还具备计算部,该计算部计算改善上述适当度那样的位置姿势。

3.如权利要求2所述的位置推定装置,其特征在于,上述传感器信息是反映上述移动体的周围环境的图像;

上述评价部通过按照上述图像的单位区域决定表示上述适当度的评价值,来计算上述评价信息;

上述计算部计算上述评价值低的区域减少那样的位置姿势。

4.如权利要求1所述的位置推定装置,其特征在于,上述评价部基于上述传感器信息,计算存在于上述移动体的周围环境中的物体与上述移动体之间的距离,并通过基于上述距离来决定表示上述适当度的评价值,计算上述评价信息。

5.如权利要求4所述的位置推定装置,其特征在于,上述评价部通过按照单位区域、基于上述距离是否比第1阈值大来决定上述评价值,计算上述评价信息。

6.如权利要求1~5中任一项所述的位置推定装置,其特征在于,上述推定部对上述传感器信息进行基于上述评价信息的加权,使用被加权后的上述传感器信息进行位置推定。

7.如权利要求1~5中任一项所述的位置推定装置,其特征在于,上述推定部在上述传感器信息中将上述适当度低的信息排除后,使用上述传感器信息进行位置推定。

8.如权利要求1~7中任一项所述的位置推定装置,其特征在于,上述评价部关于基于上述传感器信息计算的、存在于上述移动体的周围环境中的物体与上述移动体之间的距离,对存在于比第2阈值远的距离处的物体计算上述距离,并基于上述距离计算上述评价信息。

9.一种位置推定方法,是位置推定装置所执行的位置推定方法,其特征在于,具备:取得反映移动体的周围环境的传感器信息;

计算表示上述传感器信息的适当度的评价信息;

根据上述评价信息,生成用来使上述移动体的位置姿势调整的指示信号并输出;以及使用上述传感器信息进行上述移动体的位置推定。

10.一种记录介质,其特征在于,记录有用来使计算机作为以下单元发挥功能的程序:取得单元,取得反映移动体的周围环境的传感器信息;

评价单元,计算表示上述传感器信息的适当度的评价信息;

调整单元,根据上述评价信息,生成用来使上述移动体的位置姿势调整的指示信号并输出;以及

推定单元,使用上述传感器信息进行上述移动体的位置推定。

说明书 :

位置推定装置、位置推定方法及程序

[0001] 本申请基于日本专利申请2019-207088(申请日:11/15/2019)主张优先权,这里引用其全部内容。

技术领域

[0002] 本发明涉及位置推定装置、位置推定方法及程序。

背景技术

[0003] 在自主行驶的移动体装置中,存在具有推定当前的自我位置的功能的装置。例如,使用由安装在移动体装置上的相机事前拍摄的、拍摄位置已知的参照图像和在当前的位置
处拍摄的图像,通过将图像内的顶棚等不动物彼此对比,来推定自我位置。
[0004] 这里,当为了位置推定而要在当前的位置处拍摄时,在意外地存在可容易地移动的物体(人或车等移动体、笼车、货物、搁架等位置有可能变化的物体)的情况下,存在产生
背后的物体被近前的物体隐藏的遮挡(英文:occlusion)的情况。如果产生这样的遮挡,则
该区域成为噪声,有位置推定的推定精度下降的情况。

发明内容

[0005] 本发明的目的是提供一种减轻起因于移动体的周围状况的位置推定的精度下降的位置推定技术。
[0006] 根据本发明的实施方式,位置推定装置具备取得部、评价部、调整部和推定部。取得部取得反映移动体的周围环境的传感器信息。评价部计算表示所取得的传感器信息的适
当度的评价信息。调整部根据计算出的评价信息,生成用来使移动体的位置姿势调整的指
示信号并输出。推定部使用上述传感器信息进行上述移动体的位置推定。
[0007] 根据上述结构的位置推定装置,能够提供减轻起因于移动体的周围状况的位置推定的精度下降的位置推定技术。

附图说明

[0008] 图1是表示包括有关一实施方式的位置推定装置及移动体的系统整体的结构的一例的框图。
[0009] 图2是表示图1所示的位置-推定装置的硬件结构的一例的框图。
[0010] 图3是表示图1所示的移动体上的传感器的配置例的图。
[0011] 图4是表示由图1所示的位置推定装置进行的参照用辞典的制作处理的流程图。
[0012] 图5是表示按照图4的处理而被登录在参照用辞典中的图像的拍摄位置的例子的图。
[0013] 图6是表示由图1所示的位置推定装置进行的位置推定处理的流程图。
[0014] 图7是表示按照图6的处理取得的图像和距离信息的第1例的图。
[0015] 图8是表示按照图6的处理取得的图像和距离信息的第2例的图。
[0016] 图9是表示图8所示的图像中的视差与距离的关系的一例的图。
[0017] 图10是表示由图1所示的位置推定装置进行的距离计算与探索幅度的关系的一例的图。
[0018] 图11是表示由图1所示的位置推定装置计算的评价信息的第1例的图。
[0019] 图12是表示由图1所示的位置推定装置计算的评价信息的第2例的图。
[0020] 图13是表示与由图1所示的位置推定装置得到的评价信息对应的相机的调整的一例的图。
[0021] 图14是表示由图1所示的位置推定装置得到的特征点匹配的一例的图。
[0022] 标号说明
[0023] 1…位置推定装置;10…传感器信息处理部;11…距离信息计算部;12…评价信息计算部;13…判定部;14…位置姿势计算部;21…传感器信息取得部;22…位置推定部;23…
控制部;30…辞典存储部;50…移动体;51…移动体控制部;52…传感器信息收集部;101…
CPU;102…输入装置;103…显示装置;104…通信装置;105…存储装置;106…总线;60…顶
棚;61…壁;62…地面;70…拍摄范围;521…立体相机;522…光学中心。

具体实施方式

[0024] 以下,参照附图说明有关本发明的实施方式。
[0025] [一实施方式]
[0026] 图1是表示有关一实施方式的位置推定系统的结构的一例的图。该系统具有位置推定装置1和移动体50。位置推定装置1构成为,能够在与移动体50之间进行通信。
[0027] 移动体50具有移动体控制部51和传感器信息收集部52。此外,虽然没有图示,但移动体50具有为了移动而所需的驱动机构。
[0028] 移动体控制部51进行与移动体50的移动等有关的控制。移动体控制部51例如进行用来使移动体50向被指定的目标位置移动的驱动机构的控制。
[0029] 传感器信息收集部52具有装备在移动体50上的各种内界传感器及外界传感器,收集各种传感器信息。内界传感器是用来收集与移动体50的自我状态关联的传感器信息的传
感器。在实施方式中,内界传感器主要收集与移动体50的自我动作关联的传感器信息。另一
方面,外界传感器是收集反映移动体50的周围环境的传感器信息的传感器。在实施方式中,
外界传感器主要收集移动体50的外部的图像。
[0030] 位置推定装置1构成为,根据由移动体50收集的传感器信息来推定移动体50的位置。位置推定装置1也可以是基于移动体50的位置的推定结果对移动体50的移动进行控制
的上位系统。位置推定装置1例如是个人计算机(PC)。位置推定装置1作为处理功能部而具
有传感器信息取得部21、传感器信息处理部10、位置推定部22、控制部23和辞典存储部30。
[0031] 传感器信息取得部21从移动体50的传感器信息收集部52取得传感器信息。例如,传感器信息取得部21将从被从移动体50通信的信号收集到的传感器信息取出。
[0032] 传感器信息处理部10对由传感器信息取得部21取得的传感器信息进行处理。传感器信息处理部10具有距离信息计算部11、评价信息计算部12、判定部13和位置姿势计算部
14。
[0033] 距离信息计算部11基于由传感器信息取得部21取得的传感器信息,计算到存在于移动体50的周围的物体的距离信息。
[0034] 评价信息计算部12计算表示由距离信息计算部11计算出的距离信息或传感器信息的适当度的评价信息。这里,适当度是指距离信息或传感器信息适合用于位置推定之程
度,与评价值或评价信息这样的用语可交换地使用。
[0035] 判定部13根据由评价信息计算部12计算出的评价信息,判定距离信息或传感器信息是否适合用于位置推定。
[0036] 位置姿势计算部14作为调整部及计算部发挥功能,在判定为距离信息或传感器信息不适合用于位置推定的情况下,计算能够进行上述适当度提高那样的传感器信息的收集
的移动体50的位置姿势,并生成用来使移动体50调整位置姿势的指示信号且输出。
[0037] 位置推定部22基于距离信息、传感器信息或评价信息推定移动体50的位置。在实施方式中,位置推定部22作为距离信息或传感器信息,通过将移动体50拍摄其周围得到的
图像(根据需要而进行基于评价信息的处理)与存储在辞典存储部30中的目标位置附近的
图像的对比,进行移动体50的位置姿势的推定。
[0038] 控制部23按照由位置推定部22推定出的移动体50的位置姿势,生成控制移动体50的动作的信号并输出。
[0039] 辞典存储部30存储有保持着被用于由位置推定部22进行的位置推定的移动体50的目标位置的图像、在目标位置的周边的多个拍摄位置处收集到的图像、从各图像提取出
的特征点及特征量、各图像间的对应关系和各图像的收集位置的信息的辞典。
[0040] 图2是表示有关实施方式的位置推定装置1的硬件结构的一例的图。位置推定装置1作为硬件而具有例如CPU101、输入装置102、显示装置103、通信装置104和存储装置105。
CPU101、输入装置102、显示装置103、通信装置104和存储装置105被连接在总线106上。
[0041] CPU101是对位置推定装置1的整体上的动作进行控制的处理器。CPU101通过执行例如存储在存储装置105中的程序,作为传感器信息取得部21、传感器信息处理部10、位置
推定部22、控制部23而动作。CPU101也可以被替换为MPU、GPU、ASIC、FPGA等。CPU101既可以
是单一的CPU等,也可以是多个CPU等。
[0042] 输入装置102是操纵杆、触控面板、键盘、鼠标等的输入装置。在进行了输入装置102的操作的情况下,与操作内容对应的信号经由总线106被向CPU101输入。CPU101根据该
信号进行各种处理。
[0043] 显示装置103是液晶显示器、有机EL显示器等的显示装置。显示装置103能够显示各种图像。
[0044] 通信装置104例如是用于无线LAN通信的通信装置。通信装置104与移动体50通信。通信装置104也可以并不一定是用于无线LAN通信的通信装置。
[0045] 存储装置105例如是硬盘驱动器、固态硬盘驱动器等的存储装置。存储装置105作为辞典存储部30而动作。此外,存储装置105也可以存储由CPU101执行的各种程序。
[0046] 总线106是用于进行CPU101、输入装置102、显示装置103、通信装置104和存储装置105之间的数据的交换的数据传送路径。
[0047] 以下,对在图1中表示的各结构更详细地进行说明。
[0048] 在图1中表示的移动体50例如是无人输送车(Automated Guided Vehicle:AGV)。AGV是向被指示的货物装运场所自动行驶,将在货物装运场所由人或自动机器人等装载的
货物输送到被指示的卸货场所的无轨道车辆。移动体50可以具有一切驱动机构。例如,移动
体50既可以具有两轮驱动机构,也可以具有4轮驱动机构,还可以具有环形轨道机构(履
带)。此外,移动体50既可以是以两脚或多脚行走的移动体,也可以是飞行体。此外,移动体
50也可以不是无轨道,而是沿被指定的轨道移动的线路跟踪方式的移动体。在实施方式中
只要没有特别记述,就假设移动体50是AGV。
[0049] 移动体控制部51接受移动命令,进行用来使移动体50向被指定的目标位置移动的驱动机构的控制。此时,移动体控制部51能够一边根据由位置推定装置1推定出的位置识别
自我位置,一边判断为了朝向被指定出的目标位置所需要的方向及距离而对驱动机构进行
控制。移动的命令及移动体50的目标位置既可以从作为移动体50的上位的系统的例如位置
推定装置1给出,也可以通过将事前被设定的值调出而给出,也可以通过人直接设定而给
出。目标位置不仅是移动体50的空间上的位置,也可以包括目标位置处的移动体50的姿势。
在实施方式中只要没有特别记述,就假设搭载在移动体50上的传感器的位置及姿势是移动
体的位置及姿势。当指定目标位置时,不仅是指定特定的位置的坐标,也可以通过利用作业
区的地图等的信息而指定“A的场所”、“B的作业区”等的区域。进而,移动的命令并不限于指
定绝对的位置的命令,也可以是指定距当前的位置的相对位置的命令。例如,移动的命令也
可以是在1m前方顺时针旋转30度的位置这样的命令。也有在向规定的场所的移动时其移动
的路径变得重要的情况。这是因为,即使想要单单向规定的位置以直线移动,也有因障碍物
等而移动困难的情况。移动的路径既可以由移动体控制部51决定,也可以由上位的系统给
出。进而,移动的路径既可以通过将事前设定的值调出而给出,也可以通过人直接设定而给
出。
[0050] 对于移动体50的数据取得的实施命令也可以从移动体控制部51或上位系统(例如位置推定装置1)发出。或者,也可以根据人的操作来取得数据。此外,也可以当移动体50接
近了规定的位置附近时实施数据取得。所述的既定的位置附近,例如可以考虑是:
[0051] (A1)作业区(载置台车的场所、放下台车的场所、如果搭载有作业机器人则是其作业场所)
[0052] (A2)充电场所
[0053] (A3)交叉点等。
[0054] 或者,也可以是根据移动体50的动作来实施数据取得那样的方法。例如,也可以是在移动体50,
[0055] (B1)停止时,
[0056] (B2)速度变慢时,
[0057] (B3)拐弯时(例如在拐角拐弯的前后),
[0058] (B4)一定时间以等速运动时,
[0059] (B5)进行避开障碍物、其他AGV的动作时等进行有可能拥有某种意义的动作时,发出数据取得指示(拍摄指示)。
[0060] 进而,也可以使移动体50的传感器总是工作而仅采用取得命令的定时的数据,也可以使用仅在命令时工作而取得数据那样的方法。
[0061] 传感器信息收集部52的内界传感器例如包括旋转编码器、加速度传感器、陀螺仪传感器等的角速度传感器。可以通过这些内界传感器测量移动体50的移动量及姿势。根据
移动体50的移动量和姿势,能够取得移动体50的大致的位置。
[0062] 传感器信息收集部52的外界传感器收集移动体50的外部的图像。外界传感器优选的是除了移动体50的外部的图像以外还能够收集能够计测或计算移动体50的周边的距离
信息的传感器信息。外界传感器更优选的是能够收集能够以面计测或计算移动体50的周边
的距离信息的传感器信息。例如,Depth相机、3D-LiDAR(Light Detecting and Raging,三
维激光扫描仪)等能够收集面状的距离图像。距离图像是通过将距离的值转换为亮度的值
而生成的图像。Depth相机也可以是ToF(Time of Flight,飞行时间)式、样式(英文:
pattern)照射式等,是怎样的方式都可以。此外,也可以是直线计测式的激光距离计等,也
可以通过机械地变更计测方向或改变多台的计测方向来收集面状的距离图像。进而,作为
不直接计测的方法,也可以考虑利用立体相机或单眼相机等。如果是立体相机,则能够通过
立体匹配方式将图像转换为距离信息。即使是单眼相机,也能够通过使移动体的位置/姿势
变化而进行与立体相机同样的立体拍摄,能够计算距离信息。外界传感器也可以是这些以
外。在实施方式中只要没有特别记述,就假设外界传感器是立体相机。
[0063] 图3表示作为外界传感器的一例的立体相机的配置例。在图3中,在移动体50的顶面中央部设置有立体相机521。立体相机521被设置为,使其光学中心522成为距地面62为高
度h的位置。并且,立体相机521的光轴相对于地面62以角度 倾斜。此外,立体相机521的像
角是θx。此时,立体相机521的拍摄范围70主要是包括处于距地面62为高度H的位置的顶棚
60的拍摄范围71。如图3所示,当移动体50接近于壁61时,立体相机521的拍摄范围70是包含
顶棚60及壁61的拍摄范围71及72。立体相机521的拍摄范围70也可以根据由立体相机521收
集的图像的用途来改变。例如,当用途是移动体50的位置的推定时,由立体相机521收集的
图像内的被摄体优选的是仅依存于移动体50的位置而变动,在时间上不变动。如图3所示,
通过将立体相机521的拍摄范围70设定为能够包含顶棚60及壁61的拍摄范围71及72,能够
收集到被摄体的随着时间的变动较少的、适合于移动体50的位置的推定的图像。当然,立体
相机521的设置位置及朝向并不限定于图3所示。
[0064] 接着,对传感器信息处理部10进一步进行说明。
[0065] 传感器信息处理部10首先根据由传感器信息取得部21取得的传感器信息,计算距离信息。接着,传感器信息处理部10根据距离信息计算评价信息,基于其评价信息,判定距
离信息或传感器信息是否适合于由位置推定部22实施的位置推定。在判定为传感器信息不
适合于位置推定的情况下,计算改善评价信息那样的再拍摄位置、姿势,即移动体100的位
置姿势。在实施方式中,位置推定装置1主要基于由移动体50的外界传感器收集到的传感器
信息来推定移动体50的位置,但并不限定于此,也可以并用内界传感器的信息。
[0066] 在实施方式中,传感器信息处理部10作为传感器信息而使用由移动体50的外界传感器收集到的、反映移动体50的周围环境的图像。反映移动体50的周围环境的图像既可以
是通过由作为外界传感器的相机将移动体50的周围环境拍摄而得到的图像,也可以是通过
将由外界传感器收集到的信息加工而得到的图像。
[0067] 距离信息计算部11根据由传感器信息取得部21取得的传感器信息计算距离信息。在实施方式中,距离信息计算部11根据作为传感器信息而由立体相机521拍摄到的左右的
相机图像通过立体匹配计算距离信息。
[0068] 评价信息计算部12根据由距离信息计算部11计算出的距离信息计算距离信息或传感器信息的评价信息。评价以距离图像的像素或区域单位来进行,距相机的距离越近则
使评价越低,距相机的距离越远则使评价越高。在实施方式中,通过以像素或区域单位决定
表示适当度的评价值,计算距离信息或传感器信息的评价信息。通常,自我位置推定根据不
动物与自身的距离的关系来进行。在该实施方式中,也利用顶棚或壁面等其位置不变动的
物体。但是,在拍摄时,有拍摄到可容易地移动的物体---例如人或车等的移动体、笼车、货
物、搁架等位置有可能变化的物体的情况。这样的可移动物体由于位置变化,所以不仅不能
成为位置推定时的线索,成为噪声源的可能性较高。此外,可移动物体与顶棚、墙壁相比必
定拍摄在相机的近前。即,可以将距离较近者推定为可移动物体,所以距离越近越降低其评
价值。
[0069] 判定部13根据由评价信息计算部12计算出的评价信息,判定距离信息或传感器信息是否适合用于由位置推定部22进行的位置推定处理。判定例如可以决定是“采用”还是
“不采用”。判定优选的是在距离信息及传感器信息的评价值充分高的情况下、换言之在评
价值高的区域较多的情况下设为采用。作为具体的方法,可以考虑例如以下这样的判定方
法。
[0070] (i)如果评价值低的区域的面积是设定值以下则采用;
[0071] (ii)如果评价值低的相连的区域的最大面积为设定值以下则采用;
[0072] (iii)如果评价值的平均值为设定值以上则采用;
[0073] (iv)如果评价值的中位数为设定值以上则采用。
[0074] 并不限于这些,也可以使用其他的判定方法。设定值的决定方式可以根据位置推定的方法而不同。例如在上述(i)的方法的情况下,可以设为如果评价值低的区域的面积是
20%以下则采用等。设定值也可以是其以外。
[0075] 进而,可以考虑在不采用的判定后、关于对再次拍摄的传感器信息的评价信息的判定降低判定的基准这样的方法。这是因为,在不降低基准的原状下会反复不采用,有可能
不能进行位置推定的处理。在这样的情况下,也可以设为采用最后拍摄到的传感器信息,也
可以设为将过去拍摄到的评价最高的传感器信息重新采用。或者,关于再次拍摄到的传感
器信息,也可以不进行采用/不采用的判定,而按照单位区域进行与评价值对应的加权或遮
蔽处理,在减小评价值低的区域的影响后用于位置推定。
[0076] 位置姿势计算部14在判定部13将距离信息或传感器信息判定为不采用时,计算下次拍摄的位置姿势。下次拍摄优选的是在改善评价信息那样的位置进行。具体而言,成为评
价值低的区域减少那样的拍摄范围的位置是优选的。位置姿势计算部14还基于上述计算结
果,生成例如使相机的角度在水平方向上旋转X度、使相机的位置向左方移动距离Y等的指
示信号。该指示信号例如在传感器信息处理部10的控制下,被从位置姿势计算部14经由通
信装置104向移动体50发送。接受到该指示信号的移动体50为了按照指示来改变相机的角
度及位置,例如可以在移动体控制部51的控制下改变移动体50自身的位置姿势。另外,也可
以与上述指示信号一起,从传感器信息处理部10对移动体50也发送指示再拍摄的信号。
[0077] 接着,对辞典存储部30进行说明。辞典存储部30存储着登录有在传感器信息处理部10及位置推定部22中需要的目标位置的信息的参照用辞典。作为参照用辞典的登录信
息,例如有以下:
[0078] ·目标位置和其周边的图像;
[0079] ·目标位置和其周边的图像的特征点和特征量;
[0080] ·图像间的对应建立结果;
[0081] ·目标位置和其周边的图像的位置;
[0082] ·目标位置的图像的拍摄时的移动体的速度;
[0083] 在存在多个目标位置的情况下的参照用辞典的登录方法中,有1)将关于全部的目标位置的登录信息一起登录到1个辞典中的方法、和2)分为每个目标位置的辞典的方法的
两种。在1)的方法中,不需要进行辞典的选择,但另一方面,由于需要对登录在参照用辞典
中的图像的全部进行特征点的匹配,所以在位置的推定处理中花费时间。此外,在2)的方法
中,由于仅对于登录有需要的目标位置的参照用辞典的处理就足够,所以位置的推定处理
较短。另一方面,在2)的方法中,需要由上位系统及人手等指定使用的参照用辞典。这样,在
参照用辞典的登录方法1)和2)中分别有优点和缺点。因而,优选的是根据需要而将参照用
辞典的登录方法1)和2)区分使用。
[0084] 图4是表示制作参照用辞典时的处理的流程图。图4的处理先于位置的推定而进行。
[0085] 在步骤S101中,位置推定装置1的控制部23使移动体50的到1个指定位置为止的移动开始。指定位置包括目标位置和其周边的拍摄位置。控制部23选择其中的1个,对移动体
50指示移动。接受到该指示,移动体50自主地开始移动。另外,移动体50的移动也可以通过
借助操纵杆等的操作的手动来进行。
[0086] 在步骤S102中,控制部23根据由传感器信息取得部21取得的传感器信息,判定移动体50是否已停止。控制部23例如根据由传感器信息取得部21取得的传感器信息计算移动
体50的速度,并在计算出的速度是阈值以下时判定为移动体50已停止。这里,移动体50停止
并不限于到达了目标位置或拍摄位置的情况。例如也可以构成为,移动体50在到朝向目标
位置或拍摄位置为止的拐角等处停止。在此情况下,也在步骤S102的判定中,当移动体50的
速度是阈值以下时判定为移动体50已停止。将处理待机直到在步骤S102中判定为移动体50
已停止。在步骤S102中判定为移动体50已停止的情况下,处理向步骤S103转移。
[0087] 在步骤S103中,控制部23向移动体50指示拍摄,从移动体50取得图像。
[0088] 在步骤S104中,控制部23判定是否取得了所指定的张数量的图像。例如,控制部23在取得了目标位置和全部的拍摄位置的图像时,判定为取得了所指定的张数量的图像。在
步骤S104中,当没有取得所指定的张数量的图像、即剩余有未取得图像的拍摄位置时,处理
向步骤S101返回。在此情况下,控制部23指定新的拍摄位置,使移动体50的移动开始。在步
骤S104中,当取得了所指定的张数量的图像时,处理向步骤S105转移。
[0089] 在步骤S105中,位置推定部22根据所取得的图像检测特征点。位置推定部22可以使用SIFT(Scale Invariant Feature  Transform,尺度不变特征转换)、AKAZE
(Accelerated KAZE,加速版KAZE)等来检测特征点。
[0090] 在步骤S106中,位置推定部22根据检测到的各特征点,提取特征量。位置推定部22可以按照在特征点检测中使用的方法来提取特征量。
[0091] 在步骤S107中,位置推定部22进行目标位置的图像与各拍摄位置的图像的特征点匹配。具体而言,位置推定部22将各图像的特征点建立对应,以使特征量的差成为最小。位
置推定部22可以通过NN(Nearest Neighbor,最近邻法)、k-NN(K近邻法)、kd-tree(k-
dimensional树)、汉明(Hamming)距离等的方法进行特征点匹配。
[0092] 在步骤S108中,位置推定部22推定目标位置的图像与各拍摄位置的图像的对应关系。例如,位置推定部22根据目标位置的图像和拍摄位置的图像的特征点的对应关系,推定
各拍摄位置的移动体50相对于目标位置的相对位置及相对姿势。并且,位置推定部22使用
推定出的相对位置及相对姿势,通过三角测量的原理,生成关于各图像的三维信息。
[0093] 在步骤S109中,位置推定部22将每个图像的特征点及特征量、各拍摄位置的图像相对于目标位置的对应关系、目标位置及拍摄位置的坐标、拍摄时的移动体的速度等向参
照用辞典登录。
[0094] 图5是表示按照图4的处理向参照用辞典登录的图像的拍摄位置的例子的图。在图5中,笼车的位置RBP的正前方的位置被设为目标位置P0。此外,目标位置P0的周边的位置
P1、P2、P3、P4、P5被设为拍摄位置。在拍摄位置P1、P2、P3、P4、P5处,将立体相机朝向目标位
置P0的方向而进行拍摄。目标位置P0例如是由上位系统等给出的已知的位置。另一方面,拍
摄位置P1~P5是每当在各个位置处拍摄而计测的位置。
[0095] 这里,向参照用辞典登录的图像的张数即拍摄位置的数量并不限定于特定的值。此外,目标位置和拍摄位置的位置关系在原理上是怎样的关系都没有问题。实际上,希望拍
摄位置位于目标位置的附近的范围NB内。
[0096] 位置推定部22通过将由传感器信息取得部21取得的图像中的由传感器信息处理部10的判定部13判定为可以在移动体50的位置的推定中采用的图像与登录在辞典存储部
30的参照用辞典中的图像比较,由此推定移动体50的位置。
[0097] 图6是表示由如以上这样构成的位置推定装置1进行的位置推定处理的流程图。
[0098] 首先,在步骤S201中,传感器信息取得部21从移动体50的传感器信息收集部52取得传感器信息、例如由立体相机521拍摄到的图像。传感器信息取得部21例如每一定的间隔
从移动体50的传感器信息收集部52取得传感器信息,并交给传感器信息处理部10。
[0099] 接着,在步骤S202中,传感器信息处理部10的距离信息计算部11根据传感器信息计算距离信息。在实施方式中,距离信息计算部11作为传感器信息而根据由作为传感器的
立体相机521拍摄到的左右的相机图像,通过立体匹配,计算距离信息。另外,在如上述那样
传感器是Depth相机或3D-LiDAR等的情况下,由于作为传感器信息而获得距离信息,所以
也可以不实施步骤S102的处理。但是,在此情况下,也可以基于数据的畸变、材质实施距离
信息的修正等。
[0100] 图7是表示在某个室内拍摄到的立体相机图像和根据该图像计算的距离信息的第1例。
[0101] 图7所示的3个图像从左起依次表示距离信息DI1、左眼(左相机)图像LE1及右眼(右相机)图像RE1。通过将两个图像立体匹配来计算距离信息的方法已被周知,距离信息
DI1使用这样的方法根据LE1及RE1来计算,以下也称作距离图像。距离图像其亮度越高(越
白)则表示是越靠近前(越靠近相机),亮度越低(越黑)则表示是越靠里侧(距相机越远)。距
离图像还与传感器信息一对一地对应。
[0102] 图8表示立体相机图像和距离信息的第2例。图8所示的3个图像从左起依次表示距离信息DI2、左眼(左相机)图像LE2及右眼(右相机)图像RE2。这里,在图8的左眼图像LE2及
右眼图像RE2中,在室内空间中,箱80被置于相机附近,遮挡了顶棚及墙壁的一部分。因此,
在图8的距离图像DI2中,在与箱80对应的位置处包含亮度高的区域85。
[0103] 在图7及图8中,以与相机图像相同的分辨率生成距离图像,但距离图像也可以通过将图像分割后的单位、例如块单位来计算。通过立体匹配进行的距离的计算,是通过以图
像的匹配求出两个以上的图像各自的像素或区域的视差量、从视差量转换为距离信息来进
行的。
[0104] 图9表示视差量与距离的关系的一例。图9表示了左眼图像LE3和右眼图像RE3,在各图像中拍摄有箱80和顶棚的线81。此外,在图像上的相同的位置处描绘有用于对比的方
框96L及96R和方框97L及97R。这里,将方框96L与方框96R对比可知,在拍摄到的顶棚的线81
中产生了稍稍的位置的偏差(视差)PL1。另一方面,将方框97L与方框97R对比可知,关于处
于近前(近处)的箱80,产生了比PL1大的视差PL2。这样,视差量与距离的关系为,距离越远
则视差量越小,距离越近则视差量越大。
[0105] 顺便说一下,在该实施方式中,不需要在立体图像的全部的区域中计算距离信息。在该实施方式中,位置推定装置1基于距相机的距离是远还是近,根据距离信息来计算评价
信息。因而,作为距离信息只要包含是远还是近的信息就可以,只要有视差量是大还是小的
信息就可以。如图9所示,为了计算较近的距离、即较大的视差量,需要将图像在较大的范围
中进行立体匹配探索。另一方面,如果仅确定较远的区域,则能够在较小的范围中进行探索
而将匹配了的区域判定为较远。即,如果设为将探索范围强行缩小而仅确定较远的区域的
探索方法,则能够以远比通常的距离计算小的计算量来计算距离信息。
[0106] 图10表示这样的探索范围与距离信息的关系。图10设想了通过具备左相机521L和右相机521R的立体相机计算对象OB的距离。这里,假设以右相机521R为基准,从左相机521L
的图像中探索对象OB。对象OB如用虚线表示那样,被投影在左相机521L及右相机521R各自
的图像面525L及525R上。
[0107] 首先,由于对象OB处于哪个距离是不清楚的,所以假定探索距离而进行探索。此时(设Z1
[0108] (I)假定为处于距离Z1~Z3的情况:产生对左相机图像面525L中的较大的区域SR2进行探索的需要。
[0109] (II)假定为处于距离Z2~Z3的情况:产生对更小的区域SR1进行探索的需要。
[0110] 上述(I)和(II)的差异是,是否将到作为探索对象的对象OB为止的设想距离设定到近处。即,根据所设定的设想距离,探索范围变化。如果更直接地表述,则在仅探索较远的
距离的情况下探索范围变窄。
[0111] 以上可以用以下的(式1)表示。
[0112] [数式1]
[0113] Z=Bf/d         (式1)
[0114] 式中,Z是从相机到物体的距离,d是视差量(图像上的偏差量),B是基线(相机间距离),f是相机的焦点距离。如果将(式1)变形,则得到以下的(式2)。
[0115] [数式2]
[0116] d=Bf/Z       (式2)
[0117] 如果使用(式2),则Z1~Z3的探索幅度Δ13和Z2~Z3的探索幅度Δ23如以下这样表示。
[0118] [数式3]
[0119]
[0120]
[0121] 因而,变形为
[0122] [数式4]
[0123]
[0124] 可知在从较近的范围探寻的情况下,探索范围变得更大。
[0125] 接着,在图6的流程图的步骤S203中,评价信息计算部12基于距离信息,计算距离信息或传感器信息的评价信息。
[0126] 图11表示根据图8所示的距离图像DI2得到的评价信息的一例。
[0127] 图11的左方的图像EI1是将评价值高的区域用白(评价值1)表示、将低的区域用黑(评价值0)(在图中为了方便而用斜线的阴影表示)来表示的图,对应于传感器信息。评价值
较低的仅为处于右方近前的箱的区域90。图11的中央的图像LE2-1及右方的图像RE2-1分
别表示使评价信息EI1(这里是区域90)重叠在左眼图像及右眼图像上的图像。
[0128] 在图11中,设定作为阈值的距离D,将比其近的区域的评价值设为0,将比其远的区域的评价值设为1。阈值D优选的是根据到顶棚或壁面的距离来设定。例如在顶棚为2m的房
屋内使用的情况下,如果设为D=1.8m等,则能够可靠地将顶棚与其以外分离。在没有房屋
的信息的情况下,也可以考虑收集多个房屋内的图像、根据距离信息的分布来设定的方法。
在图11中将评价值用两值来表现,但也可以是用多值来表现那样的方法,只要是距离越近
则评价值越低那样的评价方法就可以。
[0129] 此外,评价信息不需要以像素单位来求出,也可以以拥有一定的面积的区域单位来求出。
[0130] 图12表示以这样的区域单位获得的评价信息的一例。图12是将图像分割为5×5的块区域而求出评价信息的例子。与图11同样,图12的左方的图像表示评价信息EI2,图12的
中央的图像LE2-2及右方的图像RE2-2分别是使评价信息EI2重叠于左眼图像及右眼图像
的图像。还是与图11同样,将评价值低的区域95用黑(在图中用斜线的阴影)表示。决定块区
域的评价值的方法可以考虑各种各样,例如可以是平均值、最小值、最大值、中位数等,只要
是代表各区域那样的值就可以。另外,只要没有特别指定,这里在称作“单位区域”时,就假
设包含像素单位及拥有一定的面积的区域单位的两者。
[0131] 接着在图6的步骤S204中,判定部13基于计算出的评价信息,判定距离信息或传感器信息是否适合于由位置推定部22实施的位置推定。如上述那样,判定部13例如在评价值
高的区域的面积是设定值以下的情况下判定为“采用”,在高于设定值的情况下判定为“不
采用”。在步骤S204中,在判定为距离信息或传感器信息不适合于移动体50的位置的推定
(不采用)的情况下,处理向步骤S205转移。
[0132] 在步骤S205中,位置姿势计算部14计算改善评价值或评价信息的再拍摄位置及姿势、即得到更适当的传感器信息的移动体50的位置姿势。更具体地讲,位置姿势计算部14计
算拍摄范围改变的位置姿势,以使评价信息低的区域减少。
[0133] 图13例示拍摄范围与相机的位置姿势的关系。在图13中,虚线SI1表示被判定为不采用的拍摄范围,实线SI2表示下次的拍摄范围。在不采用的拍摄范围SI1的右角处,有评价
值低的区域90。为了将该区域90从相机521的拍摄范围中排除,只要将相机521朝向左方就
可以。由于在朝向左方而拍摄的范围SI2中不再有评价值低的区域90,所以判定部13做出
“采用”的判定。在该例中,也可以不是将相机521的朝向设为朝向左方,而考虑将相机521
(移动体50)自身向左移动的方法。只要评价值低的区域减少,也可以采用其以外的方法。
[0134] 一旦计算出位置姿势,则在步骤S206中,位置姿势计算部14生成用来使移动体50调整位置姿势的指示信号,例如经由通信装置104向移动体50发送。接受到该信号的移动体
50通过移动体控制部51调整其位置姿势,例如根据拍摄指示,由传感器信息收集部52再次
进行拍摄,将收集到的图像向位置推定装置1输出。位置推定装置1在步骤S201中取得从移
动体50输出的传感器信息(或图像),再次重复步骤S201~S204的由传感器信息处理部10进
行的传感器信息的评价。
[0135] 另一方面,在步骤S204中判定为距离信息或传感器信息适合于移动体50的位置的推定(采用)的情况下,处理向步骤S207转移。
[0136] 在步骤S207中,位置推定部22与在制作参照用辞典的处理中说明过的同样,根据由传感器信息取得部21取得的图像检测特征点。位置推定部22可以使用SIFT、AKAZE等来检
测特征点。
[0137] 在步骤S208中,位置推定部22根据检测到的各特征点提取特征量。可以还是由位置推定部22按照在特征点检测中使用的方法来提取特征量。
[0138] 在步骤S209中,位置推定部22进行在存储于辞典存储部30中的参照辞典中登录的目标位置的图像及其周边的拍摄位置的图像与由传感器信息取得部21取得的图像的特征
点匹配。具体而言,位置推定部22使特征点匹配,以使特征量的差成为最小。
[0139] 这里,在参照用辞典中登录有多个目标位置的情况下,需要选择某个目标位置。目标位置可以通过1)在移动体上搭载着上位系统、从该上位系统取得目标位置的方法,或者
2)对登录在参照用辞典中的全部的目标位置推定移动体50的位置、选择最优的推定结果的
方法的某个来选择。
[0140] 在步骤S210中,位置推定部22根据登录在参照用辞典中的与特征点的三维点群建立了对应的二维点的关系,使用PnP(Perspective n-Point,透视n点)来计算相对位置。并
且,位置推定部22推定从目标位置看到的移动体50的位置。然后,图6的处理结束。图6的处
理可以在由传感器信息取得部21进行的下次传感器信息的取得的定时再次进行。
[0141] 图14是表示由位置推定部22进行的特征点匹配的一例的图。图14的左侧的图像RI是登录在参照用辞典中的图像,右侧的图像SI是为了位置推定而收集到的图像。在图像SI
中可以采用立体图像的左右某个图像。将取得图像SI内的特征点(SF1~SF4)与参照用辞典
的图像RI内的特征点(RF1~RF4)分别建立对应。
[0142] 如以上说明,有关一实施方式的位置推定装置1取得由移动体50收集的反映移动体50的周围环境的传感器信息,计算表示传感器信息的适当度的评价信息,根据评价信息
生成用来使移动体50的位置姿势调整的指示信号,使用传感器信息进行移动体50的位置推
定。因而,根据该位置推定装置1,首先进行在位置推定中使用的传感器信息的评价,可以根
据该评价结果使移动体50的位置姿势调整,能够避免评价低的传感器信息的使用,并且能
够取得更适当的传感器信息。即,该位置推定装置1即使在由于不想要的物体而产生了遮挡
的情况下,也能够通过进行位置推定前的评价及位置姿势的调整,减轻起因于周围状况的
位置推定的精度下降。
[0143] 有关实施方式的位置推定装置1当生成用来使上述位置姿势调整的指示信号时,可以计算改善适当度那样的移动体50的位置姿势。由此,即使在传感器信息的适当度低的
情况下,也可以期待接着得到的传感器信息被改善适当度,能够使位置推定的精度提高。
[0144] 有关实施方式的位置推定装置1还可以作为传感器信息而使用反映移动体50的周围环境的图像,按照图像的单位区域(像素或拥有一定的面积的区域)决定表示适当度的评
价值,计算评价值低的区域减少那样的位置姿势。由此,能够根据位置推定的目的及条件,
按照单位区域进行适当的评价,进行基于图像的位置推定。
[0145] 有关实施方式的位置推定装置1还可以基于传感器信息计算存在于移动体50的周围环境中的物体与移动体50之间的距离,并基于该距离进行传感器信息的评价。由此,能够
直接考虑周围的物体的影响而进行传感器信息的评价。
[0146] 有关实施方式的位置推定装置1还能够通过按照单位区域、基于上述与周围的物体的距离是否比第1阈值大来决定评价值,进行传感器信息的评价。由此,能够基于与距离
有关的明确的基准,进行适当的评价。
[0147] 有关实施方式的位置推定装置1还能够在对传感器信息进行基于评价信息的加权后、或将传感器信息中的适当度较低的信息排除后,使用该传感器信息进行位置推定。由
此,能够减少起因于传感器信息的质量的位置推定的精度下降。
[0148] 有关实施方式的位置推定装置1还可以关于基于传感器信息计算的移动体50与周围的物体的距离,对存在于比第2阈值远的距离的物体计算距离,通过基于该距离决定表示
上述适当度的评价值,来计算评价信息。由此,能够使用根据位置推定的目的、移动体50的
周围环境而适当地设定的阈值,仅对存在于较远处的物体进行探索,能够减轻计算处理的
负荷,缩短处理时间。
[0149] 根据以上叙述过的实施方式的位置推定装置,能够提供减轻起因于移动体的周围状况的位置推定的精度下降的位置推定技术。
[0150] [其他实施方式]
[0151] 在上述实施方式中,假设移动体50和位置推定装置1是分体的系统而进行了说明。但是,移动体50和位置推定装置1也可以是一体。此外,位置推定装置1的一部分也可以与位
置推定装置1是分体。例如,辞典存储部30也可以设在位置推定装置1的外部的服务器等中。
[0152] 此外,也可以将位置推定装置1具备的各功能部分散配置在多个装置中,通过这些装置相互协同来进行处理。此外,各功能部也可以通过使用电路来实现。电路既可以是实现
特定的功能的专用电路,也可以是处理器那样的通用电路。
[0153] 以上记载的方法也可以作为能够使计算机执行的程序(软件),保存到例如磁盘(软盘(登录商标)、硬盘等)、光盘(CD-ROM、DVD、MO等)、半导体存储器(ROM、RAM、闪存存储
器等)等的记录介质(存储介质)中,或通过通信介质传送而发布。另外,在被保存于介质侧
的程序中,也包括使计算机执行的软件(不仅是执行程序,也包括表、数据构造)构成在计算
机内的设定程序。实现上述装置的计算机将记录在记录介质中的程序读入,此外根据情况
而通过设定程序构建软件手段,通过由该软件手段控制动作来执行上述的处理。另外,在本
说明书中所述的记录介质并不限于发布用,也包括设在计算机内部或经由网络连接的设备
中的磁盘、半导体存储器等的存储介质。
[0154] 说明了本发明的几个实施方式,但这些实施方式是作为例子提示的,不是要限定发明的范围。这些新的实施方式能够以其他各种各样的形态实施,在不脱离发明的主旨的
范围内能够进行各种各样的省略、替换、变更。这些实施方式及其变形包含在发明的范围或
主旨中,并且包含在权利要求书所记载的发明和其等价的范围中。
[0155] 另外,可以将上述的实施方式总结为以下的技术方案。
[0156] 技术方案1
[0157] 一种位置推定装置,具备:取得部,取得反映移动体的周围环境的传感器信息;评价部,计算表示上述传感器信息的适当度的评价信息;调整部,根据上述评价信息,生成用
来使上述移动体的位置姿势调整的指示信号并输出;以及推定部,使用上述传感器信息进
行上述移动体的位置推定。
[0158] 技术方案2
[0159] 根据上述技术方案1,上述调整部还具备计算部,该计算部计算改善上述适当度那样的位置姿势。
[0160] 技术方案3
[0161] 根据上述技术方案2,上述传感器信息是反映上述移动体的周围环境的图像;上述评价部通过按照上述图像的单位区域决定表示上述适当度的评价值,来计算上述评价信
息;上述计算部计算上述评价值低的区域减少那样的位置姿势。
[0162] 技术方案4
[0163] 根据上述技术方案1,上述评价部基于上述传感器信息,计算存在于上述移动体的周围环境中的物体与上述移动体之间的距离,并通过基于上述距离来决定表示上述适当度
的评价值,计算上述评价信息。
[0164] 技术方案5
[0165] 根据上述技术方案4,上述评价部通过按照单位区域、基于上述距离是否比第1阈值大来决定上述评价值,计算上述评价信息。
[0166] 技术方案6
[0167] 根据上述技术方案1~5,上述推定部对上述传感器信息进行基于上述评价信息的加权,使用被加权后的上述传感器信息进行位置推定。
[0168] 技术方案7
[0169] 根据上述技术方案1~5,上述推定部在上述传感器信息中将上述适当度低的信息排除后,使用上述传感器信息进行位置推定。
[0170] 技术方案8
[0171] 根据上述技术方案1~7,上述评价部关于基于上述传感器信息计算的、存在于上述移动体的周围环境中的物体与上述移动体之间的距离,对存在于比第2阈值远的距离处
的物体计算上述距离,并基于上述距离计算上述评价信息。
[0172] 技术方案9
[0173] 一种位置推定方法,是位置推定装置执行的位置推定方法,具备:取得反映移动体的周围环境的传感器信息;计算表示上述传感器信息的适当度的评价信息;根据上述评价
信息,生成用来使上述移动体的位置姿势调整的指示信号并输出;以及使用上述传感器信
息进行上述移动体的位置推定。
[0174] 技术方案10
[0175] 一种记录介质,记录有具有用来使计算机执行上述技术方案1至8中的任一项记载的位置推定装置各部分进行的处理的命令的程序。