一种视频监控和无人机的图像对齐方法转让专利

申请号 : CN202111134576.3

文献号 : CN113838126B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 李晓威陈升敬刘晓建

申请人 : 广州赋安数字科技有限公司

摘要 :

本发明公开了一种视频监控和无人机的图像对齐方法,包括以下步骤:步骤S1:对齐监控摄像头画面坐标和经纬度坐标,建立监控摄像头画面坐标和经纬度坐标的低精度映射关系;步骤S2:对齐无人机摄像头画面坐标和经纬度坐标,建立无人机摄像头画面坐标和经纬度坐标的低精度映射关系;步骤S3:筛选监控摄像头画面和无人机摄像头画面中位置对应的目标物体,得到相互对应的目标物体的经纬度坐标对集合K,取每对经纬度坐标的平均值作为该组的标准经纬度坐标,得到标准经纬度坐标集合步骤S4:根据步骤S3的标准经纬度坐标集合重新计算视频监控和无人机的两个变换矩阵,通过计算得到的变换矩阵建立视频监控和无人机精确的映射关系。

权利要求 :

1.一种视频监控和无人机的图像对齐方法,其特征在于,包括以下步骤:步骤S1:对齐监控摄像头画面坐标和经纬度坐标,建立监控摄像头画面坐标和经纬度坐标的低精度映射关系;

步骤S2:对齐无人机摄像头画面坐标和经纬度坐标,建立无人机摄像头画面坐标和经纬度坐标的低精度映射关系;

步骤S3:利用目标检测算法检测监控摄像头和无人机摄像头画面中的所有物体,得到监控摄像头和无人机摄像头画面中所有物体的画面坐标,并通过步骤S1中的低精度映射关系得到转换后的监控画面中所有物体的经纬度坐标集合Ω={<λi,μi>},以及通过步骤S2中的低精度映射关系得到无人机画面中所有物体的经纬度坐标集合T={<εj,δj>},设置一个阈值,将经纬度坐标集合Ω和T中的经纬度坐标两两之间作差,筛选出满足条件的经纬度坐标对,进而筛选监控摄像头画面和无人机摄像头画面中位置对应的目标物体,得到相互对应的目标物体的经纬度坐标对集合K={<λi,μi,εj,δj>},取每对经纬度坐标的平均值作为该组的标准经纬度坐标,得到标准经纬度坐标集合步骤S4:根据步骤S3的标准经纬度坐标集合 重新计算视频监控和无人机的两个变换矩阵,通过计算得到的变换矩阵建立视频监控和无人机精确的映射关系。

2.根据权利要求1所述的视频监控和无人机的图像对齐方法,其特征在于,所述步骤S1中,所述监控摄像头画面坐标和经纬度坐标的低精度映射关系的建立过程具体如下:步骤S1.1:根据Haversine公式,计算监控摄像头所在的位置在水平面上的垂直投影位置O′和监控摄像头可视范围内的水平面任意位置Ai的直线水平距离di,单位为m,O′和Ai的经度水平距离si,单位为m:

其中:a、b均为中间变量值,O′(λ0,ψ0)为监控摄像头所在的位置在水平面上的垂直投影位置,Ai(λi,ψi)为监控摄像头可视范围内的水平任意位置,r为地球半径,单位为m;

计算O′和Ai的连线和地理真北方向的夹角βi,O和Ai的连线和垂直线的夹角θi:其中,O为监控摄像头所在的位置,H为监控摄像头距离水平面的高度,单位为m;

计算Ai在监控摄像头画面坐标(xi,yi):其中,X为图像的像素宽度,Y为像素高度,根据摄像头图像分辨率为X×Y,可得X和Y的参数值;θ为监控摄像头中心线与垂直线的夹角,β为监控摄像头中心线在水平面上的投影和地理真北方向的夹角,ωx为监控摄像头水平视场角,ωy为监控摄像头垂直视场角;

步骤S1.2:在监控摄像头画面中随机选取多个画面坐标,得到监控摄像头画面坐标集合,从监控摄像头画面坐标集合中每次选取三组坐标,通过所述监控摄像头画面坐标和经纬度坐标的低精度映射关系,将选取的所述监控摄像头画面坐标转换为经纬度坐标,根据监控摄像头画面坐标和转换后的经纬度坐标计算得到变换矩阵H,具体过程如下:通过逆矩阵计算得到多个变换矩阵Hi:其中(xi1,yi1)、(xi2,yi2)、(xi3,yi3)是监控摄像头画面中的三组坐标,(loni1,lati1)、(loni2,lati2)、(loni3,lati3)是由三组监控摄像头画面坐标转换的经纬度坐标。

取多个变换矩阵Hi的平均值:

得到监控摄像头画面坐标和经纬度坐标的转换关系如下:其中,(x,y)是监控摄像头画面坐标,(lon,lat)是监控摄像头画面坐标转换的经纬度坐标。

3.根据权利要求1所述的视频监控和无人机的图像对齐方法,其特征在于,所述步骤S2中,所述无人机摄像头画面坐标和经纬度坐标的低精度映射关系的建立过程具体如下:步骤S2.1:根据Haversine公式,计算无人机摄像头所在的位置Q在水平面上的垂直投影位置Q′和无人机摄像头可视范围内的水平面任意位置B的直线水平距离di1,单位为m,Q′和B的经度水平距离si1,单位为m:其中:a、b均为中间变量值,Q′(λ01,ψ01)为无人机摄像头所在的位置在水平面上的垂直投影位置,B(λi1,ψi1)为无人机摄像头可视范围内的水平任意位置,r为地球半径,单位为m;

计算Q′和B的连线和地理真北方向的夹角φ,Q和B的连线和垂直线的夹角σ:其中,Q为无人机摄像头所在的位置,h1为无人机摄像头距离水平面的高度,单位为m;

计算B在无人机摄像头画面坐标(a,b):其中,X为图像的像素宽度,Y为像素高度,根据摄像头图像分辨率为X×Y,可得X和Y的参数值;θ为无人机摄像头中心线与垂直线的夹角,β为无人机摄像头中心线在水平面上的投影和地理真北方向的夹角,ωx1为无人机摄像头水平视场角,ωy1为无人机摄像头垂直视场角;

步骤S2.2:在无人机摄像头画面中随机选取多个画面坐标,得到无人机摄像头画面坐标集合,从无人机摄像头画面坐标集合中每次选取三组坐标,通过所述无人机摄像头画面坐标和经纬度坐标的低精度映射关系,将选取的所述无人机摄像头画面坐标转换为经纬度坐标,根据无人机摄像头画面坐标和转换后的经纬度坐标计算得到变换矩阵H,具体过程如下:

通过逆矩阵计算得到多个变换矩阵Mi:其中(a1,b1)、(a2,b2)、(a3,b3)是无人机摄像头画面中的三组坐标,(loni1,lati1)、(loni2,lati2)、(loni3,lati3)是由三组无人机摄像头画面坐标转换的经纬度坐标。

取多个变换矩阵Hi的平均值:

得到无人机摄像头画面坐标和经纬度坐标的转换关系如下:其中,M是多个变换矩阵Mi的平均值,(a,b)是无人机摄像头画面坐标,(lon,lat)是无人机摄像头画面坐标转换的经纬度坐标;

进而可得监控和无人机的低精度映射关系,转换关系如下:(x,y)是监控摄像头画面坐标,(a,b)是无人机摄像头画面坐标。

4.根据权利要求1‑3任一项所述的视频监控和无人机的图像对齐方法,其特征在于,所述步骤S3中得到标准经纬度坐标集合 的步骤如下:步骤S3.1:利用目标检测算法检测监控和无人机画面中的所有物体,得到监控和无人机画面中所有物体的画面坐标,并通过各自的映射关系转换为经纬度坐标,得到转换后的监控画面中所有物体的经纬度坐标集合Ω={<λi,μi>}和无人机画面中所有物体的经纬度坐标集合T={<εj,δj>};

步骤S3.2:设置一个阈值(Δlon,Δlat),对经纬度坐标集合Ω和T两两之间作差,筛选出满足条件的经纬度坐标对,具体过程如下:将集合Ω中的每个经纬度坐标分别和集合T中的每个经纬度坐标作差值运算,即λi‑εj,μi‑δj,满足以下条件的则保留该对经纬度坐标:得到满足条件的经纬度坐标对集合K={<λi,μi,εj,δj>},其中(λi,μi)是监控画面坐标转换后的经纬度坐标,(εj,δj)是无人机画面坐标转换后的经纬度坐标。

步骤S3.3:根据步骤S3.2得到的经纬度坐标对集合K,得到与之对应的转换前的画面坐标对集合I={<xi,yi,aj,bj>},取每对经纬度坐标的平均值作为该组的标准经纬度坐标,得到标准经纬度坐标集合 计算如下:

5.根据权利要求4所述的视频监控和无人机的图像对齐方法,其特征在于,所述步骤S3.1在筛选出满足条件的经纬度坐标对时,需要判断是否会出现一个经纬度坐标对应多个经纬度坐标的情况,若出现,则舍弃该经纬度坐标,若不出现,则保留该对经纬度坐标。

6.根据权利要求4所述的视频监控和无人机的图像对齐方法,其特征在于,所述步骤S4包括如下步骤:

步骤S4.1.根据步骤S3.3的标准经纬度坐标集合 和画面坐标对集合I,得到多组监控画面坐标和与之对应的标准经纬度坐标集合 以及多组无人机画面坐标和与之对应的标准经纬度坐标集合

步骤S4.2.根据变换矩阵的方法,结合得到的坐标集合P和Z,计算得到校准后的监控的变换矩阵H′和无人机的变换矩阵M′;监控摄像头画面坐标和经纬度坐标精确的转换关系如下:

无人机画面坐标和经纬度坐标精确的转换关系如下:当(λ,μ)=(ε,δ)时,可建立监控和无人机精确的映射关系,即监控画面坐标和无人机画面坐标精确的转换关系如下:

其中(λ,μ)为校准后的监控摄像头经纬度坐标,(ε,δ)为校准后的无人机摄像头经纬度坐标,(x,y)是校准后的监控摄像头画面坐标,(a,b)是校准后的无人机摄像头画面坐标。

说明书 :

一种视频监控和无人机的图像对齐方法

技术领域

[0001] 本发明涉及监控检测领域,具体涉及一种视频监控和无人机的图像对齐方法。

背景技术

[0002] 视频监控和无人机在海洋和国土等方面运用较为广泛,能对违法或涉嫌违法用海的地区、违法建筑及其他特征情况进行快速的日常监控,为违法用海查处和突发事件处理
提供依据。为了快速得到目标物体不同视角的信息,以至于起到更好的监控作用,需要视频
监控和无人机图像的映射。
[0003] 现有的技术在进行图像对齐时一般采用的方法为提取两张图像的特征关键点与特征描述子,然后通过匹配算法寻找匹配度高的特征点进行变换从而实现图像对齐。然而
SIFT、SURF、ORB等特征提取算法的特征提取性能有限,可能存在因特征点不足而匹配失败
导致无法实现图像映射的问题。
[0004] 近年来,提出了一些结合AIS和监控视频的船舶检测方法,例如:
[0005] 公开号为CN111914049A的发明专利公开了一种经纬度坐标与图像坐标映射方法,该发明选取场景中若干点,利用场景的已知测量数据或谷歌地图等工具对其在物理空间中
的经纬度坐标与其在图像画面中的像素坐标进行标定,通过人工对图像像素坐标和物理坐
标进行关联。但是该方法中由于实际应用中人工标定的坐标值含有误差,导致得到的图像
坐标一般含有误差,且耗时耗力。

发明内容

[0006] 为了解决上述技术问题,本发明的目的在于提供一种视频监控和无人机的图像对齐方法,通过分别对监控和无人机建立坐标映射关系,根据计算得到的变换矩阵实现监控
和无人机的对齐,可以灵活、快速的在监控画面或无人机图像中得到同一物体的位置信息。
[0007] 为实现上述发明目的,本发明采取的技术方案如下:
[0008] 一种视频监控和无人机的图像对齐方法,包括以下步骤:
[0009] 步骤S1:对齐监控摄像头画面坐标和经纬度坐标,建立监控摄像头画面坐标和经纬度坐标的低精度映射关系;
[0010] 步骤S2:对齐无人机摄像头画面坐标和经纬度坐标,建立无人机摄像头画面坐标和经纬度坐标的低精度映射关系;
[0011] 步骤S3:利用目标检测算法检测监控摄像头和无人机摄像头画面中的所有物体,得到监控摄像头和无人机摄像头画面中所有物体的画面坐标,并通过步骤S1中的低精度映
射关系得到转换后的监控画面中所有物体的经纬度坐标集合Ω={<λi,μi>},以及通过步
骤S2中的低精度映射关系得到无人机画面中所有物体的经纬度坐标集合T={<εj,δj>},
设置一个阈值,将经纬度坐标集合Ω和T中的经纬度坐标两两之间作差,筛选出满足条件的
经纬度坐标对,进而筛选监控摄像头画面和无人机摄像头画面中位置对应的目标物体,得
到相互对应的目标物体的经纬度坐标对集合K={<λi,μi,εj,δj>},取每对经纬度坐标的
平均值作为该组的标准经纬度坐标,得到标准经纬度坐标集合
[0012] 步骤S4:根据步骤S3的标准经纬度坐标集合 重新计算视频监控和无人机的两个变换矩阵,通过计算得到的变换矩阵建立视频监控和无人机精确的映射关系。
[0013] 优选的,所述步骤S1中,所述监控摄像头画面坐标和经纬度坐标的低精度映射关系的建立过程具体如下:
[0014] 步骤S1.1:根据Haversine公式,计算监控摄像头所在的位置在水平面上的垂直投影位置O′和监控摄像头可视范围内的水平面任意位置Ai的直线水平距离di,单位为m,O′和
Ai的经度水平距离si,单位为m:
[0015]
[0016]
[0017]
[0018]
[0019] 其中:a、b均为中间变量值,O′(λ0,ψ0)为监控摄像头所在的位置在水平面上的垂直投影位置,Ai(λi,ψi)为监控摄像头可视范围内的水平任意位置,r为地球半径,单位为m;
[0020] 计算O′和Ai的连线和地理真北方向的夹角βi,O和Ai的连线和垂直线的夹角θi:
[0021]
[0022]
[0023] 其中,O为监控摄像头所在的位置,H为监控摄像头距离水平面的高度,单位为m;
[0024] 计算Ai在监控摄像头画面坐标(xi,yi):
[0025]
[0026]
[0027] 其中,X为图像的像素宽度,Y为像素高度,根据摄像头图像分辨率为X×Y,可得X和Y的参数值;θ为监控摄像头中心线与垂直线的夹角,β为监控摄像头中心线在水平面上的投
影和地理真北方向的夹角,ωx为监控摄像头水平视场角,ωy为监控摄像头垂直视场角;
[0028] 步骤S1.2:在监控摄像头画面中随机选取多个画面坐标,得到监控摄像头画面坐标集合,从监控摄像头画面坐标集合中每次选取三组坐标,通过所述监控摄像头画面坐标
和经纬度坐标的低精度映射关系,将选取的所述监控摄像头画面坐标转换为经纬度坐标,
根据监控摄像头画面坐标和转换后的经纬度坐标计算得到变换矩阵H,具体过程如下:
[0029] 通过逆矩阵计算得到多个变换矩阵Hi:
[0030]
[0031] 其中(xi1,yi1)、(xi2,yi2)、(xi3,yi3)是监控摄像头画面中的三组坐标,(loni1,lati1)、(loni2,lati2)、(loni3,lati3)是由三组监控摄像头画面坐标转换的经纬度坐标。
[0032] 取多个变换矩阵Hi的平均值:
[0033]
[0034] 得到监控摄像头画面坐标和经纬度坐标的转换关系如下:
[0035]
[0036] 其中,(x,y)是监控摄像头画面坐标,(lon,lat)是监控摄像头画面坐标转换的经纬度坐标。
[0037] 优选的,所述步骤S2中,所述无人机摄像头画面坐标和经纬度坐标的低精度映射关系的建立过程具体如下:
[0038] 步骤S2.1:根据Haversine公式,计算无人机摄像头所在的位置Q在水平面上的垂直投影位置Q′和无人机摄像头可视范围内的水平面任意位置B的直线水平距离di1,单位为
m,Q′和B的经度水平距离si1,单位为m:
[0039]
[0040]
[0041]
[0042]
[0043] 其中:a、b均为中间变量值,Q′(λ01,ψ01)为无人机摄像头所在的位置在水平面上的垂直投影位置,B(λi1,ψi1)为无人机摄像头可视范围内的水平任意位置,r为地球半径,单位
为m;
[0044] 计算Q′和B的连线和地理真北方向的夹角φ,Q和B的连线和垂直线的夹角σ:
[0045]
[0046]
[0047] 其中,Q为无人机摄像头所在的位置,h1为无人机摄像头距离水平面的高度,单位为m;
[0048] 计算B在无人机摄像头画面坐标(a,b):
[0049]
[0050]
[0051] 其中,X为图像的像素宽度,Y为像素高度,根据摄像头图像分辨率为X×Y,可得X和Y的参数值;θ为无人机摄像头中心线与垂直线的夹角,β为无人机摄像头中心线在水平面上
的投影和地理真北方向的夹角,ωx1为无人机摄像头水平视场角,ωy1为无人机摄像头垂直
视场角;
[0052] 步骤S2.2:在无人机摄像头画面中随机选取多个画面坐标,得到无人机摄像头画面坐标集合,从无人机摄像头画面坐标集合中每次选取三组坐标,通过所述无人机摄像头
画面坐标和经纬度坐标的低精度映射关系,将选取的所述无人机摄像头画面坐标转换为经
纬度坐标,根据无人机摄像头画面坐标和转换后的经纬度坐标计算得到变换矩阵H,具体过
程如下:
[0053] 通过逆矩阵计算得到多个变换矩阵Mi:
[0054]
[0055] 其中(a1,b1)、(a2,b2)、(a3,b3)是无人机摄像头画面中的三组坐标,(loni1,lati1)、(loni2,lati2)、(loni3,lati3)是由三组无人机摄像头画面坐标转换的经纬度坐标。
[0056] 取多个变换矩阵Hi的平均值:
[0057]
[0058] 得到无人机摄像头画面坐标和经纬度坐标的转换关系如下:
[0059]
[0060] 其中,M是多个变换矩阵Mi的平均值,(a,b)是无人机摄像头画面坐标,(lon,lat)是无人机摄像头画面坐标转换的经纬度坐标;
[0061] 进而可得监控和无人机的低精度映射关系,转换关系如下:
[0062]
[0063] (x,y)是监控摄像头画面坐标,(a,b)是无人机摄像头画面坐标。
[0064] 优选的,所述步骤S3中得到标准经纬度坐标集合 的步骤如下:
[0065] 步骤S3.1:利用目标检测算法检测监控和无人机画面中的所有物体,得到监控和无人机画面中所有物体的画面坐标,并通过各自的映射关系转换为经纬度坐标,得到转换
后的监控画面中所有物体的经纬度坐标集合Ω={<λi,μi>}和无人机画面中所有物体的
经纬度坐标集合T={<εj,δj>};
[0066] 步骤S3.2:设置一个阈值(Δlon,Δlat),对经纬度坐标集合Ω和T两两之间作差,筛选出满足条件的经纬度坐标对,具体过程如下:
[0067] 将集合Ω中的每个经纬度坐标分别和集合T中的每个经纬度坐标作差值运算,即λi‑εj,μi‑δj,满足以下条件的则保留该对经纬度坐标:
[0068]
[0069] 得到满足条件的经纬度坐标对集合K={<λi,μi,εj,δj>},其中(λi,μi)是监控画面坐标转换后的经纬度坐标,(εj,δj)是无人机画面坐标转换后的经纬度坐标。
[0070] 步骤S3.3:根据步骤S3.2得到的经纬度坐标对集合K,得到与之对应的转换前的画面坐标对集合I={<xi,yi,aj,bj>},取每对经纬度坐标的平均值作为该组的标准经纬度
坐标,得到标准经纬度坐标集合 计算如下:
[0071]
[0072] 优选的,所述步骤S3.1在筛选出满足条件的经纬度坐标对时,需要判断是否会出现一个经纬度坐标对应多个经纬度坐标的情况,若出现,则舍弃该经纬度坐标,若不出现,
则保留该对经纬度坐标。
[0073] 这样设置是由于有些目标物体间隔会比较近,为了避免目标物体之间的误匹配,舍弃出现一个经纬度坐标对应多个经纬度坐标的该经纬度坐标,只有当一个经纬度坐标和
另一个经纬度坐标符合条件,即一对一时,保留该对经纬度坐标。
[0074] 优选的,所述步骤S4包括如下步骤:
[0075] 步骤S4.1.根据步骤S3.3的标准经纬度坐标集合 和画面坐标对集合I,得到多组监控画面坐标和与之对应的标准经纬度坐标集合 以及多组无人机
画面坐标和与之对应的标准经纬度坐标集合
[0076] 步骤S4.2.根据变换矩阵的方法,结合得到的坐标集合P和Z,计算得到校准后的监控的变换矩阵H′和无人机的变换矩阵M′;监控摄像头画面坐标和经纬度坐标精确的转换关
系如下:
[0077]
[0078] 无人机画面坐标和经纬度坐标精确的转换关系如下:
[0079]
[0080] 当(λ,μ)=(ε,δ)时,可建立监控和无人机精确的映射关系,即监控画面坐标和无人机画面坐标精确的转换关系如下:
[0081]
[0082] 其中(λ,μ)为校准后的监控摄像头经纬度坐标,(ε,δ)为校准后的无人机摄像头经纬度坐标,(x,y)是校准后的监控摄像头画面坐标,(a,b)是校准后的无人机摄像头画面坐
标。
[0083] 相对于现有技术,本发明取得了有益的技术效果:
[0084] 1.本发明通过分别对监控摄像头、无人机摄像头与经纬度坐标建立坐标映射关系,根据计算得到的变换矩阵实现监控和无人机的对齐,从而可以灵活、快速的在监控画面
或无人机图像中得到同一物体的位置信息;
[0085] 2.本发明通过筛选得到同一目标物体的经纬度坐标,分别对视频监控映射关系和无人机映射关系中的变换矩阵进行校准,提高变换矩阵的准确度,最终建立视频监控和无
人机精确的映射关系,实现视频监控和无人机精确的对齐。

附图说明

[0086] 图1是本发明实施例中视频监控和无人机的图像对齐方法的流程图;

具体实施方式

[0087] 为了使本发明的目的、技术方案及优点更加清楚明白,以下结合实施例对本发明进行进一步详细说明,但本发明要求保护的范围并不局限于下述具体实施例。
[0088] 实施例
[0089] 参考图1,本实施例公开了一种视频监控和无人机的图像对齐方法,包括以下步骤:
[0090] 步骤S1:对齐监控摄像头画面坐标和经纬度坐标,建立监控摄像头画面坐标和经纬度坐标的低精度映射关系;
[0091] 步骤S2:对齐无人机摄像头画面坐标和经纬度坐标,建立无人机摄像头画面坐标和经纬度坐标的低精度映射关系;
[0092] 步骤S3:利用目标检测算法检测监控摄像头和无人机摄像头画面中的所有物体,得到监控摄像头和无人机摄像头画面中所有物体的画面坐标,并通过步骤S1中的低精度映
射关系得到转换后的监控画面中所有物体的经纬度坐标集合Ω={<λi,μi>},以及通过步
骤S2中的低精度映射关系得到无人机画面中所有物体的经纬度坐标集合T={<εj,δj>},
设置一个阈值,将经纬度坐标集合Ω和T中的经纬度坐标两两之间作差,筛选出满足条件的
经纬度坐标对,进而筛选监控摄像头画面和无人机摄像头画面中位置对应的目标物体,得
到相互对应的目标物体的经纬度坐标对集合K={<λi,μi,εj,δj>},取每对经纬度坐标的
平均值作为该组的标准经纬度坐标,得到标准经纬度坐标集合
[0093] 步骤S4:根据步骤S3的标准经纬度坐标集合 重新计算视频监控和无人机的两个变换矩阵,通过计算得到的变换矩阵建立视频监控和无人机精确的映射关系。
[0094] 具体的,在所述步骤S1中,所述监控摄像头画面坐标和经纬度坐标的低精度映射关系的建立过程具体如下:
[0095] 步骤S1.1:根据Haversine公式,计算监控摄像头所在的位置在水平面上的垂直投影位置O′和监控摄像头可视范围内的水平面任意位置Ai的直线水平距离di,单位为m,O′和
Ai的经度水平距离si,单位为m:
[0096]
[0097]
[0098]
[0099]
[0100] 其中:a、b均为中间变量值,O′(λ0,ψ0)为监控摄像头所在的位置在水平面上的垂直投影位置,Ai(λi,ψi)为监控摄像头可视范围内的水平任意位置,r为地球半径,单位为m;
[0101] 计算O′和Ai的连线和地理真北方向的夹角βi,O和Ai的连线和垂直线的夹角θi:
[0102]
[0103]
[0104] 其中,O为监控摄像头所在的位置,H为监控摄像头距离水平面的高度,单位为m;
[0105] 计算Ai在监控摄像头画面坐标(xi,yi):
[0106]
[0107]
[0108] 其中,X为图像的像素宽度,Y为像素高度,根据摄像头图像分辨率为X×Y,可得X和Y的参数值;θ为监控摄像头中心线与垂直线的夹角,β为监控摄像头中心线在水平面上的投
影和地理真北方向的夹角,ωx为监控摄像头水平视场角,ωy为监控摄像头垂直视场角;
[0109] 步骤S1.2:在监控摄像头画面中随机选取多个画面坐标,得到监控摄像头画面坐标集合,从监控摄像头画面坐标集合中每次选取三组坐标,通过所述监控摄像头画面坐标
和经纬度坐标的低精度映射关系,将选取的所述监控摄像头画面坐标转换为经纬度坐标,
根据监控摄像头画面坐标和转换后的经纬度坐标计算得到变换矩阵H,具体过程如下:
[0110] 通过逆矩阵计算得到多个变换矩阵Hi:
[0111]
[0112] 其中(xi1,yi1)、(xi2,yi2)、(xi3,yi3)是监控摄像头画面中的三组坐标,(loni1,lati1)、(loni2,lati2)、(loni3,lati3)是由三组监控摄像头画面坐标转换的经纬度坐标。
[0113] 取多个变换矩阵Hi的平均值:
[0114]
[0115] 得到监控摄像头画面坐标和经纬度坐标的转换关系如下:
[0116]
[0117] 其中,(x,y)是监控摄像头画面坐标,(lon,lat)是监控摄像头画面坐标转换的经纬度坐标。
[0118] 所述步骤S2无人机摄像头画面坐标和经纬度坐标的低精度映射关系的建立过程和步骤S1采用的方法相同,具体的,所述步骤S2中,所述无人机摄像头画面坐标和经纬度坐
标的低精度映射关系的建立过程具体如下:
[0119] 步骤S2.1:根据Haversine公式,计算无人机摄像头所在的位置Q在水平面上的垂直投影位置Q′和无人机摄像头可视范围内的水平面任意位置B的直线水平距离di1,单位为
m,Q′和B的经度水平距离si1,单位为m:
[0120]
[0121]
[0122]
[0123]
[0124] 其中:a、b均为中间变量值,Q′(λ01,ψ01)为无人机摄像头所在的位置在水平面上的垂直投影位置,B(λi1,ψi1)为无人机摄像头可视范围内的水平任意位置,r为地球半径,单位
为m;
[0125] 计算Q′和B的连线和地理真北方向的夹角φ,Q和B的连线和垂直线的夹角σ:
[0126]
[0127]
[0128] 其中,Q为无人机摄像头所在的位置,h1为无人机摄像头距离水平面的高度,单位为m;
[0129] 计算B在无人机摄像头画面坐标(a,b):
[0130]
[0131]
[0132] 其中,X为图像的像素宽度,Y为像素高度,根据摄像头图像分辨率为X×Y,可得X和Y的参数值;θ为无人机摄像头中心线与垂直线的夹角,β为无人机摄像头中心线在水平面上
的投影和地理真北方向的夹角,ωx1为无人机摄像头水平视场角,ωy1为无人机摄像头垂直
视场角;
[0133] 步骤S2.2:在无人机摄像头画面中随机选取多个画面坐标,得到无人机摄像头画面坐标集合,从无人机摄像头画面坐标集合中每次选取三组坐标,通过所述无人机摄像头
画面坐标和经纬度坐标的低精度映射关系,将选取的所述无人机摄像头画面坐标转换为经
纬度坐标,根据无人机摄像头画面坐标和转换后的经纬度坐标计算得到变换矩阵H,具体过
程如下:
[0134] 通过逆矩阵计算得到多个变换矩阵Mi:
[0135]
[0136] 其中(a1,b1)、(a2,b2)、(a3,b3)是无人机摄像头画面中的三组坐标,(loni1,lati1)、(loni2,lati2)、(loni3,lati3)是由三组无人机摄像头画面坐标转换的经纬度坐标。
[0137] 取多个变换矩阵Hi的平均值:
[0138]
[0139] 得到无人机摄像头画面坐标和经纬度坐标的转换关系如下:
[0140]
[0141] 其中,M是多个变换矩阵Mi的平均值,(a,b)是无人机摄像头画面坐标,(lon,lat)是无人机摄像头画面坐标转换的经纬度坐标;
[0142] 进而可得监控和无人机的低精度映射关系,转换关系如下:
[0143]
[0144] (x,y)是监控摄像头画面坐标,(a,b)是无人机摄像头画面坐标。
[0145] 通过步骤S1和步骤S2分别完成监控摄像头与经纬度坐标的坐标映射关系的建立、以及无人机摄像头与经纬度坐标的坐标映射关系的建立,根据计算得到的变换矩阵实现监
控和无人机的对齐,从而可以灵活、快速的在监控画面或无人机图像中得到同一物体的位
置信息。
[0146] 进一步的,所述步骤S3中得到标准经纬度坐标集合 的步骤如下:
[0147] 步骤S3.1:利用目标检测算法检测监控和无人机画面中的所有物体,得到监控和无人机画面中所有物体的画面坐标,并通过各自的映射关系转换为经纬度坐标,得到转换
后的监控画面中所有物体的经纬度坐标集合Ω={<λi,μi>}和无人机画面中所有物体的
经纬度坐标集合T={<εj,δj>};
[0148] 所述步骤S3.1在筛选出满足条件的经纬度坐标对时,需要判断是否会出现一个经纬度坐标对应多个经纬度坐标的情况,若出现,则舍弃该经纬度坐标,若不出现,则保留该
对经纬度坐标。这样设置是由于有些目标物体间隔会比较近,为了避免目标物体之间的误
匹配,舍弃出现一个经纬度坐标对应多个经纬度坐标的该经纬度坐标,只有当一个经纬度
坐标和另一个经纬度坐标符合条件,即一对一时,保留该对经纬度坐标。
[0149] 步骤S3.1中的图像目标检测算法为现有,可参考现有的公开专利:公告号为CN109993163A、名称为一种基于人工智能的非标铭牌识别系统及其识别方法,因此对监控
视频中每隔Δt时间获取的每一帧的图像进行检测,从而得到船只的摄像头画面坐标集合
Ω={(xi,yi)}。在具体的实施过程中,可过滤掉那些经纬度信息中和O′的距离di超出某个
可视范围阈值的船只信息,以达到减少后续匹配计算量的目的,这个可视范围阈值可根据
摄像头具体的参数以及安装位置的视野而定,通常设置在1公里到10公里的范围。
[0150] 步骤S3.2:设置一个阈值(Δlon,Δlat),对经纬度坐标集合Ω和T两两之间作差,筛选出满足条件的经纬度坐标对,具体过程如下:
[0151] 将集合Ω中的每个经纬度坐标分别和集合T中的每个经纬度坐标作差值运算,即λi‑εj,μi‑δj,满足以下条件的则保留该对经纬度坐标:
[0152]
[0153] 得到满足条件的经纬度坐标对集合K={<λi,μi,εj,δj>},其中(λi,μi)是监控画面坐标转换后的经纬度坐标,(εj,δj)是无人机画面坐标转换后的经纬度坐标。
[0154] 步骤S3.3:根据步骤S3.2得到的经纬度坐标对集合K,得到与之对应的转换前的画面坐标对集合I={<xi,yi,aj,bj>},取每对经纬度坐标的平均值作为该组的标准经纬度
坐标,得到标准经纬度坐标集合 计算如下:
[0155]
[0156] 通过步骤S3筛选得到同一目标物体的经纬度坐标,然后将每对经纬度坐标的平均值作为该组的标准经纬度坐标,用于分别对视频监控映射关系和无人机映射关系中的变换
矩阵进行校准。
[0157] 优选的,所述步骤S4包括如下步骤:
[0158] 步骤S4.1.根据步骤S3.3的标准经纬度坐标集合 和画面坐标对集合I,得到多组监控画面坐标和与之对应的标准经纬度坐标集合 以及多组无人机
画面坐标和与之对应的标准经纬度坐标集合
[0159] 步骤S4.2.根据变换矩阵的方法,结合得到的坐标集合P和Z,计算得到校准后的监控的变换矩阵H′和无人机的变换矩阵M′;监控摄像头画面坐标和经纬度坐标精确的转换关
系如下:
[0160]
[0161] 无人机画面坐标和经纬度坐标精确的转换关系如下:
[0162]
[0163] 当(λ,μ)=(ε,δ)时,可建立监控和无人机精确的映射关系,即监控画面坐标和无人机画面坐标精确的转换关系如下:
[0164]
[0165] 其中(λ,μ)为校准后的监控摄像头经纬度坐标,(ε,δ)为校准后的无人机摄像头经纬度坐标,(x,y)是校准后的监控摄像头画面坐标,(a,b)是校准后的无人机摄像头画面坐
标。
[0166] 最终通过步骤S4分别完成对视频监控映射关系和无人机映射关系中的变换矩阵进行校准,提高变换矩阵的准确度,建立视频监控和无人机精确的映射关系,实现视频监控
和无人机精确的对齐。
[0167] 根据上述说明书的揭示和教导,本发明所属领域的技术人员还可以对上述实施方式进行变更和修改。因此,本发明并不局限于上面揭示和描述的具体实施方式,对发明的一
些修改和变更也应当落入本发明的权利要求的保护范围内。此外,尽管本说明书中使用了
一些特定的术语,但这些术语只是为了方便说明,并不对发明构成任何限制。