一种植物流水线表型采集平台及植物表型融合解析方法转让专利

申请号 : CN202210971923.6

文献号 : CN115035327B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 吴升郭新宇苟文博王传宇温维亮樊江川卢宪菊郭小东刘冠军

申请人 : 北京市农林科学院信息技术研究中心

摘要 :

本发明提供一种植物流水线表型采集平台及植物表型融合解析方法,属于植物信息采集技术领域,采集平台包括:表型采集装置包括传动结构、成像箱体和植物载具,由传动结构带动植物载具进行切换,通过成像箱体内的传感器获取不同角度和不同光谱的植物样本图片;控制系统用于控制表型采集装置的信号通信和预设高通量植物表型数据的传送;数据采集系统采集不同类型的预设高通量植物表型数据。所述表型融合解析方法基于所述采集平台。本发明提出的植物流水线表型采集平台,用于作物表型自动化采集和生长过程连续检测,并采用表型数据自动化融合数据解析方法,有效解决了植物表型性状高通量采集解析问题。

权利要求 :

1.一种基于植物流水线表型采集平台的植物表型融合解析方法,其特征在于,包括:获取多视角RGB图像序列和多视角多光谱图像序列;其中所述多视角RGB图像序列是由RGB图像传感器采集所得到,所述多视角多光谱图像序列是由多光谱图像传感器采集所得到;

对所述多视角RGB图像提取点云信息获得RGB着色点云数据,对所述多视角多光谱图像序列进行到所述多视角RGB图像的映射处理获得多光谱着色点云数据,融合所述RGB着色点云数据和所述多光谱着色点云数据,得到多光谱点云融合数据;

对所述多光谱点云融合数据进行点云矫正,提取矫正后多光谱点云融合数据中的植物点云信息;

基于所述植物点云信息,计算得到植物3D点云模型、植物株型表型指标和植物器官表型指标;

其中,所述植物流水线表型采集平台,包括:

表型采集装置、控制系统和数据采集系统;所述表型采集装置分别与所述控制系统及所述数据采集系统相连接;

所述表型采集装置包括传动结构、成像箱体和植物载具,所述传动结构贯穿于所述成像箱体的前后相对出口,所述植物载具固定安装于所述传动结构的上表面,由所述传动结构带动所述植物载具移动至所述成像箱体内,通过所述成像箱体内的传感器获取不同角度和不同光谱的植物样本图片;

所述数据采集系统采集不同类型的预设高通量植物表型数据,所述预设高通量植物表型数据是通过所述表型采集装置获取的;

所述控制系统控制所述传动结构、所述成像箱体和所述植物载具的信号通信,并控制传送所述预设高通量植物表型数据;

所述传动结构包括步进电机、传送带和固定件;

所述步进电机位于所述传送带下方,用于驱动所述传送带匀速传动;

所述传送带包括多个等间距分布的月牙板,其中每个所述植物载具通过固定件固设在任一月牙板上;

所有固定件在所述传送带上均匀分布,其中相邻两个固定件之间的距离大于所述成像箱体宽度的一半;

所述成像箱体包括壳体、旋转装置、传感器组件、数据传输及供电组件、植物样本识别组件、立体补光组件和控制器及计算机单元;

所述传动结构中的一侧传送带贯穿于所述壳体的前后相对出口,所述壳体外部一侧固定设置控制面板显示器;所述控制面板显示器和所述控制器及计算机单元电连接,显示表型采集平台运行状态及工况状态;

在所述壳体沿所述传送带运动方向的前端和后端分别设置进口和出口,并在所述进口和所述出口分别安装双开门电动开关门,在与所述传送带运动方向平行的所述壳体外侧面设置手推门;

所述旋转装置设置于所述壳体内的顶部中心,包括电机组件、旋转横杆和旋转竖直杆;

所述电机组件和所述控制器及计算机单元电连接,驱动所述旋转横杆转动;所述旋转竖直杆在所述旋转横杆上水平移动,调节所述旋转竖直杆与所述箱体中心点的距离;

所述传感器组件包括多角度视角采集传感器、顶部视角采集传感器和侧视角顶点传感器;所述多角度视角采集传感器包括一个或多个,等间距固定于所述旋转竖直杆上;所述顶部视角采集传感器为高度可调节相机,设置于所述箱体顶部中心;所述侧视角顶点传感器固定于所述箱体内侧面上,与所述多角度视角采集传感器相对设置,并水平相对于所述箱体中间;

所述数据传输及供电组件包括网线滑环、电线滑环和交换机;所述网线滑环和所述电线滑环安装于所述箱体顶部中心转轴上,所述电线滑环为所述传感器组件和所述交换机供电,所述网线滑环将所述传感器组件的数据传输至所述控制器及计算机单元;所述交换机分别与所述网线滑环和所述多角度视角采集传感器相连接,固定于所述旋转竖直杆上;

所述植物样本识别组件包括识别台、二维码识别相机和限位开关;所述识别台位于所述箱体底部中间,位于所述传送带的两侧;所述二维码识别相机位于所述识别台一侧的上方,识别所述植物载具上的二维码;所述限位开关包括第一激光对射光电开关和第二激光对射光电开关,所述第一激光对射光电开关和所述第二激光对射光电开关分别位于两侧的识别台上,检测所述植物载具的运行位置;

所述立体补光组件包括顶部光源和侧面光源;所述侧面光源包括一个或多个补光灯,所述侧面光源以预设下倾角度均匀分布于所述箱体两侧;所述顶部光源包括一个或多个补光灯,设置于所述箱体顶部;

所述传感器组件包括RGB图像传感器和多光谱图像传感器,所述RGB图像传感器和所述多光谱图像传感器成对安装;

所述补光灯为多波段LED光源,与所述控制器及计算机单元相连接,由所述控制器及计算机单元切换所述多波段LED光源的光源波段;

所述植物载具包括植物种植盆、凹型底板和侧面二维码板;

所述植物种植盆放置于所述凹型底板上表面,用于放置植物样本;

所述凹型底板用于承载所述植物种植盆;

所述侧面二维码板位于所述凹型底板侧面,待所述植物载具运行至所述成像箱体内部时面向二维码识别相机;

所述控制系统包括数据采集电脑、第一控制器和第二控制器;

所述数据采集电脑与控制面板显示器相连接,控制表型采集平台调试和现场数据工况采集;

所述数据采集电脑与数据处理服务器相连接,将采集的数据传输至所述数据处理服务器,由所述数据处理服务器进行植物表型数据分析处理;

所述数据采集电脑分别与所述第一控制器以及所述第二控制器相连接;

所述第一控制器分别与步进电机、开关门电机、转台电机以及光电开关相连接,控制信号通信;

所述第二控制器与传感器组件相连接,控制信号通信和数据传送;

所述数据采集系统包括顺次连接的初始化模块、设置模块、检测模块、二维码识别模块、定点传感器数据采集模块、多视角非光谱传感器采集模块、多光谱定点传感器采集模块、多视角光谱传感器采集模块、循环模块和传输模块;

所述初始化模块用于上电采集平台,并初始化所述采集平台;

所述设置模块用于设置所述采集平台的初始运行参数;

所述检测模块用于检测所述传动结构的运行位置,并根据所述运行位置分别控制所述传动结构的运行、立体补光组件的开启以及所述成像箱体的双开门电动开关门;

所述二维码识别模块用于识别所述植物载具的植物编号二维码,确定将所述植物编号二维码存入二维码存储文件夹;

所述定点传感器数据采集模块用于驱动所述成像箱体内的顶部非光谱传感器采集植物顶部非光谱数据,以及侧部非光谱传感器采集植物侧面非光谱数据,确定将所述植物顶部非光谱数据和所述植物侧面非光谱数据存入定点非光谱数据存储文件夹;

所述多视角非光谱传感器采集模块用于驱动所述植物载具的转台以预设转动间隔角度转动一周,获取多个植物多视角非光谱数据,确定将所述多个植物多视角非光谱数据存入多视角非光谱数据存储文件夹;

所述多光谱定点传感器采集模块用于驱动所述成像箱体内的顶部光谱传感器采集植物顶部光谱数据,以及侧部光谱传感器采集植物侧面光谱数据,确定将所述植物顶部光谱数据和所述植物侧面光谱数据存入定点光谱数据存储文件夹;

所述多视角光谱传感器采集模块用于驱动所述植物载具的转台以所述预设转动间隔角度转动一周,获取多个植物多视角光谱数据,确定将所述多个植物多视角光谱数据存入多视角光谱数据存储文件夹;

所述循环模块用于驱动所述传动结构向前运行,进入下一个植物样本数据采集阶段;

所述传输模块用于将采集的数据传输至数据处理服务器进行植物三维重建及表型数据分析计算,以供用户获取和使用重建的植物三维模型和表型数据。

2.根据权利要求1所述的基于植物流水线表型采集平台的植物表型融合解析方法,其特征在于,所述对所述多视角RGB图像提取点云信息获得RGB着色点云数据,包括:采用运动恢复结构SFM算法处理所述多视角RGB图像,生成植物三维稀疏点云朝向信息和相机拍摄点位空间位姿信息;

采用多视角立体聚类CMVS算法,将所述多视角RGB图像分为若干类,其中每一类多视角RGB图像对应任一区域的稀疏点云数据;

采用基于面片的多视角立体PMVS算法,以所述稀疏点云数据为初始点,构建每一类多视角RGB图像对应的稠密点云序列;

提取所述稠密点云序列中每个点云对应的面片,以及每个面片对应的图像序列,由所述图像序列中的像素序列计算RGB定点着色序列像素均值,得到所述RGB着色点云数据。

3.根据权利要求1所述的基于植物流水线表型采集平台的植物表型融合解析方法,其特征在于,所述对所述多视角多光谱图像序列进行到所述多视角RGB图像的映射处理获得多光谱着色点云数据,包括:基于所述RGB图像传感器和所述多光谱图像传感器的设置参数以及相对位置,计算得到所述多视角多光谱图像序列到所述多视角RGB图像的映射函数;

利用所述映射函数获取所述多视角多光谱图像序列到所述多视角RGB图像的图像匹配对序列;

计算所述图像匹配对序列中每个面片对应的多光谱图像序列,及所述图像匹配对序列对应的像素值序列;

计算所述像素值序列的像素平均值,得到光谱通道信息,将所述光谱通道信息叠加到对应的点云点,得到所述多光谱着色点云数据。

4.根据权利要求2所述的基于植物流水线表型采集平台的植物表型融合解析方法,其特征在于,所述对所述多光谱点云融合数据进行点云矫正,提取矫正后多光谱点云融合数据中的植物点云信息,包括:基于所述相机拍摄点位空间位姿信息拟合生成相机点位拟合圆,由所述相机点位拟合圆得到相机点位圆半径和相机点位拟合圆法向量;

获取相机实际旋转半径,由所述相机点位圆半径和所述相机实际旋转半径得到点云矫正比值;

基于所述点云矫正比值和所述多光谱着色点云数据,计算得到所述矫正后多光谱点云融合数据;

根据所述相机点位拟合圆法向量,计算得到所述相机点位拟合圆法向量向Z轴正方向的旋转矩阵;

由所述旋转矩阵和所述矫正后多光谱点云融合数据,得到矫正后重建场景点云;

对所述相机点位拟合圆进行Z轴正方向矫正和尺度矫正,获得圆心坐标;

测量获取所述植物载具的盆边沿到相机成像模组中心点的垂直距离,综合所述垂直距离和所述圆心坐标得到圆柱底部中心点;

基于所述圆柱底部中心点和所述相机实际旋转半径,构建圆柱包围体,在所述矫正后重建场景点云中提取所述圆柱包围体范围内的点云,作为所述植物点云信息。

5.根据权利要求1所述的植物表型融合解析方法,其特征在于,所述基于所述植物点云信息,计算得到植物3D点云模型、植物株型表型指标和植物器官表型指标,包括:基于Delaunay 三角网格剖分算法,对所述植物点云信息进行点云网格化,得到所述植物3D点云模型;

对所述植物点云信息进行体素化,计算得到所述植物株型表型指标;

采用深度学习算法,对所述植物点云信息进行分割,得到不同类型器官点云,对所述不同类型器官点云进行表型解析,得到所述植物器官表型指标。

说明书 :

一种植物流水线表型采集平台及植物表型融合解析方法

技术领域

[0001] 本发明涉及植物信息采集技术领域,尤其涉及一种植物流水线表型采集平台及植物表型融合解析方法。

背景技术

[0002] 田间表型数据的精准快速获取,是构建植物表型大数据的主要数据来源,通常为作物数字育种、数字栽培和农业生产智能化管理研究与应用提供基础数据支撑服务。
[0003] 目前,植物表型数据的监测和分析手段多种多样。按照不同尺度划分,当前的表型采集平台包括:遥感卫星平台、低空无人机表型平台、田间固定式轨道表型平台、表型车、表型机器人、便携式表型平台以及流水线式表型平台。流水线式表型平台是当前植物单株尺度表型连续监测、精细化、高通量采集的主要技术手段之一。为了提高表型平台的采集效率度以及采集通量,通常在表型平台上挂在不同类型的表型传感器。基于表型平台获取的原始数据包括RGB图像、光谱图像、热红外图像、点云等不同类型的数据,从原始数据中解析出农学家需要的表型指标是另外一个技术难点。
[0004] 现有的植物流水线表型采集平台主要的技术环节包括:植物流水线传动、传感器布局及同步采集以及表型解析三方面。例如:
[0005] 方案一采用构建自动化采集装置包括抓取装置、输送机、信息采集装置和控制,实现植物自动化采集,并在输送机上固定连接有支架,支架上安装有信息采集装置,信息采集装置包括相机,相机为可见光相机、红外相机或双目摄像机,信息采集装置还能够包括成像光谱仪、荧光成像仪和/或激光雷达扫描仪等传感器,用于获取目标盆栽植物叶片个数、叶片长和宽以及叶片倾角等表型数据。该方案的技术缺陷是:没有提供传感器的空间布局、同步采集、表型解析等技术方案或方法,仅仅在传送等方面给出技术说明。
[0006] 方案二包括:箱体、传输装置、控制装置,在轨道的预定位置设置的多个传感器,包括雷达装置、光学成像装置、荧光成像装置,并在箱体内设置机械手臂,通过机械手臂来调节传感器装置的采集角度。该方案的技术缺陷是:没有表述各传感器的协同,没有表述数据处理方法,也没有对应的采集系统。
[0007] 方案三通过设置环形臂和电机驱动器,并在环形臂上安装多个采集传感器,包括RGB相机、高光谱相机、多光谱相机、深度传感器、小型激光雷达热红外相机的一种或多种,来实现植物表型数据的多视角数据采集。该方案的技术缺陷是:并没有对数据如何解析处理进行说明,也没有对数据融合方法进行说明。
[0008] 方案四通过旋转装置驱动信息采集装置,并在采集装置上安装相机传感器,在幕布上布置棋盘格标定板,才采集植物多时间图像,并基于多视角图像,采用平均值的方法估算植物表型指标。该方案的技术缺陷是:基于平均值的估算方法误差较大。
[0009] 方案五侧重于表型数据融合和处理,通过设置两队深度相机和多光谱相机,实现植物3D光谱数据融合,为植物多光谱点云融合提供从箱体设计到传感器布局以及数据融合方法的技术解决方案。该方案的技术缺陷是:只通过植物的两侧数据获取,无法避免因遮挡产生的数据缺失问题。
[0010] 针对现有方案中植物表型采集平台数据采集和数据融合处理中的不足,需要提出新的改进的植物表型采集平台以及对应的数据融合解析方法。

发明内容

[0011] 本发明提供一种植物流水线表型采集平台及植物表型融合解析方法,用以解决现有技术中植物表型平台采集植物数据时存在采集数据类型单一、调整不够灵活和数据融合解析精度不高的缺陷。
[0012] 第一方面,本发明提供一种植物流水线表型采集平台,包括:
[0013] 表型采集装置、控制系统和数据采集系统;所述表型采集装置分别与所述控制系统及所述数据采集系统相连接;
[0014] 所述表型采集装置包括传动结构、成像箱体和植物载具,所述传动结构贯穿于所述成像箱体的前后相对出口,所述植物载具固定安装于所述传动结构的上表面,由所述传动结构带动所述植物载具移动至所述成像箱体内,通过所述成像箱体内的传感器获取不同角度和不同光谱的植物样本图片;
[0015] 所述数据采集系统采集不同类型的预设高通量植物表型数据,所述预设高通量植物表型数据是通过所述表型采集装置获取的;
[0016] 所述控制系统控制所述传动结构、所述成像箱体和所述植物载具的信号通信,并控制传送所述预设高通量植物表型数据。
[0017] 根据本发明提供的一种植物流水线表型采集平台,所述传动结构包括步进电机、传送带和固定件;
[0018] 所述步进电机位于所述传送带下方,用于驱动所述传送带匀速传动;
[0019] 所述传送带包括多个等间距分布的月牙板,其中每个所述植物载具通过固定件固设在任一月牙板上;
[0020] 所有固定件在所述传送带上均匀分布,其中相邻两个固定件之间的距离大于所述成像箱体宽度的一半。
[0021] 根据本发明提供的一种植物流水线表型采集平台,所述成像箱体包括壳体、旋转装置、传感器组件、数据传输及供电组件、植物样本识别组件、立体补光组件和控制器及计算机单元;
[0022] 所述传动结构中的一侧传送带贯穿于所述壳体的前后相对出口,所述壳体外部一侧固定设置控制面板显示器;所述控制面板显示器和所述控制器及计算机单元电连接,显示表型采集平台运行状态及工况状态;
[0023] 在所述壳体沿所述传送带运动方向的前端和后端分别设置进口和出口,并在所述进口和所述出口分别安装双开门电动开关门,在与所述传送带运动方向平行的所述壳体外侧面设置手推门;
[0024] 所述旋转装置设置于所述壳体内的顶部中心,包括电机组件、旋转横杆和旋转竖直杆;所述电机组件和所述控制器及计算机单元电连接,驱动所述旋转横杆转动;所述旋转竖直杆在所述旋转横杆上水平移动,调节所述旋转竖直杆与所述箱体中心点的距离;
[0025] 所述传感器组件包括多角度视角采集传感器、顶部视角采集传感器和侧视角顶点传感器;所述多角度视角采集传感器包括一个或多个,等间距固定于所述旋转竖直杆上;所述顶部视角采集传感器为高度可调节相机,设置于所述箱体顶部中心;所述侧视角顶点传感器固定于所述箱体内侧面上,与所述多角度视角采集传感器相对设置,并水平相对于所述箱体中间;
[0026] 所述数据传输及供电组件包括网线滑环、电线滑环和交换机;所述网线滑环和所述电线滑环安装于所述箱体顶部中心转轴上,所述电线滑环为所述传感器组件和所述交换机供电,所述网线滑环将所述传感器组件的数据传输至所述控制器及计算机单元;所述交换机分别与所述网线滑环和所述多角度视角采集传感器相连接,固定于所述旋转竖直杆上;
[0027] 所述植物样本识别组件包括识别台、二维码识别相机和限位开关;所述识别台位于所述箱体底部中间,位于所述传送带的两侧;所述二维码识别相机位于所述识别台一侧的上方,识别所述植物载具上的二维码;所述限位开关包括第一激光对射光电开关和第二激光对射光电开关,所述第一激光对射光电开关和所述第二激光对射光电开关分别位于两侧的识别台上,检测所述植物载具的运行位置;
[0028] 所述立体补光组件包括顶部光源和侧面光源;所述侧面光源包括一个或多个补光灯,所述侧面光源以预设下倾角度均匀分布于所述箱体两侧;所述顶部光源包括一个或多个补光灯,设置于所述箱体顶部。
[0029] 根据本发明提供的一种植物流水线表型采集平台,所述传感器组件包括RGB图像传感器和多光谱图像传感器,所述RGB图像传感器和所述多光谱图像传感器成对安装;
[0030] 所述补光灯为多波段LED光源,与所述控制器及计算机单元相连接,由所述控制器及计算机单元切换所述多波段LED光源的光源波段。
[0031] 根据本发明提供的一种植物流水线表型采集平台,所述植物载具包括植物种植盆、凹型底板和侧面二维码板;
[0032] 所述植物种植盆放置于所述凹型底板上表面,用于放置植物样本;
[0033] 所述凹型底板用于承载所述植物种植盆;
[0034] 所述侧面二维码板位于所述凹型底板侧面,待所述植物载具运行至所述成像箱体内部时面向二维码识别相机。
[0035] 根据本发明提供的一种植物流水线表型采集平台,所述控制系统包括数据采集电脑、第一控制器和第二控制器;
[0036] 所述数据采集电脑与控制面板显示器相连接,控制表型采集平台调试和现场数据工况采集;
[0037] 所述数据采集电脑与数据处理服务器相连接,将采集的数据传输至所述数据处理服务器,由所述数据处理服务器进行植物表型数据分析处理;
[0038] 所述数据采集电脑分别与所述第一控制器以及所述第二控制器相连接;
[0039] 所述第一控制器分别与步进电机、开关门电机、转台电机以及光电开关相连接,控制信号通信;
[0040] 所述第二控制器与传感器组件相连接,控制信号通信和数据传送。
[0041] 根据本发明提供的一种植物流水线表型采集平台,所述数据采集系统包括顺次连接的初始化模块、设置模块、检测模块、二维码识别模块、定点传感器数据采集模块、多视角非光谱传感器采集模块、多光谱定点传感器采集模块、多视角光谱传感器采集模块、循环模块和传输模块;
[0042] 所述初始化模块用于上电采集平台,并初始化所述采集平台;
[0043] 所述设置模块用于设置所述采集平台的初始运行参数;
[0044] 所述检测模块用于检测所述传动结构的运行位置,并根据所述运行位置分别控制所述传动结构的运行、立体补光组件的开启以及所述成像箱体的双开门电动开关门;
[0045] 所述二维码识别模块用于识别所述植物载具的植物编号二维码,确定将所述植物编号二维码存入二维码存储文件夹;
[0046] 所述定点传感器数据采集模块用于驱动所述成像箱体内的顶部非光谱传感器采集植物顶部非光谱数据,以及侧部非光谱传感器采集植物侧面非光谱数据,确定将所述植物顶部非光谱数据和所述植物侧面非光谱数据存入定点非光谱数据存储文件夹;
[0047] 所述多视角非光谱传感器采集模块用于驱动所述植物载具的转台以预设转动间隔角度转动一周,获取多个植物多视角非光谱数据,确定将所述多个植物多视角非光谱数据存入多视角非光谱数据存储文件夹;
[0048] 所述多光谱定点传感器采集模块用于驱动所述成像箱体内的顶部光谱传感器采集植物顶部光谱数据,以及侧部光谱传感器采集植物侧面光谱数据,确定将所述植物顶部光谱数据和所述植物侧面光谱数据存入定点光谱数据存储文件夹;
[0049] 所述多视角光谱传感器采集模块用于驱动所述植物载具的转台以所述预设转动间隔角度转动一周,获取多个植物多视角光谱数据,确定将所述多个植物多视角光谱数据存入多视角光谱数据存储文件夹;
[0050] 所述循环模块用于驱动所述传动结构向前运行,进入下一个植物样本数据采集阶段;
[0051] 所述传输模块用于将采集的数据传输至数据处理服务器进行植物三维重建及表型数据分析计算,以供用户获取和使用重建的植物三维模型和表型数据。
[0052] 第二方面,本发明还提供一种植物表型融合解析方法,包括:
[0053] 获取多视角RGB图像序列和多视角多光谱图像序列;其中所述多视角RGB图像序列是由RGB图像传感器采集所得到,所述多视角多光谱图像序列是由多光谱图像传感器采集所得到;
[0054] 对所述多视角RGB图像提取点云信息获得RGB着色点云数据,对所述多视角多光谱图像序列进行到所述多视角RGB图像的映射处理获得多光谱着色点云数据,融合所述RGB着色点云数据和所述多光谱着色点云数据,得到多光谱点云融合数据;
[0055] 对所述多光谱点云融合数据进行点云矫正,提取矫正后多光谱点云融合数据中的植物点云信息;
[0056] 基于所述植物点云信息,计算得到植物3D点云模型、植物株型表型指标和植物器官表型指标。
[0057] 根据本发明提供的一种植物表型融合解析方法,所述对所述多视角RGB图像提取点云信息获得RGB着色点云数据,包括:
[0058] 采用运动恢复结构SFM算法处理所述多视角RGB图像,生成植物三维稀疏点云朝向信息和相机拍摄点位空间位姿信息;
[0059] 采用多视角立体聚类CMVS算法,将所述多视角RGB图像分为若干类,其中每一类多视角RGB图像对应任一区域的稀疏点云数据;
[0060] 采用基于面片的多视角立体PMVS算法,以所述稀疏点云数据为初始点,构建每一类多视角RGB图像对应的稠密点云序列;
[0061] 提取所述稠密点云序列中每个点云对应的面片,以及每个面片对应的图像序列,由所述图像序列中的像素序列计算RGB定点着色序列像素均值,得到所述RGB着色点云数据。
[0062] 根据本发明提供的一种植物表型融合解析方法,所述对所述多视角多光谱图像序列进行到所述多视角RGB图像的映射处理获得多光谱着色点云数据,包括:
[0063] 基于所述RGB图像传感器和所述多光谱图像传感器的设置参数以及相对位置,计算得到所述多视角多光谱图像序列到所述多视角RGB图像的映射函数;
[0064] 利用所述映射函数获取所述多视角多光谱图像序列到所述多视角RGB图像的图像匹配对序列;
[0065] 计算所述图像匹配对序列中每个面片对应的多光谱图像序列,及所述图像匹配对序列对应的像素值序列;
[0066] 计算所述像素值序列的像素平均值,得到光谱通道信息,将所述光谱通道信息叠加到对应的点云点,得到所述多光谱着色点云数据。
[0067] 根据本发明提供的一种植物表型融合解析方法,所述对所述多光谱点云融合数据进行点云矫正,提取矫正后多光谱点云融合数据中的植物点云信息,包括:
[0068] 基于所述相机拍摄点位空间位姿信息拟合生成相机点位拟合圆,由所述相机点位拟合圆得到相机点位圆半径和相机点位拟合圆法向量;
[0069] 获取相机实际旋转半径,由所述相机点位圆半径和所述相机实际旋转半径得到点云矫正比值;
[0070] 基于所述点云矫正比值和所述多光谱着色点云数据,计算得到所述矫正后多光谱点云融合数据;
[0071] 根据所述相机点位拟合圆法向量,计算得到所述相机点位拟合圆法向量向Z轴正方向的旋转矩阵;
[0072] 由所述旋转矩阵和所述矫正后多光谱点云融合数据,得到矫正后重建场景点云;
[0073] 对所述相机点位拟合圆进行Z轴正方向矫正和尺度矫正,获得圆心坐标;
[0074] 测量获取所述植物载具的盆边沿到相机成像模组中心点的垂直距离,综合所述垂直距离和所述圆心坐标得到圆柱底部中心点;
[0075] 基于所述圆柱底部中心点和所述相机实际旋转半径,构建圆柱包围体,在所述矫正后重建场景点云中提取所述圆柱包围体范围内的点云,作为所述植物点云信息。
[0076] 根据本发明提供的一种植物表型融合解析方法,所述基于所述植物点云信息,计算得到植物3D点云模型、植物株型表型指标和植物器官表型指标,包括:
[0077] 基于Delaunay三角网格剖分算法,对所述植物点云信息进行点云网格化,得到所述植物3D点云模型;
[0078] 对所述植物点云信息进行体素化,计算得到所述植物株型表型指标;
[0079] 采用深度学习算法,对所述植物点云信息进行分割,得到不同类型器官点云,对所述不同类型器官点云进行表型解析,得到所述植物器官表型指标。
[0080] 本发明提供的植物流水线表型采集平台及植物表型融合解析方法,用于作物表型自动化采集和生长过程连续检测,并采用表型数据自动化融合数据解析方法,有效解决了植物表型性状高通量采集解析问题。

附图说明

[0081] 为了更清楚地说明本发明或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0082] 图1是本发明提供的植物流水线表型采集平台的整体结构图;
[0083] 图2是本发明提供的植物流水线表型采集平台的主结构示意图;
[0084] 图3是本发明提供的传送带的结构示意图;
[0085] 图4是本发明提供的成像箱体内部结构图;
[0086] 图5是本发明提供的植物载具的结构示意图;
[0087] 图6是本发明提供的控制系统结构示意图;
[0088] 图7是本发明提供的数据采集系统结构示意图;
[0089] 图8是本发明提供的植物表型融合解析方法的流程示意图。
[0090] 附图标记:
[0091] 1:传动结构;1‑1:步进电机;1‑2:传送带;1‑3:固定件;
[0092] 2:成像箱体;2‑1:控制面板显示器;2‑2:双开门电动开关门;
[0093] 2‑3:电机组件;2‑4:旋转横杆;2‑5:旋转竖直杆;2‑6:多角度视角采集传感器;2‑7:顶部视角采集传感器;2‑8:侧视角顶点传感器;2‑9:网线滑环和电线滑环;2‑10:交换机:
2‑11:识别台;2‑12:二维码识别相机;2‑13:第一激光对射光电开关;2‑14:第二激光对射光电开关;2‑15:侧面光源;2‑16:顶部光源;2‑17:控制器及计算机;2‑18:手推门;
[0094] 3:植物载具;3‑1:植物种植盆;3‑2:凹型底板;3‑3:侧面二维码板。

具体实施方式

[0095] 为使本发明的目的、技术方案和优点更加清楚,下面将结合本发明中的附图,对本发明中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
[0096] 下面结合图1‑图8描述本发明的技术方案。
[0097] 针对现有的植物表型采集平台存在的诸多缺陷,本发明提出一种新的植物流水线表型采集平台,图1是本发明提供的植物流水线表型采集平台的整体结构图,如图1所示,包括:表型采集装置、控制系统和数据采集系统;所述表型采集装置分别与所述控制系统及所述数据采集系统相连接;
[0098] 所述表型采集装置包括传动结构、成像箱体和植物载具,所述传动结构贯穿于所述成像箱体的前后相对出口,所述植物载具固定安装于所述传动结构的上表面,由所述传动结构带动所述植物载具移动至所述成像箱体内,通过所述成像箱体内的传感器获取不同角度和不同光谱的植物样本图片;
[0099] 所述数据采集系统采集不同类型的预设高通量植物表型数据,所述预设高通量植物表型数据是通过所述表型采集装置获取的;
[0100] 所述控制系统控制所述传动结构、所述成像箱体和所述植物载具的信号通信,并控制传送所述预设高通量植物表型数据。
[0101] 具体地,本发明提出的植物流水线表型采集平台,包括三个主要部分:具有实体装置的表型采集装置,对表型采集装置进行控制的控制系统,以及执行植物表型数据采集的数据采集系统。
[0102] 图2是本发明提供的植物流水线表型采集平台的主结构示意图, 如图2所示的表型采集装置,包括传动结构1、成像箱体2和植物载具3,构建了一整套自动化传送形式的表型采集装置,由成像箱体2实现了高通量自动化采集不同类型传感器的植物表型数据。
[0103] 在构建了表型采集装置的基础上,由控制系统控制采集装置的信号通信和数据传送,由数据采集系统采集不同类型的高通量植物表型数据。
[0104] 本发明通过设计构建植物流水线表型采集平台,实现了自动化采集不同类型高通量植物表型数据,无需人工干预,具有效率高和准确率高的优点,为植物表型融合解析提供了详实准确的输入数据。
[0105] 基于上述实施例,所述传动结构包括步进电机、传送带和固定件;
[0106] 所述步进电机位于所述传送带下方,用于驱动所述传送带匀速传动;
[0107] 所述传送带包括多个等间距分布的月牙板,其中每个所述植物载具通过固定件固设在任一月牙板上;
[0108] 所有固定件在所述传送带上均匀分布,其中相邻两个固定件之间的距离大于所述成像箱体宽度的一半。
[0109] 具体地,如图2和图3所示,传动结构1是一个环形传动台,该环形传动台配置步进电机1‑1,驱动传动线匀速转动,传送带采用传送带1‑2拼接而成,在月牙板上均匀设置多个固定件1‑3,通常为螺栓,用于固定植物载具3,植物载具3在流水线线体上固定距离间隔固定,间隔距离大于成像箱体2宽度的一半,月牙形结构在转弯处自动调节方向,实现传送带在转弯处平稳转向。
[0110] 本发明中的设置的流水线传动结构,采用全自动化驱动的流水线,能自动传递植物样本,实现全流程自动化操作,具有效率高和实施方便的特点。
[0111] 基于上述任一实施例,所述成像箱体包括壳体、旋转装置、传感器组件、数据传输及供电组件、植物样本识别组件、立体补光组件和控制器及计算机单元;
[0112] 所述传动结构中的一侧传送带贯穿于所述壳体的前后相对出口,所述壳体外部一侧固定设置控制面板显示器;所述控制面板显示器和所述控制器及计算机单元电连接,显示表型采集平台运行状态及工况状态;
[0113] 在所述壳体沿所述传送带运动方向的前端和后端分别设置进口和出口,并在所述进口和所述出口分别安装双开门电动开关门,在与所述传送带运动方向平行的所述壳体外侧面设置手推门;
[0114] 所述旋转装置设置于所述壳体内的顶部中心,包括电机组件、旋转横杆和旋转竖直杆;所述电机组件和所述控制器及计算机单元电连接,驱动所述旋转横杆转动;所述旋转竖直杆在所述旋转横杆上水平移动,调节所述旋转竖直杆与所述箱体中心点的距离;
[0115] 所述传感器组件包括多角度视角采集传感器、顶部视角采集传感器和侧视角顶点传感器;所述多角度视角采集传感器包括一个或多个,等间距固定于所述旋转竖直杆上;所述顶部视角采集传感器为高度可调节相机,设置于所述箱体顶部中心;所述侧视角顶点传感器固定于所述箱体内侧面上,与所述多角度视角采集传感器相对设置,并水平相对于所述箱体中间;
[0116] 所述数据传输及供电组件包括网线滑环、电线滑环和交换机;所述网线滑环和所述电线滑环安装于所述箱体顶部中心转轴上,所述电线滑环用于为所述传感器组件和所述交换机供电,所述网线滑环将所述传感器组件的数据传输至所述控制器及计算机单元;所述交换机分别与所述网线滑环和所述多角度视角采集传感器相连接,固定于所述旋转竖直杆上;
[0117] 所述植物样本识别组件包括识别台、二维码识别相机和限位开关;所述识别台位于所述箱体底部中间,位于所述传送带的两侧;所述二维码识别相机位于所述识别台一侧的上方,识别所述植物载具上的二维码;所述限位开关包括第一激光对射光电开关和第二激光对射光电开关,所述第一激光对射光电开关和所述第二激光对射光电开关分别位于两侧的识别台上,检测所述植物载具的运行位置;
[0118] 所述立体补光组件包括顶部光源和侧面光源;所述侧面光源包括一个或多个补光灯,所述侧面光源以预设下倾角度均匀分布于所述箱体两侧;所述顶部光源包括一个或多个补光灯,设置于所述箱体顶部。
[0119] 其中,所述传感器组件包括RGB图像传感器和多光谱图像传感器,所述RGB图像传感器和所述多光谱图像传感器成对安装;
[0120] 所述补光灯为多波段LED光源,与所述控制器及计算机单元相连接,由所述控制器及计算机单元切换所述多波段LED光源的光源波段。
[0121] 具体地,如图2和图4所示,成像箱体2包括壳体、旋转装置、传感器组件、数据传输及供电组件、植物样本识别组件、立体补光组件和控制器及计算机单元。
[0122] 壳体横跨于流水线线体的一侧条带上,在箱体的一边外侧固定有控制面板显示器2‑1,控制面板显示器2‑1和控制器及计算机2‑17电连接,展示设备运行状态及工况状态。
[0123] 在壳体的流水线前后两端设置进口和出口,在进口和出口箱体上安装双开门电动开关门2‑2,由电机组件2‑3驱动,电机组件2‑3和控制器及计算机2‑17电连接,由控制器及计算机2‑17控制开关门的开关。此外,为了方便工人进入壳体内调试设备,在壳体的靠传送带外侧设置手推门2‑18。
[0124] 旋转装置包括:在壳体的顶部中心位置安装旋转装置,旋转装置由电机组件2‑3、旋转横杆2‑4和旋转竖直杆2‑5组成,其中电机组件2‑3驱动旋转横杆2‑4转动,且电机组件2‑3与控制器及计算机2‑17电连接,旋转竖直杆2‑5可在旋转横杆2‑4上水平移动,用于调节旋转竖直杆2‑5距离箱体中心点的距离。
[0125] 传感器组件包括:在壳体内部安装三种采集模式的传感器,分别是安装在旋转竖直杆2‑5上的多角度视角采集传感器2‑6,可根据被测植物的高度,设置1个或多个传感器,安装在壳体顶部的顶部视角采集传感器2‑7,根据被测植物的高度,可调节顶部视角采集传感器2‑7中相机的高度,以及安装在壳体一侧的侧视角顶点传感器2‑8,水平正向壳体的中央。可选地,在顶部、侧部和旋转杆上的传感器,为RGB图像传感器和多光谱图像传感器,该两种类型的图像传感器成对安装;在顶部、侧部和旋转杆上的传感器,也可为激光雷达传感器、热红外图像传感器、荧光图像传感器及深度传感器等的一种或多种。
[0126] 数据传输及供电组件包括:在壳体的顶部中央转轴上,安装了网线滑环和电线滑环2‑9,其中,电线滑环为旋转杆上的传感器和网络设备供电,网线滑环为旋转杆上的传感器数据传输到控制器的电脑上,网线滑环和交换机2‑10相连接,交换机2‑10和多角度视角采集传感器2‑6相连接。
[0127] 植物样本识别组件包括:在壳体的中央,流水线线体的两侧安装识别台2‑11,识别台2‑11和流水线分离,在识别台2‑11上一侧安装一台二维码识别相机2‑12,用于识别植物载具3上的二维码,该二维码是植物载具上的植物的唯一编号;在识别台2‑11的两侧分别安装有第一激光对射光电开关2‑13和第二激光对射光电开关2‑14,激光对射光电开关用于检测植物载具是否运行到箱体的中央。
[0128] 立体补光组件包括:在箱体的两侧安装侧面光源2‑15,对应的补光灯可以是多个,两侧的补光灯以一定向下的角度朝向箱体中下部,在壳体的顶部安装顶部光源2‑16,顶部对应的补光灯可以是多个。这里的补光灯为多波段LED光源,并通过控制器及计算机2‑17相连接,由控制器及计算机2‑17控制补光灯的光源波段选择。
[0129] 本发明通过在成像箱体内设置多种类型的可调节的传感器,可获取植物样本的多种类型数据,并通过设置内部灵活结构的调整,还可获取多角度和多方位的植物数据,具有全自动化和灵活度高的特点,能满足多种场景的植物数据采集需求。
[0130] 基于上述任一实施例,所述植物载具包括植物种植盆、凹型底板和侧面二维码板;
[0131] 所述植物种植盆放置于所述凹型底板上表面,用于放置植物样本;
[0132] 所述凹型底板用于承载所述植物种植盆;
[0133] 所述侧面二维码板位于所述凹型底板侧面,待所述植物载具运行至所述成像箱体内部时面向二维码识别相机。
[0134] 具体地,如图5所示,植物载具3安装在传送带1‑2上,由植物种植盆3‑1、凹型底板3‑2和侧面二维码板3‑3组成。当植物载具3传送到箱体内部中央位置时,侧面二维码板3‑3朝向二维码识别相机。
[0135] 本发明提出的植物载具能自动灵活地调整植物位置,并通过二维码实现植物身份的标记,具有全流程的自动化和高度智能化的优点。
[0136] 基于上述任一实施例,所述控制系统包括数据采集电脑、第一控制器和第二控制器;
[0137] 所述数据采集电脑与控制面板显示器相连接,控制表型采集平台调试和现场数据工况采集;
[0138] 所述数据采集电脑与数据处理服务器相连接,将采集的数据传输至所述数据处理服务器,由所述数据处理服务器进行植物表型数据分析处理;
[0139] 所述数据采集电脑分别与所述第一控制器以及所述第二控制器相连接;
[0140] 所述第一控制器分别与步进电机、开关门电机、转台电机以及光电开关相连接,控制信号通信;
[0141] 所述第二控制器与传感器组件相连接,控制信号通信和数据传送。
[0142] 具体地,如图6所示的控制系统结构示意图,本发明在控制器及计算机2‑17内部设置数据采集电脑、第一控制器和第二控制器。
[0143] 其中,数据采集电脑和第一控制器相连接,第一控制器和步进电机、开关门电机、转台电机以及光电开关相连接,用于信号通信。数据采集电脑还和第二控制器相连接,第二控制器与传感器组件相连接,控制传感器组件中的识别摄像头、不同光源调制器、多视角采集传感器、顶部采集传感器和定点采集传感器相连接,用于信号通信和数据传送。此外,数据采集电脑还和显示器相连接,用于设备调试和现场数据采集工况,并通过局域网或广域网和数据处理服务器相连接,把采集到的数据传输到数据处理服务器,由数据处理服务器进行植物三维重建、植物表型解析与分析。
[0144] 本发明通过采用控制系统对植物流水线表型采集平台进行逻辑控制,由不同的控制器分别对不同的功能组件进行控制,最终由数据采集电脑进行整体控制,实现了全自动化监测控制流水线采集装置。
[0145] 基于上述任一实施例,所述数据采集系统包括顺次连接的初始化模块、设置模块、检测模块、二维码识别模块、定点传感器数据采集模块、多视角非光谱传感器采集模块、多光谱定点传感器采集模块、多视角光谱传感器采集模块、循环模块和传输模块;
[0146] 所述初始化模块用于上电采集平台,并初始化所述采集平台;
[0147] 所述设置模块用于设置所述采集平台的初始运行参数;
[0148] 所述检测模块用于检测所述传动结构的运行位置,并根据所述运行位置分别控制所述传动结构的运行、立体补光组件的开启以及所述成像箱体的双开门电动开关门;
[0149] 所述二维码识别模块用于识别所述植物载具的植物编号二维码,确定将所述植物编号二维码存入二维码存储文件夹;
[0150] 所述定点传感器数据采集模块用于驱动所述成像箱体内的顶部非光谱传感器采集植物顶部非光谱数据,以及侧部非光谱传感器采集植物侧面非光谱数据,确定将所述植物顶部非光谱数据和所述植物侧面非光谱数据存入定点非光谱数据存储文件夹;
[0151] 所述多视角非光谱传感器采集模块用于驱动所述植物载具的转台以预设转动间隔角度转动一周,获取多个植物多视角非光谱数据,确定将所述多个植物多视角非光谱数据存入多视角非光谱数据存储文件夹;
[0152] 所述多光谱定点传感器采集模块用于驱动所述成像箱体内的顶部光谱传感器采集植物顶部光谱数据,以及侧部光谱传感器采集植物侧面光谱数据,确定将所述植物顶部光谱数据和所述植物侧面光谱数据存入定点光谱数据存储文件夹;
[0153] 所述多视角光谱传感器采集模块用于驱动所述植物载具的转台以所述预设转动间隔角度转动一周,获取多个植物多视角光谱数据,确定将所述多个植物多视角光谱数据存入多视角光谱数据存储文件夹;
[0154] 所述循环模块用于驱动所述传动结构向前运行,进入下一个植物样本数据采集阶段;
[0155] 所述传输模块用于将采集的数据传输至数据处理服务器进行植物三维重建及表型数据分析计算,以供用户获取和使用重建的植物三维模型和表型数据。
[0156] 具体地,如图7所示的数据采集系统结构示意图,包括初始化模块、设置模块、检测模块、二维码识别模块、定点传感器数据采集模块、多视角非光谱传感器采集模块、多光谱定点传感器采集模块、多视角光谱传感器采集模块、循环模块和传输模块。
[0157] 其中,初始化模块用于对采集平台进行上电,并初始化采集平台的参数,对待采集植物二维码编号,并放置在流水线载具上,设备上电启动,包括:采集电脑开启,流水线上电,自动化驱动旋转转台零点归位,成像箱体前后开关门开启,传感器处于采集模式。
[0158] 设置模块则用于设置采集平台的初始运行参数,在采集电脑中的采集系统上设置设备采集参数,包括:设置流水线传送速度,设置旋转转台转速,设置传感器采集频率,位置参数测量或定位,并开启自动化采集模式。
[0159] 检测模块用于在流水线传动运行过程中,当激光对射光电开关传感器实时检测植物载具运行到成像箱体的中央时,停止流水线运行,开启LED白色光源,并关闭成像箱体的前后开关门。
[0160] 二维码识别模块用于识别植物载具上的植物编号二维码,并在采集电脑指定路径下创建该样本的数据存储文件夹,即存入二维码存储文件夹。
[0161] 定点传感器数据采集模块用于同步驱动顶部非光谱传感器进行植物顶部数据采集,同步驱动侧部非光谱传感器进行植物侧面数据采集,并存储到指定文件夹下,即存入定点非光谱数据存储文件夹。
[0162] 多视角非光谱传感器采集模块用于驱动转台转动,并触发转臂上的传感器采集,转台转动一周,传感器以固定角度间隔进行植物多幅视角的数据采集,并存储到指定文件夹下,即存入多视角非光谱数据存储文件夹。
[0163] 多光谱定点传感器采集模块用于通过光源调节器,关闭LED白色光源,开启多光谱光源;然后开启多光谱定点传感器采集,同步驱动顶部光谱传感器进行植物顶部数据采集,同步驱动侧部光谱传感器进行植物侧面数据采集,并存储到指定文件夹下,即存入定点光谱数据存储文件夹。
[0164] 多视角光谱传感器采集模块用于开启多视角光谱传感器采集,驱动转台转动,并触发转臂上的光谱传感器采集,转台转动一周,传感器同样以固定角度间隔进行植物多幅视角的数据采集,并存储到指定文件夹下,即存入多视角光谱数据存储文件夹。
[0165] 循环模块用于当结束一个植物样本的高通量表型数据采集,继续运行流水线,进入下一个样本数据采集,以此进行循环采集。
[0166] 传输模块用于当数据采集完成后,通过局域网或广域网,把采集到的数据传送到数据处理服务器进行植物三维重建及表型解析计算,用户访问数据处理服务器,获得重建的植物三维模型和表型指标等数据。
[0167] 本发明通过数据采集系统实现对不同类型的植物表型数据的采集和分类,并实现自动循环采集多个植物样本,具有高度智能化和集成化的特点。
[0168] 以温室栽培种植的生菜品种生殖生长阶段的表型获取为例,生菜在生殖生长阶段的一般株高小于1.0米,宽幅宽度小于0.3米。生菜的品种共计20个样本,采用盆栽温室种植,盆栽盆高度20cm,内覆基质到盆沿。
[0169] 首先是采集样本编号,采用二维码打印机,为待采集样本编号,打印出生菜样本的唯一二维码。二维码粘贴到植物载具上,并在载具上放置对应的生菜品种。
[0170] 然后是搭建流水线表型平台装置,包括传动结构1、成像箱体2和植物载具3等三个部分。
[0171] 传动结构采用环形传动台设计,流水线长度40米,传动台配置步进电机1‑1,驱动传动线匀速传动,传动线采用传送带1‑2拼接而成,在与压板上通过固定件1‑3固定植物载具3,植物载具3在传送带1‑2固定距离间隔固定,间隔距离为3米,共计安装20个植物载具,月牙形结构在转弯处自动调节方向,实现流水线在转弯处平稳转向。
[0172] 对于成像箱体2的构建,壳体主框架采用铝型材结构支撑,壳体四周采用不锈钢材质,壳体的内侧采用灰白色不反光绒布覆盖,壳体的大小为高3米、宽3米、长3米的正方向结构,壳体横跨在流水线线体的一侧条带上,在壳体的一侧固定控制面板显示器2‑1,显示器选用24英寸液晶面板,控制面板显示器和控制器及计算机2‑17电连接,用于展示设备运行过程及工况状态。在壳体的流水线前后两端设置进口和出口,并在进口和出口壳体上安装双开门电动开关门2‑2,开关门采用双开门设计,最大开门宽度1.2米,电动开关门由电机组件2‑3驱动,电机组件2‑3和控制器及计算机2‑17电连接,由控制器及计算机2‑17控制开关门的开关。为了方便工人进入箱体内调试设备,在箱体的一侧设置手推门2‑18。
[0173] 旋转装置包括:在壳体的顶部中心位置安装旋转装置,旋转装置由电机组件2‑3、旋转横杆2‑4和旋转竖直杆2‑5组成,其中电机组件2‑3驱动旋转横杆2‑4转动,且电机组件2‑3与控制器及计算机2‑17电连接,旋转横杆2‑4的长度为1.3米,旋转竖直杆2‑5的长度为
1.8米,旋转竖直杆2‑5可在旋转横杆2‑4上水平移动,用于调节旋转竖直杆2‑5距离箱体中心点的距离。
[0174] 传感器组件包括:在壳体内部安装三种采集模式的传感器,分别是安装在旋转竖直杆2‑5上的RGB图像传感器和多光谱图像传感器,RGB图像传感器和多光谱图像传感器水平并排安装,镜头以向下斜45度朝向箱体中央,安装高度为距离植物载具盆沿1米高;安装在壳体顶部的顶部视角RGB图像传感器,顶部视角RGB图像传感器距离地面2米高;安装在壳体一侧的侧视角定点RGB图像传感器,侧视角定点RGB图像传感器设置在壳体的一侧,并水平正向箱体的中央。
[0175] 数据传输及供电组件包括:在壳体的顶部中央转轴上,安装了网线滑环和电线滑环2‑9,其中,电线滑环为旋转杆上的传感器和网络设备供电,网线滑环为旋转杆上的传感器数据传输到控制器的电脑上,网线滑环和交换机2‑10相连接,交换机2‑10和多角度视角采集传感器2‑6相连接。
[0176] 植物样本识别组件包括:在壳体的中央,流水线线体的两侧安装识别台2‑11,识别台2‑11和流水线分离,在识别台2‑11上一侧安装一台二维码识别相机2‑12,用于识别植物载具3上的二维码,该二维码是植物载具上的植物的唯一编号;在识别台2‑11的两侧分别安装有第一激光对射光电开关2‑13和第二激光对射光电开关2‑14,激光对射光电开关用于检测植物载具是否运行到箱体的中央。
[0177] 立体补光组件包括:在壳体的两侧安装侧面光源2‑15,每侧安装4块LED白光灯和4块卤素灯补光灯,LED白光灯和卤素灯补光灯成对安装,两侧的补光灯朝向箱体中下部,以一定向下的角度,在箱体的顶部安装补光灯,安装4块LED白光灯和4块卤素灯补光灯,LED白光灯和卤素灯补光灯成对安装,LED白光灯和卤素灯补光灯分别通过变频器和控制器及计算机2‑17相连接,由控制器及计算机2‑17控制补光灯的开关。
[0178] 植物载具3安装在传送带1‑2上,由植物种植盆3‑1、凹型底板3‑2和侧面二维码板3‑3组成。当植物载具3传送到箱体内部中央位置时,侧面二维码板3‑3朝向二维码识别相机。
[0179] 对于控制系统的设置,在控制器及计算机2‑17内部设置数据采集电脑、第一控制器和第二控制器。数据采集电脑和第一控制器相连接,第一控制器和步进电机、开关门电机、转台电机以及光电开关相连接,用于信号通信。数据采集电脑还和第二控制器相连接,第二控制器与传感器组件相连接,控制传感器组件中的识别摄像头、不同光源调制器、多视角采集传感器、顶部采集传感器和定点采集传感器相连接,用于信号通信和数据传送。此外,数据采集电脑还和显示器相连接,用于设备调试和现场数据采集工况,并通过局域网或广域网和数据处理服务器相连接,把采集到的数据传输到数据处理服务器,由数据处理服务器进行植物三维重建、植物表型解析与分析。
[0180] 针对数据采集系统,由初始化模块对待采集植物二维码编号,并放置在流水线载具上,设备上电启动,包括,采集电脑开启,流水线上电,自动化驱动旋转转台零点归位,成像箱体前后开关门开启,传感器处于采集模式。
[0181] 由设置模块在采集电脑,采集系统上设置设备采集参数,包括:流水线传送速度设置为30cm/s,旋转转台转速设置为6度/秒,传感器采集频率设置为1次/2秒,并开启自动化采集模式。
[0182] 由检测模块控制流水线传动运行,激光对射光电开关传感器实时检测植物载具是否运行到成像箱体的中央,检测到后,停止流水线运行,开启LED白色光源,并关闭成像箱体的前后开关门。
[0183] 由二维码识别模块通过二维码识别相机识别植物载具上的植物编号二维码,并在采集电脑指定路径下创建该样本的数据存储文件夹,即存入二维码存储文件夹。
[0184] 由定点传感器数据采集模块同步驱动顶部非光谱传感器进行植物顶部数据采集,同步驱动侧部非光谱传感器进行植物侧面数据采集,并存储到指定文件夹下,即存入定点非光谱数据存储文件夹。
[0185] 由多视角非光谱传感器采集模块驱动转台转动,并触发转臂上的传感器采集,转台转动一周,传感器以12度间隔进行植物多幅视角的数据采集,并存储到指定文件夹下,即存入多视角非光谱数据存储文件夹。
[0186] 由多光谱定点传感器采集模块通过光源调节器,关闭LED白色光源,开启多光谱光源;然后开启多光谱定点传感器采集,同步驱动顶部光谱传感器进行植物顶部数据采集,同步驱动侧部光谱传感器进行植物侧面数据采集,并存储到指定文件夹下,即存入定点光谱数据存储文件夹。
[0187] 由多视角光谱传感器采集模块驱动转台转动,并触发转臂上的光谱传感器采集,转台转动一周,传感器以12度间隔进行植物多幅视角的数据采集,并存储到指定文件夹下,即存入多视角光谱数据存储文件夹。
[0188] 由循环模块结束一个植物样本的高通量表型数据采集,继续运行流水线,进入下一个样本数据采集,以此循环采集。
[0189] 由传输模块在数据采集完成后,通过局域网或广域网,把采集的数据传送到数据处理服务器进行植物三维重建及表型解析计算,用户访问数据处理服务器,获得重建的植物三维模型和表型指标等数据。
[0190] 图8是本发明提供的植物表型融合解析方法的流程示意图,如图8所示,包括:
[0191] 步骤100:获取多视角RGB图像序列和多视角多光谱图像序列;其中所述多视角RGB图像序列是由RGB图像传感器采集所得到,所述多视角多光谱图像序列是由多光谱图像传感器采集所得到;
[0192] 设置的传感器为RGB图像传感器和多光谱传感器。转臂上的RGB图像传感器和多光谱传感器水平并列安装,镜头朝向一致,相对位置固定。对于每株植物,通过该设备获得了一组多视角RGB图像序列 ,和一组多光谱传感器采集的多光谱图像序列。以多视角RGB图像序列和多视角多光谱图像序列为输入数据。
[0193] 步骤200:对所述多视角RGB图像提取点云信息获得RGB着色点云数据,对所述多视角多光谱图像序列进行到所述多视角RGB图像的映射处理获得多光谱着色点云数据,融合所述RGB着色点云数据和所述多光谱着色点云数据,得到多光谱点云融合数据;
[0194] 分别对多视角RGB图像进行点云信息处理得到RGB着色点云数据,同时对多视角多光谱图像序列进行映射处理得到多光谱着色点云数据,然后对得到的RGB着色点云数据和多光谱着色点云数据进行融合,得到多光谱点云融合数据。
[0195] 步骤300:对所述多光谱点云融合数据进行点云矫正,提取矫正后多光谱点云融合数据中的植物点云信息;
[0196] 进一步地,对多光谱点云融合数据中的信息进行点云校正,提取一定范围内的点云数据,去除其余干扰信息,得到植物点云信息。
[0197] 步骤400:基于所述植物点云信息,计算得到植物3D点云模型、植物株型表型指标和植物器官表型指标。
[0198] 最后,由植物点云信息,分别计算得到重建的植物3D点云模型、植物株型表型指标和植物器官表型指标。
[0199] 本发明通过综合处理植物标本的多视角RGB图像和多视角多光谱图像,融合分析得到目标模型和目标数据指标,具有处理高效和计算精度高的优点。
[0200] 基于上述实施例,所述对所述多视角RGB图像提取点云信息获得RGB着色点云数据,包括:
[0201] 采用运动恢复结构SFM算法处理所述多视角RGB图像,生成植物三维稀疏点云朝向信息和相机拍摄点位空间位姿信息;
[0202] 采用多视角立体聚类CMVS算法,将所述多视角RGB图像分为若干类,其中每一类多视角RGB图像对应任一区域的稀疏点云数据;
[0203] 采用基于面片的多视角立体PMVS算法,以所述稀疏点云数据为初始点,构建每一类多视角RGB图像对应的稠密点云序列;
[0204] 提取所述稠密点云序列中每个点云对应的面片,以及每个面片对应的图像序列,由所述图像序列中的像素序列计算RGB定点着色序列像素均值,得到所述RGB着色点云数据。
[0205] 具体地,针对RGB多视角图像序列 ,采用运动恢复结构(Structure from Motion,SFM)算法,生成植物三维稀疏点云 和相机拍摄点位的空间位姿信息,即生成的多视角图像采集点位相机的重建点位及其相机朝
向姿态,用向量 表示重建点位和朝向信息,用向量 表示位姿信息。这里的
SFM算法是一种经典多视角稀疏点云的重建算法。
[0206] 然后,基于多视角立体聚类(Clustering Multi‑View Stereo,CMVS)算法,把RGB多视角图像序列分为若干类,记为m类,每类图像序列对应一个区域的稀疏点云数据。这里的CMVS是一种用于多视角重建,图像聚簇的经典算法,用于提高后期点云稠密重建的效率。
[0207] 进一步,基于面片的多视角立体(Patch‑based Multi‑View Stereo,PMVS)算法,对每一分类图像序列,以稀疏点云为初始点,构建致密Patch序列,形成致密点云,致密点云中,点云中的每个点 对应一个Patch(面片),一个Patch对应一个图像序列中的像素序列 ,
该点的RGB定点着色序列像素的均值 ,即得到RGB着色点云数据。
[0208] 基于上述任一实施例,所述对所述多视角多光谱图像序列进行到所述多视角RGB图像的映射处理获得多光谱着色点云数据,包括:
[0209] 基于所述RGB图像传感器和所述多光谱图像传感器的设置参数以及相对位置,计算得到所述多视角多光谱图像序列到所述多视角RGB图像的映射函数;
[0210] 利用所述映射函数获取所述多视角多光谱图像序列到所述多视角RGB图像的图像匹配对序列;
[0211] 计算所述图像匹配对序列中每个面片对应的多光谱图像序列,及所述图像匹配对序列对应的像素值序列;
[0212] 计算所述像素值序列的像素平均值,得到光谱通道信息,将所述光谱通道信息与所述多视角多光谱图像序列进行叠加,得到所述多光谱着色点云数据。
[0213] 具体地,针对多光谱图像序列 ,多光谱相机和RGB图像相机的内外参参数,以及相对位置,计算得到多光谱图像 到多视角RGB序列图像 的映射函数,实现同一个采集点位的多光谱图像和RGB图像在像素上的配准,并形成图像匹配对 ,从而计算出每一个Patch对应
的多光谱图像序列 ,以及该序列对用的像
素值 。
[0214] 然后,通过计算像素平均值,得到该点的光谱通道信息 ,其中c代表光谱通带的光强值,m代表光谱通道数。从而实现光谱信息在点云上的叠加融合,形成的点云,记为 ,其中,点信息包括: ,表示由点云、RGB、
多光谱数据融合后的点云顶点信息结构,即包括空间位置信息,RGB通道信息和多光谱通道信息。
[0215] 基于上述任一实施例,所述对所述多光谱点云融合数据进行点云矫正,提取矫正后多光谱点云融合数据中的植物点云信息,包括:
[0216] 基于所述相机拍摄点位空间位姿信息拟合生成相机点位拟合圆,由所述相机点位拟合圆得到相机点位圆半径和相机点位拟合圆法向量;
[0217] 获取相机实际旋转半径,由所述相机点位圆半径和所述相机实际旋转半径得到点云矫正比值;
[0218] 基于所述点云矫正比值和所述多光谱着色点云数据,计算得到所述矫正后多光谱点云融合数据;
[0219] 根据所述相机点位拟合圆法向量,计算得到所述相机点位拟合圆法向量向Z轴正方向的旋转矩阵;
[0220] 由所述旋转矩阵和所述矫正后多光谱点云融合数据,得到矫正后重建场景点云;
[0221] 对所述相机点位拟合圆进行Z轴正方向矫正和尺度矫正,获得圆心坐标;
[0222] 测量获取所述植物载具的盆边沿到相机成像模组中心点的垂直距离,综合所述垂直距离和所述圆心坐标得到圆柱底部中心点;
[0223] 基于所述圆柱底部中心点和所述相机实际旋转半径,构建圆柱包围体,在所述矫正后重建场景点云中提取所述圆柱包围体范围内的点云,作为所述植物点云信息。
[0224] 具体地,本发明采用基于多视角重建技术(SFM+PMVS)重建场景点云和实际场景比例尺度不一致的情况,在同一采集环境下,不同的样本点云全局坐标系(正方向)不一致,在使用重建点云进行表型解析之前需要进行比例矫正和正方向矫正。
[0225] 此处,选取在稀疏点云重建时基于SFM算法重建的相机点位位置点列表,其中 表示一个RGB相机在转
臂的驱动下围绕植物拍摄,生成的相机点位,对该层点位拟合生成圆 ,计算得到圆半径 以及相机圆的法向量 ,通过实际测量,计算得到相机点位
距离转臂转轴中心的水平距离为 ,重建点云尺度和实际场景尺度的比
值为: ,比例矫正后的点云为: 。通过生
成的相机圆的法向量 ,计算得到法向量 向Z轴正方向
的 旋 转 矩阵 ,正 方向 矫 正 后的 点 云 为
。经过以上算法,得到矫正后的重建场景点云
为: 。
[0226] 由于重建出的点云包括被测植物点云,还包括箱体点云、流水线点云、植物载具盆点云等噪声点云,需要从上述杂乱场景点云中,提取出植物点云。首先,把生成的相机点云拟合圆 ,采用点云矫正的方法,矫正到Z轴正方向,并进行尺度矫正,计算得到圆的圆心坐标 ;然后,根据测量值,获得载具盆盆沿距离相机成像
模组中心点的垂直距离 ;以中心点 为圆柱底部圆形,半径为
,高度不限制,构建圆柱包围体,对点云 ,提取圆柱包围体以
内的点云为植物点云信息 。
[0227] 本发明采用融合两种图像数据,以及点云矫正和重建,得到较精确的植物点云信息,能解析得到具有完备信息的植物信息基础数据,为后续的植物点云建模和指标提取提供详实准确的数据输入。
[0228] 基于上述任一实施例,所述基于所述植物点云信息,计算得到植物3D点云模型、植物株型表型指标和植物器官表型指标,包括:
[0229] 基于Delaunay三角网格剖分算法,对所述植物点云信息进行点云网格化,得到所述植物3D点云模型;
[0230] 对所述植物点云信息进行体素化,计算得到所述植物株型表型指标;
[0231] 采用深度学习算法,对所述植物点云信息进行分割,得到不同类型器官点云,对所述不同类型器官点云进行表型解析,得到所述植物器官表型指标。
[0232] 可选地,针对植物3D点云建模,基于Delaunay三角网格剖分算法,对点云进行点云网格化,生成植物3D点云模型。
[0233] 对于植物株型表型数据计算,通过对点云进行体素化,计算得到植物株型相关表型,包括:株高、体积、投影面积以及光谱通道表型指标等。
[0234] 对于植物器官表型数据计算,对植物点云,采用深度学习算法,分割出叶片点云、茎秆点云等不同类型的点云,然后再对各器官点云进行表型解析,得到器官表型数据包括:叶片个数、叶面积、叶长、叶宽、茎秆粗度、茎秆长度以及光谱通道等器官表型指标。
[0235] 本发明通过对植物点云信息作进一步细化处理,实现植物多光谱点云重建,植物三维表型重建、植株尺度表型解析以及器官尺度表型解析,实现了全流程的自动化采集和精细化分析。
[0236] 以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
[0237] 通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
[0238] 最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。