一种目标分类模型的训练方法及装置转让专利

申请号 : CN202010114039.1

文献号 : CN113298102B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 吴梓恒胡杰

申请人 : 魔门塔(苏州)科技有限公司

摘要 :

本发明实施例公开一种目标分类模型的训练方法及装置,方法包括:获得训练图像及其对应的标定信息;对初始二值化分类模型的每一卷积层,对其对应的输入图像进行第一二值化特征提取操作,得到对应的输出图像;若卷积层为二值化卷积层,第一二值化特征提取操作包括:第一二值化特征提取操作及预设维度变换操作;第一层卷积层对应的输入图像为训练图像,其他层卷积层对应的输入图像为其前一卷积层对应的输出图像;利用模型的特征分类层及最后一层卷积层对应的输出图像,确定该输出图像对应的训练图像的预测检测信息;结合每一训练图像对应的标定检测信息,调整模型参数,确定目标二值化分类模型,以实现得到识别检测精度高且计算量小的目标分类模型。

权利要求 :

1.一种目标分类模型的训练方法,其特征在于,所述方法应用于车辆或服务器,包括:获得训练图像以及每一训练图像对应的标定信息,其中,每一标定信息包括:所对应训练图像包含的样本目标的标定检测信息,所述标定检测信息包括标定类别信息和/或标定位置信息;

针对初始二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的第一特征提取操作,对该卷积层对应的输入图像进行特征提取,得到该卷积层对应的输出图像;其中,若卷积层为二值化卷积层,所述第一特征提取操作包括:第一二值化特征提取操作以及预设维度变换操作;若卷积层为非二值化卷积层,所述第一特征提取操作包括预设卷积操作;每一非第一层卷积层对应的输入图像为:该非第一层卷积层的前一卷积层对应的输出图像,第一层卷积层对应的输入图像为:所述训练图像;

利用所述初始二值化分类模型的特征分类层以及最后一层卷积层对应的输出图像,确定该输出图像对应的训练图像所包含样本目标的预测检测信息,所述预测检测信息包括预测类别信息和/或预测位置信息;

利用所述训练图像所包含样本目标的预测检测信息以及所述训练图像所包含样本目标的标定检测信息,调整所述特征提取层以及所述特征分类层的参数,直至所述初始二值化分类模型满足预设收敛条件,确定出目标二值化分类模型;

在所述第一特征提取操作包括:第一二值化特征提取操作以及预设维度变换操作的情况下,所述针对初始二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的第一特征提取操作,对该卷积层对应的输入图像进行特征提取,得到该卷积层对应的输出图像的步骤,包括:针对初始二值化分类模型的特征提取层的每一卷积层,对该卷积层对应的输入图像进行二值化,得到二值化输入图像;

对该卷积层对应的浮点型参数进行二值化,得到二值化后的参数;

并利用二值化后的参数对所述二值化输入图像进行卷积操作以及归一化操作,得到第一特征图像;

对该卷积层对应的输入图像进行预设维度变换操作,得到第二特征图像,其中,所述第二特征图像对应的维度信息与所述第一特征图像对应的维度信息相同;

利用所述第一特征图像以及所述第二特征图像,确定该卷积层对应的输出图像。

2.如权利要求1所述的方法,其特征在于,所述第一特征提取操作还包括:图像幅度特征恢复操作;

所述利用二值化后的参数对所述二值化输入图像进行卷积操作以及归一化操作,得到第一特征图像的步骤之前,所述方法还包括:利用预设幅度特征计算方式,计算该卷积层对应的输入图像对应的幅度特征,得到第一幅度特征图像,其中,所述预设幅度特征计算方式包括:将该卷积层对应的输入图像中各维度所对应图像相同位置处的像素点的值的绝对值相加,再求平均值;

所述利用二值化后的参数对所述二值化输入图像进行卷积操作以及归一化操作,得到第一特征图像的步骤,包括:利用二值化后的卷积参数对所述二值化输入图像进行卷积操作,得到第三特征图;

利用所述第一幅度特征图像以及所述第三特征图,得到第四特征图;

利用该卷积层对应的归一化参数对所述第四特征图进行归一化操作,得到第一特征图像。

3.如权利要求1所述的方法,其特征在于,所述第一特征提取操作包括预设卷积操作的情况下;

所述针对初始二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的第一特征提取操作,对该卷积层对应的输入图像进行特征提取,得到该卷积层对应的输出图像的步骤,包括:针对初始二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的浮点型参数,对该卷积层对应的输入图像进行卷积操作以及归一化操作,得到该卷积层对应的输出图像。

4.如权利要求1‑3任一项所述的方法,其特征在于,所述利用所述训练图像所包含样本目标的预测检测信息以及所述训练图像所包含样本目标的标定检测信息,调整所述特征提取层以及所述特征分类层的参数,直至所述初始二值化分类模型满足预设收敛条件,确定出目标二值化分类模型的步骤,包括:利用所述训练图像所包含样本目标的预测检测信息以及所述训练图像所包含样本目标的标定检测信息,调整所述特征提取层以及所述特征分类层的参数,直至所述初始二值化分类模型满足预设收敛条件,得到包含浮点型参数的中间分类模型;

对所述中间分类模型所包含的浮点型参数进行二值化,得到包含二值化类型的参数的目标二值化分类模型。

5.如权利要求4所述的方法,其特征在于,所述方法还包括:

获得待处理图像;

针对所述目标二值化分类模型的特征提取层的每一卷积层,利用目标二值化分类模型的特征提取层的卷积层对应的第二特征提取操作,对该目标二值化分类模型的特征提取层的卷积层对应的待操作图像进行特征提取,得到该目标二值化分类模型的特征提取层的卷积层对应的结果图像;其中,若卷积层为二值化卷积层,所述第二特征提取操作包括:第二二值化特征提取操作以及预设维度变换操作;若卷积层为非二值化卷积层,所述第二特征提取操作包括预设卷积操作;每一非第一层卷积层对应的待操作图像为:非第一层卷积层的前一卷积层对应的结果图像,第一层卷积层对应的待操作图像为:所述待处理图像;

利用所述目标二值化分类模型的特征分类层以及最后一层卷积层对应的结果图像,确定所述待处理图像所包含待分类目标的检测结果信息。

6.如权利要求5所述的方法,其特征在于,所述第二特征提取操作包括:第二二值化特征提取操作以及预设维度变换操作的情况下;

所述针对所述目标二值化分类模型的特征提取层的每一卷积层,利用目标二值化分类模型的特征提取层的卷积层对应的第二特征提取操作,对该目标二值化分类模型的特征提取层的卷积层对应的待操作图像进行特征提取,得到该目标二值化分类模型的特征提取层的卷积层对应的结果图像的步骤包括:针对所述目标二值化分类模型的特征提取层的每一卷积层,对目标二值化分类模型的特征提取层的卷积层对应的待操作图像进行二值化,得到二值化待操作图像;

并利用该目标二值化分类模型的特征提取层的卷积层的二值化类型的参数,对所述二值化待操作图像进行卷积操作以及归一化操作,得到第五特征图像;

对该目标二值化分类模型的特征提取层的卷积层对应的待操作图像进行预设维度变换操作,得到第六特征图像,其中,所述第六特征图像对应的维度信息与所述第五特征图像对应的维度信息相同;

利用所述第五特征图像以及所述第六特征图像,确定该目标二值化分类模型的特征提取层的卷积层对应的结果图像。

7.如权利要求6所述的方法,其特征在于,所述第二特征提取操作还包括:图像幅度特征恢复操作;

所述利用该目标二值化分类模型的特征提取层的卷积层的二值化类型的参数,对所述二值化待操作图像进行卷积操作以及归一化操作,得到第五特征图像的步骤之前,所述方法还包括:利用预设幅度特征计算方式,计算该目标二值化分类模型的特征提取层的卷积层对应的待操作图像对应的幅度特征,得到第二幅度特征图像;

所述利用该目标二值化分类模型的特征提取层的卷积层的二值化类型的参数,对所述二值化待操作图像进行卷积操作以及归一化操作,得到第五特征图像的步骤,包括:利用该目标二值化分类模型的特征提取层的卷积层的二值化类型的卷积参数,对所述二值化待操作图像进行卷积操作,得到第七特征图;

利用所述第二幅度特征图像和所述第七特征图,得到第八特征图;

利用该目标二值化分类模型的特征提取层的卷积层的归一化参数,对所述第八特征图进行归一化操作,得到第五特征图像。

8.一种目标分类模型的训练装置,其特征在于,所述装置应用于车辆或服务器,所述装置包括:第一获得模块,被配置为获得训练图像以及每一训练图像对应的标定信息,其中,每一标定信息包括:所对应训练图像包含的样本目标的标定检测信息,所述标定检测信息包括标定类别信息和/或标定位置信息;

第一特征提取模块,被配置为针对初始二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的第一特征提取操作,对该卷积层对应的输入图像进行特征提取,得到该卷积层对应的输出图像;其中,若卷积层为二值化卷积层,所述第一特征提取操作包括:第一二值化特征提取操作以及预设维度变换操作;若卷积层为非二值化卷积层,所述第一特征提取操作包括预设卷积操作;每一非第一层卷积层对应的输入图像为:该非第一层卷积层的前一卷积层对应的输出图像,第一层卷积层对应的输入图像为:所述训练图像;

第一确定模块,被配置为利用所述初始二值化分类模型的特征分类层以及最后一层卷积层对应的输出图像,确定该输出图像对应的训练图像所包含样本目标的预测检测信息,所述预测检测信息包括预测类别信息和/或预测位置信息;

调整确定模块,被配置为利用所述训练图像所包含样本目标的预测检测信息以及所述训练图像所包含样本目标的标定检测信息,调整所述特征提取层以及所述特征分类层的参数,直至所述初始二值化分类模型满足预设收敛条件,确定出目标二值化分类模型;

在所述第一特征提取操作包括:第一二值化特征提取操作以及预设维度变换操作的情况下,所述第一特征提取模块,包括:第一二值化单元,被配置为针对初始二值化分类模型的特征提取层的每一卷积层,对该卷积层对应的输入图像进行二值化,得到二值化输入图像;

第二二值化单元,被配置为对该卷积层对应的浮点型参数进行二值化,得到二值化后的参数;

第一卷积归一化单元,被配置为并利用二值化后的参数对所述二值化输入图像进行卷积操作以及归一化操作,得到第一特征图像;

第一维度变换单元,被配置为对该卷积层对应的输入图像进行预设维度变换操作,得到第二特征图像,其中,所述第二特征图像对应的维度信息与所述第一特征图像对应的维度信息相同;

第一确定单元,被配置为利用所述第一特征图像以及所述第二特征图像,确定该卷积层对应的输出图像。

说明书 :

一种目标分类模型的训练方法及装置

技术领域

[0001] 本发明涉及数据处理技术领域,具体而言,涉及一种目标分类模型的训练方法及装置。

背景技术

[0002] 目前大多数的视觉应用场景,都采用基于卷积神经网络(Convolutional Neural Network)模型的检测识别方案,对针对目标场景所采集的图像进行相关的检测识别。例如:在线的图像分类及识别以及图像所包含目标的识别及检测等应用场景。
[0003] 基于卷积神经网络的检测识别方案,相对于图像检测识别方案而言,具有精度高,泛化能力强等优点。但基于卷积神经网络的检测识别方案中,卷积神经网络内部一般都采用浮点型参数进行相关运算,导致其运算需求高,例如:其计算量大,对硬件要求高且对存储要求高。这导致基于卷积神经网络的检测识别方案的普及和使用都受到了限制。

发明内容

[0004] 本发明提供了一种目标分类模型的训练方法及装置,以实现得到识别检测精度高且计算量小的目标分类模型。具体的技术方案如下:
[0005] 第一方面,本发明实施例提供了一种目标分类模型的训练方法,包括:
[0006] 获得训练图像以及每一训练图像对应的标定信息,其中,每一标定信息包括:所对应训练图像包含的样本目标的标定检测信息;
[0007] 针对初始二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的第一特征提取操作,对该卷积层对应的输入图像进行特征提取,得到该卷积层对应的输出图像;其中,若卷积层为二值化卷积层,所述第一特征提取操作包括:第一二值化特征提取操作以及预设维度变换操作;若卷积层为非二值化卷积层,所述第一特征提取操作包括预设卷积操作;每一非第一层卷积层对应的输入图像为:该非第一层卷积层的前一卷积层对应的输出图像,第一层卷积层对应的输入图像为:所述训练图像;
[0008] 利用所述初始二值化分类模型的特征分类层以及最后一层卷积层对应的输出图像,确定该输出图像对应的训练图像所包含样本目标的预测检测信息;
[0009] 利用所述训练图像所包含样本目标的预测检测信息以及所述训练图像所包含样本目标的标定检测信息,调整所述特征提取层以及所述特征分类层的参数,直至所述初始二值化分类模型满足预设收敛条件,确定出目标二值化分类模型。
[0010] 可选的,所述第一特征提取操作包括:第一二值化特征提取操作以及预设维度变换操作的情况下;
[0011] 所述针对初始二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的第一二值化特征提取操作,对该卷积层对应的输入图像进行特征提取,得到该卷积层对应的输出图像的步骤,包括:
[0012] 针对初始二值化分类模型的特征提取层的每一卷积层,对该卷积层对应的输入图像进行二值化,得到二值化输入图像;
[0013] 对该卷积层对应的浮点型参数进行二值化,得到二值化后的参数;
[0014] 并利用二值化后的参数对所述二值化输入图像进行卷积操作以及归一化操作,得到第一特征图像;
[0015] 对该卷积层对应的输入图像进行预设维度变换操作,得到第二特征图像,其中,所述第二特征图像对应的维度信息与所述第一特征图像对应的维度信息相同;
[0016] 利用所述第一特征图像以及所述第二特征图像,确定该卷积层对应的输出图像。
[0017] 可选的,所述第一特征提取操作还包括:图像幅度特征恢复操作;
[0018] 所述利用二值化后的参数对所述二值化输入图像进行卷积操作以及归一化操作,得到第一特征图像的步骤之前,所述方法还包括:
[0019] 利用预设幅度特征计算方式,计算该卷积层对应的输入图像对应的幅度特征,得到第一幅度特征图像,其中,所述预设幅度特征计算方式包括:将该卷积层对应的输入图像中各维度所对应图像相同位置处的像素点的值的绝对值相加,再求平均值;
[0020] 所述利用二值化后的参数对所述二值化输入图像进行卷积操作以及归一化操作,得到第一特征图像的步骤,包括:
[0021] 利用二值化后的卷积参数对所述二值化输入图像进行卷积操作,得到第三特征图;
[0022] 利用所述第一幅度特征图像以及所述第三特征图,得到第四特征图;
[0023] 利用该卷积层对应的归一化参数对所述第四特征图进行归一化操作,得到第一特征图像。
[0024] 可选的,所述第一特征提取操作包括预设卷积操作的情况下;
[0025] 所述针对初始二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的第一二值化特征提取操作,对该卷积层对应的输入图像进行特征提取,得到该卷积层对应的输出图像的步骤,包括:
[0026] 针对初始二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的浮点型参数,对该卷积层对应的输入图像进行卷积操作以及归一化操作,得到该卷积层对应的输出图像。
[0027] 可选的,所述标定检测信息包括:标定类别信息和/或标定位置信息。
[0028] 可选的,所述利用所述训练图像所包含样本目标的预测检测信息以及所述训练图像所包含样本目标的标定检测信息,调整所述特征提取层以及所述特征分类层的参数,直至所述初始二值化分类模型满足预设收敛条件,确定出目标二值化分类模型的步骤,包括:
[0029] 利用所述训练图像所包含样本目标的预测检测信息以及所述训练图像所包含样本目标的标定检测信息,调整所述特征提取层以及所述特征分类层的参数,直至所述初始二值化分类模型满足预设收敛条件,得到包含浮点型参数的中间分类模型;
[0030] 对所述中间分类模型所包含的浮点型参数进行二值化,得到包含二值化类型的参数的目标二值化分类模型。
[0031] 可选的,所述方法还包括:
[0032] 获得待处理图像;
[0033] 针对所述目标二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的第二特征提取操作,对该卷积层对应的待操作图像进行特征提取,得到该卷积层对应的结果图像;其中,若卷积层为二值化卷积层,所述第二特征提取操作包括:第二二值化特征提取操作以及预设维度变换操作;若卷积层为非二值化卷积层,所述第二特征提取操作包括预设卷积操作;每一非第一层卷积层对应的待操作图像为:该非第一层卷积层的前一卷积层对应的结果图像,第一层卷积层对应的待操作图像为:所述待处理图像;
[0034] 利用所述目标二值化分类模型的特征分类层以及最后一层卷积层对应的结果图像,确定所述待处理图像所包含待分类目标的检测结果信息。
[0035] 可选的,所述第二特征提取操作包括:第二二值化特征提取操作以及预设维度变换操作的情况下;
[0036] 所述针对所述目标二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的第二二值化特征提取操作,对该卷积层对应的待操作图像进行特征提取,得到该卷积层对应的结果图像的步骤包括:
[0037] 针对所述目标二值化分类模型的特征提取层的每一卷积层,对该卷积层对应的待操作图像进行二值化,得到二值化待操作图像;
[0038] 并利用该卷积层的二值化类型的参数,对所述二值化待操作图像进行卷积操作以及归一化操作,得到第五特征图像;
[0039] 对该卷积层对应的待操作图像进行预设维度变换操作,得到第六特征图像,其中,所述第六特征图像对应的维度信息与所述第五特征图像对应的维度信息相同;
[0040] 利用所述第五特征图像以及所述第六特征图像,确定该卷积层对应的结果图像。
[0041] 可选的,所述第二特征提取操作还包括:图像幅度特征恢复操作;
[0042] 所述利用该卷积层的二值化类型的参数,对所述二值化待操作图像进行卷积操作以及归一化操作,得到第五特征图像的步骤之前,所述方法还包括:
[0043] 利用预设幅度特征计算方式,计算该卷积层对应的待操作图像对应的幅度特征,得到第二幅度特征图像;
[0044] 所述利用该卷积层的二值化类型的参数,对所述二值化待操作图像进行卷积操作以及归一化操作,得到第五特征图像的步骤,包括:
[0045] 利用该卷积层的二值化类型的卷积参数,对所述二值化待操作图像进行卷积操作,得到第七特征图;
[0046] 利用所述第二幅度特征图像和所述第七特征图,得到第八特征图;
[0047] 利用该卷积层的归一化参数,对所述第八特征图进行归一化操作,得到第五特征图像。
[0048] 第二方面,本发明实施例提供了一种目标分类模型的训练装置,所述装置包括:
[0049] 第一获得模块,被配置为获得训练图像以及每一训练图像对应的标定信息,其中,每一标定信息包括:所对应训练图像包含的样本目标的标定检测信息;
[0050] 第一特征提取模块,被配置为针对初始二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的第一特征提取操作,对该卷积层对应的输入图像进行特征提取,得到该卷积层对应的输出图像;其中,若卷积层为二值化卷积层,所述第一特征提取操作包括:第一二值化特征提取操作以及预设维度变换操作;若卷积层为非二值化卷积层,所述第一特征提取操作包括预设卷积操作;每一非第一层卷积层对应的输入图像为:该非第一层卷积层的前一卷积层对应的输出图像,第一层卷积层对应的输入图像为:所述训练图像;
[0051] 第一确定模块,被配置为利用所述初始二值化分类模型的特征分类层以及最后一层卷积层对应的输出图像,确定该输出图像对应的训练图像所包含样本目标的预测检测信息;
[0052] 调整确定模块,被配置为利用所述训练图像所包含样本目标的预测检测信息以及所述训练图像所包含样本目标的标定检测信息,调整所述特征提取层以及所述特征分类层的参数,直至所述初始二值化分类模型满足预设收敛条件,确定出目标二值化分类模型。
[0053] 可选的,所述第一特征提取操作包括:第一二值化特征提取操作以及预设维度变换操作的情况下;
[0054] 所述第一特征提取模块,包括:
[0055] 第一二值化单元,被配置为针对初始二值化分类模型的特征提取层的每一卷积层,对该卷积层对应的输入图像进行二值化,得到二值化输入图像;
[0056] 第二二值化单元,被配置为对该卷积层对应的浮点型参数进行二值化,得到二值化后的参数;
[0057] 第一卷积归一化单元,被配置为并利用二值化后的参数对所述二值化输入图像进行卷积操作以及归一化操作,得到第一特征图像;
[0058] 第一维度变换单元,被配置为对该卷积层对应的输入图像进行预设维度变换操作,得到第二特征图像,其中,所述第二特征图像对应的维度信息与所述第一特征图像对应的维度信息相同;
[0059] 第一确定单元,被配置为利用所述第一特征图像以及所述第二特征图像,确定该卷积层对应的输出图像。
[0060] 可选的,所述第一特征提取操作还包括:图像幅度特征恢复操作;
[0061] 所述第一特征提取模块还包括:
[0062] 第一幅度特征计算单元,被配置为所述利用二值化后的参数对所述二值化输入图像进行卷积操作以及归一化操作,得到第一特征图像之前,利用预设幅度特征计算方式,计算该卷积层对应的输入图像对应的幅度特征,得到第一幅度特征图像,其中,所述预设幅度特征计算方式包括:将该卷积层对应的输入图像中各维度所对应图像相同位置处的像素点的值的绝对值相加,再求平均值;
[0063] 所述第一卷积归一化单元,被具体配置为利用二值化后的卷积参数对所述二值化输入图像进行卷积操作,得到第三特征图;
[0064] 利用所述第一幅度特征图像以及所述第三特征图,得到第四特征图;
[0065] 利用该卷积层对应的归一化参数对所述第四特征图进行归一化操作,得到第一特征图像。
[0066] 可选的,所述第一特征提取操作包括预设卷积操作的情况下;
[0067] 所述第一特征提取模块,被具体配置为针对初始二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的浮点型参数,对该卷积层对应的输入图像进行卷积操作以及归一化操作,得到该卷积层对应的输出图像。
[0068] 可选的,所述标定检测信息包括:标定类别信息和/或标定位置信息。
[0069] 可选的,所述调整确定模块,被具体配置为利用所述训练图像所包含样本目标的预测检测信息以及所述训练图像所包含样本目标的标定检测信息,调整所述特征提取层以及所述特征分类层的参数,直至所述初始二值化分类模型满足预设收敛条件,得到包含浮点型参数的中间分类模型;
[0070] 对所述中间分类模型所包含的浮点型参数进行二值化,得到包含二值化类型的参数的目标二值化分类模型。
[0071] 可选的,所述装置还包括:
[0072] 第二获得模块,被配置为获得待处理图像;
[0073] 第二特征提取模块,被配置为针对所述目标二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的第二特征提取操作,对该卷积层对应的待操作图像进行特征提取,得到该卷积层对应的结果图像;其中,若卷积层为二值化卷积层,所述第二特征提取操作包括:第二二值化特征提取操作以及预设维度变换操作;若卷积层为非二值化卷积层,所述第二特征提取操作包括预设卷积操作;每一非第一层卷积层对应的待操作图像为:该非第一层卷积层的前一卷积层对应的结果图像,第一层卷积层对应的待操作图像为:所述待处理图像;
[0074] 第二确定模块,被配置为利用所述目标二值化分类模型的特征分类层以及最后一层卷积层对应的结果图像,确定所述待处理图像所包含待分类目标的检测结果信息。
[0075] 可选的,所述第二特征提取操作包括:第二二值化特征提取操作以及预设维度变换操作的情况下;
[0076] 所述第二特征提取模块,包括:
[0077] 第三二值化单元,被配置为针对所述目标二值化分类模型的特征提取层的每一卷积层,对该卷积层对应的待操作图像进行二值化,得到二值化待操作图像;
[0078] 第二卷积归一化单元,被配置为并利用该卷积层的二值化类型的参数,对所述二值化待操作图像进行卷积操作以及归一化操作,得到第五特征图像;
[0079] 第二维度变换单元,被配置为对该卷积层对应的待操作图像进行预设维度变换操作,得到第六特征图像,其中,所述第六特征图像对应的维度信息与所述第五特征图像对应的维度信息相同;
[0080] 第二确定单元,被配置为利用所述第五特征图像以及所述第六特征图像,确定该卷积层对应的结果图像。
[0081] 可选的,所述第二特征提取操作还包括:图像幅度特征恢复操作;
[0082] 所述第二特征提取模块还包括:
[0083] 第二幅度特征计算单元,被配置为所述利用该卷积层的二值化类型的参数,对所述二值化待操作图像进行卷积操作以及归一化操作,得到第五特征图像之前,利用预设幅度特征计算方式,计算该卷积层对应的待操作图像对应的幅度特征,得到第二幅度特征图像;
[0084] 所述第二卷积归一化单元,被具体配置为利用该卷积层的二值化类型的卷积参数,对所述二值化待操作图像进行卷积操作,得到第七特征图;
[0085] 利用所述第二幅度特征图像和所述第七特征图,得到第八特征图;
[0086] 利用该卷积层的归一化参数,对所述第八特征图进行归一化操作,得到第五特征图像。
[0087] 由上述内容可知,本发明实施例提供的一种目标分类模型的训练方法及装置,可以获得训练图像以及每一训练图像对应的标定信息,其中,每一标定信息包括:所对应训练图像包含的样本目标的标定检测信息;针对初始二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的第一二值化特征提取操作,对该卷积层对应的输入图像进行特征提取,得到该卷积层对应的输出图像;其中,若卷积层为二值化卷积层,第一二值化特征提取操作包括:第一二值化特征提取操作以及预设维度变换操作;若卷积层为非二值化卷积层,第一二值化特征提取操作包括预设卷积操作;每一非第一层卷积层对应的输入图像为:该非第一层卷积层的前一卷积层对应的输出图像,第一层卷积层对应的输入图像为:训练图像;利用初始二值化分类模型的特征分类层以及最后一层卷积层对应的输出图像,确定该输出图像对应的训练图像所包含样本目标的预测检测信息;利用训练图像所包含样本目标的预测检测信息以及训练图像所包含样本目标的标定检测信息,调整特征提取层以及特征分类层的参数,直至初始二值化分类模型满足预设收敛条件,确定出目标二值化分类模型。
[0088] 应用本发明实施例,可以在获得训练图像及其对应的标定信息之后,利用初始二值化分类模型的特征提取层的每一卷积层对应的第一二值化特征提取操作,提取出该卷积层对应的输入图像的图像特征,其中,特征提取层的卷积层包括二值化卷积层,二值化卷积层对应第一二值化特征提取操作以及预设维度变换操作,通过二值化卷积层对应的第一二值化特征提取操作以及预设维度变换操作,可以在减少初始二值化分类模型的训练过程中的计算量,并且,预设维度变换操作,可以保证任何类型的初始二值化分类模型在训练过程中,均可以达到收敛,为提高训练所得的目标二值化分类模型的模型检测精度,以及减少了目标二值化分类模型的存储需求提供基础,即实现得到识别检测精度高且计算量小的目标二值化分类模型。当然,实施本发明的任一产品或方法并不一定需要同时达到以上所述的所有优点。
[0089] 本发明实施例的创新点包括:
[0090] 1、可以在获得训练图像及其对应的标定信息之后,利用初始二值化分类模型的特征提取层的每一卷积层对应的第一二值化特征提取操作,提取出该卷积层对应的输入图像的图像特征,其中,特征提取层的卷积层包括二值化卷积层,二值化卷积层对应第一二值化特征提取操作以及预设维度变换操作,通过二值化卷积层对应的第一二值化特征提取操作以及预设维度变换操作,可以在减少初始二值化分类模型的训练过程中的计算量,并且,预设维度变换操作,可以保证任何类型的初始二值化分类模型在训练过程中,均可以达到收敛,为提高训练所得的目标二值化分类模型的模型检测精度,以及减少了目标二值化分类模型的存储需求提供基础,即实现得到识别检测精度高且计算量小的目标二值化分类模型。
[0091] 2、针对初始二值化分类模型的特征提取层的每一卷积层,若卷积层为二值化卷积层,首先对该卷积层对应的输入图像进行二值化,得到二值化输入图像,对卷积层对应的浮点型参数进行二值化,得到二值化后的参数;利用二值化后的参数对二值化输入图像进行卷积操作以及归一化操作,得到第一特征图像;对该卷积层对应的输入图像进行预设维度变换操作,即保留该卷积层对应的输入图像的特征信息,仅相应调整该卷积层对应的输入图像对应的维度,得到与第一特征图像具有相同维度信息的第二特征图像;进而基于第一特征图像和第二特征图像确定出该卷积层对应的输出图像,使得该卷积层对应的输出图像保留有该卷积层对应的输入图像的特征信息,保证初始二值化分类模型的收敛以及为提高训练所得的目标二值化分类模型的模型检测精度提供基础。
[0092] 3、针对初始二值化分类模型的特征提取层的每一卷积层,若卷积层为二值化卷积层,其对应的第一二值化特征提取操作还包括:图像幅度特征恢复操作,利用预设幅度特征计算方式,计算该卷积层对应的输入图像对应的幅度特征,得到第一幅度特征图像,该第一幅度特征图像中保留有该卷积层对应的输入图像的幅度特征,后续的与利用二值化后的卷积参数对二值化输入图像进行卷积操作,所得到的第三特征图,共同确定出包含该卷积层对应的输入图像的幅度特征的第四特征图,进而保证后续得到的第一特征图像包含该卷积层对应的输入图像的幅度特征,为提高训练所得的目标二值化分类模型的模型检测精度提供基础。
[0093] 4、初始二值化分类模型满足预设收敛条件后,得到包含浮点型参数的中间分类模型,进而对中间分类模型所包含的浮点型参数进行二值化,得到包含二值化类型的参数的目标二值化分类模型,以降低目标二值化分类模型后续的检测过程的计算量并减少其存储所需空间量。
[0094] 5、在实际检测过程中,通过目标二值化分类模型的特征提取层的每一二值化卷积层的第二二值化特征提取操作以及预设维度变换操作,保证二值化特征提取过程中,每一二值化卷积层对应的结果图像,可以保留该二值化卷积层对应的待操作图像的特征信息,在检测过程的计算量的同时,保证检测结果的准确性。
[0095] 6、在实际检测过程中,通过目标二值化分类模型的特征提取层的每一二值化卷积层的第二二值化特征提取操作、预设维度变换操作以及图像幅度特征恢复操作,保证二值化特征提取过程中,每一二值化卷积层对应的结果图像,可以保留该二值化卷积层对应的待操作图像的特征信息,并可以保留其幅度特征,在检测过程的计算量的同时,在一定程度上提高检测结果的准确性。

附图说明

[0096] 为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单介绍。显而易见地,下面描述中的附图仅仅是本发明的一些实施例。对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0097] 图1为本发明实施例提供的目标分类模型的训练方法的一种流程示意图;
[0098] 图2为本发明实施例提供的二值化卷积层的特征提取过程的一种流程示意图;
[0099] 图3为本发明实施例提供的二值化卷积层的特征提取过程的另一种流程示意图;
[0100] 图4A为本发明实施例提供的二值化卷积层的特征提取过程的数据流向一种示意图;
[0101] 图4B为本发明实施例提供的二值化卷积层的特征提取过程的数据流向另一示意图;
[0102] 图5为本发明实施例提供的目标分类模型的训练装置的一种结构示意图。

具体实施方式

[0103] 下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整的描述。显然,所描述的实施例仅仅是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有付出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
[0104] 需要说明的是,本发明实施例及附图中的术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。例如包含的一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。
[0105] 本发明提供了一种目标分类模型的训练方法及装置,以实现得到识别检测精度高且计算量小的目标分类模型。下面对本发明实施例进行详细说明。
[0106] 图1为本发明实施例提供的目标分类模型的训练方法的一种流程示意图。该方法可以包括以下步骤:
[0107] S101:获得训练图像以及每一训练图像对应的标定信息。
[0108] 其中,每一标定信息包括:所对应训练图像包含的样本目标的标定检测信息。
[0109] 本发明实施例中,该方法可以应用于任一类型的具有计算能力的电子设备,该电子设备可以为服务器或者终端设备。该电子设备可以设置于车辆内,为车载设备,也可以未设置于车辆内,为非车载设备,这都是可以的。
[0110] 本步骤中,电子设备可以获得多张训练图像及每一训练图像对应的标定信息,每一训练图像可以包括样本目标,每一标定信息可以包括:所对应训练图像包含的样本目标的标定检测信息。
[0111] 在一种实现方式中,该标定检测信息可以包括但不限于:样本目标的标定类别信息,和/或样本目标的标定位置信息。其中,该标定检测信息中至少包括样本目标的标定类别信息。
[0112] 该样本目标包括但不限于:人员、机动车辆、自行车、三轮车、树木以及建筑物等等。本发明实施例并不对样本目标的具体类别进行限定。包含样本目标的训练图像的选取,可以根据实际的识别检测需求进行选取。
[0113] S102:针对初始二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的第一二值化特征提取操作,对该卷积层对应的输入图像进行特征提取,得到该卷积层对应的输出图像。
[0114] 其中,若卷积层为二值化卷积层,第一二值化特征提取操作包括:第一二值化特征提取操作以及预设维度变换操作;若卷积层为非二值化卷积层,第一二值化特征提取操作包括预设卷积操作;每一非第一层卷积层对应的输入图像为:该非第一层卷积层的前一卷积层对应的输出图像,第一层卷积层对应的输入图像为:训练图像
[0115] 电子设备获得训练图像及其对应的标定信息之后,可以将训练图像及其对应的标定信息输入初始二值化分类模型。首先,利用初始二值化分类模型的特征提取层的第一层卷积层对应的第一特征提取操作,对所输入的训练图像进行特征提取,得到包含从训练图像中所提取特征的特征图,作为第一层卷积层对应的输出图像;将第一层卷积层对应的输出图像,作为特征提取层的第二层卷积层对应的输入图像,利用第二层卷积层对应的第一特征提取操作,对第二层卷积层对应的输入图像进行特征提取,得到第二层卷积层对应的输出图像;将第二层卷积层对应的输出图像,作为特征提取层的第三层卷积层对应的输入图像,依次类推,直至得到特征提取层的倒数第二层卷积层对应的输出图像,作为特征提取层的倒数第一层卷积层,即最后一层卷积层对应的输入图像,利用最后一层卷积层对应的第一特征提取操作,对最后一层卷积层对应的输入图像进行特征提取,得到最后一层卷积层对应的输出图像。
[0116] 其中,特征提取层的多个卷积层包括二值化卷积层以及非二值化卷积层,即普通卷积层。若卷积层为二值化卷积层,该卷积层对应的第一特征提取操作包括:第一二值化特征提取操作以及预设维度变换操作。
[0117] 第一二值化特征提取操作为:对该卷积层对应的输入图像以及该卷积层的参数均进行二值化后,再基于二值化后的卷积层的参数对进行二值化后的该卷积层对应的输入图像,进行卷积操作以及批量归一化操作,得到该卷积层对应的卷积特征图像的操作。
[0118] 该预设维度变换操作为:根据基于二值化后的卷积层的参数对进行二值化后的该卷积层对应的输入图像,进行卷积操作以及批量归一化操作,后所得的图像,即该卷积层对应的卷积特征图像的维度信息,调整该卷积层对应的输入图像,以得到与该卷积层对应的卷积特征图像的维度信息相同的特征图像的操作。其中,上述维度信息相同可以指:维度的数量相同且每一维度相同,例如:该卷积层对应的卷积特征图像包含100维图像,即100帧图像,则将该卷积层对应的输入图像调整成100维图像,即100帧相应维度的图像。
[0119] 对卷积层对应的输入图像进行二值化的过程可以采用二值化函数,例如:符号函数(Sign Function)。对卷积层对应的参数进行二值化的过程也可以采用二值化函数,例如:符号函数(Sign Function)。
[0120] 实现该预设维度变换操作的相应的功能程序可以以插件的形式设置于原始的二值化分类模型内。该插件可以称为Elastic‑Link。原始的二值化分类模型为添加相应的二值化函数的神经网络模型。该添加相应的二值化函数的神经网络模型可以为:任一类型的神经网络,例如可以为:ResNet系列神经网络,例如:ResNet18,ResNet50,MobileNetV1等神经网络。
[0121] 本发明实施例中,结合该插件即预设维度变换操作,可以解决深度可分离卷积类的神经网络模型的二值化,保证二值化的深度可分离卷积类的神经网络模型在训练过程中,可以实现模型的收敛,得到检测结果精度高的二值化的深度可分离卷积类的神经网络模型。也可以保证二值化的特征频道维度变化的卷积类的神经网络模型在训练过程中,可以实现模型的收敛,得到检测结果精度高的二值化的特征频道维度变化的卷积类的神经网络模型。
[0122] 若卷积层为非二值化卷积层,该卷积层对应的第一特征提取操作包括:预设卷积操作,该预设卷积操作为:利用该卷积层对应的浮点型参数对该卷积层对应的输入图像进行卷积操作以及批量归一化操作的操作。
[0123] S103:利用初始二值化分类模型的特征分类层以及最后一层卷积层对应的输出图像,确定该输出图像对应的训练图像所包含样本目标的预测检测信息。
[0124] S104:利用训练图像所包含样本目标的预测检测信息以及训练图像所包含样本目标的标定检测信息,调整特征提取层以及特征分类层的参数,直至初始二值化分类模型满足预设收敛条件,确定出目标二值化分类模型。
[0125] 电子设备利用特征提取层的最后一层卷积层对应的第一特征提取操作,对最后一层卷积层对应的输入图像进行特征提取,得到最后一层卷积层对应的输出图像,电子设备将最后一层卷积层对应的输出图像输入初始二值化分类模型的特征分类层,利用初始二值化分类模型的特征分类层以及最后一层卷积层对应的输出图像,确定出该输出图像对应的训练图像所包含样本目标的预测检测信息,预测检测信息包括但不限于样本目标的预测类别信息和/或预测位置信息。进而,对比训练图像所包含样本目标的预测检测信息以及训练图像所包含样本目标的标定检测信息,即利用训练图像所包含样本目标的预测检测信息以及训练图像所包含样本目标的标定检测信息,和预设优化函数,确定特征提取层的参数和特征分类层的参数的更新值,并调整特征提取层的参数的和特征分类层的参数的当前值,至所确定的特征提取层的参数和特征分类层的参数的更新值;直至初始二值化分类模型满足预设收敛条件,确定出目标二值化分类模型。
[0126] 其中,上述预设优化函数可以是相关技术中任意类型的模型参数的优化函数,本发明实施例并不作限定。
[0127] 其中,上述初始二值化分类模型满足预设收敛条件可以为:基于调整参数后所得的二值化分类模型对验证集中的每一图像进行识别检测,所得到的验证集中的每一图像对应的预测检测信息,与该验证集中的每一图像对应的标定检测信息一致的占比,超过预设比例阈值;或者,可以为:基于调整参数后所得的二值化分类模型对验证集中的每一图像进行识别检测,所得到的验证集中的每一图像对应的预测检测信息,与该验证集中的每一图像对应的标定检测信息一致的结果数量超过预设数量阈值;或者,可以为:迭代调整初始二值化分类模型的特征提取层以及特征分类层的参数的次数超过预设次数等。
[0128] 应用本发明实施例,可以在获得训练图像及其对应的标定信息之后,利用初始二值化分类模型的特征提取层的每一卷积层对应的第一二值化特征提取操作,提取出该卷积层对应的输入图像的图像特征,其中,特征提取层的卷积层包括二值化卷积层,二值化卷积层对应第一二值化特征提取操作以及预设维度变换操作,通过二值化卷积层对应的第一二值化特征提取操作以及预设维度变换操作,可以在减少初始二值化分类模型的训练过程中的计算量,并且,预设维度变换操作,可以保证任何类型的初始二值化分类模型在训练过程中,均可以达到收敛,为提高训练所得的目标二值化分类模型的模型检测精度,以及减少了目标二值化分类模型的存储需求提供基础,即实现得到识别检测精度高且计算量小的目标二值化分类模型。
[0129] 本发明实施例所提供的整个初始二值化分类模型的训练和优化的过程,未增加复杂度,并未增加模型生产过程的时间。
[0130] 并且通过本发明实施例,可以大幅度提升基于ResNet系列的神经网络模型在实施二值化之后的识别检测精度,使得相应的神经网络模型能够实际用于识别检测,如分类的视觉场景中。
[0131] 在本发明的另一实施例中,该第一特征提取操作包括:第一二值化特征提取操作以及预设维度变换操作的情况下;
[0132] 如图2所示,所述S102,可以包括如下步骤S201‑S205:
[0133] S201:针对初始二值化分类模型的特征提取层的每一卷积层,对该卷积层对应的输入图像进行二值化,得到二值化输入图像。
[0134] S202:对该卷积层对应的浮点型参数进行二值化,得到二值化后的参数。
[0135] S203:利用二值化后的参数对二值化输入图像进行卷积操作以及归一化操作,得到第一特征图像。
[0136] S204:对该卷积层对应的输入图像进行预设维度变换操作,得到第二特征图像。
[0137] 其中,第二特征图像对应的维度信息与第一特征图像对应的维度信息相同;
[0138] S205:利用第一特征图像以及第二特征图像,确定该卷积层对应的输出图像。
[0139] 本实施例中,若卷积层为二值化卷积层,该二值化卷积层对应的第一特征提取操作包括:第一二值化特征提取操作以及预设维度变换操作;相应的,电子设备针对该卷积层,首先利用预先设置的二值化函数,对该卷积层对应的输入图像进行二值化,得到二值化输入图像;利用预先设置的二值化函数,对该卷积层对应的浮点型参数进行二值化,得到二值化后的参数。
[0140] 其中,该卷积层对应的浮点型参数包括:该卷积层对应的用于卷积操作的卷积参数以及用于批量归一化操作的归一化参数,上述对该卷积层对应的浮点型参数进行二值化可以是对该卷积层对应的用于卷积操作的卷积参数进行二值化,相应的,二值化后的参数包括批量归一化参数和二值化后的卷积参数。
[0141] 利用二值化后的卷积参数对二值化输入图像进行卷积操作,进而,利用批量归一化参数对进行卷积操作后所得的图像,进行批量归一化操作,得到第一特征图像;其中,上述二值化函数可以为符号函数。对卷积操作后所得的图像,进行批量归一化操作所使用的函数可以为BN(BatchNorm)函数,其为卷积神经网络模型中常用的批次归一化操作函数。该卷积操作所采用卷积函数可以是任一类型的卷积函数,例如:特征频道维度变换的卷积函数、深度可分离卷积函数或者非深度可分离卷积的普通卷积函数。
[0142] 并且,对该卷积层对应的输入图像进行预设维度变换操作,即基于该卷积层对应的输入图像与第一特征图像之间的维度变化比例,调整该卷积层对应的输入图像,得到第二特征图像,其中,第二特征图像对应的维度信息与第一特征图像对应的维度信息相同,其中,第二特征图像对应的维度信息与第一特征图像对应的维度信息相同可以指:第二特征图像对应的维度信息与第一特征图像对应的维度信息的数量相同且:第二特征图像对应的每一维度信息与第一特征图像对应的维度信息相同。
[0143] 其中,对卷积层对应的输入图像进行预设维度变换操作时,若卷积层对应的输入图像的维度信息数量多于该卷积层对应的第一特征图像的维度信息数量,则需要调少卷积层对应的输入图像的维度信息数量,相应的,可以称为需要进行Squeeze操作,使用Squeeze函数表示,该Squeeze函数可以表示为:Sr=sum/γ,其中,Sr表示该卷积层对应的输入图像通过Squeeze操作之后,获得的第二特征图图像,sum表示通过对卷积层对应的输入图图像进行求和获得的中间状态的特征图像,以得到第二特征图图像,γ表示该卷积层对应的输入图像与第一特征图像之间的维度变化比例,该γ可以为预设值也可以是随着模型训练所得,该γ的初始值,可以基于卷积层对应的输入图像的维度信息数量与输出图像的维度信息数量进行设定,例如:卷积层对应的输入图像的维度信息数量为100,卷积层对应的输出图像的维度信息数量为25,该γ的初始值可以取为4,相应的,可以将卷积层对应的输入图像种的100帧图像划分为每四帧图像为一组,针对每一组图像中的四帧图像,将四帧图像中相同位置处的像素点的值之和,作为该组图像对应的进行Squeeze操作之后所得的特征图像,共得到25帧进行Squeeze操作之后所得的特征图像,即为该卷积层对应的第二特征图像。
[0144] 若卷积层对应的输入图像的维度信息数量少于该卷积层对应的第一特征图像的维度信息数量,则需要调多卷积层对应的输入图像的维度信息数量,相应的,可以称为需要进行Expand操作,使用Expand函数,该Expand函数可以表示为:Er=repeat/γ,其中,Er表示该卷积层对应的输入图像通过expand操作之后,获得的第二特征图图像,repeat表示通过对卷积层对应的输入图像进行复制拼接操作获得的中间状态的特征图像,γ表示该卷积层对应的输入图像与第一特征图像之间的维度变化比例,即该卷积层对应的输入图像与该卷积层对应的输出图像之间的维度变化比例,该γ可以为预设值也可以是随着模型训练所得,该γ的初始值,可以基于卷积层对应的输入图像的维度信息数量与输出图像的维度信息数量进行设定,例如:卷积层对应的输入图像的维度信息数量为25,卷积层对应的输出图像的维度信息数量为100,该γ的初始值可以取为1/4;相应的,可以将卷积层对应的输入图像中的25帧图像中的每一帧图像拆分成4帧图像,以得到维度信息数量为100的该卷积层对应的第二特征图像;其中将每一帧图像拆分成4帧图像的过程可以是:将该帧图像中每一位置处的像素点的值除以4,所得数值作为该帧图像拆分成的4帧图像中每一拆分成的图像中该位置处的像素点的值。
[0145] 若卷积层对应的输入图像的维度信息数量等于该卷积层对应的第一特征图像的维度信息数量,则可以不调整卷积层对应的输入图像,直接将该卷积层对应的输入图像确定为第二特征图像。
[0146] 该卷积层对应的输入图像经过Squeeze操作或Expand操作后,所得的第二特征图像的每一位置处的像素点的值的和,与该卷积层对应的输入图像的相同位置处的像素点的值的和相等。
[0147] 利用第一特征图像以及第二特征图像,确定该卷积层对应的输出图像。即:将各维度信息对应的第一特征图像及第二特征图像进行叠加,以得到包含各维度信息对应的图像的该卷积层对应的输出图像。维度信息对应的第一特征图像及第二特征图像进行叠加可以指:维度信息对应的第一特征图像及第二特征图像的相同位置处的像素点的值相加。一种情况中,可以通过逐点加和函数EltSum函数实现。
[0148] 如图4A所示,为一种二值化卷积层的特征提取过程的数据流向示意图,该卷积层对应的输入图像Xr,通过二值化函数如符号函数进行二值化,如图4A中所示的“Sign”,得到该卷积层对应的二值化输入图像Xb,利用符号函数对该卷积层对应的参数进行二值化,并利用二值化后的卷积参数对二值化输入图像Xb,进行卷积操作,得到卷积操作后的输入图像Yr,Yr该过程如图4A所示的“BinConv”;利用该卷积层对应的批量归一化参数,对卷积操作后的输入图像Yr,进行批量归一化操作,得到第一特征图像 如图4A中所示的“BN”;对该卷积层对应的输入图像Xr进行预设维度变换操作,若需要变多该卷积层对应的输入图像的维度信息的数量,则选择Expand函数,若需要变少该卷积层对应的输入图像的维度信息的数量,则选择Squeeze函数,得到第二特征图像;利用EltSum函数叠加第一特征函数和第二特征函数,得到该卷积层对应的输出图像。
[0149] 在本发明的另一实施例中,该第一特征提取操作包括:第一二值化特征提取操作、预设维度变换操作以及的图像幅度特征恢复操作情况下;
[0150] 如图3所示,所述S102,可以包括如下步骤S301‑S308:
[0151] S301:针对初始二值化分类模型的特征提取层的每一卷积层,对该卷积层对应的输入图像进行二值化,得到二值化输入图像。
[0152] S302:对该卷积层对应的浮点型参数进行二值化,得到二值化后的参数。
[0153] S303:利用预设幅度特征计算方式,计算该卷积层对应的输入图像对应的幅度特征,得到第一幅度特征图像。
[0154] 其中,预设幅度特征计算方式包括:将该卷积层对应的输入图像中各维度所对应图像相同位置处的像素点的值的绝对值相加,再求平均值;
[0155] S304:利用二值化后的卷积参数对二值化输入图像进行卷积操作,得到第三特征图。
[0156] S305:利用第一幅度特征图像以及第三特征图,得到第四特征图。
[0157] S306:利用该卷积层对应的归一化参数对第四特征图进行归一化操作,得到第一特征图像。
[0158] S307:对该卷积层对应的输入图像进行预设维度变换操作,得到第二特征图像。
[0159] 其中,第二特征图像对应的维度信息与第一特征图像对应的维度信息相同;
[0160] S308:利用第四特征图以及第二特征图像,确定该卷积层对应的输出图像。
[0161] 其中,该S301与图2中所示的S201相同,该S302与图2中所示的S202相同,该S303与图2中所示的S203相同,在此不再赘述。
[0162] 考虑到卷积层对应的输入图像进行二值化后,会损失该卷积层对应的输入图像中各像素点的幅度特征。这在一定程度上会影响后续的训练所得的目标二值化分类模型的检测结果的精度。鉴于此,本实施例中,若卷积层为二值化卷积层,该卷积层对应的第一特征提取操作包括:第一二值化特征提取操作、预设维度变换操作以及的图像幅度特征恢复操作。相应的,电子设备针对每一卷积层,对该卷积层对应的输入图像进行二值化,得到二值化输入图像;对该卷积层对应的浮点型参数进行二值化,得到二值化后的参数;并利用预设幅度特征计算方式,计算该卷积层对应的输入图像对应的幅度特征,得到第一幅度特征图像;进而,利用二值化后的卷积参数对二值化输入图像进行卷积操作,得到第三特征图;利用第一幅度特征图像以及第三特征图,得到第四特征图;再利用归一化参数对第四特征图进行归一化操作,得到第一特征图像。
[0163] 其中,该预设幅度特征计算方式包括:首先将该卷积层对应的输入图像中各维度所对应图像相同位置处的像素点的值的绝对值相加,再求平均值;即针对该卷积层对应的输入图像中各维度所对应图像相同位置处的像素点,将该位置对应的各像素点的值的绝对值相加,得到该位置对应的各像素点的值的绝对值的和,进而,计算该位置对应的各像素点的值的绝对值的和的平均值,作为第一幅度特征图像该位置处的像素点的值。该预设幅度特征计算方式可以表示为GetScale函数。
[0164] 利用第一幅度特征图像以及第三特征图,得到第四特征图,即将第一幅度特征图像每一位置处的像素点的值,与第三特征图中各维度信息对应的图像的相同位置处的像素点的值相乘,将相乘所得结果作为第四特征图像中各维度信息对应的图像的相同位置处的像素点的值。该过程可以用ApplyScale函数表示。
[0165] 如图4B所示,为一种二值化卷积层的特征提取过程的数据流向的另一示意图,该卷积层对应的输入图像Xr,通过二值化函数如符号函数进行二值化,如图4B中所示的“Sign”,得到该卷积层对应的二值化输入图像Xb,利用符号函数对该卷积层对应的参数进行二值化,并利用二值化后的卷积参数对二值化输入图像Xb,进行卷积操作,得到卷积操作后的输入图像Yr,即第三特征图,该过程如图4B所示的“BinConv”;利用预设幅度特征计算方式,计算该卷积层对应的输入图像对应的幅度特征,得到第一幅度特征图像K,该过程如图4B所示的“GetScale”;利用第一幅度特征图像以及第三特征图,得到第四特征图,该过程如图4B所示的“ApplyScale”;利用该卷积层对应的归一化参数对第四特征图进行归一化操作,得到第一特征图像 如图4B中所示的“BN”;对该卷积层对应的输入图像Xr进行预设维度变换操作,得到第二特征图像,利用第一特征图像以及所述第二特征图像,确定该卷积层对应的输出图像。
[0166] 在本发明的另一实施例中,该第一特征提取操作包括预设卷积操作的情况下;
[0167] 所述S102,可以包括如下步骤:针对初始二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的浮点型参数,对该卷积层对应的输入图像进行卷积操作以及归一化操作,得到该卷积层对应的输出图像。
[0168] 本实施例中,若卷积层为非二值化卷积层,即为普通卷积层,电子设备针对该类卷积层,利用该卷积层对应的浮点型参数,对该卷积层对应的输入图像进行卷积操作以及归一化操作,得到该卷积层对应的输出图像。该卷积操作所采用卷积函数可以是任一类型的卷积函数,例如:特征频道维度变换的卷积函数、深度可分离卷积函数或者非深度可分离卷积得普通卷积函数。该归一化操作可以是BN操作。
[0169] 在本发明的另一实施例中,所述S104,可以包括如下步骤011‑012:
[0170] 011:利用每一训练图像所包含样本目标的预测检测信息以及每一训练图像所包含样本目标的标定检测信息,调整特征提取层以及特征分类层的参数,直至初始二值化分类模型满足预设收敛条件,得到包含浮点型参数的中间分类模型。
[0171] 012:对中间分类模型所包含的浮点型参数进行二值化,得到包含二值化类型的参数的目标二值化分类模型。
[0172] 在初始二值化分类模型满足预设收敛条件后,可以得到包含浮点型参数的中间分类模型。相应的,在确定需要利用该二值化后的检测模型进行视觉检测的情况下,可以对中间分类模型所包含的浮点型参数进行二值化,得到包含二值化类型的参数的目标二值化分类模型。即该目标二值化分类模型中特征提取层中每一卷积层对应二值化后的参数。
[0173] 在本发明的另一实施例中,在得到目标二值化分类模型之后,所述方法还可以包括:利用目标二值化分类模型对图像进行检测的过程,具体的,该检测过程可以包括如下步骤021‑023:
[0174] 021:获得待处理图像。
[0175] 022:针对目标二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的第二特征提取操作,对该卷积层对应的待操作图像进行特征提取,得到该卷积层对应的结果图像。
[0176] 其中,若卷积层为二值化卷积层,第二特征提取操作包括:第二二值化特征提取操作以及预设维度变换操作;若卷积层为非二值化卷积层,第二特征提取操作包括预设卷积操作;每一非第一层卷积层对应的待操作图像为:该非第一层卷积层的前一卷积层对应的结果图像,第一层卷积层对应的待操作图像为:待处理图像。
[0177] 023:利用目标二值化分类模型的特征分类层以及最后一层卷积层对应的结果图像,确定待处理图像所包含待分类目标的检测结果信息。
[0178] 该待处理图像可以为与训练得到目标二值化分类模型的样本图像相同格式的图像。
[0179] 电子设备获得待处理图像之后,将待处理图像输入目标二值化分类模型的特征提取层,首先,利用目标二值化分类模型的特征提取层的第一层卷积层对应的第二特征提取操作,对待处理图像进行特征提取,得到包含从待处理图像中所提取特征的特征图,作为第一层卷积层对应的结果图像;将第一层卷积层对应的结果图像,作为特征提取层的第二层卷积层对应的待操作图像,利用第二层卷积层对应的第二特征提取操作,对第二层卷积层对应的待操作图像进行特征提取,得到第二层卷积层对应的结果图像;将第二层卷积层对应的结果图像,作为特征提取层的第三层卷积层对应的待操作图像,依次类推,直至得到特征提取层的倒数第二层卷积层对应的结果图像,作为特征提取层的倒数第一层卷积层,即最后一层卷积层对应的待操作图像,利用最后一层卷积层对应的第二特征提取操作,对最后一层卷积层对应的待操作图像进行特征提取,得到最后一层卷积层对应的结果图像。进而,将最后一层卷积层对应的结果图像输入目标二值化分类模型的特征分类层,利用目标二值化分类模型的特征分类层以及最后一层卷积层对应的结果图像,确定待处理图像所包含待分类目标的检测结果信息。该检测结果信息包括但不限于:待处理图像所包含待分类目标的类别信息和/或位置信息。
[0180] 其中,特征提取层的多个卷积层包括二值化卷积层以及非二值化卷积层,即普通卷积层。若卷积层为二值化卷积层,该卷积层对应的第二特征提取操作包括:第二二值化特征提取操作以及预设维度变换操作。
[0181] 第二二值化特征提取操作为:对该卷积层对应的待操作图像进行二值化后,再基于该卷积层对应的二值化类型的参数,对进行二值化后的该卷积层对应的输入图像,进行卷积操作以及批量归一化操作,得到该卷积层对应的卷积特征图像的操作。
[0182] 该预设维度变换操作为:根据基于该卷积层对应的二值化类型的参数,对进行二值化后的该卷积层对应的输入图像,进行卷积操作以及批量归一化操作,后所得的图像,即该卷积层对应的卷积特征图像的维度信息,调整该卷积层对应的输入图像,以得到与该卷积层对应的卷积特征图像的维度信息相同的特征图像的操作。
[0183] 在本发明的另一实施例中,该第二特征提取操作包括:第二二值化特征提取操作以及预设维度变换操作的情况下;
[0184] 所述022,可以包括如下步骤:
[0185] 0221:针对目标二值化分类模型的特征提取层的每一卷积层,对该卷积层对应的待操作图像进行二值化,得到二值化待操作图像。
[0186] 0222:并利用该卷积层的二值化类型的参数,对二值化待操作图像进行卷积操作以及归一化操作,得到第五特征图像。
[0187] 0223:对该卷积层对应的待操作图像进行预设维度变换操作,得到第六特征图像。
[0188] 其中,第六特征图像对应的维度信息与第五特征图像对应的维度信息相同;
[0189] 0224:利用第五特征图像以及第六特征图像,确定该卷积层对应的结果图像。
[0190] 本实施例中,若卷积层为二值化卷积层,该二值化卷积层对应的第二特征提取操作包括:第二二值化特征提取操作以及预设维度变换操作;相应的,电子设备针对该卷积层,首先利用预先设置的二值化函数,对该卷积层对应的待操作图像进行二值化,得到二值化待操作图像;利用该卷积层的二值化类型的卷积参数,对二值化待操作图像进行卷积操作,得到卷积操作后的待操作图像,进而,对卷积操作后的待操作图像进行归一化操作,得到第五特征图像。
[0191] 对该卷积层对应的待操作图像进行预设维度变换操作,即基于该卷积层对应的待操作图像与第五特征图像之间的维度变化比例,调整该卷积层对应的待操作图像,得到第六特征图像,其中,第六特征图像对应的维度信息与第五特征图像对应的维度信息相同,其中,第六特征图像对应的维度信息与第五特征图像对应的维度信息相同可以指:第六特征图像对应的维度信息与第五特征图像对应的维度信息的数量相同,且第六特征图像对应的每一维度信息与第五特征图像对应的维度信息相同。
[0192] 其中,对卷积层对应的输入图像进行预设维度变换操作时,若卷积层对应的待操作图像的维度信息数量多于该卷积层对应的第五特征图像的维度信息数量,则需要使用Squeeze函数,调少卷积层对应的待操作图像的维度信息数量。若卷积层对应的待操作图像的维度信息数量少于该卷积层对应的第五特征图像的维度信息数量,则需要用Expand函数调多卷积层对应的待操作图像的维度信息数量。若卷积层对应的待操作图像的维度信息数量等于该卷积层对应的第五特征图像的维度信息数量,则可以不调整卷积层对应的待操作图像,直接将该卷积层对应的待操作图像确定为第六特征图像。
[0193] 利用第五特征图像以及第六特征图像,确定该卷积层对应的结果图像。即:将各维度信息对应的第五特征图像及第六特征图像进行叠加,以得到包含各维度信息对应的图像的该卷积层对应的结果图像。维度信息对应的第五特征图像及第六特征图像进行叠加可以指:维度信息对应的第五特征图像及第六特征图像的相同位置处的像素点的值相加。一种情况中,可以通过逐点加和函数EltSum函数实现。
[0194] 在本发明的另一实施例中,第二特征提取操作还可以包括:图像幅度特征恢复操作;
[0195] 所述0222之前,所述方法还可以包括:
[0196] 利用预设幅度特征计算方式,计算该卷积层对应的待操作图像对应的幅度特征,得到第二幅度特征图像;
[0197] 所述0222,可以包括:
[0198] 利用该卷积层的二值化类型的卷积参数,对二值化待操作图像进行卷积操作,得到第七特征图;
[0199] 利用第二幅度特征图像和第七特征图,得到第八特征图;
[0200] 利用该卷积层的归一化参数,对第八特征图进行归一化操作,得到第五特征图像。
[0201] 考虑到卷积层对应的待操作图像进行二值化后,会损失该卷积层对应的待操作图像中各像素点的幅度特征。这在一定程度上会影响目标二值化分类模型的检测结果的精度。鉴于此,本实施例中,若卷积层为二值化卷积层,该卷积层对应的第二特征提取操作包括:第二二值化特征提取操作、预设维度变换操作以及的图像幅度特征恢复操作。相应的,电子设备针对每一卷积层,对该卷积层对应的待操作图像进行二值化,得到二值化待操作图像;利用预设幅度特征计算方式,计算该卷积层对应的待操作图像对应的幅度特征,得到第二幅度特征图像;进而,利用该卷积层对应的二值化类型的卷积参数对二值化待操作图像进行卷积操作,得到第七特征图;利用第二幅度特征图像以及第七特征图,得到第八特征图;再利用归一化参数对第八特征图进行归一化操作,得到第五特征图像。
[0202] 其中,该预设幅度特征计算方式包括:首先将该卷积层对应的待操作图像中各维度所对应图像相同位置处的像素点的值的绝对值相加,再求平均值;即针对该卷积层对应的待操作图像中各维度所对应图像相同位置处的像素点,将该位置对应的各像素点的值的绝对值相加,得到该位置对应的各像素点的值的绝对值的和,进而,计算该位置对应的各像素点的值的绝对值的和的平均值,作为第二幅度特征图像该位置处的像素点的值。该预设幅度特征计算方式可以表示为GetScale函数。
[0203] 利用第二幅度特征图像以及第七特征图,得到第八特征图,即将第二幅度特征图像每一位置处的像素点的值,与第七特征图中各维度信息对应的图像的相同位置处的像素点的值相乘,将相乘所得结果作为第八特征图像中各维度信息对应的图像的相同位置处的像素点的值。该过程可以用ApplyScale函数表示。
[0204] 在本发明的另一实施例中,该第二特征提取操作包括预设卷积操作的情况下;即卷积层为非二值化卷积层;
[0205] 所述022,可以包括如下步骤:针对目标二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的二值化类型的参数,对该卷积层对应的待操作图像进行卷积操作以及归一化操作,得到该卷积层对应的结果图像。
[0206] 相应于上述方法实施例,本发明实施例提供了一种目标分类模型的训练装置,如图5所示,可以包括:
[0207] 第一获得模块510,被配置为获得训练图像以及每一训练图像对应的标定信息,其中,每一标定信息包括:所对应训练图像包含的样本目标的标定检测信息;
[0208] 第一特征提取模块520,被配置为针对初始二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的第一特征提取操作,对该卷积层对应的输入图像进行特征提取,得到该卷积层对应的输出图像;其中,若卷积层为二值化卷积层,所述第一特征提取操作包括:第一二值化特征提取操作以及预设维度变换操作;若卷积层为非二值化卷积层,所述第一特征提取操作包括预设卷积操作;每一非第一层卷积层对应的输入图像为:该非第一层卷积层的前一卷积层对应的输出图像,第一层卷积层对应的输入图像为:所述训练图像;
[0209] 第一确定模块530,被配置为利用所述初始二值化分类模型的特征分类层以及最后一层卷积层对应的输出图像,确定该输出图像对应的训练图像所包含样本目标的预测检测信息;
[0210] 调整确定模块540,被配置为利用所述训练图像所包含样本目标的预测检测信息以及所述训练图像所包含样本目标的标定检测信息,调整所述特征提取层以及所述特征分类层的参数,直至所述初始二值化分类模型满足预设收敛条件,确定出目标二值化分类模型。
[0211] 应用本发明实施例,可以在获得训练图像及其对应的标定信息之后,利用初始二值化分类模型的特征提取层的每一卷积层对应的第一二值化特征提取操作,提取出该卷积层对应的输入图像的图像特征,其中,特征提取层的卷积层包括二值化卷积层,二值化卷积层对应第一二值化特征提取操作以及预设维度变换操作,通过二值化卷积层对应的第一二值化特征提取操作以及预设维度变换操作,可以在减少初始二值化分类模型的训练过程中的计算量,并且,预设维度变换操作,可以保证任何类型的初始二值化分类模型在训练过程中,均可以达到收敛,为提高训练所得的目标二值化分类模型的模型检测精度,以及减少了目标二值化分类模型的存储需求提供基础,即实现得到识别检测精度高且计算量小的目标二值化分类模型。
[0212] 在本发明的另一实施例中,所述第一特征提取操作包括:第一二值化特征提取操作以及预设维度变换操作的情况下;
[0213] 所述第一特征提取模块520,包括:
[0214] 第一二值化单元(图中未示处),被配置为针对初始二值化分类模型的特征提取层的每一卷积层,对该卷积层对应的输入图像进行二值化,得到二值化输入图像;
[0215] 第二二值化单元(图中未示处),被配置为对该卷积层对应的浮点型参数进行二值化,得到二值化后的参数;
[0216] 第一卷积归一化单元(图中未示处),被配置为并利用二值化后的参数对所述二值化输入图像进行卷积操作以及归一化操作,得到第一特征图像;
[0217] 第一维度变换单元(图中未示处),被配置为对该卷积层对应的输入图像进行预设维度变换操作,得到第二特征图像,其中,所述第二特征图像对应的维度信息与所述第一特征图像对应的维度信息相同;
[0218] 第一确定单元(图中未示处),被配置为利用所述第一特征图像以及所述第二特征图像,确定该卷积层对应的输出图像。
[0219] 在本发明的另一实施例中,所述第一特征提取操作还包括:图像幅度特征恢复操作;
[0220] 所述第一特征提取模块520还包括:
[0221] 第一幅度特征计算单元(图中未示处),被配置为所述利用二值化后的参数对所述二值化输入图像进行卷积操作以及归一化操作,得到第一特征图像之前,利用预设幅度特征计算方式,计算该卷积层对应的输入图像对应的幅度特征,得到第一幅度特征图像,其中,所述预设幅度特征计算方式包括:将该卷积层对应的输入图像中各维度所对应图像相同位置处的像素点的值的绝对值相加,再求平均值;
[0222] 所述第一卷积归一化单元,被具体配置为利用二值化后的卷积参数对所述二值化输入图像进行卷积操作,得到第三特征图;
[0223] 利用所述第一幅度特征图像以及所述第三特征图,得到第四特征图;
[0224] 利用该卷积层对应的归一化参数对所述第四特征图进行归一化操作,得到第一特征图像。
[0225] 在本发明的另一实施例中,所述第一特征提取操作包括预设卷积操作的情况下;
[0226] 所述第一特征提取模块520,被具体配置为针对初始二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的浮点型参数,对该卷积层对应的输入图像进行卷积操作以及归一化操作,得到该卷积层对应的输出图像。
[0227] 在本发明的另一实施例中,所述标定检测信息包括:标定类别信息和/或标定位置信息。
[0228] 在本发明的另一实施例中,所述调整确定模块540,被具体配置为利用所述训练图像所包含样本目标的预测检测信息以及所述训练图像所包含样本目标的标定检测信息,调整所述特征提取层以及所述特征分类层的参数,直至所述初始二值化分类模型满足预设收敛条件,得到包含浮点型参数的中间分类模型;
[0229] 对所述中间分类模型所包含的浮点型参数进行二值化,得到包含二值化类型的参数的目标二值化分类模型。
[0230] 在本发明的另一实施例中,所述装置还包括:
[0231] 第二获得模块(图中未示处),被配置为获得待处理图像;
[0232] 第二特征提取模块(图中未示处),被配置为针对所述目标二值化分类模型的特征提取层的每一卷积层,利用该卷积层对应的第二特征提取操作,对该卷积层对应的待操作图像进行特征提取,得到该卷积层对应的结果图像;其中,若卷积层为二值化卷积层,所述第二特征提取操作包括:第二二值化特征提取操作以及预设维度变换操作;若卷积层为非二值化卷积层,所述第二特征提取操作包括预设卷积操作;每一非第一层卷积层对应的待操作图像为:该非第一层卷积层的前一卷积层对应的结果图像,第一层卷积层对应的待操作图像为:所述待处理图像;
[0233] 第二确定模块(图中未示处),被配置为利用所述目标二值化分类模型的特征分类层以及最后一层卷积层对应的结果图像,确定所述待处理图像所包含待分类目标的检测结果信息。
[0234] 在本发明的另一实施例中,所述第二特征提取操作包括:第二二值化特征提取操作以及预设维度变换操作的情况下;
[0235] 所述第二特征提取模块,包括:
[0236] 第三二值化单元(图中未示处),被配置为针对所述目标二值化分类模型的特征提取层的每一卷积层,对该卷积层对应的待操作图像进行二值化,得到二值化待操作图像;
[0237] 第二卷积归一化单元(图中未示处),被配置为并利用该卷积层的二值化类型的参数,对所述二值化待操作图像进行卷积操作以及归一化操作,得到第五特征图像;
[0238] 第二维度变换单元(图中未示处),被配置为对该卷积层对应的待操作图像进行预设维度变换操作,得到第六特征图像,其中,所述第六特征图像对应的维度信息与所述第五特征图像对应的维度信息相同;
[0239] 第二确定单元(图中未示处),被配置为利用所述第五特征图像以及所述第六特征图像,确定该卷积层对应的结果图像。
[0240] 在本发明的另一实施例中,所述第二特征提取操作还包括:图像幅度特征恢复操作;
[0241] 所述第二特征提取模块还包括:
[0242] 第二幅度特征计算单元(图中未示处),被配置为所述利用该卷积层的二值化类型的参数,对所述二值化待操作图像进行卷积操作以及归一化操作,得到第五特征图像之前,利用预设幅度特征计算方式,计算该卷积层对应的待操作图像对应的幅度特征,得到第二幅度特征图像;
[0243] 所述第二卷积归一化单元,被具体配置为利用该卷积层的二值化类型的卷积参数,对所述二值化待操作图像进行卷积操作,得到第七特征图;
[0244] 利用所述第二幅度特征图像和所述第七特征图,得到第八特征图;
[0245] 利用该卷积层的归一化参数,对所述第八特征图进行归一化操作,得到第五特征图像。
[0246] 上述装置、系统实施例与方法实施例相对应,与该方法实施例具有同样的技术效果,具体说明参见方法实施例。装置实施例是基于方法实施例得到的,具体的说明可以参见方法实施例部分,此处不再赘述。
[0247] 本领域普通技术人员可以理解:附图只是一个实施例的示意图,附图中的模块或流程并不一定是实施本发明所必须的。
[0248] 本领域普通技术人员可以理解:实施例中的装置中的模块可以按照实施例描述分布于实施例的装置中,也可以进行相应变化位于不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
[0249] 最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围。