基于聚类辅助的静脉识别模型训练方法及装置转让专利
申请号 : CN202011368138.9
文献号 : CN112200156B
文献日 : 2021-04-30
发明人 : 赵国栋 , 任湘 , 张烜 , 李学双
申请人 : 四川圣点世纪科技有限公司
摘要 :
权利要求 :
1.一种基于聚类辅助的静脉识别模型训练方法,其特征在于,包括:
1)通过聚类方法对指静脉图像进行分型聚类,得到聚类分型结果;
2)根据所述聚类分型结果,并通过第一卷积神经网络训练形成聚类类型判别模型;
3)通过所述聚类类型判别模型对输入的指静脉图像进行分型聚类,得到分属于不同手指的多个指静脉图像集合;
4)以分属于不同手指的各所述指静脉图像集合为训练样本,并通过第二卷积神经网络训练形成指静脉识别模型。
2.根据权利要求1所述的基于聚类辅助的静脉识别模型训练方法,其特征在于,步骤1)中采用的所述聚类方法具体包括:
1.1)采集每根手指的指静脉图像;
1.2)随机选取每根手指的若干张指静脉图像;
1.3)通过k‑means聚类算法对选取的指静脉图像进行分型聚类,确定各指静脉图像分别对应的聚类类型;
1.4)在已确定聚类类型的指静脉图像中,随机在每一类中选取若干张图像作为聚类基础库;
1.5)在尚未进行分型聚类的指静脉图像中随机选取若干张作为新的聚类对象;
1.6)将步骤1.5)选取的所述聚类对象混合到所述聚类基础库中,同样采用k‑means聚类算法对混合图像集进行分型聚类,确定每一所述聚类对象对应的聚类类型;
1.7)重复步骤1.4)1.6),直至完成对所采集的所有指静脉图像的分型聚类,得到所述~
聚类分型结果。
3.根据权利要求1所述的基于聚类辅助的静脉识别模型训练方法,其特征在于,步骤2)中,用于训练所述聚类类型判别模型的所述第一卷积神经网络包括前后连接的13个卷积层、一AveragePooling层、Flatten层、第一Full connect层和第二Full connect层,13个卷积层中的第一卷积层输入指静脉图像,最后的第十三卷积层输出的指静脉特征图输入到所述AveragePooling层,所述AveragePooling层的输出连接所述Flatten层的输入,所述Flatten层的输出连接所述第一Full connect层的输入,所述第一Full connect层的输出连接所述第二Full connect层的输入,所述第二Full connect层的输出连接一softmax分类器,通过所述softmax分类器预测得到输入的指静脉图像对应的聚类类型。
4.根据权利要求3所述的基于聚类辅助的静脉识别模型训练方法,其特征在于,训练所述聚类类型判别模型的所述第一卷积神经网络的网络参数见下表1:表1
。
5.根据权利要求3所述的基于聚类辅助的静脉识别模型训练方法,其特征在于,训练所述聚类类型判别模型采用的损失函数 通过以下公式(1)表达:公式(1)中,表示对指静脉图像进行分型聚类的类别数,表示第 类聚类类型,为整数且0 < < 6; 表示所述聚类类型判别模型对第 类输入的预测输出, 表示第 类指静脉图像的真实聚类类型;
通过以下公式(2)计算而得:
公式(2)中,C表示对指静脉图像进行分型聚类的类别数,表示第 类聚类类型,为整数且0 < < 6; 表示第 类输入, 表示对第 类输入的预测输出。
6.根据权利要求1所述的基于聚类辅助的静脉识别模型训练方法,其特征在于,步骤4)中 ,用于训练所述指静脉识别模型的所述第二卷积神经网络包括卷积网络、残差网络、AveragePooling层、Flatten层和Full connect层,所述训练样本输入到所述卷积网络中,所述卷积网络的输出连接所述残差网络的输入,所述残差网络的输出连接所述AveragePooling层的输入,所述AveragePooling层的输出连接所述Flatten层的输入,所述Flatten层的输出连接所述Full connect层的输入,所述Full connect层输出指静脉识别结果;
所述卷积网络包括依序连接的12个卷积层,第一卷积层输入所述训练样本,最后的第十二卷积层的输出连接所述残差网络的输入;
所述残差网络包括依序连接的第一残差模块、第二残差模块、第三残差模块和第四残差模块,所述第一残差模块、第二残差模块和所述第四残差模块包括branch1残差块和依序连接的3个残差单元,所述第三残差模块包括一所述branch1残差块和依序连接的6个残差单元,
所述第一残差模块或第二残差模块中的第一残差单元的输出与其自身模块中的所述branch1残差块的输出累加后作为其自身模块中的第二残差单元的输入;所述第一残差模块或所述第二残差模块中的第二残差单元的输出与其自身输入累加后作为其自身模块中的第三残差单元的输入;所述第一残差模块或所述第二残差模块中的第三残差单元的输出与其自身的输入累加后作为下一残差模块的输入;所述第一残差模块中的第一残差单元和所述branch1残差块的输入连接所述第十二卷积层的输出;
所述第三残差模块中的所述branch1残差块和第一残差单元的输入连接所述第二残差模块的输出;所述第三残差模块中的第一残差单元 第五残差单元的输出与其自身单元的~
输入累加后作为其自身模块内的下一残差单元的输入;所述第三残差模块中的第六残差单元的输出与其自身的输入累加后作为所述第四残差模块的输入;
所述第四残差模块中的所述branch1残差块和第一残差单元的输入连接所述第三残差模块的输出;所述第四残差模块中的第一残差单元或第二残差单元的输出与其自身单元的输入累加后作为自身模块内的下一残差单元的输入;所述第四残差模块中的第三残差单元的输出与其自身单元的输入累加后作为所述AveragePooling层的输入。
7.根据权利要求6所述的基于聚类辅助的静脉识别模型训练方法,其特征在于,每个所述残差模块中的残差单元包括依序连接的branch2a初始预投影块、branch2b基本块和branch2c基本块。
8.根据权利要求6所述的基于聚类辅助的静脉识别模型训练方法,其特征在于,训练所述指静脉识别模型采用的损失函数通过以下公式(3)表达:公式(3)中,为每次输入到训练网络中的图像组中的小组合的数量,表示第 个小组合, 为整数且0 < < 9; 表示第 个小组合中选定手指的基点图像, 表示选定手指的所述基点图像经过训练网络输出的特征向量, 表示第 个小组合中选定手指的非基点图像, 表示所述选定手指的非基点图像经过训练网络输出的特征向量, 表示第 个小组合中的非选定手指图像, 表示非选定手指图像经训练网络输出的特征向量,和 为一常数。
9.根据权利要求6所述的基于聚类辅助的静脉识别模型训练方法,其特征在于,所述第二卷积神经网络训练所述指静脉识别模型的网络参数见下表2和表3:表2
表3
。
10.一种基于聚类辅助的静脉识别模型训练装置,其特征在于,包括:
1)第一分型聚类模块,用于通过聚类方法对指静脉图像进行分型聚类,得到聚类分型结果;
2)聚类类型判别模型训练模块,用于根据所述聚类分型结果,并通过第一卷积神经网络训练形成聚类类型判别模型;
3)第二分型聚类模块,用于通过所述聚类类型判别模型对输入的指静脉图像进行分型聚类,得到分属于不同手指的多个指静脉图像集合;
4)指静脉识别模型训练模块,用于以分属于不同手指的各所述指静脉图像集合为训练样本,并通过第二卷积神经网络训练形成指静脉识别模型。
说明书 :
基于聚类辅助的静脉识别模型训练方法及装置
技术领域
背景技术
图像提取静脉区域及静脉关键点特征,通过对比特征点进行指静脉识别;另一类是,采用传
统的机器学习方法训练机器学习模型对指静脉图像进行识别;还有一类是采用深度学习技
术训练指静脉识别模型,通过模型提取指静脉图像的深度特征实现对指静脉的识别。上述
三类指静脉识别方法主要存在以下几个问题:
特征差异为指静脉识别基础,而忽略了同根手指的指静脉特征差异(对于同根手指采集的
指静脉图像可能由于拍摄时间、拍摄角度、光照等因素导致同根手指的指静脉特征具有差
异)对模型识别性能的影响,所以如果在指静脉模型训练过程中充分考虑同根手指的指静
脉特征差异对于提高模型识别性能具有积极作用。
发明内容
影响,以进一步提升指静脉识别的识别率和准确率。
所述聚类分型结果。
Full connect层,13个卷积层中的第一卷积层输入指静脉图像,最后的第十三卷积层输出
的指静脉特征图输入到所述AveragePooling层,所述AveragePooling层的输出连接所述
Flatten层的输入,所述Flatten层的输出连接所述第一Full connect层的输入,所述第一
Full connect层的输出连接所述第二Full connect层的输入,所述第二Full connect层的
输出连接一softmax分类器,通过所述softmax分类器预测得到输入的指静脉图像对应的聚
类类型。
类指静脉图像的真实聚类类型;
到所述卷积网络中,所述卷积网络的输出连接所述残差网络的输入,所述残差网络的输出
连接所述AveragePooling层的输入,所述AveragePooling层的输出连接所述Flatten层的
输入,所述Flatten层的输出连接所述Full connect层的输入,所述Full connect层输出指
静脉识别结果;
和依序连接的3个残差单元,所述第三残差模块包括一所述branch1残差块和依序连接的6
个残差单元,
差模块或所述第二残差模块中的第二残差单元的输出与其自身输入累加后作为其自身模
块中的第三残差单元的输入;所述第一残差模块或所述第二残差模块中的第三残差单元的
输出与其自身的输入累加后作为下一残差模块的输入;所述第一残差模块中的第一残差单
元和所述branch1残差块的输入连接所述第十二卷积层的输出;
~
元的输入累加后作为其自身模块内的下一残差单元的输入;所述第三残差模块中的第六残
差单元的输出与其自身的输入累加后作为所述第四残差模块的输入;
元的输入累加后作为自身模块内的下一残差单元的输入;所述第四残差模块中的第三残差
单元的输出与其自身单元的输入累加后作为所述AveragePooling层的输入。
定手指的所述基点图像经过训练网络输出的特征向量, 表示第 个小组合中选定手指
的非基点图像, 表示所述选定手指的非基点图像经过训练网络输出的特征向量,
表示第 个小组合中的非选定手指图像, 表示非选定手指图像经训练网络输出的特征
向量,和 为一常数。
集合;
型。
义指静脉图像类型带来的误差,为确保后续训练的指静脉识别模型的模型性能提供了基础
保障。
速度和聚类准确度。
练而得的指静脉识别模型具有优异的模型性能,能够准确识别不同手指的指静脉图像特
征,大幅提升了指静脉图像的识别率和识别准确率。
附图说明
本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他
的附图。
具体实施方式
15万张指静脉图像,指静脉图像为尺寸为480×240像素的灰度图;
分到每种类别的指静脉图像的数量相当;
库;
10000张指静脉图像作为新的聚类对象;
means聚类算法根据已经确定类型的图像在每一种类型中的分布情况,将分布较多的一种
类型确定为该部分(该部分包括部分新选取的聚类对象)的聚类类型,由此实现对新的聚类
对象的分型聚类。通过将已经确定聚类类型的指静脉图像与未经聚类的聚类对象进行混合
后再做聚类计算,能够大幅提升分型聚类的速度,提高聚类效率。
所述聚类分型结果。
一Fullconnect层和第二Full connect层,13个卷积层中的第一卷积层conv1输入尺寸为
480×240像素的指静脉图像,最后的第十三卷积层conv13输出的指静脉特征图输入到
AveragePooling层,AveragePooling层的输出连接Flatten层的输入,Flatten层的输出连
接第一Full connect层fc1的输入,第一Full connect层fc1的输出连接第二Full connect
层fc2的输入,第二Full connect层fc2的输出连接一softmax分类器,通过softmax分类器
预测得到输入的指静脉图像对应的聚类类型。
参数使模型预测聚类类型的准确性不断提升。预测类型和真实类型之间的差异通过一损失
函数 计算而得,该损失函数 通过以下公式(1)表达:
静脉图像的真实聚类类型。
个循环后减少为0.1倍。
connect层fc512,训练样本输入到卷积网络中,卷积网络的输出连接残差网络的输入,残差
网络的输出连接AveragePooling层,AveragePooling层的输出连接Flatten层的输入,
Flatten层的输出连接Full connect层fc512的输入,Full connect层fc512输出指静脉识
别结果;
依序连接的3个残差单元c1,第三残差模块3包括一branch1残差块cb1和依序连接的6个残
差单元c1,
模块1或第二残差模块2中的第二残差单元c12的输出与其自身的输入累加后作为其自身模
块中的第三残差单元c13的输入;第一残差模块1或第二残差模块2中的第三残差单元c13的
输出与其自身的输入累加后作为下一残差模块的输入;第一残差模块1中的第一残差单元
c11和branch1残差块cb1的输入连接卷积网络中的第十二卷积层conv12的输出;
~
元的输入累加后作为其自身模块内的下一残差单元的输入;第三残差模块3中的第六残差
单元c16的输出与其自身的输入累加后作为第四残差模块4的输入;
元的输入累加后作为自身模块内的下一残差单元的输入;第四残差模块4中的第三残差单
元c13的输出与其自身单元的输入累加后作为AveragePooling层的输入。
定手指的所述基点图像经过训练网络输出的特征向量, 表示第 个小组合中选定手指
的非基点图像, 表示所述选定手指的非基点图像经过训练网络输出的特征向量,
表示第 个小组合中的非选定手指图像, 表示非选定手指图像经训练网络输出的特征
向量,和 为一常数。
这9张中选出一张作为选定手指的基点图像,另从其他8张同手指图像与剩余的非同根手指
的8张图像中各选一张,组合成由选定的3张图像形成的图像小组,通过复用选定的基点图
像,17张静脉图像共形成8个小组合,然后将8个小组合输入到第二卷积神经网络进行模型
训练。指静脉识别模型训练过程中,初始学习率优选设置为0.01,训练数据量每10个循环后
减小为0.1倍。模型训练过程中还通过公式(3)表达的损失函数 计算预测结果与真实结
果之间的差异用于反向传播计算调整第二卷积神经网络卷积部分的参数,以不断优化网络
参数提高模型训练效果和模型识别性能。
学习模型和通过本发明训练形成的指静脉识别模型对同样的指静脉图像进行指静脉识别,
并统计误识率和识别率(实验统计结果请见下表4),发现本发明训练而得的指静脉识别模
型识别率提升明显,误识率大幅降低,呈现出理想的模型识别性能。
的功能。
骤3)的功能。
实现实施例1步骤4)的功能。
本文不再赘述。
些变换只要未背离本发明的精神,都应在本发明的保护范围之内。另外,本申请说明书和权
利要求书所使用的一些术语并不是限制,仅仅是为了便于描述。