分类模型的训练方法、装置、电子设备及存储介质转让专利
申请号 : CN201910113211.9
文献号 : CN109858558B
文献日 : 2022-01-21
发明人 : 张志伟 , 吴丽军 , 李焱
申请人 : 北京达佳互联信息技术有限公司
摘要 :
本公开是关于一种分类模型的训练方法、装置、电子设备及存储介质。该训练方法中，预先将各个样本数据的分类标签，按照语义划分为具有上下位关系的至少两个层级；确定待训练的分类模型所需训练阶段的目标数量；在每一训练阶段，确定该训练阶段对应的目标层级，利用样本数据集中，目标层级的分类标签对应的样本数据，对分类模型进行训练，在满足预定收敛条件时，结束该训练阶段的训练过程；其中，目标数量个训练阶段中，至少有两个训练阶段所对应的目标层级不相同；在最后一个训练阶段结束后，完成对分类模型的训练。本公开提供的分类模型的训练方法，可以在将样本数据的分类标签之间的上下位关系考虑在内的前提下，实现对分类模型的有效训练。
权利要求 :
1.一种分类模型的训练方法，所述分类模型为对图片进行分类的分类模型；其特征在于，所述分类模型训练时所利用的样本图片集中，每个样本图片具有一分类标签，且预先将各个样本图片的分类标签，按照语义划分为具有上下位关系的至少两个层级，每一分类标签属于一个层级；所述方法包括：确定待训练的分类模型所需训练阶段的目标数量；
针对所述目标数量个训练阶段中的每一训练阶段，确定该训练阶段对应的目标层级，利用所述样本图片集中，所述目标层级的分类标签对应的样本图片，对所述分类模型进行训练，在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程；其中，所述目标数量个训练阶段中，至少有两个训练阶段对应的目标层级不同；
在最后一个训练阶段结束后，将当前训练得到的分类模型作为训练完成的分类模型，以使所述训练完成的分类模型对待预测分类的图片进行分类；
针对所述目标数量个训练阶段中的第一个训练阶段，所述确定该训练阶段对应的目标层级的步骤，包括：
将所述至少两个层级中的顶层，作为该第一个训练阶段对应的目标层级；
针对所述目标数量个训练阶段中的最后一个训练阶段，所述确定该训练阶段对应的目标层级的步骤，包括：
将所述至少两个层级中的所有层级，作为该最后一个训练阶段对应的目标层级；
所述样本图片的分类标签包括：人、狗、狗的品种、猫、动物、男人、建筑以及楼房；
所述预先将各个样本图片的分类标签，按照语义划分为具有上下位关系的至少两个层级，每一分类标签属于一个层级，包括：将各个样本图片的分类标签划分为三个层级，所述三个层级为顶层、中间层、底层；
其中，所述顶层的分类标签包括：人、动物以及建筑；所述中间层的分类标签包括：猫、狗、楼房以及男人；所述底层的分类标签包括：狗的品种；
或
将各个样本图片的分类标签划分为两个层级，所述两个层级为顶层、底层；
其中，所述顶层的分类标签包括：人、男人、动物以及建筑；所述底层的分类标签包括：猫、狗、狗的品种以及楼房。
2.根据权利要求1所述的方法，其特征在于，所述目标数量为大于2时，针对所述目标数量个训练阶段中，除第一个训练阶段和最后一个训练阶段以外的每一中间训练阶段，所述确定该训练阶段对应的目标层级的步骤，包括：将所述顶层以及该中间训练阶段对应的预定中间层，作为该中间训练阶段对应的目标层级；
其中，每一中间训练阶段对应的预定中间层包括：除所述顶层和底层以外的一个或多个层级。
3.根据权利要求2所述的方法，其特征在于，所述目标数量与所述至少两个层级的层级数量相同；
所述每一中间训练阶段对应的预定中间层包括：第一中间层和所述第一中间层以上的层级，所述第一中间层的层级数等于该中间训练阶段的阶段数。
4.根据权利要求1所述的方法，其特征在于，针对所述目标数量个训练阶段中的第一个训练阶段，所述在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，包括：当利用第一损失函数计算得到的、所述分类模型对应的损失值，小于第一阈值时，结束所述第一训练阶段的训练过程；
针对所述目标数量个训练阶段中的最后一个训练阶段，所述在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，包括：当利用第二损失函数计算得到的、所述分类模型对应的损失值，小于第二阈值时，结束所述最后一个训练阶段的训练过程。
5.根据权利要求2所述的方法，其特征在于，针对所述目标数量个训练阶段中的每个中间训练阶段，所述在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，包括：
当利用第一损失函数计算得到的、所述分类模型对应的损失值，小于第三阈值时，结束该中间训练阶段的训练过程；或者，当利用第二损失函数计算得到的、所述分类模型对应的损失值，小于第四阈值时，结束该中间训练阶段的训练过程。
6.根据权利要求4或5所述的方法，其特征在于，所述第一损失函数中，对各个分类标签所预测的分布概率值，基于S型函数Sigmoid Function计算获得；
所述第二损失函数中，针对每个分类标签，对该分类标签所预测的分布概率值，基于S型函数Sigmoid Function或归一化指数函数Softmax Function计算获得。
7.一种分类模型的训练装置，所述分类模型为对图片进行分类的分类模型；其特征在于，所述分类模型训练时所利用的样本图片集中，每个样本图片具有一分类标签，且预先将各个样本图片的分类标签，按照语义划分为具有上下位关系的至少两个层级，每一分类标签属于一个层级；包括：
确定模块，被配置为确定待训练的分类模型所需训练阶段的目标数量；
训练模块，被配置为针对所述目标数量个训练阶段中的每一训练阶段，确定该训练阶段对应的目标层级，利用所述样本图片集中，所述目标层级的分类标签对应的样本图片，对所述分类模型进行训练，在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程；其中，所述目标数量个训练阶段中，至少有两个训练阶段对应的目标层级不同；
完成训练模块，被配置为在最后一个训练阶段结束后，将当前训练得到的分类模型作为训练完成的分类模型，以使所述训练完成的分类模型对待预测分类的图片进行分类；
所述训练模块，针对所述目标数量个训练阶段中的第一个训练阶段，确定该训练阶段对应的目标层级，包括：将所述至少两个层级中的顶层，确定为该第一个训练阶段对应的目标层级；
所述训练模块，针对所述目标数量个训练阶段中的最后一个训练阶段，确定该训练阶段对应的目标层级，包括：将所述至少两个层级中的所有层级，确定为该最后一个训练阶段对应的目标层级；
所述样本图片的分类标签包括：人、狗、狗的品种、猫、动物、男人、建筑以及楼房；
所述预先将各个样本图片的分类标签，按照语义划分为具有上下位关系的至少两个层级，每一分类标签属于一个层级，包括：将各个样本图片的分类标签划分为三个层级，所述三个层级为顶层、中间层、底层；
其中，所述顶层的分类标签包括：人、动物以及建筑；所述中间层的分类标签包括：猫、狗、楼房以及男人；所述底层的分类标签包括：狗的品种；
或
将各个样本图片的分类标签划分为两个层级，所述两个层级为顶层、底层；
其中，所述顶层的分类标签包括：人、男人、动物以及建筑；所述底层的分类标签包括：猫、狗、狗的品种以及楼房。
8.根据权利要求7所述的装置，其特征在于，所述目标数量为大于2时，所述训练模块，针对所述目标数量个训练阶段中，除第一个训练阶段和最后一个训练阶段以外的每一中间训练阶段，确定该训练阶段对应的目标层级，包括：将所述顶层以及该中间训练阶段对应的预定中间层，确定为该中间训练阶段对应的目标层级；
其中，每一中间训练阶段对应的预定中间层包括：除所述顶层和底层以外的一个或多个层级。
9.根据权利要求8所述的装置，其特征在于，所述目标数量与所述至少两个层级的层级数量相同；
所述每一中间训练阶段对应的预定中间层包括：第一中间层和所述第一中间层以上的层级，所述第一中间层的层级数等于该中间训练阶段的阶段数。
10.根据权利要求7所述的装置，其特征在于，所述训练模块，针对所述目标数量个训练阶段中的第一个训练阶段，在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，包括：当利用第一损失函数计算得到的、所述分类模型对应的损失值，小于第一阈值时，结束所述第一训练阶段的训练过程；
所述训练模块，针对所述目标数量个训练阶段中的最后一个训练阶段，在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，包括：当利用第二损失函数计算得到的、所述分类模型对应的损失值，小于第二阈值时，结束所述最后一个训练阶段的训练过程。
11.根据权利要求8所述的装置，其特征在于，所述训练模块，针对所述目标数量个训练阶段中的每个中间训练阶段，在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，包括：
当利用第一损失函数计算得到的、所述分类模型对应的损失值，小于第三阈值时，结束该中间训练阶段的训练过程；或者，当利用第二损失函数计算得到的、所述分类模型对应的损失值，小于第四阈值时，结束该中间训练阶段的训练过程。
12.根据权利要求10或11所述的装置，其特征在于，所述第一损失函数中，对各个分类标签所预测的分布概率值，基于S型函数Sigmoid Function计算获得；
所述第二损失函数中，针对每个分类标签，对该分类标签所预测的分布概率值，基于S型函数Sigmoid Function或归一化指数函数Softmax Function计算获得。
13.一种电子设备，其特征在于，包括：处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为：执行所述存储器上所存放的可执行指令时，实现权利要求
1‑6任一项所述的方法。
14.一种非临时性计算机可读存储介质，其特征在于，当所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行权利要求1‑6任一项所述的方法。
说明书 :
分类模型的训练方法、装置、电子设备及存储介质
技术领域
[0001] 本公开涉及分类模型技术领域，尤其涉及一种分类模型的训练方法、装置、电子设备及存储介质。
背景技术
[0002] 相关技术中，分类模型的训练方式是，从样本数据集中随机选取样本数据输入至模型中，进而，利用所选取的样本数据对模型加以训练，得到训练完毕的分类模型。
[0003] 尽管上述的分类模型的训练方式可以实现模型的训练，但是，发明人在实现本发明的过程中，发现相关技术至少存在如下问题：
[0004] 样本数据集中，有些样本数据的分类标签为上位形式的分类标签，有些样本数据的分类标签为下位形式的分类标签，例如，在训练图片分类模型时，有的样本图片的分类标
签是狗，而有的样本图片的分类标签则是狗的品种，例如哈士奇等。然而，相关技术在训练
分类模型时，并未将这种情况考虑在内，这无疑影响模型的准确度。因此，在将样本数据的
分类标签之间的上下位关系考虑在内的前提下，如何实现对分类模型的有效训练，从而得
到准确度较高的分类模型，是一个亟待解决的技术问题。
签是狗，而有的样本图片的分类标签则是狗的品种，例如哈士奇等。然而，相关技术在训练
分类模型时，并未将这种情况考虑在内，这无疑影响模型的准确度。因此，在将样本数据的
分类标签之间的上下位关系考虑在内的前提下，如何实现对分类模型的有效训练，从而得
到准确度较高的分类模型，是一个亟待解决的技术问题。
发明内容
[0005] 为克服相关技术中存在的问题，本公开提供一种分类模型的训练方法、装置、电子设备及存储介质。
[0006] 根据本公开实施例的第一方面，提供一种分类模型的训练方法，所述分类模型训练时所利用的样本数据集中，每个样本数据具有一分类标签，且预先将各个样本数据的分
类标签，按照语义划分为具有上下位关系的至少两个层级，每一分类标签属于一个层级；该
方法包括：
类标签，按照语义划分为具有上下位关系的至少两个层级，每一分类标签属于一个层级；该
方法包括：
[0007] 确定待训练的分类模型所需训练阶段的目标数量；
[0008] 针对所述目标数量个训练阶段中的每一训练阶段，确定该训练阶段对应的目标层级，利用所述样本数据集中，所述目标层级的分类标签对应的样本数据，对所述分类模型进
行训练，在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程；其中，所述目
标数量个训练阶段中，至少有两个训练阶段对应的目标层级不同；
行训练，在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程；其中，所述目
标数量个训练阶段中，至少有两个训练阶段对应的目标层级不同；
[0009] 在最后一个训练阶段结束后，将当前训练得到的分类模型作为训练完成的分类模型。
[0010] 可选地，针对所述目标数量个训练阶段中的第一个训练阶段，所述确定该训练阶段对应的目标层级的步骤，包括：
[0011] 将所述至少两个层级中的顶层，作为该第一个训练阶段对应的目标层级；
[0012] 针对所述目标数量个训练阶段中的最后一个训练阶段，所述确定该训练阶段对应的目标层级的步骤，包括：
[0013] 将所述至少两个层级中的所有层级，作为该最后一个训练阶段对应的目标层级。
[0014] 可选地，所述目标数量为大于2时，针对所述目标数量个训练阶段中，除第一个训练阶段和最后一个训练阶段以外的每一中间训练阶段，所述确定该训练阶段对应的目标层
级的步骤，包括：
级的步骤，包括：
[0015] 将所述顶层以及该中间训练阶段对应的预定中间层，作为该中间训练阶段对应的目标层级；
[0016] 其中，每一中间训练阶段对应的预定中间层包括：除所述顶层和底层以外的一个或多个层级。
[0017] 可选地，所述目标数量与所述至少两个层级的层级数量相同；
[0018] 所述每一中间训练阶段对应的预定中间层包括：第一中间层和所述第一中间层以上的层级，所述第一中间层的层级数等于该中间训练阶段的阶段数。
[0019] 可选地，针对所述目标数量个训练阶段中的第一个训练阶段，所述在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，包括：
[0020] 当利用第一损失函数计算得到的、所述分类模型对应的损失值，小于第一阈值时，结束所述第一训练阶段的训练过程；
[0021] 针对所述目标数量个训练阶段中的最后一个训练阶段，所述在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，包括：
[0022] 当利用第二损失函数计算得到的、所述分类模型对应的损失值，小于第二阈值时，结束所述最后一个训练阶段的训练过程。
[0023] 可选地，针对所述目标数量个训练阶段中的每个中间训练阶段，所述在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，包括：
[0024] 当利用第一损失函数计算得到的、所述分类模型对应的损失值，小于第三阈值时，结束该中间训练阶段的训练过程；或者，
[0025] 当利用第二损失函数计算得到的、所述分类模型对应的损失值，小于第四阈值时，结束该中间训练阶段的训练过程。
[0026] 可选地，所述第一损失函数中，对各个分类标签所预测的分布概率值，基于S型函数Sigmoid Function计算获得；
[0027] 所述第二损失函数中，针对每个分类标签，对该分类标签所预测的分布概率值，基于S型函数Sigmoid Function或归一化指数函数Softmax Function计算获得。
[0028] 根据本公开实施例的第二方面，提供一种分类模型的训练装置，所述分类模型训练时所利用的样本数据集中，每个样本数据具有一分类标签，且预先将各个样本数据的分
类标签，按照语义划分为具有上下位关系的至少两个层级，每一分类标签属于一个层级；该
装置包括：
类标签，按照语义划分为具有上下位关系的至少两个层级，每一分类标签属于一个层级；该
装置包括：
[0029] 确定模块，被配置为确定待训练的分类模型所需训练阶段的目标数量；
[0030] 训练模块，被配置为针对所述目标数量个训练阶段中的每一训练阶段，确定该训练阶段对应的目标层级，利用所述样本数据集中，所述目标层级的分类标签对应的样本数
据，对所述分类模型进行训练，在所述分类模型满足预定收敛条件时，结束该训练阶段的训
练过程；其中，所述目标数量个训练阶段中，至少有两个训练阶段对应的目标层级不同；
据，对所述分类模型进行训练，在所述分类模型满足预定收敛条件时，结束该训练阶段的训
练过程；其中，所述目标数量个训练阶段中，至少有两个训练阶段对应的目标层级不同；
[0031] 完成训练模块，被配置为在最后一个训练阶段结束后，将当前训练得到的分类模型作为训练完成的分类模型。
[0032] 可选地，所述训练模块，针对所述目标数量个训练阶段中的第一个训练阶段，确定该训练阶段对应的目标层级，包括：将所述至少两个层级中的顶层，确定为该第一个训练阶
段对应的目标层级；
段对应的目标层级；
[0033] 所述训练模块，针对所述目标数量个训练阶段中的最后一个训练阶段，确定该训练阶段对应的目标层级，包括：将所述至少两个层级中的所有层级，确定为该最后一个训练
阶段对应的目标层级。
阶段对应的目标层级。
[0034] 可选地，所述目标数量为大于2时，所述训练模块，针对所述目标数量个训练阶段中，除第一个训练阶段和最后一个训练阶段以外的每一中间训练阶段，确定该训练阶段对
应的目标层级，包括：
应的目标层级，包括：
[0035] 将所述顶层以及该中间训练阶段对应的预定中间层，确定为该中间训练阶段对应的目标层级；
[0036] 其中，每一中间训练阶段对应的预定中间层包括：除所述顶层和底层以外的一个或多个层级。
[0037] 可选地，所述目标数量与所述至少两个层级的层级数量相同；
[0038] 所述每一中间训练阶段对应的预定中间层包括：第一中间层和所述第一中间层以上的层级，所述第一中间层的层级数等于该中间训练阶段的阶段数。
[0039] 可选地，所述训练模块，针对所述目标数量个训练阶段中的第一个训练阶段，在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，包括：当利用第一损失函数
计算得到的、所述分类模型对应的损失值，小于第一阈值时，结束所述第一训练阶段的训练
过程；
计算得到的、所述分类模型对应的损失值，小于第一阈值时，结束所述第一训练阶段的训练
过程；
[0040] 所述训练模块，针对所述目标数量个训练阶段中的最后一个训练阶段，在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，包括：
[0041] 当利用第二损失函数计算得到的、所述分类模型对应的损失值，小于第二阈值时，结束所述最后一个训练阶段的训练过程。
[0042] 可选地，所述训练模块，针对所述目标数量个训练阶段中的每个中间训练阶段，在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，包括：
[0043] 当利用第一损失函数计算得到的、所述分类模型对应的损失值，小于第三阈值时，结束该中间训练阶段的训练过程；或者，
[0044] 当利用第二损失函数计算得到的、所述分类模型对应的损失值，小于第四阈值时，结束该中间训练阶段的训练过程。
[0045] 可选地，所述第一损失函数中，对各个分类标签所预测的分布概率值，基于S型函数Sigmoid Function计算获得；
[0046] 所述第二损失函数中，针对每个分类标签，对该分类标签所预测的分布概率值，基于S型函数Sigmoid Function或归一化指数函数Softmax Function计算获得。
[0047] 根据本公开实施例的第三方面，提供一种电子设备，包括：
[0048] 处理器；
[0049] 用于存储处理器可执行指令的存储器；
[0050] 其中，所述处理器被配置为：执行所述存储器上所存放的可执行指令时，实现上述任一种分类模型的训练方法。
[0051] 根据本公开实施例的第四方面，提供一种非临时性计算机可读存储介质，当所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够实现上述任一种分类模
型的训练方法。
型的训练方法。
[0052] 根据本公开实施例的第五方面，提供一种计算机程序产品，当所述计算机程序产品由电子设备的处理器执行时，使得电子设备能够执行上述任一种分类模型的训练方法。
[0053] 本公开的实施例提供的技术方案可以包括以下有益效果：对样本数据集中，样本数据的分类标签按照语义划分为具有上下位关系的至少两个层级；在训练分类模型时，对
模型进行分阶段的训练；在每个训练阶段中，基于样本数据的分类标签所属的层级来选取
样本数据，即在模型的训练过程中，增加了样本数据的分类标签的层级因素。因此，本公开
的实施例提供的技术方案，可以在将样本数据的分类标签之间的上下位关系考虑在内的前
提下，实现对分类模型的有效训练，从而得到准确度较高的分类模型。
模型进行分阶段的训练；在每个训练阶段中，基于样本数据的分类标签所属的层级来选取
样本数据，即在模型的训练过程中，增加了样本数据的分类标签的层级因素。因此，本公开
的实施例提供的技术方案，可以在将样本数据的分类标签之间的上下位关系考虑在内的前
提下，实现对分类模型的有效训练，从而得到准确度较高的分类模型。
[0054] 应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
[0055] 此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。
[0056] 图1是根据一示例性实施例示出的一种分类模型的训练方法的流程图。
[0057] 图2是根据一示例性实施例示出的一种分类模型的训练装置的框图。
[0058] 图3是根据一示例性实施例示出的一种电子设备的框图。
[0059] 图4是根据一示例性实施例示出的一种用于训练分类模型的设备的框图。
[0060] 图5是根据一示例性实施例示出的另一种用于训练分类模型的设备的框图。
具体实施方式
[0061] 这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例
中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反，它们仅是与如所附
权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反，它们仅是与如所附
权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
[0062] 为了解决现有技术问题，本公开实施例提供了一种分类模型的训练方法、装置、电子设备及存储介质。
[0063] 需要说明的是，本公开实施例提供的分类模型的训练方法的执行主体可以为一种分类模型的训练装置，该训练装置可以应用于电子设备中。具体的，该电子设备可以为服务
器或终端设备，在具体应用中，该终端设备可以为计算机、智能手机以及平板设备等。
器或终端设备，在具体应用中，该终端设备可以为计算机、智能手机以及平板设备等。
[0064] 本公开实施例中，分类模型训练时所利用的样本数据集中，每个样本数据具有一分类标签，在对分类模型开始训练之前，预先对各个样本数据的分类标签进行层级划分。具
体的，按照语义将各个分类标签划分为具有上下位关系的至少两个层级，每一分类标签属
于一个层级。
体的，按照语义将各个分类标签划分为具有上下位关系的至少两个层级，每一分类标签属
于一个层级。
[0065] 示例性的，在一种实现方式中，层级的个数，可以在确定了样本数据集之后，根据各个样本数据的分类标签来具体确定。例如，在一个由图片组成的样本数据集中，样本图片
的分类标签包括：哈士奇、人、狗、猫、动物、男人、建筑以及楼房等；针对这些分类标签的标
签内容的上下位关系，可以将这些分类标签划分为三个层级。其中，顶层的分类标签可以包
括：人、动物以及建筑；中间层的分类标签可以包括：猫、狗、楼房以及男人；底层的分类标签
可以包括：哈士奇。
的分类标签包括：哈士奇、人、狗、猫、动物、男人、建筑以及楼房等；针对这些分类标签的标
签内容的上下位关系，可以将这些分类标签划分为三个层级。其中，顶层的分类标签可以包
括：人、动物以及建筑；中间层的分类标签可以包括：猫、狗、楼房以及男人；底层的分类标签
可以包括：哈士奇。
[0066] 示例性的，在另一种实现方式中，层级的个数，也可以为预先确定的层级数，进而，基于预先确定的层级数，将各个分类标签按照语义分配至一个层级中。例如，如果预先确定
的层级数为2，那么，对上述8个分类标签进行层级划分时，顶层的分类标签可以包括：人、男
人、动物以及建筑，底层的分类标签可以为猫、狗、哈士奇以及楼房。
的层级数为2，那么，对上述8个分类标签进行层级划分时，顶层的分类标签可以包括：人、男
人、动物以及建筑，底层的分类标签可以为猫、狗、哈士奇以及楼房。
[0067] 另外，如果样本数据集中，缺少上位的分类标签，或者缺少下位的分类标签，那么，也可以为样本数据集中的分类标签，扩展上位分类标签和下位分类标签。例如，可以为动物
这个分类标签，扩展一个名为哺乳动物的下位分类标签，而猫和狗这两个分类标签，则是哺
乳动物这个分类标签的下位分类标签。
这个分类标签，扩展一个名为哺乳动物的下位分类标签，而猫和狗这两个分类标签，则是哺
乳动物这个分类标签的下位分类标签。
[0068] 可以理解的是，对样本数据的分类标签进行层级分类后，层级形式的分类标签可以形成一个标签树。该标签树中，顶层的分类标签的名称较为上位，因此，顶层的分类标签
也可以称为父亲标签；顶层以下的层级中的分类标签，可以称为子标签，底层的分类标签的
名称较为下位，故底层的分类标签的可以称为叶子标签。
也可以称为父亲标签；顶层以下的层级中的分类标签，可以称为子标签，底层的分类标签的
名称较为下位，故底层的分类标签的可以称为叶子标签。
[0069] 需要说明的是，本公开实施例提供的分类模型的训练方法，同样适用于多标签样本数据的分类模型的训练，这里，多标签样本数据是指一个样本数据具有多个分类标签。在
具体应用中，对于样本数据为多标签样本数据的分类模型，只需对多标签的样本数据的各
个分类标签，同样按照语义划分为具有上下位关系的至少两个层级即可。
具体应用中，对于样本数据为多标签样本数据的分类模型，只需对多标签的样本数据的各
个分类标签，同样按照语义划分为具有上下位关系的至少两个层级即可。
[0070] 需要强调的是，上述对分类标签划分层级的具体划分方式，仅仅作为示例，并不应该构成对本公开实施例的限定，任何基于语义对分类标签进行层级划分的实现方式，均可
以应用于本公开实施例所提供的分类模型的训练方法中。
以应用于本公开实施例所提供的分类模型的训练方法中。
[0071] 另外，本公开实施例中，分类模型的训练过程是分阶段进行的，也就是说，分类模型的训练过程由多个训练阶段构成；而在每个训练阶段，从样本数据集中选取一定数量的
样本数据来进行训练，并使用该训练阶段对应的损失函数，计算分类模型的损失值，当损失
值小于为该训练阶段所预设的阈值时，该训练阶段结束，进入下一训练阶段，直至最后一个
训练阶段结束，分类模型也训练完成。其中，在为每个训练阶段选取样本数据时，可以先确
定每一训练阶段对应的目标层级，按照每个训练阶段对应的目标层级来确定分类标签，进
而也就确定了所要选取的样本数据。可以理解的是，目标层级是上述的对分类标签所划分
的至少两个层级中的一个或多个层级。需要说明的是，本公开实施例中，分类模型至少有两
个训练阶段对应的目标层级不相同。另外，不同的训练阶段可以使用不同的损失函数，当
然，有些训练阶段所使用的损失函数也可以相同。当每个训练阶段中利用损失函数计算得
到的损失值满足预设的阈值时，则可以结束该训练阶段的训练过程，进入下一训练阶段，直
至目标数量个训练阶段全部训练完毕。
样本数据来进行训练，并使用该训练阶段对应的损失函数，计算分类模型的损失值，当损失
值小于为该训练阶段所预设的阈值时，该训练阶段结束，进入下一训练阶段，直至最后一个
训练阶段结束，分类模型也训练完成。其中，在为每个训练阶段选取样本数据时，可以先确
定每一训练阶段对应的目标层级，按照每个训练阶段对应的目标层级来确定分类标签，进
而也就确定了所要选取的样本数据。可以理解的是，目标层级是上述的对分类标签所划分
的至少两个层级中的一个或多个层级。需要说明的是，本公开实施例中，分类模型至少有两
个训练阶段对应的目标层级不相同。另外，不同的训练阶段可以使用不同的损失函数，当
然，有些训练阶段所使用的损失函数也可以相同。当每个训练阶段中利用损失函数计算得
到的损失值满足预设的阈值时，则可以结束该训练阶段的训练过程，进入下一训练阶段，直
至目标数量个训练阶段全部训练完毕。
[0072] 下面首先对本公开实施例提供的分类模型的训练方法进行介绍。
[0073] 图1是根据一示例性实施例示出的一种分类模型的训练方法的流程图，如图1所示，本公开实施例提供的分类模型的训练方法，可以包括以下步骤：
[0074] S11：确定待训练的分类模型所需训练阶段的目标数量。
[0075] 这里，确定待训练的分类模型所需训练阶段的目标数量的具体实现方式存在多种。
[0076] 示例性的，在一种实现方式中，可以基于所述至少两个层级的层级数量，确定待训练的分类模型所需训练阶段的目标数量。例如：将所述至少两个层级的层级数量确定为该
目标数量；或者，将大于或小于所述至少两个层级的层级数量的值，确定为该目标数量。
目标数量；或者，将大于或小于所述至少两个层级的层级数量的值，确定为该目标数量。
[0077] 示例性的，在另一种实现方式中，可以获得操作人员输入的阶段数量，将所获得的阶段数量作为该目标数量。
[0078] 需要强调的是，上述确定待训练的分类模型所需训练阶段的目标数量的具体实现方式仅仅作为示例，并不应该构成对本公开实施例的限定。
[0079] 另外，需要说明的是，任一种用于分类的模型均可以作为本公开的待训练的分类模型。而由于待训练的分类模型的具体结构，不涉及本公开的发明点，因此，本公开对待训
练的分类模型的具体结构进行限定。
练的分类模型的具体结构进行限定。
[0080] S12：针对所述目标数量个训练阶段中的每一训练阶段，确定该训练阶段对应的目标层级，利用样本数据集中，目标层级的分类标签对应的样本数据，对分类模型进行训练，
在分类模型满足预定收敛条件时，结束该训练阶段的训练过程。
在分类模型满足预定收敛条件时，结束该训练阶段的训练过程。
[0081] 其中，所述目标数量个训练阶段中，至少有两个训练阶段对应的目标层级不同。
[0082] 可以理解的是，每一训练阶段所利用的分类标签对应的样本数据，可以是目标层级中的一部分分类标签对应的样本数据，当然，也可以是目标层级中的全部分类标签对应
的样本数据。
的样本数据。
[0083] S13：在最后一个训练阶段结束后，将当前训练得到的分类模型作为训练完成的分类模型。
[0084] 在步骤S12中，针对目标数量个训练阶段中的每一训练阶段，确定该训练阶段对应的目标层级的具体实现方式存在多种。
[0085] 示例性的，在一种实现方式中，针对所述目标数量个训练阶段中的第一个训练阶段，所述确定该训练阶段对应的目标层级的步骤，可以包括：将所述至少两个层级中的顶
层，作为该第一个训练阶段对应的目标层级；
层，作为该第一个训练阶段对应的目标层级；
[0086] 而针对所述目标数量个训练阶段中的最后一个训练阶段，所述确定该训练阶段对应的目标层级的步骤，可以包括：
[0087] 将所述至少两个层级中的所有层级，作为该最后一个训练阶段对应的目标层级。
[0088] 可以理解的是，当待训练的分类模型所需训练阶段的目标数量为2时，第二个训练阶段即是最后一个训练阶段；而当待训练的分类模型所需训练阶段的目标数量大于2时，所
述目标数量个训练阶段，还包括第一个训练阶段和最后一个训练阶段之间的中间训练阶
段。
述目标数量个训练阶段，还包括第一个训练阶段和最后一个训练阶段之间的中间训练阶
段。
[0089] 这里，每个中间训练阶段对应的目标层级的确定方式存在多种。
[0090] 示例性的，在一种实现方式中，所述目标数量为大于2时，针对所述目标数量个训练阶段中，除第一个训练阶段和最后一个训练阶段以外的每一中间训练阶段，所述确定该
训练阶段对应的目标层级的步骤，可以包括：
训练阶段对应的目标层级的步骤，可以包括：
[0091] 将所述顶层以及该中间训练阶段对应的预定中间层，作为该中间训练阶段对应的目标层级；
[0092] 其中，每一中间训练阶段对应的预定中间层包括：除所述顶层和底层以外的一个或多个层级。
[0093] 在另一种实现方式中，每个中间训练阶段对应的目标层级，也可以只包括每个训练阶段的预定中间层。
[0094] 为了方案清楚及布局清晰，后续对每个中间训练阶段对应的预定中间层所包括的具体层级进行示例性的说明。
[0095] 可以理解的是，本公开实施例中，分类模型的训练过程是循序渐进的，首先训练模型实现基础的分类，进而使模型学习层层细化的分类，直至分类模型可以实现较为细化的
分类。例如，在训练一个对图片进行分类的分类模型时，该分类模型的第一个训练阶段完成
之后，该分类模型就可以对图片实现基本的分类，如预测待分类图片的类别是关于风景的
图片，还是关于人物的图片，或者是关于动物的图片等；当第二个训练阶段训练完成之后，
对于包含有动物的待预测分类的图片，可以预测出该图片是关于那种动物的图片；当最后
一个训练阶段完成之后，所有层级中的分类标签都已经参与过分类模型的训练，此时，分类
模型就可以实现对图片中的某种动物的详细品种的预测。
分类。例如，在训练一个对图片进行分类的分类模型时，该分类模型的第一个训练阶段完成
之后，该分类模型就可以对图片实现基本的分类，如预测待分类图片的类别是关于风景的
图片，还是关于人物的图片，或者是关于动物的图片等；当第二个训练阶段训练完成之后，
对于包含有动物的待预测分类的图片，可以预测出该图片是关于那种动物的图片；当最后
一个训练阶段完成之后，所有层级中的分类标签都已经参与过分类模型的训练，此时，分类
模型就可以实现对图片中的某种动物的详细品种的预测。
[0096] 本公开实施例提供的分类模型的训练方法，对样本数据集中，样本数据的分类标签按照语义划分为具有上下位关系的至少两个层级；在训练分类模型时，对模型进行分阶
段的训练；在每个训练阶段中，基于样本数据的分类标签所属的层级来选取样本数据，即在
模型的训练过程中，增加了样本数据的分类标签的层级因素。因此，本公开的实施例提供的
技术方案，可以在将样本数据的分类标签之间的上下位关系考虑在内的前提下，实现对分
类模型的有效训练，从而得到准确度较高的分类模型。
段的训练；在每个训练阶段中，基于样本数据的分类标签所属的层级来选取样本数据，即在
模型的训练过程中，增加了样本数据的分类标签的层级因素。因此，本公开的实施例提供的
技术方案，可以在将样本数据的分类标签之间的上下位关系考虑在内的前提下，实现对分
类模型的有效训练，从而得到准确度较高的分类模型。
[0097] 为了方案清楚及布局清晰，下面对每个中间训练阶段对应的预定中间层所包括的具体层级进行示例性的说明。
[0098] 示例性的，在一种实现方式中，待训练的分类模型所需训练阶段的目标数量，可以与所述至少两个层级的层级数量相同；
[0099] 所述每个中间训练阶段对应的预定中间层，可以包括：第一中间层和所述第一中间层以上的层级，所述第一中间层的层级数等于该中间训练阶段的阶段数。
[0100] 上述实施例中已经提到，预定中间层为顶层和底层以外的一个或多个层级，因此，这里的第一中间层和第一中间层以上的层级，并不包括顶层和底层。
[0101] 举例而言，当所述至少两个层级的层级数量为4时，待训练的分类模型包括4个训练阶段。其中，第一个训练阶段对应的目标层级为所述至少两个层级中的顶层；第二个训练
阶段为中间训练阶段，阶段数为2，故第二个训练阶段对应的第一中间层为所述至少两个层
级中的第二层，而第二个训练阶段对应的预定中间层仅包括该第二层，因此，第二个训练阶
段对应的目标层级为顶层和第二层；第三个训练阶段也为中间训练阶段，阶段数为3，故第
三个训练阶段对应的第一中间层为所述至少两个层级中的第三层，进而，第三个训练阶段
对应的预定中间层包括第三层以及第二层，因此，第三个训练阶段对应的目标层级为顶层、
第二层以及第三层；第四个训练阶段为最后一个训练阶段，故第四个训练阶段对应的目标
层级为所述至少两个层级中的所有层，即顶层、第二层、第三层以及第四层。
阶段为中间训练阶段，阶段数为2，故第二个训练阶段对应的第一中间层为所述至少两个层
级中的第二层，而第二个训练阶段对应的预定中间层仅包括该第二层，因此，第二个训练阶
段对应的目标层级为顶层和第二层；第三个训练阶段也为中间训练阶段，阶段数为3，故第
三个训练阶段对应的第一中间层为所述至少两个层级中的第三层，进而，第三个训练阶段
对应的预定中间层包括第三层以及第二层，因此，第三个训练阶段对应的目标层级为顶层、
第二层以及第三层；第四个训练阶段为最后一个训练阶段，故第四个训练阶段对应的目标
层级为所述至少两个层级中的所有层，即顶层、第二层、第三层以及第四层。
[0102] 可以理解的是，确定了每个训练阶段对应的目标层级后，就可以从标签树相应的层级中选取分类标签，进而就选定了每个训练阶段中，训练分类模型所要利用的样本数据。
[0103] 另外，本公开实施例中，训练分类模型时的各个训练阶段的预定收敛条件存在多种。
[0104] 可选地，在一种实现方式中，针对所述目标数量个训练阶段中的第一个训练阶段，所述在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，可以包括：
[0105] 当利用第一损失函数计算得到的、所述分类模型对应的损失值，小于第一阈值时，结束所述第一训练阶段的训练过程；
[0106] 而针对所述目标数量个训练阶段中的最后一个训练阶段，所述在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，可以包括：
[0107] 当利用第二损失函数计算得到的、所述分类模型对应的损失值，小于第二阈值时，结束所述最后一个训练阶段的训练过程。
[0108] 另外，针对所述目标数量个训练阶段中的每个中间训练阶段，所述在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，可以包括：
[0109] 当利用第一损失函数计算得到的、所述分类模型对应的损失值，小于第三阈值时，结束该中间训练阶段的训练过程；或者，
[0110] 当利用第二损失函数计算得到的、所述分类模型对应的损失值，小于第四阈值时，结束该中间训练阶段的训练过程。
[0111] 需要说明的是，上述的第一阈值、第二阈值、第三阈值以及第四阈值，尽管命名不同，但在数值上可以是相同的值，当然，也可以是不同的值，本发明对此不作限定。
[0112] 另外，上述的第一损失函数中，对各个分类标签所预测的分布概率值，可以基于S型函数Sigmoid Function计算获得，这里，第一损失函数中的各个分类标签为：用该第一损
失函数来计算损失值的一个训练阶段中，所利用的各个样本数据的分类标签。
失函数来计算损失值的一个训练阶段中，所利用的各个样本数据的分类标签。
[0113] 上述的第二损失函数中，针对每个分类标签，对该分类标签所预测的分布概率值，可以基于S型函数Sigmoid Function或归一化指数函数Softmax Function计算获得，这里，
第二损失函数中所针对的每个分类标签为：用该第二损失函数来计算损失值的一个训练阶
段中，所利用的每个样本数据的分类标签。
第二损失函数中所针对的每个分类标签为：用该第二损失函数来计算损失值的一个训练阶
段中，所利用的每个样本数据的分类标签。
[0114] 其中，第一损失函数可以为：
[0115]
[0116] 该第一损失函数中，pn为利用该第一损失函数来计算损失值的一个训练阶段中，第n个分类标签的真实分布概率值，该真实分布概率值为预先能够获得的值，具体为0‑1之
间的值； 为对该第n个分类标签所预测的分布概率值，该预测的分布概率值，使用
Sigmoid函数计算获得，且该预测的分布概率值，同为0‑1之间的值；C为该训练阶段所利用
的样本数据的分类标签的个数； 为该第一损失函数所计算得到的各个pn与
的交叉损失熵之和，该交叉损失熵之和即为利用该第一损失函数来计算损失值的训练阶段
的损失值。
间的值； 为对该第n个分类标签所预测的分布概率值，该预测的分布概率值，使用
Sigmoid函数计算获得，且该预测的分布概率值，同为0‑1之间的值；C为该训练阶段所利用
的样本数据的分类标签的个数； 为该第一损失函数所计算得到的各个pn与
的交叉损失熵之和，该交叉损失熵之和即为利用该第一损失函数来计算损失值的训练阶段
的损失值。
[0117] 第二损失函数可以为：
[0118]
[0119] 该第二损失函数中，pn同样为利用该第二损失函数来计算损失值的一个训练阶段中第n个分类标签的真实分布概率值， 同样为对该第n个分类标签所预测的分布概率值。
与第一损失函数不同的是，该第二损失函数中，第一个求和公式中的 使用Softmax函数
计算获得，第二个求和公式中的 使用Sigmoid函数计算获得；C0为该训练阶段所利用的
样本数据的分类标签中，使用Sigmoid函数来计算 的分类标签的个数，C为该训练阶段所
利用的样本数据的分类标签的个数，可以理解的是，第一个求和公式中，使用Softmax函数
来计算 的分类标签是从C0到C之间的分类标签。 为该第二损失函数所计算
得到的各个pn与 的交叉损失熵之和，该交叉损失熵之和即为利用该第二损失函数来计算
损失值的训练阶段的损失值。
与第一损失函数不同的是，该第二损失函数中，第一个求和公式中的 使用Softmax函数
计算获得，第二个求和公式中的 使用Sigmoid函数计算获得；C0为该训练阶段所利用的
样本数据的分类标签中，使用Sigmoid函数来计算 的分类标签的个数，C为该训练阶段所
利用的样本数据的分类标签的个数，可以理解的是，第一个求和公式中，使用Softmax函数
来计算 的分类标签是从C0到C之间的分类标签。 为该第二损失函数所计算
得到的各个pn与 的交叉损失熵之和，该交叉损失熵之和即为利用该第二损失函数来计算
损失值的训练阶段的损失值。
[0120] 为了方案清楚及布局清晰，下面，以上述包含四个训练阶段的分类模型的训练过程为例，对每个训练阶段的损失值的计算方式进行示例性的说明。其中，关于利用第二损失
函数来计算损失值的训练阶段的分类标签中，哪些分类标签使用Softmax函数计算 哪些
分类标签使用Sigmoid函数计算 也将在这里一并举例说明。
函数来计算损失值的训练阶段的分类标签中，哪些分类标签使用Softmax函数计算 哪些
分类标签使用Sigmoid函数计算 也将在这里一并举例说明。
[0121] 示例性的，在一种实现方式中，该分类模型的第一个训练阶段可以利用第一损失函数来计算损失值；第二个训练阶段、第三个训练阶段以及第四个训练阶段可以利用第二
损失函数来计算损失值。另外，在计算各个训练阶段的损失值时，各个分类标签的 的计算
方式，可以依据该分类标签在标签树中所属的层级而定。
损失函数来计算损失值。另外，在计算各个训练阶段的损失值时，各个分类标签的 的计算
方式，可以依据该分类标签在标签树中所属的层级而定。
[0122] 在实际应用中，标签树中的叶子标签通常是相互独立的，而父亲标签，或者位于中间层级的分类标签通常并不一定是相互独立的。例如，对于对图片进行分类的分类模型来
说，风景和植物这两个父亲标签，是可以产生交集的，风景可以包含花草，花草也可以构成
风景。而哈士奇和泰迪这两个叶子标签则是相互独立的，无法产生交集。因此，计算叶子标
签的 可以采用Softmax函数，这是因为采用Softmax函数所计算的各个 和为1，而由于
采用Sigmoid函数所计算的各个 分布概率，和可以大于1，故在计算各个父亲标签的 时，
可以采用Sigmoid函数；对于位于标签树的中间层级中，既非父亲标签，也非叶子标签的分
类标签，可以采用Softmax函数计算 或者，也可以采用Sigmoid函数计算 具体的，可以
预先确定每个中间层级的分类标签使用这两个函数中的哪一函数来计算 本公开对此不
做限定。
说，风景和植物这两个父亲标签，是可以产生交集的，风景可以包含花草，花草也可以构成
风景。而哈士奇和泰迪这两个叶子标签则是相互独立的，无法产生交集。因此，计算叶子标
签的 可以采用Softmax函数，这是因为采用Softmax函数所计算的各个 和为1，而由于
采用Sigmoid函数所计算的各个 分布概率，和可以大于1，故在计算各个父亲标签的 时，
可以采用Sigmoid函数；对于位于标签树的中间层级中，既非父亲标签，也非叶子标签的分
类标签，可以采用Softmax函数计算 或者，也可以采用Sigmoid函数计算 具体的，可以
预先确定每个中间层级的分类标签使用这两个函数中的哪一函数来计算 本公开对此不
做限定。
[0123] 因此，在计算第一个训练阶段的损失函数的值时，由于第一个训练阶段对应的目标层级为顶层，而顶层中的分类标签均为父亲标签，故在第一个训练阶段中，各个分类标签
的 均可以采用Sigmoid函数计算获得。
的 均可以采用Sigmoid函数计算获得。
[0124] 在计算第二个训练阶段的损失值时，由于第二个训练阶段对应的目标层级为顶层和第二层，故在第二个训练阶段中，各个属于顶层的分类标签的 仍旧可以采用Sigmoid
函数计算，而各个属于第二层的分类标签的 可以采用Sigmoid函数计算，也可以采用
Softmax函数计算。
函数计算，而各个属于第二层的分类标签的 可以采用Sigmoid函数计算，也可以采用
Softmax函数计算。
[0125] 在计算第三个训练阶段的损失值时，由于第三个训练阶段对应的目标层级为顶层、第二层以及第三层，故在第三个训练阶段中，各个属于顶层的分类标签的 仍旧可以
采用Sigmoid函数计算，而各个属于第二层和各个属于第三层的分类标签的 可以采用
Sigmoid函数计算，也可以采用Softmax函数计算。
采用Sigmoid函数计算，而各个属于第二层和各个属于第三层的分类标签的 可以采用
Sigmoid函数计算，也可以采用Softmax函数计算。
[0126] 在计算第四个训练阶段的损失函数的值时，由于第四个训练阶段对应的目标层级为顶层、第二层、第三层以及作为底层的第四层，故在第四个训练阶段中，各个属于顶层的
分类标签的 仍旧可以采用Sigmoid函数计算，各个属于第二层和各个属于第三层的分类
标签，可以采用Sigmoid函数计算，也可以采用Softmax函数计算，而各个属于底层的分类标
签的 可以采用Softmax函数计算。
分类标签的 仍旧可以采用Sigmoid函数计算，各个属于第二层和各个属于第三层的分类
标签，可以采用Sigmoid函数计算，也可以采用Softmax函数计算，而各个属于底层的分类标
签的 可以采用Softmax函数计算。
[0127] 可以理解的是，随着训练阶段的递增，每个分类标签的 是持续更新的。
[0128] 可见，本公开实施例提供的分类模型的训练方法中，每个训练阶段采用与该训练阶段的目标层级相适应的损失函数，进一步提高了训练好的分类模型的准确度。
[0129] 相应于上述的分类模型的训练方法，本公开实施例还提供了一种分类模型的训练装置。需要说明的是，所述分类模型训练时所利用的样本数据集中，每个样本数据具有一分
类标签，且预先将各个样本数据的分类标签，按照语义划分为具有上下位关系的至少两个
层级，每一分类标签属于一个层级。
类标签，且预先将各个样本数据的分类标签，按照语义划分为具有上下位关系的至少两个
层级，每一分类标签属于一个层级。
[0130] 图2是根据一示例性实施例示出的一种分类模型的训练装置的框图。参照图2，该装置包括确定模块121，训练模块122和完成训练模块123。
[0131] 该确定模块121被配置为基于所述至少两个层级的层级数量，确定待训练的分类模型所需训练阶段的目标数量。
[0132] 该训练模块122被配置为被配置为针对所述目标数量个训练阶段中的每一训练阶段，确定该训练阶段对应的目标层级，利用所述样本数据集中，所述目标层级的分类标签对
应的样本数据，对所述分类模型进行训练，在所述分类模型满足预定收敛条件时，结束该训
练阶段的训练过程；其中，所述目标数量个训练阶段中，至少有两个训练阶段对应的目标层
级不同。
应的样本数据，对所述分类模型进行训练，在所述分类模型满足预定收敛条件时，结束该训
练阶段的训练过程；其中，所述目标数量个训练阶段中，至少有两个训练阶段对应的目标层
级不同。
[0133] 该完成训练模块123被配置为在最后一个训练阶段结束后，将当前训练得到的分类模型作为训练完成的分类模型。
[0134] 可选地，在一种实现方式中，所述训练模块122，针对所述目标数量个训练阶段中的第一个训练阶段，确定该训练阶段对应的目标层级，包括：将所述至少两个层级中的顶
层，确定为该第一个训练阶段对应的目标层级；
层，确定为该第一个训练阶段对应的目标层级；
[0135] 所述训练模块122，针对所述目标数量个训练阶段中的最后一个训练阶段，确定该训练阶段对应的目标层级，包括：将所述至少两个层级中的所有层级，确定为该最后一个训
练阶段对应的目标层级。
练阶段对应的目标层级。
[0136] 可选地，在一种实现方式中，所述目标数量为大于2时，所述训练模块122，针对所述目标数量个训练阶段中，除第一个训练阶段和最后一个训练阶段以外的每一中间训练阶
段，确定该训练阶段对应的目标层级，包括：
段，确定该训练阶段对应的目标层级，包括：
[0137] 将所述顶层以及该中间训练阶段对应的预定中间层，确定为该中间训练阶段对应的目标层级；
[0138] 其中，每一中间训练阶段对应的预定中间层包括：除所述顶层和底层以外的一个或多个层级。
[0139] 可选地，在一种实现方式中，所述目标数量与所述至少两个层级的层级数量相同；
[0140] 所述每一中间训练阶段对应的预定中间层包括：第一中间层和所述第一中间层以上的层级，所述第一中间层的层级数等于该中间训练阶段的阶段数。
[0141] 可选地，在一种实现方式中，所述训练模块122，针对所述目标数量个训练阶段中的第一个训练阶段，在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，包
括：当利用第一损失函数计算得到的、所述分类模型对应的损失值，小于第一阈值时，结束
所述第一训练阶段的训练过程；
括：当利用第一损失函数计算得到的、所述分类模型对应的损失值，小于第一阈值时，结束
所述第一训练阶段的训练过程；
[0142] 所述训练模块122，针对所述目标数量个训练阶段中的最后一个训练阶段，在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，包括：
[0143] 当利用第二损失函数计算得到的、所述分类模型对应的损失值，小于第二阈值时，结束所述最后一个训练阶段的训练过程。
[0144] 可选地，在一种实现方式中，所述训练模块122，针对所述目标数量个训练阶段中的每个中间训练阶段，在所述分类模型满足预定收敛条件时，结束该训练阶段的训练过程，
包括：
包括：
[0145] 当利用第一损失函数计算得到的、所述分类模型对应的损失值，小于第三阈值时，结束该中间训练阶段的训练过程；或者，
[0146] 当利用第二损失函数计算得到的、所述分类模型对应的损失值，小于第四阈值时，结束该中间训练阶段的训练过程。
[0147] 可选地，所述第一损失函数中，对各个分类标签所预测的分布概率值，基于S型函数Sigmoid Function计算获得；
[0148] 所述第二损失函数中，针对每个分类标签，对该分类标签所预测的分布概率值，基于S型函数Sigmoid Function或归一化指数函数Softmax Function计算获得。
[0149] 关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
[0150] 另外，相应于上述实施例所提供的一种分类模型的训练方法，本公开实施例还提供了一种电子设备，如图3所示，该电子设备可以包括：
[0151] 处理器310；
[0152] 用于存储处理器可执行指令的存储器320；
[0153] 其中，处理器310被配置为：执行存储器320上所存放的可执行指令时，实现本公开实施例所提供的任一种分类模型的训练方法的步骤。
[0154] 可以理解的是，该电子设备可以是服务器或是终端设备，在具体应用中，该终端设备可以为计算机、智能手机以及平板设备等。
[0155] 图4是根据一示例性实施例示出的一种用于训练分类模型的设备400的框图。例如，设备400可以为计算机、智能手机以及平板设备等。
[0156] 参照图4，设备400可以包括以下一个或多个组件：处理组件402，存储器404，电力组件406，多媒体组件408，音频组件410，输入/输出(I/O)的接口412，传感器组件414，以及
通信组件416。
通信组件416。
[0157] 处理组件402通常控制设备400的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件402可以包括一个或多个处理器420来执行指
令，以完成上述的方法的全部或部分步骤。此外，处理组件402可以包括一个或多个模块，便
于处理组件402和其他组件之间的交互。例如，处理组件402可以包括多媒体模块，以方便多
媒体组件408和处理组件402之间的交互。
令，以完成上述的方法的全部或部分步骤。此外，处理组件402可以包括一个或多个模块，便
于处理组件402和其他组件之间的交互。例如，处理组件402可以包括多媒体模块，以方便多
媒体组件408和处理组件402之间的交互。
[0158] 存储器404被配置为存储各种类型的数据以支持在设备400的操作。这些数据的示例包括用于在设备400上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消
息，图片，视频等。存储器404可以由任何类型的易失性或非易失性存储设备或者它们的组
合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编
程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储
器，磁盘或光盘。
息，图片，视频等。存储器404可以由任何类型的易失性或非易失性存储设备或者它们的组
合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编
程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储
器，磁盘或光盘。
[0159] 电源组件406为设备400的各种组件提供电力。电源组件406可以包括电源管理系统，一个或多个电源，及其他与为设备400生成、管理和分配电力相关联的组件。
[0160] 多媒体组件408包括在所述设备400和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏
幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感
器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作
的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒
体组件408包括一个前置摄像头和/或后置摄像头。当设备400处于操作模式，如拍摄模式或
视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和
后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感
器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作
的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒
体组件408包括一个前置摄像头和/或后置摄像头。当设备400处于操作模式，如拍摄模式或
视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和
后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
[0161] 音频组件410被配置为输出和/或输入音频信号。例如，音频组件410包括一个麦克风(MIC)，当设备400处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配
置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器404或经由通信组
件416发送。在一些实施例中，音频组件410还包括一个扬声器，用于输出音频信号。
置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器404或经由通信组
件416发送。在一些实施例中，音频组件410还包括一个扬声器，用于输出音频信号。
[0162] I/O接口412为处理组件402和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁
定按钮。
定按钮。
[0163] 传感器组件414包括一个或多个传感器，用于为设备400提供各个方面的状态评估。例如，传感器组件414可以检测到设备400的打开/关闭状态，组件的相对定位，例如所述
组件为设备400的显示器和小键盘，传感器组件414还可以检测设备400或设备400一个组件
的位置改变，用户与设备400接触的存在或不存在，设备400方位或加速/减速和设备400的
温度变化。传感器组件414可以包括接近传感器，被配置用来在没有任何的物理接触时检测
附近物体的存在。传感器组件414还可以包括光传感器，如CMOS或CCD图像传感器，用于在成
像应用中使用。在一些实施例中，该传感器组件414还可以包括加速度传感器，陀螺仪传感
器，磁传感器，压力传感器或温度传感器。
组件为设备400的显示器和小键盘，传感器组件414还可以检测设备400或设备400一个组件
的位置改变，用户与设备400接触的存在或不存在，设备400方位或加速/减速和设备400的
温度变化。传感器组件414可以包括接近传感器，被配置用来在没有任何的物理接触时检测
附近物体的存在。传感器组件414还可以包括光传感器，如CMOS或CCD图像传感器，用于在成
像应用中使用。在一些实施例中，该传感器组件414还可以包括加速度传感器，陀螺仪传感
器，磁传感器，压力传感器或温度传感器。
[0164] 通信组件416被配置为便于设备400和其他设备之间有线或无线方式的通信。设备400可以接入基于通信标准的无线网络，如WiFi，运营商网络(如2G、3G、4G或5G)，或它们的
组合。在一个示例性实施例中，通信组件416经由广播信道接收来自外部广播管理系统的广
播信号或广播相关信息。在一个示例性实施例中，所述通信组件416还包括近场通信(NFC)
模块，以促进短程通信。
组合。在一个示例性实施例中，通信组件416经由广播信道接收来自外部广播管理系统的广
播信号或广播相关信息。在一个示例性实施例中，所述通信组件416还包括近场通信(NFC)
模块，以促进短程通信。
[0165] 在示例性实施例中，设备400可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列
(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述任一种分类模型
的训练方法。
(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述任一种分类模型
的训练方法。
[0166] 图5是根据一示例性实施例示出的一种用于训练分类模型的设备500的框图。例如，设备500可以被提供为一服务器。参照图5，设备500包括处理组件522，其进一步包括一
个或多个处理器，以及由存储器532所代表的存储器资源，用于存储可由处理组件522的执
行的指令，例如应用程序。存储器532中存储的应用程序可以包括一个或一个以上的每一个
对应于一组指令的模块。此外，处理组件522被配置为执行指令，以执行上述任一种分类模
型的训练方法。
个或多个处理器，以及由存储器532所代表的存储器资源，用于存储可由处理组件522的执
行的指令，例如应用程序。存储器532中存储的应用程序可以包括一个或一个以上的每一个
对应于一组指令的模块。此外，处理组件522被配置为执行指令，以执行上述任一种分类模
型的训练方法。
[0167] 设备500还可以包括一个电源组件526被配置为执行设备500的电源管理，一个有线或无线网络接口550被配置为将设备500连接到网络，和一个输入输出(I/O)接口558。设
备500可以操作基于存储在存储器532的操作系统，例如Windows ServerTM，Mac OS XTM，
UnixTM,LinuxTM，FreeBSDTM或类似。
备500可以操作基于存储在存储器532的操作系统，例如Windows ServerTM，Mac OS XTM，
UnixTM,LinuxTM，FreeBSDTM或类似。
[0168] 另外，本公开实施例还提供了一种非临时性计算机可读存储介质，当所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行本公开实施例所提供的任
一种分类模型的训练方法。
一种分类模型的训练方法。
[0169] 在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器404，上述指令可由设备400的处理器420执行以完成上述任一种分类
模型的训练方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器
(RAM)、CD‑ROM、磁带、软盘和光数据存储设备等。
模型的训练方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器
(RAM)、CD‑ROM、磁带、软盘和光数据存储设备等。
[0170] 本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本公开旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或
者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识
或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的
权利要求指出。
者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识
或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的
权利要求指出。
[0171] 应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。