生成语音鉴别模型的连续学习方法、装置和电子设备

摘要

本发明涉及一种生成语音鉴别模型的连续学习方法、装置和电子设备，生成语音鉴别模型的连续学习方法包括：获取源数据集，根据源数据集，确定第一数据模型；获取目标数据集，根据目标数据集，对第一数据模型进行梯度修正，以得到第二数据模型；对第二数据模型进行正则化修正，以得到目标数据模型。

权利要求

1.一种生成语音鉴别模型的连续学习方法，其特征在于，所述生成语音鉴别模型的连续学习方法包括：获取源数据集，根据所述源数据集，确定第一数据模型，所述源数据集包括真实语音数据和虚拟语音数据的数据集；

获取目标数据集，根据所述目标数据集，对所述第一数据模型进行梯度修正，以得到第二数据模型，所述目标数据集为应用级的数据集；

对所述第二数据模型进行正则化修正，以得到目标数据模型，包括：获取所述第一数据模型的第一输出值和所述第二数据模型的第二输出值；

对所述第一输出值和所述第二输出值进行对比，以得到输出差值；

根据所述输出差值，更新所述第二数据模型的模型参数，以得到所述目标数据模型；

所述输出差值的计算公式为：

；

其中，L为所述输出差值， 为所述第一输出值， 为所述第二输出值，i为第i个批次的数据；

所述第一输出值计算公式为：

 ；

其中，yo(i)为所述第一数据模型对于所述第i个批次数据的输出值，T为超参数；

所述第二输出值计算公式为：

；

其中，yn(i)为所述第二数据模型对于所述第i个批次数据的输出值，T为超参数。

2.根据权利要求1所述的生成语音鉴别模型的连续学习方法，其特征在于，所述根据所述目标数据集，对所述第一数据模型进行梯度修正，以得到第二数据模型，具体包括：根据所述目标数据集，确定目标数据矩阵；

根据所述目标数据矩阵，确定梯度修正方向；

根据所述梯度修正方向，更新所述第一数据模型的梯度参数，以得到所述第二数据模型。

3.根据权利要求2所述的生成语音鉴别模型的连续学习方法，其特征在于，所述根据所述目标数据集，确定目标数据矩阵，具体包括：将所述目标数据集中的数据转换为矩阵形式数据，以得到所述目标数据矩阵。

4.根据权利要求1至3中任一项所述的生成语音鉴别模型的连续学习方法，其特征在于，所述根据所述源数据集，确定第一数据模型，具体包括：通过所述源数据集，进行模型创建和数据训练，以得到所述第一数据模型。

5.根据权利要求1至3中任一项所述的生成语音鉴别模型的连续学习方法，其特征在于，所述生成语音鉴别模型的连续学习方法，还包括：通过所述目标数据模型，识别所述目标数据集，以得到识别结果。

6.一种生成语音鉴别模型的连续学习装置，其特征在于，生成语音鉴别模型的连续学习装置包括：处理模块，用于获取源数据集，根据所述源数据集，确定第一数据模型，所述源数据集包括真实语音数据和虚拟语音数据的数据集；

处理模块，还用于获取目标数据集，根据所述源数据集和所述目标数据集，对所述第一数据模型进行梯度修正，以得到第二数据模型，所述目标数据集为应用级的数据集；

处理模块，还用于对所述第二数据模型进行正则化修正，以得到目标数据模型；

处理模块，还用于获取所述第一数据模型的第一输出值和所述第二数据模型的第二输出值；

处理模块，还用于对所述第一输出值和所述第二输出值进行对比，以得到输出差值；

处理模块，还用于根据所述输出差值，更新所述第二数据模型的模型参数，以得到所述目标数据模型；

所述输出差值的计算公式为：

；

其中，L为所述输出差值， 为所述第一输出值， 为所述第二输出值，i为第i个批次的数据；

所述第一输出值计算公式为：

 ；

其中，yo(i)为所述第一数据模型对于所述第i个批次数据的输出值，T为超参数；

所述第二输出值计算公式为：

；

其中，yn(i)为所述第二数据模型对于所述第i个批次数据的输出值，T为超参数。

7.一种存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被执行时实现权利要求1至5中任一项所述的生成语音鉴别模型的连续学习方法的步骤。

8.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1至5中任一项所述的生成语音鉴别模型的连续学习方法的步骤。

说明书

生成语音鉴别模型的连续学习方法、装置和电子设备

技术领域

[0001] 本发明涉及数据模型开发技术领域，尤其涉及一种生成语音鉴别模型的连续学习方法、装置和电子设备。

背景技术

[0002] 近年来，随着深度学习的快速发展，语音转换和语音合成技术也日趋成熟，深度模型产生的生成语音已达到与真人相媲美的程度，在人机交互、智能家居、娱乐、教育等领域有广泛的应用。随着相关研究的推进，基于深度学习的生成语音检测模型在部分数据集上表现优异，但在跨数据集场景下，语音检测模型的准确率会大幅的降低。

发明内容

[0003] 有鉴于此，本发明提供一种生成语音鉴别模型的连续学习方法、装置和电子设备。

[0004] 具体地，本发明是通过如下技术方案实现的：

[0005] 根据本发明的第一方面，提供一种生成语音鉴别模型的连续学习方法，生成语音鉴别模型的连续学习方法包括：获取源数据集，根据源数据集，确定第一数据模型；获取目标数据集，根据目标数据集，对第一数据模型进行梯度修正，以得到第二数据模型；对第二数据模型进行正则化修正，以得到目标数据模型。

[0006] 本发明提供的生成语音鉴别模型的连续学习方法的技术方案的执行主体可以为连续学习装置，还可以根据实际使用需求进行确定，在此不作具体限定。为了更加清楚地描述本发明提供的生成语音鉴别模型的连续学习方法，下面以连续学习装置为执行主体进行说明。

[0007] 在该技术方案中，提供了一种生成语音鉴别模型的连续学习方法，连续学习装置通过源数据集，建立并训练第一数据模型，其中，源数据集为用于训练数据模型的数据集，第一数据模型为通过源数据集训练得到的数据模型，数据模型为能够识别具体数据的模型文件。在一些实施例中，源数据集可以具体为包括真实语音数据和虚拟语音数据的数据集，其中，虚拟语音数据可以为计算机合成的语音数据，真实语音数据可以为用户录制的语音数据。第一数据模型可以具体为识别语音为真实语音或者虚拟语音的数据模型。

[0008] 连续学习装置获取目标数据集，通过目标数据集对第一数据模型进行再次训练，在训练第一数据模型的过程中，连续学习装置通过目标数据集，修正第一数据模型的梯度参数，进而得到第二数据模型，其中，目标数据集为应用第一数据模型的应用数据集，第二数据模型为第一数据模型修正后的数据模型，梯度参数为表示数据模型中变化率最大向量参数。在一些实施例中，目标数据集可以具体为应用级的数据集，梯度参数可以具体包括第一数据模型的梯度下降方向，第二数据模型可以具体为修正梯度下降方向的数据模型。

[0009] 确定第二数据模型之后，连续学习装置对第二数据模型进行正则化修正，将第二数据模型更新为目标数据模型，其中，目标数据模型为在第二数据模型的基础上优化后的数据模型，正则化修正为对数据模型的参数进行限制的过程。

[0010] 在一些实施例中，目标数据模型可以具体为能够高准确率识别真实语音和虚拟语音的数据模型，正则化修正可以具体为对数据模型的输出参数进行规则化的过程。

[0011] 在一些实施例中，连续学习装置可以通过目标数据集，连续多次对第一数据模型进行数据训练，同时可以对第一数据模型进行梯度修正，得到第二数据模型，并对第二数据模型进行正则化约束，进而得到目标数据模型。

[0012] 在一些实施例中，源数据集可以具体为连续学习过程中的源数据集。

[0013] 在一些实施例中，目标数据集可以具体为连续学习过程中的目标数据集。

[0014] 在一些实施例中，在连续学习的过程中，目标数据集会对源数据集产生灾难性遗忘，导致目标数据集对源数据集的识别准确率大幅度下降，连续学习装置通过目标数据集，优化第一数据模型，得到目标数据模型，在提高目标数据模型对于目标数据集的识别准确率的基础上，保证了目标数据集对源数据集的识别准确率。

[0015] 在一些实施例中，在无法获取源数据集的情况下，连续学习装置可以只通过目标数据集，优化第一数据模型，得到目标数据模型，进而提升了目标数据模型的应用适配性。

[0016] 在一些实施例中，在源数据集和目标数据集的基础上，连续学习装置可以通过其他多个数据集进行连续学习，保证目标数据模型对其他多个数据集的识别准确率，扩展了目标数据模型的应用范围。

[0017] 本技术方案中的生成语音鉴别模型的连续学习方法通过目标数据集，修正第一数据模型的梯度，得到第二数据模型，并对第二数据模型进行正则化修正，确定目标数据模型，既保证了目标数据模型对于源数据集的识别准确率，又大幅度提高了目标数据模型对于源数据集目标数据集的识别准确率，进而保证了目标数据模型对于源数据集和目标数据集等不同种类数据集的数据识别能力。

[0018] 根据本发明的第二方面，提供一种生成语音鉴别模型的连续学习装置，生成语音鉴别模型的连续学习装置包括：处理模块，用于获取源数据集，根据源数据集，确定第一数据模型；处理模块，还用于获取目标数据集，根据源数据集和目标数据集，对第一数据模型进行梯度修正，以得到第二数据模型；处理模块，还用于对第二数据模型进行正则化修正，以得到目标数据模型。

[0019] 在该技术方案中，提供了一种生成语音鉴别模型的连续学习装置，处理模块通过源数据集，建立并训练第一数据模型，其中，源数据集为用于训练数据模型的数据集，第一数据模型为通过源数据集训练得到的数据模型，数据模型为能够识别具体数据的模型文件。

[0020] 在一些实施例中，源数据集可以具体为包括真实语音数据和虚拟语音数据的数据集，其中，虚拟语音数据可以为计算机合成的语音数据，真实语音数据可以为用户录制的语音数据。第一数据模型可以具体为识别语音为真实语音或者虚拟语音的数据模型。

[0021] 处理模块获取目标数据集，通过目标数据集对第一数据模型进行再次训练，在训练第一数据模型的过程中，处理模块通过源数据集和目标数据集，修正第一数据模型的梯度参数，进而得到第二数据模型，其中，目标数据集为应用第一数据模型的应用数据集，第二数据模型为第一数据模型修正后的数据模型，梯度参数为表示数据模型中变化率最大向量参数。

[0022] 在一些实施例中，目标数据集可以具体为应用级的数据集，梯度参数可以具体包括第一数据模型的梯度下降方向，第二数据模型可以具体为修正梯度下降方向的数据模型。

[0023] 确定第二数据模型之后，处理模块对第二数据模型进行正则化修正，将第二数据模型更新为目标数据模型，其中，目标数据模型为在第二数据模型的基础上优化后的数据模型，正则化修正为对数据模型的参数进行限制的过程。

[0024] 在一些实施例中，目标数据模型可以具体为能够高准确率识别真实语音和虚拟语音的数据模型，正则化修正可以具体为对数据模型的输出参数进行规则化的过程。

[0025] 在一些实施例中，处理模块可以通过目标数据集，连续多次对第一数据模型进行数据训练，同时可以对第一数据模型进行梯度修正，得到第二数据模型，并对第二数据模型进行正则化约束，进而得到目标数据模型。

[0026] 在一些实施例中，源数据集可以具体为连续学习过程中的源数据集。

[0027] 在一些实施例中，目标数据集可以具体为连续学习过程中的目标数据集。

[0028] 在一些实施例中，在连续学习的过程中，目标数据集会对源数据集产生灾难性遗忘，导致目标数据集对源数据集的识别准确率大幅度下降，连续学习装置通过目标数据集，优化第一数据模型，得到目标数据模型，在提高目标数据模型对于目标数据集的识别准确率的基础上，保证了目标数据集对源数据集的识别准确率。

[0029] 在一些实施例中，在无法获取源数据集的情况下，连续学习装置可以只通过目标数据集，优化第一数据模型，得到目标数据模型，进而提升了目标数据模型的应用适配性。

[0030] 在一些实施例中，在源数据集和目标数据集的基础上，连续学习装置可以通过其他多个数据集进行连续学习，保证目标数据模型对其他多个数据集的识别准确率，扩展了目标数据模型的应用范围。

[0031] 本技术方案中的生成语音鉴别模型的连续学习装置通过目标数据集，修正第一数据模型的梯度，得到第二数据模型，并对第二数据模型进行正则化修正，确定目标数据模型，既保证了目标数据模型对于源数据集的识别准确率，又大幅度提高了目标数据模型对于目标数据集的识别准确率源数据集目标数据集，进而保证了目标数据模型对于源数据集和目标数据集等不同种类数据集的数据识别能力。

[0032] 根据本发明的第三方面，提供一种存储介质，其上存储有计算机程序，计算机程序被执行时实现第一方面的任意可能的实现方式中的生成语音鉴别模型的连续学习方法的步骤。

[0033] 根据本发明的第四方面，提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时实现第一方面的任意可能的实现方式中的生成语音鉴别模型的连续学习方法的步骤。

[0034] 本发明提供的技术方案至少带来以下有益效果：

[0035] 既保证了目标数据模型对于源数据集的识别准确率，又大幅度提高了目标数据模型对于目标数据集的识别准确率，源数据集目标数据集进而保证了目标数据模型对于源数据集和目标数据集等不同种类数据集的数据识别能力。

附图说明

[0036] 此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。

[0037] 为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

[0038] 图1为本发明实施例提供的一种生成语音鉴别模型的连续学习方法的流程示意图之一；

[0039] 图2为本发明实施例提供的一种生成语音鉴别模型的连续学习方法的流程示意图之二；

[0040] 图3为本发明实施例提供的一种生成语音鉴别模型的连续学习方法的流程示意图之三；

[0041] 图4为本发明实施例提供的一种生成语音鉴别模型的连续学习方法的流程示意图之四；

[0042] 图5为本发明实施例提供的一种生成语音鉴别模型的连续学习方法的流程示意图之五；

[0043] 图6为本发明实施例提供的一种生成语音鉴别模型的连续学习方法的流程示意图之六；

[0044] 图7为本发明实施例提供的一种生成语音鉴别模型的连续学习方法的流程示意图之七；

[0045] 图8为本发明实施例提供的一种生成语音鉴别模型的连续学习方法的流程示意图之八；

[0046] 图9为本发明实施例提供的一种生成语音鉴别模型的连续学习方法的流程示意图之九；

[0047] 图10为本发明实施例提供的一种生成语音鉴别模型的连续学习装置的结构示意图。

[0048] 图11为本发明实施例提供的一种生成语音鉴别模型的连续学习装置的示意图。

[0049] 图12为本发明实施例提供的一种电子设备的结构示意图。

具体实施方式

[0050] 为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明的一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

[0051] 本发明提供的生成语音鉴别模型的连续学习方法的技术方案的执行主体可以为连续学习装置，还可以根据实际使用需求进行确定，在此不作具体限定。为了更加清楚地描述本发明提供的生成语音鉴别模型的连续学习方法，下面以连续学习装置为执行主体进行说明。

[0052] 参见图1，本发明实施例提供了一种生成语音鉴别模型的连续学习方法，该生成语音鉴别模型的连续学习方法可以包括如下步骤：

[0053] S101、获取源数据集，根据源数据集，确定第一数据模型；

[0054] S102、获取目标数据集，根据目标数据集，对第一数据模型进行梯度修正，以得到第二数据模型；

[0055] S103、对第二数据模型进行正则化修正，以得到目标数据模型。

[0056] 在该实施例中，提供了一种生成语音鉴别模型的连续学习方法，连续学习装置通过源数据集，建立并训练第一数据模型，其中，源数据集为用于训练数据模型的数据集，第一数据模型为通过源数据集训练得到的数据模型，数据模型为能够识别具体数据的模型文件。

[0057] 在一些实施例中，源数据集可以具体为包括真实语音数据和虚拟语音数据的数据集，其中，虚拟语音数据可以为计算机合成的语音数据，真实语音数据可以为用户录制的语音数据。第一数据模型可以具体为识别语音为真实语音或者虚拟语音的数据模型。

[0058] 连续学习装置获取目标数据集，通过目标数据集对第一数据模型进行再次训练，在训练第一数据模型的过程中，连续学习装置通过目标数据集，修正第一数据模型的梯度参数，进而得到第二数据模型，其中，目标数据集为应用第一数据模型的应用数据集，第二数据模型为第一数据模型修正后的数据模型，梯度参数为表示数据模型中变化率最大向量参数。

[0059] 在一些实施例中，目标数据集可以具体为应用级的数据集，梯度参数可以具体包括第一数据模型的梯度下降方向，第二数据模型可以具体为修正梯度下降方向的数据模型。

[0060] 确定第二数据模型之后，连续学习装置对第二数据模型进行正则化修正，将第二数据模型更新为目标数据模型，其中，目标数据模型为在第二数据模型的基础上优化后的数据模型，正则化修正为对数据模型的参数进行限制的过程。

[0061] 在一些实施例中，目标数据模型可以具体为能够高准确率识别真实语音和虚拟语音的数据模型，正则化修正可以具体为对数据模型的输出参数进行规则化的过程。

[0062] 在一些实施例中，连续学习装置可以通过目标数据集，连续多次对第一数据模型进行数据训练，同时可以对第一数据模型进行梯度修正，得到第二数据模型，并对第二数据模型进行正则化约束，进而得到目标数据模型。

[0063] 在一些实施例中，源数据集可以具体为连续学习过程中的源数据集。

[0064] 在一些实施例中，目标数据集可以具体为连续学习过程中的目标数据集。

[0065] 在一些实施例中，在连续学习的过程中，目标数据集会对源数据集产生灾难性遗忘，导致目标数据集对源数据集的识别准确率大幅度下降，连续学习装置通过目标数据集，优化第一数据模型，得到目标数据模型，在提高目标数据模型对于目标数据集的识别准确率的基础上，保证了目标数据集对源数据集的识别准确率。

[0066] 在一些实施例中，在无法获取源数据集的情况下，连续学习装置可以只通过目标数据集，优化第一数据模型，得到目标数据模型，进而提升了目标数据模型的应用适配性。

[0067] 在一些实施例中，在源数据集和目标数据集的基础上，连续学习装置可以通过其他多个数据集进行连续学习，保证目标数据模型对其他多个数据集的识别准确率，扩展了目标数据模型的应用范围。

[0068] 本实施例中的生成语音鉴别模型的连续学习方法通过目标数据集，修正第一数据模型的梯度，得到第二数据模型，并对第二数据模型进行正则化修正，确定目标数据模型，既保证了目标数据模型对于源数据集的识别准确率，又大幅度提高了目标数据模型对于源数据集目标数据集的识别准确率，进而保证了目标数据模型对于源数据集和目标数据集等不同种类数据集的数据识别能力。参见图2，本发明实施例提供了一种生成语音鉴别模型的连续学习方法，该生成语音鉴别模型的连续学习方法可以包括如下步骤：

[0069] S201、获取源数据集，根据源数据集，确定第一数据模型；

[0070] S202、根据目标数据集，确定目标数据矩阵；

[0071] S203、根据目标数据矩阵，确定梯度修正方向；

[0072] S204、根据梯度修正方向，更新第一数据模型的梯度参数，以得到第二数据模型；

[0073] S205、对第二数据模型进行正则化修正，以得到目标数据模型。

[0074] 在该实施例中，连续学习装置对目标数据集中的数据进行数据转换，得到目标数据集对应的目标数据矩阵，其中，目标数据矩阵为目标数据集对应的数据矩阵。

[0075] 在一些实施例中，目标数据矩阵可以具体为目标数据集展开的正交投影矩阵。

[0076] 在一些实施例中，真数据为目标数据集中的录制的真实语音数据，假数据为目标数据集中的计算合成的虚拟语音数据。

[0077] 在一些实施例中，真假数据比例可以具体为50%。

[0078] 连续学习装置对目标数据矩阵进行数据运算，得到梯度修正方向，其中，梯度修正方向为第一数据模型需要修正的梯度方向，梯度方向为第一数据模型中梯度变化最大的方向。

[0079] 连续学习装置根据梯度修正方向，修正第一数据模型的梯度方向，得到第二数据模型。

[0080] 本实施例中的生成语音鉴别模型的连续学习方法根据目标数据集对应的目标数据矩阵，确定梯度修正方向，进而根据梯度修正方向，修正第一数据模型的梯度方向，确定第二数据模型，提高了第二数据模型对于目标数据集的识别准确率，同时保证了第二数据模型对于源数据集的数据识别效果。

[0081] 参见图3，本发明实施例提供了一种生成语音鉴别模型的连续学习方法，该生成语音鉴别模型的连续学习方法可以包括如下步骤：

[0082] S301、获取源数据集，根据源数据集，确定第一数据模型；

[0083] S302、将目标数据集中的数据转换为矩阵形式数据，以得到目标数据矩阵；

[0084] S303、根据目标数据矩阵，确定梯度修正方向；

[0085] S304、根据梯度修正方向，更新第一数据模型的梯度参数，以得到第二数据模型；

[0086] S305、对第二数据模型进行正则化修正，以得到目标数据模型。

[0087] 在该实施例中，连续学习装置将目标数据集中的数据转换为目标数据矩阵。

[0088] 在一些实施例中，连续学习装置可以将目标数据集中的数据展开，进而得到目标数据矩阵。

[0089] 在一些实施例中，目标数据矩阵R的计算公式可以具体为：

[0090] R(i,j)=Rl(i‑1,j)‑k1(i,j)`Xl‑1(i,j)TRl(i‑1,j)；

[0091] kl(i,j)=Rl(i‑1,j)`Xl‑1(i,j)/(a+`Xl‑1(i,j)TRl(i‑1,j)`Xl‑1(i,j))；

[0092] 其中，kl(i,j)为中间变量，i为第i个批次的数据，j为第j个数据集，Rl(i‑1,j)为(i‑1,j)对应的数据矩阵，a为超参数，`Xl‑1为第一数据模型的第l‑1层输出的均值，`Xl‑1(i,Tj) 为`Xl‑1(i,j)的转置。

[0093] 本实施例中的生成语音鉴别模型的连续学习方法将目标数据集转换为目标数据矩阵，保证了由源数据集确定的目标数据矩阵的数据准确性。

[0094] 参见图4，本发明实施例提供了一种生成语音鉴别模型的连续学习方法，该生成语音鉴别模型的连续学习方法可以包括如下步骤：

[0095] S401、获取源数据集，根据源数据集，确定第一数据模型；

[0096] S402、获取目标数据集，根据目标数据集，对第一数据模型进行梯度修正，以得到第二数据模型；

[0097] S403、获取第一数据模型的第一输出值和第二数据模型的第二输出值；

[0098] S404、根据第一输出值和第二输出值，更新第二数据模型，以得到目标数据模型。

[0099] 在该实施例中，连续学习装置获取并保存第一数据模型的第一输出值，在确定第二数据模型之后，连续学习装置获取第二数据模型的第二输出值，其中，第一输出值为第一数据模型的输出值，第二输出值为第二数据模型的输出值。

[0100] 在一些实施例中，第一输出值可以具体为第一数据模型的输出分布，第二输出值可以具体为第二数据模型的输出分布，输出分布可以表示数据模型的输出分布情况。

[0101] 连续学习装置通过第一输出值和第二输出值，调整第二数据模型的模型参数，进而得到目标数据模型。

[0102] 在一些实施例中，连续学习装置可以通过第一输出值和第二输出值，对第二数据模型的模型参数进行正则化修正，以得到目标数据模型。

[0103] 本实施例中的生成语音鉴别模型的连续学习方法根据第一数据模型的第一输出值和第二数据模型的第二输出值，更新第二数据模型，确定目标数据模型，提高了目标数据模型的数据识别率，进而保证了目标数据模型的数据识别效果。

[0104] 参见图5，本发明实施例提供了一种生成语音鉴别模型的连续学习方法，该生成语音鉴别模型的连续学习方法可以包括如下步骤：

[0105] S501、获取源数据集，根据源数据集，确定第一数据模型；

[0106] S502、获取目标数据集，根据目标数据集，对第一数据模型进行梯度修正，以得到第二数据模型；

[0107] S503、获取第一数据模型的第一输出值和第二数据模型的第二输出值；

[0108] S504、对第一输出值和第二输出值进行对比，以得到输出差值；

[0109] S505、根据输出差值，更新第二数据模型的模型参数，以得到目标数据模型。

[0110] 在该实施例中，连续学习装置对比第一输出值和第二输出值，确定第一输出值和第二输出值之间的输出差值，其中，输出差值为第一输出值和第二输出值之间的差异。

[0111] 连续学习装置根据输出差值，调整第二数据模型的模型参数，进而确定目标数据模型，其中，模型参数为第二数据模型的数据参数。

[0112] 在一些实施例中，第一输出值可以具体为第一数据模型的输出分布，并可以将第一输出值设置为软标签，输出差值可以具体为第二数据模型的输出分布与软标签的差异。

[0113] 在一些实施例中，输出差值L的计算公式可以具体为：

[0114] ；

[0115] 其中， 为第一输出值， 为第二输出值，i为第i个批次的数据。

[0116] 第一输出值计算公式可以具体为：

[0117] ；

[0118] 其中，yo(i)为第一数据模型对于第i个批次数据的输出值，T为超参数。

[0119] 第二输出值计算公式可以具体为：

[0120] ；

[0121] 其中，yn(i)为第二数据模型对于第i个批次数据的输出值，T为超参数。

[0122] 本实施例中的生成语音鉴别模型的连续学习方法根据第一数据模型的第一输出值和第二数据模型的第二输出值，确定输出差值，并通过输出差值，调整第二数据模型的模型参数，进而确定目标数据模型，减少了目标数据模型的输出与第一输出值之间的差异，进而保证了目标数据模型对已学知识的记忆。

[0123] 参见图6，本发明实施例提供了一种生成语音鉴别模型的连续学习方法，该生成语音鉴别模型的连续学习方法可以包括如下步骤：

[0124] S601、通过源数据集，进行模型创建和数据训练，以得到第一数据模型；

[0125] S602、获取目标数据集，根据目标数据集，对第一数据模型进行梯度修正，以得到第二数据模型；

[0126] S603、对第二数据模型进行正则化修正，以得到目标数据模型。

[0127] 在该实施例中，连续学习装置获取源数据集，根据源数据集，建立模型并进行数据训练，进而得到第一数据模型。

[0128] 本实施例中的生成语音鉴别模型的连续学习方法通过源数据集进行模型创建和数据训练，确定第一数据模型，保证了第一数据模型对于源数据集的数据识别准确性。

[0129] 参见图7，本发明实施例提供了一种生成语音鉴别模型的连续学习方法，该生成语音鉴别模型的连续学习方法可以包括如下步骤：

[0130] S701、获取源数据集，根据源数据集，确定第一数据模型；

[0131] S702、获取目标数据集，根据源数据集和目标数据集，对第一数据模型进行梯度修正，以得到第二数据模型；

[0132] S703、对第二数据模型进行正则化修正，以得到目标数据模型；

[0133] S704、通过目标数据模型，识别目标数据集，以得到识别结果。

[0134] 在该实施例中，连续学习装置使用目标数据模型，检测目标数据集中的数据，确定目标数据集的识别结果，其中，识别结果为目标数据集的数据识别结果。

[0135] 在一些实施例中，识别结果可以具体为目标数据集的语音真假识别结果。

[0136] 本实施例中的生成语音鉴别模型的连续学习方法通过目标数据模型，检测目标数据集中的数据，确定目标数据集的识别结果，保证了目标数据模型的数据识别准确性，进而保证了识别结果的准确性。

[0137] 参见图8，本发明实施例提供了一种生成语音鉴别模型的连续学习方法，该生成语音鉴别模型的连续学习方法可以包括如下步骤：

[0138] S801、语音源训练数据集；

[0139] S802、预训练后的伪造语音检测模型；

[0140] S803、语音目标训练数据集；

[0141] S804、自适应梯度方向修正；

[0142] S805、正则化约束；

[0143] S806、连续学习后的伪造语音检测模型；

[0144] S807、输出语音的真假。

[0145] 在该实施例中，连续学习装置通过源数据集，建立并训练第一数据模型。

[0146] 在一些实施例中，源数据集可以具体为语音源训练数据集，第一数据模型可以具体为伪造语音检测模型。

[0147] 连续学习装置获取目标数据集，通过目标数据集对第一数据模型进行再次训练，在训练的过程中，连续学习装置通过源数据集和目标数据集，修正第一数据模型的梯度参数，进而得到第二数据模型。

[0148] 在一些实施例中，目标数据集可以具体为语音目标训练数据集。

[0149] 确定第二数据模型之后，连续学习装置对第二数据模型进行正则化修正，将第二数据模型更新为目标数据模型。

[0150] 在一些实施例中，目标数据模型可以具体为伪造语音检测模型。

[0151] 连续学习装置使用目标数据模型，检测目标数据集中的数据，确定目标数据集的识别结果，其中，识别结果为目标数据集的数据识别结果。

[0152] 在一些实施例中，识别结果可以具体为目标数据集的语音真假识别结果。

[0153] 本实施例中的生成语音鉴别模型的连续学习方法通过源数据集和目标数据集，修正第一数据模型的梯度，得到第二数据模型，并对第二数据模型进行正则化修正，确定目标数据模型，大幅度提高了目标数据模型的识别准确率，提升了目标数据模型的数据识别效果，进而保证了目标数据模型对于不同种类数据集的数据识别能力。

[0154] 参见图9，本发明实施例提供了一种生成语音鉴别模型的连续学习方法，该生成语音鉴别模型的连续学习方法可以包括如下步骤：

[0155] S901、目标语音训练数据集；

[0156] S902、计算源数据平面的正交投影R；

[0157] S903、按照R更新模型参数。

[0158] 在该实施例中，在该实施例中，连续学习装置对目标数据集中的数据进行数据转换，得到目标数据集对应的目标数据矩阵。

[0159] 在一些实施例中，目标数据矩阵可以具体为源数据平面的正交投影R。

[0160] 连续学习装置根据目标数据矩阵，对第一数据模型的梯度方向进行修正，得到第二数据模型。

[0161] 本实施例中的生成语音鉴别模型的连续学习方法根据目标数据集对应的目标数据矩阵，确定梯度修正方向，进而根据梯度修正方向，修正第一数据模型的梯度方向，确定第二数据模型，提高了第二数据模型对于目标数据集的识别准确率，同时保证了第二数据模型对于源数据集的数据识别效果。

[0162] 基于同一发明构思，如图10所示，本发明实施例还提供了一种生成语音鉴别模型的连续学习装置，生成语音鉴别模型的连续学习装置1000包括：

[0163] 处理模块1001，用于获取源数据集，根据源数据集，确定第一数据模型；

[0164] 处理模块1001，还用于获取目标数据集，根据目标数据集，对第一数据模型进行梯度修正，以得到第二数据模型；

[0165] 处理模块1001，还用于对第二数据模型进行正则化修正，以得到目标数据模型。

[0166] 在该实施例中，提供了一种生成语音鉴别模型的连续学习装置，处理模块1001通过源数据集，建立并训练第一数据模型，其中，源数据集为用于训练数据模型的数据集，第一数据模型为通过源数据集训练得到的数据模型，数据模型为能够识别具体数据的模型文件。

[0167] 在一些实施例中，源数据集可以具体为包括真实语音数据和虚拟语音数据的数据集，其中，虚拟语音数据可以为计算机合成的语音数据，真实语音数据可以为用户录制的语音数据。第一数据模型可以具体为识别语音为真实语音或者虚拟语音的数据模型。

[0168] 处理模块1001获取目标数据集，通过目标数据集对第一数据模型进行再次训练，在训练第一数据模型的过程中，处理模块1001通过目标数据集，修正第一数据模型的梯度参数，进而得到第二数据模型，其中，目标数据集为应用第一数据模型的应用数据集，第二数据模型为第一数据模型修正后的数据模型，梯度参数为表示数据模型中变化率最大向量参数。

[0169] 在一些实施例中，目标数据集可以具体为应用级的数据集，梯度参数可以具体包括第一数据模型的梯度下降方向，第二数据模型可以具体为修正梯度下降方向的数据模型。

[0170] 确定第二数据模型之后，处理模块1001对第二数据模型进行正则化修正，将第二数据模型更新为目标数据模型，其中，目标数据模型为在第二数据模型的基础上优化后的数据模型，正则化修正为对数据模型的参数进行限制的过程。

[0171] 在一些实施例中，目标数据模型可以具体为能够高准确率识别真实语音和虚拟语音的数据模型，正则化修正可以具体为对数据模型的输出参数进行规则化的过程。

[0172] 在一些实施例中，处理模块1001可以通过目标数据集，连续多次对第一数据模型进行数据训练，同时可以对第一数据模型进行梯度修正，得到第二数据模型，并对第二数据模型进行正则化约束，进而得到目标数据模型。

[0173] 在一些实施例中，源数据集可以具体为连续学习过程中的源数据集。

[0174] 在一些实施例中，目标数据集可以具体为连续学习过程中的目标数据集。

[0175] 在一些实施例中，在连续学习的过程中，目标数据集会对源数据集产生灾难性遗忘，导致目标数据集对源数据集的识别准确率大幅度下降，连续学习装置通过目标数据集，优化第一数据模型，得到目标数据模型，在提高目标数据模型对于目标数据集的识别准确率的基础上，保证了目标数据集对源数据集的识别准确率。

[0176] 在一些实施例中，在无法获取源数据集的情况下，连续学习装置可以只通过目标数据集，优化第一数据模型，得到目标数据模型，进而提升了目标数据模型的应用适配性。

[0177] 在一些实施例中，在源数据集和目标数据集的基础上，连续学习装置可以通过其他多个数据集进行连续学习，保证目标数据模型对其他多个数据集的识别准确率，扩展了目标数据模型的应用范围。

[0178] 本实施例中的生成语音鉴别模型的连续学习装置1000通过目标数据集，修正第一数据模型的梯度，得到第二数据模型，并对第二数据模型进行正则化修正，确定目标数据模型，既保证了目标数据模型对于源数据集的识别准确率，又大幅度提高了目标数据模型对于源数据集目标数据集的识别准确率，进而保证了目标数据模型对于源数据集和目标数据集等不同种类数据集的数据识别能力。基于同一发明构思，本发明实施例还提供了一种生成语音鉴别模型的连续学习装置，生成语音鉴别模型的连续学习装置1000包括：

[0179] 处理模块1001，用于根据目标数据集，确定目标数据矩阵；

[0180] 处理模块1001，还用于根据目标数据矩阵，确定梯度修正方向；

[0181] 处理模块1001，还用于根据梯度修正方向，更新第一数据模型的梯度参数，以得到第二数据模型。

[0182] 本实施例中的生成语音鉴别模型的连续学习装置1000根据目标数据集对应的目标数据矩阵，确定梯度修正方向，进而根据梯度修正方向，修正第一数据模型的梯度方向，确定第二数据模型，提高了第二数据模型对于目标数据集的识别准确率，同时保证了第二数据模型对于源数据集的数据识别效果。

[0183] 基于同一发明构思，本发明实施例还提供了一种生成语音鉴别模型的连续学习装置，生成语音鉴别模型的连续学习装置1000包括：

[0184] 处理模块1001，用于将目标数据集中的数据转换为矩阵形式数据，以得到目标数据矩阵。

[0185] 本实施例中的生成语音鉴别模型的连续学习装置1000将目标数据集转换为目标数据矩阵，保证了由目标数据集确定的目标数据矩阵的数据准确性。

[0186] 基于同一发明构思，本发明实施例还提供了一种生成语音鉴别模型的连续学习装置，生成语音鉴别模型的连续学习装置1000包括：

[0187] 处理模块1001，用于获取第一数据模型的第一输出值和第二数据模型的第二输出值；

[0188] 处理模块1001，还用于根据第一输出值和第二输出值，更新第二数据模型，以得到目标数据模型。

[0189] 本实施例中的生成语音鉴别模型的连续学习装置1000根据第一数据模型的第一输出值和第二数据模型的第二输出值，更新第二数据模型，确定目标数据模型，提高了目标数据模型的数据识别率，进而保证了目标数据模型的数据识别效果。

[0190] 基于同一发明构思，本发明实施例还提供了一种生成语音鉴别模型的连续学习装置，生成语音鉴别模型的连续学习装置1000包括：

[0191] 处理模块1001，用于对第一输出值和第二输出值进行对比，以得到输出差值；

[0192] 处理模块1001，还用于根据输出差值，更新第二数据模型的模型参数，以得到目标数据模型。

[0193] 在一些实施例中，如图11所示，第一数据模型可以具体为预训练后的伪造音频检测模型，第一数据模型的第一输出值可以具体为旧的输出分布，目标数据集可以具体为语音目标训练数据集，处理模块1001可以对第一数据模型进行自适应梯度修正，得到第二数据模型，第二数据模型的第二输出值可以具体为新的输出分布，输出差值可以具体为最小化新旧输出分布的差异。

[0194] 本实施例中的生成语音鉴别模型的连续学习装置1000根据第一数据模型的第一输出值和第二数据模型的第二输出值，确定输出差值，并通过输出差值，调整第二数据模型的模型参数，进而确定目标数据模型，减少了目标数据模型的输出与第一输出值之间的差异，进而保证了目标数据模型对已学知识的记忆。

[0195] 基于同一发明构思，本发明实施例还提供了一种生成语音鉴别模型的连续学习装置，生成语音鉴别模型的连续学习装置1000包括：

[0196] 处理模块1001，用于通过源数据集，进行模型创建和数据训练，以得到第一数据模型。

[0197] 本实施例中的生成语音鉴别模型的连续学习装置1000通过源数据集进行模型创建和数据训练，确定第一数据模型，保证了第一数据模型对于源数据集的数据识别准确性。

[0198] 基于同一发明构思，本发明实施例还提供了一种生成语音鉴别模型的连续学习装置，生成语音鉴别模型的连续学习装置1000包括：

[0199] 处理模块1001，用于通过目标数据模型，识别目标数据集，以得到识别结果。

[0200] 本实施例中的生成语音鉴别模型的连续学习装置1000通过目标数据模型，检测目标数据集中的数据，确定目标数据集的识别结果，保证了目标数据模型的数据识别准确性，进而保证了识别结果的准确性。

[0201] 基于同一发明构思，本发明实施例还提供了一种存储介质，其上存储有计算机程序，计算机程序被执行时实现上述任意可能的实现方式中的生成语音鉴别模型的连续学习方法的步骤。

[0202] 可选地，存储介质可以是非临时性计算机可读存储介质，例如，非临时性计算机可读存储介质可以是ROM、随机存取存储器（RAM）、CD‑ROM、磁带、软盘和光数据存储设备等。

[0203] 基于同一发明构思，参见图12，本发明实施例还提供了一种电子设备，包括存储器1201、处理器1202及存储在存储器1201上并可在处理器1202上运行的计算机程序，处理器
1202执行计算机程序时实现上述任意可能的实现方式中的生成语音鉴别模型的连续学习方法的步骤，当然，该处理器还可以用来处理其他数据或运算。该电子设备可以是PC、服务器、终端等设备。

[0204] 如图12所示，该电子设备一般还可以包括：内存1203、网络接口1204、以及内部总线1205。除了这些部件外，还可以包括其他硬件，对此不再赘述。

[0205] 需要指出的是，上述生成语音鉴别模型的连续学习装置可以通过软件实现，其作为一个逻辑意义上的装置，是通过其所在的电子设备的处理器1202将非易失性存储器中存储的计算机程序指令读取到内存1203中运行形成的。

[0206] 本说明书中描述的主题及功能操作的实施例可以在以下中实现：数字电子电路、有形体现的计算机软件或固件、包括本说明书中公开的结构及其结构性等同物的计算机硬件、或者它们中的一个或多个的组合。本说明书中描述的主题的实施例可以实现为一个或多个计算机程序，即编码在有形非暂时性程序载体上以被数据处理装置执行或控制数据处理装置的操作的计算机程序指令中的一个或多个模块。可替代地或附加地，程序指令可以被编码在人工生成的传播信号上，例如机器生成的电、光或电磁信号，该信号被生成以将信息编码并传输到合适的接收机装置以由数据处理装置执行。计算机存储介质可以是机器可读存储设备、机器可读存储基板、随机或串行存取存储器设备、或它们中的一个或多个的组合。

[0207] 本说明书中描述的处理及逻辑流程可以由执行一个或多个计算机程序的一个或多个可编程计算机执行，以通过根据输入数据进行操作并生成输出来执行相应的功能。处理及逻辑流程还可以由专用逻辑电路—例如FPGA（现场可编程门阵列）或ASIC（专用集成电路）来执行，并且装置也可以实现为专用逻辑电路。

[0208] 适合用于执行计算机程序的计算机包括，例如通用和/或专用微处理器，或任何其他类型的中央处理单元。通常，中央处理单元将从只读存储器和/或随机存取存储器接收指令和数据。计算机的基本组件包括用于实施或执行指令的中央处理单元以及用于存储指令和数据的一个或多个存储器设备。通常，计算机还将包括用于存储数据的一个或多个大容量存储设备，例如磁盘、磁光盘或光盘等，或者计算机将可操作地与此大容量存储设备耦接以从其接收数据或向其传送数据，抑或两种情况兼而有之。然而，计算机不是必须具有这样的设备。此外，计算机可以嵌入在另一设备中，例如移动电话、个人数字助理（PDA）、移动音频或视频播放器、游戏操纵台、全球定位系统（GPS）接收机、或例如通用串行总线（USB）闪存驱动器的便携式存储设备，仅举几例。

[0209] 适合于存储计算机程序指令和数据的计算机可读介质包括所有形式的非易失性存储器、媒介和存储器设备，例如包括半导体存储器设备（例如EPROM、EEPROM和闪存设备）、磁盘（例如内部硬盘或可移动盘）、磁光盘以及CD‑ROM和DVD‑ROM盘。处理器和存储器可由专用逻辑电路补充或并入专用逻辑电路中。

[0210] 虽然本说明书包含许多具体实施细节，但是这些不应被解释为限制任何发明的范围或所要求保护的范围，而是主要用于描述特定发明的具体实施例的特征。本说明书内在多个实施例中描述的某些特征也可以在单个实施例中被组合实施。另一方面，在单个实施例中描述的各种特征也可以在多个实施例中分开实施或以任何合适的子组合来实施。此外，虽然特征可以如上在某些组合中起作用并且甚至最初如此要求保护，但是来自所要求保护的组合中的一个或多个特征在一些情况下可以从该组合中去除，并且所要求保护的组合可以指向子组合或子组合的变型。

[0211] 类似地，虽然在附图中以特定顺序描绘了操作，但是这不应被理解为要求这些操作以所示的特定顺序执行或顺次执行、或者要求所有例示的操作被执行，以实现期望的结果。在某些情况下，多任务和并行处理可能是有利的。此外，上述实施例中的各种系统模块和组件的分离不应被理解为在所有实施例中均需要这样的分离，并且应当理解，所描述的程序组件和系统通常可以一起集成在单个软件产品中，或者封装成多个软件产品。

[0212] 由此，主题的特定实施例已被描述。其他实施例在所附权利要求书的范围以内。在某些情况下，权利要求书中记载的动作可以以不同的顺序执行并且仍实现期望的结果。此外，附图中描绘的处理并非必需所示的特定顺序或顺次顺序，以实现期望的结果。在某些实现中，多任务和并行处理可能是有利的。

[0213] 需要说明的是，在本文中，诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括上述要素的过程、方法、物品或者设备中还存在另外的相同要素。

[0214] 以上仅是本发明的具体实施方式，使本领域技术人员能够理解或实现本发明。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所申请的原理和新颖特点相一致的最宽的范围。