一种脑电信号分级情绪识别方法、系统、电子设备及介质转让专利

申请号 : CN202310657881.3

文献号 : CN116369949B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 江乐旗李泽斌陈昊黎明揭丽琳刘畅张聪炫

申请人 : 南昌航空大学

摘要 :

本发明公开一种脑电信号分级情绪识别方法、系统、电子设备及介质,属于脑电信号处理技术领域。首先获取双情绪诱导模式的脑电信号数据样本集,以适应于真实场景中存在的多种情绪诱导方式;然后从每个通道的脑电特征集中选出对情绪诱导模式与情绪具体类别区分度高的特征,采用通道重要性计算方法对通道进行选择,并为每种情绪诱导模式搭建分级情绪识别模型,使得本发明在实际场景中提高了脑电信号情绪识别的精度与效率。

权利要求 :

1.一种脑电信号分级情绪识别方法,其特征在于,包括:

获取双情绪诱导模式的脑电信号数据样本集;所述脑电信号数据样本集中的每个样本包括双情绪诱导模式下多个通道的脑电信号数据,每个脑电信号数据标注有情绪诱导模式标签和情绪类别标签;

对每个通道的脑电信号数据在时域、频域、时频域分别提取特征,并将同一通道的所有特征构成同一通道的脑电特征集;

依据特征选择方法,按照重要性对每个通道的脑电特征集进行特征选择,获得每个通道的最终特征集;

根据每个通道的最终特征集,采用通道重要性计算方法对通道进行选择,获得多种通道组合,并将每种通道组合中所有通道的最终特征集一起作为输入特征;

将输入特征与输入特征标注的情绪诱导模式标签构成第一训练集,将一种情绪诱导模式标签的输入特征与情绪类别标签构成第二训练集,并将另一种情绪诱导模式标签的输入特征与情绪类别标签构成第三训练集;

利用随机森林搭建预测模型;所述预测模型包括第一层和第二层,第一层的输出端与第二层的输入端连接,第一层用于预测情绪诱导模式,第二层包括每种情绪诱导模式的情绪类别区分模型;

采用第一训练集训练所述预测模型的第一层,采用第二训练集和第三训练集训练所述第二层中对应情绪诱导模式的情绪类别区分模型,获得分级情绪识别模型和最优通道组合;

将实时获取的最优通道组合的脑电信号数据的特征输入所述分级情绪识别模型,输出脑电信号数据的情绪类别;所述情绪类别为积极情绪和/或消极情绪;

其中,根据每个通道的最终特征集,采用通道重要性计算方法对通道进行选择,获得多种通道组合,具体包括:根据每个通道的最终特征集中特征的重要性,利用公式Wk=Zk×Rk计算每个通道与情绪的关联程度;其中,Wk表示通道k与情绪的关联程度,Zk表示通道k上所有特征的重要性的和,Rk表示通道k的选用频率, ,Qk表示在Yk中重要性高的特征集合,Yk表示在通道k上的特征集合;

对所有通道与情绪的关联程度进行降序排列,形成关联程度序列,并在关联程度序列中多次选取关联程度;

在第j次选取时从关联程度序列的第1个关联程度开始选取3j个关联程度对应的通道,作为第j次的通道组合,获得多种通道组合。

2.根据权利要求1所述的脑电信号分级情绪识别方法,其特征在于,获取双情绪诱导模式的脑电信号数据样本集,具体包括:设定双情绪诱导模式为音乐刺激与自我诱导;

选取表达积极情绪的音乐片段和表达消极情绪的音乐片段;

依次播放每个音乐片段,在音乐刺激下诱导被试者的情绪,同时采集被试者在音乐刺激下多个通道的脑电信号数据;

被试者在聆听每个音乐片段后,均进入自我诱导,同时采集被试者在自我诱导下多个通道的脑电信号数据;

收集被试者在自我诱导结束后,针对每个音乐片段,被试者对自我诱发的情绪进行评分;

根据所述评分统计所有音乐片段的平均评分,并剔除评分低于平均评分的脑电信号数据;

对保留的每个脑电信号数据标注情绪诱导模式标签和情绪类别标签,获得双情绪诱导模式的脑电信号数据样本集。

3.根据权利要求1所述的脑电信号分级情绪识别方法,其特征在于,获取双情绪诱导模式的脑电信号数据样本集,之后还包括:对所述脑电信号数据样本集进行预处理;所述预处理包括滤波、下采样和去除干扰信号。

4.根据权利要求1所述的脑电信号分级情绪识别方法,其特征在于,对每个通道的脑电信号数据在时域、频域、时频域分别提取特征,具体包括:提取每个通道的脑电信号数据的时域特征;所述时域特征包括均值、方差、能量、一阶差分的绝对值、二阶差分的绝对值、分形维数和Hjorth参数;

将每个通道的脑电信号数据从时域转换到频域,并计算1 Hz 3 Hz、4 Hz 7 Hz、8 Hz~ ~ ~

13 Hz、14 Hz 30 Hz和31 Hz 50 Hz五个频带的功率谱密度;

~ ~

应用具有一秒时间窗且无重叠的短时傅里叶变换从每个通道的脑电信号数据中提取时频域特征。

5.根据权利要求1所述的脑电信号分级情绪识别方法,其特征在于,依据特征选择方法,按照重要性对每个通道的脑电特征集进行特征选择,获得每个通道的最终特征集,具体包括:利用Boruta算法,依据公式 确定每个特征的重要性;

其中,Z表示特征的重要性, 表示在第i棵决策树上使用袋外数据计算的误差, 表示在第i棵决策树上将特征值重新打乱分布后的误差,N表示决策树的数量,Mean表示平均值,Std表示标准差;

通过显著性计算,将重要性大于重要性阈值的特征标记为重要,重要性小于重要性阈值的特征标记为不重要,并将标记为不重要的特征从每个通道的脑电特征集中删除,获得每个通道的最终特征集。

6.根据权利要求1所述的脑电信号分级情绪识别方法,其特征在于,将实时获取的最优通道组合的脑电信号数据的特征输入所述分级情绪识别模型,输出脑电信号数据的情绪类别,具体包括:实时获取最优通道组合的脑电信号数据;

按照每个通道的最终特征集,提取最优通道组合中每个通道的脑电信号数据的特征;

将最优通道组合中所有通道的脑电信号数据的特征一起作为输入量,输入所述分级情绪识别模型的第一层,确定脑电信号数据的情绪诱导模式;

将每种情绪诱导模式的脑电信号数据的特征输入所述分级情绪识别模型的第二层中同种情绪诱导模式的情绪类别区分模型,输出脑电信号数据的情绪类别。

7.一种脑电信号分级情绪识别系统,其特征在于,包括:

样本集获取模块,用于获取双情绪诱导模式的脑电信号数据样本集;所述脑电信号数据样本集中的每个样本包括双情绪诱导模式下多个通道的脑电信号数据,每个脑电信号数据标注有情绪诱导模式标签和情绪类别标签;

特征提取模块,用于对每个通道的脑电信号数据在时域、频域、时频域分别提取特征,并将同一通道的所有特征构成同一通道的脑电特征集;

特征选择模块,用于依据特征选择方法,按照重要性对每个通道的脑电特征集进行特征选择,获得每个通道的最终特征集;

通道选择模块,用于根据每个通道的最终特征集,采用通道重要性计算方法对通道进行选择,获得多种通道组合,并将每种通道组合中所有通道的最终特征集一起作为输入特征;

训练集构成模块,用于将输入特征与输入特征标注的情绪诱导模式标签构成第一训练集,将一种情绪诱导模式标签的输入特征与情绪类别标签构成第二训练集,并将另一种情绪诱导模式标签的输入特征与情绪类别标签构成第三训练集;

预测模型搭建模块,用于利用随机森林搭建预测模型;所述预测模型包括第一层和第二层,第一层的输出端与第二层的输入端连接,第一层用于预测情绪诱导模式,第二层包括每种情绪诱导模式的情绪类别区分模型;

训练模块,用于采用第一训练集训练所述预测模型的第一层,采用第二训练集和第三训练集训练所述第二层中对应情绪诱导模式的情绪类别区分模型,获得分级情绪识别模型和最优通道组合;

识别模块,用于将实时获取的最优通道组合的脑电信号数据的特征输入所述分级情绪识别模型,输出脑电信号数据的情绪类别;所述情绪类别为积极情绪和/或消极情绪;

其中,根据每个通道的最终特征集,采用通道重要性计算方法对通道进行选择,获得多种通道组合,具体包括:根据每个通道的最终特征集中特征的重要性,利用公式Wk=Zk×Rk计算每个通道与情绪的关联程度;其中,Wk表示通道k与情绪的关联程度,Zk表示通道k上所有特征的重要性的和,Rk表示通道k的选用频率, ,Qk表示在Yk中重要性高的特征集合,Yk表示在通道k上的特征集合;

对所有通道与情绪的关联程度进行降序排列,形成关联程度序列,并在关联程度序列中多次选取关联程度;

在第j次选取时从关联程度序列的第1个关联程度开始选取3j个关联程度对应的通道,作为第j次的通道组合,获得多种通道组合。

8.一种电子设备,其特征在于,包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1至6中任一项所述的脑电信号分级情绪识别方法。

9.一种计算机可读存储介质,其特征在于,其上存储有计算机程序,所述计算机程序被执行时实现如权利要求1至6中任一项所述的脑电信号分级情绪识别方法。

说明书 :

一种脑电信号分级情绪识别方法、系统、电子设备及介质

技术领域

[0001] 本发明涉及脑电信号处理技术领域,特别是涉及一种脑电信号分级情绪识别。

背景技术

[0002] 智能化的人机交互系统在人类社会中发挥着重要的作用,精确识别用户的情绪是人机交互系统的关键功能之一。由于脑电信号(Electroencephalogram,EEG)由中枢神经系统直接产生,且能够真实地反映人类大脑当前的情绪状态,脑电信号被广泛用于情绪识别。
[0003] 由于情绪诱导模式的多样性,根据单一情绪诱导模式构建的情绪识别模型难以有效应用在实际场景,使用中会出现训练的模型与真实情景不匹配的问题;同时,现有研究尚未深入挖掘不同情绪诱导模式的神经模式在脑区之间的相似性与差异性信息,而这些信息将有助于构建应用范围广、识别精度高的情绪识别系统。

发明内容

[0004] 本发明的目的是提供一种脑电信号分级情绪识别方法、系统、电子设备及介质,以适应于真实场景中存在的多种情绪诱导模式,在实际场景中提高脑电信号情绪识别的精度与效率。
[0005] 为实现上述目的,本发明提供了如下方案:
[0006] 一种脑电信号分级情绪识别方法,包括:
[0007] 获取双情绪诱导模式的脑电信号数据样本集;所述脑电信号数据样本集中的每个样本包括双情绪诱导模式下多个通道的脑电信号数据,每个脑电信号数据标注有情绪诱导模式标签和情绪类别标签;
[0008] 对每个通道的脑电信号数据在时域、频域、时频域分别提取特征,并将同一通道的所有特征构成同一通道的脑电特征集;
[0009] 依据特征选择方法,按照重要性对每个通道的脑电特征集进行特征选择,获得每个通道的最终特征集;
[0010] 根据每个通道的最终特征集,采用通道重要性计算方法对通道进行选择,获得多种通道组合,并将每种通道组合中所有通道的最终特征集一起作为输入特征;
[0011] 将输入特征与输入特征标注的情绪诱导模式标签构成第一训练集,将一种情绪诱导模式标签的输入特征与情绪类别标签构成第二训练集,并将另一种情绪诱导模式标签的输入特征与情绪类别标签构成第三训练集;
[0012] 利用随机森林搭建预测模型;所述预测模型包括第一层和第二层,第一层的输出端与第二层的输入端连接,第一层用于预测情绪诱导模式,第二层包括每种情绪诱导模式的情绪类别区分模型;
[0013] 采用第一训练集训练所述预测模型的第一层,采用第二训练集和第三训练集训练所述第二层中对应情绪诱导模式的情绪类别区分模型,获得分级情绪识别模型和最优通道组合;
[0014] 将实时获取的最优通道组合的脑电信号数据的特征输入所述分级情绪识别模型,输出脑电信号数据的情绪类别。
[0015] 可选地,所述获取双情绪诱导模式的脑电信号数据样本集,具体包括:
[0016] 设定双情绪诱导模式为音乐刺激与自我诱导;
[0017] 选取表达积极情绪的音乐片段和表达消极情绪的音乐片段;
[0018] 依次播放每个音乐片段,在音乐刺激下诱导被试者的情绪,同时采集被试者在音乐刺激下多个通道的脑电信号数据;
[0019] 被试者在聆听每个音乐片段后,均进入自我诱导,同时采集被试者在自我诱导下多个通道的脑电信号数据;
[0020] 收集被试者在自我诱导结束后,针对每个音乐片段,被试者对自我诱发的情绪进行评分;
[0021] 根据所述评分统计所有音乐片段的平均评分,并剔除评分低于平均评分的脑电信号数据;
[0022] 对保留的每个脑电信号数据标注情绪诱导模式标签和情绪类别标签,获得双情绪诱导模式的脑电信号数据样本集。
[0023] 可选地,所述获取双情绪诱导模式的脑电信号数据样本集,之后还包括:
[0024] 对所述脑电信号数据样本集进行预处理;所述预处理包括滤波、下采样和去除干扰信号。
[0025] 可选地,所述对每个通道的脑电信号数据在时域、频域、时频域分别提取特征,具体包括:
[0026] 提取每个通道的脑电信号数据的时域特征;所述时域特征包括均值、方差、能量、一阶差分的绝对值、二阶差分的绝对值、分形维数和Hjorth参数;
[0027] 将每个通道的脑电信号数据从时域转换到频域,并计算1 Hz 3 Hz、4 Hz 7 Hz、8 ~ ~Hz 13 Hz、14 Hz 30 Hz和31 Hz 50 Hz五个频带的功率谱密度;
~ ~ ~
[0028] 应用具有一秒时间窗且无重叠的短时傅里叶变换从每个通道的脑电信号数据中提取时频域特征。
[0029] 可选地,所述依据特征选择方法,按照重要性对每个通道的脑电特征集进行特征选择,获得每个通道的最终特征集,具体包括:
[0030] 利用Boruta算法,依据公式 确定每个特征的重要性;其中,Z表示特征的重要性, 表示在第i棵决策树上使用袋外数据计算的误差, 表示在第i棵决策树上将特征值重新打乱分布后的误差,N表示决策树的数量,Mean表示平均值,Std表示标准差;
[0031] 通过显著性计算,将重要性大于重要性阈值的特征标记为重要,重要性小于重要性阈值的特征标记为不重要,并将标记为不重要的特征从每个通道的脑电特征集中删除,获得每个通道的最终特征集。
[0032] 可选地,所述根据每个通道的最终特征集,采用通道重要性计算方法对通道进行选择,获得多种通道组合,具体包括:
[0033] 根据每个通道的最终特征集中特征的重要性,利用公式Wk=Zk×Rk计算每个通道与情绪的关联程度;其中,Wk表示通道k与情绪的关联程度,Zk表示通道k上所有特征的重要性的和,Rk表示通道k的选用频率;
[0034] 对所有通道与情绪的关联程度进行降序排列,形成关联程度序列,并在关联程度序列中多次选取关联程度;
[0035] 在第j次选取时从关联程度序列的第1个关联程度开始选取3j个关联程度对应的通道,作为第j次的通道组合,获得多种通道组合。
[0036] 可选地,所述将实时获取的最优通道组合的脑电信号数据的特征输入所述分级情绪识别模型,输出脑电信号数据的情绪类别,具体包括:
[0037] 实时获取最优通道组合的脑电信号数据;
[0038] 按照每个通道的最终特征集,提取最优通道组合中每个通道的脑电信号数据的特征;
[0039] 将最优通道组合中所有通道的脑电信号数据的特征一起作为输入量,输入所述分级情绪识别模型的第一层,确定脑电信号数据的情绪诱导模式;
[0040] 将每种情绪诱导模式的脑电信号数据的特征输入所述分级情绪识别模型的第二层中同种情绪诱导模式的情绪类别区分模型,输出脑电信号数据的情绪类别;所述情绪类别为积极情绪和/或消极情绪。
[0041] 一种脑电信号分级情绪识别系统,包括:
[0042] 样本集获取模块,用于获取双情绪诱导模式的脑电信号数据样本集;所述脑电信号数据样本集中的每个样本包括双情绪诱导模式下多个通道的脑电信号数据,每个脑电信号数据标注有情绪诱导模式标签和情绪类别标签;
[0043] 特征提取模块,用于对每个通道的脑电信号数据在时域、频域、时频域分别提取特征,并将同一通道的所有特征构成同一通道的脑电特征集;
[0044] 特征选择模块,用于依据特征选择方法,按照重要性对每个通道的脑电特征集进行特征选择,获得每个通道的最终特征集;
[0045] 通道选择模块,用于根据每个通道的最终特征集,采用通道重要性计算方法对通道进行选择,获得多种通道组合,并将每种通道组合中所有通道的最终特征集一起作为输入特征;
[0046] 训练集构成模块,用于将输入特征与输入特征标注的情绪诱导模式标签构成第一训练集,将一种情绪诱导模式标签的输入特征与情绪类别标签构成第二训练集,并将另一种情绪诱导模式标签的输入特征与情绪类别标签构成第三训练集;
[0047] 预测模型搭建模块,用于利用随机森林搭建预测模型;所述预测模型包括第一层和第二层,第一层的输出端与第二层的输入端连接,第一层用于预测情绪诱导模式,第二层包括每种情绪诱导模式的情绪类别区分模型;
[0048] 训练模块,用于采用第一训练集训练所述预测模型的第一层,采用第二训练集和第三训练集训练所述第二层中对应情绪诱导模式的情绪类别区分模型,获得分级情绪识别模型和最优通道组合;
[0049] 识别模块,用于将实时获取的最优通道组合的脑电信号数据的特征输入所述分级情绪识别模型,输出脑电信号数据的情绪类别。
[0050] 一种电子设备,包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如前述的脑电信号分级情绪识别方法。
[0051] 一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被执行时实现如前述的脑电信号分级情绪识别方法。
[0052] 根据本发明提供的具体实施例,本发明公开了以下技术效果:
[0053] 本发明公开一种脑电信号分级情绪识别方法、系统、电子设备及介质,首先获取双情绪诱导模式的脑电信号数据样本集,以适应于真实场景中存在的多种情绪诱导模式;然后从每个通道的脑电特征集中选出对情绪诱导模式与情绪具体类别区分度高的特征,采用通道重要性计算方法对通道进行选择,并为每种情绪诱导模式搭建分级情绪识别模型,使得本发明在实际场景中提高了脑电信号情绪识别的精度与效率。

附图说明

[0054] 为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
[0055] 图1为本发明实施例提供的一种脑电信号分级情绪识别方法的流程图;
[0056] 图2为本发明实施例提供的脑电信号数据获取流程示意图;
[0057] 图3为本发明实施例提供的分级情绪识别模型识别情绪类别的过程示意图。

具体实施方式

[0058] 下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
[0059] 本发明的目的是提供一种脑电信号分级情绪识别方法、系统、电子设备及介质,以适应于真实场景中存在的多种情绪诱导模式,在分级的情绪识别模型的基础上引入特征选择与通道重要性计算,在实际场景中提高脑电信号情绪识别的精度与效率。
[0060] 为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
[0061] 如图1所示,本发明实施例提供了一种脑电信号分级情绪识别方法,包括以下步骤:
[0062] 步骤1:获取双情绪诱导模式的脑电信号数据样本集;所述脑电信号数据样本集中的每个样本包括双情绪诱导模式下多个通道的脑电信号数据,每个脑电信号数据标注有情绪诱导模式标签和情绪类别标签。
[0063] 为了获取脑电信号数据,在被试者的头部布置多个电极,每个电极布置在头部的不同位置,对应不同的脑区。一个电极获取的脑电信号数据对应一个通道的脑电信号数据,若头部布置32个电极,则会同时获得32个通道的脑电信号数据。
[0064] 示例性的,脑电信号数据样本集的获取过程为:评选具备明显情绪性的音乐片段;邀请被试者通过音乐刺激与自我诱导进行相应情绪的诱导,当被试者在两种情绪诱导模式(音乐刺激与自我诱导)状态时收集被试者的脑电信号数据;通过自我评估调查问卷,收集被试者在自我诱导结束后,对自我诱发的情绪在觉醒(arousal)和效价(valence)两个维度进行评分,并根据评分对所有获取的数据在情绪维度进行评估,剔除评分与情绪不匹配(评分低于平均评分)的脑电信号数据。
[0065] 以图2所示的脑电信号数据样本集的获取流程为例,进一步阐明脑电信号数据样本集的获取过程。
[0066] 1.1:在刺激之前选定音乐刺激为典型的音乐片段。这些片段在实验中需要准确且稳定地表达积极情绪或消极情绪。在材料选择时,邀请20名参与者聆听音乐片段,并使用关键词(积极或消极)和分数(范围0‑9)评估音乐片段的情绪类别并打分。确定30个音乐片段(15个表达积极情绪的音乐片段和15个表达消极情绪的音乐片段)作为实验材料,参与者对音乐片段的情绪类别的评分均达到8分以上。
[0067] 1.2:被试者在一个可以屏蔽外界干扰的专用环境中进行情绪诱发实验,在实验中始终将音量设置在舒适的水平,使被试者可以清楚的听到音乐。为了保证实验的顺利进行,在实验正式开始前对每一名被试者使用额外的音乐片段进行培训。
[0068] 1.3:整个实验开始后,每个音乐片段的呈现顺序是随机的,被试者首先接受音乐刺激诱导情绪。被试者在音乐刺激结束后,进入自我回忆诱导情绪(自我诱导)阶段。
[0069] 1.4:通过自我评估调查问卷,收集被试者在自我回忆诱导情绪阶段结束后,针对每个音乐片段,对自我诱发的情绪在觉醒(arousal)和效价(valence)两个维度上进行评分。情绪valence‑arousal理论说明,情绪在效价(valence)的得分越高,表明情绪状态越积极;情绪在觉醒(arousal)的得分越高,表明情绪状态的激活程度越高。
[0070] 1.5:根据自我评估的分数,统计30个音乐片段的平均值,剔除掉评分低于平均值的脑电信号数据,评分过低表示该刺激未能按照期望诱导相应情绪。
[0071] 在本示例中,选用20名专家(参与者)参与选择音乐片段,所有专家均受过专业的音乐训练。选用14名被试者参与情绪诱导实验,其中男女各7名,所有被试者均未受过专业的音乐学习,在乐理知识以及身体素质等各方面与常人相同,细节如表1所示。
[0072] 表1 参与者细节
[0073]
[0074] 在获取双情绪诱导模式的脑电信号数据样本集之后,还需要对收集的脑电信号数据进行预处理,去除与情绪无关的信息。预处理包括:利用滤波模块对保留的脑电信号数据进行滤波,去除与情绪无关的信息。利用下采样模块对滤波后的脑电信号数据进行下采样,在保留最大情绪信息的同时可以提升计算效率。利用去伪迹模块去除对下采样后的脑电信号数据造成干扰的眼电、心电、肌电信号。
[0075] 步骤2:对每个通道的脑电信号数据在时域、频域、时频域分别提取特征,并将同一通道的所有特征构成同一通道的脑电特征集。
[0076] 提取时域特征:对每个通道的脑电信号数据X={x1, x2,…, xM}提取特征,在时域上计算脑电信号数据的统计特征和非线性特征,统计特征包括的特征有均值、方差、能量、一阶差分的绝对值和二阶差分的绝对值,非线性特征包括的特征有分形维数和三个Hjorth参数特征(Activity、Mobility与Complexity)。X表示一个通道的脑电信号数据,x1、x2、xM分别表示第1、2、M个采样点的脑电信号数据。
[0077] 提取频域特征:将脑电信号数据从时域转换到频域,在五个频带(1‑3 Hz)、(4‑7 Hz)、(8‑13 Hz)、(14‑30 Hz)和(31‑50 Hz)计算单位频带内信号的功率大小,即功率谱密度。
[0078] 提取时频域特征:针对脑电信号数据的非平稳特性,应用具有一秒时间窗并且无重叠的短时傅里叶变换,提取时频域特征(比如微分熵)。
[0079] 将同一通道的所有特征构成该通道的脑电特征集,若有32个通道,则会获得32个通道的脑电特征集。
[0080] 以上所述特征中需要说明的计算公式如表2所示。表2中,M表示采样总数,xn、xn+1表示第n、n+1个采样数据,xn'表示xn的一阶导数,δ表示采样数据的平均数,var表示方差,E2
表示平均功率,且已经证明在短时间内脑电信号近似服从高斯分布N(μ,σ),μ是遵从高斯
2
分布的随机变量的均值,σ是随机变量的方差,x表示随机变量,Act表示参数特征Activity,Mob表示参数特征Mobility,Com表示参数特征Complexity。
[0081] 表2 特征计算公式
[0082]
[0083] 步骤3:依据特征选择方法,按照重要性对每个通道的脑电特征集进行特征选择,获得每个通道的最终特征集。
[0084] 示例性的,特征选择方法的过程如下:
[0085] 利用Boruta算法,依据公式 确定所选特征的重要性Z。其中, 表示在第i棵决策树上使用袋外数据计算的误差, 表示在第i棵决策树上将特征值重新打乱分布后的误差,N表示决策树的数量,Mean表示平均值,Std表示标准差;
[0086] 获取特征的重要性阈值;
[0087] 判断每一维特征的重要性是否超过特征的重要性阈值,通过显著性计算,将重要性显著高于重要性阈值的特征视为重要,重要性显著低于重要性阈值特征的视为不重要,并将其永久地从脑电特征集中删除;
[0088] 重复迭代,直到脑电特征集中所有特征都被标记为重要或不重要,所有标记为重要的特征构成最终特征集。
[0089] 将Boruta算法的具体计算过程展开来说,特征选择的步骤为:
[0090] 3.1:将脑电特征集格式化为原特征矩阵,对于所有样本的任一特征序列,均通过随机shuffle来创建另一个阴影特征(shadow feature)序列,将每个特征的两种序列拼接为新的特征矩阵。
[0091] 3.2:在拼接的特征矩阵上运行随机森林分类器,同时收集原始特征与阴影特征的重要性。
[0092] 3.3:找到阴影特征序列中最大重要性记为Z',然后将原特征矩阵中重要性高于Z'的特征标记为重要,同时,原特征矩阵中重要性显著低于Z'的特征视为不重要,并将其从原特征矩阵中删除。
[0093] 3.4:重复3.1‑3.3的步骤,直到所有特征均被标记为重要或者不重要,标记为重要的特征组成最终特征集。
[0094] 步骤4:根据每个通道的最终特征集,采用通道重要性计算方法对通道进行选择,获得多种通道组合,并将每种通道组合中所有通道的最终特征集一起作为输入特征。
[0095] 示例性的,通道选择包括如下步骤:
[0096] 4.1:对于诱导方式(情绪诱导模式)为音乐刺激的脑电信号数据,任意通道的选用频率计算公式为 。式中,Rk表示通道k的选用频率,Qk表示在Yk中重要性高的特征集合,Yk表示在通道k上的特征集合。
[0097] 4.2:基于通道k的选用频率Rk,使用公式Wk=Zk×Rk,计算通道k的重要性Wk。式中,Zk表示通道k上所有特征重要性的和,入选最终特征集的特征其重要性为计算得到的Z值,没有选入最终特征集的特征其重要性记为0。
[0098] 4.3:依照通道重要程度从高到低排序,将通道重要程度最高的前三个通道选入通道集合,在通道集合上提取时域、频域以及时频域特征作为随机森林分类器的输入,输出预测情绪的类别并根据情绪类别的真实标签计算分类准确率。之后,多次选定通道组合进行测试,每次选定的通道组合都按照通道重要程度依次增加三个通道。即,在第j次选取时从序列的第1个关联程度(通道与情绪的关联程度最高)开始选取3j个关联程度对应的通道,作为第j次的通道组合,获得多种通道组合。其中,j为正整数。
[0099] 对于诱导方式为自我诱导的脑电信号数据,同样依据以上所述通道重要性计算方法计算其所属的通道重要性。
[0100] 将通道重要程度投影到头皮上并可视化为脑地形图,可以清楚的探索对积极与消极情绪分类有关键作用的通道,位于前额叶与中央区域左右两侧的通道对情绪识别更重要,这表明这些脑区比其他部位提供了更多的情绪信息,据此可辅助构建最优通道组合。
[0101] 步骤5:将输入特征与输入特征标注的情绪诱导模式标签构成第一训练集,将一种情绪诱导模式标签的输入特征与情绪类别标签构成第二训练集,并将另一种情绪诱导模式标签的输入特征与情绪类别标签构成第三训练集。
[0102] 步骤6:利用随机森林搭建预测模型;所述预测模型包括第一层和第二层,第一层的输出端与第二层的输入端连接,第一层用于预测情绪诱导模式,第二层包括每种情绪诱导模式的情绪类别区分模型。
[0103] 在第一层,训练随机森林模型区分情绪诱导模式,以输入特征作为第一层的输入,用于确定输入特征对应的情绪诱导模式。
[0104] 在第二层,针对不同的情绪诱导模式分别训练两个分类器,两个分类器对应双情绪诱导模式的情绪类别区分模型。若输入特征对应的情绪诱导模式为音乐刺激,则将输入特征输入音乐刺激的情绪类别区分模型。若输入特征对应的情绪诱导模式为自我诱导,则将输入特征输入自我诱导的情绪类别区分模型。
[0105] 第一层与第二层模型结合,构建完整的预测模型。
[0106] 步骤7:采用第一训练集训练所述预测模型的第一层,采用第二训练集和第三训练集训练所述第二层中对应情绪诱导模式的情绪类别区分模型,获得分级情绪识别模型和最优通道组合。
[0107] 选择其中分类准确率最高的通道组合作为最优通道组合。
[0108] 步骤8:将实时获取的最优通道组合的脑电信号数据的特征输入所述分级情绪识别模型,输出脑电信号数据的情绪类别。
[0109] 在第一层得到情绪诱导方式,根据诱导方式为其分配第二层的情绪类别区分模型,得到最终的情绪类别。
[0110] 具体包括:
[0111] 实时获取最优通道组合的脑电信号数据;
[0112] 按照每个通道的最终特征集,提取最优通道组合中每个通道的脑电信号数据的特征;
[0113] 将最优通道组合中所有通道的脑电信号数据的特征一起作为输入量,输入所述分级情绪识别模型的第一层,确定脑电信号数据的情绪诱导模式;
[0114] 将每种情绪诱导模式的脑电信号数据的特征输入所述分级情绪识别模型的第二层中同种情绪诱导模式的情绪类别区分模型,输出脑电信号数据的情绪类别;所述情绪类别为积极情绪和/或消极情绪。
[0115] 参照图3,本发明实施例提供的分级情绪识别模型识别情绪类别的过程如下:
[0116] S1:获取在情绪识别场景中存在的多种诱导方式的脑电信号数据,并对获取的脑电信号数据进行预处理与特征提取操作,特征提取过程要求针对脑电信号的非线性、非稳态特性从时域、频域、时频域全面反应脑电信号特征。
[0117] S2:首先通过特征集合对脑电信号数据所属诱导方式分类,应用以上所述特征选择方法在训练集上选择重要性高的特征集合,迭代次数为100,显著性水平为0.05,决策树的数量为200,决策树的最大深度为7。
[0118] S3:使用以上选择的特征集合与随机森林模型建立关于情绪诱导模式的分类模型,将样本的诱导方式分为音乐刺激与自我诱导。通过对时域、频域以及时频域特征分类结果的比较,时域特征的性能优于频域特征与时频域特征。此外,将时域特征与频域特征或时频域特征串联后,在性能上与仅使用时域特征接近,但计算复杂度明显提高,因此在第一级(第一层)对串联特征不作考虑。
[0119] S4:在情绪识别模型的第二级(第二层)针对不同诱导方式分别评估了两个分类器的性能。应用上述的特征选择方法与通道重要性计算方法,将计算的重要性分布投影到头皮。
[0120] S5:比较不同通道组合对分类结果的影响,选择最优的通道组合。位于大脑外侧颞叶和前额叶区域的通道对情绪识别比其他区域更重要,这表明这些大脑区域比其他区域提供更多关于情绪的信息。但刺激诱导的重要性分布在左侧更为明显,颞叶和额叶的重要性值高于右侧。然而,自我诱发的情绪似乎不受大脑左右差异的影响。自我诱导的重要性分布更为平衡,在两个半球的额叶、颞叶和枕叶显示出相似的分布。选择重要性值排名前15的电极时获得最优情绪类别分类准确率。表3显示了分级情绪识别模型的精度表现。
[0121] 表3 分级情绪识别模型精度对比
[0122]
[0123] 从表3可以看出,基于情绪诱导方式的分级情绪识别模型在应用中可以更好的适应真实场景,提升区分情绪类别的精度。
[0124] 本发明首先获取两种情绪诱导模式的脑电信号数据,并进行预处理;接着对预处理后的数据在时域、频域、时频域分别提取特征,建立双诱导情绪模式的脑电特征集;其次,依据特征选择方法从脑电特征集中选出对情绪诱导模式与情绪具体类别区分度高的特征参数;再次,依据通道重要性计算方法,得到最优电极组合(最优通道组合);最后,利用随机森林搭建预测模型,以最终特征集与最优电极组合作为输入,以实现最高分类准确率为目标,训练迭代至最优模型。本发明在分级的情绪识别模型的基础上引入特征选择与通道重要性计算,以适应于真实场景中存在的多种情绪诱导方式,在实际场景中提高情绪识别的精度与效率。同时挖掘在音乐刺激与自我诱导的模式中与情绪相关的脑区分布的信息,以实现高效集约的通道配置方案。
[0125] 为了执行上述的一种脑电信号分级情绪识别方法,以实现相应的功能和技术效果,本发明实施例还提供了一种脑电信号分级情绪识别系统,包括:样本集获取模块、特征提取模块、特征选择模块、通道选择模块、训练集构成模块、预测模型搭建模块、训练模块和识别模块。
[0126] 样本集获取模块,用于获取双情绪诱导模式的脑电信号数据样本集;所述脑电信号数据样本集中的每个样本包括双情绪诱导模式下多个通道的脑电信号数据,每个脑电信号数据标注有情绪诱导模式标签和情绪类别标签。
[0127] 特征提取模块,用于对每个通道的脑电信号数据在时域、频域、时频域分别提取特征,并将同一通道的所有特征构成同一通道的脑电特征集。
[0128] 特征选择模块,用于依据特征选择方法,按照重要性对每个通道的脑电特征集进行特征选择,获得每个通道的最终特征集。
[0129] 通道选择模块,用于根据每个通道的最终特征集,采用通道重要性计算方法对通道进行选择,获得多种通道组合,并将每种通道组合中所有通道的最终特征集一起作为输入特征。
[0130] 训练集构成模块,用于将输入特征与输入特征标注的情绪诱导模式标签构成第一训练集,将一种情绪诱导模式标签的输入特征与情绪类别标签构成第二训练集,并将另一种情绪诱导模式标签的输入特征与情绪类别标签构成第三训练集。
[0131] 预测模型搭建模块,用于利用随机森林搭建预测模型;所述预测模型包括第一层和第二层,第一层的输出端与第二层的输入端连接,第一层用于预测情绪诱导模式,第二层包括每种情绪诱导模式的情绪类别区分模型。
[0132] 训练模块,用于采用第一训练集训练所述预测模型的第一层,采用第二训练集和第三训练集训练所述第二层中对应情绪诱导模式的情绪类别区分模型,获得分级情绪识别模型和最优通道组合。
[0133] 识别模块,用于将实时获取的最优通道组合的脑电信号数据的特征输入所述分级情绪识别模型,输出脑电信号数据的情绪类别。
[0134] 本发明实施例提供的脑电信号分级情绪识别系统与上述实施例所述的脑电信号分级情绪识别方法,其工作原理和有益效果类似,故此处不再详述,具体内容可参见上述方法实施例的介绍。
[0135] 本发明还提供一种电子设备,包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如前述的脑电信号分级情绪识别方法。
[0136] 此外,上述的存储器中的计算机程序通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器、随机存取存储器、磁碟或者光盘等各种可以存储程序代码的介质。
[0137] 进一步地,本发明还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被执行时实现如前述的脑电信号分级情绪识别方法。
[0138] 本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。
[0139] 本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处。综上所述,本说明书内容不应理解为对本发明的限制。