绘本阅读方法及相关设备转让专利

申请号 : CN202110860614.7

文献号 : CN115700847A

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 朱维峰曾俊飞查永东

申请人 : 华为技术有限公司

摘要 :

本申请公开了一种绘本阅读方法及相关设备,在用户阅读过程中,电子设备可以记录用户的异常行为(例如跳页、长时间未翻页等异常行为),并将整个阅读过程的时间进行分段,之后基于每段时间内用户出现异常行为的次数来输出对应时间段内用户的专注度评级,并进一步计算本次阅读过程中用户的专注度的值及专注度评级。这样,在不额外增加硬件成本和算法成本的情况下,根据用户翻页的记录,可以输出用户在阅读过程中的专注度,提高用户体验。此外,在用户阅读过程中,若用户在短时间内出现较为异常的行为(例如1分钟内连续跳页2次,且被跳过的页数达到3页等行为)时,电子设备可以提醒用户集中注意力或者提醒用户结束本次阅读,提高交互体验。

权利要求 :

1.一种绘本阅读方法,其特征在于,应用于包括摄像头的电子设备,所述方法包括:所述电子设备利用所述摄像头采集到绘本图像,并基于所述绘本图像识别绘本页;

所述电子设备在检测到所述绘本页的页码发生变化时,生成翻页记录;

所述电子设备基于所述翻页记录判断所述用户是否出现异常行为,若是,则所述电子设备记录所述异常行为;

所述电子设备基于所述异常行为确定所述用户的专注度评级。

2.根据权利要求1所述的方法,其特征在于,所述电子设备基于所述异常行为确定所述用户的专注度评级,具体包括:所述电子设备记录所述用户整个阅读绘本过程的总时长,并将所述总时长分为M个时间段,其中,M为正整数;

所述电子设备记录所述M个时间段中所述异常行为的出现次数,并基于所述M个时间段中所述异常行为的出现次数来分别确定所述M个时间段对应的所述用户的专注度评级;

其中,所述异常行为的出现次数越多,所述专注度评级越低;所述异常行为的出现次数越少,所述专注度评级越高。

3.根据权利要求2所述的方法,其特征在于,所述方法还包括:

若所述电子设备确定所述M个时间段中的第m个时间段对应的所述用户的专注度评级不是最高的,并基于所述M个时间段中的第m+1个时间段中所述异常行为的出现次数确定所述第m+1个时间段对应的所述用户的专注度评级为A,其中,所述专注度评级A不是最高的,也不是最低的,则所述电子设备确定将所述第m+1个时间段对应的所述用户的所述专注度评级由所述专注度评级A调整至专注度评级B,其中,所述专注度评级B比所述专注度评级A低一级,m为正整数且小于M。

4.根据权利要求2或3所述的方法,其特征在于,在所述电子设备基于所述异常行为确定所述用户的专注度评级之后,所述方法还包括:所述电子设备基于所述M个时间段的时长和所述M个时间段对应的所述用户的专注度评级确定所述用户整个阅读绘本过程的专注度评级;

其中,所述M个时间段对应的所述用户的专注度评级越高,和/或,所述专注度评级越高的时间段对应的持续时长越长,则所述用户整个阅读绘本过程的专注度评级越高。

5.根据权利要求1‑4任一项所述的方法,其特征在于,所述异常行为包括以下一项或多项:“跳页”行为、“长时间未翻页”行为、“未读完就翻页”行为、“提问未响应”行为。

6.根据权利要求1‑5任一项所述的方法,其特征在于,所述翻页记录中包括以下一项或多项:用户翻到的页码、开始时间、本页读完比例、播放内容结束时间、提问时间、提问是否响应、结束时间。

7.根据权利要求5或6所述的方法,其特征在于,所述电子设备基于所述翻页记录判断所述用户是否出现异常行为,具体包括:若所述电子设备检测到用户翻页之前的页码与所述翻页记录中的所述用户翻到的页码不连续,则所述电子设备确定所述用户出现所述“跳页”行为。

8.根据权利要求5‑7任一项所述的方法,其特征在于,所述电子设备基于所述翻页记录判断所述用户是否出现异常行为,具体包括:若所述电子设备检测到所述翻页记录中的所述结束时间比所述播放内容结束时间延迟超过第一时间阈值,则所述电子设备确定所述用户出现所述“长时间未翻页”行为。

9.根据权利要求5‑8任一项所述的方法,其特征在于,所述电子设备基于所述翻页记录判断所述用户是否出现异常行为,具体包括:若所述电子设备检测到所述翻页记录中的所述本页读完比例小于1,则所述电子设备确定所述用户出现所述“未读完就翻页”行为。

10.根据权利要求5‑9任一项所述的方法,其特征在于,所述电子设备基于所述翻页记录判断所述用户是否出现异常行为,具体包括:所述电子设备向用户发起提问,并记录所述提问时间,若所述电子设备在发起所述提问之后的第二时间阈值内未接收到用户的回应,则所述电子设备确定所述用户出现所述“提问未响应”行为。

11.根据权利要求1‑9任一项所述的方法,其特征在于,在所述电子设备确定用户出现所述异常行为之后,所述方法还包括:所述电子设备通过输出装置输出所述异常行为对应的提示。

12.一种电子设备,其特征在于,所述电子设备包括一个或多个处理器和一个或多个存储器;其中,所述一个或多个存储器与所述一个或多个处理器耦合,所述一个或多个存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,当所述一个或多个处理器执行所述计算机指令时,使得所述电子设备执行如权利要求1‑11中任一项所述的方法。

13.一种计算机存储介质,其特征在于,所述计算机存储介质存储有计算机程序,所述计算机程序包括程序指令,当所述程序指令在电子设备上运行时,使得所述电子设备执行如权利要求1‑11中任一项所述的方法。

说明书 :

绘本阅读方法及相关设备

技术领域

[0001] 本申请涉及终端技术领域,尤其涉及一种绘本阅读方法及相关设备。

背景技术

[0002] 在儿童早期教育阶段,绘本是儿童认知世界的重要途径。然而,传统的纸质绘本在使用过程中往往会遇到很多困难,例如,很多家长没有足够的时间去陪孩子阅读绘本,因此,市面上出现了点读笔、点读机等电子设备,可以陪伴孩子阅读绘本,但是,这些电子设备无法计算孩子在阅读绘本过程中的专注度,当家长不能陪伴孩子阅读绘本时,即在孩子独立阅读绘本的情况下,家长无法获知孩子在本次阅读绘本过程中的专注度,用户体验差。

发明内容

[0003] 本申请实施例提供了一种绘本阅读方法及相关设备,可以计算用户在阅读过程中的专注度。
[0004] 第一方面,本申请实施例提供了一种绘本阅读方法,应用于包括摄像头的电子设备,该方法包括:电子设备利用摄像头采集到绘本图像,并基于绘本图像识别绘本页;电子设备在检测到绘本页的页码发生变化时,生成翻页记录;电子设备基于翻页记录判断用户是否出现异常行为,若是,则电子设备记录异常行为;电子设备基于异常行为确定用户的专注度评级。
[0005] 本申请实施例通过实施第一方面提供的方法,可以在不额外增加硬件成本和算法成本的情况下,根据用户翻页的记录,输出用户在阅读过程中的专注度,提高用户体验。
[0006] 在一种可能的实现方式中,电子设备基于异常行为确定用户的专注度评级,具体包括:电子设备记录用户整个阅读绘本过程的总时长,并将总时长分为M个时间段,其中,M为正整数;电子设备记录M个时间段中异常行为的出现次数,并基于M个时间段中异常行为的出现次数来分别确定M个时间段对应的用户的专注度评级;其中,异常行为的出现次数越多,专注度评级越低;异常行为的出现次数越少,专注度评级越高。这样,可以确定用户在阅读过程中各个时间段的专注度评级。
[0007] 在一种可能的实现方式中,该方法还包括:若电子设备确定M个时间段中的第m个时间段对应的用户的专注度评级不是最高的,并基于M个时间段中的第m+1个时间段中异常行为的出现次数确定第m+1个时间段对应的用户的专注度评级为A,其中,专注度评级A不是最高的,也不是最低的,则电子设备确定将第m+1个时间段对应的用户的专注度评级由专注度评级A调整至专注度评级B,其中,专注度评级B比专注度评级A低一级,m为正整数且小于M。这样,可以确定用户可能存在长时间的非专注状态。
[0008] 在一种可能的实现方式中,在电子设备基于异常行为确定用户的专注度评级之后,该方法还包括:电子设备基于M个时间段的时长和M个时间段对应的用户的专注度评级确定用户整个阅读绘本过程的专注度评级;其中,M个时间段对应的用户的专注度评级越高,和/或,专注度评级越高的时间段对应的持续时长越长,则用户整个阅读绘本过程的专注度评级越高。这样,可以确定用户在整个阅读过程中的专注度评级。
[0009] 在一种可能的实现方式中,异常行为包括以下一项或多项:“跳页”行为、“长时间未翻页”行为、“未读完就翻页”行为、“提问未响应”行为。这样,可以确定异常行为具体包括哪些行为。
[0010] 在一种可能的实现方式中,翻页记录中包括以下一项或多项:用户翻到的页码、开始时间、本页读完比例、播放内容结束时间、提问时间、提问是否响应、结束时间。这样,可以确定翻页记录具体包括哪些内容。
[0011] 在一种可能的实现方式中,电子设备基于翻页记录判断用户是否出现异常行为,具体包括:若电子设备检测到用户翻页之前的页码与翻页记录中的用户翻到的页码不连续,则电子设备确定用户出现“跳页”行为。这样,可以基于翻页记录中的用户翻到的页码确定用户是否出现异常行为。
[0012] 在一种可能的实现方式中,电子设备基于翻页记录判断用户是否出现异常行为,具体包括:若电子设备检测到翻页记录中的结束时间比播放内容结束时间延迟超过第一时间阈值,则电子设备确定用户出现“长时间未翻页”行为。这样,可以基于翻页记录中的结束时间和播放内容结束时间确定用户是否出现异常行为。
[0013] 在一种可能的实现方式中,电子设备基于翻页记录判断用户是否出现异常行为,具体包括:若电子设备检测到翻页记录中的本页读完比例小于1,则电子设备确定用户出现“未读完就翻页”行为。这样,可以基于翻页记录中的本页读完比例确定用户是否出现异常行为。
[0014] 在一种可能的实现方式中,电子设备基于翻页记录判断用户是否出现异常行为,具体包括:电子设备向用户发起提问,并记录提问时间,若电子设备在发起提问之后的第二时间阈值内未接收到用户的回应,则电子设备确定用户出现“提问未响应”行为。这样,可以基于翻页记录中的提问时间确定用户是否出现异常行为。
[0015] 在一种可能的实现方式中,在电子设备确定用户出现异常行为之后,该方法还包括:电子设备通过输出装置输出异常行为对应的提示。这样,在用户出现异常行为时可以提醒用户集中注意力或结束阅读。
[0016] 第二方面,本申请实施例提供了一种电子设备,该电子设备包括一个或多个处理器和一个或多个存储器;其中,一个或多个存储器与一个或多个处理器耦合,一个或多个存储器用于存储计算机程序代码,计算机程序代码包括计算机指令,当一个或多个处理器执行计算机指令时,使得电子设备执行上述第一方面任一项可能的实现方式中的方法。
[0017] 第三方面,本申请实施例提供了一种计算机存储介质,该计算机存储介质存储有计算机程序,计算机程序包括程序指令,当程序指令在电子设备上运行时,使得电子设备执行上述第一方面任一项可能的实现方式中的方法。
[0018] 第四方面,本申请实施例提供了一种计算机程序产品,当计算机程序产品在计算机上运行时,使得计算机执行上述第一方面任一项可能的实现方式中的方法。

附图说明

[0019] 图1是本申请实施例提供的一种绘本识别方法的流程示意图;
[0020] 图2是本申请实施例提供的一种绘本识别的场景示意图;
[0021] 图3是本申请实施例提供的一种绘本阅读方法在阅读阶段的流程示意图;
[0022] 图4是本申请实施例提供的一种绘本阅读方法在统计阶段的流程示意图;
[0023] 图5是本申请实施例提供的一种用户在一次阅读过程中专注度的变化趋势示意图;
[0024] 图6是本申请实施例提供的一种电子设备的结构示意图;
[0025] 图7是本申请实施例提供的另一种电子设备的结构示意图。

具体实施方式

[0026] 下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。其中,在本申请实施例的描述中,除非另有说明,“/”表示或的意思,例如,A/B可以表示A或B;文本中的“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况,另外,在本申请实施例的描述中,“多个”是指两个或多于两个。
[0027] 应当理解,本申请的说明书和权利要求书及附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0028] 在本申请中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本申请所描述的实施例可以与其它实施例相结合。
[0029] 在儿童早期教育阶段,绘本是儿童认知世界的重要途径。然而,传统的纸质绘本在使用过程中往往会遇到很多困难,例如,很多家长没有足够的时间去陪孩子阅读绘本,因此,市面上出现了点读笔、点读机等电子设备,可以陪伴孩子阅读绘本,但是,这些电子设备无法计算孩子在阅读绘本过程中的专注度,当家长不能陪伴孩子阅读绘本时,即在孩子独立阅读绘本的情况下,家长无法获知孩子在本次阅读绘本过程中的专注度,用户体验差。
[0030] 目前,市面上出现了更多的具有绘本阅读能力的电子设备(也可以称为绘本阅读智能终端设备)。
[0031] 例如,一些电子设备可以阅读绘本内容,当用户将绘本放置在电子设备前一定范围内,电子设备可以通过摄像头识别绘本,在用户翻动绘本至某一页时,电子设备可以识别绘本当前页内容,并读出绘本上的文字内容(即播放绘本上的文字内容对应的音频),但是,这些电子设备仍无法对用户在阅读过程中是否专注作出评估计算。
[0032] 又例如,一些电子设备可以根据用户对试读章节内容的浏览次数和书籍全文的浏览次数生成相应的推送内容推送给用户,但是,这是这些电子设备获取用户阅读过程中的行为特征较少且简单,也无法对用户阅读过程中是否专注作出评估计算。
[0033] 再例如,一些电子设备在用户阅读过程中,通过摄像头观察用户行为,判断用户读书状态(是否专注于读书),当发现用户想要进行交互或者读书行为异常时,可以进行陪伴交互,完成阅读过程中与用户的交互。但是,这些电子设备不仅需要用于识别绘本的摄像头,还需要外置用于识别用户人脸的摄像头,依赖视觉相关算法识别用户的状态,成本和门槛都较高,且容易涉及用户隐私问题。
[0034] 本申请实施例提供了一种绘本阅读方法,在用户进行阅读过程中,电子设备可以记录用户的异常行为(例如跳页、长时间未翻页等异常行为),并将整个阅读过程的时间进行分段,之后,基于每段时间内用户出现异常行为的次数来输出对应时间段内用户的专注度评级,并进一步计算本次阅读过程中用户的整体专注度的值及专注度评级。这样,在不额外增加硬件成本和算法成本的情况下,根据用户翻页的记录,可以输出用户在阅读过程中的专注度,提高用户体验。此外,在用户进行阅读过程中,若用户在短时间内出现较为异常的行为(例如1分钟内连续跳页2次,且被跳过的页数达到3页等行为)时,电子设备可以提醒用户集中注意力或者提醒用户结束本次阅读,提高交互体验。
[0035] 首先介绍本申请实施例提供的一种绘本识别的方法流程。
[0036] 图1示例性示出了本申请实施例提供的一种绘本识别的方法流程。
[0037] 如图1所示,该方法可以应用于具有绘本阅读能力的电子设备100。下面详细介绍该方法的具体步骤:
[0038] S101、电子设备100采集图像。
[0039] 具体地,电子设备100可以利用自身携带的摄像头在图像采集区域内实时地采集图像,该实时采集的图像可以用于后续步骤进行绘本识别。其中,图像采集区域可以为摄像头能够拍摄到的区域。
[0040] 如图2所示,用户在进行绘本阅读时,可以先将绘本放置在电子设备100前的一定范围内(即电子设备100的摄像头的图像采集区域内),以使得电子设备100可以利用摄像头完整地或接近完整地拍摄到绘本。进一步地,电子设备100可以利用摄像头实时地采集到包括绘本的图像。
[0041] 可选地,电子设备100可以在接收到用户的第一输入之后再开始执行步骤S101,其中,第一输入可以包括但不限于用户的语音指令输入、点击操作等等。
[0042] S102、电子设备100执行图像识别算法来进行绘本识别。
[0043] 在本申请实施例中,电子设备100可以实时地执行图像识别算法来对上述实时采集的图像进行识别。
[0044] 具体地,电子设备100可以将实时采集的图像输入到提前训练好的绘本识别模型中进行绘本识别。
[0045] 模板库中可以预先存储有大量的绘本图像,绘本图像可以为绘本封面页的图像或绘本内容页的图像。绘本图像可以和所属的绘本之间存在关联关系,该关联关系也可以存储在模板库中,示例性地,建立关联关系的具体实现可以包括:将绘本图像与对应的绘本的名称建立关联关系,其中,绘本的名称可以表示该绘本具体是哪一本绘本。
[0046] 其中,电子设备100进行绘本识别可以采用基于视觉AI能力的图像识别技术,本申请实施例对绘本识别过程中采用的图像识别算法不作限定。
[0047] 其中,模板库和绘本识别模型可以存储在本地,也可以存储在云端,本申请实施例对此不作限定。
[0048] S103、电子设备100判断是否可以识别出绘本。
[0049] 具体地,电子设备100若确定上述实时采集的图像与模板库中预存的其中一个绘本图像匹配成功,则电子设备100确定可以识别出绘本。
[0050] 其中,模板库中的绘本图像都是训练过的绘本图像,即这些图像都是经历过特征提取、模型训练等过程的。在摄像头实时采集的图像中包括上述训练过的绘本图像的情况下,电子设备100才可以识别出绘本。
[0051] S104、电子设备100判断绘本当前页是否是绘本的封面页。
[0052] 具体地,电子设备100在进行绘本识别时,可以将摄像头实时采集的图像优先和预存的全部绘本封面页的图像一一进行匹配,如果匹配成功(即摄像头实时采集的图像与预存的其中一个绘本封面页的图像匹配成功),则电子设备100可以确定摄像头实时采集的图像包括绘本封面页的图像,即电子设备100识别出了绘本的封面页,进一步地,电子设备100可以确定用户展示在摄像头图像采集区域的是绘本的封面页。
[0053] 进一步地,在确定绘本当前页是绘本的封面页之后,电子设备100可以执行步骤S105。
[0054] S105、电子设备100播放切换绘本的音频,同时切换备选的内容索引页。
[0055] 具体地,若电子设备100识别出绘本的封面页,则可以认为用户切换了绘本。进一步地,电子设备100可以播放切换绘本的音频,该音频用于提示用户已经切换了绘本。可选地,该音频内容还可以包括用户切换到的绘本的名称,例如,该音频可以为“您已切换绘本,该绘本的名称为XXX”。同时,电子设备100可以切换备选的内容索引页,即电子设备100可以将识别出来的绘本所对应的绘本的内容页作为当前的备选的内容索引页。
[0056] S106、电子设备100判断绘本当前页与备选的内容索引页是否匹配。
[0057] 具体地,电子设备100在确定绘本当前页不是绘本的封面页之后,电子设备100可以将摄像头实时采集的绘本当前页的图像与当前的备选的内容索引页的图像一一进行匹配,如果匹配成功(即摄像头实时采集的绘本当前页的图像与当前的备选的内容索引页的图像中的其中一个匹配成功),则电子设备100可以确定绘本当前页与备选的内容索引页匹配,即电子设备100识别出了绘本当前页。否则,本次识别失败。
[0058] 进一步地,电子设备100在识别出绘本当前页之后,电子设备100可以执行步骤S107。
[0059] 其中,当前的备选的内容索引页为步骤S105中所述的电子设备100识别出来的绘本所对应的绘本的内容页。
[0060] 在本申请实施例中,绘本识别过程使用的特征匹配方式可以参考公开号为CN111695419A的专利中公开的特征匹配方式,CN111695419A的全文在这里引入。不限于此,绘本识别过程还可以使用其他现有技术中的特征匹配方式,本申请实施例对此不作限定。
[0061] 容易理解,用户在切换绘本时,需要先将绘本的封面页放置在电子设备100前的一定范围内,以使得电子设备100可以识别到绘本的封面页,并切换备选的内容索引页,从而可以使得电子设备100基于该备选的内容索引页来执行后续步骤。
[0062] 在本申请实施例中,电子设备100可以周期性地进行绘本识别,例如,电子设备100可以每200ms获取一次绘本识别模型输出的最新的识别结果,从而可以识别到在用户整个阅读过程中绘本页的变化情况。
[0063] S107、电子设备100判断用户是否翻到新页。
[0064] 具体地,在电子设备100识别到绘本当前页之后,由于电子设备100可以周期性地进行绘本识别,因此,电子设备100可以判断本次识别到的绘本当前页与上一次识别到的绘本当前页是否为同一页,若是,则表示绘本页没有发生变化,即本次识别到的绘本当前页就是上一次识别到的绘本当前页,那么,电子设备100可以确定用户没有翻到新页;若否,则表示绘本页发生了变化,即本次识别到的绘本当前页不是上一次识别到的绘本当前页,那么,电子设备100可以确定用户翻到了新页。
[0065] 其中,电子设备100判断本次识别到的绘本当前页与上一次识别到的绘本当前页是否为同一页的实现方式可以包括但不限于以下2种:
[0066] 实现方式1、判断本次识别到的绘本当前页的内容与上一次识别到的绘本当前页的内容是否相同,若是,则本次识别到的绘本当前页与上一次识别到的绘本当前页为同一页。
[0067] 实现方式2、判断本次识别到的绘本当前页的页码与上一次识别到的绘本当前页的页码是否相同,若是,则本次识别到的绘本当前页与上一次识别到的绘本当前页为同一页。
[0068] S108、电子设备100开始记录新页阅读信息并开始播放新页内容对应的音频。
[0069] 具体地,电子设备100在确定用户翻到了新页之后,电子设备100可以开始记录新页阅读信息,同时,电子设备100可以切换播放的音频,并开始播放新页内容对应的音频。
[0070] 其中,新页阅读信息可以包括用户翻页时间点、翻页前当前页读完比例、提问是否响应等信息,后面的实施例中会详细介绍这些信息,在此先不展开。
[0071] 下面介绍本申请实施例提供的绘本阅读方法的具体执行过程。
[0072] 该方法可以应用于具有绘本阅读能力的电子设备100。该方法的具体执行过程分为两个阶段:阅读阶段和统计阶段。下面进行详细介绍:
[0073] 1、阅读阶段
[0074] 电子设备100在绘本识别成功之后可以进入阅读阶段,由于电子设备100可以周期性地利用图像识别算法进行绘本识别(例如每200ms识别一次),识别到绘本页上的内容,因此,在阅读阶段,当用户翻页(即用户从当前页翻到新的一页)时,电子设备100可以识别到用户翻到的新的一页,并可以记录下用户本次翻页的时间点、翻到的页码数,以及翻页前当前页是否读完等信息。可选地,电子设备100如果在用户阅读过程中与用户进行了提问类交互,则电子设备100也可以记录用户对提问是否响应的信息。进一步地,电子设备100可以从上述阅读过程中记录的信息中提取用户的异常行为(例如跳页、长时间未翻页等异常行为)以及异常行为对应的起止时间等信息。进一步地,当电子设备100识别到用户在短时间内多次出现异常行为时,电子设备100可以和用户确认是否要继续阅读。
[0075] 下面详细介绍本申请实施例提供的绘本阅读方法在阅读阶段的具体流程。
[0076] 图3示例性示出了本申请实施例提供的绘本阅读方法在阅读阶段的具体流程。下面详细介绍该方法在阅读阶段的具体步骤:
[0077] S301、电子设备100记录用户翻页时间点、翻页前当前页读完比例、提问是否响应等信息。
[0078] 参见下表1,表1示例性示出了在用户一次完整的阅读过程中电子设备100记录的用户翻页时间点、翻页前当前页读完比例、提问是否响应等信息。
[0079] 其中,表1中的时间点表示一次阅读过程开始的第几分钟第几秒,例如,1:00表示一次阅读过程开始的第1分钟第0秒。表1中一行内容表示一条翻页记录,表1中的“序号”表示每一条翻页记录的序号。一条翻页记录中可以包括但不限于以下信息:“页码”、“开始时间”、“播放内容结束时间”、“本页读完比例”(即翻页前当前页读完比例)、“提问时间”、“提问是否响应”、“结束时间”。
[0080] 当用户翻页(即从当前页翻到新页)时,电子设备100可以检测到用户的翻页行为(例如电子设备100可以利用前述绘本识别过程中的图像识别算法识别到绘本页发生变化),此时,可以记录新页的页码(即表1中的“页码”或者称为用户翻到的页码),同时,还可以记录翻页时间点(即表1中的当前页的“结束时间”、新页的“开始时间”)。
[0081] 在用户翻到新页时,电子设备100可以开始播放本页内容对应的音频,在电子设备100结束播放本页内容对应的音频时,可以记录结束播放本页内容对应的音频时的时间点(即表1中的“播放内容结束时间”),同时,还可以记录用户读完本页的比例(即表1中的“本页读完比例”)。
[0082] 其中,用户读完本页的比例可以基于已经播放的本页内容对应的音频的时长与本页内容对应的音频的总时长来确定。
[0083] 例如,电子设备100在结束播放本页内容对应的音频时,如果已经将本页内容对应的音频全部播放完(即电子设备100在全部播放完本页内容对应的音频之前,未检测到用户出现翻页行为),那么,电子设备可以记录本页读完比例为1。
[0084] 又例如,电子设备100在结束播放本页内容对应的音频时,如果没有将本页内容对应的音频全部播放完(即电子设备100在仅播放了一部分本页内容对应的音频的情况下,检测到用户出现翻页行为),那么,电子设备100可以计算已经播放的本页内容对应的音频的时长所占本页内容对应的音频的总时长的比例,并将该比例记录为用户读完本页的比例。
[0085] 在用户翻到新页时,当新页内容中包含提问类交互时,电子设备100可以记录提问的时间点(即表1中的“提问时间”),此外,电子设备100发起提问之后,还可以记录是否接收到了用户对本次提问的语音响应(即表1中的“提问是否响应”)。
[0086] 需要说明的是,在表1中,仅仅以同一页中最多只发起一次提问为例记录提问结果。在一些实施例中,对于在同一页中发起多次提问的情况,电子设备100可以调整记录方式,例如,电子设备100可以一行记录一次提问结果,在后续阶段进行处理时,可以再通过判断相邻行的页码是否一致来合并同一页中的多次提问结果。
[0087]
[0088] 表1
[0089] S302、电子设备100提取用户跳页、长时间未翻页、未读完就翻页、提问未响应的事件对应的起止时间等信息。
[0090] 参见下表2,表2示例性示出了用户在一次完整的阅读过程中可能出现的异常行为以及电子设备100识别异常行为的方式。
[0091] 其中,用户在一次完整的阅读过程中可能出现的异常行为可以包括但不限于以下4种:跳页、长时间不翻页、未读完就翻页、提问未响应。
[0092] 异常行为1、跳页:
[0093] “跳页”可以是指用户在阅读过程中一次翻了多页,跳过了一些页未读,且短时间内没有翻回来。
[0094] 电子设备100识别“跳页”行为的可能实现方式:
[0095] (1)电子设备100可以比较相邻两条翻页记录中对应的页码,确定第二条翻页记录(即后一条翻页记录)对应的页码比第一条翻页记录(即前一条翻页记录)对应的页码大超过1页,即第二条翻页记录对应的页码与第一条翻页记录对应的页码之间的差值大于1,也即是说,电子设备100检测到用户翻页之前的页码与用户翻到的页码不连续。
[0096] 示例性地,如表1所示,序号3对应的翻页记录可以为第二条翻页记录,序号2对应的翻页记录可以为第一条翻页记录,容易看出,第二条翻页记录对应的页码为页码4,第一条翻页记录对应的页码为页码2,页码4与页码2的差值为2,2大于1,因此,电子设备100可以确定用户在时间点1:50时出现了“跳页”行为,即从第2页跳页到第4页,用户一次翻了2页,跳页页数为1页。
[0097] 同理,从表1中也容易看出,用户在时间点5:40时又出现了“跳页”行为,即从第6页跳页到第8页,用户一次翻了2页,跳页页数为1页。
[0098] (2)电子设备100可以确定两条翻页记录对应的页码之间包含未读过的页对应的页码,且电子设备100确定用户在短时间内(例如10秒内)没有再翻回到第一条翻页记录对应的页码的下一页。
[0099] 示例性地,假设第一条翻页记录对应的页码为2,第二条翻页记录对应的页码为4,若电子设备100检测到上述两条翻页记录之间没有包含页码3的翻页记录,则电子设备100可以确定用户未读过的页对应的页码为3,从而确定上述两条翻页记录对应的页码之间包含未读过的页对应的页码。进一步地,若电子设备100还检测到用户在短时间内(例如10秒内)没有再翻回到上述页码3对应的页,则电子设备100可以确定用户在短时间内没有再翻回到第一条翻页记录对应的页码的下一页。从而,电子设备100可以确定用户出现了“跳页”行为,即从第2页跳到了第4页。
[0100] 在一些实施例中,电子设备100也可以将上述(1)(2)两种可能实现方式结合起来综合判断用户是否出现“跳页”行为。例如,电子设备100可以利用上述(1)的方式来初步判断用户是否出现“跳页”行为,若是,则电子设备100可以再利用上述(2)的方式来进一步判断用户是否出现“跳页”行为,若是,则电子设备100可以综合确定用户出现了“跳页”行为。这样,可以避免电子设备100出现误识别现象。
[0101] 异常行为2、长时间未翻页:
[0102] “长时间未翻页”可以是指在电子设备100将本页内容对应的音频全部播放完之后的一段时间内(例如1分钟内),用户没有出现翻页行为。
[0103] 电子设备100识别“长时间未翻页”行为的可能实现方式:
[0104] 电子设备100可以找到相邻两条翻页记录,且确定第二条翻页记录(即后一条翻页记录)对应的开始时间(即第一条翻页记录中的“结束时间”)比第一条翻页记录(即前一条翻页记录)对应的播放内容结束时间延迟超过预设时间阈值(例如1分钟)。容易理解,电子设备100也可以比较同一条翻页记录中的“结束时间”与“播放内容结束时间”,并确定上述“结束时间”比上述“播放内容结束时间”延迟超过预设时间阈值(例如1分钟)。
[0105] 其中,上述预设时间阈值也可以称为第一时间阈值。
[0106] 示例性地,如表1所示,序号5对应的翻页记录可以为第二条翻页记录,序号4对应的翻页记录可以为第一条翻页记录,假设上述预设时间阈值为1分钟,容易看出,第二条翻页记录对应的开始时间比第一条翻页记录对应的播放内容结束时间延迟了1分钟30秒,超过了上述预设时间阈值1分钟,因此,电子设备100可以确定用户在时间点5:00时出现了“长时间未翻页”行为。
[0107] 异常行为3、未读完就翻页:
[0108] “未读完就翻页”可以是指电子设备100在仅播放了一部分本页内容对应的音频的情况下,用户就出现了翻页行为。
[0109] 电子设备100识别“未读完就翻页”行为的可能实现方式:
[0110] 电子设备100在检测到用户的翻页行为时,可以开始生成新的一页对应的翻页记录(即新的翻页记录),同时,电子设备100可以找到新的一页对应的翻页记录的上一条翻页记录,且确定该翻页记录对应的本页读完比例小于1,即新的翻页记录发生时,上一页内容还没有读完。
[0111] 示例性地,如表1所示,电子设备100可以在时间点5:40时检测到用户的翻页行为,并开始生成序号6对应的翻页记录,同时,电子设备100可以找到序号5对应的翻页记录,由于该翻页记录对应的本页读完比例为0.8,0.8小于1,因此,电子设备100可以确定用户在时间点5:40时出现了“未读完就翻页”行为。
[0112] 容易理解,若电子设备100检测到某一条翻页记录中的“本页未读完比例”小于1,则电子设备100可以确定用户出现“未读完就翻页”行为。
[0113] 异常行为4、提问未响应:
[0114] “提问未响应”可以是指电子设备100在发起提问之后,用户没有对本次提问进行语音回应。
[0115] 电子设备100识别“提问未响应”行为的可能实现方式:
[0116] 在绘本内容中包含提问类交互时,即对于有互动的页码,电子设备100可以向用户发起提问,并记录提问时间,在电子设备100发起提问之后的预设时间阈值内(例如10秒内),电子设备100没有接收到用户对本次提问进行的语音回应。
[0117] 其中,上述预设时间阈值也可以称为第二时间阈值。
[0118] 示例性地,如表1所示,在序号3对于的翻页记录中可以看出,电子设备100在时间点2:40时发起的提问,假设预设时间阈值为10秒,若电子设备100在发起提问之后的10秒内一直没有接收到用户对本次提问进行的语音回应,即电子设备100在时间点2:50还没有接收到用户对本次提问进行的语音回应,则电子设备100可以确定用户出现了“提问未响应”行为。
[0119]
[0120] 表2
[0121] 参见下表3,表3示例性示出了电子设备100基于表1中记录的信息提取到的用户在一次完整的阅读过程中出现的跳页、长时间未翻页、未读完就翻页、提问未响应的事件对应的起止时间等信息。
[0122] 其中,表3中包括用户在一次完整的阅读过程中可能出现的异常行为、以及异常行为对应的信息,即开始时间、结束时间、跳页页数、读完比例、未翻页时长。
[0123]
[0124] 表3
[0125] 容易理解,上述步骤S302中提取用户的异常行为的过程可以是在步骤S301中生成一条翻页记录之后就可以执行的,而不是在生成一次完整的阅读过程中的全部翻页记录之后才执行的。
[0126] S303、电子设备100判断是否需要提醒用户。
[0127] 具体地,用户在阅读过程中,电子设备100可以先判断用户是否在短时间内出现较为异常的行为,并进一步判断是否需要提醒用户。
[0128] 若电子设备100确定用户在短时间内出现较为异常的行为,则电子设备100可以确定需要提醒用户,进一步地,电子设备100可以执行步骤S304来提醒用户。
[0129] 若电子设备100确定用户在短时间内没有出现较为异常的行为,则电子设备100可以确定不需要提醒用户,进一步地,电子设备100可以不作出提醒。
[0130] 其中,电子设备100可以基于步骤S302中提取得到的异常行为对应的信息(例如表3中的信息)来判断用户是否在短时间内出现了较为异常的行为。
[0131] 参见下表4,表4示例性示出了用户在阅读过程中短时间内可能出现的较为异常的行为、相应的提示方式以及反馈处理方式。
[0132]
[0133] 表4
[0134] 其中,用户在阅读过程中可能出现的较为异常的行为可以包括但不限于以下4种:
[0135] 较为异常的行为1、一定时间段内(例如1分钟内)连续跳页达到某一预设次数阈值(例如2次),且被跳过的页数达到某一预设页数阈值(例如3页)。
[0136] 以表4中的“1分钟内连续跳页达到2次,且被跳过的页数达到3页”为例,电子设备100可以基于步骤S302中提取得到的“跳页”行为对应的信息来判断用户是否在1分钟内连续跳页达到2次,且被跳过的页数达到3页。
[0137] 其中,电子设备100可以判断2次相邻的“跳页”行为对应的开始时间(或结束时间)之间的差值是否大于1分钟,若是,则电子设备100确定用户在1分钟内连续跳页达到2次。进一步地,电子设备100可以判断上述2次相邻的“跳页”行为对应的跳页页数的总和是否大于或等于3页,若是,则电子设备100确定用户跳过的页数达到3页。
[0138] 较为异常的行为2、翻页时间过长,单次不翻页时长达到某一预设时间阈值(例如2分钟)。
[0139] 以表4中的“翻页时间过长,单次不翻页时长达到2分钟”为例,电子设备100可以基于步骤S302中提取得到的“长时间未翻页”行为对应的未翻页时长来判断用户单次不翻页时长是否大于或等于2分钟,若是,则电子设备100确定用户单次不翻页时长达到2分钟。
[0140] 较为异常的行为3、连读达到某一预设页数阈值(例如3页)未读完,且读完比例均小于某一预设比例阈值(例如80%)。
[0141] 以表4中的“连读达到3页未读完,且读完比例均小于80%”为例,电子设备100可以基于步骤S302中提取得到的“未读完就翻页”行为对应的读完比例来判断用户是否连读达到3页未读完,且读完比例均小于80%。
[0142] 其中,电子设备100可以判断用户连续出现“未读完就翻页”行为的次数是否大于或等于3次,若是,则电子设备100可以确定用户连续达到3页未读完,进一步地,电子设备100可以判断上述连续3次“未读完就翻页”行为对应的读完比例是否均小于80%,若是,则电子设备100可以确定用户连续3次“未读完就翻页”行为对应的读完比例均小于80%。
[0143] 较为异常的行为4、持续一段时间内(例如1分钟内)未将绘本放入可识别范围内。
[0144] 以表4中的“持续1分钟未将绘本放入可识别范围内”为例,电子设备100可以利用前述绘本识别过程中的图像识别算法进行绘本识别,若电子设备100无法识别到绘本,且无法识别到绘本的时长大于或等于1分钟,则电子设备100可以确定用户持续1分钟未将绘本放入可识别范围内。
[0145] S304、电子设备100提醒用户。
[0146] 具体地,在电子设备100确定需要提醒用户时,电子设备100可以利用相应的提示方式提醒用户集中注意力或者提醒用户结束本次阅读等等。
[0147] 其中,提醒用户所用的相应的提示方式可以为表4中示例性所示的提示方式:
[0148] 针对上述较为异常的行为1,电子设备100可以输出表4示例性所示的提示“我看到你一直在翻页,是不喜欢这段内容吗?”。
[0149] 进一步地,电子设备100可以接收到用户针对该提示作出的语音回应,并针对语音回应作出相应的反馈处理。例如,若电子设备100检测到用户的语音回应代表的是“不喜欢”的意图,则电子设备100可以提示用户换一本书。又例如,若电子设备100检测到用户的语音回应代表的是“喜欢”的意图,则电子设备100可以继续执行阅读任务(例如播放本页内容对应的音频),并忽略本次阅读过程中后续可能出现的该较为异常的行为1,即若电子设备100检测到该异常行为1再次出现时,电子设备100可以不作出提醒。
[0150] 针对上述较为异常的行为2,电子设备100可以输出表4示例性所示的提示“还有继续读绘本吗?要不要休息一下?”。
[0151] 进一步地,电子设备100可以接收到用户针对该提示作出的语音回应,并针对语音回应作出相应的反馈处理。例如,若电子设备100检测到用户的语音回应代表的是“不继续”的意图,则电子设备100可以停止执行绘本阅读任务(即退出绘本)。又例如,若电子设备100检测到用户的语音回应代表的是“继续”的意图,则电子设备100可以继续执行阅读任务(例如播放本页内容对应的音频),并忽略本次阅读过程中后续可能出现的该较为异常的行为2,即若电子设备100检测到该异常行为2再次出现时,电子设备100可以不作出提醒。
[0152] 针对上述较为异常的行为3,电子设备100可以输出表4示例性所示的提示“前几页都没有读完哦,请耐心读完吧”。
[0153] 进一步地,电子设备100可以继续执行阅读任务(例如播放本页内容对应的音频),并忽略本次阅读过程中后续可能出现的该较为异常的行为3,即若电子设备100检测到该异常行为3再次出现时,电子设备100可以不作出提醒。
[0154] 针对上述较为异常的行为4,电子设备100可以输出表4示例性所示的提示“我现在看不到绘本啦,请把绘本放到我面前”。
[0155] 进一步地,电子设备100可以继续利用前述绘本识别过程中的图像识别算法进行绘本识别,若电子设备100在进行提示后又持续一段时间(例如1分钟)识别不到绘本,则电子设备100可以停止执行绘本阅读任务(即退出绘本)。若电子设备100在进行提示后识别到绘本,则电子设备100继续执行绘本阅读任务(例如播放本页内容对应的音频)。
[0156] 其中,电子设备100进行反馈处理需要电子设备100对用户的语音进行识别、对用户的意图进行理解。电子设备100可以通过利用云端的自动语音识别(Automatic Speech Recognition,ASR)能力和自然语言处理(Natural Language Processing,NLP)能力来实现语音识别和意图理解。
[0157] 其中,表4中示例性所示的提示语可以是电子设备100通过输出装置(例如扬声器、显示屏等)输出的。
[0158] 需要说明的是,表4中所示的用户在阅读过程中短时间内可能出现的较为异常的行为、相应的提示方式以及反馈处理方式仅仅是示例性的,不应构成对本申请的限定。
[0159] 通过执行图3所示的方法,在阅读阶段,电子设备100可以实时发现用户是否出现较为异常的行为,若是,则电子设备100可以在阅读过程中提醒用户集中注意力,或者,提醒用户结束本次阅读。
[0160] 在一些实施例中,电子设备100不需要在确定用户出现了较为异常的行为之后再提醒用户,而是在确定用户出现了异常行为之后,就可以及时提醒用户集中注意力,或,结束阅读等。
[0161] 2、统计阶段
[0162] 电子设备100在完成阅读阶段之后(即结束本次阅读之后)可以进入统计阶段,在统计阶段,电子设备100可以记录用户本次整个阅读绘本过程的总时长,并将该总时长进行分段(例如可以将该总时长分为M个时间段,其中,M为正整数),并记录每个时间段内用户出现异常行为的次数,之后基于每个时间段内用户出现异常行为的次数来确定并输出对应时间段内用户的专注度评级。进一步地,电子设备100可以基于本次阅读过程每个时间段的时长以及对应时间段内用户的专注度评级,来计算本次整个阅读绘本过程中用户的整体专注度的数值,并确定本次整个阅读绘本过程中用户的专注度评级。
[0163] 在本申请实施例中,电子设备100进入统计阶段可以是通过用户发出的指令(例如语音指令)来触发的。例如,电子设备100可以在接收到用户发出“我已完成本次阅读”的语音指令之后进入统计阶段。
[0164] 在一些实施例中,电子设备100也可以在检测到绘本最后一页的内容播放结束之后自动进入统计阶段。
[0165] 下面详细介绍本申请实施例提供的绘本阅读方法在统计阶段的具体流程。
[0166] 图4示例性示出了本申请实施例提供的绘本阅读方法在统计阶段的具体流程。下面详细介绍该方法在统计阶段的具体步骤:
[0167] S401、电子设备100将用户一次阅读过程的总时长进行分段。
[0168] 具体地,在前述阅读阶段结束之后,电子设备100可以按照一定的分段规则将用户一次阅读过程的总时长进行分段。例如,电子设备100可以将总时长均分为多个时间段,如果某个分割时间点刚好处在出现一次异常行为的时间段之间,则可以延长该时间段,使得该时间段包含出现该异常行为的时间段,后续时间段也可以依次顺延。
[0169] 示例性地,电子设备100可以以1分钟为单位将用户一次阅读过程的总时长进行分段。以表1为例,参见表1,从表1中可以看出,用户一次阅读过程的总时长为10分钟,如果以1分钟为单位进行分段,则可以分为以下10个时间段:0:00‑1:00;1:00‑2:00;2:00‑3:00;3:00‑4:00;4:00‑5:00;5:00‑6:00;6:00‑7:00;7:00‑8:00;8:00‑9:00;9:00‑10:00。但是,时间段3:00‑4:00的分割时间点4:00刚好处在出现“长时间未翻页”行为的时间段3:30‑5:00之间,因此,电子设备100可以延长该时间段3:00‑4:00,即可以将时间段3:00‑4:00和时间段4:00‑5:00合并为一个时间段3:00‑5:00。容易理解,电子设备100最终可以将表1中用户一次阅读过程的总时长分为以下9个时间段:0:00‑1:00;1:00‑2:00;2:00‑3:00;3:00‑5:
00;5:00‑6:00;6:00‑7:00;7:00‑8:00;8:00‑9:00;9:00‑10:00。
[0170] 需要说明的是,电子设备100将用户一次阅读过程的总时长进行分段使用的分段规则也可以是其他,本申请实施例对此不作限定。
[0171] S402、电子设备100记录每个时间段中用户出现异常行为的次数,并基于记录的每个时间段中用户出现异常行为的次数,对每个时间段中用户的专注度进行评级。
[0172] 具体地,在电子设备100将用户一次阅读过程的总时长进行分段之后,电子设备100可以记录每个时间段中用户出现异常行为的次数。其中,单个时间段中用户出现异常行为的次数与专注度评级之间具有一定的映射关系,该映射关系可以是预先设定的,电子设备100在记录完单个时间段中用户出现异常行为的次数之后可以基于上述映射关系得到对应的专注度评级。
[0173] 参见下表5,表5示例性示出了单个时间段中用户出现异常行为的次数与专注度评级之间的映射关系。从表5中可以看出,电子设备100将单个时间段中用户出现异常行为的次数分为4种情况:0次、1次、2次、3次。电子设备100将专注度分为4个等级,这4个等级由高到低依次为:专注、比较专注、不太专注、不专注。单个时间段中用户出现异常行为的次数为0次时,专注度评级为专注;单个时间段中用户出现异常行为的次数为1次时,专注度评级为比较专注;单个时间段中用户出现异常行为的次数为2次时,专注度评级为不太专注;单个时间段中用户出现异常行为的次数为3次时,专注度评级为不专注。容易看出,异常行为的出现次数越多,专注度评级越低,异常行为的出现次数越少,专注度评级越高。
[0174] 需要说明的是,表5中示出的单个时间段中用户出现异常行为的次数与专注度评级之间的映射关系仅仅是示例性的,不应构成对本申请的限定。
[0175] 在一些实施例中,单个时间段中用户出现异常行为的次数与专注度评级之间的映射关系也可以是其他。专注度也可以分为更多等级或更少等级,每个专注度评级对应的单个时间段中用户出现异常行为的次数也可以是其他单个数值或区间。
[0176] 在另一些实施例中,在确定每个时间段用户的专注度评级时,还可以结合用户出现异常行为的异常程度来更细致地区分专注度评级。其中,用户出现异常行为的异常程度可以基于用户长时间未翻页的时长、跳页的页数等来确定。
[0177] 单个时间段中用户出现异常行为的次数 专注度评级0 专注
1 比较专注
2 不太专注
3 不专注
[0178] 表5
[0179] 电子设备100基于记录的每个时间段中用户出现异常行为的次数,可以得到每个时间段中用户的专注度评级。
[0180] 进一步地,电子设备100还可以比较相邻两个时间段(即当前时间段和当前时间段的上一个时间段)用户的专注度评级,如果当前时间段和当前时间段的上一个时间段,用户的专注度评级均为非专注(例如比较专注,或,不太专注,或,不专注),则当前时间段的专注度评级可以进行调整,例如,在本来应得的专注度评级的基础上下降一级,得到调整后的当前时间段的专注度评级。这样,可以在判断用户可能出现了较长时间的非专注行为的情况下,下调对用户这段时间的专注度评级。
[0181] 参见下表6,表6示例性示出了当前时间段的上一个时间段的专注度评级、当前时间段本来应得的专注度评级、调整后的当前时间段的专注度评级。
[0182] 从表6中可以看出,在时间段1的专注度评级为比较专注/不太专注/不专注,时间段2本来应得的专注度评级为不太专注的情况下,由于这两个时间段内用户的专注度评级均为非专注,因此,时间段2本来应得的专注度评级需要作调整来得到调整后的时间段2的专注度评级。调整后的时间段2的专注度评级可以是在时间段2本来应得的专注度评级基础上下降一级得到的,即将不太专注下降一级为不专注,因此,调整后的时间段2的专注度评级为不专注。
[0183] 在一些实施例中,在时间段1的专注度评级为比较专注/不太专注/不专注,时间段2本来应得的专注度评级为不专注的情况下,由于不专注是表5的专注度评级中最低的一级,因此,在这种情况下,时间段2本来应得的专注度评级不需要作调整,即时间段2本来应得的专注度评级与调整后的时间段2的专注度评级一致。
[0184] 表6中的其他3种情况,由于这两个时间段内用户的专注度评级没有出现均为非专注的情况,因此,时间段2本来应得的专注度评级不需要作调整,即时间段2本来应得的专注度评级与调整后的时间段2的专注度评级一致。
[0185]
[0186] 表6
[0187] 基于表5和表6中的信息,容易理解,若电子设备100将用户本次阅读绘本过程的总时长划分后为M个时间段,其中,M为正整数,该M个时间段中的第m个时间段对应的用户的专注度评级不是最高的(例如专注度评级为比较专注/不太专注/不专注),而且,电子设备100基于该M个时间段中的第m+1个时间段中异常行为的出现次数确定第m+1个时间段对应的用户的专注度评级为A,其中,专注度评级A不是最高的也不是最低的(例如专注度评级A为比较专注/不太专注),则电子设备100进一步可以确定将第m+1个时间段对应的用户的专注度评级由专注度评级A调整至专注度评级B,其中,专注度评级B比所述专注度评级A低一级(例如若专注度评级A为比较专注,则专注度评级B为不太专注),m为正整数且小于M。
[0188] 基于表1和表3中的信息,电子设备100通过执行步骤S401和步骤S402,可以得到如下表7示例性所示的分析结果。
[0189] 参见表7,从表7中可以看出,在时间段0:00‑1:00、6:00‑7:00、7:00‑8:00、8:00‑9:00、9:00‑10:00中,用户均未出现异常行为,即用户出现异常行为的次数均为0,根据表5可知,这5个时间段的专注度评级均为专注。
[0190] 在时间段1:00‑2:00中,用户出现“跳页”行为,即用户出现异常行为的次数为1,根据表5可知,该时间段本来应得的专注度评级为比较专注,且由于该时间段的上一个时间段0:00‑1:00的专注度评级为专注,因此,该时间段的专注度评级依然为该时间段本来应得的专注度评级,即为比较专注。
[0191] 在时间段2:00‑3:00中,用户出现“提问未响应”行为,即用户出现异常行为的次数为1,根据表5可知,该时间段本来应得的专注度评级为比较专注,但是由于该时间段的上一个时间段1:00‑2:00的专注度评级为比较专注,因此,该时间段的专注度评级在该时间段本来应得的专注度评级基础上下调一级,即为不太专注。
[0192] 在时间段3:00‑5:00中,用户出现“长时间未翻页”行为,即用户出现异常行为的次数为1,根据表5可知,该时间段本来应得的专注度评级为比较专注,但是由于该时间段的上一个时间段2:00‑3:00的专注度评级为不太专注,因此,该时间段的专注度评级在该时间段本来应得的专注度评级基础上下调一级,即为不太专注。
[0193] 在时间段5:00‑6:00中,用户出现“未读完就翻页”行为和“跳页”行为,即用户出现异常行为的次数为2,根据表5可知,该时间段本来应得的专注度评级为不太专注,但是由于该时间段的上一个时间段3:00‑5:00的专注度评级为不太专注,因此,该时间段的专注度评级在该时间段本来应得的专注度评级基础上下调一级,即为不专注。
[0194]
[0195] 表7
[0196] 在一些实施例中,表7中每个时间段的专注度评级也可以均为每个时间段本来应得的专注度评级,即电子设备100也可以不对每个时间段本来应得的专注度评级进行任何调整,直接将每个时间段本来应得的专注度评级作为最终的每个时间段的专注度评级。
[0197] 进一步地,基于表7中的信息,可以得到图5示例性所示的用户在一次阅读过程中专注度的变化趋势示意图。
[0198] 从图5中可以看出,用户在一次阅读过程中的专注度呈现先降低后提高的变化趋势,即在0‑6分钟时间段内,用户的专注度评级依次为专注(0‑1分钟)、比较专注(1‑2分钟)、不太专注(2‑5分钟)、不专注(5‑6分钟),即专注度呈现降低的变化趋势;在6‑10分钟时间段内,用户的专注度评级均为专注(6‑10分钟),即专注度与6分钟之前相比呈现提高的变化趋势。
[0199] 由于图5中标注有用户在阅读过程中出现的异常行为,因此,从图5中还可以看出用户在哪个时间段出现了异常行为。如图5所示,用户在时间段1:00‑2:00和时间段5:00‑6:00出现了“跳页”行为,用户在时间段2:00‑3:00出现了“提问未响应”行为,用户在时间段3:
00‑5:00出现了“长时间未翻页”行为,用户在时间段5:00‑6:00出现了“未读完就翻页”行为。
[0200] S403、电子设备100基于每个时间段的时长及专注度评级计算用户本次阅读的专注度的值。
[0201] 具体地,电子设备100可以使用多种方式基于每个时间段的时长及专注度评级来计算用户本次阅读的专注度的值。下面以线性加权的方式为例来说明电子设备100基于每个时间段的时长及专注度评级计算用户本次阅读的专注度的值的具体计算过程:
[0202] 在一种可能的实现方式中,用户本次阅读的专注度的值V可以利用如下公式1来计算:
[0203]
[0204] 其中,T1,T2,T3,T4依次为前述四类专注度:专注、比较专注、不太专注、不专注的持续时长;C3,C4依次为不太专注、不专注的次数(或称为不太专注、不专注的时间段个数);T为用户本次阅读的总时长(即一次阅读过程的开始时间与结束时间之间的时间间隔);Tp为本次阅读过程中途暂停的总时长(即一次阅读过程中每一次用户中途暂停读绘本与用户又重新回来继续读绘本之间的时间间隔之和);Cp为本次阅读过程中途暂停的次数;P为被翻到的总页数(跳过的页不算);Pf为用户实际读完的总页数(即被翻到的总页数减去未读完就翻页的页数)。
[0205] 在本申请实施例中,电子设备100计算在一次阅读过程中用户每一次中途暂停的时长的实现方式可以为:电子设备100可以在接收到用户发出暂停阅读的指令(例如语音指令)时记录下该时刻t1,之后,电子设备100可以在接收到用户重新回来继续阅读的指令(例如语音指令)时记录下该时刻t2,并计算时刻t2与时刻t1之间的差值,该差值即为用户中途暂停一次的时长。
[0206] 其中,上述公式1中的参数a1,a2,a3,a4,ap,af,thrp的值均可以是预先设定的,用户也可以按照自己的标准进行自主设置。例如,对于专注的持续时长占比 比较专注的持续时长占比 可以依次给予正向加权a1=1,a2=0。对于不太专注的持续时长占比 不专注的持续时长占比 暂停的时长占比 可以依次给予负向加权a3=‑2,a4=‑5,ap=‑1。对于用户读完的页数的比例 可以给予正向加权af=2,且可以设置thrp=0.9,如果 超过0.9,则 可以为正向的值(即正值)。
[0207] 其中,惩罚值Penalty是基于不太专注及不专注的时间段个数来确定的,示例性地,惩罚值Penalty可以通过如下公式2来计算:
[0208]
[0209] 从上述公式2可以看出,不太专注的时间段个数C3和不专注的时间段个数C4越多,Penalty的值越接近于0。在公式1中,惩罚值Penalty可以与 相乘。
[0210] 参见表8,表8示例性示出了专注度的值V与专注度评级之间的映射关系。
[0211] 从表8中可以看出,若专注度的值V大于0.5,则表示用户本次阅读是专注的;若专注度的值V在‑0.1到0.5之间,则表示用户本次阅读是比较专注的;若专注度的值V在‑3到‑0.1之间,则表示用户本次阅读是不太专注的;若专注度的值V小于‑3,则表示用户本次阅读是不专注的。
[0212] 专注度的值V 专注度评级V>0.5 专注
‑0.1≤V≤0.5 比较专注
‑3≤V<‑0.1 不太专注
V<‑3 不专注
[0213] 表8
[0214] 需要说明的是,表8中示出的专注度的值V与专注度评级之间的映射关系仅仅是示例性的,不应构成对本申请的限定。在一些实施例中,表8中专注度的值V的三个临界值0.5、‑0.1、‑3还可以设置为其他数值,来用于区分不同的专注度评级。
[0215] 基于表1至表8中的信息,电子设备100可以利用上述公式1和公式2计算得到用户本次阅读的专注度的值。
[0216] 具体地,从表1、表3、表7中可以得出:T1为5分钟(即表7中专注度评级为“专注”时对应的各个时间段的时长之和),T2为1分钟(即表7中专注度评级为“比较专注”时对应的各个时间段的时长之和),T3为3分钟(即表7中专注度评级为“不太专注”时对应的各个时间段的时长之和),T4为1分钟(即表7中专注度评级为“专注”时对应的各个时间段的时长之和),T为10分钟(即表2中第一条翻页记录对应的开始时间到最后一条翻页记录对应的结束时间之间的时间间隔),P为10页(即表2中“页码”一列对应的总行数),Pf为9页(即表2中“页码”一列对应的总行数减去“本页读完比例”一列对应的本页读完比例小于1的总行数),C3为2次(表7中专注度评级为“不太专注”的次数),C4为1次(表7中专注度评级为“不专注”的次数)。在本次计算过程中,假设Tp为0分钟,Cp为0次。
[0217] 进一步地,基于已经确定的上述公式1和上述公式2中的各个参数的具体值,电子设备100可以利用上述公式1和公式2计算得到用户本次阅读的专注度的值约为‑0.7。
[0218] 进一步地,基于表8中专注度的值V与专注度评级之间的映射关系,电子设备100可以确定用户本次阅读是不太专注的。
[0219] 在a1=1,a2=0,a3=‑2,a4=‑5,ap=‑1,af=2,thrp=0.9的情况下,电子设备100利用上述公式1和上述公式2计算出来的用户一次阅读的专注度的最大值约为1.2,最小值约为‑5。
[0220] 其中,上述专注度的最大值是在用户在整个阅读过程中均未出现异常行为的情况下计算出来的,即整个阅读过程用户的专注度均为“专注”(即T1=T、T2=T3=T4=0)、中途也未暂停(即Tp=0、Cp=0)、没有未读完的页(即 )。
[0221] 其中,上述专注度的最小值是在如下情况下计算出来的:整个阅读过程中用户的专注度均为“不专注”,即T4=T、T1=T2=T3=0、中途暂停总时长与本次阅读总时长之比中途暂停次数Cp≥3、用户读完的页数的比例
[0222] 容易看出,每个时间段对应的用户的专注度评级越高,和/或,专注度评级越高的时间段对应的持续时长越长,则用户在整个阅读绘本过程中的专注度评级越高。
[0223] 需要说明的是,电子设备100还可以使用其他加权方式来计算用户本次阅读的专注度的值,本申请实施例对此不作限定。
[0224] 通过执行图4所示的方法,电子设备100可以输出统计阶段的分时段结果(例如表7所示的分析结果)和最终计算结果(即专注度的值及该专注度的值对应的专注度评级)。该分时段结果和最终计算结果可以用于评价儿童用户在阅读过程中的阅读情况,供家长参考。此外,电子设备100输出的标注有异常行为的专注度变化趋势示意图(例如图5所示的用户在一次阅读过程中专注度的变化趋势示意图),可以作为儿童用户阅读情况的明细供家长查看。
[0225] 在一些实施例中,电子设备100可以基于计算得到的专注度的值及该专注度的值对应的专注度评级来确定用户是否对该类型的绘本或内容感兴趣,例如,用户在阅读过程中的专注度越高,可以表示用户对该类型的绘本或内容越感兴趣。若电子设备100确定用户对该类型的绘本或内容感兴趣,则电子设备100可以输出一些相同类型的绘本来向用户进行推荐。
[0226] 在另一些实施例中,上述公式1和公式2中的各个参数可以进行自主设定。这样,可以给儿童用户的家长一定的控制权。例如,上述公式1和上述公式2中的各个参数的具体含义和重要程度可以呈现给家长,便于家长理解,如果家长认为上述公式1和/或公式2中的某项参数并不重要,则家长可以删除该项参数,或,自主调整该项参数的值。
[0227] 本申请的实施例中的电子设备100是具有绘本阅读能力的电子设备,也可以称为绘本阅读智能终端设备,电子设备100可以是绘本阅读机器人、绘本阅读手机、绘本阅读平板等等。本申请实施例对电子设备100的类型、物理形态、尺寸不作限定。
[0228] 在一些实施例中,电子设备100为绘本阅读机器人的情况下,电子设备100可以提前与带有显示屏的电子设备200(例如手机)建立通信连接(例如蓝牙通信连接等),电子设备100可以将前述统计阶段输出的分析结果(例如前述分时段结果、最终计算结果、标注有异常行为的专注度变化趋势示意图等等)发送给电子设备200,电子设备200可以保存该结果,该结果可以在电子设备200的显示屏上显示,用于供儿童用户的家长查看,从而获知儿童用户在阅读过程中的阅读情况。可选地,上述公式1和公式2中的各个参数也可以通过家长在电子设备200上来进行自主设定。
[0229] 下面介绍本申请实施例提供的一种电子设备100的结构。
[0230] 图6示例性示出了本申请实施例中提供的一种电子设备100的结构。
[0231] 如图6所示,电子设备100可以包括:处理器601、存储器602、扬声器603、麦克风604、总线605、摄像头606、电源607。这些部件可以通过总线605连接。其中:
[0232] 处理器601可用于读取和执行计算机可读指令,包括一个或者多个处理核心,处理器601通过运行软件程序以及模块,从而执行各种功能的应用以及信息处理。具体实现中,处理器601可主要包括控制器、运算器和寄存器。其中,控制器主要负责指令译码,并为指令对应的操作发出控制信号。运算器主要负责执行定点或浮点算数运算操作、移位操作以及逻辑操作等,也可以执行地址运算和转换。寄存器主要负责保存指令执行过程中临时存放的寄存器操作数和中间操作结果等。具体实现中,处理器601的硬件架构可以是专用集成电路(Application Specific Integrated Circuits,ASIC)架构、MIPS架构、ARM架构或者NP架构等等。
[0233] 存储器602通过总线605和处理器601相连。存储器602可用于用于存储各种软件程序和/或多组程序指令。处理器601用于执行至少一个程序指令,以实现上述实施例的技术方案。其实现原理和技术效果与上述方法相关实施例类似,此处不再赘述。
[0234] 扬声器603(也可以称为音频播放设备或音频外放设备)通过总线605和处理器601相连,可用于将音频电信号转换为声音信号。在本申请实施例中,电子设备100可以通过扬声器603播放绘本内容对应的音频。
[0235] 麦克风604通过总线605和处理器601相连,可用于将声音信号转换为电信号。在本申请实施例中,电子设备100可以通过麦克风604接收用户发出的声音信号,可以实现与用户进行语音互动。可选地,在电子设备100不需要实现与用户进行语音互动的功能时,电子设备100的结构中也可以不包括麦克风604。
[0236] 摄像头606通过总线605和处理器601相连,可用于用于捕获静态图像或视频。在本申请实施例中,摄像头606可用于拍摄绘本的封面页的图像和/或绘本的内容页的图像,进一步地,电子设备100可以利用摄像头606(例如3456×3456的摄像头)拍摄的图像来进行绘本识别。
[0237] 电源607可用于向处理器601、存储器602、扬声器603、麦克风604、摄像头606等内部部件供电。
[0238] 可选地,电子设备100的结构中还可以包括舵机,舵机可用于调整电子设备100的姿态,以使得电子设备100的摄像头606可以拍摄到绘本。例如,在电子设备100为绘本阅读机器人的情况下,绘本阅读机器人执行绘本阅读任务时,舵机可以控制绘本阅读机器人低头(摄像头可以安装在头部,例如额头部位),使得绘本机器人可以拍摄到身前一定距离(例如30厘米左右)位置处的绘本。
[0239] 电子设备100的结构中还可以包括显示屏(图中未示出),可以用于输出图形图像信息。在本申请实施例中,显示屏可以显示电子设备100输出的用户在一次阅读过程中的专注度分析结果,例如,表7所示的分析结果、计算得到的专注度的值及该专注度的值对应的专注度评级、标注有异常行为的专注度变化趋势示意图等等。
[0240] 电子设备100的结构中还可以包括通信模块(图中未示出),可以用于电子设备100与其他电子设备建立通信连接,并通过该通信连接与其他电子设备进行通信。
[0241] 电子设备100的结构中还可以包括计时器(图中未示出),可以用于电子设备100记录用户的翻页时间、提问时间、播放内容结束时间等等。
[0242] 在本申请实施例中,处理器可以是通用处理器、数字信号处理器、专用集成电路、现场可编程门阵列或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件,可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。
[0243] 在本申请实施例中,存储器可以是非易失性存储器,比如硬盘(hard disk drive,HDD)或固态硬盘(solid‑state drive,SS)等,还可以是易失性存储器(volatile memory),例如随机存取存储器(random‑access memory,RAM)。存储器是能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,不限于此。
[0244] 本申请实施例中的存储器还可以是电路或者其它任意能够实现存储功能的装置,用于存储程序指令和/或数据。
[0245] 应当理解的是,图6所示电子设备100仅是一个范例,并且电子设备100可以具有比图6中所示的更多的或者更少的部件,可以组合两个或多个的部件,或者可以具有不同的部件配置。图6中所示出的各种部件可以在包括一个或多个信号处理和/或专用集成电路在内的硬件、软件、或硬件和软件的组合中实现。
[0246] 下面介绍本申请实施例提供的另一种电子设备100的结构。
[0247] 图7示例性示出了本申请实施例中提供的另一种电子设备100的结构。
[0248] 如图7所示,电子设备100可以包括:处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器
170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器
192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
[0249] 可以理解的是,本申请实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
[0250] 处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processing unit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural‑network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
[0251] 其中,控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
[0252] 处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
[0253] 在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter‑integrated circuit,I2C)接口,集成电路内置音频(inter‑integrated circuit sound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general‑purpose input/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
[0254] I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,SCL)。在一些实施例中,处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K,充电器,闪光灯,摄像头193等。例如:处理器110可以通过I2C接口耦合触摸传感器180K,使处理器110与触摸传感器180K通过I2C总线接口通信,实现电子设备100的触摸功能。
[0255] I2S接口可以用于音频通信。在一些实施例中,处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过I2S接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。
[0256] PCM接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中,音频模块170也可以通过PCM接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。所述I2S接口和所述PCM接口都可以用于音频通信。
[0257] UART接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,UART接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过UART接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过UART接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。
[0258] MIPI接口可以被用于连接处理器110与显示屏194,摄像头193等外围器件。MIPI接口包括摄像头串行接口(camera serial interface,CSI),显示屏串行接口(display serial interface,DSI)等。在一些实施例中,处理器110和摄像头193通过CSI接口通信,实现电子设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信,实现电子设备100的显示功能。
[0259] GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,GPIO接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。GPIO接口还可以被配置为I2C接口,I2S接口,UART接口,MIPI接口等。
[0260] USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他终端设备,例如AR设备等。
[0261] 可以理解的是,本申请实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在本申请另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
[0262] 充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备100供电。
[0263] 电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,外部存储器,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
[0264] 电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
[0265] 天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
[0266] 移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
[0267] 调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
[0268] 无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wireless local area networks,WLAN)(如无线保真(wireless fidelity,Wi‑Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
[0269] 在一些实施例中,电子设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(code division multiple access,CDMA),宽带码分多址(wideband code division multiple access,WCDMA),时分码分多址(time‑division code division multiple access,TD‑SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(global navigation satellite system,GLONASS),北斗卫星导航系统(beidou navigation satellite system,BDS),准天顶卫星系统(quasi‑zenith satellite system,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
[0270] 电子设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
[0271] 显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light‑emitting diode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active‑matrix organic light emitting diode的,AMOLED),柔性发光二极管(flex light‑emitting diode,FLED),Miniled,MicroLed,Micro‑oLed,量子点发光二极管(quantum dot light emitting diodes,QLED)等。在一些实施例中,电子设备100可以包括1个或N个显示屏194,N为大于1的正整数。
[0272] 电子设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
[0273] ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
[0274] 摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal‑oxide‑semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或N个摄像头193,N为大于1的正整数。
[0275] 数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
[0276] 视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
[0277] NPU为神经网络(neural‑network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
[0278] 外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
[0279] 内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令,从而执行电子设备100的各种功能应用以及数据处理。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
[0280] 电子设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
[0281] 音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
[0282] 扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。电子设备100可以通过扬声器170A收听音乐,或收听免提通话。
[0283] 受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当电子设备100接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。
[0284] 麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170C发声,将声音信号输入到麦克风170C。电子设备100可以设置至少一个麦克风170C。在另一些实施例中,电子设备100可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,电子设备100还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
[0285] 耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130,也可以是3.5mm的开放移动终端设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
[0286] 压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A,电极之间的电容改变。电子设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,电子设备100根据压力传感器180A检测所述触摸操作强度。电子设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
[0287] 陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180B检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。
[0288] 气压传感器180C用于测量气压。在一些实施例中,电子设备100通过气压传感器180C测得的气压值计算海拔高度,辅助定位和导航。
[0289] 磁传感器180D包括霍尔传感器。电子设备100可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中,当电子设备100是翻盖机时,电子设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
[0290] 加速度传感器180E可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备100姿态,应用于横竖屏切换,计步器等应用。
[0291] 距离传感器180F,用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,电子设备100可以利用距离传感器180F测距以实现快速对焦。
[0292] 接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。电子设备100通过发光二极管向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定电子设备100附近有物体。当检测到不充分的反射光时,电子设备100可以确定电子设备
100附近没有物体。电子设备100可以利用接近光传感器180G检测用户手持电子设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式,口袋模式自动解锁与锁屏。
[0293] 环境光传感器180L用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测电子设备100是否在口袋里,以防误触。
[0294] 指纹传感器180H用于采集指纹。电子设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
[0295] 温度传感器180J用于检测温度。在一些实施例中,电子设备100利用温度传感器180J检测的温度,执行温度处理策略。例如,当温度传感器180J上报的温度超过阈值,电子设备100执行降低位于温度传感器180J附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,电子设备100对电池142加热,以避免低温导致电子设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,电子设备100对电池
142的输出电压执行升压,以避免低温导致的异常关机。
[0296] 触摸传感器180K,也称“触控面板”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备100的表面,与显示屏194所处的位置不同。
[0297] 骨传导传感器180M可以获取振动信号。在一些实施例中,骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180M也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于所述骨传导传感器180M获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于所述骨传导传感器180M获取的血压跳动信号解析心率信息,实现心率检测功能。
[0298] 按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入,产生与电子设备100的用户设置以及功能控制有关的键信号输入。
[0299] 马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
[0300] 指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
[0301] SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195,或从SIM卡接口195拔出,实现和电子设备100的接触和分离。电子设备100可以支持1个或N个SIM卡接口,N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡,Micro SIM卡,SIM卡等。同一个SIM卡接口195可以同时插入多张卡。所述多张卡的类型可以相同,也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。电子设备100通过SIM卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,电子设备100采用eSIM,即:嵌入式SIM卡。eSIM卡可以嵌在电子设备100中,不能和电子设备100分离。
[0302] 应当理解的是,图7所示电子设备100仅是一个范例,并且电子设备100可以具有比图7中所示的更多的或者更少的部件,可以组合两个或多个的部件,或者可以具有不同的部件配置。图7中所示出的各种部件可以在包括一个或多个信号处理和/或专用集成电路在内的硬件、软件、或硬件和软件的组合中实现。
[0303] 其中,电子设备200的结构可以与上述图7所示的电子设备100的结构部分或全部相同,在此不再赘述。
[0304] 在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘(solid state disk,SSD))等。
[0305] 本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,该流程可以由计算机程序来指令相关的硬件完成,该程序可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法实施例的流程。而前述的存储介质包括:ROM或随机存储记忆体RAM、磁碟或者光盘等各种可存储程序代码的介质。
[0306] 以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。