曝光调节系统、方法、装置以及存储介质转让专利

申请号 : CN202210770682.9

文献号 : CN115225825B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 林铭张华宾邸文华

申请人 : 北京都视科技有限公司

摘要 :

本申请公开了一种曝光调节系统、方法、装置以及存储介质。其中,一种曝光调节方法,包括:将目标图像分割为多个图像块,并确定图像块的图像块信息,其中图像块信息包括相应的图像块的位置信息以及亮度信息;在目标图像中确定人脸区域的位置信息;根据图像块信息和人脸区域的位置信息,计算人脸区域的亮度值;以及根据亮度值对曝光值进行调节。

权利要求 :

1.一种曝光调节系统,其特征在于,包括:图像信号处理模块(10)、人工智能模块(20)、处理器模块(30)以及影像传感器(40),其中所述图像信号处理模块(10)配置用于执行以下操作:将目标图像分割为多个第一图像块,并确定第一图像块的图像块信息,其中所述图像块信息包括相应的第一图像块的位置信息以及亮度信息;以及将所述图像块信息发送至所述处理器模块(30),并将所述目标图像发送至所述人工智能模块(20),所述人工智能模块(20)配置用于在所述目标图像中确定人脸区域的位置信息;以及将所述人脸区域的位置信息发送至所述处理器模块(30),并且所述处理器模块(30)配置用于执行以下操作:根据所述图像块信息和所述人脸区域的位置信息,计算所述人脸区域的第一亮度值;以及根据所述第一亮度值对所述影像传感器(40)的曝光值进行调节,其中所述人工智能模块(20)在所述目标图像中确定人脸区域的位置信息的操作,包括:确定在所述目标图像之前获取的第一图像和第二图像,其中所述第一图像先于所述第二图像获取;

确定所述第一图像和所述第二图像之间的时间间隔;

基于预设的人脸检测模型,确定所述第一图像中的人脸区域的位置信息和所述第二图像中的人脸区域的位置信息;

确定所述第二图像中的人脸区域的位置信息相对于所述第一图像中的人脸区域的位置信息的位移矢量;

根据所确定的位移矢量以及时间间隔,确定所述第二图像中的人脸区域相对于所述第一图像中的相应人脸区域的速度矢量;

根据所述第二图像中人脸区域的位置信息、所确定的速度矢量以及所述目标图像与所述第二图像之间的时间间隔,对所述目标图像中的人脸区域的位置信息进行确定;

判定所确定的目标图像中的人脸区域的位置信息是否错误;以及在所述目标图像的人脸区域的色度值与所述第二图像的人脸区域的色度值之差大于预定阈值的情况下,所确定的目标图像的人脸区域的位置信息错误。

2.根据权利要求1所述的曝光调节系统,其特征在于,确定所述第一图像块的图像块信息的操作,包括:根据所述第一图像块的坐标、宽度以及高度,确定所述第一图像块的位置信息;以及确定所述第一图像块中的像素的亮度平均值,作为所述第一图像块的亮度信息。

3.根据权利要求1所述的曝光调节系统,其特征在于,在所述目标图像中确定人脸区域的位置信息的操作,包括:通过预设的人脸检测模型对所述目标图像进行检测,确定所述人脸区域的位置信息。

4.根据权利要求3所述的曝光调节系统,其特征在于,确定所述人脸区域的位置信息的操作,包括:在所述目标图像中确定与所述人脸区域对应的矩形框,其中所述人脸区域在所述矩形框之内;

根据与用于去除所述矩形框的四角的斜线相关的斜率和截距,确定去除所述矩形框的四角后的八边形框;以及根据所述八边形框确定所述人脸区域的位置信息。

5.根据权利要求4所述的曝光调节系统,其特征在于,还包括:通过预设的人脸检测模型确定所述目标图像的人脸区域;

通过预设的图像分割模型对所述人脸区域进行分割,确定所述人脸区域中的人脸轮廓;

将所述人脸轮廓与所述八边形框进行比较;以及

在所述人脸轮廓与所述八边形框的偏差超过预定阈值的情况下,根据所述人脸轮廓,调节所述斜率和所述截距。

6.根据权利要求2所述的曝光调节系统,其特征在于,根据所述图像块信息和所述人脸区域的位置信息,计算所述人脸区域的第一亮度值的操作,包括:根据所述第一图像块的图像块信息和人脸区域的位置信息,从所述第一图像块中确定所述人脸区域所覆盖的第二图像块;以及根据所述第二图像块的亮度信息,计算所述人脸区域的第一亮度值。

7.一种曝光调节方法,其特征在于,包括:

将目标图像分割为多个图像块,并确定所述图像块的图像块信息,其中所述图像块信息包括相应的图像块的位置信息以及亮度信息;

在所述目标图像中确定或确定人脸区域的位置信息;

根据所述图像块信息和所述人脸区域的位置信息,计算所述人脸区域的亮度值;

根据所述亮度值对曝光值进行调节,其中

在所述目标图像中确定人脸区域的位置信息的操作,还包括:确定在所述目标图像之前获取的第一图像和第二图像,其中所述第一图像先于所述第二图像获取;

确定所述第一图像和所述第二图像之间的时间间隔;

基于预设的人脸检测模型,确定所述第一图像中的人脸区域的位置信息和所述第二图像中的人脸区域的位置信息;

确定所述第二图像中的人脸区域的位置信息相对于所述第一图像中的人脸区域的位置信息的位移矢量;

根据所确定的位移矢量以及时间间隔,确定所述第二图像中的人脸区域相对于所述第一图像中的相应人脸区域的速度矢量;

根据所述第二图像中人脸区域的位置信息、所确定的速度矢量以及所述目标图像与所述第二图像之间的时间间隔,对所述目标图像中的人脸区域的位置信息进行确定;

判定所确定的目标图像中的人脸区域的位置信息是否错误;以及在所述目标图像的人脸区域的色度值与所述第二图像的人脸区域的色度值之差大于预定阈值的情况下,所确定的目标图像的人脸区域的位置信息错误。

8.一种存储介质,其特征在于,所述存储介质包括存储的程序,其中,在所述程序运行时由处理器执行权利要求7所述的方法。

9.一种曝光调节装置,其特征在于,包括:

第一确定模块,用于将目标图像分割为多个图像块,并确定所述图像块的图像块信息,其中所述图像块信息包括相应的图像块的位置信息以及亮度信息;

第二确定模块,用于在所述目标图像中确定人脸区域的位置信息;

亮度值计算模块,用于根据所述图像块信息和所述人脸区域的位置信息,计算所述人脸区域的亮度值;

曝光值调节模块,用于根据所述亮度值对曝光值进行调节,其中所述第二确定模块,用于确定在所述目标图像之前获取的第一图像和第二图像,其中所述第一图像先于所述第二图像获取;

用于确定所述第一图像和所述第二图像之间的时间间隔;

用于基于预设的人脸检测模型,确定所述第一图像中的人脸区域的位置信息和所述第二图像中的人脸区域的位置信息;

用于确定所述第二图像中的人脸区域的位置信息相对于所述第一图像中的人脸区域的位置信息的位移矢量;

用于根据所确定的位移矢量以及时间间隔,确定所述第二图像中的人脸区域相对于所述第一图像中的相应人脸区域的速度矢量;

用于根据所述第二图像中人脸区域的位置信息、所确定的速度矢量以及所述目标图像与所述第二图像之间的时间间隔,对所述目标图像中的人脸区域的位置信息进行确定;

用于判定所确定的目标图像中的人脸区域的位置信息是否错误;以及用于在所述目标图像的人脸区域的色度值与所述第二图像的人脸区域的色度值之差大于预定阈值的情况下,所确定的目标图像的人脸区域的位置信息错误。

说明书 :

曝光调节系统、方法、装置以及存储介质

技术领域

[0001] 本申请涉及图像处理技术领域,特别是涉及一种曝光调节系统、方法、装置以及存储介质。

背景技术

[0002] 在直播环境下,人脸区域的曝光不容易控制,容易出现过曝的现象。现有的自动曝光的方法,都是基于固定区域(例如视场的中心区域)的像素值来调节传感器的曝光量或者是根据用户选择的区域的像素值来调节传感器的曝光量。
[0003] 但是,当直播环境下,拍摄的人脸不是位于中心区域时,或者用户不点击人脸区域的情况下,就不能根据人脸区域的实际拍摄情况自动调节传感器的曝光。
[0004] 针对上述的现有技术中存在的在拍摄过程中无法自动调节人脸区域的曝光的技术问题,目前尚未提出有效的解决方案。

发明内容

[0005] 本申请提供了一种曝光调节系统、方法、装置以及存储介质,以至少解决现有技术中存在的在拍摄过程中无法自动调节人脸区域的曝光的技术问题。
[0006] 根据本申请的一个方面,提供了一种曝光调节系统,包括:图像信号处理模块、人工智能模块、处理器模块以及影像传感器,其中图像信号处理模块配置用于执行以下操作:将目标图像分割为多个第一图像块,并确定第一图像块的图像块信息,其中图像块信息包括相应的第一图像块的位置信息以及亮度信息;以及将图像块信息发送至处理器模块,并将目标图像发送至人工智能模块,人工智能模块配置用于在目标图像中确定人脸区域的位置信息;以及将人脸区域的位置信息发送至处理器模块,并且处理器模块配置用于执行以下操作:根据图像块信息和人脸区域的位置信息,计算人脸区域的第一亮度值;以及根据第一亮度值对影像传感器的曝光值进行调节。
[0007] 根据本申请的另一个方面,还提供了一种曝光调节方法,包括:将目标图像分割为多个图像块,并确定图像块的图像块信息,其中图像块信息包括相应的图像块的位置信息以及亮度信息;在目标图像中确定人脸区域的位置信息;根据图像块信息和人脸区域的位置信息,计算人脸区域的亮度值;以及根据亮度值对曝光值进行调节。
[0008] 根据本申请的另一个方面,还提供了一种存储介质,存储介质包括存储的程序,其中,在程序运行时由处理器执行以上任意一项所述的方法。
[0009] 根据本申请的另一个方面,还提供了一种曝光调节装置,包括:第一确定模块,用于将目标图像分割为多个图像块,并确定图像块的图像块信息,其中图像块信息包括相应的图像块的位置信息以及亮度信息;第二确定模块,用于在目标图像中确定人脸区域的位置信息;亮度值计算模块,用于根据图像块信息和人脸区域的位置信息,计算人脸区域的亮度值;以及曝光值调节模块,用于根据亮度值对曝光值进行调节。
[0010] 根据本申请的另一个方面,还提供了一种曝光调节装置,包括:处理器;以及存储器,与处理器连接,用于为处理器提供处理以下处理步骤的指令:将目标图像分割为多个图像块,并确定图像块的图像块信息,其中图像块信息包括相应的图像块的位置信息以及亮度信息;在目标图像中确定人脸区域的位置信息;根据图像块信息和人脸区域的位置信息,计算人脸区域的亮度值;以及根据亮度值对曝光值进行调节。
[0011] 在本申请实施例中,图像信号处理模块将目标图像分割成多个图像块,并计算各个图像块的亮度信息,利用人工智能模块来确定人脸区域的位置信息。通过这种方式,使得图像信号处理模块不仅仅可以用于曝光控制,也可以用于对图像进行分块并计算亮度值的场景。从而提高了图像信号处理模块的通用性。与现有技术相比,在直播过程中,本技术方案可以准确追踪人脸,从而处理器模块可以随时根据人脸的亮度值自动对影像传感器的曝光值进行调节,提高了直播视频的清晰度。并且本技术方案无需手动点击人脸区域进行聚焦,避免了手动点击所造成的遗漏需要调节曝光的图像帧,从而保证了直播视频的质量。从而本技术方案实现了自动调节人脸区域的曝光的技术效果,进而解决了现有技术中存在的在拍摄过程中无法自动调节人脸区域的曝光的技术问题。
[0012] 根据下文结合附图对本申请的具体实施例的详细描述,本领域技术人员将会更加明了本申请的上述以及其他目的、优点和特征。

附图说明

[0013] 后文将参照附图以示例性而非限制性的方式详细描述本申请的一些具体实施例。附图中相同的附图标记标示了相同或类似的部件或部分。本领域技术人员应该理解,这些附图未必是按比例绘制的。附图中:
[0014] 图1是根据本申请一个实施例的第一个方面所述的曝光调节系统的示意图;
[0015] 图2是根据本申请一个实施例所述的图像块的示意图;
[0016] 图3是根据本申请一个实施例所述的人脸区域的示意图;
[0017] 图4是根据本申请一个实施例所述的人脸区域的另一个示意图;
[0018] 图5是根据本申请一个实施例所述的图像帧的示意图;
[0019] 图6是根据本申请一个实施例所述的人脸区域的又一个示意图;
[0020] 图7是根据本申请一个实施例所述的人脸区域的再一个示意图;
[0021] 图8是根据本申请一个实施例所述的人脸区域和脖子区域的示意图;
[0022] 图9是根据本申请一个实施例的第二个方面所述的曝光调节方法的流程示意图;
[0023] 图10是根据本申请一个实施例的第四个方面所述的曝光调节装置的示意图;以及[0024] 图11是根据本申请一个实施例的第五个方面所述的曝光调节装置的示意图。

具体实施方式

[0025] 需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
[0026] 为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
[0027] 需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的术语在适当情况下可以互换,以便这里描述的本申请的实施例。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0028] 需要注意的是,这里所使用的术语仅是为了描述具体实施方式,而非意图限制根据本申请的示例性实施方式。如在这里所使用的,除非上下文另外明确指出,否则单数形式也意图包括复数形式,此外,还应当理解的是,当在本说明书中使用术语“包含”和/或“包括”时,其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
[0029] 图1示出了本实施例所述的曝光调节系统的一个结构示意图。参照图1所示,本申请所提出的曝光调节系统,包括:图像信号处理模块10、人工智能模块20、处理器模块30以及影像传感器40,其中图像信号处理模块10配置用于执行以下操作:将目标图像分割为多个第一图像块,并确定第一图像块的图像块信息,其中图像块信息包括相应的第一图像块的位置信息以及亮度信息;以及将图像块信息发送至处理器模块30,并将目标图像发送至人工智能模块20,人工智能模块20配置用于在目标图像中确定人脸区域的位置信息;以及将人脸区域的位置信息发送至处理器模块30,并且处理器模块30配置用于执行以下操作:根据图像块信息和人脸区域的位置信息,计算人脸区域的第一亮度值;以及根据第一亮度值对影像传感器40的曝光值进行调节。
[0030] 具体地,参考图1所示,曝光调节系统包括图像信号处理模块10、人工智能模块20、处理器模块30以及影像传感器40。在直播过程中,影像传感器40采集目标图像,之后将采集的目标图像发送至图像信号处理模块10。其中目标图像为直播视频的图像帧。
[0031] 进一步地,参考图2所示,图像信号处理模块10接收到目标图像后,对目标图像进行去马赛克等图像处理。之后图像信号处理模块10将图像处理后的目标图像分割为多个图像块(即,第一图像块),例如分割为16*16个图像块。之后图像信号处理模块10确定每个图像块(即,第一图像块)的位置信息,并且根据各个图像块中包括的像素确定各个图像块的亮度信息,从而确定每个图像块的图像块信息。其中图像块信息包括相应的图像块(即,第一图像块)的位置信息以及亮度信息。之后图像信号处理模块10将图像块的图像块信息发送至处理器模块30,并且将目标图像发送至人工智能模块20。
[0032] 进一步地,参考图3所示,人工智能模块20接收到目标图像后,通过预设的人脸检测模型,对目标图像进行人脸检测,从而确定目标图像中的人脸区域的位置信息。之后人工智能模块20将目标图像中的人脸区域的位置信息发送至处理器模块30。
[0033] 进一步地,参考图4所示,处理器模块30接收到图像信号处理模块10发送的图像块信息,并且接收到人工智能模块20发送的人脸区域的位置信息后,根据人脸区域在目标图像中的位置信息,在分割为多个图像块的目标图像中确定人脸区域的位置,即,将图像块信息与人脸区域的位置信息进行对应,从而在图像块中确定人脸区域的位置信息。之后处理器模块30计算人脸区域的所覆盖的图像块的亮度值,并将计算得到的亮度值作为人脸区域的亮度值(即,第一亮度值)。
[0034] 进一步地,处理器模块30将人脸区域的亮度值(即,第一亮度值)与预定阈值进行比较,从而判断是否需要对影像传感器40的曝光值进行调节。当人脸区域的亮度值(即,第一亮度值)超过预定阈值,则处理器模块30根据人脸区域的亮度值,向影像传感器40发送调节曝光值的调节请求,影像传感器40响应于该调节请求,对曝光值进行调节。
[0035] 正如背景技术中所述的,在直播环境下,人脸区域的曝光不容易控制,容易出现过曝的现象。现有的自动曝光的方法,都是基于固定区域(例如视场的中心区域)的像素值来调节传感器的曝光量或者是根据用户选择的区域的像素值来调节传感器的曝光量。但是,当直播环境下,拍摄的人脸不是位于中心区域时,或者用户不点击人脸区域的情况下,就不能根据人脸区域的实际拍摄情况自动调节传感器的曝光。
[0036] 针对以上所述的技术问题,通过本申请实施例的技术方案,图像信号处理模块将目标图像分割成多个图像块,并计算各个图像块的亮度信息,利用人工智能模块来确定人脸区域的位置信息。通过这种方式,使得图像信号处理模块不仅仅可以用于曝光控制,也可以用于对图像进行分块并计算亮度值的场景。从而提高了图像信号处理模块的通用性。与现有技术相比,在直播过程中,本技术方案可以准确追踪人脸,从而处理器模块可以随时根据人脸的亮度值自动对影像传感器的曝光值进行调节,提高了直播视频的清晰度。并且本技术方案无需手动点击人脸区域进行聚焦,避免了手动点击所造成的遗漏需要调节曝光的图像帧,从而保证了直播视频的质量。从而本技术方案实现了自动调节人脸区域的曝光的技术效果,进而解决了现有技术中存在的在拍摄过程中无法自动调节人脸区域的曝光的技术问题。
[0037] 可选地,确定第一图像块的图像块信息的操作,包括:根据第一图像块的坐标、宽度以及高度,确定第一图像块的位置信息;以及确定第一图像块中的像素的亮度平均值,作为第一图像块的亮度信息。
[0038] 具体地,参考图2所示,图像块信息包括相应的图像块的位置信息以及亮度信息。图像信号处理模块10将目标图像分割为多个图像块(即,第一图像块)后,确定每个图像块的坐标(x,y),宽度w以及高度h,从而将图像块的坐标(x,y),宽度w以及高度h作为该图像块(第一图像块)的位置信息(x,y,w,h)。
[0039] 进一步地,每个图像块中都包括多个像素,图像信号处理模块10获取各个图像块中的像素的像素值,根据像素值计算该图像块的亮度信息。其中图像块的亮度信息为该图像块中的像素的亮度平均值。例如,图像信号处理模块10获取图像块01(即,第一图像块)中的各个像素的RGB值,并根据像素的RGB值计算该像素的YUV值。其中YUV值中的“Y”为亮度值,“U”和“V”为颜色值。之后图像信号处理模块10获取各个像素的Y值(即,亮度值),并根据图像块01中的全部像素的Y值(即,亮度值)计算亮度平均值,之后将该亮度平均值作为图像块01的亮度信息。此外,目标图像中的其他图像块依照图像块01的亮度信息的计算方法计算亮度信息,此处不再赘述。从而图像信号处理模块10得到目标图像中的全部图像块的亮度信息。
[0040] 从而本技术方案通过图像信号处理模块10计算目标图像中各个图像块的位置信息和亮度信息,使得处理器模块30只需要根据图像块的亮度信息计算人脸区域的亮度值,从而图像信号处理模块10为处理器模块30分担了大部分的计算过程,实现了平均分布的计算方式,提高了数据计算的效率和速度。
[0041] 可选地,在目标图像中确定人脸区域的位置信息的操作,包括:通过预设的人脸检测模型对目标图像进行检测,确定人脸区域的位置信息。
[0042] 具体地,人工智能模块20获取目标图像后,将目标图像输入至预设的人脸检测模型,从而人脸检测模型对目标图像进行检测,识别出该目标图像中的人脸区域。之后人工智能模块20根据目标图像的人脸区域,确定该人脸区域的坐标(x,y)、宽度w以及高度h。其中人脸区域的坐标(x,y)为人脸区域左上角的像素点坐标值。之后人工智能模块20将该人脸区域的坐标(x,y)、宽度w以及高度h,作为该人脸区域的位置信息(x,y,w,h)。
[0043] 从而本技术方案通过人脸检测模型检测人脸区域,从而可以准确得到人脸区域的位置信息,保证了人脸区域识别的准确性。
[0044] 可选地,在目标图像中确定人脸区域的位置信息的操作,还包括:确定在目标图像之前获取的第一图像和第二图像,其中第一图像先于第二图像获取;确定第一图像和第二图像之间的时间间隔;确定第二图像中的人脸区域相对于第一图像中的相应人脸区域的位移矢量;根据所确定的位移矢量以及时间间隔确定第二图像中的人脸区域相对于第一图像中的相应人脸区域的速度矢量;根据第二图像中人脸区域的位置信息、所确定的速度矢量以及目标图像与第二图像之间的时间间隔,对目标图像中的人脸区域的位置信息进行预测。
[0045] 具体地,参考图5所示,图5示出了4个图像帧,分别为n‑1时刻生成的图像帧n‑1,m‑1时刻生成的图像帧m‑1,n时刻生成的图像帧n以及m时刻生成的图像帧m。其中图像帧n‑1,图像帧m‑1,图像帧n以及图像帧m为连续的4个图像帧。并且其中图像帧n‑1以及图像帧n为通过人脸检测模型确定人脸区域的图像帧,图像帧m‑1以及图像帧m为通过之前的图像帧来预测人脸区域的图像帧。
[0046] 例如,图像帧m为目标图像,人工智能模块20在图像帧n‑1生成时,获取图像帧n‑1(即,第一图像),之后在图像帧n生成时,获取图像帧n(即,第二图像)。其中图像帧n‑1(即,第一图像)先于图像帧n(即,第二图像)生成。然后人工智能模块20分别获取图像帧n‑1(即,第一图像)以及图像帧n(即,第二图像)的生成时间。即,图像帧n‑1(即,第一图像)的生成时间为n‑1时刻,图像帧n(即,第二图像)的生成时间为n时刻。并且人工智能模块20根据图像帧n‑1(即,第一图像)以及图像帧n(即,第二图像)的生成时间确定图像帧n‑1(即,第一图像)以及图像帧n(即,第二图像)之间的时间间隔。即,n‑1时刻与n时刻之间的时间间隔。
[0047] 进一步地,人工智能模块20通过人脸检测模型分别从图像帧n‑1(即,第一图像)以及图像帧n(即,第二图像)中确定人脸区域的位置信息,之后根据图像帧n‑1(即,第一图像)的人脸区域的位置信息以及图像帧n(即,第二图像)的人脸区域的位置信息,确定图像帧n(即,第二图像)中的人脸区域相对于图像帧n‑1(即,第一图像)中的相应人脸区域的位移矢量。
[0048] 进一步地,人工智能模块20根据所确定的图像帧n‑1(即,第一图像)以及图像帧n(即,第二图像)之间的时间间隔以及位移矢量,计算图像帧n‑1(即,第一图像)以及图像帧n(即,第二图像)之间的速度矢量。其中通过公式可表示为:
[0049] Vx=△x/△t
[0050] Vy=△y/△t
[0051] 其中,Vx,Vy为与坐标(x,y)对应的速度矢量;△t为时间间隔;△x,△y为与坐标(x,y)对应的位移矢量。
[0052] 之后人工智能模块20要预测m时刻的图像帧m(即,目标图像)的人脸区域的位置信息。更具体地,人工智能模块20确定图像帧n(即,第二图像)与图像帧m(即,目标图像)之间的时间间隔。其中图像帧与图像帧之间的时间间隔为预先设定的。之后人工智能模块20将图像帧n(即,第二图像)中人脸区域的位置信息、所确定的速度矢量与图像帧n(即,第二图像)和图像帧m(即,目标图像)之间的时间间隔进行计算,从而预测m时刻的图像帧m(即,目标图像)的人脸区域的位置信息。通过公式可以表示为:
[0053] Xm=Xn+Vx*t
[0054] Ym=Yn+Vy*t
[0055] 其中,Xm,Ym为与坐标(x,y)对应的图像帧m(即,目标图像)的人脸区域的位置信息;Xn,Yn为与坐标(x,y)对应的图像帧n(即,第二图像)的人脸区域的位置信息;Vx,Vy为与坐标(x,y)对应的速度矢量,t为图像帧n(即,第二图像)和图像帧m(即,目标图像)之间的时间间隔。
[0056] 此外,人工智能模块20预测出图像帧m(即,目标图像)的人脸区域的位置后,需要通过预设的条件规则来确定该位置是否为人脸区域。例如可以通过人脸区域的肤色来确定。其中一般亮度变化不会导致色度变化过大。当该人脸区域(即,目标图像的人脸区域)的色度值和上一个图像帧(即,第二图像的人脸区域)的人脸区域的色度值相差超过预定阈值,则说明目标图像的人脸区域的位置预测错误,从而目标图像不参与到自动曝光。
[0057] 从而本技术方案根据通过人脸检测模型确定的人脸区域的图像帧预测目标图像,从而能够通过已确定的人脸区域,预测到的目标图像的人脸区域,提高了预测的准确性。并且通过预测的方式可以避免每一图像帧都进行人脸检测,从而节省了算力,提高了确定人脸区域的速度。
[0058] 可选地,确定人脸区域的位置信息的操作,包括:在目标图像中确定与人脸区域对应的矩形框,其中人脸区域在矩形框之内;根据与用于去除矩形框的四角的斜线相关的斜率和截距,确定去除矩形框的四角后的八边形框;以及根据八边形框确定人脸区域的位置信息。
[0059] 具体地,参考图3以及图6所示,人工智能模块20通过人脸检测模型确定目标图像的人脸区域时,会在检测到的人脸外侧设置矩形框(对应于图3)。其中该矩形框围绕人脸设置,人脸在矩形框之内。之后人工智能模块20通过预先设定的斜率和截距,去除该矩形框的四角,从而得到与该矩形框对应的八边形框(对应于图6)。其中八边形框的四条斜边的长度以及偏转角度是根据斜率和截距确定的。即,人脸在该八边形框之内。其中斜率和截距可以预先进行调整。之后人工智能模块20获取该八边形框的位置信息,之后将该八边形框的位置信息作为人脸区域的位置信息。
[0060] 从而本技术方案通过切除矩形框的四角的方法,有效去除掉了与人脸无关的区域,从而使得可以更加准确地统计人脸区域的亮度值。
[0061] 可选地,曝光调节系统还包括:通过预设的人脸检测模型确定目标图像的人脸区域;通过预设的图像分割模型对人脸区域进行分割,确定人脸区域中的人脸轮廓;将人脸轮廓与八边形框进行比较;以及在人脸轮廓与八边形框的偏差超过预定阈值的情况下,根据人脸轮廓,调节斜率和截距。
[0062] 具体地,人工智能模块20获取了多个连续的图像帧,并根据预定的图像帧的数量或者预定的时间间隔对图像帧进行人脸检测,从而对先前的斜率和截距进行调节。
[0063] 例如,人工智能模块20获取了100个图像帧,对于图像帧1~图像帧49,人工智能模块20根据预先设定的斜率和截距(例如为斜率a和截距a)确定图像帧1~图像帧49的与人脸区域对应的八边形框。对于图像帧50,人工智能模块20会通过预设的人脸检测模型确定图像帧50(即,目标图像)的人脸区域,之后通过预设的图像分割模型对人脸区域进行分割,从而确定人脸区域的人脸轮廓。之后人工智能模块20根据斜率a和截距a,确定与图像帧50(即,目标图像)的人脸区域对应八边形框。之后人工智能模块20将该八边形框与人脸轮廓进行比较,当人脸轮廓在该八边形框之内,并且该八边形框与人脸轮廓的偏差不超过预定阈值,则斜率a和截距a不需调节。从而图像帧51~图像帧99依旧使用斜率a和截距a确定人脸区域的八边形框。其中八边形框与人脸轮廓之间的偏差可以通过计算面积差来实现。
[0064] 当人脸轮廓在该八边形框之内,并且该八边形框与人脸轮廓的偏差超过预定阈值,则人工智能模块20根据人脸轮廓重新确定与其对应的八边形框,并根据该八边形框重新确定斜率和截距,例如重新确定的斜率和截距为斜率b和截距b,从而对原先的斜率a和截距a进行了调节。之后对于图像帧51~图像帧99,人工智能模块20会根据重新确定的斜率和截距(即,斜率b和截距b)确定与人脸区域对应的八边形框。并且人工智能模块20对图像帧100的人脸轮廓和八边形框进行比较,从而判断斜率b和截距b是否需要再次调节。
[0065] 此外可选地,人工智能模块20还预先设置有像素比对模型。人工智能模块20在通过人脸检测模型检测到人脸区域之后,获取人脸区域内的各个像素的像素值,之后利用像素比对模型对人脸区域内各个像素的像素值,确定人脸区域与背景之间的边界。从而人工智能模块20根据人脸区域背景之间的边界确定与人脸区域对应的八边形框,从而判断是否需要重新确定斜率和截距。
[0066] 从而本技术方案根据一定的时间间隔调整斜率和截距,从而使得能够准确切角,从而得到与人脸区域对应的八边形框。并且通过这种方法,避免了每个图像帧都要计算一次斜率和截距,减少了算力,提高了切角的效率和速度。
[0067] 可选地,根据图像块信息和人脸区域的位置信息,计算人脸区域的第一亮度值的操作,包括:根据第一图像块的图像块信息和人脸区域的位置信息,从第一图像块中确定人脸区域所覆盖的第二图像块;以及根据第二图像块的亮度信息,计算人脸区域的第一亮度值。
[0068] 具体地,参考图7所示,目标图像至少包括图像块1~图像块30(即,第一图像块),处理器模块30根据人脸区域在目标图像中的位置信息将目标图像中的图像块(第一图像块)与人脸区域进行对应,从而确定人脸区域所覆盖的图像块(即,第二图像块)。
[0069] 例如,图像块07~09、12~14、17~19以及23~24是位于人脸区域内的图像块,从而可以直接视为人脸区域覆盖的图像块。图像块01~06、10、11、15、16、20~22、25以及27~30为位于人脸区域的边界上的图像块。这些图像块,可以根据人脸区域边界所占的面积比是否大于预定阈值来判定其是否为人脸区域覆盖的图像块。例如可以将阈值设定为50%。
其中图像块01的面积比低于50%,因此图像块01不被认为是人脸区域覆盖的图像块。图像块02的面积比大于50%,因此图像块02被认为是人脸区域覆盖的图像块,并以此类推。从而处理器模块30确定人脸区域所覆盖的图像块(即,第二图像块)包括图像块02~04、07~10、
12~15、17~20以及22~25。
[0070] 进一步地,处理器模块30获取人脸区域所覆盖的每个图像块(即,第二图像块)的亮度信息,之后根据每个图像块(即,第二图像块)的亮度信息,计算所覆盖的图像块(即,第二图像块)的亮度平均值,之后将该亮度平均值作为人脸区域的亮度值(即,第一亮度值)。
[0071] 此外,参考图8所示,人工智能模块20也可以在确定人脸区域时,将目标图像中的脖子区域也进行检测,从而处理器模块30将人脸区域所覆盖的图像块和脖子区域所覆盖的图像块同时进行确定,根据人脸区域和脖子区域所覆盖的全部图像块计算人脸区域和脖子区域的亮度值。
[0072] 从而本技术方案利用人脸区域覆盖的图像块的亮度均值来计算人脸区域的亮度值,从而减少了计算量。
[0073] 此外,根据本实施例的第二个方面,提供了一种曝光调节方法,该方法由图1中所示的曝光调节系统实现。图9示出了该方法的流程示意图,参考图9所示,该方法包括:
[0074] S902:将目标图像分割为多个图像块,并确定图像块的图像块信息,其中图像块信息包括相应的图像块的位置信息以及亮度信息;
[0075] S904:在目标图像中确定人脸区域的位置信息;
[0076] S906:根据图像块信息和人脸区域的位置信息,计算人脸区域的亮度值;以及[0077] S908:根据亮度值对曝光值进行调节。
[0078] 具体地,参考图1所示,曝光调节系统包括图像信号处理模块10、人工智能模块20、处理器模块30以及影像传感器40。在直播过程中,影像传感器40采集目标图像,之后将采集的目标图像发送至图像信号处理模块10。其中目标图像为直播视频的图像帧。
[0079] 进一步地,参考图2所示,图像信号处理模块10接收到目标图像后,对目标图像进行去马赛克等图像处理。之后图像信号处理模块10将图像处理后的目标图像分割为多个图像块(即,第一图像块),例如分割为16*16个图像块。之后图像信号处理模块10确定每个图像块(即,第一图像块)的位置信息,并且根据各个图像块中包括的像素确定各个图像块的亮度信息,从而确定每个图像块的图像块信息。其中图像块信息包括相应的图像块(即,第一图像块)的位置信息以及亮度信息(S902)。之后图像信号处理模块10将图像块的图像块信息发送至处理器模块30,并且将目标图像发送至人工智能模块20。
[0080] 进一步地,参考图3所示,人工智能模块20接收到目标图像后,通过预设的人脸检测模型,对目标图像进行人脸检测,从而确定目标图像中的人脸区域的位置信息(S904)。之后人工智能模块20将目标图像中的人脸区域的位置信息发送至处理器模块30。
[0081] 进一步地,参考图4所示,处理器模块30接收到图像信号处理模块10发送的图像块信息,并且接收到人工智能模块20发送的人脸区域的位置信息后,根据人脸区域在目标图像中的位置信息,在分割为多个图像块的目标图像中确定人脸区域的位置,即,将图像块信息与人脸区域的位置信息进行对应,从而在图像块中确定人脸区域的位置信息。之后处理器模块30计算人脸区域的所覆盖的图像块的亮度值,并将计算得到的亮度值作为人脸区域的亮度值(即,第一亮度值)(S906)。
[0082] 进一步地,处理器模块30将人脸区域的亮度值(即,第一亮度值)与预定阈值进行比较,从而判断是否需要对影像传感器40的曝光值进行调节。当人脸区域的亮度值(即,第一亮度值)超过预定阈值,则处理器模块30根据人脸区域的亮度值,向影像传感器40发送调节曝光值的调节请求,影像传感器40响应于该调节请求,对曝光值进行调节(S908)。
[0083] 正如背景技术中所述的,在直播环境下,人脸区域的曝光不容易控制,容易出现过曝的现象。现有的自动曝光的方法,都是基于固定区域(例如视场的中心区域)的像素值来调节传感器的曝光量或者是根据用户选择的区域的像素值来调节传感器的曝光量。但是,当直播环境下,拍摄的人脸不是位于中心区域时,或者用户不点击人脸区域的情况下,就不能根据人脸区域的实际拍摄情况自动调节传感器的曝光。
[0084] 针对以上所述的技术问题,通过本申请实施例的技术方案,图像信号处理模块将目标图像分割成多个图像块,并计算各个图像块的亮度信息,利用人工智能模块来确定人脸区域的位置信息。通过这种方式,使得图像信号处理模块不仅仅可以用于曝光控制,也可以用于对图像进行分块并计算亮度值的场景。从而提高了图像信号处理模块的通用性。与现有技术相比,在直播过程中,本技术方案可以准确追踪人脸,从而处理器模块可以随时根据人脸的亮度值自动对影像传感器的曝光值进行调节,提高了直播视频的清晰度。并且本技术方案无需手动点击人脸区域进行聚焦,避免了手动点击所造成的遗漏需要调节曝光的图像帧,从而保证了直播视频的质量。从而本技术方案实现了自动调节人脸区域的曝光的技术效果,进而解决了现有技术中存在的在拍摄过程中无法自动调节人脸区域的曝光的技术问题。
[0085] 此外,根据本实施例的第三个方面,提供了一种存储介质。所述存储介质包括存储的程序,其中,在所述程序运行时由处理器执行以上任意一项所述的方法。
[0086] 此外,根据本实施例的第四个方面,提供了一种曝光调节装置1000,该装置1000与第二个方面所述的方法相对应。参考图10所示,该装置1000包括:第一确定模块1010,用于将目标图像分割为多个图像块,并确定图像块的图像块信息,其中图像块信息包括相应的图像块的位置信息以及亮度信息;第二确定模块1020,用于在目标图像中确定人脸区域的位置信息;亮度值计算模块1030,用于根据图像块信息和人脸区域的位置信息,计算人脸区域的亮度值;以及曝光值调节模块1040,用于根据亮度值对曝光值进行调节。
[0087] 此外,根据本实施例的第五个方面,提供了一种曝光调节装置1100,该装置1100与第二个方面所述的方法相对应。参考图11所示,该装置1100包括:处理器1110;以及存储器1120,与处理器1110连接,用于为处理器1110提供处理以下处理步骤的指令:将目标图像分割为多个图像块,并确定图像块的图像块信息,其中图像块信息包括相应的图像块的位置信息以及亮度信息;在目标图像中确定人脸区域的位置信息;根据图像块信息和人脸区域的位置信息,计算人脸区域的亮度值;以及根据亮度值对曝光值进行调节。
[0088] 从而根据本实施例,图像信号处理模块将目标图像分割成多个图像块,并计算各个图像块的亮度信息,利用人工智能模块来确定人脸区域的位置信息。通过这种方式,使得图像信号处理模块不仅仅可以用于曝光控制,也可以用于对图像进行分块并计算亮度值的场景。从而提高了图像信号处理模块的通用性。与现有技术相比,在直播过程中,本技术方案可以准确追踪人脸,从而处理器模块可以随时根据人脸的亮度值自动对影像传感器的曝光值进行调节,提高了直播视频的清晰度。并且本技术方案无需手动点击人脸区域进行聚焦,避免了手动点击所造成的遗漏需要调节曝光的图像帧,从而保证了直播视频的质量。从而本技术方案实现了自动调节人脸区域的曝光的技术效果,进而解决了现有技术中存在的在拍摄过程中无法自动调节人脸区域的曝光的技术问题。
[0089] 除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本申请的范围。同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为授权说明书的一部分。在这里示出和讨论的所有示例中,任何具体值应被解释为仅仅是示例性的,而不是作为限制。因此,示例性实施例的其它示例可以具有不同的值。应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
[0090] 为了便于描述,在这里可以使用空间相对术语,如“在……之上”、“在……上方”、“在……上表面”、“上面的”等,用来描述如在图中所示的一个器件或特征与其他器件或特征的空间位置关系。应当理解的是,空间相对术语旨在包含除了器件在图中所描述的方位之外的在使用或操作中的不同方位。例如,如果附图中的器件被倒置,则描述为“在其他器件或构造上方”或“在其他器件或构造之上”的器件之后将被定位为“在其他器件或构造下方”或“在其他器件或构造之下”。因而,示例性术语“在……上方”可以包括“在……上方”和“在……下方”两种方位。该器件也可以其他不同方式定位(旋转90度或处于其他方位),并且对这里所使用的空间相对描述作出相应解释。
[0091] 在本申请的描述中,需要理解的是,方位词如“前、后、上、下、左、右”、“横向、竖向、垂直、水平”和“顶、底”等所指示的方位或位置关系通常是基于附图所示的方位或位置关系,仅是为了便于描述本申请和简化描述,在未作相反说明的情况下,这些方位词并不指示和暗示所指的装置或元件必须具有特定的方位或者以特定的方位构造和操作,因此不能理解为对本申请保护范围的限制;方位词“内、外”是指相对于各部件本身的轮廓的内外。
[0092] 以上所述,仅为本申请较佳的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应该以权利要求的保护范围为准。