终端的图像处理方法、装置和终端设备转让专利

申请号 : CN202110923315.3

文献号 : CN113810601B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 李光源廖川许集润邵涛周茂森

申请人 : 荣耀终端有限公司

摘要 :

本申请实施例提供一种终端的图像处理方法、装置和终端设备,上述终端包括黑白摄像头和彩色摄像头,上述方法包括:在终端的拍照功能运行之后,预览过程中,通过彩色摄像头采集彩色RAW图像,通过黑白摄像头采集黑白RAW图像;获取拍摄指令之后,控制彩色摄像头和黑白摄像头重新启动,并指示彩色摄像头按照合并像素的方式出图,指示黑白摄像头按照全尺寸出图;对彩色摄像头采集的彩色RAW图像进行RAW域处理,获得彩色YUV图像;以及通过第一拜耳域处理算法链路对预览过程中采集的黑白RAW图像进行处理,获得黑白YUV图像;将彩色YUV图像和黑白YUV图像进行融合,获得目标彩色图像,从而保留较多的图像细节,提高目标彩色图像的色彩还原度。

权利要求 :

1.一种终端的图像处理方法,其特征在于,所述终端包括黑白摄像头和彩色摄像头,所述方法包括:在所述终端的拍照功能运行之后,预览过程中,通过所述彩色摄像头采集彩色RAW图像,通过所述黑白摄像头采集黑白RAW图像;

根据预览过程中采集的彩色RAW图像,确定当前的拍摄场景为非高动态和非运动场景;

获取拍摄指令之后,响应于所述拍摄指令控制所述彩色摄像头和所述黑白摄像头重新启动,并指示所述彩色摄像头按照合并像素的方式输出所采集的彩色RAW图像,指示所述黑白摄像头按照全尺寸输出所采集的黑白RAW图像;

获取所述彩色摄像头采集的彩色RAW图像,以及获取所述黑白摄像头采集的黑白RAW图像;

对所述彩色摄像头采集的彩色RAW图像进行RAW域处理,获得彩色YUV图像;以及通过第一拜耳域处理算法链路对所述黑白摄像头采集的黑白RAW图像进行处理,获得黑白YUV图像;

将所述彩色YUV图像和所述黑白YUV图像进行融合,获得目标彩色图像;

其中,获取拍摄指令之后,所述彩色摄像头采集的彩色RAW图像包括至少两帧彩色RAW图像,所述对所述彩色摄像头采集的彩色RAW图像进行RAW域处理,获得彩色YUV图像包括:对所述至少两帧彩色RAW图像进行预处理;

对预处理后的至少两帧彩色RAW图像进行降噪处理;

将进行降噪处理后的至少两帧彩色RAW图像融合成一帧彩色RAW图像;

将融合获得的彩色RAW图像转换成彩色RGB图像;

调整所述彩色RGB图像的颜色和亮度;

将调整颜色和亮度后的彩色RGB图像转换为彩色YUV图像。

2.根据权利要求1所述的方法,其特征在于,所述获取所述彩色摄像头采集的彩色RAW图像,以及获取所述黑白摄像头采集的黑白RAW图像包括:从彩色图像缓存中获取所述彩色摄像头采集的彩色RAW图像,以及从黑白图像缓存中获取所述黑白摄像头采集的黑白RAW图像。

3.根据权利要求1所述的方法,其特征在于,所述对所述彩色摄像头采集的彩色RAW图像进行RAW域处理,获得彩色YUV图像之前,还包括:通过第二拜耳域处理算法链路对所述彩色摄像头采集的彩色RAW图像进行线性化和坏点校正处理。

4.根据权利要求1所述的方法,其特征在于,所述对所述至少两帧彩色RAW图像进行预处理包括:将所述至少两帧彩色RAW图像的尺寸对齐;

将所述至少两帧彩色RAW图像中每两帧图像中的像素进行映射,获得像素之间的对应关系;

对所述对应关系进行错误检测,对发生错误的对应关系进行校正。

5.根据权利要求1所述的方法,其特征在于,所述将所述彩色YUV图像和所述黑白YUV图像进行融合,获得目标彩色图像包括:将所述彩色YUV图像和所述黑白YUV图像的尺寸对齐;

从对齐尺寸后的彩色YUV图像和对齐尺寸后的黑白YUV图像中,获取彩色YUV图像中需要融合的区域和黑白YUV图像中需要融合的区域;

将所述彩色YUV图像需要融合的区域中的像素与所述黑白YUV图像需要融合的区域中的像素进行映射,获得像素之间的对应关系;

对所述对应关系进行错误检测,对发生错误的对应关系进行校正;

将所述彩色YUV图像需要融合的区域和所述黑白YUV图像需要融合的区域中的清晰像素,融合到对应的模糊像素上。

6.根据权利要求5所述的方法,其特征在于,所述将所述彩色YUV图像和所述黑白YUV图像的尺寸对齐包括:将所述黑白YUV图像进行下采样,以将所述黑白YUV图像的大小减小至与所述彩色YUV图像的大小相同;

将下采样后的黑白YUV图像与彩色YUV图像的尺寸对齐。

7.一种终端设备,其特征在于,包括黑白摄像头和彩色摄像头;一个或多个处理器;存储器;多个应用程序;以及一个或多个计算机程序,其中所述一个或多个计算机程序被存储在所述存储器中,所述一个或多个计算机程序包括指令,当所述指令被所述终端设备执行时,使得所述终端设备执行以下步骤:在所述终端设备的拍照功能运行之后,预览过程中,通过所述彩色摄像头采集彩色RAW图像,通过所述黑白摄像头采集黑白RAW图像;

根据预览过程中采集的彩色RAW图像,确定当前的拍摄场景为非高动态和非运动场景;

获取拍摄指令之后,响应于所述拍摄指令控制所述彩色摄像头和所述黑白摄像头重新启动,并指示所述彩色摄像头按照合并像素的方式输出所采集的彩色RAW图像,指示所述黑白摄像头按照全尺寸输出所采集的黑白RAW图像;

获取所述彩色摄像头采集的彩色RAW图像,以及获取所述黑白摄像头采集的黑白RAW图像;

对所述彩色摄像头采集的彩色RAW图像进行RAW域处理,获得彩色YUV图像;以及通过第一拜耳域处理算法链路对所述黑白摄像头采集的黑白RAW图像进行处理,获得黑白YUV图像;

将所述彩色YUV图像和所述黑白YUV图像进行融合,获得目标彩色图像;

其中,获取拍摄指令之后,所述彩色摄像头采集的彩色RAW图像包括至少两帧彩色RAW图像;当所述指令被所述终端设备执行时,使得所述终端设备执行所述对所述彩色摄像头采集的彩色RAW图像进行RAW域处理,获得彩色YUV图像的步骤包括:对所述至少两帧彩色RAW图像进行预处理;

对预处理后的至少两帧彩色RAW图像进行降噪处理;

将进行降噪处理后的至少两帧彩色RAW图像融合成一帧彩色RAW图像;

将融合获得的彩色RAW图像转换成彩色RGB图像;

调整所述彩色RGB图像的颜色和亮度;

将调整颜色和亮度后的彩色RGB图像转换为彩色YUV图像。

8.根据权利要求7所述的终端设备,其特征在于,当所述指令被所述终端设备执行时,使得所述终端设备执行所述获取所述彩色摄像头采集的彩色RAW图像,以及获取所述黑白摄像头采集的黑白RAW图像的步骤包括:从彩色图像缓存中获取所述彩色摄像头采集的彩色RAW图像,以及从黑白图像缓存中获取所述黑白摄像头采集的黑白RAW图像。

9.根据权利要求7所述的终端设备,其特征在于,当所述指令被所述终端设备执行时,使得所述终端设备执行对所述彩色摄像头采集的彩色RAW图像进行RAW域处理,获得彩色YUV图像的步骤之前,还执行以下步骤:通过第二拜耳域处理算法链路对所述彩色摄像头采集的彩色RAW图像进行线性化和坏点校正处理。

10.根据权利要求7所述的终端设备,其特征在于,当所述指令被所述终端设备执行时,使得所述终端设备执行所述对所述至少两帧彩色RAW图像进行预处理的步骤包括:将所述至少两帧彩色RAW图像的尺寸对齐;

将所述至少两帧彩色RAW图像中每两帧图像中的像素进行映射,获得像素之间的对应关系;

对所述对应关系进行错误检测,对发生错误的对应关系进行校正。

11.根据权利要求7所述的终端设备,其特征在于,当所述指令被所述终端设备执行时,使得所述终端设备执行所述将所述彩色YUV图像和所述黑白YUV图像进行融合,获得目标彩色图像的步骤包括:将所述彩色YUV图像和所述黑白YUV图像的尺寸对齐;

从对齐尺寸后的彩色YUV图像和对齐尺寸后的黑白YUV图像中,获取彩色YUV图像中需要融合的区域和黑白YUV图像中需要融合的区域;

将所述彩色YUV图像需要融合的区域中的像素与所述黑白YUV图像需要融合的区域中的像素进行映射,获得像素之间的对应关系;

对所述对应关系进行错误检测,对发生错误的对应关系进行校正;

将所述彩色YUV图像需要融合的区域和所述黑白YUV图像需要融合的区域中的清晰像素,融合到对应的模糊像素上。

12.根据权利要求11所述的终端设备,其特征在于,当所述指令被所述终端设备执行时,使得所述终端设备执行所述将所述彩色YUV图像和所述黑白YUV图像的尺寸对齐的步骤包括:将所述黑白YUV图像进行下采样,以将所述黑白YUV图像的大小减小至与所述彩色YUV图像的大小相同;

将下采样后的黑白YUV图像与彩色YUV图像的尺寸对齐。

13.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机程序,当其在计算机上运行时,使得计算机执行如权利要求1‑6任一项所述的方法。

说明书 :

终端的图像处理方法、装置和终端设备

技术领域

[0001] 本申请实施例涉及智能终端技术领域,特别涉及一种终端的图像处理方法、装置和终端设备。

背景技术

[0002] 现在,拍照已成为手机中的常用功能。随着智能手机的普及,摄像头的应用越来越广泛,拍照功能也越发优异。优异的拍照性能已成为智能手机的一大卖点,围绕拍照功能的技术创新层出不穷,光圈和传感器尺寸也越来越大,这些技术和硬件的升级对智能手机拍照来说,无论是照片质量还是整体的拍照体验都有非常大的提升。在追求照片质量的同时,智能手机机身的轻薄化也是智能手机发展的一大趋势,因此,现在的智能手机大多采用至少两个摄像头模组,不仅可以提高拍摄照片的质量,也可以满足手机机身轻薄化的需求。
[0003] 然而,以智能手机采用两个摄像头模组为例,直接使用双摄像头获得的是两张不同的图像,因此,还需要利用图像融合算法将两张双摄图像进行融合,才能得到最终的双摄增强图像。
[0004] 现有的图像融合方法损失了较多的图像细节,导致最后成像的色彩还原度较差;特别是在顺光高亮静止场景下拍摄时,由于单一摄像头器件能力以及算法的细节增强能力有限,部分细节尤其是高频细节无法完全恢复。

发明内容

[0005] 本申请实施例提供了一种终端的图像处理方法、装置、服务器和终端设备,本申请实施例还提供一种计算机可读存储介质,以实现保留较多的图像细节,提高最后成像的色彩还原度。
[0006] 第一方面,本申请提供了一种终端的图像处理方法,上述终端包括黑白摄像头和彩色摄像头,上述方法包括:在终端的拍照功能运行之后,预览过程中,通过彩色摄像头采集彩色RAW图像,通过黑白摄像头采集黑白RAW图像;根据预览过程中采集的彩色RAW图像,确定当前的拍摄场景为非高动态和非运动场景;终端设备获取拍摄指令之后,响应于上述拍摄指令控制彩色摄像头和黑白摄像头重新启动,并指示彩色摄像头按照合并像素的方式输出所采集的彩色RAW图像,指示黑白摄像头按照全尺寸输出所采集的黑白RAW图像;然后,终端设备获取彩色摄像头采集的彩色RAW图像,以及获取黑白摄像头采集的黑白RAW图像;对彩色摄像头采集的彩色RAW图像进行RAW域处理,获得彩色YUV图像,以及通过第一拜耳域处理算法链路对黑白摄像头采集的黑白RAW图像进行处理,获得黑白YUV图像。最后,终端设备将上述彩色YUV图像和上述黑白YUV图像进行融合,获得目标彩色图像。
[0007] 其中一种可能的实现方式中,终端设备获取彩色摄像头采集的彩色RAW图像,以及获取黑白摄像头采集的黑白RAW图像可以为:从彩色图像缓存中获取彩色摄像头采集的彩色RAW图像,以及从黑白图像缓存中获取黑白摄像头采集的黑白RAW图像。
[0008] 其中一种可能的实现方式中,终端设备对彩色摄像头采集的彩色RAW图像进行RAW域处理,获得彩色YUV图像之前,还可以通过第二拜耳域处理算法链路对彩色摄像头采集的彩色RAW图像,进行线性化和坏点校正处理。
[0009] 其中一种可能的实现方式中,终端设备获取拍摄指令之后,彩色摄像头采集的彩色RAW图像包括至少两帧彩色RAW图像,这样,对彩色摄像头采集的彩色RAW图像进行RAW域处理,获得彩色YUV图像包括:对至少两帧彩色RAW图像进行预处理;对预处理后的至少两帧彩色RAW图像进行降噪处理,以将至少两帧彩色RAW图像融合成一帧彩色RAW图像;将融合获得的彩色RAW图像转换成彩色RGB图像;调整上述彩色RGB图像的颜色和亮度;将调整颜色和亮度后的彩色RGB图像转换为彩色YUV图像。
[0010] 其中一种可能的实现方式中,终端设备对上述至少两帧彩色RAW图像进行预处理包括:将至少两帧彩色RAW图像的尺寸对齐;将至少两帧彩色RAW图像中每两帧图像中的像素进行映射,获得像素之间的对应关系;对所述对应关系进行错误检测,对发生错误的对应关系进行校正。
[0011] 其中一种可能的实现方式中,终端设备将彩色YUV图像和黑白YUV图像进行融合,获得目标彩色图像可以为:将彩色YUV图像和黑白YUV图像的尺寸对齐;从对齐尺寸后的彩色YUV图像和对齐尺寸后的黑白YUV图像中,获取彩色YUV图像中需要融合的区域和黑白YUV图像中需要融合的区域;然后,将彩色YUV图像需要融合的区域中的像素与黑白YUV图像需要融合的区域中的像素进行映射,获得像素之间的对应关系;接下来,对上述对应关系进行错误检测,对发生错误的对应关系进行校正;最后,将彩色YUV图像需要融合的区域和黑白YUV图像需要融合的区域中的清晰像素,融合到对应的模糊像素上。
[0012] 其中一种可能的实现方式中,终端设备将彩色YUV图像和黑白YUV图像的尺寸对齐可以为:将黑白YUV图像进行下采样,以将黑白YUV图像的大小减小至与彩色YUV图像的大小相同;将下采样后的黑白YUV图像与彩色YUV图像的尺寸对齐。
[0013] 本申请实施例提供的终端的图像处理方法中,确定当前的拍摄场景为非高动态和非运动场景之后,终端设备控制彩色摄像头和黑白摄像头重新启动,并指示彩色摄像头按照合并像素的方式输出所采集的彩色RAW图像,指示黑白摄像头按照全尺寸输出所采集的黑白RAW图像;然后,终端设备先对彩色RAW图像进行RAW域处理,将上述彩色RAW图像转成彩色YUV图像,然后再将彩色YUV图像与黑白YUV图像融合,从而可以保留较多的图像细节,提高目标彩色图像的色彩还原度;另外,本实施例中,黑白摄像头按照全尺寸输出所采集的黑白RAW图像,也可以保留更多的图像细节,提高最终获得的目标彩色图像的图像质量。
[0014] 第二方面,本申请实施例提供一种终端的图像处理装置,该装置包含在终端设备中,该装置具有实现第一方面及第一方面的可能实现方式中终端设备行为的功能。功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。硬件或软件包括一个或多个与上述功能相对应的模块或单元。例如,接收模块或单元、处理模块或单元、发送模块或单元等。
[0015] 第三方面,本申请实施例提供一种终端设备,包括:包括黑白摄像头和彩色摄像头;一个或多个处理器;存储器;多个应用程序;以及一个或多个计算机程序,其中一个或多个计算机程序被存储在存储器中,一个或多个计算机程序包括指令,当上述指令被终端设备执行时,使得终端设备执行以下步骤:在终端设备的拍照功能运行之后,预览过程中,通过彩色摄像头采集彩色RAW图像,通过黑白摄像头采集黑白RAW图像;根据预览过程中采集的彩色RAW图像,确定当前的拍摄场景为非高动态和非运动场景;获取拍摄指令之后,响应于上述拍摄指令控制彩色摄像头和黑白摄像头重新启动,并指示彩色摄像头按照合并像素的方式输出所采集的彩色RAW图像,指示黑白摄像头按照全尺寸输出所采集的黑白RAW图像;获取彩色摄像头采集的彩色RAW图像,以及获取黑白摄像头采集的黑白RAW图像;对彩色摄像头采集的彩色RAW图像进行RAW域处理,获得彩色YUV图像;以及通过第一拜耳域处理算法链路对黑白摄像头采集的黑白RAW图像进行处理,获得黑白YUV图像;将彩色YUV图像和黑白YUV图像进行融合,获得目标彩色图像。
[0016] 其中一种可能的实现方式中,当上述指令被终端设备执行时,使得终端设备执行获取彩色摄像头采集的彩色RAW图像,以及获取黑白摄像头采集的黑白RAW图像的步骤包括:从彩色图像缓存中获取彩色摄像头采集的彩色RAW图像,以及从黑白图像缓存中获取黑白摄像头采集的黑白RAW图像。
[0017] 其中一种可能的实现方式中,当上述指令被终端设备执行时,使得终端设备执行对彩色摄像头采集的彩色RAW图像进行RAW域处理,获得彩色YUV图像的步骤之前,还执行以下步骤:通过第二拜耳域处理算法链路对彩色摄像头采集的彩色RAW图像进行线性化和坏点校正处理。
[0018] 其中一种可能的实现方式中,获取拍摄指令之后,预览过程中采集的彩色RAW图像包括至少两帧彩色RAW图像;当上述指令被终端设备执行时,使得终端设备执行对彩色摄像头采集的彩色RAW图像进行RAW域处理,获得彩色YUV图像的步骤可以包括:对上述至少两帧彩色RAW图像进行预处理;对预处理后的至少两帧彩色RAW图像进行降噪处理,以将至少两帧彩色RAW图像融合成一帧彩色RAW图像;将融合获得的彩色RAW图像转换成彩色RGB图像;调整彩色RGB图像的颜色和亮度;将调整颜色和亮度后的彩色RGB图像转换为彩色YUV图像。
[0019] 其中一种可能的实现方式中,当上述指令被终端设备执行时,使得终端设备执行对上述至少两帧彩色RAW图像进行预处理的步骤包括:将上述至少两帧彩色RAW图像的尺寸对齐;将上述至少两帧彩色RAW图像中每两帧图像中的像素进行映射,获得像素之间的对应关系;对上述对应关系进行错误检测,对发生错误的对应关系进行校正。
[0020] 其中一种可能的实现方式中,当上述指令被终端设备执行时,使得终端设备执行将彩色YUV图像和黑白YUV图像进行融合,获得目标彩色图像的步骤可以为:将彩色YUV图像和黑白YUV图像的尺寸对齐;从对齐尺寸后的彩色YUV图像和对齐尺寸后的黑白YUV图像中,获取彩色YUV图像中需要融合的区域和黑白YUV图像中需要融合的区域;将彩色YUV图像需要融合的区域中的像素与黑白YUV图像需要融合的区域中的像素进行映射,获得像素之间的对应关系;对上述对应关系进行错误检测,对发生错误的对应关系进行校正;将彩色YUV图像需要融合的区域和黑白YUV图像需要融合的区域中的清晰像素,融合到对应的模糊像素上。
[0021] 其中一种可能的实现方式中,当上述指令被终端设备执行时,使得终端设备执行将彩色YUV图像和黑白YUV图像的尺寸对齐的步骤包括:将黑白YUV图像进行下采样,以将黑白YUV图像的大小减小至与彩色YUV图像的大小相同;将下采样后的黑白YUV图像与彩色YUV图像的尺寸对齐。
[0022] 应当理解的是,本申请实施例的第二方面和第三方面与本申请实施例的第一方面的技术方案一致,各方面及对应的可行实施方式所取得的有益效果相似,不再赘述。
[0023] 第四方面,本申请实施例提供一种计算机可读存储介质,上述计算机可读存储介质中存储有计算机程序,当其在计算机上运行时,使得计算机执行第一方面提供的方法。
[0024] 第五方面,本申请实施例提供一种计算机程序,当上述计算机程序被计算机执行时,用于执行第一方面提供的方法。
[0025] 在一种可能的设计中,第五方面中的程序可以全部或者部分存储在与处理器封装在一起的存储介质上,也可以部分或者全部存储在不与处理器封装在一起的存储器上。

附图说明

[0026] 图1为本申请一个实施例提供的终端设备的结构示意图;
[0027] 图2(a)为本申请一个实施例中提供的终端设备的显示界面的示意图;
[0028] 图2(b)为本申请另一个实施例中提供的终端设备的显示界面的示意图;
[0029] 图2(c)为本申请再一个实施例中提供的终端设备的显示界面的示意图;
[0030] 图3为本申请一个实施例提供的终端的图像处理方法的示意图;
[0031] 图4为本申请另一个实施例提供的终端的图像处理方法的示意图;
[0032] 图5为本申请一个实施例提供的彩色和黑白图像融合的流程图;
[0033] 图6为本申请另一个实施例提供的终端设备的结构示意图。

具体实施方式

[0034] 本申请的实施方式部分使用的术语仅用于对本申请的具体实施例进行解释,而非旨在限定本申请。
[0035] 现有相关技术提供的一种图像融合方案中,将彩色摄像头和黑白摄像头采集的原始(RAW)图像分别转换成彩色的YUV图像和黑白的YUV图像,再将彩色的YUV图像与黑白的YUV图像进行融合,这种图像融合方案,损失了较多的图像细节,导致最后成像的色彩还原度较差。
[0036] 特别是在顺光高亮静止场景下拍摄时,由于单一摄像头器件能力以及算法的细节增强能力有限,部分细节尤其是高频细节无法完全恢复。
[0037] 基于以上问题,本申请实施例提供一种终端的图像处理方法,可以实现终端设备先对彩色摄像头采集的彩色RAW图像进行RAW域处理之后,再转换成彩色YUV图像,再与黑白YUV图像进行融合,从而保留较多的图像细节,提高最后成像的色彩还原度。
[0038] 本申请实施例提供的终端的图像处理方法可以应用于终端设备,其中,上述终端设备可以为智能手机、平板电脑、可穿戴设备、车载设备、增强现实(augmented reality,AR)/虚拟现实(virtual reality,VR)设备、笔记本电脑、超级移动个人计算机(ultra‑mobile personal computer,UMPC)、上网本或个人数字助理(personal digital assistant,PDA)等设备;本申请实施例对终端设备的具体类型不作任何限制。
[0039] 示例性的,图1为本申请一个实施例提供的终端设备的结构示意图,如图1所示,终端设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
[0040] 可以理解的是,本申请实施例示意的结构并不构成对终端设备100的具体限定。在本申请另一些实施例中,终端设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
[0041] 处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processing unit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural‑network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
[0042] 控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
[0043] 处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
[0044] 在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter‑integrated circuit,I2C)接口,集成电路内置音频(inter‑integrated circuit sound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general‑purpose input/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
[0045] I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,DCL)。在一些实施例中,处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K,充电器,闪光灯,摄像头193等。例如:处理器110可以通过I2C接口耦合触摸传感器180K,使处理器110与触摸传感器180K通过I2C总线接口通信,实现终端设备100的触摸功能。
[0046] I2S接口可以用于音频通信。在一些实施例中,处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过I2S接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。
[0047] PCM接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中,音频模块170也可以通过PCM接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。所述I2S接口和所述PCM接口都可以用于音频通信。
[0048] UART接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,UART接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过UART接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过UART接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。
[0049] MIPI接口可以被用于连接处理器110与显示屏194,摄像头193等外围器件。MIPI接口包括摄像头串行接口(camera serial interface,CSI),显示屏串行接口(display serial interface,DSI)等。在一些实施例中,处理器110和摄像头193通过CSI接口通信,实现终端设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信,实现终端设备100的显示功能。
[0050] GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,GPIO接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。GPIO接口还可以被配置为I2C接口,I2S接口,UART接口,MIPI接口等。
[0051] USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口130可以用于连接充电器为终端设备100充电,也可以用于终端设备100与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备,例如AR设备等。
[0052] 可以理解的是,本申请实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对终端设备100的结构限定。在本申请另一些实施例中,终端设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
[0053] 充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过终端设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为终端设备100供电。
[0054] 电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
[0055] 终端设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
[0056] 天线1和天线2用于发射和接收电磁波信号。终端设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
[0057] 移动通信模块150可以提供应用在终端设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
[0058] 调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
[0059] 无线通信模块160可以提供应用在终端设备100上的包括无线局域网(wireless local area networks,WLAN)(如无线保真(wireless fidelity,Wi‑Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
[0060] 在一些实施例中,终端设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得终端设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(code division multiple access,CDMA),宽带码分多址(wideband code division multiple access,WCDMA),时分码分多址(time‑division code division multiple access,TD‑SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(global navigation satellite system,GLONASS),北斗卫星导航系统(beidou navigation satellite system,BDS),准天顶卫星系统(quasi‑zenith satellite system,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
[0061] 终端设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
[0062] 显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light‑emitting diode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active‑matrix organic light emitting diode的,AMOLED),柔性发光二极管(flex light‑emitting diode,FLED),Miniled,MicroLed,Micro‑oLed,量子点发光二极管(quantum dot light emitting diodes,QLED)等。在一些实施例中,终端设备100可以包括1个或N个显示屏194,N为大于1的正整数。
[0063] 终端设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
[0064] ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
[0065] 摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal‑oxide‑semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,终端设备100可以包括N个摄像头193,N为大于1的正整数。本申请实施例中,N个摄像头193中包括黑白摄像头和彩色摄像头。
[0066] 具体地,在拍摄过程中,用户打开相机,光线通过镜头(可以对应于之前描述的摄像头193)被传递到感光元件上,换言之,镜头可以将环境光信号投射到感光元件的感光区域后,感光元件经过光电转换,将光信号转化为肉眼可见的图像。感光元件再将内部原始图像(Bayer格式,也称为拜尔格式或拜耳格式)传送给ISP模块,ISP模块经过算法处理,输出RGB空间域的图像给后端的采集单元,显示在终端设备100的图像预览区域或者终端设备100的显示屏上。在这个过程中,处理器通过运行在其上的固件程序对镜头、感光元件和ISP模块,进行相应控制,进而完成图像预览或者拍摄功能。
[0067] 数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当终端设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
[0068] 视频编解码器用于对数字视频压缩或解压缩。终端设备100可以支持一种或多种视频编解码器。这样,终端设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
[0069] NPU为神经网络(neural‑network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现终端设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
[0070] 外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展终端设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
[0071] 内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储终端设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。处理器110通过运行存储在内部存储器121的指令,和/或存储在设置于处理器中的存储器的指令,执行终端设备100的各种功能应用以及数据处理。
[0072] 终端设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
[0073] 音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
[0074] 扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。终端设备100可以通过扬声器170A收听音乐,或收听免提通话。
[0075] 受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当终端设备100接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。
[0076] 麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170C发声,将声音信号输入到麦克风170C。终端设备100可以设置至少一个麦克风170C。在另一些实施例中,终端设备100可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,终端设备100还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
[0077] 耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130,也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
[0078] 压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A,电极之间的电容改变。终端设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,终端设备100根据压力传感器180A检测所述触摸操作强度。终端设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
[0079] 陀螺仪传感器180B可以用于确定终端设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定终端设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180B检测终端设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消终端设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。
[0080] 气压传感器180C用于测量气压。在一些实施例中,终端设备100通过气压传感器180C测得的气压值计算海拔高度,辅助定位和导航。
[0081] 磁传感器180D包括霍尔传感器。终端设备100可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中,当终端设备100是翻盖机时,终端设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
[0082] 加速度传感器180E可检测终端设备100在各个方向上(一般为三轴)加速度的大小。当终端设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态,应用于横竖屏切换,计步器等应用。
[0083] 距离传感器180F,用于测量距离。终端设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,终端设备100可以利用距离传感器180F测距以实现快速对焦。
[0084] 接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。终端设备100通过发光二极管向外发射红外光。终端设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定终端设备100附近有物体。当检测到不充分的反射光时,终端设备100可以确定终端设备
100附近没有物体。终端设备100可以利用接近光传感器180G检测用户手持终端设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式,口袋模式自动解锁与锁屏。
[0085] 环境光传感器180L用于感知环境光亮度。终端设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测终端设备100是否在口袋里,以防误触。
[0086] 指纹传感器180H用于采集指纹。终端设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
[0087] 温度传感器180J用于检测温度。在一些实施例中,终端设备100利用温度传感器180J检测的温度,执行温度处理策略。例如,当温度传感器180J上报的温度超过阈值,终端设备100执行降低位于温度传感器180J附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,终端设备100对电池142加热,以避免低温导致终端设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,终端设备100对电池
142的输出电压执行升压,以避免低温导致的异常关机。
[0088] 触摸传感器180K,也称“触控器件”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于终端设备100的表面,与显示屏194所处的位置不同。
[0089] 骨传导传感器180M可以获取振动信号。在一些实施例中,骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180M也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于所述骨传导传感器180M获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于所述骨传导传感器180M获取的血压跳动信号解析心率信息,实现心率检测功能。
[0090] 按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。终端设备100可以接收按键输入,产生与终端设备100的用户设置以及功能控制有关的键信号输入。
[0091] 马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
[0092] 指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
[0093] SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195,或从SIM卡接口195拔出,实现和终端设备100的接触和分离。终端设备100可以支持1个或N个SIM卡接口,N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡,Micro SIM卡,SIM卡等。同一个SIM卡接口195可以同时插入多张卡。所述多张卡的类型可以相同,也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。终端设备100通过SIM卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,终端设备100采用eSIM,即:嵌入式SIM卡。eSIM卡可以嵌在终端设备100中,不能和终端设备100分离。
[0094] 为了便于理解,在此先对以下实施例中提到的拜耳域和RAW域进行说明。
[0095] 1、拜耳域:数码相机上的每个镜头都带有一个光传感器,用以测量光线的明亮程度,但若要获得一幅全彩图像,一般需要有三个光传感器分别获得红、绿、蓝三基色信息,而为了降低数码相机的成本与体积,生产厂商通常会采用CCD或CMOS图像传感器,通常的,CMOS图像传感器输出的原始图像为拜尔域RGB格式,单个像素点只包含一种颜色值,要得到图像的灰度值,需要先插补完整各像素点的颜色信息,再计算各像素点的灰度值。也就是说,拜耳域是指数码相机内部的一种原始图片格式。
[0096] 2、RAW域:RAW域图像,即原始图像包含从数码相机、扫描器或电影胶片扫描仪的图像传感器所处理的数据。之所以这样命名,是因为RAW域图像尚未被处理,未被打印或用于编辑。RAW域图像包含了图像最原始的信息,未经过ISP过程中的非线性处理。
[0097] 本申请以下实施例将以具有图1所示结构的终端设备为例,结合附图和应用场景,对本申请实施例提供的终端的图像处理方法进行具体阐述。
[0098] 具体地,在用户点击终端设备的显示界面中的“相机”图标之后,响应于用户的操作,终端设备运行拍照功能,预览过程中,终端设备通过彩色摄像头采集彩色RAW图像,通过黑白摄像头采集黑白RAW图像,然后,终端设备根据预览过程中采集的彩色RAW图像,确定当前的拍摄场景为非高动态和非运动场景,其中,非高动态场景是指当前的拍摄场景中的光照充足,亮度跨度较小的场景;非运动场景是指当前的拍摄场景中的物体的位移无改变,均处于非运动状态。非高动态和非运动场景,例如是:光照充足时拍摄建筑或风光等的场景。
[0099] 在确定当前的拍摄场景为非高动态和非运动场景之后,终端设备可以在当前的显示界面中显示当前的拍摄场景为非高动态和非运动场景,如图2(a)所示,图2(a)为本申请一个实施例中提供的终端设备的显示界面的示意图,图2(a)中以非高动态场景为建筑和非运动为例示出。
[0100] 具体地,终端设备根据预览过程中采集的彩色RAW图像,确定当前的拍摄场景为非高动态场景可以为:终端设备获取预览过程中采集的彩色RAW图像中的最大亮度和最小亮度,计算最大亮度与最小亮度的比值;如果上述比值小于预定的比例阈值,则可以确定当前的拍摄场景为非高动态场景。其中,上述预定的比例阈值的大小可以在具体实现时根据系统性能和/或实现需求等自行设定,本实施例对上述预定的比例阈值的大小不作限定。另外,终端设备可以根据预览过程中采集的至少两帧彩色RAW图像,获取当前拍摄场景中的物体的位移,如果上述位移小于或等于预定的位移阈值,则可以确定当前的拍摄场景为非运动场景。
[0101] 另外,需要说明的是,当前的拍摄场景可以是终端设备按照上述方式确定的,也可以是用户在拍照功能的界面中自行选择的。
[0102] 另外,如果在预览过程中,终端设备检测到N个摄像头193中的黑白摄像头被遮挡之后,可以在当前的显示界面中显示“黑白摄像头被遮挡”的提示信息,如图2(b)所示,以提醒用户黑白摄像头被遮挡,这样用户就可以尽快移走黑白摄像头的遮挡物,保证拍摄获得的图像的质量。图2(b)为本申请另一个实施例中提供的终端设备的显示界面的示意图。
[0103] 进一步地,参照图3,图3为本申请一个实施例提供的终端的图像处理方法的示意图,从图3可以看出,确定当前的拍摄场景为非高动态和非运动场景(35)之后,终端设备获取拍摄指令,然后响应于上述拍摄指令,终端设备控制彩色摄像头和黑白摄像头重新启动(36),并指示彩色摄像头按照合并像素的方式输出所采集的彩色RAW图像,指示黑白摄像头按照全尺寸输出所采集的黑白RAW图像。其中,终端设备获取拍摄指令可以包括:终端设备检测到拍摄按钮被按下,或检测到点击快门图标的操作等,本实施例对终端设备获取拍摄指令的方式不作限定。
[0104] 具体地,获取拍摄指令之后,终端设备分别向彩色摄像头和黑白摄像头下发指令,接收到该指令之后,彩色摄像头和黑白摄像头重新启动(36)。然后,彩色摄像头采集彩色RAW图像,按照合并像素的方式输出所采集的彩色RAW图像,彩色摄像头输出的彩色RAW图像缓存在彩色图像缓存中;同样,黑白摄像头重新启动之后,采集黑白RAW图像,按照全尺寸(full size)输出所采集的黑白RAW图像,黑白摄像头输出的黑白RAW图像缓存在黑白图像缓存中。本实施例中,黑白摄像头按照全尺寸输出黑白RAW图像,黑白RAW图像的像素较高,可以保留更多的图像细节,图像质量较好,而图像像素较高的话,图像帧率较低,帧率低不适合运动场景,但比较适合非运动场景,由于当前的拍摄场景为非高动态和非动场景,因此可以指示黑白摄像头按照全尺寸输出所采集的黑白RAW图像,以保留更多的图像细节,获得较高的图像质量。
[0105] 然后,终端设备可以获取彩色摄像头采集的彩色RAW图像,以及获取黑白摄像头采集的黑白RAW图像;如上所述,具体实现时,终端设备可以从彩色图像缓存中获取彩色摄像头采集的彩色RAW图像,以及从黑白图像缓存中获取黑白摄像头采集的黑白RAW图像。
[0106] 然后,终端设备通过拜耳域处理算法链路31对上述彩色摄像头采集的彩色RAW图像进行线性化和坏点校正处理。其中,拜耳域处理算法链路31即为第二拜耳域处理算法链路,用于对彩色RAW图像进行处理。
[0107] 进而,终端设备可以对上述彩色摄像头采集的彩色RAW图像进行RAW域处理(32),获得彩色YUV图像。
[0108] 对于终端设备从黑白图像缓存中获取的黑白RAW图像,终端设备通过拜耳域处理算法链路33对黑白摄像头采集的黑白RAW图像进行处理,获得黑白YUV图像。其中,拜耳域处理算法链路33即为第一拜耳域处理算法链路,用于对黑白RAW图像进行处理。
[0109] 最后,终端设备将上述彩色YUV图像和上述黑白YUV图像进行融合(34),获得目标彩色图像。
[0110] 另外,需要说明的是,在确定当前的拍摄场景为非高动态和非运动场景之后,终端设备获取拍摄指令,然后响应于上述拍摄指令,终端设备控制彩色摄像头和黑白摄像头重新启动(36),这里,由于彩色摄像头需要重新启动,因此预览流会出现卡顿,预计预览流的卡顿时长为500~1000毫秒,这时,终端设备可以在当前的显示界面中显示“预览出现卡顿,请稍候”的提示信息,如图2(c)所示,图2(c)为本申请再一个实施例中提供的终端设备的显示界面的示意图。
[0111] 进一步需要说明的是,在终端设备运行拍照功能之后,确定当前的拍摄场景为非高动态和非运动场景之前,在预览过程中,终端设备通过彩色摄像头采集的彩色RAW图像中可以包括短时曝光的彩色RAW图像和正常曝光的彩色RAW图像;这样,终端设备还可以采用交叠曝光高动态(stagger high dynamic range,Stagger HDR)技术将上述短时曝光的彩色RAW图像和正常曝光的彩色RAW图像进行融合;然后,在上述预览过程中,显示融合获得的彩色图像。
[0112] Stagger HDR技术需要占用两路图像处理前端,这样,在确定当前的拍摄场景为非高动态和非运动场景,并且终端设备获取拍摄指令之后,终端设备不仅要控制彩色摄像头和黑白摄像头重新启动,还要暂停使用Stagger HDR,而后将Stagger HDR占用的一路图像处理前端分配给黑白摄像头使用。
[0113] 当然,如果在终端设备运行拍照功能之后,确定当前的拍摄场景为非高动态和非运动场景之前,在预览过程中,终端设备未使用Stagger HDR技术,则不需要暂停Stagger HDR,仅控制彩色摄像头和黑白摄像头重启即可。
[0114] 下面结合图4,对本申请实施例提供的终端的图像处理方法进行详细说明,图4为本申请另一个实施例提供的终端的图像处理方法的示意图。
[0115] 本实施例中,在预览过程中,终端设备通过彩色摄像头采集彩色RAW图像,通过黑白摄像头采集黑白RAW图像。然后,终端设备根据预览过程中采集的彩色RAW图像,确定当前的拍摄场景为非高动态和非运动场景。
[0116] 接下来,终端设备检测到拍照图标被点击之后,终端设备获取拍摄指令,响应于上述拍摄指令,终端设备控制彩色摄像头和黑白摄像头重新启动,将合并像素(binning setting)的配置信息下发给彩色摄像头,指示彩色摄像头按照上述配置信息中的分辨率来采集彩色RAW图像,按照合并像素(binning setting)的方式输出所采集的彩色RAW图像;另外,在控制黑白摄像头重新启动之后,终端设备指示黑白摄像头按照全尺寸输出所采集的黑白RAW图像。这样,黑白摄像头输出的黑白RAW图像的大小为全尺寸,合并像素的方式可以将4个像素合并在一起读出,因此按照合并像素的方式输出的彩色RAW图像的大小为全尺寸的1/4。
[0117] 本实施例中,彩色摄像头按照合并像素(binning setting)的方式输出的彩色RAW图像缓存在彩色图像缓存中,黑白摄像头按照全尺寸输出的黑白RAW图像缓存在黑白图像缓存中。具体实现时,彩色摄像头按照合并像素的方式输出的彩色RAW图像的大小与黑白摄像头按照全尺寸输出的黑白RAW图像的大小无直接关系,举例来说,彩色RAW图像的大小可以为12M,黑白RAW图像的大小可以为64M。这样,在进行图像融合时,是将64M的黑白图像与12M的彩色图像来做融合,融合算法内部去做两者的尺寸对齐。
[0118] 然后,终端设备可以从彩色图像缓存中获取6帧彩色RAW图像,以及从黑白图像缓存中获取1帧黑白RAW图像。需要说明的是,此处从彩色图像缓存获取的彩色RAW图像的帧数,仅为举例,并不构成本申请实施例的限定,终端设备可以从彩色图像缓存中获取N帧彩色RAW图像,N的大小可以根据系统性能和/或实现需求等自行设定,本实施例对N的大小不作限定,举例来说,N的取值范围可以为[4,8],本申请实施例以N为6进行说明。
[0119] 然后,终端设备通过拜耳域处理算法链路41对彩色摄像头采集的6帧彩色RAW图像进行线性化和坏点校正处理。本实施例中,图4中的拜耳域处理算法链路41对应于图3中的拜耳域处理算法链路31,用于对彩色RAW图像进行处理。
[0120] 接下来,终端设备将进行线性化和坏点校正处理之后的6帧彩色RAW图像缓存到图像缓存池42,进而将图像缓存池42中的6帧彩色RAW图像进行RAW域处理(43),获得彩色YUV图像,将彩色YUV图像缓存到图像缓存44。从图4中可以看出,图像缓存44中缓存的彩色YUV图像的位数为10。
[0121] 具体地,将图像缓存池42中的6帧彩色RAW图像进行RAW域处理(43),获得彩色YUV图像可以包括:
[0122] 步骤1,对上述6帧彩色RAW图像进行预处理;其中,对上述6帧彩色RAW图像进行预处理可以包括:将上述6帧彩色RAW图像的尺寸对齐,将上述6帧彩色RAW图像中每两帧图像中的像素进行映射,获得像素之间的对应关系,对上述对应关系进行错误检测,对发生错误的对应关系进行校正。
[0123] 步骤2,对预处理后的6帧彩色RAW图像进行降噪处理,以将上述6帧彩色RAW图像融合成一帧彩色RAW图像。
[0124] 步骤3,将融合获得的彩色RAW图像转换成彩色RGB图像。
[0125] 步骤4,调整上述彩色RGB图像的颜色和亮度;具体地,调整上述彩色RGB图像的颜色和亮度可以包括:对上述彩色RGB图像执行自动白平衡(automatic white balance,AWB)、渐晕(shading)和色彩校正(Gamma)等亮度和颜色的处理流程。
[0126] 步骤5,将调整颜色和亮度后的彩色RGB图像转换为彩色YUV图像。
[0127] 另外,继续参见图4,对于终端设备从黑白图像缓存中获取的1帧黑白RAW图像,终端设备通过拜耳域处理算法链路45对上述1帧黑白RAW图像依次进行线性化、坏点校正、拜耳处理、图变换匹配(graph transformation matching,GTM)和色彩校正(Gamma)处理,获得黑白YUV图像,获得的黑白YUV图像缓存到图像缓存46中。本实施例中,拜耳域处理算法链路45对应于图3中的拜耳域处理算法链路33,用于对黑白RAW图像进行处理。
[0128] 最后,终端设备将图像缓存44中的彩色YUV图像和图像缓存46中的黑白YUV图像进行融合(47),获得目标彩色图像。
[0129] 具体地,图5为本申请一个实施例提供的彩色和黑白图像融合的流程图,如图5所示,将彩色YUV图像和黑白YUV图像进行融合,获得目标彩色图像可以包括:
[0130] 步骤501,将彩色YUV图像和黑白YUV图像的尺寸对齐。具体地,本实施例中,终端设备从黑白图像缓存中获取的1帧黑白RAW图像的大小可以为64M,因此黑白RAW图像转换获得的黑白YUV图像的大小也为64M,而彩色YUV图像的大小为12M,这样,在将彩色YUV图像和黑白YUV图像的尺寸对齐时,需要先对黑白YUV图像进行下采样,将黑白YUV图像的大小减小至与彩色YUV图像的大小相同;再将下采样后的黑白YUV图像与彩色YUV图像的尺寸对齐。
[0131] 步骤502,从对齐尺寸后的彩色YUV图像和对齐尺寸后的黑白YUV图像中,获取彩色YUV图像中需要融合的区域和黑白YUV图像中需要融合的区域。
[0132] 步骤503,将彩色YUV图像需要融合的区域中的像素与黑白YUV图像需要融合的区域中的像素进行映射,获得像素之间的对应关系。
[0133] 步骤504,对上述对应关系进行错误检测,对发生错误的对应关系进行校正。
[0134] 步骤505,将上述彩色YUV图像需要融合的区域和上述黑白YUV图像需要融合的区域中的清晰像素,融合到对应的模糊像素上。举例来说,彩色YUV图像需要融合的区域中的像素A,与黑白YUV图像需要融合的区域中像素A’对应;一种情况中,假设像素A为像素A和像素A’中的清晰像素,像素A’为二者中的模糊像素,那么可以将像素A的色彩融合到像素A’上;另一种情况中,假设像素A为像素A和像素A’中的模糊像素,像素A’为二者中的清晰像素,那么可以将像素A’的细节融合到像素A上。
[0135] 本申请实施例提供的终端的图像处理方法中,确定当前的拍摄场景为非高动态和非运动场景之后,终端设备控制彩色摄像头和黑白摄像头重新启动,并指示彩色摄像头按照合并像素的方式输出所采集的彩色RAW图像,指示黑白摄像头按照全尺寸输出所采集的黑白RAW图像;然后,终端设备先对彩色RAW图像进行RAW域处理,将上述彩色RAW图像转成彩色YUV图像,然后再将彩色YUV图像与黑白YUV图像融合,从而可以保留较多的图像细节,特别是在顺光高亮静止场景下拍摄时,可以更好地恢复图像细节,尤其是高频细节,提高目标彩色图像的色彩还原度;另外,本实施例中,黑白摄像头按照全尺寸输出所采集的黑白RAW图像,也可以保留更多的图像细节,提高最终获得的目标彩色图像的图像质量。
[0136] 可以理解的是,上述实施例中的部分或全部步骤或操作仅是示例,本申请实施例还可以执行其它操作或者各种操作的变形。此外,各个步骤可以按照上述实施例呈现的不同的顺序来执行,并且有可能并非要执行上述实施例中的全部操作。
[0137] 可以理解的是,终端设备为了实现上述功能,其包含了执行各个功能相应的硬件和/或软件模块。结合本申请所公开的实施例描述的各示例的算法步骤,本申请能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。本领域技术人员可以结合实施例对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
[0138] 本实施例可以根据上述方法实施例对终端设备进行功能模块的划分,例如,可以对应各个功能划分各个功能模块,也可以将两个或两个以上的功能集成在一个模块中。上述集成的模块可以采用硬件的形式实现。需要说明的是,本实施例中对模块的划分是示意性的,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
[0139] 图6为本申请另一个实施例提供的终端设备的结构示意图,在采用对应各个功能划分各个功能模块的情况下,图6示出了上述实施例中涉及的终端设备600的一种可能的组成示意图,如图6所示,该终端设备600可以包括:接收单元601、处理单元602和发送单元603;
[0140] 其中,处理单元602可以用于支持终端设备600实现本申请图2(a)~图5所示实施例所描述的技术方案。
[0141] 需要说明的是,上述方法实施例涉及的各步骤的所有相关内容均可以援引到对应功能模块的功能描述,在此不再赘述。
[0142] 本实施例提供的终端设备600,用于执行上述终端的图像处理方法,因此可以达到与上述方法相同的效果。
[0143] 应当理解的是,终端设备600可以对应于图1所示的终端设备100。其中,接收单元601和发送单元603的功能可以由图1所示的终端设备100中处理器110、天线1和移动通信模块150,和/或,由处理器110、天线2和无线通信模块160实现;处理单元602的功能可以由图1所示的终端设备100中的处理器110实现。
[0144] 在采用集成的单元的情况下,终端设备600可以包括处理模块、存储模块和通信模块。
[0145] 其中,处理模块可以用于对终端设备600的动作进行控制管理,例如,可以用于支持终端设备600执行上述接收单元601、处理单元602和发送单元603执行的步骤。存储模块可以用于支持终端设备600存储程序代码和数据等。通信模块,可以用于支持终端设备600与其他设备的通信。
[0146] 其中,处理模块可以是处理器或控制器,其可以实现或执行结合本申请公开内容所描述的各种示例性的逻辑方框、模块和电路。处理器也可以是实现计算功能的组合,例如包含一个或多个微处理器组合,数字信号处理(digital signal processing,DSP)和微处理器的组合等等。存储模块可以是存储器。通信模块具体可以为射频电路、蓝牙芯片和/或Wi‑Fi芯片等与其他电子设备交互的设备。
[0147] 在一个实施例中,当处理模块为处理器,存储模块为存储器时,本实施例所涉及的终端设备600可以为具有图1所示结构的设备。
[0148] 本申请实施例还提供一种计算机可读存储介质,该计算机可读存储介质中存储有计算机程序,当其在计算机上运行时,使得计算机执行本申请图2(a)~图5所示实施例提供的方法。
[0149] 本申请实施例还提供一种计算机程序产品,该计算机程序产品包括计算机程序,当其在计算机上运行时,使得计算机执行本申请图2(a)~图5所示实施例提供的方法。
[0150] 本申请实施例中,“至少一个”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示单独存在A、同时存在A和B、单独存在B的情况。其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项”及其类似表达,是指的这些项中的任意组合,包括单项或复数项的任意组合。例如,a,b和c中的至少一项可以表示:a,b,c,a和b,a和c,b和c或a和b和c,其中a,b,c可以是单个,也可以是多个。
[0151] 本领域普通技术人员可以意识到,本文中公开的实施例中描述的各单元及算法步骤,能够以电子硬件、计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
[0152] 所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
[0153] 在本申请所提供的几个实施例中,任一功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read‑only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
[0154] 以上所述,仅为本申请的具体实施方式,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。本申请的保护范围应以所述权利要求的保护范围为准。