一种用于捕获图像的方法、装置及系统转让专利

申请号 : CN201610094231.2

文献号 : CN105915817B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : S·S·马特J·莱佩宁傅俊圣P·巴巴哈基亚尼

申请人 : 诺基亚技术有限公司

摘要 :

本申请的实施例涉及具有自适应相机阵列的设备。本发明涉及一种方法,其包括:获取被安排成要捕获的图像的期望视场(FOV);对于具有视场(fov)的相机阵列的每个活动相机传感器,确定所述FOV的所需视场(r_fov);将r_fov与fov进行比较;以及如果r_fov小于或等于fov,则确定相邻相机传感器之间的弯曲角度,以便通过所述相机传感器阵列的相机传感器来实现所述FOV。

权利要求 :

1.一种用于捕获图像的方法,其包括:

获取被安排成要捕获的图像的期望视场(FOV);

对于包括具有视场(fov)的多个相机传感器的相机传感器阵列的每个活动相机传感器,确定所述期望视场(FOV)的所需视场(r_fov),其中,所述多个相机传感器包括活动相机传感器和非活动相机传感器,并且其中,通过将所述期望视场(FOV)除以活动相机传感器的数目来确定所需视场;

将所需视场(r_fov)与活动相机传感器的视场(fov)进行比较;

如果所需视场(r_fov)小于或等于所述活动相机传感器的视场(fov),则确定相邻相机传感器之间的弯曲角度,以便通过所述相机传感器阵列的活动相机传感器来实现所述期望视场(FOV);以及如果所需视场(r_fov)大于所述活动相机传感器的视场(fov),则激活所述相机传感器阵列的至少一个附加相机传感器,从而使得能够捕获被安排成要捕获的图像的期望视场(FOV)。

2.根据权利要求1所述的方法,其中,所述方法进一步包括:自动地弯曲所述相机传感器阵列,以便获取所述相机传感器阵列中相邻相机传感器之间的所确定的弯曲角度。

3.根据权利要求1所述的方法,其中,所述方法进一步包括:在激活所述至少一个附加相机传感器之后,基于当前的活动相机传感器来重新实施确定步骤和比较步骤。

4.根据权利要求1所述的方法,其中,通过开启所述相机阵列中的所述至少一个相机来自动地激活所述至少一个附加相机传感器。

5.根据权利要求1所述的方法,其中,获取所述期望视场(FOV)作为用户输入。

6.根据权利要求1至5中的任一项所述的方法,其中,所述期望视场(FOV)是广视角。

7.根据权利要求1所述的方法,其中,所述相机阵列是柔性的。

8.根据权利要求1所述的方法,其中,所述图像是静止图像。

9.根据权利要求1所述的方法,其中,所述图像是视频图像数据。

10.一种用于捕获图像的装置,其包括柔性相机传感器阵列,所述柔性相机传感器阵列包括具有视场(fov)的多个相机传感器,所述多个相机传感器包括活动相机传感器和非活动相机传感器,所述装置进一步包括:用于获取被安排成要由所述活动相机传感器来捕获的图像的期望视场(FOV)的构件;

用于为每个活动相机传感器确定所述期望视场(FOV)的所需视场(r_fov)的构件,其中,通过将所述期望视场(FOV)除以活动相机传感器的数目来确定所需视场;

用于将所需视场(r_fov)与活动相机传感器的视场(fov)进行比较的构件;

用于如果所需视场(r_fov)小于或等于所述活动相机传感器的视场(fov),则确定相邻相机传感器之间的弯曲角度以便通过所述相机传感器阵列的活动相机传感器来实现所述期望视场(FOV)的构件;以及用于如果所需视场(r_fov)大于所述活动相机传感器的视场(fov),则激活所述相机传感器阵列的至少一个附加相机传感器,从而使得能够捕获被安排成要捕获的图像的期望视场(FOV)的构件。

11.根据权利要求10所述的装置,其中,所述装置进一步包括:用于自动地弯曲所述相机传感器阵列以便获取所述相机传感器阵列中相邻相机传感器之间的所确定的弯曲角度的构件。

12.根据权利要求10所述的装置,其中,所述装置进一步包括:用于在激活所述至少一个附加相机传感器之后,基于当前的活动相机传感器来重新实施确定步骤和比较步骤的构件。

13.根据权利要求10所述的装置,其中,通过开启所述相机阵列中的所述至少一个相机来自动地激活所述至少一个附加相机传感器。

14.根据权利要求10所述的装置,其中,获取所述期望视场(FOV)作为用户输入。

15.根据权利要求10至14中的任一项所述的装置,其中,所述期望视场(FOV)是广视角。

16.根据权利要求10所述的装置,其中,所述装置是移动设备。

17.一种用于捕获图像的系统,所述系统包括移动设备、连接到所述移动设备的柔性相机传感器阵列,所述柔性相机传感器阵列包括具有视场(fov)的多个相机传感器,所述多个相机传感器包括活动相机传感器和非活动相机传感器,所述系统进一步包括:用于获取被安排成要由所述活动相机传感器来捕获的图像的期望视场(FOV)的构件;

用于为每个活动相机传感器确定所述期望视场(FOV)的所需视场(r_fov)的构件,其中,通过将所述期望视场(FOV)除以活动相机传感器的数目来确定所需视场;

用于将所需视场(r_fov)与活动相机传感器的视场(fov)进行比较的构件;以及用于如果所需视场(r_fov)小于或等于所述活动相机传感器的视场(fov),则确定相邻相机传感器之间的弯曲角度以便通过所述相机传感器阵列的活动相机传感器来实现所述期望视场(FOV)的构件;以及用于如果所需视场(r_fov)大于所述活动相机传感器的视场(fov),则激活所述相机传感器阵列的至少一个附加相机传感器,从而使得能够捕获被安排成要捕获的图像的期望视场(FOV)的构件。

18.根据权利要求17所述的系统,其中,所述系统进一步包括:用于自动地弯曲所述相机传感器阵列以便获取所述相机传感器阵列中相邻相机传感器之间的所确定的弯曲角度的构件。

19.根据权利要求17所述的系统,其中,所述系统进一步包括:用于在激活所述至少一个附加相机传感器之后,基于当前活动的相机传感器来重新实施确定步骤和比较步骤的构件。

20.根据权利要求17所述的系统,其中,通过开启所述相机阵列中的所述至少一个相机来自动地激活所述至少一个附加相机传感器。

21.根据权利要求17所述的系统,其中,获取所述期望视场(FOV)作为用户输入。

22.根据权利要求17至21中的任一项所述的系统,其中,所述期望视场(FOV)是广视角。

23.根据权利要求17所述的系统,其中,所述相机阵列是三脚架设备。

24.一种被配置成实施根据权利要求1至9中的任一项所述的方法的装置或系统。

25.一种用于捕获图像的方法,其包括:

通过相机阵列的每个相机来同时捕获对象的图像;

估计所述对象的深度和大小;

选择所述相机阵列中的一部分相机成为活动的来用于成像;

为活动相机计算最小深度(t);

如果所述对象的深度小于活动相机的最小深度(t),则将至少一个更多的相机激活成活动的。

26.根据权利要求25所述的方法,其中,所选择的活动相机是所述相机阵列的每端的一个相机。

27.一种包括相机阵列的装置,所述相机阵列包括具有视场(fov)的至少两个活动相机传感器,其中所述装置进一步包括:用于通过所述相机阵列的每个活动相机来同时捕获对象的图像的构件;

用于估计所述对象的深度和大小的构件;

用于选择所述相机阵列中的一部分相机成为活动的来用于成像的构件;

用于为活动相机计算最小深度(t)的构件;以及

用于如果所述对象的深度小于活动相机的最小深度(t),则将至少一个更多的相机激活成活动的构件。

28.一种包括移动设备、连接到所述移动设备的相机阵列、至少一个处理器的系统,进一步包括:用于通过所述相机阵列的每个活动相机来同时捕获对象的图像的构件;

用于估计所述对象的深度和大小的构件;

用于选择所述相机阵列中的一部分相机成为活动的来用于成像的构件;

用于为活动相机计算最小深度(t)的构件;以及

用于如果所述对象的深度小于活动相机的最小深度(t),则将至少一个更多的相机激活成活动的构件。

29.一种被配置成实施根据权利要求25或26所述的方法的装置或系统。

说明书 :

一种用于捕获图像的方法、装置及系统

技术领域

[0001] 本申请涉及电子设备。

背景技术

[0002] 现今,移动电话和其它便携式电子设备向用户提供了与成像相关的广泛应用。具有相机的移动设备被用于不同类型的成像,例如,用于具有不同分辨率、不同场成像、视频成像等的常规成像。成像类型可以取决于图像的用途、图像的对象和所使用的应用、相机或设备。所增加的数据传输和对设备的易于使用的需求设置了它们自己对用来成像的设备和应用的期望。

发明内容

[0003] 本发明的各种实施例包括一种方法、装置、系统和包括其中存储了计算机程序的计算机可读介质,其特征在于独立权利要求所陈述的内容。在从属权利要求中公开了本发明的各种实施例。
[0004] 根据第一方面,提供了一种方法,其包括:获取被安排成要捕获的图像的期望视场(FOV);对于包括具有视场(fov)的至少两个活动相机传感器的相机阵列的每个活动相机传感器,确定所述期望视场(FOV)的所需视场(r_fov),其中,通过将所述期望视场(FOV)除以活动相机传感器的数目来确定所需视场;将所述视场(r_fov)与相机传感器的视场(fov)进行比较;以及如果所需视场(r_fov)小于或等于所述视场(fov),则确定相邻相机传感器之间的弯曲角度,以便通过所述相机传感器阵列的相机传感器来实现所述期望视场(FOV)。
[0005] 根据实施例,所述方法进一步包括:自动地弯曲所述相机阵列,以便获取所述阵列中相邻相机传感器之间的所确定的弯曲角度。根据实施例,所述方法进一步包括:如果所需视场(r_fov)大于相机传感器的视场(fov),则激活至少一个附加相机传感器;基于当前活动的相机传感器来实施确定步骤和比较步骤。根据实施例,通过开启所述相机阵列中的所述至少一个相机来自动地激活所述至少一个相机传感器。根据实施例,获取所述期望视场(FOV)作为用户输入。根据实施例,所述期望视场(FOV)是广视角。根据实施例,所述相机阵列是柔性的。根据实施例,所述图像是静止图像。根据实施例,所述图像是视频图像数据。
[0006] 根据第二方面,提供了一种装置,其包括柔性相机阵列、至少一个处理器、包括计算机程序代码的存储器,所述柔性相机阵列包括具有视场(fov)的至少两个活动相机传感器,所述存储器和所述计算机程序代码被配置成与所述至少一个处理器一起促使所述装置至少实施以下操作:获取被安排成要由所述至少两个活动相机传感器来捕获的图像的期望视场(FOV);为每个活动相机确定所述期望视场(FOV)的所需视场(r_fov),其中,通过将所述期望视场(FOV)除以活动相机传感器的数目来确定所需视场;将所述视场(r_fov)与所述视场(fov)进行比较;以及如果所需视场(r_fov)<=所述视场(fov),则确定相邻相机传感器之间的弯曲角度,以便通过所述相机传感器阵列的相机传感器来实现所述期望视场(FOV)。
[0007] 根据实施例,进一步促使所述装置:自动地弯曲所述相机阵列,以便获取所述阵列中相邻相机传感器之间的所确定的弯曲角度。根据实施例,进一步促使所述装置:如果所需视场(r_fov)>相机传感器的视场(fov),则激活至少一个相机传感器;以及基于当前激活的相机传感器来实施确定步骤和比较步骤。根据实施例,通过开启所述相机阵列中的所述至少一个相机来自动地激活所述至少一个相机传感器。根据实施例,获取所述期望视场(FOV)作为用户输入。根据实施例,所述期望视场(FOV)是广视角。根据实施例,所述相机阵列是柔性的。根据实施例,所述装置是移动设备。
[0008] 根据第三方面,提供了一种系统,其包括移动设备、连接到所述移动设备的柔性相机阵列、至少一个处理器、包括计算机程序代码的存储器,所述存储器和所述计算机程序代码被配置成与所述至少一个处理器一起促使所述系统至少实施以下操作:获取被安排成要由所述至少两个活动相机传感器来捕获的图像的期望视场(FOV);为每个活动相机确定所述期望视场(FOV)的所需视场(r_fov),其中,通过将所述期望视场(FOV)除以活动相机传感器的数目来确定所需视场;将所述视场(r_fov)与所述视场(fov)进行比较;以及如果所需视场(r_fov)<=所述视场(fov),则确定相邻相机传感器之间的弯曲角度,以便通过所述相机传感器阵列的相机传感器来实现所述期望视场(FOV)。
[0009] 根据实施例,进一步促使所述系统:自动地弯曲所述相机阵列,以便获取所述阵列中相邻相机传感器之间的所确定的弯曲角度。根据实施例,进一步促使所述系统:如果所需视场(r_fov)>相机传感器的视场(fov),则激活至少一个相机传感器;以及基于当前激活的相机传感器来实施确定步骤和比较步骤。根据实施例,通过开启所述相机阵列中的所述至少一个相机来自动地激活所述至少一个相机传感器。根据实施例,获取所述期望视场(FOV)作为用户输入。根据实施例,所述期望视场(FOV)是广视角。根据实施例,所述相机阵列是三脚架设备。
[0010] 根据第四方面,提供了一种装置,其包括:用于获取被安排成要捕获的图像的期望视场(FOV)的构件;用于对于包括具有视场(fov)的至少两个活动相机传感器的相机阵列的每个活动相机传感器,确定所述期望视场(FOV)的所需视场(r_fov)的构件,其中,通过将所述期望视场(FOV)除以活动相机传感器的数目来确定所需视场;用于将所述视场(r_fov)与相机传感器的视场(fov)进行比较的构件;以及用于如果所需视场(r_fov)小于或等于所述视场(fov),则确定相邻相机传感器之间的弯曲角度以便通过所述相机传感器阵列的相机传感器来实现所述期望视场(FOV)的构件。
[0011] 根据第五方面,提供了一种包括计算机程序代码的体现在非瞬态计算机可读介质上的计算机程序产品,所述计算机程序代码被配置成当在至少一个处理器上执行时促使装置:获取被安排成要由所述至少两个活动相机传感器来捕获的图像的期望视场(FOV);为每个活动相机确定所述期望视场(FOV)的所需视场(r_fov),其中,通过将所述期望视场(FOV)除以活动相机传感器的数目来确定所需视场;将所述视场(r_fov)与所述视场(fov)进行比较;以及如果所需视场(r_fov)<=所述视场(fov),则确定相邻相机传感器之间的弯曲角度以便通过所述相机传感器阵列的相机传感器来实现所述期望视场(FOV)。
[0012] 根据实施例,进一步促使所述装置:自动地弯曲所述相机阵列,以便获取所述阵列中相邻相机传感器之间的所确定的弯曲角度。根据实施例,其中进一步促使所述装置:如果所需视场(r_fov)>相机传感器的视场(fov),则激活至少一个相机传感器;以及基于当前激活的相机传感器来实施确定步骤和比较步骤。根据实施例,通过开启所述相机阵列中的所述至少一个相机来自动地激活所述至少一个相机传感器。根据实施例,获取所述期望视场(FOV)作为用户输入。根据实施例,所述期望视场(FOV)是广视角。根据实施例,所述相机阵列是柔性的。根据实施例,所述装置是移动设备。
[0013] 根据第六方面,提供了一种方法,其包括:通过相机阵列的每个相机来同时捕获对象的图像;估计所述对象的深度和大小;选择所述相机的一部分成为活动的来用于成像;为活动相机计算最小深度(t);如果所述对象的深度大于活动相机的最小深度(t),则将至少一个更多的相机激活成活动的。
[0014] 根据实施例,所选择的活动相机的部分是所述相机阵列的两端的一个相机。
[0015] 根据第七方面,提供了一种包括相机阵列的装置,所述相机阵列包括具有视场(fov)的至少两个活动相机传感器、至少一个处理器、包括计算机程序代码的存储器,所述存储器和所述计算机程序代码被配置成与所述至少一个处理器一起促使所述装置至少实施以下操作:通过所述相机阵列的每个活动相机来同时捕获对象的图像;估计所述对象的深度和大小;选择所述相机的一部分成为活动的来用于成像;为活动相机计算最小深度(t);以及如果所述对象的深度大于活动相机的最小深度(t),则将至少一个更多的相机激活成活动的。
[0016] 根据第八方面,提供了一种系统,其包括移动设备、连接到所述移动设备的相机阵列、至少一个处理器、包括计算机程序代码的存储器,所述存储器和所述计算机程序代码被配置成与所述至少一个处理器一起促使所述系统至少实施以下操作:通过所述相机阵列的每个活动相机来同时捕获对象的图像;估计所述对象的深度和大小;选择所述相机的一部分成为活动的来用于成像;为活动相机计算最小深度(t);以及如果所述对象的深度大于活动相机的最小深度(t),则将至少一个更多的相机激活成活动的。
[0017] 根据第九方面,提供了一种包括计算机程序代码的体现在非瞬态计算机可读介质上的计算机程序产品,所述计算机程序代码被配置成当在至少一个处理器上执行时促使装置:由相机阵列的每个活动相机来同时捕获对象的图像;估计所述对象的深度和大小;选择所述相机的一部分成为活动的来用于成像;为活动相机计算最小深度(t);以及如果所述对象的深度大于活动相机的最小深度(t),则将至少一个更多的相机激活成活动的。

附图说明

[0018] 在下文中,将参考附图更详细地描述本发明的各种实施例,在附图中:
[0019] 图1示出了根据示例实施例的装置;
[0020] 图2示出了根据示例实施例的装置;
[0021] 图3示出了根据示例实施例的自适应相机阵列设备;
[0022] 图4示出了根据示例实施例的自适应相机阵列;
[0023] 图5示出了根据示例实施例的自适应相机阵列;
[0024] 图6示出了根据示例实施例用于自适应相机阵列的相机姿态(pose)确定方法的流程图;
[0025] 图7示出了根据示例实施例的自适应相机阵列的对象的大小和深度确定方法的流程图;
[0026] 图8a示出了根据实施例对图7的步骤740的解释;
[0027] 图8b示出了根据实施例对图7的步骤750的解释;
[0028] 图8c示出了根据示例实施例的依照运动方法算法的结构;
[0029] 图9示出了根据示例实施例的所需相机数目的确定方法的流程图;
[0030] 图10a、图10b、图10c根据示例实施例示出了指示活动相机对由自适应相机阵列获得的视场的影响的情况的示例;
[0031] 图11示出了根据示例实施例用于计算自适应相机阵列中的每个相机的期望相机姿态的方法的流程图。

具体实施方式

[0032] 在下文中,将在图1至图11的情境下描述本发明的若干实施例。然而,应当注意,本发明不限于所示出的实施例。实际上,不同的实施例适用于要求具有自适应相机阵列的移动设备的任何环境中。相机阵列可以是被安排成连接到移动装置的单独的相机阵列设备,因而形成系统。可选地,自适应相机阵列可以是移动设备的一部分,即,移动设备包括自适应相机阵列。自适应相机阵列可以自动地进行调适。对相机阵列的调适在该情境下可以指的是:可以在相邻相机之间形成不同的弯曲角度,用于捕获具有不同视场的期望内容。这意味着相机之间的弯曲角度取决于期望视场,例如,视场越宽广,则弯曲角度越大。自适应还可以意味着相机阵列可以包括取决于成像对象或与该对象的距离(深度)的激活和/或非激活相机,并且相机的状态可从活动的变成非活动的,并且当需要时反之亦然。
[0033] 图1示出了根据示例实施例的装置。装置100是移动设备,其含有例如用于根据本发明的实施例来实施以下内容所要求的电子和电路:相机姿态确定方法、大小和深度确定方法或者所需相机数目的确定方法。以上提及的方法被实现为用于装置100的附加功能。然而,应当理解,如图所示和下文中所描述的装置100仅说明了可受益于各种实施例的一种类型的设备,并且因此不应当视为限制实施例的范围。如此,应当理解,下面结合装置100所描述的组件中的至少一些组件可以是可选的,并且因而在示例实施例中可以包括比结合图1的示例实施例所描述的那些组件更多、更少或不同的组件。
[0034] 装置100包括存储器101、至少一个处理器102和103,以及驻留在存储器101中的计算机程序代码104。装置100进一步包括若干图像捕获构件,诸如图像传感器,例如相机,其被安排成捕获取景器帧,也就是图像帧,即图像。在该示例实施例中,装置100包括形成自适应相机阵列105的至少两个相机(未示出)。然而,可以存在例如2、3、4、5、6、7、8个或者甚至更多个相机,例如10个。
[0035] 相机阵列105的每个相机具有视场(fov)。相机阵列105中的每个相机的视场(fov)可以基本上相同。相机阵列的相机的组合视场可被称为整体视场(OFOV)。整体视场可以伴随自适应镜头或自适应镜头的阵列进行改变。当相机阵列105的相机被定点在要成像的对象处时,每个相机捕获该对象的基本上类似的图像,即,每个相机的图像被类似地成帧。在该示例实施例中,相机阵列105的相机被集成到装置100,但也有可能的是:包括至少两个相机的相机阵列是至少电连接到所述装置的单独设备。
[0036] 也有可能的是:可以通过使用软件来物理地或可编程地从装置100(以及从阵列105)移除相机阵列105的相机中的至少一个相机,即关闭一个或多个相机。此外,可以通过使用软件来物理地或可编程地将相机阵列105的一个或多个相机添加到装置100(以及阵列
105),即开启一个或多个相机。相机阵列105的相机一起工作,因而使得能够捕获不同类型的图像,例如,具有不同视场的图像,诸如全景图像和其它视野开阔的图像等。
[0037] 装置100还可以包括接口构件(未示出),例如用户接口,其允许用户与装置100和相机阵列105的相机交互。可以通过使用以下中的一个或多个来实现用户接口构件:显示器、触摸屏、键板106或其它结构。
[0038] 装置100可以进一步被配置成例如通过通信构件(即通信块(未示出))来连接到另一设备,以便接收和/或传送信息。
[0039] 装置100可以是具有柔性自适应相机阵列的常规非柔性设备或者连接到柔性自适应相机阵列的常规非柔性设备,或者装置100可以是配备有包括相机的自适应相机阵列的柔性设备。通过装置100,可以计算每个相机的优选相机姿态,即,确定相机阵列105中相邻相机之间的弯曲角度和/或选择相机阵列105中被安排成在捕获期望场景或对象期间要使用的一个或多个相机。装置100可以进一步包括用于弯曲相机阵列105的弯曲构件。弯曲构件可以例如是电动机或其它对应的构件。
[0040] 图2示出了根据示例实施例的装置200。图2示出了装置200的背部的布局。装置200是智能电话,但是其也可以是包括相机阵列的任何其它适当的移动设备,例如,移动电话、相机设备、智能相机设备、平板设备。还可以在任何其它电子设备或装置(诸如包括适当的相机构件的三脚架设备)内实现本发明的实施例。然而,应当理解,如图所示并且如下文所描述的装置200再次仅说明了可受益于各种实施例的一种类型的设备,并且因此不应当被视为限制实施例的范围。如此,应当理解,下面结合装置200所描述的组件中的至少一些组件可以是可选的,并且因而在示例实施例中可以包括比结合图2的示例实施例所描述的那些组件更多、更少或不同的组件。
[0041] 图2中所示的装置200包括用于容纳和保护装置的壳体201。装置200配备有包括五个相机202a-e的自适应相机阵列203。图2中示出了在没有弯曲的情况下用于相机阵列203的相机202a-e的初始相机姿态,即,包括相机202a-e的相机阵列203并不弯曲。例如,装置200可以进一步包括例如液晶显示器形式的显示器。在本发明的其它实施例中,显示器可以是适合显示例如静止图像或视频数据(例如,由装置200捕获的图像或视频数据)的任何适当的显示技术。装置200可以进一步包括键板、触摸屏或其它数据输入构件。在本发明的其它实施例中,可以采用任何适当的数据或用户接口机制。例如,用户接口可被实现为虚拟键盘或数据输入系统作为触敏显示器的部件。根据实施例的装置200还可以包括通信构件,例如,用于与其它设备的短距离视线通信的红外端口。在其它实施例中,除了通信构件之外,装置200可以进一步包括适合于形成与其它设备的电话连接的电信构件。在其它实施例中,装置200可以进一步包括任何适当的短距离通信解决方案,例如像蓝牙无线连接、近场通信(NFC)连接或者USB/火线有线连接(未示出)。装置200可以进一步包括音频输入构件205和音频输出构件206,其在本发明的实施例中可以是以下中的任何一个:耳机、适于产生音频信号(例如视频图像的音频部分)的数字音频输出连接或模拟输出连接或模拟音频的扬声器。装置200可以进一步包括用于弯曲相机阵列203的弯曲构件。弯曲构件可以例如是电动机或其它对应的装置。
[0042] 图3示出了根据示例实施例的自适应相机阵列设备。设备300是包括相机阵列的三脚架设备,所述相机阵列具有形成相机阵列的七个相机301。相机的数目可被安排得更大或更小。设备300可以是系统303的一部分,系统303除了设备300之外还包括另一设备。例如,设备300可以经由适合用于形成与其它设备的连接的通信构件而连接到移动设备304。通信构件可以是例如任何合适的短距离通信解决方案,例如像蓝牙无线连接、近场通信(NFC)连接或者USB/火线有线连接。设备300是可弯曲的。移动设备304于是可以含有例如根据本发明的实施例用于实施以下内容所需的电子和电路:相机姿态确定方法、大小和深度确定方法或者所需相机数目的确定方法。然而,也有可能的是,三脚架设备300含有例如根据本发明的实施例用于实施以下内容所需的电子和电路:相机姿态确定方法、大小和深度确定方法或者相机数目确定方法。因此,一个或多个相机301的姿态可由所述系统来确定和调整,该系统以特定方式自动弯曲设备300,以便按照期望来实现对象或场景的拍摄。换句话说,移动设备304或三脚架设备300可以自动地计算相机阵列中每个相机301的优选相机姿态,并且三脚架设备300可被系统或用户弯曲,从而使得阵列中的每个相机301将姿态摆成在平等分布的情况下覆盖要成像的视图的所需视图。另外,可以基于被安排成要捕获的期望图像类型(例如用户期望拍摄的图像/视频的视场(FOV))来移除或添加一个或多个相机301。对相机的物理移除/添加或者智能选择开启/关闭(即,激活/解除激活)一个或多个相机301是可能的。换句话说,在利用配备有自适应相机阵列的设备来捕获场景或对象期间,该系统可以自动地确定被安排成用于捕获场景或对象的最小数目的相机。
[0043] 图4示出了根据示例实施例的自适应相机阵列。相机阵列400包括八个并列的相机401-408。图4还公开了一些相机参数。示出了在两个相邻相机之间的初始距离d 409,其中在处于非弯曲状态下的相邻相机之间,距离d可以是恒定的。此外,示出了相机401-408的视场(fov)410和焦距(f)411。相机阵列400可以是柔性的,在图4中,相机阵列400在没有弯曲的情况下处于其初始相机姿态。相机阵列400可由相机调整系统自动地进行弯曲,其中,相机阵列布置400可被连接为单独的设备或被连接为集成部件。
[0044] 图5示出了根据示例实施例的自适应相机阵列,其中5个相机处于初始(非弯曲)状态500和处于弯曲状态501。在确定适当的相机姿态(相机阵列的所需弯曲)之后,该系统自动地(例如,通过电动机)弯曲或引导用户(例如,用户弯曲)来按要求安排相机阵列的弯曲。适当的相机姿态可以取决于要捕获的期望图像类型和被安排成要使用的相机的数目、相机之间的距离、相机的流动(flow)和/或相机的焦距。在弯曲状态501中,相机阵列可用于捕获全景图像或其它广范围图像以及甚至全景视频或其它广范围视频,而在拍摄时不转动相机阵列。图6示出了适合用于确定相机姿态的确定方法的示例。
[0045] 图6示出了根据示例实施例适合用于确定针对特定视场的自适应相机阵列的相机的相机姿态的方法600的流程图。包括自适应相机阵列的系统被安排成确定例如计算相机阵列中每个相机的优选相机姿态,以便实现由相机对该特定视场的捕获。相机阵列中的每个相机的相机参数(例如焦距(f)、视场(fov)以及两个相机之间的初始距离(d))是已知的,例如预先确定用于该系统。
[0046] 在方法600中,在步骤610中,该系统获取用户想要捕获的图像/视频的期望视场(FOV)作为用户输入。期望FOV可以确定安排相机进行捕获的图像/视频的视图。所获取的期望FOV可以例如是“180度全景”。在步骤620中,对于期望FOV(例如,180度),该系统基于自适应阵列的相机的数目和期望视场(FOV)来计算每个相机的优选相机姿态。换句话说,该系统将期望FOV视为输入并且它进行确定,例如对阵列中相机的数目N或阵列中活动相机的数目进行计数(如果尚未知道的话)。每个相机的已知的固定视场是fov。在步骤630中,该系统确定例如计算每个相机的平均视场r_fov等于FOV/N,其中r_fov是阵列中每个相机应当覆盖的FOV的所需部分。在步骤640中,该系统比较fov和r_fov。如果fov小于r_fov,则用阵列中的这N个相机无法覆盖FOV。因此,需要将一个或多个相机添加到该阵列中,直到fov大于或等于r_fov。该方法继续到步骤650,其中请求用户对阵列激活更多的相机,或者该系统本身来激活相机。在该情境下,激活可以指的是相机被开启或者其被物理地添加到阵列。在激活了至少一个相机之后,该方法返回到步骤630。当该系统在步骤640中确定fov>=r_fov时,该方法继续到步骤660。在步骤660中,用适当的方法来弯曲自适应相机阵列(例如,用户弯曲该阵列,或者该系统例如通过电动机来弯曲该阵列,或者阵列的材料可以是可弯曲的智能材料,从而使得阵列中的每个相机处于所要求的姿态,以便它们的视场在平等分布的情况下一起覆盖期望FOV)。换句话说,该阵列被弯曲成对阵列中每两个相邻相机传感器之间的弯曲角度进行安排,以便实现期望FOV。可弯曲的智能材料可以是能够弯曲的单片柔性材料,或者经由可弯曲材料连接的非可弯曲模块的集合。所述弯曲可以基于具有存储器的材料/金属。
[0047] 图7示出了根据示例实施例用于由自适应相机阵列的相机确定对象的大小和对象的深度测量的方法700的流程图。可以由自适应相机阵列本身或包括相机阵列的系统来实施该方法的步骤。在方法700中,在步骤710中,阵列中的每个相机同时捕获对象的图像。在步骤720中,通过适当的特征检测器(例如,通过尺度不变特征变换(SIFT)特征检测器、加速稳健特征(SURF)检测器或者通过任何其它适当的特征检测器),在每个图像中提取图像特征。在步骤730中,跨不同的捕获图像来实施成对特征匹配,以便找到捕获图像之间的对应特征。在每对图像之间实施成对特征匹配。在步骤740中,估计捕获图像之间的对应特征。可以通过欧几里得距离来估计来自不同相机的对应图像特征,从而使得找到对象“a”的对应投影a1和a2。由于已知相机的图像传感器的大小,因此可以计算投影a1和a2的视差,a1的视差是p1,并且a2的视差是p2。图8a中示出了根据实施例对步骤740的解释。在步骤750中,由于已知两个相机之间的初始距离(d)、相机的焦距(f)、a1的视差(p1)和a2的视差(p2),因此可以如下计算对象a的深度:
[0048]
[0049] 一旦计算了t,则d1和d2可被计算为:
[0050]
[0051]
[0052] 因此,如果对象的两个点在两个相机中均可见,则可以计算这两个点的真实距离。通过该原则,如果来自对象边界的点在两个相机中均可见,则可以计算对象的大小。图8b中示出了根据实施例对步骤750的解释。
[0053] 图8c示出了根据示例实施例的依照运动方法算法的结构。该方法可用于计算在局部尺度(即,在图像中的大小)中对象的深度和大小。对于自适应相机阵列中的每个相机,相机参数(例如焦距(f)、视场(fov)以及两个相机之间的初始距离(d))是已知的。对于相机阵列中的相机a和相机b,可以通过公式t_ab=d/2*tan((180-fov)/2)来计算通过使用相机a和相机b所捕获的对象的最小深度t_ab。
[0054] 如果对象或场景被安排成要在特定设置中由设备的自适应相机阵列来捕获,则该设备自动地计算来自每个相机的对象的深度,并且基于对象的大小和位置,该设备可以确定相机阵列中是否存在冗余相机。图9中示出了根据示例实施例的所需相机数目的确定方法900的流程图。在步骤910中,由自适应相机阵列中的每个相机来捕获对象的图像。在步骤920中,对于该对象,估计/确定对象的深度和大小。在步骤930中,选择在阵列中具有最远距离的相机,例如,图4的相机401和408。它们被选择成用于进行成像的活动相机。在步骤940中,为活动相机确定最小t(t=d/2*tan((180-fov)/2))。如果t小于深度(图10a中示出了该情况的示例),则当前的活动相机足以覆盖该对象并且不需要激活/开启更多的相机。然而,如果t大于或等于深度(图10b中示出了该情况的示例),则当前的活动相机不足以覆盖该对象,该方法继续到步骤950,并且(由用户或自动地由设备)激活/开启至少一个更多的相机,例如,图4的相机402、403、404、405、406或407。要激活的相机可以例如处在中间或者至少在阵列中具有最远距离的相机之间。该方法从步骤950继续到步骤940,直到t小于或等于深度。图10c中示出了具有三个活动相机的情况的示例。
[0055] 图11示出了根据示例实施例用于计算自适应相机阵列中每个相机的期望相机姿态的方法的流程图。在方法1100中,在步骤1110中,获取被安排成要捕获的图像的期望视场(FOV)。在步骤1120中,对于包括具有视场(fov)的至少两个活动相机传感器的相机阵列的每个活动相机传感器,确定期望视场(FOV)的所需视场(r_fov),其中,通过将期望视场(FOV)除以活动相机传感器的数目来确定所需视场。在步骤1130中,比较相机传感器的视场(fov)和视场(r_fov)。在步骤1140中,如果所需视场(r_fov)小于或等于视场(fov),则确定相邻相机传感器之间的弯曲角度,以便通过相机传感器阵列的相机传感器来实现期望视场(FOV)。
[0056] 各种实施例可以提供优点。根据实施例,配备有包括多个相机的自适应相机阵列的移动设备可用于一次捕获例如全景或广角图像,即,通过仅按压快门按钮一次而无需多次按压快门按钮和在后续图像帧之间旋转设备(以及按压快门按钮)。同一设备还可用于全景视频拍摄。另外,根据另一实施例,自适应相机阵列设备/系统可以仅选择必要数量的相机用于捕获图像,因此减少了对冗余相机和数据的使用。本发明提供了自适应相机阵列移动设备,其适用于以下情形:使用取景器是不可行的,但是可以在没有完全手动控制的情况下实现适当的相机配置。另外,因为根据本发明实施例配备有自适应相机阵列的设备适合于在全景或广角成像中安排相机阵列的自动弯曲或者仅按需选择(即,足够数目的相机用于捕获特定对象/场景的图像),所以数据传输的量可以更低。另外,由于自动功能(即,自动弯曲或对相机数目的自动选择),配备有自适应相机阵列的设备也适合于在远程操作中使用并且甚至具有低比特率连接。
[0057] 可以在计算机程序代码的帮助下实现本发明的各种实施例,所述计算机程序代码驻留在存储器中并且促使相关装置实现本发明。例如,设备可以包括用于处理、接收和传输数据的电路和电子装置、在存储器中的计算机程序代码以及处理器,当运行所述计算机程序代码时,促使该设备实现实施例的特征。进一步地,像服务器这样的网络设备可以包括用于处理、接收和传输数据的电路和电子装置、在存储器中的计算机程序代码以及处理器,当运行所述计算机程序代码时,促使该网络设备实现实施例的特征。
[0058] 显然,本发明不限于仅仅是以上呈现的实施例,而是可以在所附权利要求的范围内对其进行修改。