信息处理装置、信息处理方法和记录介质转让专利

申请号 : CN201880069134.5

文献号 : CN111264057B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 田中佳世子相木一磨汤浅洋史中野聪

申请人 : 索尼公司

摘要 :

本技术涉及信息处理装置、信息处理方法和记录介质,其使得可以呈现容易处于与距离无关的自然融合状态的对象。根据本技术的一个方面的信息处理装置:基于左眼用的图像和右眼用的图像的输出来获取允许用户感知的对象在深度方向上的位置信息;并且基于位置信息将要经受亮度校正的亮度校正区域设置为第一显示区域和第二显示区域中的至少一个,第一显示区域是包括在左眼用的图像的显示区域中并且与右眼用的图像的显示区域重叠的区域,第二显示区域是包括在右眼用的图像的显示区域中并且与左眼用的图像的显示区域重叠的区域。本技术可以应用于例如传输型HMD。

权利要求 :

1.一种信息处理装置,包括:获取单元,其被配置为输出左眼用的图像和右眼用的图像以获取用户感知的对象在深度方向上的位置信息;以及

控制单元,其被配置为基于所述位置信息将要经受亮度校正的亮度校正区域设置为第一显示区域和第二显示区域中的至少一个,所述第一显示区域是被包括在所述左眼用的图像的显示区域中的并且与所述右眼用的图像的显示区域重叠的区域,所述第二显示区域是被包括在所述右眼用的图像的显示区域中的并且与所述左眼用的图像的显示区域重叠的区域,

其中所述控制单元将所述亮度校正区域设置为具有与所述对象的位置对应的宽度的双目视觉区域,以及

其中所述获取单元和所述控制单元分别经由至少一个处理器来实现。

2.根据权利要求1所述的信息处理装置,还包括:亮度校正单元,其被配置为对所述亮度校正区域执行亮度校正,其中所述亮度校正单元经由至少一个处理器来实现。

3.根据权利要求2所述的信息处理装置,其中,所述亮度校正单元执行亮度校正以降低所述亮度校正区域的亮度。

4.根据权利要求2所述的信息处理装置,其中,所述亮度校正单元执行亮度校正,使得亮度随着接近其中已经设置所述亮度校正区域的显示区域的端部而降低。

5.根据权利要求1所述的信息处理装置,其中,所述控制单元在所述对象在所述深度方向上的位置越远时,设置具有越大宽度的所述亮度校正区域。

6.根据权利要求1所述的信息处理装置,其中,所述控制单元在所述第一显示区域的右端和所述第二显示区域的左端设置所述亮度校正区域。

7.根据权利要求1所述的信息处理装置,其中,所述控制单元在所述对象在所述深度方向上的位置越远时,设置具有越小宽度的所述亮度校正区域。

8.根据权利要求1所述的信息处理装置,其中,所述控制单元在所述第一显示区域的左端和所述第二显示区域的右端设置所述亮度校正区域。

9.根据权利要求5所述的信息处理装置,其中,所述控制单元使所述亮度校正区域的宽度线性地或阶段性地改变。

10.根据权利要求1所述的信息处理装置,其中,所述控制单元使用所述对象的形状或尺寸中的至少一个以及所述位置信息来设置所述亮度校正区域。

11.根据权利要求2所述的信息处理装置,还包括:失真校正单元,其被配置为对已经经受亮度校正的所述左眼用的图像和所述右眼用的图像执行失真校正,

其中所述失真校正单元经由至少一个处理器来实现。

12.根据权利要求1所述的信息处理装置,其中,所述控制单元将所述亮度校正区域设置在用作双目视觉区域的所述第一显示区域和所述第二显示区域的内部。

13.根据权利要求12所述的信息处理装置,还包括:图像生成单元,其被配置为生成表示所述双目视觉区域与作为所述双目视觉区域外部的区域的单目视觉区域之间的边界的预定图像,其中所述图像生成单元经由至少一个处理器来实现。

14.根据权利要求13所述的信息处理装置,其中,所述控制单元设置具有与正在观看所述对象的所述用户的双眼的会聚角对应的宽度的所述双目视觉区域。

15.根据权利要求13所述的信息处理装置,其中,所述控制单元设置具有与由所述位置信息表示的所述对象在深度方向上的位置对应的宽度的所述双目视觉区域。

16.根据权利要求13所述的信息处理装置,其中,所述图像生成单元生成根据所述对象而不同的图像作为所述预定图像。

17.根据权利要求13所述的信息处理装置,其中,所述图像生成单元生成通过改变所述对象的亮度而获得的图像作为所述预定图像。

18.根据权利要求13所述的信息处理装置,其中,所述图像生成单元生成通过改变所述对象的色度和饱和度中的至少一个而获得的图像作为所述预定图像。

19.一种信息处理方法,包括由信息处理装置执行的以下步骤:输出左眼用的图像和右眼用的图像以获取用户感知的对象在深度方向上的位置信息;

以及

基于所述位置信息,将要经受亮度校正的亮度校正区域设置为第一显示区域和第二显示区域中的至少一个,所述第一显示区域是被包括在所述左眼用的图像的显示区域中的并且与所述右眼用的图像的显示区域重叠的区域,所述第二显示区域是被包括在所述右眼用的图像的显示区域中的并且与所述左眼用的图像的显示区域重叠的区域,其中所述亮度校正区域被设置为具有与所述对象的位置对应的宽度的双目视觉区域。

20.一种记录有程序的记录介质,所述程序用于使计算机执行以下处理:输出左眼用的图像和右眼用的图像以获取被用户感知的对象在深度方向上的位置信息;以及

基于所述位置信息,将要经受亮度校正的亮度校正区域设置为第一显示区域和第二显示区域中的至少一个,所述第一显示区域是被包括在所述左眼用的图像的显示区域中的并且与所述右眼用的图像的显示区域重叠的区域,所述第二显示区域被包括在所述右眼用的图像的显示区域中的并且与所述左眼用的图像的显示区域重叠的区域,其中所述亮度校正区域被设置为具有与所述对象的位置对应的宽度的双目视觉区域。

说明书 :

信息处理装置、信息处理方法和记录介质

技术领域

[0001] 本技术涉及信息处理装置、信息处理方法和记录介质,并且具体地,涉及能够呈现容易处于连接是自然的与距离无关的融合状态的对象的信息处理装置、信息处理方法和记
录介质。

背景技术

[0002] 存在具有用于左眼和右眼的相应显示器的头戴式显示器(HMD)。在左眼用的显示器上显示的图像和右眼用的显示器上显示的图像中设置偏移的情况下,用户可以由于两眼
之间的视差而立体地观看包括在图像中的对象。
[0003] 专利文献1公开了为了确保宽视角而使布置在用户眼睛前方的左眼用的光学系统和右眼用的光学系统中的每个向外倾斜的技术。
[0004] 为了毫无困难地融合对象,需要设计构成光学系统和图像处理的装置的布置。例如,存在对左眼用的图像和右眼用的图像的每一端的特定范围应用亮度校正用于以自然形
式融合对象的技术。
[0005] 引用列表
[0006] 专利文件
[0007] 专利文件1:日本专利申请第2013‑25101号

发明内容

[0008] 本发明要解决的问题
[0009] 在以不同距离呈现对象的情况下,如果亮度校正的范围是与呈现距离无关的固定范围,则融合和图像质量可能受到影响。
[0010] 本技术是鉴于这样的情况而完成的,并且旨在能够呈现一种容易处于连接是自然的与距离无关的融合状态下的对象。
[0011] 解决方案
[0012] 根据本技术的一个方面的信息处理装置,包括:获取单元,其输出左眼用的图像和右眼用的图像以获取被用户感知的对象在深度方向上的位置信息;以及控制单元,其基于
位置信息将要经受亮度校正的亮度校正区域设置为第一显示区域和第二显示区域中的至
少一个,第一显示区域包括在左眼用的图像的显示区域中并且与右眼用的图像的显示区域
重叠,第二显示区域包括在右眼用的图像的显示区域中并且与左眼用的图像的显示区域重
叠。
[0013] 在本技术的一个方面中,输出左眼用的图像和右眼用的图像以获取被用户感知的对象在深度方向上的位置信息,并且基于位置信息,将要经受亮度校正的亮度校正区域设
置为第一显示区域和第二显示区域中的至少一个,第一显示区域包括在左眼用的图像的显
示区域中并且与右眼用的图像的显示区域重叠,第二显示区域包括在右眼用的图像的显示
区域中并且与左眼用的图像的显示区域重叠。
[0014] 发明效果
[0015] 根据本技术,可以呈现容易处于连接是自然的与距离无关的融合状态的对象。
[0016] 注意,本文描述的效果不必是限制性的,并且可以应用本公开内容中描述的任何效果。

附图说明

[0017] 图1是示出了根据本技术的实施方式的信息处理系统的配置示例的图。
[0018] 图2是示出了对象的外观的示例的图。
[0019] 图3是示出了内容的显示示例的图。
[0020] 图4是示出了对象的外观的另一示例的图。
[0021] 图5是示出了左眼用的图像和右眼用的图像的示例的图。
[0022] 图6是示意性地示出了HMD的显示方法的平面图。
[0023] 图7是示出了亮度校正图案的示例的图。
[0024] 图8是示出了亮度校正处理的示例的图。
[0025] 图9是示出了根据对象的呈现距离的亮度校正图案的改变的示例的图。
[0026] 图10是示出了根据对象的呈现距离的亮度校正图案的改变的另一示例的图。
[0027] 图11是示出了根据对象的呈现距离的亮度校正图案的改变的另一示例的图。
[0028] 图12是示出了HMD的配置示例的框图。
[0029] 图13是示出了输出控制单元的功能配置示例的框图。
[0030] 图14是示出了针对左眼用的图像和右眼用的图像的处理的示例的图。
[0031] 图15是用于说明HMD的显示处理的流程图。
[0032] 图16是示出了根据视线不相交方法的左眼用的图像和右眼用的图像的显示示例的图。
[0033] 图17是示出了根据视线相交方法的左眼用的图像和右眼用的图像的显示示例的图。
[0034] 图18是示出了左眼用的图像和右眼用的图像的另一显示示例的图。
[0035] 图19是示出了左眼用的图像和右眼用的图像的另一显示示例的图。
[0036] 图20是示出了视线不相交方法中的辅助图像的显示示例的图。
[0037] 图21是示出了在凝视距离短的情况下辅助图像的显示示例的图。
[0038] 图22是示出了输出控制单元的功能配置示例的框图。
[0039] 图23是用于说明HMD的视线识别处理的流程图。
[0040] 图24是用于说明HMD的显示处理的流程图。
[0041] 图25是示出了辅助图像的显示示例的图。
[0042] 图26是示出了辅助图像的显示示例的图。
[0043] 图27是用于说明HMD的显示处理的流程图。
[0044] 图28是示出了左眼用的图像和右眼用的图像的示例的图。
[0045] 图29是示出了辅助图像的另一显示示例的图。
[0046] 图30是示出了辅助图像的另一显示示例的图。
[0047] 图31是示出了辅助图像的另一显示示例的图。
[0048] 图32是示出了内容分发服务器的配置示例的框图。

具体实施方式

[0049] 在下文中,将描述用于执行本技术的实施方式。将按以下顺序给出描述。
[0050] 1.亮度校正(阴影)的第一实施方式
[0051] 2.用于显示辅助图像的第二实施方式
[0052] 在双目视觉区域与单目视觉区域之间的边界附近,由于视野冲突,可能发生单目视觉区域侧的视频图像的部分看起来是透明的现象或者发生看到暗带的被称为“晃动
(Luning)”的现象。为了抑制这些现象,已知一种显示辅助图像的方法,该辅助图像是边界
附近的线性图像。在例如军用飞机的HMD等中采用通过显示辅助图像来抑制晃动的技术。
[0053] <<亮度校正(阴影)的第一实施方式>>
[0054] 图1是示出了根据本技术的实施方式的信息处理系统的配置示例的图。
[0055] 图1的信息处理系统是通过经由诸如互联网的网络3连接HMD 1和内容分发服务器2来配置的。
[0056] 如图1所示,HMD 1是具有透射型显示装置的眼镜型的可穿戴终端。HMD 1经由网络3与内容分发服务器2进行通信,并且接收从内容分发服务器2发送的内容。HMD 1再现内容,
并且在显示装置上显示包括各种对象的图像。用户在他/她前方的场景上方看到对象。
[0057] 包括对象的图像的投影方法可以是虚拟图像投影方法或在用户眼睛的视网膜上直接形成图像的视网膜投影方法。
[0058] HMD 1再现的内容不限于从内容分发服务器2发送的内容。例如,在HMD 1上再现HMD 1上安装的存储器中存储的内容,此外,可以通过HMD 1获取并再现用户携带的诸如智
能手机或平板终端的移动终端中存储的内容或PC中存储的内容。
[0059] <内容投影方法>
[0060] 图2是示出了对象的外观的示例的图。
[0061] 图2所示的水平方向长的矩形的范围指示在用户实际看到的场景的范围内HMD 1可以以重叠(overlapping)的方式显示各种类型的信息的范围。实际上,用户看到大于图2
所示的范围的场景。
[0062] 在图2的示例中,作为摩托车图像的对象O被呈现在用户前方的场景上。对象O可以是二维图像或能够立体地看到的三维图像。
[0063] 图3是示出了用于实现如图2所示的场景的外观的内容的显示示例的图。
[0064] 图3的A示出了在用户前方可以看到的场景。在图3的A的示例中,用户正在观看建筑物在道路的左边和右边排列的场景。
[0065] 在这样的场景上显示包括如图3的B中所示的对象O的图像,并且如图3的C中所示,实现了对象O存在于与图2相同的场景的前方的外观。在图3的B所示的图像中,除了显示对
象O的部分之外的部分是具有高透明度的部分(与屏幕的外观中存在图像的部分相比,场景
被看作完全透明的部分)。
[0066] HMD 1通过将呈现距离设置为各种距离来呈现这样的对象。呈现距离是用户感知的从眼睛的位置到对象的位置的深度方向上的距离。
[0067] 图4是示出了对象的外观的另一示例的图。
[0068] 图4的A示出了在呈现距离短的情况下的对象O的外观。例如,图4的A中的对象O的呈现距离为30cm。在呈现距离短的情况下,如图4的A所示,对象O被显示为占据大的范围。
[0069] 图4的B示出了在呈现距离为例如2m的情况下的对象O的外观,以及图4的C示出了在呈现距离为例如10m的情况下的对象O的外观。如图4的B和图4的C所示,显示尺寸根据呈
现距离而变化的对象O。
[0070] 通过向用户的左眼传递左眼用的图像(用于左眼的图像),并且向用户的右眼传递右眼用的图像(用于右眼的图像)来呈现这样的对象。HMD 1具有用于显示左眼用的图像的
显示单元和用于显示右眼用的图像的显示单元。
[0071] 图5是示出了左眼用的图像和右眼用的图像的示例的图。
[0072] 在图5的示例中,为了便于说明,在对象的背景中示出了用户前方的场景。每个场景的范围的差异指示左眼用的图像和右眼用的图像是假设视角根据视差而变化的图像。左
眼用的图像中包括的场景范围和右眼用的图像中包括的场景范围部分重叠。
[0073] 左眼用的图像中的对象OL的位置和右眼用的图像中的对象OR的位置也根据视差而变化。
[0074] 图6是示意性地示出了HMD 1的显示方法的平面图。
[0075] 如图6所示,将前方场景和左眼用的图像引导至左眼的左眼用的光学系统11L,以及将前方场景和右眼用的图像引导至右眼的右眼用的光学系统11R以预定角度被设置,以
相对于穿过用户双眼中心的垂直线朝向外侧。如稍后所述,左眼用的光学系统11L和右眼用
的光学系统11R包括分别用于显示左眼用的图像的显示单元和用于显示右眼用的图像的显
示单元。
[0076] 如直线#1和#2所示,由虚线框F1包围显示的左眼用的图像被引导至用户的左眼。此外,如直线#11和#12所示,由点划线框F2包围显示的右眼用的图像被引导至用户的右眼。
[0077] 左眼用的图像的区域和右眼用的图像的区域彼此重叠的区域是将显示内容引导到双眼的双目视觉区域。此外,左眼用的图像的区域和右眼用的图像的区域的除双目视觉
区域以外的区域是将显示内容引导到一只眼睛的单目视觉区域。在左眼用的图像中,作为
右眼用的图像和显示区域彼此重叠的区域的双目视觉区域形成在整个显示区域的右侧,并
且在右眼用的图像中,左眼用的图像和显示区域彼此重叠的双目视觉区域形成在整个显示
区域的左侧。
[0078] 如上所述,通过在左眼用的图像与右眼用的图像之间设置视差并且显示左眼用的图像和右眼用的图像以在某些区域中彼此重叠,与在左和右显示相似图像的情况相比,可
以确保大的视角。
[0079] 这里,已经描述了呈现摩托车图像的情况,但是HMD 1可以向用户呈现除摩托车图像以外的各种图像作为对象。另外,HMD 1可以通过显示包括多个对象的图像来向用户同时
呈现多个对象。
[0080] <亮度校正>
[0081] 在HMD 1中,为了使包括在左眼用的图像中的对象和包括在右眼用的图像中的对象被识别为自然地连接,对每个图像应用所谓的阴影的亮度校正处理。
[0082] 图7是示出了亮度校正图案的示例的图。
[0083] 如图7所示,从左眼用的图像的右端开始具有预定宽度的区域被设置为左眼侧亮度校正区域。根根据类似灰度的亮度校正图案将亮度校正处理应用于左眼用的图像,使得
亮度随着接近右端而逐渐降低。图7表示应用处理使得当部分的颜色越深,则部分中的图像
的亮度越低(透明度更高)。
[0084] 类似地,从右眼用的图像的左端起具有预定宽度的区域被设置为右眼侧亮度校正区域。根据类似灰度的亮度校正图案将亮度校正处理应用于右眼用的图像,使得亮度随着
接近左端而逐渐降低。在图7的示例中,左眼侧亮度校正区域的宽度与右眼侧亮度校正区域
的宽度相同。
[0085] 图8是示出了亮度校正处理的示例的图。
[0086] 图8的上部所示的曲线图是示出了在使用图7的亮度校正图案执行亮度校正的情况下亮度的变化的曲线图。纵轴指示亮度校正值,以及横轴指示在显示单元上(图像上)的
水平位置。
[0087] 在图8的示例中,假设使用亮度校正图案,其中亮度朝着图像的末端线性地降低,但是,可以使用亮度阶段性地降低的亮度校正图案或亮度沿曲线降低的亮度校正图案。
[0088] 通过使用这种亮度校正图案执行亮度校正,生成如图8的中间部分所示的亮度校正之后的左眼用的图像和右眼用的图像。
[0089] 如亮度校正之后的左眼用的图像所示,对象OL在亮度校正区域中的部分处于亮度随着接近右端而逐渐降低的状态。在图8的示例中,对象是表示人脸的图示的图像。此外,如
亮度校正之后的右眼用的图像所示,对象OR的亮度校正区域的部分的亮度随着接近左端而
逐渐降低。
[0090] 亮度校正之后的左眼用的图像被显示在设置在左眼用的光学系统11L中的显示单元上,并且右眼用的图像被显示在设置在右眼用的光学系统11R中的显示单元上,使得呈现
如图8的下部所示的在双目视觉区域的两端已经校正亮度的对象O。
[0091] 图8的下部示出了用户识别的对象O的状态。在以重叠的方式示出了左眼用的图像的双目视觉区域和右眼用的图像的双目视觉区域的情况下,左眼侧亮度校正区域的位置是
相对于左眼用的图像的右端与右眼用的图像之间的边界在左眼用的图像的双目视觉区域
中的位置(双目视觉区域内的位置)。另外,右眼侧亮度校正区域的位置是相对于右眼用的
图像的左端与左眼用的图像之间的边界在右眼用的图像的双目视觉区域中的位置。
[0092] 通过显示其中通过执行亮度校正来抑制边界部分处的亮度差的左眼用的图像和右眼用的图像,可以将两个图像上的对象适当地融合到用户的眼睛,并且可以以自然的方
式识别对象。这里,融合是指融合反射在左视网膜和右视网膜上的图像并将其识别为一个
图像的功能。
[0093] 如上所述,在HMD 1中,在将呈现距离设置为各种距离的情况下执行对象的呈现。根据该对象的呈现距离来切换用于左眼用的图像和右眼用的图像的亮度校正的亮度校正
图案。
[0094] ‑线性改变亮度校正区域的宽度的示例
[0095] 图9是示出了根据对象的呈现距离的亮度校正图案的改变的示例的图。
[0096] 图9的下部所示的虚线L1指示作为呈现距离的参考的用户眼睛的位置。虚线L2指示假设对象呈现距离为35cm的情况下的位置,并且虚线L3指示假设对象呈现距离为5m的情
况下的位置。
[0097] 如上所述,直线#1与#2之间的范围对应于到达用户的左眼的光的范围(左眼用的图像的范围),以及直线#11与#12之间的范围对应于到达用户的右眼的光的范围(右眼用的
图像的范围)。左眼侧亮度校正区域设置在左眼用的图像的右端,以及右眼侧亮度校正区域
设置在右眼用的图像的左端。
[0098] 如斜线阴影所示,随着对象的呈现距离变长,在左眼用的图像的右端设置的左眼侧亮度校正区域被设置为更大的宽度(角度)区域。此外,随着对象的呈现距离变长,在右眼
用的图像的左端设置的右眼侧亮度校正区域被设置为更大的宽度区域。在图9的示例中,亮
度校正区域的宽度在从35cm到5m的呈现距离的范围内线性变化。
[0099] 图9的右侧所示的亮度校正图案P1示出了呈现距离为35cm的情况下的亮度校正图案。亮度校正图案P2示出了呈现距离为5m的情况下的亮度校正图案。从亮度校正图案P1和
亮度校正图案P2可以看出,与呈现距离为35cm的情况相比,在对象的呈现距离为5m的情况
下,在更大的范围内执行亮度校正。
[0100] 在亮度校正区域的宽度是恒定的而与对象的呈现距离无关的情况下,在呈现距离短的情况下,由于亮度校正区域相对于双目视觉区域过大,左图像与右图像之间的差异增
加,并且因此可能会干扰融合。通过根据对象的呈现距离来改变亮度校正区域的宽度,即使
在对象的呈现距离短的情况下,HMD 1也可以适当地执行融合。
[0101] ‑阶段性地改变亮度校正区域的宽度的示例
[0102] 图10是示出了根据对象的呈现距离的亮度校正图案的改变的另一示例的图。
[0103] 在图10的示例中,假设亮度校正区域的宽度根据对象的呈现距离而阶段性地改变。
[0104] 例如,在对象的呈现距离为35cm以上且小于1m的范围内,亮度校正区域的宽度线性地改变。在对象的呈现距离为35cm的情况下使用的亮度校正图案P11例如是用作亮度校
正区域的宽度小于图9中的亮度校正图案P1的区域的亮度校正图案。
[0105] 在对象的呈现距离为1m的情况下,在呈现距离为35cm以上且小于1m的范围内,具有与亮度校正区域的宽度的变化不连续的宽度的区域被设置为亮度校正区域。在从1m到5m
的呈现距离的范围内,亮度校正区域的宽度线性地改变。在对象的呈现距离为5m的情况下
使用的亮度校正图案P12是例如用作亮度校正区域的其中具有与图9中的亮度校正图案P2
相同宽度的区域的亮度校正图案。
[0106] 如上所述,还可以以小于1m(其中通常难以融合)以及等于或大于1m的两个步长(step)切换亮度校正区域的宽度。亮度校正区域的宽度的变化不连续处的呈现距离可以是
除1m以外的距离。此外,可以将亮度校正区域的宽度设置为具有三个或更多个变化步长。
[0107] 图11是示出了根据对象的呈现距离的亮度校正图案的改变的另一示例的图。
[0108] 在图11的示例中,在由虚线L11指示的阈值TH1、由虚线L12指示的阈值TH2和由虚线L13指示的阈值TH3的对象的呈现距离中的每个呈现距离处,亮度校正区域的宽度阶段性
地改变。
[0109] 如上所述,HMD 1可以在各种呈现距离处逐步改变亮度校正区域的宽度。例如,亮度校正区域的宽度可以在对象的35cm、50cm、75cm、1m和2m的每个呈现距离处阶段性地切
换。此外,可以使用预定呈现距离的组合(例如35cm、50cm、1m和2m的距离以及35cm、50cm和
2m的距离)来切换亮度校正区域的宽度。
[0110] 在对象的呈现距离为2m以上的情况下,用户眼睛的会聚角不会显著变化,并且因此,亮度校正区域的宽度可以被设置为恒定的宽度。会聚角是由连接左眼和对象的直线与
连接右眼和对象的直线形成的角度。
[0111] 此外,可以监视用户的眼睛的会聚角,并且可以根据监视值来切换亮度校正区域的宽度。例如,可以在会聚角为5度以上的情况与会聚角小于5度的情况之间切换亮度校正
区域的宽度。
[0112] 此外,可以根据用户的设置来切换亮度校正区域的宽度。在这种情况下,例如,以下处理被执行为初始设置:通过使对象逐渐靠近用户并且允许用户设置融合变得困难处的
距离来呈现对象。在实际呈现对象的情况下,参考在初始设置时记录的信息,并且在用户设
置呈现距离之前和之后阶段性地切换亮度校正区域的宽度。
[0113] 如上所述,可以通过各种方法来设置亮度校正区域。
[0114]
[0115] 图12是示出了HMD 1的配置示例的框图。
[0116] 如图12所示,HMD 1包括传感器51、摄像机52、用户信息获取单元53、外围信息获取单元54、输出控制单元55、左眼用的显示单元56L、右眼用的显示单元56R、通信单元57和电
源单元58。传感器51和摄像机52可以不设置在HMD 1中,但是可以设置在诸如用户拥有的便
携式终端的外部装置中。
[0117] 传感器51包括加速度传感器、陀螺仪传感器、定位传感器等。传感器51还设置有检测用户的视线方向的视线检测装置51A。传感器51将表示各种测量结果的信息输出到用户
信息获取单元53和外围信息获取单元54。
[0118] 摄像机52捕获用户前方的场景。摄像机52将通过捕获而获取的图像提供给用户信息获取单元53和外围信息获取单元54。
[0119] 用户信息获取单元53基于从传感器51和摄像机52提供的信息,指定用户的状态,例如用户的位置和用户采取的动作。
[0120] 此外,用户信息获取单元53基于从视线检测装置51A提供的信息来指定用户正在观看哪个对象。通过显示左眼用的图像和右眼用的图像呈现的对象,摄像机52拍摄的图像
中的目标等被指定为用户正在观看的目标。用户信息获取单元53将包括表示用户状态的信
息和表示用户正在观看的目标的信息的用户信息输出到输出控制单元55。
[0121] 外围信息获取单元54基于从传感器51和摄像机52提供的信息来指定用户周围的状况。例如,通过分析由照相机52捕获的图像来指定建筑物、道路、标志等的位置。外围信息
获取单元54将表示用户周围状况的外围信息输出到输出控制单元55。
[0122] 输出控制单元55基于从通信单元57提供的内容来确定要呈现给用户的对象。此外,输出控制单元55基于从用户信息获取单元53提供的用户信息和从外围信息获取单元54
提供的外围信息来确定对象的呈现位置。
[0123] 在执行诸如游戏的预定应用期间,在用户信息表示用户正在行走,并且外围信息表示用户前方存在标志的情况下,执行将标志的位置确定为对象的呈现位置的处理。
[0124] 输出控制单元55基于从通信单元57提供的内容来生成包括对象的左眼用的图像和右眼用的图像。此外,输出控制单元55使用基于对象的呈现距离而设置的亮度校正图案
来执行左眼用的图像和右眼用的图像的亮度校正。
[0125] 输出控制单元55将通过执行亮度校正而获取的左眼用的图像输出到左眼用的显示单元56L,并且将右眼用的图像输出到右眼用的显示单元56R。
[0126] 左眼用的显示单元56L是设置在左眼用的光学系统11L中的显示器。左眼用的显示单元56L显示从输出控制单元55提供的左眼用的图像。
[0127] 右眼用的显示单元56R是设置在右眼用的光学系统11R中的显示器。右眼用的显示单元56R显示从输出控制单元55提供的右眼用的图像。
[0128] 通信单元57是网络接口。通信单元57经由网络3与内容分发服务器2通信,并且接收从内容分发服务器2发送的内容。由通信单元57接收的内容被提供给输出控制单元55。
[0129] 电源单元58包括电池和电源电路。电源单元58将驱动所需的电力提供给每个单元。
[0130] 图13是示出了图12的输出控制单元55的功能配置示例的框图。
[0131] 例如,通过由输出控制单元55中设置的中央处理单元(CPU)执行预定程序来实现图13所示的功能单元的至少部分。输出控制单元55还设置有诸如其中记录了由CPU等执行
的程序的只读存储器(ROM)、用于执行该程序的随机存取存储器(RAM)以及图形处理单元
(GPU)的配置。
[0132] 如图13所示,输出控制单元55包括显示图像获取单元81、显示位置确定单元82、图像生成单元83、控制单元84、亮度校正单元85和失真校正单元86。从用户信息获取单元53输
出的用户信息和从外围信息获取单元54输出的外围信息分别被输入到显示图像获取单元
81和显示位置确定单元82。
[0133] 显示图像获取单元81基于由用户信息表示的用户的状态和由外围信息表示的外围状况来确定要呈现给用户的对象。从通信单元57提供的内容中包括的对象中选择要呈现
给用户的对象。
[0134] 如上所述,在用户信息表示用户正在行走,以及外围信息表示用户前方存在标志的情况下,确定要在标志位置呈现的对象。显示图像获取单元81将关于要呈现给用户的对
象的信息输出到图像生成单元83和控制单元84。从显示图像获取单元81输出的信息包括对
象的图像数据。
[0135] 显示位置确定单元82基于用户信息和外围信息来确定对象的显示位置。
[0136] 如上所述,在用户信息表示用户正在行走并且外围信息表示在用户前方存在标志的情况下,将标志的位置确定为对象的显示位置。显示位置确定单元82将表示对象的显示
位置的信息输出到图像生成单元83和控制单元84。
[0137] 图像生成单元83基于从显示图像获取单元81提供的信息来生成包括具有与显示位置确定单元82所确定的显示位置对应的尺寸和形状的对象的左眼用的图像和右眼用的
图像。为包括在左眼用的图像中的对象和包括在右眼用的图像中的对象适当地设置视差。
图像生成单元83将左眼用的图像和右眼用的图像输出到亮度校正单元85。
[0138] 控制单元84基于由显示位置确定单元82确定的显示位置来指定对象的呈现距离。对象的显示位置由对象的呈现距离和对象在图像上的位置表示。
[0139] 此外,控制单元84在左眼用的图像和右眼用的图像中的每个中设置具有与对象的呈现距离对应的宽度的亮度校正区域。控制单元84用作基于对象的呈现距离来设置要经受
亮度校正的亮度校正区域的控制单元。
[0140] 控制单元84将表示用于在亮度校正区域的部分中执行亮度校正的亮度校正图案的信息输出到亮度校正单元85。
[0141] 亮度校正单元85根据控制单元84设置的亮度校正图案,对由图像生成单元83生成的左眼用的图像和右眼用的图像应用亮度校正。亮度校正单元85将通过执行亮度校正而获
得的亮度校正之后的左眼用的图像和右眼用的图像输出到失真校正单元86。
[0142] 失真校正单元86对已经从亮度校正单元85提供的亮度校正之后的左眼用的图像和右眼用的图像应用失真校正。由失真校正单元86进行的失真校正是根据光学系统的特性
的诸如投影变换的处理。失真校正单元86将失真校正之后的左眼用的图像输出到左眼用的
显示单元56L,并且将失真校正之后的右眼用的图像输出到右眼用的显示单元56R。
[0143] 图14是示出了针对左眼用的图像和右眼用的图像的处理的示例的图。
[0144] 如图14所示,在失真校正之前对左眼用的图像和右眼用的图像执行亮度校正。在失真校正之后执行亮度校正的情况下,亮度校正区域的设置变得复杂。通过在失真校正之
前执行亮度校正,可以抑制设置亮度校正区域所需的计算量。
[0145] 此外,通过在失真校正之前执行亮度校正,可以将亮度校正应用于从图像端(end)开始具有相等宽度的范围,并且因此,可以生成易于融合的图像。在要校正的失真很小的情
况下,可以在失真校正之后执行亮度校正。
[0146]
[0147] 这里,将参照图15的流程图描述具有以上配置的HMD 1的显示处理。
[0148] 在步骤S1中,外围信息获取单元54基于从传感器51和摄像机52提供的信息来获取表示用户周围的状况的外围信息。
[0149] 在步骤S2中,用户信息获取单元53基于从传感器51和摄像机52提供的信息来获取表示用户的状态的用户信息。
[0150] 在步骤S3中,输出控制单元55的显示图像获取单元81和显示位置确定单元82均基于外围信息来指定用户周围的状况。此外,显示图像获取单元81和显示位置确定单元82均
基于用户信息来指定用户的状态。
[0151] 在步骤S4中,显示图像获取单元81基于用户的状态和周围状况来确定要呈现给用户的对象。
[0152] 在步骤S5中,显示位置确定单元82基于用户的状态和周围状况来确定对象的显示位置。
[0153] 在步骤S6中,控制单元84基于在步骤S5中确定的显示位置来指定对象的呈现距离,并根据该呈现距离来确定亮度校正图案。在确定亮度校正图案时,适当地考虑对象的形
状等。稍后将描述基于除呈现距离以外的元素来确定亮度校正图案的处理。
[0154] 在步骤S7中,图像生成单元83生成包括具有预定尺寸和形状的对象的左眼用的图像和右眼用的图像。
[0155] 在步骤S8中,亮度校正单元85根据亮度校正图案对左眼用的图像和右眼用的图像应用亮度校正。
[0156] 在步骤S9中,失真校正单元86对亮度校正之后的左眼用的图像和右眼用的图像应用失真校正。
[0157] 在步骤S10中,左眼用的显示单元56L显示左眼用的图像,并且右眼用的显示单元56R显示右眼用的图像。这里显示的左眼用的图像和右眼用的图像是失真校正后的图像。在
通过显示左眼用的图像和右眼用的图像呈现对象之后,处理返回到步骤S1,并且执行步骤
S1和后续步骤的处理。
[0158] 在接通HMD 1的电源并且执行用于呈现内容对象的预定应用的同时,重复步骤S1至S10的处理。
[0159] 如上所述,HMD 1可以通过根据对象的呈现距离改变要经受亮度校正的区域的宽度来适当地将对象融合到用户的眼睛。
[0160] <变型>
[0161] ‑基于对象形状的亮度校正的示例
[0162] 可以根据对象的长宽比(垂直长度与水平长度之间的比率)来切换亮度校正区域的宽度。
[0163] 例如,在对象周围的矩形区域的长宽比大于1:2的情况下,与长宽比大于1:2的情况相比,设置具有较小宽度的亮度校正区域。可以基于2:3的长宽比来切换亮度校正区域的
宽度。
[0164] ‑基于对象尺寸的亮度校正的示例
[0165] 可以根据对象的尺寸来切换亮度校正区域的宽度。
[0166] 例如,在对象的呈现距离短并且对象不适合在双目视觉区域中的情况下,与对象适合在双目视觉区域中的情况相比,设置具有较小宽度的亮度校正区域。
[0167] 可以根据对象的面积比来切换亮度校正区域的宽度,例如,在对象的面积相对于整个显示区域的面积的比为40%以上的情况下,与面积比小于40%的情况相比,设置具有
较小宽度的亮度校正区域。
[0168] ‑基于对象形状和尺寸的亮度校正的示例
[0169] 可以使用对象的形状和面积比的组合来切换亮度校正区域的宽度。
[0170] 例如,在对象的长宽比大于1:2,并且对象相对于整个图像的面积的面积比为40%以上的情况下,与不满足这些条件的情况相比,设置具有较小宽度的亮度校正区域。
[0171] 如上所述,基于对象的呈现距离、对象的长宽比或对象与整个图像的面积的面积比中的至少一个来执行亮度校正区域的设置。
[0172] 融合的难易根据横跨单目视觉区域和双目视觉区域的部分的显示来改变。如上所述,通过根据对象的形状和对象在图像中的比例来改变亮度校正区域的宽度,可以呈现可
以更容易地融合的对象。
[0173] 在呈现具有不同呈现距离的多个对象的情况下,可以基于最接近对象的形状和尺寸来确定亮度校正区域的宽度。
[0174] ‑视线非相交方法/视线相交方法的示例
[0175] 图16是示出了根据视线非相交方法的左眼用的图像和右眼用的图像的显示示例的图。
[0176] 注意,参照图6等描述的左眼用的图像和右眼用的图像的显示方法是视线不相交方法。在如图16的中间部分所示以重叠方式布置双目视觉区域的情况下,在视线不相交方
法中,左眼用的图像被布置在右眼用的图像的左侧,并且被引导至用户的左眼。此外,右眼
用的图像被布置在左眼用的图像的右侧,并且被引导至用户的右眼。双目视觉区域形成为
更靠近左眼用的图像中的右端,并且形成为更靠近右眼用的图像中的左端。
[0177] 在视线不相交方法的情况下,如上所述,在左眼用的图像的右端设置亮度校正区域,并且执行左眼用的图像的亮度校正,以及在右眼用的图像的左端设置亮度校正区域,并
且执行右眼用的图像的亮度校正。
[0178] 图17是示出了根据视线相交方法的左眼用的图像和右眼用的图像的显示示例的图。
[0179] 在如图17的中间部分所示以重叠方式布置双目视觉区域的情况下,在视线相交方法中,左眼用的图像被布置在右眼用的图像的右侧,并且被引导至用户的左眼。此外,右眼
用的图像被布置在左眼用的图像的左侧,并且被引导至用户的右眼。双目视觉区域形成为
更靠近左眼用的图像中的左端,并且形成为更靠近右眼用的图像中的右端。
[0180] 在视线相交方法的情况下,在左眼用的图像的左端设置亮度校正区域,并且执行左眼用的图像的亮度校正,以及在右眼用的图像的右端设置亮度校正区域,并且执行右眼
用的图像的亮度校正。
[0181] 如上所述,在对象呈现方法是视线相交方法并且分别在左眼用的图像的左端和右眼用的图像的右端设置亮度校正区域的情况下,也如上所述根据对象的呈现距离来设置亮
度校正区域的宽度。
[0182] 注意,在视线相交方法的情况下,与视线不相交方法的情况相反,随着对象的呈现距离越长,亮度校正区域被设置为具有越小的宽度。同样,在视线相交方法的情况下,亮度
校正区域的宽度被设置成根据对象的呈现距离线性或阶段性地改变。可以使用对象的形状
或尺寸以及对象的呈现距离中的至少一个来设置亮度校正区域的宽度。
[0183] 这也使得可以呈现可以容易地融合的对象。
[0184] ‑设置亮度校正区域的其他示例
[0185] 在对象仅适合在单目视觉区域中的情况下,可以不执行亮度校正处理。因此,可以减少GPU上的负荷。
[0186] 图18是示出了左眼用的图像和右眼用的图像的另一示例的图。
[0187] 在图18的左眼用的图像中,对象被布置在右侧,并且对象的右侧的部分不适合在显示区域中。使用右眼用的图像来呈现对象的不适合左眼用的图像中的右侧部分。
[0188] 另一方面,在右眼用的图像中,对象被布置为适合在显示区域中
[0189] 在这种情况下,如图18的下部所示,仅对双目视觉区域的左边界和右边界上的、显示对象的右边界内侧的区域应用亮度校正。也就是说,在左眼用的图像的右端设置亮度校
正区域,并且执行针对左眼用的图像的亮度校正,而不执行针对右眼用的图像的亮度校正。
[0190] 如上所述,在对象没有覆盖显示区域的端部(左眼用的图像的右端和右眼用的图像的左端)的情况下,可以防止执行对该区域的亮度校正。对左眼用的图像或右眼用的图像
中的至少一个执行亮度校正处理。
[0191] 图19是示出了左眼用的图像和右眼用的图像的另一示例的图。
[0192] 在图19的示例中,假设用户的优势眼是右眼。在这种情况下,例如,在初始设置时选择优势眼,并且将指示用户的优势眼的信息记录在HMD 1中。
[0193] 注意,在图19的示例中,左眼用的图像的对象覆盖右端,而右眼用的图像的对象覆盖左端。亮度校正区域被设置在左眼用的图像的右端,以及亮度校正区域被设置在右眼用
的图像的左端,并且对左眼用的图像和右眼用的图像中的每个应用亮度校正。
[0194] 在用户的优势眼是右眼的情况下,如图19所示,对于优势眼侧的右眼用的图像,设置具有比针对左眼用的图像设置的亮度校正区域的宽度小的宽度的亮度校正区域。
[0195] 通常,在人脑中,更可能优先考虑关于优势眼侧的信息。通过如上所述减少优势眼侧的图像的亮度校正区域的宽度,可以预期即使在短距离下也容易执行融合的效果。
[0196] <<辅助图像的显示的第二实施方式>>
[0197] 在下文中,将描述HMD 1中的辅助图像的显示。
[0198] <根据凝视距离改变辅助图像的显示位置的示例>
[0199] 图20是示出了视线不相交方法中的辅助图像的显示示例的图。
[0200] 如图20的上部所示,在左眼用的图像和右眼用的图像中的每个的双目视觉区域与双目视觉区域之间的边界上显示辅助图像,以便与包括对象的主图像重叠。在图20的示例
中,显示垂直方向上的细线作为辅助图像。
[0201] 双目视觉区域的宽度根据用户的凝视距离而变化。在HMD 1中,双目视觉区域和单目视觉区域的宽度根据用户凝视的距离而发生变化,并且因此调整辅助图像的显示位置。
[0202] 例如,基于由设置在左眼用的光学系统11L和右眼用的光学系统11R附近的视线检测装置51A检测到的视线方向来指定用户正在凝视的位置。基于双眼的视线方向来计算会
聚角,并且基于所计算的会聚角来指定用户的凝视距离。
[0203] 图20示出了在用户的凝视距离长达5m的情况下辅助图像的显示位置。例如,在显示包括多个对象的主图像并且用户正凝视5m位置处的对象的情况下,如图20所示,以一定
间隔显示辅助图像。
[0204] 注意,在图20的中间部分,虚线被示出在辅助图像的上方和下方,并且这些虚线是指示左眼用的图像和右眼用的图像的显示区域的范围的线,并且不表示与主图像合成的图
像。
[0205] 图21是示出了在用户的凝视距离短的情况下辅助图像的显示示例的图。
[0206] 在多个对象中,在用户凝视诸如35cm的接近位置(close position)处的对象的情况下,如图21所示,双目视觉区域的宽度变成小于图20中的宽度,并且因此,辅助图像的显
示位置也被改变。注意,在视线相交方法的情况下,用户凝视的对象越近,双目视觉区域的
宽度越大。
[0207] 通过根据用户正在凝视的距离来改变辅助图像的显示位置,即使在如上所述切换对象的呈现距离的情况下,也可以抑制由于视野冲突而导致的不利影响。
[0208] 注意,在图20和图21中,辅助图像由黑色实线表示,但是黑色不能显示在透射式HMD上。实际上,通过改变指示辅助图像的实线部分的亮度、色度和饱和度中的至少一个来
实现辅助图像的显示。
[0209] 例如,通过将原始图像(对象的图像)的作为显示辅助图像的部分的双目视觉区域与单目视觉区域之间的边界的亮度减少到50%,实现了辅助图像的显示。因此,显示具有与
原始图像的亮度相关的亮度的辅助图像,并且可以实现足够的对比度以抑制由于视野冲突
而导致的不利影响。
[0210] 在HMD 1中,与这样的辅助图像的显示一起执行上述的亮度调整。
[0211]
[0212] 图22是示出了输出控制单元55的功能配置示例的框图。
[0213] 图22所示的输出控制单元55的配置与参照图13描述的配置相同,除了在图像生成单元83中设置了辅助图像生成单元83A之外。适当地省略了多余的说明。例如,经由显示位
置确定单元82将包括关于由视线检测装置51A检测到的用户的视线方向的信息的用户信息
输入到图像生成单元83。
[0214] 图像生成单元83基于显示图像获取单元81提供的图像来生成包括具有与由显示位置确定单元82确定的显示位置对应的尺寸和形状的对象的左眼用的图像和右眼用的图
像的主图像。
[0215] 此外,图像生成单元83将左眼用的图像和右眼用的图像中的每个的主图像与由辅助图像生成单元83A生成的辅助图像进行合成。图像生成单元83将包括辅助图像的左眼用
的图像和右眼用的图像输出到亮度校正单元85。
[0216] 辅助图像生成单元83A生成将与左眼用的图像和右眼用的图像中的每个的双目视觉区域与单目视觉区域之间的边界合成的辅助图像。由辅助图像生成单元83A生成的辅助
图像与左眼用的图像和右眼用的图像的各个主图像进行合成。
[0217]
[0218] 这里,将描述用于通过显示合成了上述辅助图像的左眼用的图像和右眼用的图像呈现对象的HMD 1的处理。
[0219] 首先,将参照图23中的流程图来描述HMD 1的视线识别处理。图23的处理例如与稍后参照图24描述的处理并行地执行。
[0220] 在步骤S51中,视线检测装置51A识别观看对象的用户的视线。
[0221] 在步骤S52中,辅助图像生成单元83A基于用户的视线的方向来检测双眼的会聚角,并且指定凝视距离。
[0222] 在步骤S53中,辅助图像生成单元83A基于用户的凝视距离来确定辅助图像的显示位置。在显示对象时重复上述处理。
[0223] 接下来,将参照图24的流程图描述HMD 1的显示处理。
[0224] 除了执行辅助图像的合成之外,图24中的处理与参照图15描述的处理类似。
[0225] 在步骤S61至S67中执行与图15的步骤S1至S7的处理类似的处理之后,在步骤S68中,图像生成单元83将辅助图像与左眼用的图像和右眼用的图像中的每个的主图像合成。
[0226] 在步骤S69中,亮度校正单元85根据亮度校正图案对与辅助图像合成的左眼用的图像和右眼用的图像应用亮度校正。
[0227] 在步骤S70中,失真校正单元86对亮度校正之后的左眼用的图像和右眼用的图像应用失真校正。
[0228] 在步骤S71中,左眼用的显示单元56L显示左眼用的图像,以及右眼用的显示单元56R显示右眼用的图像。因此,显示其中以双目视觉区域与单目视觉区域之间的边界合成辅
助图像的左眼用的图像和右眼用的图像,并且呈现对象。
[0229] 用户可以通过抑制由视野冲突引起的不利影响的方式看到对象。
[0230] <根据对象距离改变辅助图像的显示位置的示例>
[0231] 在以上描述中,通过指定用户的凝视距离来调整辅助图像的显示位置。然而,可以根据对象的呈现距离来调节辅助图像的显示位置。在这种情况下,在假设对象的呈现距离
和用户的凝视距离匹配的情况下执行处理。
[0232] 在呈现多个对象的情况下,根据诸如最大对象或最靠近图像中心的对象的主对象的呈现距离来调整辅助图像的显示位置。在这种情况下,视线检测装置51A变得不必要。
[0233] 图25和图26是示出了辅助图像的显示示例的图。
[0234] 图25示出了在主对象的呈现距离长的情况下辅助图像的显示示例,以及图26示出了在主对象的呈现距离短的情况下辅助图像的显示示例。在视线相交方法的情况下,用户
凝视的对象越近,双目视觉区域的宽度越大。
[0235] 如图25和图26所示,双目视觉区域的宽度根据主对象的呈现距离而改变,并且辅助图像的显示位置被相应地调整。注意,图25和图26所示的辅助图像的显示分别与参照图
20和图21所述的显示相同。
[0236]
[0237] 将参照图27中的流程图来描述HMD 1根据主对象的呈现距离来调整辅助图像的显示位置的处理。
[0238] 图27的处理是与参照图24描述的处理类似的处理,除了执行根据对象的呈现距离来确定辅助图像的显示位置的处理之外。在步骤S81至S86中,执行与图24中的步骤S61至
S66中的处理类似的处理。
[0239] 在步骤S87中,图像生成单元83根据主对象的呈现距离来确定辅助图像的显示位置。
[0240] 在步骤S88中,图像生成单元83生成包括具有预定尺寸和形状的对象的左眼用的图像和右眼用的图像。左眼用的图像和右眼用的图像各自都至少包括主对象。
[0241] 在步骤S89中,图像生成单元83将辅助图像与左眼用的图像和右眼用的图像中的每个的主图像合成。辅助图像的合成位置是根据主对象的呈现距离设置的双目视觉区域与
单目视觉区域之间的边界。
[0242] 从步骤S90开始的处理与从图24中的步骤S69开始的处理类似。即,在步骤S90中,亮度校正单元85根据亮度校正图案对与辅助图像合成的左眼用的图像和右眼用的图像应
用亮度校正。
[0243] 在步骤S91中,失真校正单元86对亮度校正之后的左眼用的图像和右眼用的图像应用失真校正。
[0244] 在步骤S92中,左眼用的显示单元56L显示左眼用的图像,并且右眼用的显示单元56R显示右眼用的图像。因此,显示其中在双目视觉区域与单目视觉区域之间的边界合成辅
助图像的左眼用的图像和右眼用的图像,并且呈现对象。
[0245] 图28是示出了已经通过上述处理执行亮度调整和辅助图像的合成的左眼用的图像和右眼用的图像的示例的图。
[0246] 如图28的中间部分所示,在左眼用的图像中的对象OL的左眼侧亮度校正区域的部分中,亮度随着接近右端而逐渐降低。此外,辅助图像以重叠方式显示在对象OL上跨越双目
视觉区域与单目视觉区域之间的边界的位置处。
[0247] 另一方面,在右眼用的图像中的对象OR的右眼侧亮度校正区域中的部分中,亮度随着接近左端而逐渐降低。此外,辅助图像以重叠的方式显示在对象OR上跨越双目视觉区
域与单目视觉区域之间的边界的位置处。
[0248] 如上所述,通过显示已经合成了辅助图像并且已经校正了亮度的左眼用的图像和右眼用的图像,可以更有效地减少视野冲突。
[0249] 此外,通过与辅助图像的合成组合,可以减少当通过亮度校正减少亮度时的校正量,并且可以呈现在边界部分处亮度变化小的图像。
[0250] 如图28的上部所示,在将辅助图像合成和亮度校正结合的情况下的亮度校正图案是这样的图案,其中,与如参照图8所述的不执行辅助图像合成的情况下的校正量相比,在
显示单元的端部的部分(左眼用的显示单元56L的右端和右眼用的显示单元56R的左端)中
抑制校正量。
[0251] 在与辅助图像的合成结合的情况下,即使使用校正量减少的亮度校正图案,也可以获得足够的效果。
[0252] <变型>
[0253] 图29是示出了辅助图像的另一显示示例的图。
[0254] 在图29的示例中,辅助图像是虚线图像。如上所述,代替实线图像,可以将诸如虚线的另一种线型图像用作辅助图像。
[0255] 图30是示出了辅助图像的另一显示示例的图。
[0256] 在图30的示例中,辅助图像是箭头形图像或星形图像。如上所述,可以将诸如图标和各种形状的标记的图像用作辅助图像。根据对象的类型适当地选择辅助图像的类型和形
状。
[0257] 以上,已经描述了对象的尺寸是跨越双目视觉区域的左边界和右边界两者的尺寸的情况。然而,在对象的尺寸是仅跨越左边界和右边界之一的尺寸的情况下,辅助图像以类
似的方式显示在对象存在的边界部分处。
[0258] 图31是示出了辅助图像的另一显示示例的图。
[0259] 在图31的示例中,对象被布置为跨越双目视觉区域的左端。在这种情况下,如图31的左上方所示,辅助图像仅与左眼用的图像进行合成。辅助图像的合成位置是双目视觉区
域与单目视觉之间的边界的位置。
[0260] 如上所述,辅助图像的合成仅在对象跨越双目视觉区域与单目视觉区域之间的边界的图像上执行。
[0261] 用户可以根据需要调整显示为辅助图像的线条的亮度。此外,可以允许用户选择显示/不显示辅助图像。
[0262] <<其他示例>>
[0263] 尽管已经进行了描述,使得由HMD 1执行左眼用的图像和右眼用的图像的生成,但是可以由内容分发服务器2执行该生成。
[0264] 图32是示出了内容分发服务器2的配置示例的框图。
[0265] CPU 1001、ROM 1002和RAM 1003通过总线1004相互连接。
[0266] 输入和输出接口1005进一步连接到总线1004。输入和输出接口1005连接到包括键盘、鼠标等的输入单元1006,以及包括显示器、扬声器等的输出单元1007。
[0267] 此外,输入和输出接口1005连接到包括硬盘、非易失性存储器等的存储单元1008,包括网络接口等的通信单元1009以及用于驱动可移动介质1011的驱动器1010。
[0268] 例如,在具有如图32所示的配置的计算机中,CPU 1001将存储在存储单元1008中的程序加载到RAM 1003中并执行该程序,使得实现了具有图13或图22所示的配置的输出控
制单元55。
[0269] 在内容分发服务器2中实现的输出控制单元55控制通信单元1009以与HMD 1进行通信。输出控制单元55基于从HMD 1发送的外围信息和用户信息来生成左眼用的图像和右
眼用的图像,将图像发送到HMD 1,并且使图像显示。
[0270] 在HMD 1中,从内容分发服务器2发送的左眼用的图像和右眼用的图像被通信单元57接收,并且分别被提供给左眼用的显示单元56L和右眼用的显示单元56R并在其上显示。
[0271] 如上所述,可以在内容分发服务器2的控制下呈现对象。
[0272] 此外,在以上描述中,HMD 1是具有透射型显示装置的AR头戴式显示器,但是可以是具有非透射型显示装置的VR头戴式显示器。VR头戴式显示器中提供的用于左眼和右眼的
每个显示装置还以在左右方向上设置偏移以扩大视角的状态来提供。
[0273] <计算机配置示例>
[0274] 上述的一系列处理也可以由硬件执行,或也可以由软件执行。在通过软件执行一系列处理的情况下,将软件中包括的程序安装到组装在专用硬件的计算机、普通个人计算
机等。
[0275] 通过将安装的程序记录在图32所示的可移动介质1011上来提供该可移动介质,该可移动介质1011包括光盘(紧凑型光盘只读存储器(CD‑ROM),数字多功能光盘(DVD)等)、半
导体存储器。另外,可以经由诸如局域网、互联网或数字广播的有线或无线传输介质来提供
程序。程序可以预先安装在ROM 1002或存储单元1008中。
[0276] 注意,由计算机执行的程序可以是根据本说明书中描述的顺序按时间顺序处理的程序,或者可以是并行处理或在诸如进行调用时的必要定时进行处理的程序。
[0277] 在本说明书中,系统是指一组多个组成元素(装置,模块(部件)等),并且所有组成元素是否都在同一壳体中并不重要。容纳在单独的壳体中并经由网络连接的多个装置,以
及其中多个模块容纳在一个壳体中的一个装置都是系统。
[0278] 注意,在本说明书中描述的效果仅是示例,并且不旨在是限制性的,并且可以提供其他效果。
[0279] 本技术的实施方式不限于上述实施方式,并且在不脱离本技术的要旨的情况下可以进行各种修改。
[0280] 例如,在本技术中,可以采用其中一个功能由多个装置经由网络共享并且被共同处理的云计算的配置。
[0281] 此外,上述流程图中描述的每个步骤可以由一个装置执行或者由多个装置共享并执行。
[0282] 此外,在一个步骤中包括多个处理的情况下,一个步骤中包括的多个处理可以由一个装置执行或由多个装置共享并执行。
[0283] <配置组合的示例>
[0284] 本技术可以采用以下配置。
[0285] (1)
[0286] 一种信息处理装置,包括:
[0287] 获取单元,其输出左眼用的图像和右眼用的图像以获取被用户感知的对象在深度方向上的位置信息;以及
[0288] 控制单元,其基于所述位置信息,将要经受亮度校正的亮度校正区域设置为第一显示区域和第二显示区域中的至少一个,所述第一显示区域是被包括在所述左眼用的图像
的显示区域中的并且与所述右眼用的图像的显示区域重叠的区域,所述第二显示区域是被
包括在所述右眼用的图像的显示区域中的并且与所述左眼用的图像的显示区域重叠的区
域。
[0289] (2)
[0290] 根据以上(1)所述的信息处理装置,还包括
[0291] 亮度校正单元,其对所述亮度校正区域执行亮度校正。
[0292] (3)
[0293] 根据以上(2)所述的信息处理装置,其中,
[0294] 所述亮度校正单元执行亮度校正以降低所述亮度校正区域的亮度。
[0295] (4)
[0296] 根据以上(2)或(3)所述的信息处理装置,
[0297] 其中,所述亮度校正单元执行亮度校正,使得亮度随着接近其中已经设置所述亮度校正区域的显示区域的端部而降低。
[0298] (5)
[0299] 根据以上(1)至(4)中任一项所述的信息处理装置,
[0300] 其中,所述控制单元在所述对象在所述深度方向上的位置越远时,设置具有越大宽度的亮度校正区域。
[0301] (6)
[0302] 根据以上(1)至(5)中任一项所述的信息处理装置,
[0303] 其中,所述控制单元在所述第一显示区域的右端和所述第二显示区域的左端设置所述亮度校正区域。
[0304] (7)
[0305] 根据以上(1)至(4)中任一项所述的信息处理装置,
[0306] 其中,所述控制单元在所述对象在所述深度方向上的位置越远时,设置具有越小宽度的亮度校正区域。
[0307] (8)
[0308] 根据以上(1)至(4)和(7)中任一项所述的信息处理装置,
[0309] 其中,所述控制单元在所述第一显示区域的左端和所述第二显示区域的右端设置所述亮度校正区域。
[0310] (9)
[0311] 根据以上(5)至(8)中任一项所述的信息处理装置,
[0312] 其中,所述控制单元使所述亮度校正区域的宽度线性地或阶段性地改变。
[0313] (10)
[0314] 根据以上(1)至(9)中任一项所述的信息处理装置,
[0315] 其中,所述控制单元使用所述对象的形状或尺寸中的至少一个以及所述位置信息来设置所述亮度校正区域。
[0316] (11)
[0317] 根据以上(2)至(4)中任一项所述的信息处理装置,还包括
[0318] 失真校正单元,其对已经经受亮度校正的所述左眼用的图像和所述右眼用的图像执行失真校正。
[0319] (12)
[0320] 根据以上(1)至(11)中任一项所述的信息处理装置,
[0321] 其中,所述控制单元将所述亮度校正区域设置在用作双目视觉区域的所述第一显示区域和所述第二显示区域的内部。
[0322] (13)
[0323] 根据以上(12)所述的信息处理装置,
[0324] 其中,所述控制单元设置具有与所述对象的位置对应的宽度的双目视觉区域,以及
[0325] 还包括图像生成单元,其生成表示双目视觉区域与作为所述双目视觉区域外部的区域的单目视觉区域之间的边界的预定图像。
[0326] (14)
[0327] 根据以上(13)所述的信息处理装置,
[0328] 其中,所述控制单元设置具有与观看所述对象的用户的双眼的会聚角对应的宽度的双目视觉区域。
[0329] (15)
[0330] 根据以上(13)所述的信息处理装置,
[0331] 其中,所述控制单元设置具有与由所述位置信息表示的所述对象在所述深度方向上的位置对应的宽度的双目视觉区域。
[0332] (16)
[0333] 根据以上(13)至(15)中任一项所述的信息处理装置,
[0334] 其中,所述图像生成单元生成根据所述对象而不同的图像作为所述预定图像。
[0335] (17)
[0336] 根据以上(13)至(16)中任一项所述的信息处理装置,
[0337] 其中,所述图像生成单元生成通过改变所述对象的亮度而获得的图像作为所述预定图像。
[0338] (18)
[0339] 根据以上(13)至(17)中任一项所述的信息处理装置,
[0340] 其中,所述图像生成单元生成通过改变所述对象的色度和饱和度中的至少一个而获得的图像作为所述预定图像。
[0341] (19)
[0342] 一种信息处理方法,包括由信息处理装置执行的以下步骤:
[0343] 输出左眼用的图像和右眼用的图像以获取被用户感知的对象在深度方向上的位置信息;以及
[0344] 基于所述位置信息,将要经受亮度校正的亮度校正区域设置为第一显示区域和第二显示区域中的至少一个,所述第一显示区域是被包括在所述左眼用的图像的显示区域中
的并且与所述右眼用的图像的显示区域重叠的区域,所述第二显示区域是被包括在所述右
眼用的图像的显示区域中的并且与所述左眼用的图像的显示区域重叠的区域。
[0345] (20)
[0346] 一种记录有程序的记录介质,所述程序用于使计算机执行以下处理:
[0347] 输出左眼用的图像和右眼用的图像以获取被用户感知的对象在深度方向上的位置信息;以及
[0348] 基于所述位置信息,将要经受亮度校正的亮度校正区域设置为第一显示区域和第二显示区域中的至少一个,所述第一显示区域是被包括在所述左眼用的图像的显示区域中
的并且与所述右眼用的图像的显示区域重叠的区域,所述第二显示区域是被包括在所述右
眼用的图像的显示区域中的并且与所述左眼用的图像的显示区域重叠的区域。
[0349] 参考列表
[0350] 1:HMD
[0351] 51:传感器
[0352] 51A:视线检测装置
[0353] 52:摄像机
[0354] 53:用户信息获取单元
[0355] 54:外围信息获取单元
[0356] 55:输出控制单元
[0357] 56L:左眼用的显示单元
[0358] 56R:右眼用的显示单元
[0359] 57:通信单元
[0360] 58:电源单元
[0361] 81:显示图像获取单元
[0362] 82:显示位置确定单元
[0363] 83:图像生成单元
[0364] 83A:辅助图像生成单元
[0365] 84:控制单元
[0366] 85:亮度校正单元
[0367] 86:失真校正单元