利用非呈现色空间的映射转换得到环境光的方法转让专利

申请号 : CN200580001922.3

文献号 : CN100596207C

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : S·古塔S·J·M·库潘斯H·布罗克

申请人 : 皇家飞利浦电子股份有限公司

摘要 :

提取并处理在要由一个环境光源模拟的呈现色空间中编码的视频内容,包括从视频信号中提取色彩信息,并使用三原色矩阵转换穿过非呈现色空间的色彩信息,以形成第二呈现空间,以驱动环境光源。解码成帧的视频信号能够允许从所选屏幕区域中提取平均或其它色彩信息,以减少比特流负荷,而负伽玛值修正帮助防止过分鲜艳或不适当的色度和亮度。

权利要求 :

1、一种用于提取并处理在将由一个环境光源(88)模拟的呈现 色空间中编码的视频内容的方法,所述方法包括:[1]从编码了所述呈现色空间中的至少一些所述视频内容的视频 信号(AVS)中提取色彩信息;

其特征在于所述方法还包括:

[2]将所述色彩信息转换到非呈现色空间;以及

[3]将所述色彩信息从所述非呈现色空间转换到被形成用于允许 对所述环境光源进行驱动的第二呈现色空间。

2、权利要求1的方法,其中步骤[1]还包括将所述视频信号解码 到一组帧中。

3、权利要求1的方法,其中步骤[1]还包括从所述色彩信息中提 取平均色彩。

4、权利要求1的方法,其中步骤[1]还包括从提取区域(R1)的 所述色彩信息的至少一个提取。

5、权利要求4的方法,其中步骤[1]还包括利用所述色彩信息的 所述提取以从邻近所述提取区域的所述环境光源传播环境光(L4)。

6、权利要求5的方法,其中步骤[1]还包括从所述色彩信息中提 取平均色彩。

7、权利要求1的方法,还包括对所述第二呈现色空间执行伽玛 校正。

8、权利要求1的方法,其中步骤[2]和[3]还包括:使用第一和第 二三原色矩阵(M1,M2),将所述呈现色空间和第二呈现色空间的原色 进行矩阵转换到所述非呈现色空间;并且通过所述呈现色空间、所述 第一三原色矩阵、和所述第二三原色矩阵的逆矩阵(M2 -1)的所述原色的 矩阵乘法,得到所述色彩信息到所述第二呈现色空间的转换。

9、权利要求8的方法,其中所述非呈现色空间是CIE XYZ;ISO 标准17321中定义的ISO RGB;Photo YCC;和CIE LAB中的一个。

10、权利要求8的方法,其中步骤[1]还包括从所述色彩信息中提 取平均色彩。

11、权利要求10的方法,其中步骤[1]还包括从提取区域(R1) 的所述色彩信息的至少一个提取。

12、权利要求11的方法,其中步骤[1]还包括利用所述色彩信息的 所述提取以从邻近所述提取区域的所述环境光源传播环境光(L4)。

13、权利要求1的方法,其中步骤[1]、[2]和[3]与所述视频信号 (AVS)基本同步。

14、权利要求1的方法,还包括使用所述第二呈现色空间中的所 述色彩信息从所述环境光源传播环境光(L1)。

15、一种用于从将由环境光源(88)模拟的呈现色空间中提取并 处理边界区域视频内容的方法,所述方法包括:[1]在将所述视频信号解码为单独的帧之后,从编码了所述呈现色 空间中的至少一些所述边界区域视频内容的视频信号(AVS)中提取 色彩信息;

其特征在于所述方法还包括:

[2]从来自每个所述单独帧中的提取区域(R1)的所述色彩信息中 提取平均色彩;

[3]将所述平均色彩转换到非呈现色空间;

[4]将所述平均色彩从所述非呈现色空间转换到被形成用于允许对 所述环境光源进行驱动的第二呈现色空间;以及[5]使用所述平均色彩从邻近所述提取区域的所述环境光源传播环 境光(L4)。

16、权利要求15的方法,其中步骤[1]、[2]、[3]、[4]和[5]与所述 视频信号(AVS)基本同步。

17、权利要求15的方法,其中步骤[3]和[4]还包括:使用第一和 第二三原色矩阵(M1,M2),将所述呈现色空间和第二呈现色空间的原 色进行矩阵转换到所述非呈现色空间;并且通过所述呈现色空间、所 述第一三原色矩阵、和所述第二三原色矩阵的逆矩阵(M2 -1)的所述原色 的矩阵乘法,得到所述色彩信息到所述第二呈现色空间的转换。

18、权利要求15所述用于从将由环境光源(88)模拟的呈现色空 间中提取并处理边界区域视频内容的方法,其中所述平均色彩为比色 估计。

19、权利要求18的方法,其中步骤[1]、[2]、[3]、[4]和[5]与所述 视频信号(AVS)基本同步。

20、权利要求18的方法,其中步骤[3]和[4]还包括:使用第一和第 二三原色矩阵(M1,M2),将所述呈现色空间和第二呈现色空间的原色 进行矩阵转换到所述非呈现色空间;并且通过所述呈现色空间、所述 第一三原色矩阵、和所述第二三原色矩阵的逆矩阵(M2 -1)的所述原色的 矩阵乘法,得到所述色彩信息到所述第二呈现色空间的转换。

说明书 :

技术领域

本发明涉及使用多重光源的环境光效果的产生及设置,并且一般 基于或关联于诸如来自视频显示器的视频内容。更特别的是,本发明 涉及一种通过实时地从视频中提取所选颜色信息,并执行从视频环境 到允许驱动多个环境光源的环境的色彩映射转换,来驱动或设置多重 环境光源的方法。

背景技术

工程师们一直试图扩大消费视频内容所获得的感官体验,比如通 过增大观看屏幕和投影面积、把声音调制为真正的三维效果以及增强 视频图像,包括扩大视频色彩范围、分辨率以及画面纵横比,比如用 高清晰度(HD)数字电视和视频系统。此外,电影、电视和视频提供 商们也试图用视听装置影响观众的体验,比如通过灵活运用色彩、场 景剪接、观察角度、周围景观以及计算机辅助图形表示。这也将包括 戏剧性的舞台灯光。例如,通常借助于用期望的方案编码的适当的场 景剧本编程的机器或计算机,来编辑(与视频或戏剧场景同步的)并 再现光效果。
在数字领域现有技术中,由于使用现有系统需要很大的高比特流 带宽开销,灯光对包括未计划的或未编到剧本中的场景的场景快速变 化的光自适应,大部分都难以配合。
飞利浦(荷兰)和其它公司已经公开了用于改变环境或周边光线 以增强视频内容的装置,用于典型的家庭或使用远离视频显示器的单 独光源的商务应用,和具有期望光照效果的某种先进的编辑或编码的 很多应用的。加在视频显示器或电视机上的环境光,已经表现出降低 观众疲劳和改善体验的真实性和深度的作用。
感官体验自然是人类视觉方面的功能,它使用非常复杂的感觉和 神经器官产生对颜色和光效果的感觉。人类能够辨别1000万截然不同 的颜色。在人类的眼中,对色彩接收或亮视觉来说,有三组大约200 万个叫做视锥体的感光体,吸收峰值分布在445、535和565nm的光波 长,并有大量交叠。这三种视锥体类型形成了叫做三原色并由于历史 的原因叫做B(蓝)、G(绿)和R(红)的系统;峰值不必符合显示 器中使用的任何原色,例如通常使用的RGB荧光材料。也有对暗视觉, 或者叫做视杆体的所谓夜间视觉体的交互作用。人眼一般具有1亿2 千万个影响特别是对诸如在家庭影院中找到的低亮度条件的视觉体验 的视杆体。
彩色视频是建立在人类视觉原理的基础上的,并且众所周知的人 类视觉的三原色和对立通道理论已经结合到我们对如何影响眼睛看见 理想的、对原始或预期图像有高保真度的色彩和效果的理解相结合。 在大多数色彩模式和空间中,使用三个维度或坐标来描述人类视觉体 验。
彩色视频绝对依靠条件配色,这允许使用少量参考激励,而不是 理想的色彩和特征的实际光线的色彩感觉产生。这样,用有限的参考 激励,比如众所周知的全世界用在视频再现中的RGB(红、绿、蓝) 三原色系统,在人们脑海中重现全部范围的色彩。众所周知,例如, 几乎所有视频显示器通过在每个像素或图像单元中产生近似等量的红 光和绿光来表现黄色场景的光线。像素相对于它们对向的立体角度是 很小的,愚弄了眼睛使其感觉到黄色;而不感觉到实际传播的绿色或 红色。
存在许多种确定色彩的色彩模式和方法,包括众所周知的用于为 视频再现说明并确定色彩的CIE(Commission Internationale de l’Eclairage)色彩坐标系统。本发明可以使用利用任意数量的色彩模式, 包括对非呈现(unrendered)的对立色空间的应用,比如CIE L*U*V (CIELUV)或者CIE L*a*b(CIELAB)系统。在1931年,CIE为所 有色彩管理和再现建立了基础,而结果是使用三个坐标x、y和z的色 品图。这个三维系统发光度最大的一部分普遍用于按照x和y来说明 色彩,而我们相信叫做1931x,y色品图的这一部分,能够描述人类感 知到的所有色彩。这与用条件配色愚弄眼睛和大脑的颜色再现大不相 同。现在,许多种色彩模式或空间通过使用三原色或荧光材料来再现 色彩,其中有Adobe RGB,NTSC RGB等等。
然而,一定要注意到,使用这些三原色系统的视频系统所展示的 全部可能色彩的范围是有限的。NTSC(全国电视标准委员会)RGB 系统的可用色彩范围相当宽,但是这个系统仅能再现人类可感知的全 部色彩的一半。使用传统视频系统的可用范围没有恰当地呈现许多蓝 紫色、蓝绿色和桔色/红色。
此外,还给人类视觉系统赋予了补偿和识别力的性质,对此的理 解是设计任何视频系统所必需的。人类的色彩可以发生在几种外观模 式中,其中有物体模式和发光体模式等。
在物体模式中,光激励被感知为由于光源照射而从物体反射的光。 在发光体模式中,光激励被看作光源。发光体模式包括在复杂的视野 中比其它激励亮很多的激励。这不包括已知是光源的激励,比如视频 显示器,其亮度或发光度处于或低于场景或视野的整体亮度,以致激 励以物体模式显现。
值得注意的是,有许多色彩仅在物体模式中出现,其中有,棕色、 橄榄色、栗色、灰色和肤色。不会出现这样的事,例如,棕色的照明 光源,比如棕色的交通灯。
由于这个原因,不能使用直射的明亮光源作为对试图增加物体色 彩的视频系统环境光的补充。没有明亮的红色和绿色光源的组合在近 距离能够再现棕色或栗色,而这相当大地限制了选择。在变化的亮度 和饱和度方面,只有彩虹的光谱色彩能够通过明亮光源的直接观测来 再现。这强调了对环境光系统精确控制的需要,比如为来自光源的低 亮度输出提供对色彩管理的特别关注。目前,这种精确控制不是用在 目前的数据结构下允许快速变化和微妙的环境光的方式处理的。
视频再现可以采取许多形式。光谱色彩再现允许原始激励光谱能 量分布的精确再现,但是这不能在任何使用三原色的视频再现中实现。 精确的色彩再现能够复制人类视觉三原色值,产生与原来匹配的条件 配色,但是画面和原始场景的整体观看条件必须类似,以获得相似的 外观。画面和原始场景的整体条件包括画面的角弦、环境的亮度和色 度,以及光泽。经常不能实现精确色彩再现的一个原因是由于在彩色 监视器上能够产生的最大亮度的限制。
色度的色彩再现提供了一个有用的替换,即三原色值与原始场景 中的值成比例。色度坐标被精确地再现了,但是亮度成比例地降低了。 假设原始的和再现的参考白色色度相同、观看条件相同,而且系统具 有一致的总体伽马值,则色度的色彩再现对视频系统来说是一个好的 参考标准。由于视频显示器中产生的亮度受限,而不能实现色度和亮 度与原始场景匹配的相等的色彩再现。
实际上,大多数视频再现试图实现一致的色彩再现,即与原始色 彩具有相同外观的再现色彩,如果照射它们则产生与再现相同的平均 亮度等级和相同的参考白色色度。然而,许多人对显示系统的最终目 的实际上是优选的颜色再现进行讨论,其中观众的偏好影响了色彩的 保真度。例如,晒黑的皮肤颜色比一般真实的皮肤颜色更好,而天空 最好比实际更蓝,植物最好比实际更绿。即使作为设计标准接受了相 应的颜色再现,某些色彩还是比其它的重要,比如肤色,在NTSC视 频标准之类的许多再现系统中特殊处理的主题。
在再现场景光线中,重要的是色度适应以实现白平衡。适当地调 整摄影机和显示器,一般用CIE标准日光光源D65的色度再现白色和 中性的灰色。通过一直用相同地色度再现白色表面,系统在模仿人类 视觉系统,本能地使感觉适应以便白色表面总看起来一样,无论光源 是什么色度,因此一张白纸将看起来是白色,而不管是在明亮的阳光 沙滩还是在室内的白炽灯场景发现它。在颜色再现中,通常是由R、G 和B通道上的增益控制来调整白平衡。
典型的色彩接收器的光输出一般不是线性的,反而遵循所施加的 视频电压的能量规则关系。光输出与提高能量伽玛值的视频驱动电压 成比例,对彩色CRT(阴极射线管)伽玛值一般是2.5,而对其它类型 的光源是1.8。通过摄影机视频处理放大器中的三原色伽玛校正器进行 这个因数的补偿,以致被编码、传输并解码的原色视频信号事实上不 是R、G和B,而是R1/(、G1/(和B1/(。色度的色彩再现要求视频再现的 全部伽玛值-包括摄影机、显示器和任何伽玛值调整的电子装置统一, 但在尝试相应的色彩再现时,环境的亮度优先。例如,为了最佳的色 彩再现,昏暗的环境要求大约1.2的伽玛值,而黑暗的环境要求大约 1.5的伽玛值。伽玛值是RGB色空间重要的执行结果。
多数色彩再现编码使用比如sRGB、ROMM RGB、Adobe RGB 98、 Apple RGB之类的标准RGB色空间和比如用在NTSC标准中的视频 RGB空间。一般,图像被捕获到传感器或源设备空间中,这是设备和 图像属性。它有可能被转换到的非呈现图像空间中,这是说明原始色 度(见定义部分)的标准色空间。
然而,视频图像几乎总是直接从源设备空间转换到呈现图像空间 (rendered image space)中,所述呈现图像空间是一个描述描述了诸 如视频显示器的某些真实或虚拟输出设备的色空间(见定义部分)。 多数现存的标准RGB色空间是呈现图像空间。例如,摄影机和扫描仪 产生的源和输出空间不是基于CIE的色空间,而是由摄影机或扫描仪 的光谱灵敏度和其它特性确定的光谱空间。
呈现的图像空间是基于真实或虚拟设备特性比色法的设备特定色 空间。图像能够从呈现或非呈现图像空间转换到呈现空间中。这些转 换的复杂性不同,并且可以包括复杂的图像相关算法。丢弃或压缩原 始场景编码的某些信息以适合特定设备的动态范围和色域之时,转换 可以是不可逆的。
现在,仅有一个在成为标准过程中的非呈现RGB色空间,即ISO 17321中定义的ISO RGB,它最常用于数字静态摄影机的色彩特性。 在现在的多种应用中,为了存档或包括视频信号的数据传递,将图像 转换到呈现色空间中。从一个被呈现的图像或色空间转换到另一个会 导致严重的图像瑕疵。两个设备之间的区域和白点越失配,负面效果 越强。
在现有技术的环境光显示系统中的一个问题是,没有给出特定的 方法以提供同步实时操作,将所呈现的三原色值从视频转换到环境光 源的三原色值,从而给出正确的比色法和外观。例如,由于色域的限 制或歪曲,来自LED环境光源的输出经常过分鲜艳,并且难以评定和 再现其色调和色度。例如,Akashi等人的美国专利6,611,297以现实主 义处理了环境光,但是没有给出特定的方法来确保正确和舒适的色度, 而且Akashi‘297的学说不允许实时地分解视频,反而需要剧本或其 等价物。
另外,使用来自视频内容的伽玛校正的色空间的环境光源的设置 经常导致过分鲜艳的、明亮的色彩。在现有技术中一个非常严重的问 题是,需要大量的传输信息来驱动作为实时视频内容函数的环境光源, 并且来适合期望的快速变化的、期望良好色彩匹配的环境光环境。
因此,扩展由与典型的三原色视频显示系统相结合的环境光产生 的色彩的可能区域是有利的。还期望通过用有利于补偿效果、灵敏度 和人类视觉其它怪癖的环境光系统,来调节或改变呈现给视频观众的 色彩和光特性,来利用人眼的特征,比如作为光等级的函数在不同色 彩的相对发光度中的变化。
创造没有伽玛值诱发失真影响的优质环境氛围也是有利的。还期 望能够提供一种方法,用于提供从使用编码平均或特征色彩值的经济 的数据流的所选视频区域中提取的模拟环境光。
能够在下面以整体结合在本公开内的参考中找到关于视频和电视 工程、压缩技术、数据传递与编码、人类视觉、色彩科学与感知、色 空间、比色法和图像呈现信息,包括视频再现:
参考[1]Color Perception,Alan R.Robertson,Physics Today, December 1992,Vol45,No 12,pp.24-29;参考[2]The Physics and Chemistry of Color,2ed,Kurt Nassau,John Wiley&Sons,Inc.,New 2001;参考[3]Principle of Color Technology,3ed,Roy S.Berns, John Wiley&Sons,Inc.,New2000;参考[4]Standard.Handbook of Video and Television Engineering,4ed,Jerry Whitaker and K.Blair Benson,McGraw-Hill,New2003.

发明内容

本发明涉及一种方法,用于提取并处理在要由环境光源模拟的呈 现色空间中编码的视频内容,包括[1]从编码了呈现色空间中的至少一 些视频内容的视频信号中提取色彩信息;[2]将色彩信息转换到非呈现 色空间;[3]将色彩信息从非呈现色空间转换到形成的第二呈现色空间, 以便允许驱动环境光源。
步骤[1]能够附加包括将视频信号解码为一组帧;从包括从提取区 域的色彩信息的至少一个提取的色彩信息中提取平均色彩;使用该色 彩信息的提取传播来自提取区域附近的环境光源的环境光。另外,可 以对馈入环境光单元的第二呈现色空间执行伽玛校正。
步骤[2]和[3]能够附加包括,呈现色空间和第二呈现色空间的原色, 利用第一和第二三原色矩阵,到非呈现色空间的矩阵转换;并且通过 呈现色空间、第一三色矩阵、和第二三色矩阵的逆矩阵的原色的矩阵 乘法得到色彩信息到第二呈现色空间中的转换。
非呈现色空间可以是CIE XYZ;ISO标准17321中定义的ISO RGB;Photo YCC;和CIE LAB中的一个,而步骤[1]、[2]和[3]能够与 视频信号基本同步,并使用第二呈现色空间中的色彩信息从视频显示 器或者在视频显示器周围传播环境光。
公开了另一种方法,用于从要由环境光源模拟的呈现色空间中提 取并处理边界区域视频内容,包括:[1]在将视频信号解码为单独的帧 之后,从编码至少一些在呈现色空间中的视频内容的视频信号中提取 色彩信息;[2]从来自每个单独帧中的提取区域的色彩信息中提取平均 色彩;[3]将平均色彩转换到非呈现色空间;[4]将平均色彩从非呈现色 空间转换到形成的第二呈现色空间,以便允许驱动环境光源;和[5]使 用平均色彩从提取区域附近的环境光源传播环境光。步骤[1]、[2]、[3]、 [4]和[5]能够基本上与视频信号同步。
另外,公开了一种方法,用于使用比色估计,从要由环境光源模 拟的呈现色空间中提取并处理边界区域视频内容,包括:[1]在将视频 信号解码为单独的帧之后,从编码至少一些在呈现色空间中的视频内 容的视频信号中提取色彩信息;[2]从来自每个单独帧的提取区域的色 彩信息中提取比色估计;[3]将比色估计转换到非呈现色空间;[4]将 比色估计从非呈现色空间转换到形成的第二呈现色空间,以便允许驱 动环境光源;和[5]使用比色估计从提取区域附近的环境光源中传播环 境光(L4)。

附图说明

图1示出了根据本发明表示色彩信息提取区域的视频显示器的简 单的前表面视图,以及相关联的来自六个环境光源的环境光的传播;
图2示出了一个房间的俯视图(一部分是示意图,一部分是截面 图),其中来自多重环境光源的环境光是用本发明产生的;
图3示出了根据本发明用于提取色彩信息和效果色空间转换,以 允许驱动环境光源的系统;
图4示出了计算来自视频提取区域的平均色彩信息的方程式;
图5示出了用于将所呈现的原色RGB转换到非呈现色空间XYZ 中的现有技术的矩阵方程式;
图6和7示出了用于将视频和环境光呈现色空间分别映射到非呈 现色空间中的矩阵方程式;
图8示出了使用已知矩阵变换从非呈现色空间XYZ中得到环境光 三原色值R’G’B’的解决方案;
图9-11示出了现有技术使用白点法的三原色矩阵M的推导;
图12示出了类似于图3中示出的系统,还包括对环境传播的伽玛 校正的步骤;
图13示出了本发明中使用的一般转换过程的示意图;
图14示出了如图3和12中示出的提取步骤,使用帧解码器并执行 驱动环境光源的输出计算;
图15示出了本发明的色彩信息提取及处理的处理步骤;
图16示出了获得本发明使用的环境光源的转换矩阵系数的处理步 骤;
图17示出了使用本发明的用于估计的视频提取和环境光再现的处 理步骤。
定义
将始终使用下列定义:
-环境光源-在随附的权利要求中,将包括任何因此使用的需要解码 灯光剧本代码(light script code)的照明产生电路或驱动器。
-环境空间-将意味着视频显示单元外部的任何以及所有材料体或空 气或空间。
-平均色彩-在随附的权利要求中,将包括除了数值平均之外的平均 特性,而且应当包括视频内容的功能的或操作者定义的特性,包括色 度和亮度的偏移量。
-色度-在驱动环境光源的情况下,将表示规定所产生的光的色彩特 性的机械、数值或物理方法,而并不意味着特殊的方法论,比如在NTSC 或PAL电视广播中使用的方法。
-色彩信息-将包括色度和亮度中的任何一种或二者,或功能上的等 价量。
-计算机-将不仅包括所有处理器,比如使用已知架构的CPU(中央 处理单元),而且包括能够允许编码、解码、读取、处理、执行设置 代码或改变代码的任何智能设备,比如数字光学设备,或者执行相同 功能的模拟电路。
-受控的运行参数-将表示作为物理量或物理变量的表达式编码的参 数,比如亮度、色度,或者光特性指数比如传递角度或角光度指数。
-角色度-将指作为观看角度或观测角度的函数给出不同色彩或色度 的性质,比如虹彩产生的。
-角光度-将指作为观看角度或观测角度的函数给出不同光强度、传 输和/或色彩的性质,比如在光芒四射、闪烁或回射现象中发现的。
-内插-将包括在两组值之间线性或数学的内插,以及在已知的两组 值之间设定值的函数规定。
-光特性-将指在广义上,任何光性质的说明,比如由环境光源产生 的光,包括除了亮度和色度的所有描述符,比如光透射或反射的程度; 或任何角光度量的说明,包括作为观察环境光源时观看角度的函数产 生的色彩、闪烁或其它已知的现象;光输出方向,包括如由指定的坡 印廷或其它传播矢量提供的方向性;或者光的角度分布的说明,比如 立体角度或立体角度分布函数。还可以包括坐标或者指定关于环境光 源位置的坐标,比如元件像素或灯位置。
-亮度-将表示亮度、光强度的任何参数或量,或等价量,而并不意 味着光产生或测量的特殊方法,或精神生物的解释。
-呈现色空间-将表示从传感器捕捉到的,或专门用于源或显示设备, 设备和图像专用的图像或色空间。多数RGB色空间是呈现图像空间, 包括用于驱动视频显示器D的视频空间。在随附的权利要求中,专门 用于视频显示器和环境光源88的色空间都是呈现色空间。
-转换色彩信息到非呈现色空间-在随附的权利要求中,将包括直接 到非呈现色空间的转换,或者由使用通过到非呈现色空间的转换而获 得的三原色矩阵的逆矩阵而得到的益处或利益(例如,如图8中示出 的(M2)-1)。
-非呈现色空间-将表示一种标准或非设备专用色空间,比如用标准 CIE XYZ;ISO RGB,比如在ISO 17321标准中定义的;Photo YCC; 和CIE LAB色空间来说明原始图像比色法的那些色空间。
-视频-将表示任何视觉或光产生设备,无论是需要用能量产生光的 有源设备,还是传导图像信息的任何传输媒介,比如办公楼里的窗户, 或者从远处获得图像信息的光导。
-视频信号-将表示发出的控制视频显示单元,包括其中的任何音频 部分的信号或信息。因此预期,视频内容分析有可能包括音频部分的 音频内容分析。通常,视频信号可以包括任何类型的信号,比如使用 许多种已知的调制技术的射频信号;电子信号,包括模拟和量化的模 拟波形;数字(电子)信号,比如使用脉冲宽度调制、脉冲数量调制、 脉冲位置调制、PCM(脉冲编码调制)和脉冲振幅调制的那些;或者 其它信号,比如声音信号、音频信号和光信号,所有这些都可以使用 数字技术。也可以使用只是连续地放置在其它信息中或与其放在一起 的数据,比如基于计算机的应用。

具体实施方式

形成根据本发明源于视频内容的环境光,以允许(如果想要的话) 原始视频场景光的色度的高保真度,同时用低需求的计算负担保持环 境光高度自由度特性。这允许具有小色彩范围和减少的亮度空间的环 境光源,从具有较大色彩范围和亮度响应曲线的更先进的光源中模拟 视频场景光。用于环境照明可能的光源可以包括许多已知的照明设备, 包括LED(发光二极管)和相关的半导体辐射体;包括非半导体型的 电致发光设备;白炽灯,包括使用卤素或者先进的化学组成的改进型; 离子放电灯,包括荧光灯和氖灯;激光器;诸如利用LCD(液晶显示 器)或其它光调制器调制的光源;光致发光发射器,或者许多已知的 可控光源,包括功能上类似于显示器的阵列。
现在参考图1,根据本发明说明性地示出了一个视频显示器D简 单的前视图。显示器D可以是许多已知的从呈现色空间,比如NTSC、 PAL或者SECAM广播标准中,或一个呈现RGB空间,比如Adobe RGB 中解码视频内容的已知设备中的任何一种。显示器D包括色彩信息提 取区域R1、R2、R3、R4、R5和R6,其边界任意预定,而且要以产生 特有的环境光A8的目的为特征,比如通过背装的产生和传播所示的环 境光L1、L2、L3、L4、L5和L6的可控环境照明单元(未示出),比 如通过部分光线溢出到显示器D所安装的墙壁上(未示出)。或者, 所示的显示帧Df自身也可以包括以类似包括向外朝着观众的(未示出) 方式显示光的环境照明单元。如果想要的话,每个色彩信息提取区域 R1-R6能够影响与自己邻近的环境光。例如,色彩信息提取区域R4能 够影响所示的环境光L4。
现在参考图2,示出了一个房间或环境空间AO的俯视图,部分是 示意图、部分是横截图,其中来自多重环境光源的环境光是使用本发 明产生的。在环境空间AO中安排了所示的座位和桌子7,排列为允许 观看视频显示器D。在环境空间AO中还排列了用当前发明任意控制的 多个环境光单元,包括所示的光扬声器1-4、在所示的沙发或座位下面 的底光SL,和一套在显示器D周围排列的特殊的模拟环境光单元,也 就是产生象图1中示出的环境光Lx的中心光。这些环境光单元中的每 一个都能够发出环境光A8,如图中阴影所示。
结合当前发明,一个人能够用来自视频显示器D但实际上不是它 传播的色彩或色度,从这些环境光单元产生环境光。这允许利用人眼 和视觉系统的特性。要注意到人类视觉系统的发光度功能,它提供了 对不同可见波长的探测灵敏度,作为光等级的函数变化。
例如,依靠视杆体的暗视或夜间视觉趋向于对蓝色和绿色更灵敏。 使用视锥体的日间视觉更适合于察觉较长波长的光,比如红色和黄色。 在黑暗的家庭影院环境中,能够通过调整或改变在环境空间中提供给 视频用户的色彩,稍微抵消一点这种在作为光等级函数的不同色彩的 相对发光度中的变化。可以这样做,通过使用光调制器(未示出)从 环境光单元比如光扬声器1-4中减去光,或者利用光扬声器中另外的部 件,即在环境释放之前用光致发光发射器进一步修改光。光致发光发 射器通过吸收或者经历来自光源的入射光的激励并随后以期望的更高 的波长重新发出来执行色彩转换。这种刺激和由比如荧光颜料之类的 光致发光发射器的重新发射,能够允许呈现不是原来在原始视频图像 或光源中呈现的新色彩,而且还可能不在显示器D运行的固有的色彩 或色域范围内。这有利于,期望的环境光Lx的亮度低时,比如在非常 暗的场景期间,和期望的感知等级比通常没有光修改时实现的高时。
新色彩的产生能够提供新的和有趣的视觉效果。由于其可利用的 荧光颜料是众所周知的(见参考[2]),说明的示例可以产生比如称为 猎人橙的橙色光。给出的示例涉及与普通的荧光现象及相关现象相对 的荧光色彩。使用荧光橙色或者其它种类的荧光染料特别有利于低照 明情形,其中,红色和橙色的增加能够对长波长抵消降低的暗视觉灵 敏度。
能够用在环境光单元中的荧光染料可以包括染料种类中已知的染 料,比如苝类、Naphthalimides类、香豆素类、噻吨类、蒽醌类、 Thioindigoids类,和私有的染料种类,比如美国俄亥俄州克里夫兰市 Day-Glo色彩公司生产的那些。可用的色彩包括Apache黄、Tigris黄、 Savannah黄、Pocono黄、Mohawk黄、Potomac黄、Marigold橙、Ottawa 红、Volga红、Salmon粉红和Columbia蓝。这些染料种类可以结合到 树脂中,比如使用已知的方法PS、PET和ABS。
因为荧光染料和材料能够设计为比相同色度的非荧光材料亮很 多,所以它们增强了视觉效果。由于技术的提高已经发展了曝露在阳 光下能够保持鲜艳色彩7-10年的耐用的荧光颜料,所以在过去的二十 年里在很大程度上已经解决了所谓用于普通荧光色彩的传统有机颜料 耐用度问题。因此,这些颜料在UV射线进入为最少的家庭影院环境中 几乎是牢不可破的。
或者,能够使用荧光感光色素,它们简单地靠吸收短波长光工作, 并且以更长的波长比如红色或橙色重新发射这种光。现在可以容易地 利用技术先进的无机颜料经受蓝色和紫色之类的可见光的激励,例如, 400-440nm的光。
角光度和角色度效应能够同样地用于产生不同的光色彩、亮度和 观察角度的函数的性质。为了认识这种效应,环境光单元1-4和SL和 Lx能够单独地或组合地利用已知的角光度元素(未示出),比如能发 出金属和珍珠般光泽的颜料;使用众所周知的衍射或薄膜干涉效果的 闪光材料,例如,使用鱼鳞素;鸟嘌呤的薄片;或者带防腐剂的2-氨 基次黄嘌呤。能够使用利用磨得很细的云母或其它物质的扩散体,比 如由氧化层、斑铜矿或者孔雀矿石;金属薄片、玻璃薄片或者塑料薄 片;特殊物质;油;磨砂玻璃和磨砂塑料制成的珠光材料。
现在参考图3,示出了根据本发明提取色彩信息和效果色空间转换 以允许驱动环境光源的系统。如第一个步骤,色彩信息是利用已知技 术从视频信号AVS中提取的。
视频信号AVS能够包括已知的用于MPEG编码、音频PCM编码 等的数字数据帧或包。能够对数据包使用已知的编码方案,比如具有 可变长度数据包的程序流,或者均匀划分数据包的传输流,或者这样 的单独程序传输流的其它方案。或者,在本公开中给出的功能步骤或 块能够利用计算机代码和其它通信标准,包括异步协议,来模拟。
如一个普通的示例,利用已知的方法将所选内容来回地记录并传 递到所示的硬盘HD,或者利用内容类型库或者存储在所示存储器 MEM中的其它信息,所示的视频信号AVS可以经历所示的视频内容 分析CA。这可以允许所选视频内容的独立、并行、直接、延时、连续、 周期或者非周期传递。可以从这个视频内容执行所示的特征提取FE, 比如得到色彩信息。这个色彩信息仍然是在呈现色空间中编码的,并 且随后转换到非呈现色空间,比如使用所示的RUR映射转换电路10 的CIE XYZ。在这里,RUR代表期望的转换类型,即,呈现-非呈现- 呈现,而且RUR映射转换电路10还进一步将色彩信息转换到形成的 第二个呈现色空间,以便允许驱动上述环境光源或所示的光源88。
RUR映射转换电路10在功能上能够包含在使用软件执行相同功 能的计算机系统中,但是在解码由数据传输协议发送的打包信息的情 况下,在包含或者升级为包含关联到或者提供视频呈现色空间系数等 信息的电路10中可存在有存储器(未示出)。这个新建立的第二呈现 色空间适于并期望用来驱动环境光源88(比如图1和2中示出的), 并且利用已知的编码提供给所示的环境照明产生电路18。环境照明产 生电路18从RUR映射转换电路10中得到第二呈现色空间信息,并随 后计及来自任何用户接口和任何合成的偏好存储器(以U2一起示出), 以在可能考虑所示的环境照明(第二呈现)色空间查找表LUT之后, 产生实际的环境光输出控制参数(比如施加的电压)。如图所示,将 由环境照明产生电路18产生的环境光色彩控制参数提供给灯接口驱动 器D88,以直接控制或供给所示的环境光源88,它可以包括单独的环 境光单元1-N,比如先前引用的在图1和2中示出的环境光扬声器1-4 或环境中心光Lx。
为降低计算负担,可以简化或者限制从视频信号AVS中移除的色 彩信息。现在参考图4,示出了一个从视频提取区域计算平均色彩信息 的方程式。如下面所提到的(见图14),设想视频信号AVS中的视频 内容将包括一系列时间排序的视频帧,但是不需要这样。对每个视频 帧或等价的时间块,能够从每个提取区域(例如,R4)中提取平均或 其它色彩信息。可以将每个提取区域设定为确定尺寸,比如100×376 像素。例如,假设帧速率为25帧/秒,在提取平均之前提取区域R1-R6 的得到的总数据(假设一个字节仅需要规定8位色彩)对每个视频RGB 三原色将是6×100×376×25或者564万字节/秒。这个数据流非常大,而 且在RUR映射转换电路10中将难以处理,所以在特征提取FE期间能 够实现每个提取区域R1-R6的平均色彩的提取。特别地,如图所示, 能够对每个m×n个像素的提取区域中的每个像素的RGB色彩通道值 (例如,Rij)求和,并除以m×n个像素的数量以达到每个RGB原色 的平均值,例如,红色Ravg,如图所示。如此重复对每个RGB色彩通 道的这样求和,每个提取区域的平均值将成为一个三元数组RAVG=| Ravg,Gavg,Bavg|。对所有提取区域R1-R6和每个RGB色彩通道重复相 同的程序。将如期望的那样,从图中分离出提取区域的数量和尺寸。
可以用比如图5中示出的已知的三原色矩阵说明性地示出并表达 用RUR映射转换电路10执行色彩映射转换的下一个步骤,在这里用 具有比如Xr,max、Yr,max、Zr,max的元素的三原色矩阵M转换具有R、G、 B矢量的所呈现的三色空间,其中Xr,max是原色R最大输出的三色值。
从所呈现的色空间到非呈现、设备独立的空间的转换可以是图像 和/或设备专用的-已知的线性化、像素重建(如果需要的话),而且 可以影响白点选择步骤,接着是矩阵变换。如果这样的话,我们只选 择所呈现的视频输出空间作为到非呈现色空间比色法的转换的起点。 非呈现图像需要通过另外的转换以使它们可视或可印刷,而且RUR转 换包括到第二呈现色空间的转换。
作为第一可能的步骤,图6和7示出了将用原色R、G和B表示 的视频呈现色空间和分别用原色R’、G’和B’表示的环境照明呈现色空 间映射为所示的非呈现色空间X、Y和Z的矩阵方程,其中三原色矩 阵M1将视频RGB转换为非呈现的XYZ,而三原色矩阵M2将环境光 源R’G’B’转换为所示非呈现的XYZ色空间。如图8中示出的相等的两 个呈现色空间RGB和R’G’B’允许被呈现的(视频)色空间的原色RGB 和R’G’B’以及第二呈现(环境)色空间矩阵转换到所述的使用第一和 第二三原色矩阵(M1、M2)的非呈现的色空间(RUR映射转换); 并且通过被呈现的视频色空间、第一三色矩阵M1、和第二三色矩阵的 逆矩阵(M2)-1的RGB原色的矩阵乘法得到色彩信息到第二呈现色空间 (R’G’B’)的转换。在可以容易地使用已知显示器设备的三原色矩阵 时,本领域的技术人员能够周已知的白点法确定环境光源。
现在参考图9-11,示出了先前技术使用白点法的普通的三原色矩 阵M的公式推导。在图9中,象SrXr的量表示每个(环境光源)原色 最大输出的三原色值,其中Sr表示白点振幅,而Xr表示由(环境)光 源产生的原色光的色度。利用白点法,矩阵方程与具有使用所示已知 光源色度矩阵的逆矩阵的白点参考值的矢量的Sr相等。图11是一个代 数操作,以提醒比如Xw之类的白点参考值是白点振幅或亮度与光源色 度的乘积。自始至终,三色值X被设定为等于色度x;三色值Y被设 定为等于色度y;而三色值Z被定义为等于1-(x+y)。正如已知的那样, 能够使用已知技术,比如使用彩色光谱仪,获得第二呈现环境光源色 空间的色彩原色和参考白色成分。
能够找到第一呈现视频色空间的相似的量。例如,已知现代的演 播室监视器在北美、欧洲和日本,标准稍有不同。然而,已经得到关 于高清晰度电视(HDTV)原色的国际协定,而这些原色是在演播室视 频、计算和计算机图形中的现代的监视器的近似代表。该标准正式命 名为ITU-R建议BT.709,其包含所需的参数,其中对于RGB相关三 原色矩阵(M)是:
0.640    0.300    0.150            ITU-R BT.709的矩阵M
0.330    0.600    0.060
0.030    0.100    0.790
而且同样已知白点值。
现在参考图12,示出了一个与图3中示出的类似的系统,另外在 所示特征提取FE步骤之后对环境传播包括伽玛校正步骤55。或者, 伽玛校正步骤55能够在由RUR映射转换电路10和环境照明产生电路 18执行的步骤之间执行。已经发现对LED环境光源最适宜的伽玛值是 1.8,所以能够使用用已知计算发现的精确伽玛值,实现抵消视频色空 间伽玛值典型值2.5的负伽玛校正。
通常,可以是一个通过任何适当的已知软件平台实现的功能块的 RUR映射转换电路10执行如图13中示出的普通的RUR转换,其中所 示示意图获得包括呈现色空间的视频信号AVS,比如视频RGB,并将 其转换到非呈现色空间,比如CIE XYZ;然后转换到第二呈现色空间 (环境光源RGB)。在这个RUR转换之后,如图所示,除了信号处 理之外,能够驱动环境光源88。
图14示出了图3和12的顶部,其中一个可选择的提取步骤示出了 为何使用帧解码器FD,如图所示在步骤33提取区域信息,而输出计 算00,比如图4的平均,是在数据传递到先前示出的环境照明和产生 电路18之前执行的。
如图15中所示,通常的处理步骤包括获得视频信号AVS;提取区 域(色彩)信息;一个RUR映射转换;光学伽玛校正;和驱动光源。 一般来说,图16示出了获得本发明使用的环境光源的转换矩阵系数的 处理步骤,其中该步骤包括,如图所示,驱动环境光单元;并且如图 所示检查输出线性。如果环境光源原色是稳定的,(在左支上示出, 稳定的原色),那么可以利用彩色光谱仪得到转换矩阵系数;反之, 如果环境光源原色不稳定,(在右支上示出,不稳定的原色),那么 可以重新设定先前给出的伽玛校正(所示,重新设定伽玛值曲线)。
大体上,期望但不必须从比如R4之类的提取区域内的每个像素中 提取色彩信息,而用所选像素的轮询法代替能够允许出现更快的平均 色彩估计,或更快建立提取区域色彩特性。图17示出了使用本发明的 估计视频提取和环境光再现的处理步骤,其中步骤包括[1]准备视频再 现(来自呈现色空间,例如,视频RGB)的比色估计;[2]转换到非呈 现色空间;和[3]为环境再现(第二个呈现色空间,例如,LED RGB) 转换比色估计。
通常,环境光源88能够使用多种扩散体效果以产生光混合,和半 透明或其它现象,比如利用具有磨砂或抛光表面的灯结构;有棱的玻 璃或塑料;或孔结构,比如利用环绕在独立光源周围的金属结构。为 了提供有趣的效果,可以利用许多已知的漫射或散射材料或现象,包 括通过充分利用来自小悬浮粒子的散射获得的;模糊的塑料或树脂、 使用胶体的制剂、乳状液,或者1-5∶m或更小,比如小于1∶m的水 珠,包括经过延长保质期处理的有机混合物;凝胶体;和溶胶,其生 产和制作是本领域的技术人员所熟知的。散射现象可以设计为包括可 见波长的瑞利散射,比如对环境光的蓝色增强的蓝色产品。产生的色 彩可以定义为区域性的,比如在确定的面积或区域色彩中所有带蓝色 的色彩,比如产生蓝光的顶端部分(环境光L1或L2)。
环境灯还可以适合角光度元素,比如可以在其中形成圆柱的棱镜 或透镜,其可以完全在或者插入到灯结构的内部。这可以允许产生的 光特性作为观众位置的函数改变的特殊效果。可以使用其它的光学形 状和形态,包括矩形、三角形或者不规则形状的棱镜或形状,而且可 以将它们放在环境光单元或单元上或内部。结果胜于产生各向同性的 输出,获得的效果可以无限改变,例如,有趣的光带覆盖在周围的墙 壁、物体和在环境光源周围的表面上,使黑暗房间中的光表现象场景 元件、色彩和亮度一样关于视频显示单元变化。这种效果可以是一种 戏剧性的作为观众位置的函数非常敏感地改变光特性的环境光元件, 比如当一个人观看家庭影院时从椅子上起身或改变观看位置时,先看 到带蓝色的火花,然后是红光。能够使用的角光度元件的数量和类型 几乎是无限的,包括塑料片、玻璃片,和通过刻划和略带破坏性的制 造技术产生的光学效果。对不同的戏剧性效果,可以将环境灯做成唯 一的,甚至是可互换的。而且这些效果是可以调整的,比如通过改变 允许经过角光度元件的灯的数量,或者通过照亮环境光单元的不同部 分(例如,使用底灯或LED组)。
这样,如图1中所示的,在L3产生的用于模拟提取区域R3的环 境光能够具有提供该区域现象感性扩展的色度,比如所示移动的鱼。 这可以增加视觉体验,并且提供适当的而不是过分鲜艳或过度不匹配 的色调。
视频信号AVS当然可以是数字数据流,而且包含同步位和连接位; 奇偶校验位;错误代码;交错存取;特殊调制;突发串报头和期望的 比如环境光效果的描述(例如,“雷雨”、“日出”等等)的元数据, 而本领域的技术人员将认识到这里给出的功能步骤,只是说明性的, 为了清楚而不包括常规的步骤和数据。
如图3和12中示出的用户接口和偏好存储器能够用于改变关于系 统行为的偏好,比如改变期望的视频显示器D视频内容的色彩保真度 的程度;改变艳丽,包括传播到环境空间中的任何荧光色彩或范围之 外的色彩的程度,或者环境光多快或多大程度地响应视频内容中的改 变,比如通过夸大在光编造命令内容中的变化的亮度或其它性质。这 可以包括先进的内容分析,可以使某一角色的电影或内容的色调柔和。 内容中包含许多黑暗场景的视频内容能够影响环境光源88的行为,使 传播的环境光变暗,而艳丽或明亮的色调可以用于某个其它的内容, 象许多肤色或明亮的场景(阳光沙滩、大草原上的老虎等等)。
在这里给出描述,以使本领域的普通技术人员能够实施本发明。 利用本学说,可能有许多配置,而这里给出的配置和安排只是说明性 的。实际上,所讲解并主张的方法可以作为一个更大的系统的一部分 出现,比如娱乐中心或家庭影院中心。
众所周知,能够利用软件或机器代码功能性地再现或模拟这里说 明性讲解的函数和计算,并且本领域的普通技术人员将能够使用这些 学说,而无需顾及这里讲解的编码和解码所运用的方法。
基于这些指教,本领域的普通技术人员将能够修改这里讲解并主 张的装置和方法,并因而,例如,重新安排步骤或数据结构以适合特 殊的应用,并且建立与这里为了说明性用途所选择的那些有点类似的 系统。
使用上面的示例公开的本发明可以仅用上面提到的某些功能部件 实现。同样,这里讲解并主张的任何事情将不排除增加其它结构或功 能元件。
很明显,根据上面的讲解,本发明可能有许多种修改和变更。因 此要理解,在随附的权利要求范围内,可以实施本发明,除了这里特 别说明或建议的。