图像接收装置、图像传送系统和图像接收方法转让专利

申请号 : CN201510433954.6

文献号 : CN105306883B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 岩田宪一柴山哲也松原胜重今冈连望月诚二

申请人 : 瑞萨电子株式会社

摘要 :

本发明涉及图像接收装置、图像传送系统和图像接收方法。通过在不受图像接收装置中的图像编码流的传送延迟影响的情况下按照适当方式快速地改变参数而改善图像识别率,其中,所述图像接收装置识别通过对接收的图像编码流解码而获得的解码图像。所述图像接收装置包括数据接收单元、参数改变单元、解码单元和图像识别单元。数据接收单元接收包括图像编码数据和参数的图像编码流。参数改变单元将由数据接收单元接收的参数,即为发送器执行的编码指定的参数改变为适于后续阶段中执行的图像识别的值。解码单元通过根据改变后的参数对接收的图像编码数据解码,生成图像解码数据。图像识别单元对图像解码数据执行图像识别。

权利要求 :

1.一种图像接收装置,包括数据接收单元、参数改变单元、解码单元和图像识别单元,所述数据接收单元接收包括图像编码数据和参数的图像编码流,所述图像编码流为基本流,所述图像编码数据为编码图像,并且所述参数为编码参数,根据所述编码参数对图像进行编码来生成所述编码图像,所述参数改变单元被配置为改变由数据接收单元接收的所述图像编码流中的参数,使得增大由图像识别单元执行的图像识别的准确度,所述解码单元通过使用由参数改变单元改变的参数作为解码参数来对包含由数据接收单元接收的图像编码数据和由参数改变单元改变的参数的图像编码流进行解码而生成图像解码数据,所述图像解码数据为解码图像,所述图像识别单元对所述图像解码数据执行图像识别,

其中,在图像识别过程中,图像识别单元计算指示图像识别准确度的指标,参数改变单元基于在图像识别过程中计算的指示图像识别准确度的指标而改变由数据接收单元接收的参数。

2.根据权利要求1所述的图像接收装置,

其中,参数改变单元基于图像接收装置的环境信息而改变由数据接收单元接收的参数。

3.根据权利要求1或2所述的图像接收装置,

其中,所述图像接收装置被安装到车辆上,通过图像编码装置对由车辆上安装的照相机获取的图像进行编码,由数据接收单元接收通过对所述图像进行编码而生成的所述图像编码流,参数改变单元根据车辆的运行情况改变由数据接收单元接收的参数。

4.根据权利要求1所述的图像接收装置,

其中,解码单元包括解块滤波器,参数改变单元改变作为由数据接收单元接收的参数的、指示是否对图像编码数据利用解块滤波器的参数和解块滤波器的滤波器系数中的至少一个。

5.根据权利要求1所述的图像接收装置,

其中,解码单元包括逆量化单元,所述参数含有用于生成图像编码数据的编码中所含的量化的量化参数,参数改变单元改变由数据接收单元接收的参数中含有的量化参数然后将该量化参数提供给逆量化单元。

6.根据权利要求1所述的图像接收装置,

其中,图像接收装置还包括参数传送单元,图像识别单元在图像识别过程中计算指示图像识别准确度的指标,参数改变单元根据在图像识别过程中计算的指示图像识别准确度的指标而改变由数据接收单元接收的参数,参数传送单元将在图像识别过程中计算的指示图像识别准确度的指标传送至生成并且传送了所述图像编码流的图像传送装置。

7.根据权利要求6所述的图像接收装置,

其中,参数改变单元基于图像接收装置的环境信息而改变由数据接收单元接收的参数,参数传送单元将指示图像接收装置的环境信息的指标传送至生成并传送了所述图像编码流的图像传送装置。

8.根据权利要求6或7所述的图像接收装置,

其中,图像接收装置被安装到车辆上,通过图像编码装置对由车辆上安装的照相机获取的图像进行编码,由数据接收单元接收通过对所述图像进行编码而生成的所述图像编码流,参数改变单元根据车辆的运行情况改变由数据接收单元接收的参数,参数传送单元将指示车辆的运行情况的指标传送至生成并传送了所述图像编码流的图像传送装置。

9.根据权利要求1所述的图像接收装置,还包括另一解码单元和显示单元,其中,数据接收单元将接收的图像编码流提供给所述另一解码单元,所述另一解码单元根据所述图像编码流中包含的参数对所述图像编码流中包含的图像编码数据进行解码,生成另一图像解码数据,并将所述图像解码数据提供给显示单元。

10.一种图像传送系统,包括:

根据权利要求1到9中的任一项所述的图像接收装置,以及

包括图像编码装置的图像传送装置,所述图像编码装置接收原始图像,并通过根据对应于所述参数的编码参数对所述原始图像进行编码来生成图像编码数据,所述图像传送装置将所述图像编码流提供给所述图像接收装置。

11.根据权利要求10所述的图像传送系统,

其中,所述图像传送系统被安装到车辆上,所述车辆包括获取周围图像作为所述原始图像的照相机和车载网络,并且所述图像传送装置和图像接收装置相互耦合,从而通过车载网络相互通信。

12.一种图像接收方法,其中,提供了数据接收单元、参数改变单元、解码单元和图像识别单元,所述方法包括以下步骤:

将包括图像编码数据和参数的图像编码流输入至数据接收单元,所述图像编码流为基本流,所述图像编码数据为编码图像,并且所述参数为编码参数,根据所述编码参数对图像进行编码来生成所述编码图像;

允许参数改变单元改变由数据接收单元接收的所述图像编码流中的参数,使得增大由图像识别单元执行的图像识别的准确度;

通过在解码单元中使用由参数改变单元改变的参数作为解码参数来对包含由数据接收单元接收的图像编码数据和由参数改变单元改变的参数的图像编码流进行解码而生成图像解码数据,所述图像解码数据为解码图像;以及允许图像识别单元对所述图像解码数据执行图像识别,

其中,在图像识别过程中,图像识别单元计算指示图像识别准确度的指标,参数改变单元基于图像识别过程中计算的指示图像识别准确度的指标而改变由数据接收单元接收的参数。

13.根据权利要求12所述的图像接收方法,

其中,参数改变单元基于图像接收装置的环境信息,改变由数据接收单元接收的参数。

14.根据权利要求13所述的图像接收方法,

其中,将所述图像接收装置安装到车辆上,通过图像编码装置对车辆上安装的照相机获取的图像进行编码,由数据接收单元接收通过对所述图像进行编码而生成的图像编码流,参数改变单元根据车辆的运行情况改变由数据接收单元接收的参数。

15.根据权利要求12所述的图像接收方法,

其中,解码单元包括解块滤波器,参数改变单元改变作为由数据接收单元接收的参数的、指示是否对图像编码数据利用解块滤波器的参数和解块滤波器的滤波器系数中的至少一个。

16.根据权利要求12所述的图像接收方法,

其中,解码单元包括逆量化单元,所述参数含有用于生成图像编码数据的编码中所含的量化的量化参数,参数改变单元改变由数据接收单元接收的参数中含有的量化参数然后将该量化参数提供给逆量化单元。

说明书 :

图像接收装置、图像传送系统和图像接收方法

[0001] 相关申请的交叉引用
[0002] 通过引用将2014年7月22日提交的日本专利申请No.2014-148574的包括说明书、附图和摘要的公开内容全文并入本文。

技术领域

[0003] 本发明涉及图像接收装置、图像传送系统和图像接收方法,本发明尤其适用于涉及图像识别的图像接收装置、图像传送系统和图像接收方法。

背景技术

[0004] 在用于显示例如由照相机获取的原始图像有关的图像信息的传送系统中,传送临时编码和压缩的原始图像,然后显示通过解码获得的解码图像。一般而言,传送大量的图像信息,因而必须降低诸如网络的传送路径内的传送带宽。这样的图像传送系统可能在显示之外或者作为显示的替代要求图像识别。例如,需要图像识别以利用监视照相机检测嫌疑犯,利用车载照相机辨识车辆和路标之间的距离,或者避免行人与另一车辆或者另一障碍物之间的碰撞。
[0005] 日本未审专利公布No.2013-239995公开了一种车载照相机系统,其利用经压缩和放大的图片(picture)识别图像以辅助车辆驾驶。根据车辆的运行情况和驾驶辅助应用(例如,压车线警报、防撞和向后方移动的图像显示),将包括具有运动图像格式的图像尺寸、颜色格式、帧速率和位深度的编码控制信息传送至运动图像传送器的编码器控制单元,发送器基于所述编码控制信息改变编码参数,然后生成运动图像流。
[0006] 日本未审专利公布No.2008-22404公开了一种图像编码装置,所述图像编码装置包括处于图像编码上游的特征量提取单元并在特征量计算单元中计算图像的平坦度(flatness)(活动性),从而通过为图像编码中包含的解块(deblocking)滤波器确定参数而改善图像质量。

发明内容

[0007] 作为本发明的发明人对日本未审专利公布No.2013-239995和日本未审专利公布No.2008-22404的检查结果,发现了其他问题,所述问题如下:
[0008] 通常根据生成在视觉上降低了噪声的图像的编码方法或者根据将编码模式确定为使所生成的位量最小化的编码方法对图像编码。就解码图像的图像识别而言,这样的编码方法并非总是适当的。因而,应当理解,对于根据典型的图像编码方法被压缩或放大的解码图像而言,不能充分地提高识别率。
[0009] 日本未审专利公布No.2008-22404中描述的图像编码方法适于显示图像。令人遗憾的是,并未提供适于图像识别的图像编码方法。所提出的用于图像识别的特征量包括以边缘信息为特征的特征量,包括(例如)EOH(取向直方图的边缘)特征量和HOG(取向梯度的直方图)特征量。在适于显示图像的解块滤波中,损失了边缘信息,从而减少了用于图像识别的特征量。
[0010] 假定在日本未审专利公布No.2013-239995中提高了图像识别率。如上所述,根据车辆的运行条件以及驾驶辅助应用的种类和目的使包括具有运动图像格式的图像尺寸、颜色格式、帧速率和位深度的信息最小化以进行图像识别。但是,并未对编码参数进行优化。编码控制信息和运动图像流在网络上的传送受到延迟,从而不利地提高了编码控制信息从运动图像接收装置的传送到运动图像流的解码的延迟时间。
[0011] 这些问题的解决方案如下文所述。通过说明书和附图,其他问题和新颖特征将变得清晰。
[0012] 下文将描述实施例的配置。
[0013] 一种包括数据接收单元、参数改变单元、解码单元和图像识别单元的图像接收装置被配置如下:数据接收单元接收包括图像编码数据和参数的图像编码流,参数改变单元能够改变数据接收单元接收的参数,解码单元根据被参数改变单元改变的参数对接收的图像编码数据解码并生成图像解码数据,图像识别单元对解码后的图像解码数据执行图像识别。
[0014] 下文将简单地描述通过实施例获得的效果。
[0015] 具体地,能够在不受传送延迟影响的情况下适当地改变参数,由此提高图像识别率。这是因为能够将与来自图像传送装置中的编码器的图像编码流一起传送的参数任选地改变为适于图像接收装置中的图像识别的参数。

附图说明

[0016] 图1是示出了根据第一实施例的图像接收装置的配置实例的方框图;
[0017] 图2是示出了包括参数的图像编码流的例子的说明图;
[0018] 图3是示出了参数改变单元和解码器单元的配置实例的方框图;
[0019] 图4是示出了参数改变单元和解码器单元的另一配置实例的方框图;
[0020] 图5是示出了改变参数和解码的流程的流程图;
[0021] 图6是示意性地示出了参数改变操作和解码操作的例子(针对每幅图片的反馈)的时序图;
[0022] 图7是示意性地示出了参数改变操作和解码操作的另一例子(针对每一片(slice)的反馈)的时序图;
[0023] 图8是示出了根据第二实施例的图像接收装置的配置实例的方框图;以及[0024] 图9是示出了根据第三实施例的图像接收装置的配置实例的方框图。

具体实施方式

[0025] 1.实施例概要
[0026] 首先将在下文描述本申请中公开的代表性实施例的概要。代表性实施例概要的图中在括号中的附图标记仅提供对附图标记指示的构成要素的概念中所含的举例说明。
[0027] [1]<对接收自编码器的解码参数进行改变和解码的图像接收装置>
[0028] 根据本申请中公开的代表性实施例的图像接收装置(1)包括数据接收单元(11)、参数改变单元(12)、解码单元(13)和图像识别单元(14)。图像接收装置(1)被配置如下:
[0029] 数据接收单元接收包括图像编码数据和参数的图像编码流(33)。参数改变单元能够改变数据接收单元接收的参数。解码单元通过对包括数据接收单元接收的图像编码数据和参数改变单元改变的参数的图像编码流(34)进行解码,生成图像解码数据(35)。图像识别单元对图像解码数据执行图像识别。
[0030] 因而,能够在不受传送延迟影响的情况下以适当方式快速地改变参数,由此提高图像识别率。这是因为图像编码流中包含的参数是通过图像传送装置中的编码器传送的,于是这能够被适当地改变为适于图像接收装置中的图像识别的参数。
[0031] [2]<基于指示图像识别准确度的指标改变参数>
[0032] 在条款1中,图像识别单元在图像识别过程中计算指示图像识别准确度的指标(31)。参数改变单元基于在图像识别过程中计算出的指示图像识别准确度的指标改变由数据接收单元接收的参数。
[0033] 这能够针对图像识别更加适当地改变参数。
[0034] [3]<基于图像接收装置的环境信息改变参数>
[0035] 在条款1或2中,参数改变单元基于图像接收装置的环境信息(30)改变由数据接收单元接收的参数。
[0036] 这能够改变参数以针对图像接收装置的环境更加适当地执行图像识别。
[0037] [4]<根据运行情况改变参数>
[0038] 在条款3中,将图像接收装置安装到车辆上。通过图像编码装置对安装在车辆上的照相机获取的图像进行编码,然后通过数据接收单元接收通过图像编码生成的图像编码流。
[0039] 参数改变单元根据车辆的运行情况改变数据接收单元接收的参数。
[0040] 因而,在车载照相机系统中安装的图像接收装置中,能够根据车辆的运行情况、针对所需的图像识别对象,更加适当地改变参数。
[0041] [5]<改变解块滤波器的参数>
[0042] 在条款1到4之一中,解码单元包括解块滤波器(135)。参数改变单元改变作为由数据接收单元接收的参数的、指示是否针对图像编码数据利用解块滤波器的参数和解块滤波器的滤波器系数中的至少一个。
[0043] 因而,在图像识别率不够高的情况下,降低了解块滤波器的强度以避免对图像的高频分量的抑制,或者降低抑制程度,由此提高识别率。
[0044] [6]<改变量化参数>
[0045] 在条款1到4之一中,解码单元包括逆量化单元(133)。所述参数含有用于生成图像编码数据的编码中所包含的量化的量化参数。参数改变单元改变数据接收单元接收的参数中含有的量化参数,然后将该量化参数提供给逆量化单元。
[0046] 因而,在图像识别率不够高的情况下,增大了量化参数,从而放大并强调预测误差分量,由此提高识别率。
[0047] [7]<改变正交变换系数>
[0048] 在条款1到4之一中,解码单元包括正交逆变换单元。所述参数含有用于为了生成图像编码数据所执行的编码中包含的正交变换的正交变换系数。参数改变单元改变由数据接收单元接收的参数中含有的正交变换系数,然后将所述系数提供给正交逆变换单元。
[0049] 因而,在图像识别率不够高的情况下,能够改变正交变换系数,以提高识别率。例如,删除正交变换系数的高频范围,从而允许输入至图像识别单元的解码图像的频率分量与图像识别所需的频率分量匹配。
[0050] [8]<参数传送单元(指示图像识别准确度的指标)>
[0051] 在条款1中,图像接收装置还包括参数传送单元(17)。
[0052] 图像识别单元在图像识别过程中计算指示图像识别准确度的指标(31)。参数改变单元基于图像识别过程中计算出的指示图像识别准确度的指标改变数据接收单元接收的参数(33)。
[0053] 参数传送单元将所述指标(31)传送至传送了所生成的图像编码流的图像传送装置。在图像识别过程中计算指示图像识别准确度的指标(31)。
[0054] 这能够针对图像识别更适当地改变参数。此外,能够在生成图像编码流的图像编码装置中改变对应于所述参数的编码参数。
[0055] [9]<参数传送单元的环境信息(图像接收装置的环境信息)>
[0056] 在条款8中,参数改变单元基于图像接收装置的环境信息(30)改变由数据接收单元接收的参数(33)。
[0057] 参数传送单元将指示图像接收装置的环境信息(30)的指标传送至传送了所生成的图像编码流的图像传送装置(4)。
[0058] 这能够针对有关图像识别的环境信息更适当地改变参数。此外,能够基于生成所述图像编码流的图像编码装置中的图像接收装置的环境信息改变编码参数。
[0059] [10]<参数传送单元(运行情况)>
[0060] 在条款9中,将所述图像接收装置安装到车辆上。通过图像编码装置对安装在车辆上的照相机获取的图像进行编码,然后通过数据接收单元接收通过所述图像编码生成的图像编码流。参数改变单元根据车辆的运行情况改变数据接收单元接收的参数。参数传送单元将指示车辆的运行情况的指标传送至传送了所生成的图像编码流的图像传送装置。
[0061] 因而,在车载照相机系统中安装的图像接收装置中,能够根据车辆的运行情况针对所需的图像识别的对象更加适当地改变参数。此外,能够在生成图像编码流的图像编码装置中根据车辆的运行情况改变编码参数。
[0062] [11]<显示解码器>
[0063] 在条款1到10之一中,所述图像接收装置还包括解码单元(15)以及显示单元(16),所述解码单元(15)不同于上面描述的解码单元。
[0064] 所述数据接收单元将接收的图像编码流提供给另一解码单元。另一解码单元根据图像编码流中包含的参数对图像编码流中包含的图像编码数据解码,生成不同于前述图像解码数据的图像解码数据,然后将该图像解码数据提供给显示单元。
[0065] 因而,将根据为图像识别而适当地改变的参数进行了解码的图像解码数据提供给图像识别单元,而将根据适于原始显示的参数进行了解码的图像解码数据提供给显示单元。这样分别向图像识别和原始显示适当地应用了所述参数。
[0066] 此外,图像识别单元接收根据为图像识别而适当地改变的参数解码的图像解码数据以及根据参数改变之前的适于显示的参数解码的图像解码数据。这允许图像识别单元根据这两段图像解码数据之间的差异进行图像识别,由此进一步提高图像识别准确度。
[0067] [12]<图像传送系统>
[0068] 本申请中公开的代表性实施例是一种包括根据条款1到11中的任一项所述的图像接收装置(1)和图像传送装置(4)的图像传送系统。所述图像传送装置包括图像编码装置,所述图像编码装置接收原始图像,并且通过根据对应于所述参数的编码参数对原始图像编码而生成图像编码数据。所述图像传送装置将图像编码流提供给所述图像接收装置。
[0069] 因而,能够提供图像传送系统以便在不受传送延迟影响的情况下以适当方式快速地改变参数,由此提高图像识别速率。所述图像传送装置和所述图像传送装置中包含的图像编码装置不必设有对应于参数改变单元的构成要素,从而允许将典型的图像编码装置和典型的图像传送装置结合。
[0070] [13]<车载照相机>
[0071] 在条款12中,将所述图像传送系统安装到车辆上,所述车辆包括获取周围图像作为原始图像的照相机和车载网络。使所述图像传送装置和图像接收装置相互耦合,以便通过车载网络相互通信。
[0072] 这能够抑制识别车载照相机获取的图像的车载图像传送系统中的传送延迟。由于可以缩短从成像到图像识别的时间段,因此能够在驾驶过程中通过先见(prevision)和避免危险而提高安全性。
[0073] [14]<对接收自编码器的解码参数进行改变和解码的图像接收方法>
[0074] 在根据本申请中公开的代表性实施例的图像接收方法(1)中,以下述配置提供数据接收单元(11)、参数改变单元(12)、解码单元(13)和图像识别单元(14):
[0075] 数据接收单元接收包括图像编码数据和参数的图像编码流(33)。参数改变单元能够改变输入到数据接收单元中的参数(S1到S4)。解码单元通过对数据接收单元接收的图像编码数据以及包括参数改变单元改变的参数的图像编码流(34)进行解码,生成图像解码数据(35)(S5)。图像识别单元对图像解码数据执行图像识别。
[0076] 因而,能够将图像接收方法提供为在不受传送延迟影响的情况下以适当方式快速地改变参数,由此提高图像识别率。这是因为,编码器能够任选地将要通过发送器与所述图像编码流一起传送的参数改变为适于接收器的图像识别的参数。
[0077] [15]<基于指示图像识别准确度的指标改变参数>
[0078] 在条款14中,图像识别单元在图像识别过程中计算指示图像识别准确度的指标(31)。参数改变单元根据在图像识别过程中计算出的指示图像识别准确度的指标改变由数据接收单元接收的参数(S3,S4)。
[0079] 这能够针对图像识别更适当地改变参数。
[0080] [16]<基于图像接收装置的环境信息改变参数>
[0081] 在条款14和15中,参数改变单元基于利用所述图像接收方法的图像接收装置的环境信息(30)改变数据接收单元接收的参数(S1)。
[0082] 这能够改变参数以便针对图像接收装置的环境更加适当地执行图像识别。
[0083] [17]<根据运行情况改变参数>
[0084] 在条款16中,将所述图像接收装置安装到车辆上。通过图像编码装置对安装在车辆上的照相机获取的图像进行编码,然后通过数据接收单元接收通过所述图像编码生成的图像编码流。参数改变单元根据车辆的运行情况改变数据接收单元接收的参数(S1)。
[0085] 因而,在车载照相机系统中安装的图像接收装置中,能够针对车辆运行情况、针对所需的图像识别的对象更加适当地改变参数。
[0086] [18]<改变解块滤波器的参数>
[0087] 在条款14到17之一中,解码单元包括解块滤波器(135)。参数改变单元改变作为由数据接收单元接收的参数的、指示是否针对图像编码数据利用解码滤波器的参数和解码滤波器的滤波器系数中的至少一个。
[0088] 因而,在图像识别率不够高的情况下,降低了解块滤波器的强度,以避免抑制图像的高频分量,或者降低抑制程度,由此提高识别率。
[0089] [19]<改变量化参数>
[0090] 在条款14到17之一中,解码单元包括逆量化单元(133)。所述参数含有用于生成图像编码数据的编码中所包含的量化的量化参数。参数改变单元改变数据接收单元接收的参数中含有的量化参数,然后将所述量化参数提供给逆量化单元。
[0091] 因而,在图像识别率不够高的情况下,增大了量化参数,从而放大并强调预测误差分量,由此提高识别率。
[0092] [20]<改变正交变换系数>
[0093] 在条款1到4之一中,解码单元包括正交逆变换单元。所述参数含有用于为了生成图像编码数据所执行的编码中包含的正交变换的正交变换系数。参数改变单元改变数据接收单元接收的参数中含有的正交变换系数,然后将所述系数提供给正交逆变换单元。
[0094] 因而,在图像识别率不够高的情况下,能够改变正交变换系数,以提高识别率。例如,删除正交变换系数的高频范围,从而允许输入至图像识别单元的解码图像的频率分量与图像识别所需的频率分量匹配。
[0095] 2.详细描述
[0096] 下文将更加具体地描述实施例。
[0097] [第一实施例]
[0098] 图1是示出了根据第一实施例的图像接收装置1的配置实例的方框图。
[0099] 图像接收装置1包括数据接收单元11、参数改变单元12、解码器13和图像识别单元14。数据接收单元11接收通过网络2传送的分组数据,并从所述分组数据中提取图像编码流
33。图像编码流33是被称为基本(elementary)流的编码图像数据。例如,一些基本流符合诸如MPEG-2(MPEG:运动图象专家组)和HEVC(高效率视频编码)的H.264的编码标准,具有至少由序列层级和图片层级构成的双层结构,每一层级包括报头部分和数据部分。报头部分含有各种用于编码的各种参数。通过典型的解码器利用所述参数作为解码参数对数据部分进行解码。参数改变单元12改变图像编码流33中的参数并将含有改变后的参数的图像编码流
34提供给解码器13。解码器13利用图像编码流34中的改变后的参数作为解码参数对图像编码流34的数据部分解码,从而生成解码图像35。图像识别单元14检测、辨识、跟踪解码图像
35中的对象等。
[0100] 后面将具体描述参数改变单元12进行的参数改变方法。将通过网络2接收的图像编码流33中含有的报头中的参数从由编码器单元生成并添加的值改变为另一值。假定解码图像是供人查看的,对编码器单元生成并添加的参数进行优化以抑制图像劣化。所述参数并非总是设定在用于图像识别单元14中的识别的适当值。因而,参数改变单元12将通过网络2接收的图像编码流33中含有的报头中的参数改变为用于图像识别单元14中的识别的适当值。这能够改善图象识别单元14中的图像识别率。能够按照适当的方式快速地改变所述参数而不受通过网络2造成的传送延迟的影响,这与改变编码器生成的参数值的情况不同。这是因为能够仅通过图像接收装置1将所述参数任选地改变为适于图象识别的参数值。
[0101] 此时,图象识别单元14优选地在图像识别过程中计算指示图象识别准确度的指标31,然后将指标31提供给参数改变单元12,参数改变单元12优选地根据指示图像识别准确度的指标31改变所述参数。这是因为能够针对图象识别单元14实施的图像识别更加适当地改变参数值。
[0102] 例如,指示图像识别准确度的指标31是指示图像识别单元14中的图像检测、识别和跟踪的结果的准确度的指标,是有关识别区域的信息或者图像识别区域信息。能够根据指示每一过程中的相似度的阈值或者根据所通过的鉴别器(discriminator)级数确定识别和检测结果的准确度。能够利用如下用于识别和检测的算法和应用通过各种方法确定识别和检测结果的准确度:
[0103] 在一种主要的用于检测诸如面部和标记的对象的技术中,结合了局部特征量和统计学习技术。例如,在面部检测中,结合多个Haar式特征量以包含面部检测器。将所述检测器耦合至若干级联的弱鉴别器。利用AdaBoost从多个局部特征量中选择最适于鉴别的特征量。在这种情况下,由所通过的级联弱鉴别器的级数指示检测准确度。
[0104] 在诸如标记的特定对象的识别中,能够预先执行学习。通过参考图像预先确定的特征量和对输入图像实施的对应点搜索允许进行标记识别。对指示相似度的值进行阈值设定,从而允许通过与阈值的欧氏(Euclidean)距离来指示相似度。
[0105] 在对象跟踪中,例如,假定根据KLT(Kaneda Lucas Tomasi),在局部区域内各点处的移动是一样的。在假定一个区域中在微小时段内只发生平行移动的情况下确定特征点的目的地。在所述移动之前和之后,在(例如)SIFT(比例不变特征变换)中利用特征量的相似度(欧氏距离)确定特征点,从而允许特征量的欧氏距离充当指标。
[0106] 参数改变单元12能够根据从解码器13输出的统计信息32改变参数值,所述统计信息可以作为指示图像识别准确度的指标31的替代或补充。统计信息32包括解码器13中的各种参数值以及所述参数值的分布。
[0107] 在参数改变单元12改变参数值时,参考信息不限于指示图像识别准确度的指标31和统计信息32。所述信息可以含有在接收单元中获得的任何种类的数据。
[0108] 作为替代方案,参数改变单元12能够根据图像接收装置1的环境信息30改变参数值,所述环境信息可以作为指示图像识别准确度的指标31和统计信息32的替代或者补充。在这种情况下,所述环境信息30可以包括各种各样的信息。例如,所述环境信息30可以是有关识别单元14进行的图像识别的应用的信息,所述应用是由图像接收装置1执行的。因而,能够将参数值改变为针对图像接收装置1的环境更加适当地执行图像识别。
[0109] 在更为具体的例子中,本实施例适用于包含车载照相机的驾驶辅助系统中的图像接收装置。具体而言,将图像接收装置1安装到诸如汽车的车辆上,通过图像编码装置对车载照相机获取的图像编码,通过包括CAN(控制器区域网)的车载网络传送所生成的图像编码流,然后通过图像接收装置1的数据接收单元11接收图像编码流。根据车辆的运行情况,图像接收装置1的参数改变单元12将数据接收单元11接收的参数的值改变为适于图像识别单元14的图像识别的值。这里,环境信息30可以是例如有关高速行驶中的中央隔离带和路侧带、指示车线的白线或者前面的车辆的图像识别、中低速行驶中的行人、标记和障碍物的图像识别、以及倒车时的停止器(stopper)、指示停车位置的线或者障碍物的图像识别的应用信息。此外,可以利用车辆驾驶情况有关的信息或白天、夜间、晴朗或者有雨的天气中的环境信息。
[0110] 因而,在车载照相机系统中安装的图像接收装置中,能够根据车辆的行驶条件针对所需的图像识别的对象更加适当地改变参数值。
[0111] 下文将描述参数改变单元12改变的参数。
[0112] 图2是示出了含有所述参数的图像编码流的例子的说明图。图2示出了用于一般性视听服务的H.264高级视频编码中的图像数据结构作为所述参数的例子。SPS代表序列参数集,PPS代表图片参数集,SH代表片报头,SD代表片数据。将图像编码流复用到例如序列、图片和片三个层级内。图像编码流包括充当每一层级处的报头部分的SPS、PPS和SH以及充当作为最低层级的片层级处的数据部分的SD。针对充当每一层级处的报头部分的SPS、PPS和SH定义每一层级处的编码参数。例如,PPS含有deblocking_filter_control_present_flag。例如,SH含有disable_deblocking_filter_idc、slice_alpha_c0_offset_div2、slice_beta_offset_div2等等。这些参数定义了用于判断是执行解块滤波还是执行处理的滤波器系数。适当地改变所述参数,以控制输入至图像识别单元14的图像信号的频率分量。
[0113] 参数改变单元12改变的参数不限于用于解块滤波器的参数。可以利用预测模式、量化参数、正交变换系数等等。将量化参数改变为较大的值放大并强调例如预测误差分量。改变正交变换系数控制图像信号的频率分量,由此改变图像识别单元14的处理准确度。
[0114] 下文将描述参数改变单元12和解码器13的更为具体的配置实例。
[0115] 图3是示出了参数改变单元12和解码器13的配置实例的方框图。
[0116] 参数改变单元12包括参数改变控制单元120、可变长度解码单元121和流改变单元122,参数改变单元12耦合至解码器13。将从数据接收单元11提供的图像编码流33输入至可变长度解码单元121。可变长度解码单元121对输入的图像编码流33解码,并提取SPS或PPS的参数123。参数改变控制单元120根据反馈信息30、31和32决定是否改变可变长度解码单元提取的参数123。流改变单元122改变图像编码流33中的所要改变的参数123,并生成在头部中含有改变后的参数的图像编码流34。在这种情况下,在不背离编码标准的情况下在编码标准范围内改变从参数改变单元12输出的图像编码流34中的参数。这不会在典型的解码器13中导致误差。具体而言,能够利用解码器13的设计资源,由此降低成本。
[0117] 可变长度解码单元121可以能够只对图像编码流33的报头部分解码,并且具有对数据部分的可变长度解码功能。
[0118] 图4是示出了参数改变单元12和解码器13的另一配置实例的方框图。在这一实例中,使参数改变单元12与具有参数改变功能的解码器13一体化。参数改变单元12和解码器13的功能块的名称以及划分方式只是便利地(expediently)确定的,可以根据需要对其加以改变。图4中的解码器13包括参数处理控制单元130、可变长度解码单元131、参数处理单元132、逆量化/变换单元133、加法器134、解块滤波器135、图片缓冲器136、画面内预测单元
137、画面间预测单元138和预测模式选择单元139。将从数据接收单元11提供的图像编码流
33输入至可变长度解码单元131。可变长度解码单元131对图像编码流33解码,并输出参数
1301,例如,报头参数、正交变换系数和编码模式。参数处理控制单元130根据反馈信息30、
31和32决定是否改变参数1301中包含的参数。参数处理单元132任选地改变参数1301中包含的参数,然后将改变后的参数1302输出至解码器13中的处理单元(133到139)。逆量化/变换单元133执行逆量化和逆变换,然后输出有关预测误差的像素数据。使所述像素数据与选择器139选定的画面内预测图像(从137输出的)或者画面间预测图像(从138输出的)在加法器134中相结合,然后在解块滤波器135中对数据进行处理,以将其存储到图片缓冲器136内。将图片缓冲器136中的图像数据作为解码的图像35输出;同时,利用所述图像数据作为画面间预测单元138的参考图像。
[0119] 在所述配置实例中,除了输入至解码器13中的处理单元(133到139)的参数之外,还能够任选地改变数据。例如,删除正交变换系数的高频范围,以控制解码的图像35的频率分量。
[0120] 下文将描述改变参数的步骤。
[0121] 图5是示出了参数改变和解码的流程的流程图。在序列层级(Seq)、图片(Pic)层级和片层级中的每一层级处示出了参数改变流程。首先,根据环境信息30确定图像编码流33中的要改变的参数(S1),然后在序列层级处改变参数SPS(S2)。之后,根据信息31和32针对每一图片改变PPS/SPS中的参数(S3)。根据可获得片的编码标准,根据信息31和32针对每一片改变片报头(SH)中的参数(S4)。在改变参数之后,执行片数据(SD)处理(解码)(S5)。继续解码直到图片结束(S6)和序列结束(S7)。
[0122] 下文将描述参数改变和解码的操作实例。图6和图7是示意性地示出了参数改变和解码的操作实例的时序图。图6示出图片层级的反馈实例。图7示出片层级的反馈实例。横轴表示时间,“解码”表示参数改变单元12和解码器13的操作,“图像识别”表示图像识别单元14的操作。
[0123] 图6是示意性地示出了参数改变和解码的操作实例(针对每一图片的反馈)的时序图;“改变”表示通过参数改变单元12改变参数。上一行中的“解码”的“图片0处理”、“图片1处理”和“图片2处理”表示解码器13的解码。下一行中的“图像识别”表示图像识别单元14的图像识别。下一行中所示的“图片0处理”和“图片1处理”表示图像识别,其中,编号的图片经受图像识别。
[0124] 在针对图片0的参数所做的参数改变(图6中的“改变”)之后,开始对图片0的解码(图6中的“图片0处理”)。按照处理单位,例如宏块,执行解码。开始向图像识别单元14输出来自经处理的宏块的图片处理结果35。在输出图片处理结果35之后,图像识别单元14开始对图片0进行图像识别(图6中的“图片0处理”)。在完成对图片0的解码之后,利用通过对图片0解码而获得的统计信息32开始针对接下来的图片1的参数所做的参数改变(图6中的“改变”)和接下来的解码(图6中的“图片1处理”)。在输出针对图片1的图片处理结果35之后,图像识别单元14开始针对图片1的图像识别(图6中的“图片1处理”)。在完成对图片1的解码之后,开始针对图片2的参数所做的参数改变(图6中的“改变”)和接下来的解码。在针对图片2的参数所做的参数改变中,除了通过对图片1解码(图6中的“图片1处理”)获得的统计信息32之外还反馈指示图像识别准确度的指标31,所述指标31是通过针对图片0的图像识别(图
6中的“图片0处理”)获得的。
[0125] 图7是示意性地示出了参数改变和解码的另一操作实例(针对每一片的反馈)的时序图。在这一实例中,一幅图片包括两个片。“改变”表示参数改变单元12实施的参数变化,包括片层级处的参数变化。如上一行中的“解码”所示,针对图片0的片0,继而针对片1改变参数并执行解码。之后,针对图片1、2等的片0和1依次改变参数与执行解码。
[0126] 如下一行中的“图像识别”所指示的,图像识别单元14在接收到针对图片0的片0的分片结果时开始对图片0的片0进行图像识别,在接收到针对图片0的片1的分片结果35时开始对图片0的片1的图像识别。之后,针对图片1、2等等的片0和1依次执行图像识别。将通过对片0解码获得的统计信息32反馈到在同一图片中从片0到接下来的片1的参数变化,而通过对片0解码获得的统计信息32则反馈给接下来的图片的片0的参数变化。就通过图像识别获得的指示图像识别准确度的指标31而言,将通过图片0的片0获得的信息31反馈给图片1的片0的参数变化,将通过图片0的片1获得的信息反馈给图片1的片1的参数变化。可以将从图片0的片1获得的信息31反馈给接下来的图片2的参数变化。
[0127] 如图7所示,如果在片层级处可以解码,那么除了(1)和(2)以外,指示图像识别单元14的识别结果的准确度的指标31还适用于接下来的分片。
[0128] 图6和图7示出了在解码器13实施的解码与图像识别单元14实施的图像识别需要基本上相同的时间段时的定时。在本发明中,不管通信信道中的延迟如何都能够在某一时段内快速地反馈检测和识别改善。
[0129] 下文将描述本发明的效果。
[0130] 如果将本发明应用于先进驾驶员辅助系统(ADAS),那么根据本实施例的图像接收装置1将起着用于控制导航等的端点的作用。通过传送单元对照相机图像进行编码,然后将经编码的照相机图像(图像编码流)通过以太网(注册商标)、CAN等的通信信道传送至图像接收装置1。在本发明中,不管通信信道的延迟如何都能够在某一时段内快速地反馈识别率的提高。
[0131] 此外,在用于从不经通信信道网络而是累积的编码数据识别对象的应用中,根据本发明识别图像。而且在不改变编码参数的系统中,能够改善图象识别率。
[0132] 可以通过改变参数提高识别准确度,但是所识别出的图像不等同于传送装置假定的正确解码图像。要是不将解码图像用作参考图像就能避免误差传播。因而,发送器实施的编码不受影响。
[0133] [第二实施例]
[0134] 图8是示出了根据第二实施例的图像接收装置的配置实例的方框图。
[0135] 与根据图1所示的第一实施例的图像接收装置1类似,图像接收装置1包括数据接收单元11、参数改变单元12、解码器13和图像识别单元14。图像接收装置1还包括解码器15和显示单元16。数据接收单元11、参数改变单元12、解码器13和图像识别单元14的配置和操作与第一实施例中的类似,因而省略对其的说明。添加的解码器15接收图像编码流33而不改变参数。因而,解码器15在强调普通的可视性的情况下对解码参数解码。将解码的图像输出36提供给显示单元16,并显示于其上。
[0136] 因而,图像识别单元接收利用针对图像识别适当地改变的参数被解码的图像解码数据,而显示单元则接收利用在参数改变之前的适于显示的参数被解码的图像解码数据。这将适当的参数应用于相应的单元。
[0137] 可以对根据第二实施例的图像识别单元14进行扩展,从而使其在解码器13的解码图像输出35之外还接收解码器15的解码图像输出36。将针对改变的参数的解码图像输出35和针对未改变的参数的解码图像输出36都用于图像识别,从而允许图像识别单元14进一步提高识别准确度。例如,针对每一像素计算在强制关闭解块滤波器的情况下获得的解码图像输出35和经历了编码器指定的解块滤波的解码图像输出36之间的差异。这能够提取经受解块滤波的像素周围的边缘信息。
[0138] 如图8所示,可以独立地布置两个解码器13和15,或者可以按照分时方式使所述解码器之一工作。如果解码器13的吞吐量超过了图像识别单元14的所需识别能力,那么可以通过使解码器13按照分时方式工作而将多个解码图像输出35用于图像识别。
[0139] 根据第二实施例,能够在通过第一实施例的方法改善图像识别率的同时显示图像(被人识别出来)。此外,将多幅解码图像输入到图像识别单元内,从而促进识别准确度的提高。
[0140] 此外,能够理解,通过改变参数来创建用于图像识别和跟踪的另一输入图像(数据)。具体而言,解码图像可能不等同于传送装置假定的正确的解码图像,并且误差可能因解码图像被用作参考图像而传播。尽管解码图像的图像质量下降,但是运动信息保留在画面内,并且可用于识别。
[0141] 第一实施例中,要是不将解码图像用作参考图像就能避免误差传播。因而,发送器实施的编码不受影响。在本实施例中,改变参数可以包括画面内预测和参考图像(不限于画面内预测和不用解块滤波器的情况)。
[0142] [第三实施例]
[0143] 图9是示出了根据第三实施例的图像接收装置的配置实例的方框图。
[0144] 与根据图1所示的第一实施例的图像接收装置1类似,图像接收装置1包括数据接收单元11、参数改变单元12、解码器13和图像识别单元14。图像接收装置1还包括参数传送单元17。数据接收单元11、参数改变单元12、解码器13和图像识别单元14的配置和操作与第一实施例中的类似,因而省略对其的说明。添加的参数传送单元17接收例如指示图像识别单元14的识别结果的准确度的指标31以及通过解码获得的统计信息32,然后参数传送单元17将指标31和统计信息32输出至图像传送装置中的编码器4。向发送器的反馈有助于测量指示图像识别单元的识别结果的准确度的指标。在图像传送装置的编码器4中,能够将用于编码的参数改变为适于图像接收装置1中的图像识别的值。
[0145] 短时反馈控制可以涉及第一实施例中的根据图6和图7讨论的操作。在延长的时间时段上的反馈控制的情况下,利用图9中的参数传送单元17。如果编码单元(编码器4)在反馈控制之下能够选择编码模式,那么提供促进对指示识别结果的准确度的指标31的测量的功能,从而实现更加准确的反馈。换言之,在利用更适于图像识别的参数的情况下传送图像编码流,由此提高图像接收装置1中的图像识别准确度。
[0146] 根据第一实施例的图像接收装置1中的反馈和图像接收装置1之外的,即,对根据第三实施例的编码器4的额外反馈之间的切换被控制如下:
[0147] 例如,作为切换反馈目的地的方法,根据图像编码流33中含有的时间信息确定延迟时间,然后对图像接收装置1中的反馈和向图像传送装置(编码器4)的反馈进行切换。作为替代,可以使用图像接收装置1中的反馈直到编码器4的反应(reaction)为止,然后可以将反馈切换至向图像传送装置(编码器4)的反馈。这能够降低切换时间滞后。
[0148] 已经根据实施例具体描述了本发明的发明人所做出的发明。不必说,本发明不限于所述实施例,因而在本发明的范围内能够通过各种种方式对其加以改变。
[0149] 例如,构成图像接收装置的功能块不限于所公开的块的划分。可以任选地改变划分模式,例如,可以使所述功能中的至少一些包含到另一块内。此外,功能块可以通过硬件,例如,半导体IC制作,可以制作为在处理器上运行的软件,或者可以结合地制作。