动态图像编解码装置

摘要

提供能够导出最适于编码对象图片的运动矢量、并且能够提高压缩率的动态图像编解码装置。动态图像编码装置(100)具有：帧间预测控制部(109)，决定使用多个预测运动矢量候选中的与通过运动检测而导出的运动矢量之间的误差最小的预测运动矢量候选进行运动矢量的编码；图片类型决定部(110)，生成图片类型信息；时间直接矢量计算部(111)，通过时间直接而导出预测运动矢量候选；以及co‑located参照方向决定部(112)，按照每个图片生成co‑located参照方向标志。

权利要求

1.一种动态图像编解码装置，对编码对象图片进行编码，并且对解码对象图片进行解码，该动态图像编解码装置包括：参照方向决定部，生成参照方向标志，并附加到所述编码对象图片，所述参照方向标志表示使用在显示顺序上位于所述编码对象图片之前的参照图片及位于所述编码对象图片之后的参照图片中的哪一方；

第1选择部，从包含在第1参照图片列表以及第2参照图片列表中的至少某一方中的第1所有的参照图片中，选择显示顺序上位于所述编码对象图片之前或之后、并具有第1参照运动矢量和第2参照运动矢量的第1参照图片；

第1判断部，基于对于所述第1所有的参照图片各自的索引，判断所述编码对象图片和所述第1所有的参照图片的显示顺序；

第1候选导出部，使用所述第1参照运动矢量以及所述第2参照运动矢量中的至少一方，至少导出一个所述编码对象图片的运动矢量候选，并追加到第1候选列表中；以及编码部，使用从所述第1候选列表中选择出的1个以上的运动矢量候选，对所述编码对象图片进行编码；

所述第1候选导出部，

在所述第1所有的参照图片的显示顺序位于所述编码对象图片之前的情况下或在所述第1所有的参照图片的显示顺序位于所述编码对象图片之后的情况下，通过对所述第1参照运动矢量和所述第2参照运动矢量分别进行缩放，从而从所述第1参照运动矢量和所述第2参照运动矢量分别导出所述编码对象图片的两个运动矢量候选，所述动态图像编解码装置还包括：

第1解码部，将附加在所述解码对象图片的参照方向标志解码；

第2选择部，基于所述参照方向标志，从包含在第3参照图片列表以及第4参照图片列表中的至少某一方中的第2所有的参照图片中，选择显示顺序上位于所述解码对象图片之前或之后、并具有第3参照运动矢量和第4参照运动矢量的第2参照图片；

第2判断部，基于对于所述第2所有的参照图片各自的索引，判断所述解码对象图片和所述第2所有的参照图片的显示顺序；

第2候选导出部，使用所述第3参照运动矢量以及所述第4参照运动矢量中的至少一方，至少导出一个所述解码对象图片的运动矢量候选，并追加到第2候选列表中；以及第2解码部，使用从所述第2候选列表中选择出的1个以上的运动矢量候选，对所述解码对象图片进行解码；

所述第2候选导出部，

在所述第2所有的参照图片的显示顺序位于所述解码对象图片之前的情况下或在所述第2所有的参照图片的显示顺序位于所述解码对象图片之后的情况下，通过对所述第3参照运动矢量和所述第4参照运动矢量分别进行缩放，从而从所述第3参照运动矢量和所述第4参照运动矢量分别导出所述解码对象图片的两个运动矢量候选。

说明书

动态图像编解码装置

[0001] 本申请是申请日为2012年1月11日、申请号为201280002049.X的发明专利申请的分案申请。

技术领域

[0002] 本发明涉及动态图像编码方法和动态图像解码方法。

背景技术

[0003] 在动态图像编码处理中，一般地，利用动态图像所具有的空间方向和时间方向的冗长性进行信息量的压缩。这里，一般地，作为利用空间方向的冗长性的方法，使用针对频率区域的变换，作为利用时间方向的冗长性的方法，使用图片间预测(以后称为帧间预测)编码处理。在帧间预测编码处理中，在对某个图片进行编码时，将相对于编码对象图片位于显示时间顺序前方或后方的已编码的图片用作参照图片。然后，通过编码对象图片相对于该参照图片的运动检测而导出运动矢量，取得根据运动矢量进行运动补偿而得到的预测图像数据与编码对象图片的图像数据的差分，由此去除时间方向的冗长性。这里，在运动检测中，计算编码图片内的编码对象块与参照图片内的块的差分值，将差分值最小的参照图片内的块作为参照块。然后，使用编码对象块和参照块检测运动矢量。

[0004] 在已经标准化的被称为H.264的动态图像编码方式中，为了压缩信息量，使用I图片、P图片、B图片这3种图片类型。I图片是不进行帧间预测编码处理、即进行图片内预测(以后称为帧内预测)编码处理的图片。P图片是参照在显示时间顺序中位于编码对象图片的前方或后方的已经编码的1个图片进行帧间预测编码的图片。B图片是参照在显示时间顺序中位于编码对象图片的前方或后方的已经编码的2个图片进行帧间预测编码的图片。

[0005] 在帧间预测编码中，生成用于确定参照图片的参照图片列表。参照图片列表是对帧间预测中参照的已编码的参照图片分配参照图片索引的列表。例如，在B图片中，由于参照2个图片进行编码，所以，保持2个参照图片列表。然后，根据参照图片索引，从参照图片列表中确定参照图片。

[0006] 图1A是用于说明参照图片索引针对参照图片的分配的图，图1B和图1C是示出B图片中的参照图片列表的一例的图。

[0007] 在图1A中，例如，关于显示顺序，假设按照参照图片3、参照图片2、参照图片1、编码对象图片的顺序排列的情况。该情况下，参照图片列表1(以后称为参照列表L0)是双方向预测中的预测方向1的参照图片列表的例子，如图1B所示，对参照图片索引1的值“0”分配显示顺序2的参照图片1，对参照图片索引1的值“1”分配显示顺序1的参照图片2，对参照图片索引1的值“2”分配显示顺序0的参照图片3。即，针对编码对象图片，按照显示顺序中时间从近到远的顺序分配参照图片索引。另一方面，参照图片列表2(以后称为参照列表L1)是双方向预测中的预测方向2的参照图片列表的例子，如图1C所示，对参照图片索引2的值“0”分配显示顺序1的参照图片2，对参照图片索引2的值“1”分配显示顺序2的参照图片1，对参照图片索引2的值“2”分配显示顺序0的参照图片3。这样，针对各参照图片，按照预测方向能够分配不同的参照图片索引(图1A所示的参照图片1、2)，也能够分配相同的参照图片索引(图1A所示的参照图片3)。在B图片的编码时，利用参照使用参照列表L0由参照图片索引1确定的参照图片的运动矢量(mvL0)以及参照使用参照列表L1由参照图片索引2确定的参照图片的运动矢量(mvL1)，进行帧间预测。在P图片的情况下，使用一个参照图片列表。

[0008] 并且，在被称为H.264的动态图像编码方式中，在B图片的编码中，在导出运动矢量时，能够选择被称为时间直接的编码模式。使用图2对时间直接中的帧间预测编码方法进行说明。图2是示出时间直接中的运动矢量的说明图，示出通过时间直接对图片B2的块a进行编码的情况。该情况下，利用对位于图片B2后方的参照图片即图片P3中的、位于与块a相同位置的块b进行编码时使用的运动矢量a。运动矢量a是对块b进行编码时使用的运动矢量，参照图片P1。使用与运动矢量a平行的运动矢量，从前方向参照图片即图片P1和后方参照图片即图片P3中取得参照块，进行双方向预测，从而对块a进行编码。即，对块a进行编码时使用的运动矢量针对图片P1来说是运动矢量b，针对图片P3来说是运动矢量c。

[0009] 现有技术文献

[0010] 非专利文献

[0011] 非专利文献1：ITU-T H.264 03/2010

发明内容

[0012] 发明要解决的课题

[0013] 但是，在现有的时间直接中，时间直接时利用的运动矢量限定为显示时间顺序中位于编码对象图片后方的参照图片的运动矢量、并且显示时间顺序前方向的运动矢量。

[0014] 这样，由于限定了时间直接时利用的运动矢量，很难导出最适于编码对象图片的运动矢量，产生导致压缩率低下的课题。

[0015] 本发明的目的在于解决上述课题，其目的在于，提供如下的动态图像编码方法和动态图像解码方法：通过自适应地选择时间直接时利用的运动矢量，能够导出最适于编码对象图片的运动矢量，并且能够提高压缩率。

[0016] 用于解决课题的手段

[0017] 为了实现上述目的，本发明的动态图像编码方法对编码对象图片中包含的编码对象块进行编码，其中，该动态图像编码方法包括以下步骤：判断步骤，判断包含在与所述编码对象图片不同的参照图片中、且所述参照图片内的位置与编码对象图片内的编码对象块的位置相同的参照块是否具有2个参照显示顺序前方的参照运动矢量、或者是否具有2个参照显示顺序后方的参照运动矢量；计算步骤，在所述判断步骤中判断为所述参照块具有2个参照运动矢量的情况下，通过分别对2个所述参照运动矢量进行缩放，计算所述编码对象块的运动矢量候选；选择步骤，选择所述运动矢量候选中的与规定运动矢量之间的误差小的运动矢量候选；以及编码步骤，使用所述规定运动矢量对所述编码对象块进行编码，对所述规定运动矢量与选择出的所述运动矢量候选之间的误差以及用于确定选择出的所述运动矢量候选的信息进行编码。

[0018] 并且，也可以是，在所述判断步骤中，在所述参照图片所具有的第1参照图片列表和第2参照图片列表中，在针对能够参照所述参照图片的图片的索引的分配顺序相同的情况下，判断所述参照块是否具有2个参照显示顺序前方的参照运动矢量、或者是否具有2个参照显示顺序后方的参照运动矢量。

[0019] 并且，也可以是，在所述计算步骤中，在所述判断步骤中判断为所述参照块不具有2个所述参照运动矢量、且所述参照图片在显示顺序中位于所述编码对象图片之前的情况下，通过对所述参照块的参照运动矢量中的参照显示顺序后方的所述参照运动矢量进行缩放，计算所述编码对象块的所述运动矢量候选，在所述判断步骤中判断为所述参照块不具有2个所述参照运动矢量、且所述参照图片在显示顺序中位于所述编码对象图片之后的情况下，通过对所述参照块的参照运动矢量中的参照显示顺序前方的所述参照运动矢量进行缩放，计算所述编码对象块的所述运动矢量候选。

[0020] 并且，也可以是，所述规定运动矢量是通过运动检测而计算出的运动矢量。

[0021] 并且，也可以是，用于确定所述运动矢量候选的信息是索引，在所述编码步骤中，在对所述索引进行编码时，所述索引的值越大，分配码元长度越长的码元串。

[0022] 并且，也可以是，在所述计算步骤中，在所述参照块位于所述编码对象块的显示顺序前方、且所述参照块不具有所述参照运动矢量的情况下，使用位于所述编码对象块的显示顺序后方的所述参照块所具有的所述参照运动矢量中的参照显示顺序前方的所述参照运动矢量，计算所述运动矢量候选，在所述参照块位于所述编码对象块的显示顺序后方、且所述参照块不具有所述参照运动矢量的情况下，使用位于所述编码对象块的显示顺序前方的所述参照块所具有的所述参照运动矢量中的参照显示顺序后方的所述参照运动矢量，计算所述运动矢量候选。

[0023] 并且，也可以是，在所述计算步骤中，在所述参照块位于所述编码对象块的显示顺序前方、且所述参照块不具有所述参照运动矢量、进而位于所述编码对象块的显示顺序后方的所述参照块不具有参照显示顺序前方的所述参照运动矢量的情况下，使用位于所述编码对象块的显示顺序后方的所述参照块所具有的参照显示顺序后方的所述参照运动矢量，计算所述运动矢量候选，在所述参照块位于所述编码对象块的显示顺序后方的情况下，在所述参照块不具有所述参照运动矢量、且位于所述编码对象块的显示顺序前方的所述参照块不具有参照显示顺序后方的所述参照运动矢量的情况下，使用位于所述编码对象块的显示顺序前方的所述参照块所具有的参照显示顺序前方的所述参照运动矢量，计算所述运动矢量候选。

[0024] 并且，也可以是，在所述计算步骤中，除了所述第1运动矢量候选和所述第2运动矢量候选以外，还将所述编码对象块的左侧相邻的块的运动矢量作为第3运动矢量候选，将所述编码对象块的上侧相邻的块的运动矢量作为第4运动矢量候选，将所述编码对象块的右上侧相邻的块的运动矢量作为第5运动矢量候选，选择所述第1～5运动矢量候选中的与所述规定运动矢量之间的误差最小的运动矢量候选。

[0025] 并且，本发明的动态图像解码方法对解码对象图片中包含的解码对象块进行解码，其中，该动态图像解码方法包括以下步骤：判断步骤，判断包含在与所述解码对象图片不同的参照图片中、且所述参照图片内的位置与解码对象图片内的解码对象块的位置相同的参照块是否具有2个参照显示顺序前方的参照运动矢量、或者是否具有2个参照显示顺序后方的参照运动矢量；第1计算步骤，在所述判断步骤中判断为所述参照块具有2个参照运动矢量的情况下，通过分别对2个所述参照运动矢量进行缩放，计算所述解码对象块的运动矢量候选；生成步骤，生成所述运动矢量候选与运动矢量候选索引的值一对一对应的运动矢量候选列表；第1解码步骤，对确定解码中使用的所述运动矢量候选的索引信息进行解码；第2解码步骤，对规定运动矢量与所述运动矢量候选的误差信息进行解码；第2计算步骤，对所述运动矢量候选列表的所述运动矢量候选中的、由与所述索引信息相同的值的所述运动矢量候选索引确定的所述运动矢量候选和所述误差信息进行相加，计算运动矢量；以及第3解码步骤，使用所述运动矢量对解码对象块进行解码。

[0026] 并且，也可以是，在所述判断步骤中，在所述参照图片所具有的第1参照图片列表和第2参照图片列表中，在针对能够参照所述参照图片的图片的索引的分配顺序相同的情况下，判断所述参照块是否具有2个参照显示顺序前方的参照运动矢量、或者是否具有2个参照显示顺序后方的参照运动矢量。

[0027] 并且，也可以是，在所述第1计算步骤中，在所述判断步骤中判断为所述参照块不具有2个所述参照运动矢量、且所述参照图片在显示顺序中位于所述解码对象图片之前的情况下，通过对所述参照块的参照运动矢量中的参照显示顺序后方的所述参照运动矢量进行缩放，计算所述解码对象块的运动矢量候选，在所述判断步骤中判断为所述参照块不具有2个所述参照运动矢量、且所述参照图片在显示顺序中位于所述解码对象图片之后的情况下，通过对所述参照块的参照运动矢量中的参照显示顺序前方的所述参照运动矢量进行缩放，计算所述解码对象块的所述运动矢量候选。

[0028] 并且，也可以是，在所述第1计算步骤中，在所述参照块位于所述解码对象块的显示顺序前方、且所述参照块不具有所述参照运动矢量的情况下，使用位于所述解码对象块的显示顺序后方的所述参照块所具有的所述参照运动矢量中的参照显示顺序前方的所述参照运动矢量，计算所述运动矢量候选，在所述参照块位于所述解码对象块的显示顺序后方、且所述参照块不具有所述参照运动矢量的情况下，使用位于所述解码对象块的显示顺序前方的所述参照块所具有的所述参照运动矢量中的参照显示顺序后方的所述参照运动矢量，计算所述运动矢量候选。

[0029] 并且，也可以是，在所述第1计算步骤中，在所述参照块位于所述解码对象块的显示顺序前方、且所述参照块不具有所述参照运动矢量、进而位于所述解码对象块的显示顺序后方的所述参照块不具有参照显示顺序前方的所述参照运动矢量的情况下，使用位于所述解码对象块的显示顺序后方的所述参照块所具有的参照显示顺序后方的所述参照运动矢量，计算所述运动矢量候选，在所述参照块位于所述解码对象块的显示顺序后方的情况下，在所述参照块不具有所述参照运动矢量、且位于所述解码对象块的显示顺序前方的所述参照块不具有参照显示顺序后方的所述参照运动矢量的情况下，使用位于所述解码对象块的显示顺序前方的所述参照块所具有的参照显示顺序前方的所述参照运动矢量，计算所述运动矢量候选。

[0030] 另外，本发明不仅能够作为这种动态图像编码方法和动态图像解码方法而实现，还能够作为将这种动态图像编码方法和动态图像解码方法中包含的特征性步骤作为单元的动态图像编码装置和动态图像解码装置而实现，或者，还能够作为使计算机执行这些步骤的程序而实现。而且，这种程序能够作为计算机可读取的CD-ROM等的记录介质而实现，或者，还能够作为表示该程序的信息、数据或信号而实现。而且，这些程序、信息、数据和信号可以经由因特网等通信网络发布。

[0031] 发明效果

[0032] 根据本发明，通过自适应地选择时间直接时利用的运动矢量，能够导出最适于编码对象图片的运动矢量，并且能够提高压缩率。

附图说明

[0033] 图1A是用于说明参照图片索引针对参照图片的分配的图。

[0034] 图1B是示出B图片中的参照图片列表的一例的图。

[0035] 图1C是示出B图片中的参照图片列表的一例的图。

[0036] 图2是示出时间直接中的运动矢量的说明图。

[0037] 图3是示出使用本发明的动态图像编码方法的动态图像编码装置的一个实施方式的结构的模块图。

[0038] 图4是示出本发明的动态图像编码方法的处理流程的概要的流程图。

[0039] 图5A是示出预测运动矢量候选的一例的图。

[0040] 图5B是示出预测运动矢量索引的分配方式的一例的图。

[0041] 图6是示出对预测运动矢量索引进行可变长度编码时使用的码元表的一例的图。

[0042] 图7是示出实施方式1的帧间预测控制部中的预测运动矢量候选的决定流程的流程图。

[0043] 图8是示出图4的步骤S102的详细处理流程的流程图。

[0044] 图9A是示出通过时间直接来导出预测运动矢量候选的方法的一例的图。

[0045] 图9B是示出通过时间直接来导出预测运动矢量候选的方法的一例的图。

[0046] 图10A是示出通过时间直接来导出预测运动矢量候选的方法的一例的图。

[0047] 图10B是示出通过时间直接来导出预测运动矢量候选的方法的一例的图。

[0048] 图11A是示出通过时间直接来导出预测运动矢量候选的方法的一例的图。

[0049] 图11B是示出通过时间直接来导出预测运动矢量候选的方法的一例的图。

[0050] 图12是示出图4的步骤S102的实施方式2的详细处理流程的流程图。

[0051] 图13是示出使用本发明的动态图像解码方法的动态图像解码装置的一个实施方式的结构的模块图。

[0052] 图14是示出本发明的动态图像解码方法的处理流程的概要的流程图。

[0053] 图15是实现内容分发服务的内容供给系统的整体结构图。

[0054] 图16是数字广播用系统的整体结构图。

[0055] 图17是表示电视机的结构例的模块图。

[0056] 图18是表示对作为光盘的记录介质进行信息的读写的信息再现/记录部的结构例的模块图。

[0057] 图19是表示作为光盘的记录介质的构造例的图。

[0058] 图20A是表示便携电话的一例的图。

[0059] 图20B是表示便携电话的结构例的模块图。

[0060] 图21是表示复用数据的结构的图。

[0061] 图22是示意地表示各流在复用数据中怎样被复用的图。

[0062] 图23是更详细地表示在PES包序列中视频流怎样被保存的图。

[0063] 图24是表示复用数据的TS包和源包的构造的图。

[0064] 图25是表示PMT的数据结构的图。

[0065] 图26是表示复用数据信息的内部结构的图。

[0066] 图27是表示流属性信息的内部结构的图。

[0067] 图28是表示识别影像数据的步骤的图。

[0068] 图29是表示实现各实施方式的动态图像编码方法及动态图像解码方法的集成电路的结构例的模块图。

[0069] 图30是表示切换驱动频率的结构的图。

[0070] 图31是表示识别影像数据、切换驱动频率的步骤的图。

[0071] 图32是表示将影像数据的标准与驱动频率建立了对应的查找表的一例的图。

[0072] 图33A是表示将信号处理部的模块共用的结构的一例的图。

[0073] 图33B是表示将信号处理部的模块共用的结构的另一例的图。

具体实施方式

[0074] 下面，参照附图对本发明的实施方式进行说明。

[0075] (实施方式1)

[0076] 图3是示出使用本发明的动态图像编码方法的动态图像编码装置的一个实施方式的结构的模块图。

[0077] 如图3所示，动态图像编码装置100具有正交变换部101、量化部102、逆量化部103、逆正交变换部104、块存储器105、帧存储器106、帧内预测部107、帧间预测部108、帧间预测控制部109、图片类型决定部110、时间直接矢量计算部111、co-located参照方向决定部112和可变长度编码部113。

[0078] 正交变换部101针对输入图像串进行从图像区域到频率区域的变换。量化部102对变换为频率区域的输入图像串进行量化处理。逆量化部103对由量化部102进行量化处理后的输入图像串进行逆量化处理。逆正交变换部104针对逆量化处理后的输入图像串进行从频率区域到图像区域的变换。块存储器105以块单位保存输入图像串，帧存储器106以帧单位保存输入图像串。图片类型决定部110决定以I图片、B图片、P图片中的哪个图片类型对输入图像串进行编码，生成图片类型信息。帧内预测部107使用块存储器105中保存的块单位的输入图像串，通过帧内预测对编码对象块进行编码，生成预测图像数据。帧间预测部108使用帧存储器106中保存的帧单位的输入图像和通过运动检测而导出的运动矢量，通过帧间预测对编码对象块进行编码，生成预测图像数据。co-located参照方向决定部112决定将位于编码对象图片的显示时间顺序前方的图片中包含的块(以后称为前方参照块)、或位于编码对象图片的显示时间顺序后方的图片中包含的块(以后称为后方参照块)中的哪个块作为co-located块。并且，co-located参照方向决定部112根据将前方参照块或后方参照块中的哪个块决定为co-located块，按照每个图片生成co-located参照方向标志，附加在编码对象图片中。这里，co-located块是与包含编码对象块的图片不同的图片内的块，并且是图片内的位置位于与编码对象块相同的位置的块。

[0079] 时间直接矢量计算部111使用co-located块的参照运动矢量，通过时间直接而导出预测运动矢量候选。在co-located块具有2个前方参照运动矢量或2个后方参照的运动矢量的情况下，时间直接矢量计算部111使用co-located块的2个运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1、时间直接矢量2)。并且，时间直接矢量计算部111对时间直接矢量1、时间直接矢量2分配分别对应的预测运动矢量索引的值。在co-located块不具有2个前方参照运动矢量或2个后方参照运动矢量的情况下，时间直接矢量计算部111根据co-located块是前方参照块还是后方参照块，决定时间直接中使用的co-located块的运动矢量。即，在co-located块为后方参照块的情况下，时间直接矢量计算部111使用co-located块的前方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。这里，在co-located块不具有前方参照运动矢量的情况下，时间直接矢量计算部111使用后方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。另一方面，在co-located块为前方参照块的情况下，时间直接矢量计算部111使用co-located块的后方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。这里，在co-located块不具有后方参照运动矢量的情况下，时间直接矢量计算部111使用前方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。

[0080] 帧间预测控制部109决定使用多个预测运动矢量候选中的、与通过运动检测而导出的运动矢量之间的误差最小的预测运动矢量候选进行运动矢量的编码。这里，误差表示预测运动矢量候选与通过运动检测而导出的运动矢量之间的差分值。并且，按照每个块生成与所决定的预测运动矢量对应的预测运动矢量索引。然后，将预测运动矢量索引和表示预测运动矢量候选与运动矢量的误差的误差信息发送到可变长度编码部113。

[0081] 正交变换部101针对所生成的预测图像数据与输入图像串之间的预测误差数据进行从图像区域到频率区域的变换。量化部102对变换为频率区域的预测误差数据进行量化处理。可变长度编码部113对量化处理后的预测误差数据、预测运动矢量索引、预测运动矢量候选的误差信息、图片类型信息、co-located参照方向标志进行可变长度编码处理，从而生成比特流。

[0082] 图4是示出本发明的动态图像编码方法的处理流程的概要的流程图。在步骤S101中，co-located参照方向决定部112决定在通过时间直接而导出预测运动矢量候选时将前方参照块或后方参照块中的哪个块作为co-located块。并且，co-located参照方向决定部112按照每个图片生成表示co-located块是前方参照块还是后方参照块的co-located参照方向标志，附加到图片中。

[0083] 在步骤S102中，时间直接矢量计算部111使用co-located块的参照运动矢量，通过时间直接而导出预测运动矢量候选。即，在co-located块具有2个前方参照运动矢量或2个后方参照的运动矢量的情况下，时间直接矢量计算部111使用co-located块的2个运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1、时间直接矢量2)。并且，时间直接矢量计算部111对时间直接矢量1、时间直接矢量2分配分别对应的预测运动矢量索引的值。这里，一般地，在预测运动矢量索引的值较小的情况下，需要的信息量较少。另一方面，当值增大时，需要的信息量增大。因此，当减小与成为精度更高的运动矢量的可能性高的运动矢量对应的预测运动矢量索引的值时，编码效率提高。因此，针对使用co-located块的参照运动矢量1(mvL0)导出的时间直接矢量1的索引的值小于针对使用co-located块的参照运动矢量2(mvL1)导出的时间直接矢量2的索引的值。在co-located块具有2个前方参照运动矢量或2个后方参照运动矢量的情况下，与参照运动矢量2相比，优先对参照运动矢量1进行运动检测的可能性高，这是因为，使用参照运动矢量1导出的时间直接矢量的精度优良的可能性高。并且，也可以根据从包含co-located块的图片到co-located块参照的参照图片为止的距离来分配索引的值。例如，根据从包含co-located块的图片到co-located块参照的参照图片为止所包含的图片数量来决定距离。在参照运动矢量1的距离比参照运动矢量2的距离短的情况下，使时间直接矢量1的索引的值小于时间直接2的索引的值。也可以根据参照运动矢量的绝对值的大小来决定索引的值。

[0084] 另一方面，在co-located块不具有2个前方参照运动矢量或2个后方参照运动矢量的情况下，时间直接矢量计算部111根据co-located块是前方参照块还是后方参照块，决定时间直接中使用的co-located块的运动矢量。即，在co-located块为后方参照块的情况下，时间直接矢量计算部111使用co-located块的前方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。这里，在co-located块不具有前方参照运动矢量的情况下，时间直接矢量计算部111使用后方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。另一方面，在co-located块为前方参照块的情况下，时间直接矢量计算部111使用co-located块的后方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。这里，在co-located块不具有后方参照运动矢量的情况下，时间直接矢量计算部111使用前方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。

[0085] 在步骤S103中，帧间预测控制部109使用通过运动检测而导出的运动矢量，通过帧间预测对图片进行编码。并且，帧间预测控制部109决定使用预测运动矢量候选中的误差最小的预测运动矢量进行运动矢量的编码。例如，决定将预测运动矢量候选与通过运动检测而导出的运动矢量的差分值作为误差，在进行运动矢量的编码时使用误差最小的预测运动矢量候选。然后，可变长度编码部113对与选择出的预测运动矢量候选对应的预测运动矢量索引和所决定的预测运动矢量候选的误差信息进行可变长度编码。

[0086] 图5A是示出预测运动矢量候选的一例的图。运动矢量A(MV_A)是位于编码对象块的左侧相邻位置的相邻块A的运动矢量。运动矢量B(MV_B)是位于编码对象块的上侧相邻位置的相邻块B的运动矢量。运动矢量C(MV_C)是位于编码对象块的右上侧相邻位置的相邻块C的运动矢量。并且，Median(MV_A,MV_B,MV_C)表示运动矢量A、B、C的中间值。这里，中间值通过以下所示的(式1)～(式3)导出。

[0087] 【数学式1】

[0088] Median(x，y，z)＝x+y+z-Min(x，Min(y，z))-Max(x，Max(y，z)) …(式1)[0089]

[0090]

[0091] 图5B是示出预测运动矢量索引的分配方式的一例的图。关于预测运动矢量索引的值，设与Median(MV_A,MV_B,MV_C)对应的值为“0”，设与运动矢量A对应的值为“1”，设与MV_B对应的值为“2”，设与MV_C对应的值为“3”，设与时间直接矢量1对应的值为“4”，设与时间直接矢量2对应的值为“5”。预测运动矢量索引的分配方式不限于该例。

[0092] 图6是示出对预测运动矢量索引进行可变长度编码时使用的码元表的一例的图。按照预测运动矢量索引的值从小到大的顺序，分配码元长度较短的码元。因此，通过减小与预测精度优良的可能性高的预测运动矢量候选对应的预测运动矢量索引的值，能够提高编码效率。

[0093] 图7是示出帧间预测控制部109中的预测运动矢量候选的决定流程的流程图。在步骤S201中，设预测运动矢量候选索引mvp_idx＝0、最小运动矢量误差＝∞。在步骤S202中，判断预测运动矢量候选索引mvp_idx是否小于预测运动矢量候选数。在步骤S202中判断为预测运动矢量候选索引mvp_idx小于预测运动矢量候选数的情况下(步骤S202：是)，在步骤S203中，根据通过运动检测而导出的运动矢量与预测运动矢量候选之差来计算运动矢量误差。在步骤S204中，判断步骤S202中计算出的运动矢量误差是否小于最小运动矢量误差。在步骤S204中判断为运动矢量误差小于最小运动矢量误差的情况下(步骤S204：是)，在步骤S205中，设最小运动矢量误差为计算出的运动矢量误差，设预测运动矢量索引为预测运动矢量候选索引mvp_idx。在步骤S206中，在预测运动矢量候选索引mvp_idx中加上“1”，返回步骤S202。在步骤S202中判断为预测运动矢量候选索引mvp_idx不小于预测运动矢量候选数的情况下(步骤S202：否)，在步骤S207中，对最小运动矢量误差和预测运动矢量索引进行可变长度编码。如上所述，根据图7所示的流程，决定在对运动矢量进行编码时使用与通过运动检测而导出的运动矢量之间的误差最小的预测运动矢量候选。然后，对所决定的预测运动矢量候选的误差信息和表示所决定的预测运动矢量的预测运动矢量索引进行可变长度编码。

[0094] 图8是示出图4的步骤S102的详细处理流程的流程图。下面对图8进行说明。在步骤S301中，时间直接矢量计算部111判断co-located块是否具有参照运动矢量。在步骤S301中判断为co-located块具有参照运动矢量的情况下(步骤S301：是)，在步骤S302中，时间直接矢量计算部111判断co-located块是否2次参照前方或2次参照后方。在步骤S302中判断为co-located块2次参照前方或2次参照后方的情况下(步骤S302：是)，在步骤S303中，时间直接矢量计算部111使用co-located块的运动矢量(mvL0)，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。在步骤S304中，时间直接矢量计算部111使用co-located块的运动矢量(mvL1)，通过时间直接而导出预测运动矢量候选(时间直接矢量2)。在步骤S305中，时间直接矢量计算部111在预测运动矢量候选中追加时间直接矢量1、2。

[0095] 在步骤S302中判断为co-located块未2次参照前方或2次参照后方的情况下(步骤S302：否)，在步骤S306中，时间直接矢量计算部111判断co-located块是否为后方参照块。在步骤S306中判断为co-located块为后方参照块的情况下(步骤S306：是)，在步骤S307中，时间直接矢量计算部111判断co-located块是否具有前方参照运动矢量(mvL0)。在步骤S307中判断为co-located块具有前方参照运动矢量(mvL0)的情况下(步骤S307：是)，在步骤S308中，时间直接矢量计算部111使用前方参照运动矢量(mvL0)，通过时间直接而导出时间直接矢量1。另一方面，在步骤S307中判断为co-located块不具有前方参照运动矢量(mvL0)的情况下(步骤S307：否)，在步骤S309中，时间直接矢量计算部111使用co-located块的后方参照运动矢量(mvL1)，通过时间直接而导出时间直接矢量1。在步骤S306中判断为co-located块不是后方参照块、即是前方参照块的情况下(步骤S306：否)，在步骤S310中，时间直接矢量计算部111判断co-located块是否具有后方参照运动矢量(mvL1)。在步骤S310中判断为co-located块具有后方参照运动矢量(mvL1)的情况下(步骤S310：是)，在步骤S311中，时间直接矢量计算部111使用后方参照运动矢量(mvL1)，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。另一方面，在步骤S310中判断为co-located块不具有后方参照运动矢量(mvL1)的情况下(步骤S310：否)，在步骤S312中，时间直接矢量计算部111使用co-located块的前方参照运动矢量(mvL0)，通过时间直接而导出时间直接矢量1。在步骤S313中，时间直接矢量计算部111在预测运动矢量候选中追加步骤S308、步骤S309、步骤S311、步骤S312中导出的时间直接矢量1。

[0096] 在步骤S301中判断为co-located块不具有参照运动矢量(mvL0、mvL1)的情况下(步骤S301：否)，在步骤S314中，时间直接矢量计算部111不通过时间直接而导出预测运动矢量候选，不对预测运动矢量候选进行追加。

[0097] 接着，对通过时间直接而导出运动矢量的方法进行详细说明。

[0098] 图9A示出如下方法：在co-located块2次参照前方的情况下、即具有2个(mvL0、mvL1)前方参照运动矢量的情况下，使用各个运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1、时间直接矢量2)。通过以下的计算式导出预测运动矢量候选(TemporalMV1、2)。

[0099] TemporalMV1＝mvL0×(B8-B4)/(B4-B2)…(式4)

[0100] TemporalMV2＝mvL1×(B8-B4)/(B4-B0)…(式5)

[0101] 这里，(B4-B0)表示图片B4和图片B0的显示时间的时间差信息，(B8-B4)表示图片B8和图片B4的显示时间的时间差信息。

[0102] 图9B示出如下方法：在co-located块2次参照后方的情况下、即具有2个(mvL0、mvL1)后方参照运动矢量的情况下，使用各个运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1、时间直接矢量2)。通过以下的计算式导出预测运动矢量候选(TemporalMV1、2)。

[0103] TemporalMV1＝mvL0×(B2-B0)/(B4-B2)…(式6)

[0104] TemporalMV2＝mvL1×(B2-B0)/(B8-B2)…(式7)

[0105] 这里，(B2-B0)表示图片B2和图片B0的显示时间的时间差信息，(B8-B2)表示图片B8和图片B2的显示时间的时间差信息。

[0106] 图10A示出如下方法：在co-located块为后方参照块且具有前方参照运动矢量和后方参照运动矢量的情况下，使用前方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。使用前方参照运动矢量，通过以下的计算式导出预测运动矢量候选(TemporalMV1)。

[0107] TemporalMV1＝mvL0×(B2-B0)/(B4-B0)…(式8)

[0108] 这里，(B2-B0)表示图片B2和图片B0的显示时间的时间差信息，(B4-B0)表示图片B4和图片B0的显示时间的时间差信息。

[0109] 图10B示出如下方法：在co-located块为后方参照块且仅具有后方参照运动矢量的情况下，使用后方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。使用后方参照运动矢量，通过以下的计算式导出预测运动矢量候选。

[0110] TemporalMV1＝mvL1×(B2-B0)/(B4-B8)…(式9)

[0111] 图11A示出如下方法：在co-located块为前方参照块且具有前方参照运动矢量和后方参照运动矢量的情况下，使用后方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。使用后方参照运动矢量，通过以下的计算式导出预测运动矢量候选。

[0112] TemporalMV1＝mvL1×(B6-B8)/(B4-B8)…(式10)

[0113] 图11B示出如下方法：在co-located块为前方参照块且仅具有前方参照运动矢量的情况下，使用前方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。使用前方参照运动矢量，通过以下的计算式导出预测运动矢量候选。

[0114] TemporalMV1＝mvL0×(B6-B8)/(B4-B0)…(式11)

[0115] 这样，在本实施方式中，在对运动矢量进行编码时，通过使用多个预测运动矢量候选中的误差最小的预测运动矢量候选，能够提高编码效率。例如，设基于运动检测的运动矢量与预测运动矢量候选的差分值作为误差。并且，根据co-located块的位置和co-located块所具有的参照运动矢量的数量，选择时间直接时使用的co-located块的参照运动矢量，由此，能够缩小为高精度的预测运动矢量候选，能够减轻编码、解码时的处理负荷。具体而言，在co-located块2次参照前方或2次参照后方的情况下，使用co-located块的2个运动矢量、通过时间直接而导出的预测运动矢量候选(时间直接矢量1、时间直接矢量2)的精度近似的可能性高。因此，在这种情况下，将双方作为预测运动矢量候选。另一方面，在co-located块具有前方参照运动矢量和后方参照运动矢量的情况下，根据co-located块的位置选择时间直接中使用的运动矢量。在co-located块为后方参照块的情况下，使用前方参照运动矢量。这是因为，前方参照运动矢量是从包含co-located块的图片朝向包含编码对象块的图片方向的运动矢量，与后方参照运动矢量相比，预测误差较小的可能性高。另一方面，在co-located块为前方参照块的情况下，使用后方参照运动矢量。这是因为，后方参照运动矢量是从包含co-located块的图片朝向包含编码对象块的图片方向的运动矢量，与前方参照运动矢量相比，预测误差较小的可能性高。

[0116] 另外，在本实施方式中，判断co-located块是否2次参照前方或2次参照后方，但是，还可以同时判断co-located块的位置。具体而言，在图8的步骤S302中，判断是否在co-located块为前方参照块的情况下2次参照前方、或者在co-located块为后方参照块的情况下2次参照后方。在co-located块为后方参照块的情况下，后方参照运动矢量是从包含co-located块的图片朝向位于包含编码对象块的图片的相反侧的图片方向的运动矢量，所以预测精度降低。在这种情况下，通过导出时间直接矢量1、2双方，提高预测精度。这样，仅在预测精度降低的情况下，求出时间直接矢量1、2，由此，能够提高预测精度并抑制处理量。

[0117] 并且，在图8中，在co-located块不具有参照运动矢量的情况下，不计算时间直接矢量，但是，通过将其他块作为co-located块，能够计算时间直接矢量。例如，在co-located块为后方参照块且不具有参照运动矢量的情况下，考虑将前方参照块作为co-located块。该情况下，通过使用前方参照块的参照运动矢量中的显示顺序后方的参照运动矢量，能够提高预测精度。并且，在前方参照块不具有显示顺序后方的参照运动矢量的情况下，通过使用显示顺序前方的参照运动矢量，能够导出时间直接矢量。另一方面，在co-located块为前方参照块且不具有参照运动矢量的情况下，考虑将后方参照块作为co-located块。该情况下，通过使用后方参照块的参照运动矢量中的显示顺序前方的参照运动矢量，能够提高预测精度。并且，在后方参照块不具有显示顺序前方的参照运动矢量的情况下，通过使用显示顺序后方的参照运动矢量，能够导出时间直接矢量。另外，co-located块使用编码对象图片的参照列表L0的索引的值为“0”的图片内的块。因此，在参照列表L0的索引的值由“0”确定的co-located块不具有参照运动矢量的情况下，考虑使用参照列表L1的索引的值由“0”确定的co-located块的参照运动矢量。

[0118] (实施方式2)

[0119] 本实施方式与实施方式1的不同之处在于图8所示的判断步骤S302。下面，以与实施方式1的不同之处为中心进行说明。

[0120] 图12是示出图4的步骤S102的实施方式2的详细处理流程的流程图。下面对图12进行说明。

[0121] 在图12的步骤S402中，时间直接矢量计算部111判断参照列表L0和参照列表L1中的参照图片索引针对参照图片的分配方式是否相同。一般地，参照列表L1对显示时间顺序中位于编码对象图片后方的图片分配参照图片索引。另一方面，参照列表L0对显示时间顺序中位于编码对象图片前方的图片分配参照图片索引。因此，在参照列表L1和参照列表L0中的参照图片索引针对参照图片的分配方式相同的情况下，参照方向被限制为编码对象图片的显示顺序前方或后方中的任意一方。

[0122] 在步骤S402中判断为参照列表L0和参照列表L1中的参照图片索引针对参照图片的分配方式相同的情况下(步骤S402：是)，在步骤S403、步骤S404中，时间直接矢量计算部111使用co-located块的参照运动矢量mvL0、mvL1，通过时间直接而导出时间直接矢量1、2。
由于参照运动矢量mvL0、mvL1为相同参照方向，所以预测精度近似。因此，通过在预测运动矢量候选中追加双方，能够提高预测精度。在co-located块仅具有参照运动矢量mvL0、mvL1中的任意一方的情况下，仅使用任意一方，通过时间直接而导出时间直接矢量1。即，仅执行步骤S403、步骤S404中的任意一方。步骤S406以后的处理与实施方式1相同，所以省略说明。

[0123] 这样，在本实施方式中，根据参照图片列表进行判断，由此减轻编码/解码时的处理量。由于针对每个图片具有参照图片列表，所以，以图片单位进行判断即可，不需要以块单位进行判断，所以能够减轻处理量。

[0124] (实施方式3)

[0125] 图13是示出使用本发明的动态图像解码方法的动态图像解码装置的一个实施方式的结构的模块图。

[0126] 在本实施方式中，将位于解码对象图片的显示时间顺序前方的图片中包含的块称为前方参照块。并且，将位于解码对象图片的显示时间顺序后方的图片中包含的块称为后方参照块。

[0127] 如图13所示，动态图像解码装置200具有可变长度解码部201、逆量化部202、逆正交变换部203、块存储器204、帧存储器205、帧内预测部206、帧间预测部207、帧间预测控制部208、时间直接矢量计算部209。

[0128] 可变长度解码部201对所输入的比特流进行可变长度解码处理，生成图片类型信息、预测运动矢量索引、co-located参照方向标志、进行可变长度解码处理后的比特流。逆量化部202对进行可变长度解码处理后的比特流进行逆量化处理。逆正交变换部203将进行逆量化处理后的比特流从频率区域变换为图像区域，作为预测误差图像数据。块存储器204以块单位保存对预测误差图像数据和预测图像数据进行相加而生成的图像串，帧存储器205以帧单位保存图像串。帧内预测部206通过使用块存储器204中保存的块单位的图像串进行帧内预测，生成解码对象块的预测误差图像数据。帧间预测部207通过使用帧存储器
205中保存的帧单位的图像串进行帧间预测，生成解码对象块的预测误差图像数据。时间直接矢量计算部209使用co-located块的参照运动矢量，通过时间直接而导出预测运动矢量候选。在co-located块具有2个前方参照运动矢量或2个后方参照的运动矢量的情况下，使用co-located块的2个运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1、时间直接矢量2)。并且，时间直接矢量计算部209对时间直接矢量1、时间直接矢量2分配分别对应的预测运动矢量索引的值。在co-located块不具有2个前方参照运动矢量或2个后方参照运动矢量的情况下，时间直接矢量计算部209根据co-located块是前方参照块还是后方参照块，决定时间直接中使用的co-located块的运动矢量。在co-located块为后方参照块的情况下，时间直接矢量计算部209使用co-located块的前方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。在co-located块不具有前方参照运动矢量的情况下，时间直接矢量计算部209使用后方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。另一方面，在co-located块为前方参照块的情况下，时间直接矢量计算部209使用co-located块的后方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。在co-located块不具有后方参照运动矢量的情况下，时间直接矢量计算部209使用前方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。帧间预测控制部208根据预测运动矢量索引，从多个预测运动矢量候选中决定帧间预测时使用的运动矢量。并且，帧间预测控制部208通过在所决定的预测运动矢量候选的矢量的值中加上预测运动矢量候选的误差信息，作为帧间预测时使用的运动矢量。

[0129] 最后，通过对解码后的预测图像数据和预测误差图像数据进行相加，生成解码图像串。

[0130] 图14是示出本发明的动态图像解码方法的处理流程的概要的流程图。在步骤S501中，可变长度解码部201以图片单位对co-located参照方向标志进行解码。

[0131] 在步骤S502中，时间直接矢量计算部209根据co-located参照标志，决定将前方参照块作为co-located块，还是将后方参照块作为co-located块。时间直接矢量计算部209使用co-located块的参照运动矢量，通过时间直接而导出预测运动矢量候选。在co-located块具有2个前方参照运动矢量或2个后方参照运动矢量的情况下，使用co-located块的2个运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1、时间直接矢量2)。并且，时间直接矢量计算部209对时间直接矢量1、时间直接矢量2分配分别对应的预测运动矢量索引的值。预测运动矢量索引的分配方式如实施方式1所示。在co-located块不具有2个前方参照运动矢量或2个后方参照运动矢量的情况下，时间直接矢量计算部209根据co-located块是前方参照块还是后方参照块，决定时间直接中使用的co-located块的运动矢量。在co-located块为后方参照块的情况下，时间直接矢量计算部209使用co-located块的前方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。在co-located块不具有前方参照运动矢量的情况下，时间直接矢量计算部209使用后方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。另一方面，在co-located块为前方参照块的情况下，时间直接矢量计算部209使用co-located块的后方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。在co-located块不具有后方参照运动矢量的情况下，时间直接矢量计算部209使用前方参照运动矢量，通过时间直接而导出预测运动矢量候选(时间直接矢量1)。

[0132] 在步骤S503中，帧间预测控制部208根据预测运动矢量索引，从多个预测运动矢量候选中决定帧间预测时使用的运动矢量。并且，帧间预测控制部208通过在所决定的预测运动矢量候选中加上误差信息，导出运动矢量。使用导出的运动矢量，通过帧间预测进行解码。

[0133] 这样，根据本实施方式，能够选择最适于解码对象块的运动矢量，所以，能够适当对高效压缩的比特流进行解码。

[0134] 并且，根据co-located块的位置和co-located块所具有的参照运动矢量的数量，选择时间直接时使用的co-located块的参照运动矢量，由此，能够缩小为高精度的预测运动矢量候选，能够减轻处理负荷。具体而言，在co-located块2次参照前方或2次参照后方的情况下，使用co-located块的2个运动矢量、通过时间直接而导出的预测运动矢量候选(时间直接矢量1、时间直接矢量2)的精度近似的可能性高。因此，在这种情况下，将双方作为预测运动矢量候选。另一方面，在co-located块具有前方参照运动矢量和后方参照运动矢量的情况下，根据co-located块的位置选择时间直接中使用的运动矢量。在co-located块为后方参照块的情况下，使用前方参照运动矢量。这是因为，前方参照运动矢量是从包含co-located块的图片朝向包含编码对象块的图片方向的运动矢量，与后方参照运动矢量相比，预测误差较小的可能性高。另一方面，在co-located块为前方参照块的情况下，使用后方参照运动矢量。这是因为，后方参照运动矢量是从包含co-located块的图片朝向包含编码对象块的图片方向的运动矢量，与前方参照运动矢量相比，预测误差较小的可能性高。

[0135] 另外，在本实施方式中，判断co-located块是否2次参照前方或2次参照后方，但是，还可以同时判断co-located块的位置。具体而言，判断是否在co-located块为前方参照块的情况下2次参照前方、或者在co-located块为后方参照块的情况下2次参照后方。在co-located块为后方参照块的情况下，后方参照运动矢量是从包含co-located块的图片朝向位于包含编码对象块的图片的相反侧的图片方向的运动矢量，所以预测精度降低。在这种情况下，通过导出时间直接矢量1、2双方，提高预测精度。这样，仅在预测精度降低的情况下，求出时间直接矢量1、2，由此，能够提高预测精度并抑制处理量。

[0136] 并且，代替co-located块是否2次参照前方或2次参照后方的判断，也可以判断参照列表L0和参照列表L1中的参照图片索引针对参照图片的分配方式是否相同。一般地，参照列表L1对显示时间顺序中位于编码对象图片后方的图片分配参照图片索引。另一方面，参照列表L0对显示时间顺序中位于编码对象图片前方的图片分配参照图片索引。因此，在参照列表L1和参照列表L0中的参照图片索引针对参照图片的分配方式相同的情况下，参照方向被限制为编码对象图片的显示顺序前方或后方中的任意一方。这样，根据参照图片列表进行判断，由此能够减轻处理量。这是因为，由于针对每个图片具有参照图片列表，所以，以图片单位进行判断即可，不需要以块单位进行判断。

[0137] 并且，在co-located块不具有参照运动矢量的情况下，通过将其他块作为co-located块，能够计算时间直接矢量。例如，在co-located块为后方参照块且不具有参照运动矢量的情况下，考虑将前方参照块作为co-located块。该情况下，通过使用前方参照块的参照运动矢量中的显示顺序后方的参照运动矢量，能够提高预测精度。并且，在前方参照块不具有显示顺序后方的参照运动矢量的情况下，通过使用显示顺序前方的参照运动矢量，能够导出时间直接矢量。另一方面，在co-located块为前方参照块且不具有参照运动矢量的情况下，考虑将后方参照块作为co-located块。该情况下，通过使用后方参照块的参照运动矢量中的显示顺序前方的参照运动矢量，能够提高预测精度。并且，在后方参照块不具有显示顺序前方的参照运动矢量的情况下，通过使用显示顺序后方的参照运动矢量，能够导出时间直接矢量。另外，co-located块使用编码对象图片的参照列表L0的索引的值为“0”的图片内的块。因此，在参照列表L0的索引的值由“0”确定的co-located块不具有参照运动矢量的情况下，考虑使用参照列表L1的索引的值由“0”确定的co-located块的参照运动矢量。

[0138] (实施方式4)

[0139] 通过将用来实现上述各实施方式所示的动态图像编码方法(图像编码方法)或动态图像解码方法(图像解码方法)的结构的程序记录到存储介质中，能够将上述各实施方式所示的处理在独立的计算机系统中简单地实施。存储介质是磁盘、光盘、光磁盘、IC卡、半导体存储器等，只要是能够记录程序的介质就可以。

[0140] 进而，这里说明在上述各实施方式中示出的动态图像编码方法(图像编码方法)及动态图像解码方法(图像解码方法)的应用例和使用它的系统。该系统的特征在于，具有由使用图像编码方法的图像编码装置及使用图像解码方法的图像解码装置构成的图像编码解码装置。关于系统的其他结构，可以根据情况而适当变更。

[0141] 图15是表示实现内容分发服务的内容供给系统ex100的整体结构的图。将通信服务的提供区划分为希望的大小，在各小区内分别设置有作为固定无线站的基站ex106、ex107、ex108、ex109、ex110。

[0142] 该内容供给系统ex100在因特网ex101上经由因特网服务提供商ex102及电话网ex104、及基站ex107～ex110连接着计算机ex111、PDA(Personal Digital Assistant)ex112、照相机ex113、便携电话ex114、游戏机ex115等的各设备。

[0143] 但是，内容供给系统ex100并不限定于图15那样的结构，也可以将某些要素组合连接。此外，也可以不经由作为固定无线站的基站ex107～ex110将各设备直接连接在电话网ex104上。此外，也可以将各设备经由近距离无线等直接相互连接。

[0144] 照相机ex113是能够进行数字摄像机等的动态图像摄影的设备，照相机ex116是能够进行数字照相机等的静止图像摄影、动态图像摄影的设备。此外，便携电话ex114是GSM(Global System for Mobile Communications)方式、CDMA(Code Division Multiple Access)方式、W－CDMA(Wideband－Code Division Multiple Access)方式、或LTE(Long Term Evolution)方式、HSPA(High Speed Packet Access)的便携电话机、或PHS(Personal Handyphone System)等，是哪种都可以。

[0145] 在内容供给系统ex100中，通过将照相机ex113等经由基站ex109、电话网ex104连接在流媒体服务器ex103上，能够进行现场分发等。在现场分发中，对用户使用照相机ex113摄影的内容(例如音乐会现场的影像等)如在上述各实施方式中说明那样进行编码处理(即，作为本发明的一个方式的图像编码装置发挥作用)，向流媒体服务器ex103发送。另一方面，流媒体服务器ex103将发送来的内容数据对有请求的客户端进行流分发。作为客户端，有能够将上述编码处理后的数据解码的计算机ex111、PDAex112、照相机ex113、便携电话ex114、游戏机ex115等。在接收到分发的数据的各设备中，将接收到的数据解码处理而再现(即，作为本发明的一个方式的图像解码装置发挥作用)。

[0146] 另外，摄影的数据的编码处理既可以由照相机ex113进行，也可以由进行数据的发送处理的流媒体服务器ex103进行，也可以相互分担进行。同样，分发的数据的解码处理既可以由客户端进行，也可以由流媒体服务器ex103进行，也可以相互分担进行。此外，并不限于照相机ex113，也可以将由照相机ex116摄影的静止图像及/或动态图像数据经由计算机ex111向流媒体服务器ex103发送。此情况下的编码处理由照相机ex116、计算机ex111、流媒体服务器ex103的哪个进行都可以，也可以相互分担进行。

[0147] 此外，这些编码解码处理一般在计算机ex111或各设备具有的LSIex500中处理。LSIex500既可以是单芯片，也可以是由多个芯片构成的结构。另外，也可以将动态图像编码解码用的软件装入到能够由计算机ex111等读取的某些记录介质(CD－ROM、软盘、硬盘等)中、使用该软件进行编码解码处理。进而，在便携电话ex114是带有照相机的情况下，也可以将由该照相机取得的动态图像数据发送。此时的动态图像数据是由便携电话ex114具有的LSIex500编码处理的数据。

[0148] 此外，也可以是，流媒体服务器ex103是多个服务器或多个计算机，是将数据分散处理、记录、及分发的。

[0149] 如以上这样，在内容供给系统ex100中，客户端能够接收编码的数据而再现。这样，在内容供给系统ex100中，客户端能够将用户发送的信息实时地接收、解码、再现，即使是没有特别的权利或设备的用户也能够实现个人广播。

[0150] 另外，并不限定于内容供给系统ex100的例子，如图16所示，在数字广播用系统ex200中也能够装入上述实施方式的至少动态图像编码装置(图像编码装置)或动态图像解码装置(图像解码装置)的某个。具体而言，在广播站ex201中，将对影像数据复用了音乐数据等而得到的复用数据经由电波向通信或广播卫星ex202传送。该影像数据是通过上述各实施方式中说明的动态图像编码方法编码后的数据(即，通过本发明的一个方式的图像编码装置编码后的数据)。接受到该数据的广播卫星ex202发出广播用的电波，能够对该电波进行卫星广播接收的家庭的天线ex204接收该电波，通过电视机(接收机)ex300或机顶盒(STB)ex217等的装置将接收到的复用数据解码并将其再现(即，作为本发明的一个方式的图像解码装置发挥作用)。

[0151] 此外，可以在将记录在DVD、BD等的记录介质ex215中的复用数据读取并解码、或将影像数据编码再根据情况与音乐信号复用而写入记录介质ex215中的读取器/记录器ex218中也能够安装上述各实施方式所示的动态图像解码装置或动态图像编码装置。在此情况下，可以将再现的影像信号显示在监视器ex219上，通过记录有复用数据的记录介质ex215在其他装置或系统中能够再现影像信号。此外，也可以在连接在有线电视用的线缆ex203或卫星/地面波广播的天线ex204上的机顶盒ex217内安装动态图像解码装置，将其用电视机的监视器ex219显示。此时，也可以不是在机顶盒、而在电视机内装入动态图像解码装置。

[0152] 图17是表示使用在上述各实施方式中说明的动态图像解码方法及动态图像编码方法的电视机(接收机)ex300的图。电视机ex300具备经由接收上述广播的天线ex204或线缆ex203等取得或者输出对影像数据复用了声音数据的复用数据的调谐器ex301、将接收到的复用数据解调或调制为向外部发送的编码数据的调制/解调部ex302、和将解调后的复用数据分离为影像数据、声音数据或将在信号处理部ex306中编码的影像数据、声音数据复用的复用/分离部ex303。

[0153] 此外，电视机ex300具备：具有将声音数据、影像数据分别解码、或将各自的信息编码的声音信号处理部ex304和影像信号处理部ex305(即，作为本发明的一个方式的图像编码装置或图像解码装置发挥作用)的信号处理部ex306；具有将解码后的声音信号输出的扬声器ex307及显示解码后的影像信号的显示器等的显示部ex308的输出部ex309。进而，电视机ex300具备具有受理用户操作的输入的操作输入部ex312等的接口部ex317。进而，电视机ex300具有合并控制各部的控制部ex310、对各部供给电力的电源电路部ex311。接口部ex317也可以除了操作输入部ex312以外，还具有与读取器/记录器ex218等的外部设备连接的桥接部ex313、用来能够安装SD卡等的记录介质ex216的插槽部ex314、用来与硬盘等的外部记录介质连接的驱动器ex315、与电话网连接的调制解调器ex316等。另外，记录介质ex216是能够通过收存的非易失性/易失性的半导体存储元件电气地进行信息的记录的结构。电视机ex300的各部经由同步总线相互连接。

[0154] 首先，对电视机ex300将通过天线ex204等从外部取得的复用数据解码、再现的结构进行说明。电视机ex300接受来自遥控器ex220等的用户操作，基于具有CPU等的控制部ex310的控制，将由调制/解调部ex302解调的复用数据用复用/分离部ex303分离。进而，电视机ex300将分离的声音数据用声音信号处理部ex304解码，将分离的影像数据用影像信号处理部ex305使用在上述各实施方式中说明的解码方法解码。将解码后的声音信号、影像信号分别从输出部ex309朝向外部输出。在输出时，可以暂时将这些信号储存到缓冲器ex318、ex319等中，以使声音信号和影像信号同步再现。此外，电视机ex300也可以不是从广播等、而从磁/光盘、SD卡等的记录介质ex215、ex216读出编码的复用数据。接着，对电视机ex300将声音信号或影像信号编码、向外部发送或写入到记录介质等中的结构进行说明。电视机ex300接受来自遥控器ex220等的用户操作，基于控制部ex310的控制，由声音信号处理部ex304将声音信号编码，由影像信号处理部ex305将影像信号使用在上述各实施方式中说明的编码方法编码。将编码后的声音信号、影像信号用复用/分离部ex303复用，向外部输出。在复用时，可以暂时将这些信号储存到缓冲器ex320、ex321等中，以使声音信号和影像信号同步再现。另外，缓冲器ex318、ex319、ex320、ex321既可以如图示那样具备多个，也可以是共用一个以上的缓冲器的结构。进而，在图示以外，也可以在例如调制/解调部ex302或复用/分离部ex303之间等也作为避免系统的上溢、下溢的缓冲部而在缓冲器中储存数据。

[0155] 此外，电视机ex300除了从广播等或记录介质等取得声音数据、影像数据以外，也可以具备受理麦克风或照相机的AV输入的结构，对从它们中取得的数据进行编码处理。另外，这里，将电视机ex300作为能够进行上述编码处理、复用、及外部输出的结构进行了说明，但也可以不能进行这些处理，而是仅能够进行上述接收、解码处理、外部输出的结构。

[0156] 此外，在由读取器/记录器ex218从记录介质将复用数据读出、或写入的情况下，上述解码处理或编码处理由电视机ex300、读取器/记录器ex218的哪个进行都可以，也可以是电视机ex300和读取器/记录器ex218相互分担进行。

[0157] 作为一例，将从光盘进行数据的读入或写入的情况下的信息再现/记录部ex400的结构表示在图18中。信息再现/记录部ex400具备以下说明的单元ex401、ex402、ex403、ex404、ex405、ex406、ex407。光头ex401对作为光盘的记录介质ex215的记录面照射激光斑而写入信息，检测来自记录介质ex215的记录面的反射光而读入信息。调制记录部ex402电气地驱动内置在光头ex401中的半导体激光器，根据记录数据进行激光的调制。再现解调部ex403将由内置在光头ex401中的光检测器电气地检测到来自记录面的反射光而得到的再现信号放大，将记录在记录介质ex215中的信号成分分离并解调，再现所需要的信息。缓冲器ex404将用来记录到记录介质ex215中的信息及从记录介质ex215再现的信息暂时保持。盘马达ex405使记录介质ex215旋转。伺服控制部ex406一边控制盘马达ex405的旋转驱动一边使光头ex401移动到规定的信息轨道，进行激光斑的追踪处理。系统控制部ex407进行信息再现/记录部ex400整体的控制。上述的读出及写入的处理由系统控制部ex407利用保持在缓冲器ex404中的各种信息、此外根据需要而进行新的信息的生成、追加、并且一边使调制记录部ex402、再现解调部ex403、伺服控制部ex406协调动作、一边通过光头ex401进行信息的记录再现来实现。系统控制部ex407例如由微处理器构成，通过执行读出写入的程序来执行它们的处理。

[0158] 以上，假设光头ex401照射激光斑而进行了说明，但也可以是使用接近场光进行高密度的记录的结构。

[0159] 在图19中表示作为光盘的记录介质ex215的示意图。在记录介质ex215的记录面上，以螺旋状形成有导引槽(沟)，在信息轨道ex230中，预先通过沟的形状的变化而记录有表示盘上的绝对位置的地址信息。该地址信息包括用来确定作为记录数据的单位的记录块ex231的位置的信息，通过在进行记录及再现的装置中将信息轨道ex230再现而读取地址信息，能够确定记录块。此外，记录介质ex215包括数据记录区域ex233、内周区域ex232、外周区域ex234。为了记录用户数据而使用的区域是数据记录区域ex233，配置在比数据记录区域ex233靠内周或外周的内周区域ex232和外周区域ex234用于用户数据的记录以外的特定用途。信息再现/记录部ex400对这样的记录介质ex215的数据记录区域ex233进行编码的声音数据、影像数据或复用了这些数据的编码数据的读写。

[0160] 以上，举1层的DVD、BD等的光盘为例进行了说明，但并不限定于这些，也可以是多层构造、在表面以外也能够记录的光盘。此外，也可以是在盘的相同的地方使用不同波长的颜色的光记录信息、或从各种角度记录不同的信息的层等、进行多维的记录/再现的构造的光盘。

[0161] 此外，在数字广播用系统ex200中，也可以由具有天线ex205的车ex210从卫星ex202等接收数据、在车ex210具有的导航仪ex211等的显示装置上再现动态图像。另外，导航仪ex211的结构可以考虑例如在图17所示的结构中添加GPS接收部的结构，在计算机ex111及便携电话ex114等中也可以考虑同样的结构。

[0162] 图20A是表示使用在上述实施方式中说明的动态图像解码方法和动态图像编码方法的便携电话ex114的图。便携电话ex114具有由用来在与基站ex110之间收发电波的天线ex350、能够拍摄影像、静止图像的照相机部ex365、显示将由照相机部ex365摄影的影像、由天线ex350接收到的影像等解码后的数据的液晶显示器等的显示部ex358。便携电话ex114还具有包含操作键部ex366的主体部、用来进行声音输出的扬声器等的声音输出部ex357、用来进行声音输入的麦克风等的声音输入部ex356、保存拍摄到的影像、静止图像、录音的声音、或者接收到的影像、静止图像、邮件等的编码后的数据或者解码后的数据的存储器部ex367、或者作为与同样保存数据的记录介质之间的接口部的插槽部ex364。

[0163] 进而，使用图20B对便携电话ex114的结构例进行说明。便携电话ex114对于合并控制具备显示部ex358及操作键部ex366的主体部的各部的主控制部ex360，将电源电路部ex361、操作输入控制部ex362、影像信号处理部ex355、照相机接口部ex363、LCD(Liquid Crystal Display：液晶显示器)控制部ex359、调制/解调部ex352、复用/分离部ex353、声音信号处理部ex354、插槽部ex364、存储器部ex367经由总线ex370相互连接。

[0164] 电源电路部ex361如果通过用户的操作使通话结束及电源键成为开启状态，则通过从电池组对各部供给电力，便携电话ex114起动为能够动作的状态。

[0165] 便携电话ex114基于具有CPU、ROM及RAM等的主控制部ex360的控制，在语音通话模式时，将由声音输入部ex356集音的声音信号通过声音信号处理部ex354变换为数字声音信号，将其用调制/解调部ex352进行波谱扩散处理，由发送/接收部ex351实施数字模拟变换处理及频率变换处理后经由天线ex350发送。此外，便携电话ex114在语音通话模式时，将由天线ex350接收到的接收数据放大并实施频率变换处理及模拟数字变换处理，用调制/解调部ex352进行波谱逆扩散处理，通过声音信号处理部ex354变换为模拟声音数据后，将其经由声音输出部ex357输出。

[0166] 进而，在数据通信模式时发送电子邮件的情况下，将通过主体部的操作键部ex366等的操作输入的电子邮件的文本数据经由操作输入控制部ex362向主控制部ex360送出。主控制部ex360将文本数据用调制/解调部ex352进行波谱扩散处理，由发送/接收部ex351实施数字模拟变换处理及频率变换处理后，经由天线ex350向基站ex110发送。在接收电子邮件的情况下，对接收到的数据执行上述处理的大致逆处理，并输出到显示部ex350。

[0167] 在数据通信模式时，在发送影像、静止图像、或者影像和声音的情况下，影像信号处理部ex355将从照相机部ex365供给的影像信号通过上述各实施方式所示的动态图像编码方法进行压缩编码(即，作为本发明的一个方式的图像编码装置发挥作用)，将编码后的影像数据送出至复用/分离部ex353。另外，声音信号处理部ex354对通过照相机部ex365拍摄影像、静止图像等的过程中用声音输入部ex356集音的声音信号进行编码，将编码后的声音数据送出至复用/分离部ex353。

[0168] 复用/分离部ex353通过规定的方式，对从影像信号处理部ex355供给的编码后的影像数据和从声音信号处理部ex354供给的编码后的声音数据进行复用，将其结果得到的复用数据用调制/解调部(调制/解调电路部)ex352进行波谱扩散处理，由发送/接收部ex351实施数字模拟变换处理及频率变换处理后，经由天线ex350发送。

[0169] 在数据通信模式时接收到链接到主页等的动态图像文件的数据的情况下，或者接收到附加了影像或者声音的电子邮件的情况下，为了对经由天线ex350接收到的复用数据进行解码，复用/分离部ex353通过将复用数据分离，分为影像数据的比特流和声音数据的比特流，经由同步总线ex370将编码后的影像数据向影像信号处理部ex355供给，并将编码后的声音数据向声音信号处理部ex354供给。影像信号处理部ex355通过与上述各实施方式所示的动态图像编码方法相对应的动态图像解码方法进行解码，由此对影像信号进行解码(即，作为本发明的一个方式的图像解码装置发挥作用)，经由LCD控制部ex359从显示部ex358显示例如链接到主页的动态图像文件中包含的影像、静止图像。另外，声音信号处理部ex354对声音信号进行解码，从声音输出部ex357输出声音。

[0170] 此外，上述便携电话ex114等的终端与电视机ex300同样，除了具有编码器、解码器两者的收发型终端以外，还可以考虑只有编码器的发送终端、只有解码器的接收终端的3种安装形式。另外，在数字广播用系统ex200中，设为发送、接收在影像数据中复用了音乐数据等得到的复用数据而进行了说明，但除声音数据之外复用了与影像关联的字符数据等的数据也可以，不是复用数据而是影像数据本身也可以。

[0171] 这样，将在上述各实施方式中表示的动态图像编码方法或动态图像解码方法用在上述哪种设备、系统中都可以，通过这样，能够得到在上述各实施方式中说明的效果。

[0172] 此外，本发明并不限定于这样的上述实施方式，能够不脱离本发明的范围而进行各种变形或修正。

[0173] (实施方式5)

[0174] 也可以通过将在上述各实施方式中示出的动态图像编码方法或装置、与依据MPEG－2、MPEG4－AVC、VC－1等不同的规格的动态图像编码方法或装置根据需要而适当切换，来生成影像数据。

[0175] 这里，在生成分别依据不同的规格的多个影像数据的情况下，在解码时，需要选择对应于各个规格的解码方法。但是，由于不能识别要解码的影像数据依据哪个规格，所以产生不能选择适当的解码方法的问题。

[0176] 为了解决该问题，在影像数据中复用了声音数据等的复用数据采用包含表示影像数据依据哪个规格的识别信息的结构。以下，说明包括通过在上述各实施方式中示出的动态图像编码方法或装置生成的影像数据在内的复用数据的具体的结构。复用数据是MPEG－2传输流形式的数字流。

[0177] 图21是表示复用数据的结构的图。如图21所示，复用数据通过将视频流、音频流、演示图形流(PG)、交互图形流中的1个以上进行复用而得到。视频流表示电影的主影像及副影像，音频流(IG)表示电影的主声音部分和与该主声音混合的副声音，演示图形流表示电影的字幕。这里，所谓主影像，表示显示在画面上的通常的影像，所谓副影像，是在主影像中用较小的画面显示的影像。此外，交互图形流表示通过在画面上配置GUI部件而制作的对话画面。视频流通过在上述各实施方式中示出的动态图像编码方法或装置、依据以往的MPEG－2、MPEG4－AVC、VC－1等规格的动态图像编码方法或装置编码。音频流由杜比AC－3、Dolby Digital Plus、MLP、DTS、DTS－HD、或线性PCM等的方式编码。

[0178] 包含在复用数据中的各流通过PID被识别。例如，对在电影的影像中使用的视频流分配0x1011，对音频流分配0x1100到0x111F，对演示图形分配0x1200到0x121F，对交互图形流分配0x1400到0x141F，对在电影的副影像中使用的视频流分配0x1B00到0x1B1F，对与主声音混合的副声音中使用的音频流分配0x1A00到0x1A1F。

[0179] 图22是示意地表示复用数据怎样被复用的图。首先，将由多个视频帧构成的视频流ex235、由多个音频帧构成的音频流ex238分别变换为PES包序列ex236及ex239，并变换为TS包ex237及ex240。同样，将演示图形流ex241及交互图形ex244的数据分别变换为PES包序列ex242及ex245，再变换为TS包ex243及ex246。复用数据ex247通过将这些TS包复用到1条流中而构成。

[0180] 图23更详细地表示在PES包序列中怎样保存视频流。图23的第1段表示视频流的视频帧序列。第2段表示PES包序列。如图23的箭头yy1、yy2、yy3、yy4所示，视频流中的多个作为Video Presentation Unit的I图片、B图片、P图片按每个图片被分割并保存到PES包的有效载荷中。各PES包具有PES头，在PES头中，保存有作为图片的显示时刻的PTS(Presentation Time-Stamp)及作为图片的解码时刻的DTS(Decoding Time-Stamp)。

[0181] 图24表示最终写入在复用数据中的TS包的形式。TS包是由具有识别流的PID等信息的4字节的TS头和保存数据的184字节的TS有效载荷构成的188字节固定长度的包，上述PES包被分割并保存到TS有效载荷中。在BD－ROM的情况下，对于TS包赋予4字节的TP_Extra_Header，构成192字节的源包，写入到复用数据中。在TP_Extra_Header中记载有ATS(Arrival_Time_Stamp)等信息。ATS表示该TS包向解码器的PID滤波器的转送开始时刻。在复用数据中，源包如图24下段所示排列，从复用数据的开头起递增的号码被称作SPN(源包号)。

[0182] 此外，在复用数据所包含的TS包中，除了影像、声音、字幕等的各流以外，还有PAT(Program Association Table)、PMT(Program Map Table)、PCR(Program Clock Reference)等。PAT表示在复用数据中使用的PMT的PID是什么，PAT自身的PID被登记为0。PMT具有复用数据所包含的影像、声音、字幕等的各流的PID、以及与各PID对应的流的属性信息，还具有关于复用数据的各种描述符。在描述符中，有指示许可/不许可复用数据的拷贝的拷贝控制信息等。PCR为了取得作为ATS的时间轴的ATC(Arrival Time Clock)与作为PTS及DTS的时间轴的STC(System Time Clock)的同步，拥有与该PCR包被转送至解码器的ATS对应的STC时间的信息。

[0183] 图25是详细地说明PMT的数据构造的图。在PMT的开头，配置有记述了包含在该PMT中的数据的长度等的PMT头。在其后面，配置有多个关于复用数据的描述符。上述拷贝控制信息等被记载为描述符。在描述符之后，配置有多个关于包含在复用数据中的各流的流信息。流信息由记载有用来识别流的压缩编解码器的流类型、流的PID、流的属性信息(帧速率、纵横比等)的流描述符构成。流描述符存在复用数据中存在的流的数量。

[0184] 在记录到记录介质等中的情况下，将上述复用数据与复用数据信息文件一起记录。

[0185] 复用数据信息文件如图26所示，是复用数据的管理信息，与复用数据一对一地对应，由复用数据信息、流属性信息以及入口映射构成。

[0186] 复用数据信息如图26所示，由系统速率、再现开始时刻、再现结束时刻构成。系统速率表示复用数据的向后述的系统目标解码器的PID滤波器的最大转送速率。包含在复用数据中的ATS的间隔设定为成为系统速率以下。再现开始时刻是复用数据的开头的视频帧的PTS，再现结束时刻设定为对复用数据的末端的视频帧的PTS加上1帧量的再现间隔的值。

[0187] 流属性信息如图27所示，按每个PID登记有关于包含在复用数据中的各流的属性信息。属性信息具有按视频流、音频流、演示图形流、交互图形流而不同的信息。视频流属性信息具有该视频流由怎样的压缩编解码器压缩、构成视频流的各个图片数据的分辨率是多少、纵横比是多少、帧速率是多少等的信息。音频流属性信息具有该音频流由怎样的压缩编解码器压缩、包含在该音频流中的声道数是多少、对应于哪种语言、采样频率是多少等的信息。这些信息用于在播放器再现之前的解码器的初始化等中。

[0188] 在本实施方式中，使用上述复用数据中的、包含在PMT中的流类型。此外，在记录介质中记录有复用数据的情况下，使用包含在复用数据信息中的视频流属性信息。具体而言，在上述各实施方式示出的动态图像编码方法或装置中，设置如下步骤或单元，该步骤或单元对包含在PMT中的流类型、或视频流属性信息，设定表示是通过在上述各实施方式中示出的动态图像编码方法或装置生成的影像数据的固有信息。通过该结构，能够识别通过在上述各实施方式中示出的动态图像编码方法或装置生成的影像数据、和依据其他规格的影像数据。

[0189] 此外，在图28中表示本实施方式的动态图像解码方法的步骤。在步骤exS100中，从复用数据中取得包含在PMT中的流类型、或包含在复用数据信息中的视频流属性信息。接着，在步骤exS101中，判断流类型、或视频流属性信息是否表示是通过在上述各实施方式中示出的动态图像编码方法或装置生成的复用数据。并且，在判断为流类型、或视频流属性信息是通过在上述各实施方式中示出的动态图像编码方法或装置生成的复用数据情况下，在步骤exS102中，通过在上述各实施方式中示出的动态图像解码方法进行解码。此外，在流类型、或视频流属性信息表示是依据以往的MPEG－2、MPEG4－AVC、VC－1等的规格的复用数据的情况下，在步骤exS103中，通过依据以往的规格的动态图像解码方法进行解码。

[0190] 这样，通过在流类型、或视频流属性信息中设定新的固有值，在解码时能够判断是否能够通过在上述各实施方式中示出的动态图像解码方法或装置解码。因而，在被输入了依据不同的规格的复用数据的情况下，也能够选择适当的解码方法或装置，所以能够不发生错误地进行解码。此外，将在本实施方式中示出的动态图像编码方法或装置、或者动态图像解码方法或装置用在上述任何设备、系统中。

[0191] (实施方式6)

[0192] 在上述各实施方式中示出的动态图像编码方法及装置、动态图像解码方法及装置典型地可以由作为集成电路的LSI实现。作为一例，在图29中表示1芯片化的LSIex500的结构。LSIex500具备以下说明的单元ex501、ex502、ex503、ex504、ex505、ex506、ex507、ex508、ex509，各单元经由总线ex510连接。电源电路部ex505通过在电源是开启状态的情况下对各部供给电力，起动为能够动作的状态。

[0193] 例如在进行编码处理的情况下，LSIex500基于具有CPUex502、存储器控制器ex503、流控制器ex504、驱动频率控制部ex512等的控制部ex501的控制，通过AV I/Oex509从麦克风ex117及照相机ex113等输入AV信号。被输入的AV信号暂时储存在SDRAM等的外部的存储器ex511中。基于控制部ex501的控制，将储存的数据根据处理量及处理速度适当地分为多次等，向信号处理部ex507发送，在信号处理部ex507中进行声音信号的编码及/或影像信号的编码。这里，影像信号的编码处理是在上述各实施方式中说明的编码处理。在信号处理部ex507中，还根据情况而进行将编码的声音数据和编码的影像数据复用等的处理，从流I/Oex506向外部输出。将该输出的比特流向基站ex107发送、或写入到记录介质ex215中。另外，在复用时，可以暂时将数据储存到缓冲器ex508中以使其同步。

[0194] 另外，在上述中，设存储器ex511为LSIex500的外部的结构进行了说明，但也可以是包含在LSIex500的内部中的结构。缓冲器ex508也并不限定于一个，也可以具备多个缓冲器。此外，LSIex500既可以形成1个芯片，也可以形成多个芯片。

[0195] 此外，在上述中，假设控制部ex510具有CPUex502、存储器控制器ex503、流控制器ex504、驱动频率控制部ex512等，但控制部ex510的结构并不限定于该结构。例如，也可以是信号处理部ex507还具备CPU的结构。通过在信号处理部ex507的内部中也设置CPU，能够进一步提高处理速度。此外，作为其他例，也可以是CPUex502具备信号处理部ex507、或作为信号处理部ex507的一部分的例如声音信号处理部的结构。在这样的情况下，控制部ex501为具备具有信号处理部ex507或其一部分的CPUex502的结构。

[0196] 另外，这里设为LSI，但根据集成度的差异，也有称作IC、系统LSI、超级(super)LSI、特级(ultra)LSI的情况。

[0197] 此外，集成电路化的方法并不限定于LSI，也可以由专用电路或通用处理器实现。也可以利用在LSI制造后能够编程的FPGA(Field Programmable Gate Array)、或能够重构LSI内部的电路单元的连接及设定的可重构处理器。

[0198] 进而，如果因半导体技术的进步或派生的其他技术而出现代替LSI的集成电路化的技术，则当然也可以使用该技术进行功能模块的集成化。有可能是生物技术的应用等。

[0199] (实施方式7)

[0200] 在将通过在上述各实施方式中示出的动态图像编码方法或装置生成的影像数据解码的情况下，考虑到与将依据以往的MPEG－2、MPEG4－AVC、VC－1等规格的影像数据的情况相比处理量会增加。因此，在LSIex500中，需要设定为比将依据以往的规格的影像数据解码时的CPUex502的驱动频率更高的驱动频率。但是，如果将驱动频率设得高，则发生消耗电力变高的问题。

[0201] 为了解决该问题，电视机ex300、LSIex500等的动态图像解码装置采用识别影像数据依据哪个规格、并根据规格切换驱动频率的结构。图30表示本实施方式的结构ex800。驱动频率切换部ex803在影像数据是通过在上述各实施方式中示出的动态图像编码方法或装置生成的情况下，将驱动频率设定得高。并且，对执行在上述各实施方式中示出的动态图像解码方法的解码处理部ex801指示将影像数据解码。另一方面，在影像数据是依据以往的规格的影像数据的情况下，与影像数据是通过在上述各实施方式中示出的动态图像编码方法或装置生成的数据的情况相比，将驱动频率设定得低。并且，对依据以往的规格的解码处理部ex802指示将影像数据解码。

[0202] 更具体地讲，驱动频率切换部ex803由图29的CPUex502和驱动频率控制部ex512构成。此外，执行在上述各实施方式中示出的动态图像解码方法的解码处理部ex801、以及依据以往的规格的解码处理部ex802对应于图29的信号处理部ex507。CPUex502识别影像数据依据哪个规格。并且，基于来自CPUex502的信号，驱动频率控制部ex512设定驱动频率。此外，基于来自CPUex502的信号，信号处理部ex507进行影像数据的解码。这里，可以考虑在影像数据的识别中使用例如在实施方式5中记载的识别信息。关于识别信息，并不限定于在实施方式5中记载的信息，只要是能够识别影像数据依据哪个规格的信息就可以。例如，在基于识别影像数据利用于电视机还是利用于盘等的外部信号，来能够识别影像数据依据哪个规格的情况下，也可以基于这样的外部信号进行识别。此外，CPUex502的驱动频率的选择例如可以考虑如图32所示的将影像数据的规格与驱动频率建立对应的查找表进行。将查找表预先保存到缓冲器ex508、或LSI的内部存储器中，CPUex502通过参照该查找表，能够选择驱动频率。

[0203] 图31表示实施本实施方式的方法的步骤。首先，在步骤exS200中，在信号处理部ex507中，从复用数据中取得识别信息。接着，在步骤exS201中，在CPUex502中，基于识别信息识别影像数据是否是通过在上述各实施方式中示出的编码方法或装置生成的数据。在影像数据是通过在上述各实施方式中示出的编码方法或装置生成的数据的情况下，在步骤exS202中，CPUex502向驱动频率控制部ex512发送将驱动频率设定得高的信号。并且，在驱动频率控制部ex512中设定为高的驱动频率。另一方面，在表示是依据以往的MPEG－2、MPEG4－AVC、VC－1等的规格的影像数据的情况下，在步骤exS203中，CPUex502向驱动频率控制部ex512发送将驱动频率设定得低的信号。并且，在驱动频率控制部ex512中，设定为与影像数据是通过在上述各实施方式中示出的编码方法或装置生成的数据的情况相比更低的驱动频率。

[0204] 进而，通过与驱动频率的切换连动而变更对LSIex500或包括LSIex500的装置施加的电压，由此能够进一步提高节电效果。例如，在将驱动频率设定得低的情况下，随之，可以考虑与将驱动频率设定得高的情况相比，将对LSIex500或包括LSIex500的装置施加的电压设定得低。

[0205] 此外，驱动频率的设定方法只要是在解码时的处理量大的情况下将驱动频率设定得高、在解码时的处理量小的情况下将驱动频率设定得低就可以，并不限定于上述的设定方法。例如，可以考虑在将依据MPEG4－AVC规格的影像数据解码的处理量大于将通过在上述各实施方式中示出的动态图像编码方法或装置生成的影像数据解码的处理量的情况下，与上述的情况相反地进行驱动频率的设定。

[0206] 进而，驱动频率的设定方法并不限定于使驱动频率低的结构。例如，也可以考虑在识别信息是通过在上述各实施方式中示出的动态图像编码方法或装置生成的影像数据的情况下，将对LSIex500或包括LSIex500的装置施加的电压设定得高，在表示是依据以往的MPEG－2、MPEG4－AVC、VC－1等的规格的影像数据的情况下，将对LSIex500或包括LSIex500的装置施加的电压设定得低。此外，作为另一例，也可以考虑在识别信息表示是通过在上述各实施方式中示出的动态图像编码方法或装置生成的影像数据的情况下，不使CPUex502的驱动停止，在表示是依据以往的MPEG－2、MPEG4－AVC、VC－1等的规格的影像数据的情况下，由于在处理中有富余，所以使CPUex502的驱动暂停。也可以考虑在识别信息表示是通过在上述各实施方式中示出的动态图像编码方法或装置生成的影像数据的情况下，也只要在处理中有富余则使CPUex502的驱动暂停。在此情况下，可以考虑与表示是依据以往的MPEG－2、MPEG4－AVC、VC－1等的规格的影像数据的情况相比，将停止时间设定得短。

[0207] 这样，根据影像数据所依据的规格来切换驱动频率，由此能够实现节电化。此外，在使用电池来驱动LSIex500或包括LSIex500的装置的情况下，能够随着节电而延长电池的寿命。

[0208] (实施方式8)

[0209] 在电视机、便携电话等上述的设备、系统中，有时被输入依据不同的规格的多个影像数据。这样，为了使得在被输入了依据不同的规格的多个影像数据的情况下也能够解码，LSIex500的信号处理部ex507需要对应于多个规格。但是，如果单独使用对应于各个规格的信号处理部ex507，则发生LSIex500的电路规模变大、此外成本增加的问题。

[0210] 为了解决该问题，采用将用来执行在上述各实施方式中示出的动态图像解码方法的解码处理部、和依据以往的MPEG－2、MPEG4－AVC、VC－1等的规格的解码处理部一部分共用的结构。图33A的ex900表示该结构例。例如，在上述各实施方式中示出的动态图像解码方法和依据MPEG4－AVC规格的动态图像解码方法在熵编码、逆量化、解块滤波器、运动补偿等的处理中有一部分处理内容共通。可以考虑如下结构：关于共通的处理内容，共用对应于MPEG4－AVC规格的解码处理部ex902，关于不对应于MPEG4－AVC规格的本发明的一个方式所特有的其他的处理内容，使用专用的解码处理部ex901。关于解码处理部的共用，也可以是如下结构：关于共通的处理内容，共用用来执行在上述各实施方式中示出的动态图像解码方法的解码处理部，关于MPEG4－AVC规格所特有的处理内容，使用专用的解码处理部。

[0211] 此外，用图33B的ex1000表示将处理一部分共用的另一例。在该例中，采用使用与本发明的一个方式所特有的处理内容对应的专用的解码处理部ex1001、和与其他的以往规格所特有的处理内容对应的专用的解码处理部ex1002、和与在本发明的一个方式的动态图像解码方法和其他的以往规格的动态图像解码方法中共通的处理内容对应的共用的解码处理部ex1003的结构。这里，专用的解码处理部ex1001、ex1002并不一定是为本发明的一个方式、或者其他的以往规格所特有的处理内容而特殊化的，可以是能够执行其他的通用处理的结构。此外，也能够由LSIex500安装本实施方式的结构。

[0212] 这样，对于在本发明的一个方式的动态图像解码方法和以往的规格的动态图像解码方法中共通的处理内容，共用解码处理部，由此能够减小LSI的电路规模并且降低成本。

[0213] 产业上的可利用性

[0214] 本发明的动态图像编码方法和动态图像解码方法能够应用于所有的多媒体数据，能够提高压缩率，例如，作为使用便携电话、DVD装置和个人计算机等的蓄积、传送、通信等中的动态图像编码方法和动态图像解码方法，是有用的。

[0215] 标号说明

[0216] 100：动态图像编码装置；101：正交变换部；102：量化部；103：逆量化部；104：逆正交变换部；105：块存储器；106：帧存储器；107：帧内预测部；108：帧间预测部；109：帧间预测控制部；110：图片类型决定部；111：时间直接矢量计算部；112：co-located参照方向决定部；113：可变长度编码部；200：动态图像解码装置；201：可变长度解码部；202：逆量化部；203：逆正交变换部；204：块存储器；205：帧存储器；206：帧内预测部；207：帧间预测部；208：
帧间预测控制部；209：时间直接矢量计算部。