用解码装置对待解码的具有当前块的视频信号解码的方法

摘要

公开了一种用解码装置对待解码的具有当前块的视频信号解码的方法。所述方法包括：从所述视频信号获取当前块的量化系数；通过对量化系数进行反量化来获取当前块的反量化系数；通过基于变换跳过标志选择性地执行针对当前块的反量化系数的逆变换来获取残留采样，该变换跳过标志指定针对当前块的逆变换是否被跳过；基于当前块的帧内预测模式和当前块的邻近采样来获取当前块的预测采样；以及通过使用残留采样和预测采样来重构当前块。

权利要求

1.一种利用解码装置对待解码的具有当前块的视频信号进行解码的方法，所述方法包括：

从所述视频信号获取当前块的量化系数；

通过对所述量化系数进行反量化来获取当前块的反量化系数；

基于变换跳过标志从当前块的反量化系数获取残留采样，其中，当所述变换跳过标志等于0时，通过执行针对当前块的反量化系数的逆变换来获取残留采样，其中，当所述变换跳过标志等于1时，通过跳过针对当前块的反量化系数的逆变换来获取残留采样，其中，基于当前块的变换方法执行所述逆变换，其中，基于当前块的预测方法、当前块的大小或当前块的预测方向中的至少一个来确定当前块的变换方法，并且其中，所述变换方法被确定为离散余弦变换DCT和离散正弦变换DST中的一种；

获取当前块的预测采样；

通过使用所述残留采样和所述预测采样来获取当前块的重构采样；以及对当前块的重构采样应用去区块滤波。

2.根据权利要求1所述的方法，其中，所述预测方法代表帧内模式。

3.根据权利要求2所述的方法，其中，当所述预测方法是帧内模式时，基于与当前块相邻的邻近采样和当前块的帧内模式获取当前块的预测采样，其中，当所述邻近采样包括对于当前块的帧内预测不可用的不可用采样时，利用与所述不可用采样相邻的可用采样中的至少一个代替所述不可用采样。

4.根据权利要求3所述的方法，其中，所述不可用采样对应于作为帧间编码块的邻近块中的至少一个采样，所述邻近块与所述当前块相邻。

说明书

用解码装置对待解码的具有当前块的视频信号解码的方法

[0001] 本申请为于2014年6月13日提交、申请号为201280061890.6、发明名称为“基于帧内预测的自适应变换方法及使用该方法的装置”的中国专利申请的分案申请。所述母案申
请的国际申请日为2012年8月1日，国际申请号为PCT/KR2012/006118。

技术领域

[0002] 本发明涉及一种基于帧内预测模式的自适应变换方法以及使用该方法的装置，尤其涉及一种编码/解码方法和装置。

背景技术

[0003] 近来，在各种应用领域中对高分辨率和高品质的视频如高清(HD)和超高清(UHD)视频的需求增大。由于视频数据具有高分辨率和高品质，因此数据量相比于现有的视频数
据也极大增加。因而，当使用介质如现有的有线和无线宽带线路传输视频数据，或者将视频
数据存储在现有的存储介质中时，传输成本和存储成本增加。为了解决伴随着视频数据的
分辨率和品质提高而发生的这些问题，可以使用高效的视频压缩技术。

[0004] 视频压缩技术包括多种技术，例如从当前图像的在前或在后的图像预测包括在当前图像中的像素值的帧间预测(inter prediction)技术，使用当前图像中的像素信息预测
包括在当前图像中的像素值的帧内预测(intra prediction)技术，以及为高出现频率的值
分配短码、低出现频率的值分配长码的熵编码技术。使用这样的视频压缩技术可以有效地
压缩以及传输或存储视频数据。

发明内容

[0005] 技术问题

[0006] 本发明一方面提供了基于帧内预测模式来自适应改变变换模式的方法，以提高视频编码效率。

[0007] 本发明另一方面提供了基于帧内预测模式来自适应改变扫描方法的方法，以提高视频编码效率。

[0008] 本发明又一方面提供了执行基于帧内预测模式来自适应改变变换模式的方法的装置，以提高视频编码效率。

[0009] 本发明又一方面提供了执行基于帧内预测模式来自适应改变扫描方法的方法的装置，以提高视频编码效率。

[0010] 技术方案

[0011] 本发明的实施方式提供了一种视频解码方法，该视频解码方法包括确定块的帧内预测模式，以及依据块的帧内预测模式，使用不同的逆变换方法来逆变换该块。该块的帧内
预测模式的确定可以确定该块的帧内预测模式包括在以下哪个帧内预测模式组中：包括垂
直预测模式的第一帧内预测模式组；包括水平预测模式的第二帧内预测模式组；以及包括
除了第一帧内预测模式组和第二帧内预测模式组之外的任一定向预测模式的第三帧内预
测模式组。依据块的帧内预测模式，使用不同的逆变换方法来进行的块的逆变换可以将该
块的帧内预测模式划分成多个预测模式组，并依据该预测模式组来确定逆变换方法。视频
解码方法可以进一步包括通过解码用于确定在块上是否执行逆变换的标志信息来确定在
块上是否执行逆变换。

[0012] 本发明的另一个实施方式提供了一种视频解码方法，该视频解码方法包括确定块的帧内预测模式，以及依据该块的帧内预测模式来确定扫描顺序。依据块的帧内预测模式
来进行的扫描顺序的确定可以将该块的帧内预测模式划分成多个预测模式组，并依据该预
测模式组来确定扫描顺序。

[0013] 本发明的又一个实施方式提供了一种视频编码方法，该视频编码方法包括确定块的帧内预测模式，以及依据该块的帧内预测模式，使用不同的变换方法来变换该块。依据该
块的帧内预测模式，使用不同的变换方法来进行的块的变换可以将该块的帧内预测模式划
分成多个预测模式组，并依据该预测模式组来确定变换方法。视频编码方法可以进一步包
括确定是否变换该块，以及对是否变换该块的信息进行编码。

[0014] 本发明的又一个实施方式提供了一种视频编码方法，该视频编码方法包括确定块的帧内预测模式，以及依据该块的帧内预测模式来确定扫描顺序。依据块的帧内预测模式
进行的扫描顺序的确定可以将该块的帧内预测模式划分成多个预测模式组，并依据该预测
模式组来确定扫描顺序。

[0015] 本发明的又一个实施方式提供了一种视频解码装置，该视频解码装置包括基于帧内预测模式来解码信息的熵解码模块，以及基于该熵解码模块解码的帧内预测模式，使用
不同的逆变换方法来逆变换块的逆变换模块。该逆变换模块可以依据划分成多个预测模式
组的块的帧内预测模式来确定逆变换方法。熵解码模块可以解码标志信息，以确定是否对
该块执行逆变换。

[0016] 本发明的又一个实施方式提供了一种视频解码装置，该视频解码装置包括基于帧内预测模式来解码信息的熵解码模块，以及基于依据由熵解码模块解码的帧内预测模式确
定的扫描顺序来扫描系数的重排模块。该重排模块可以基于划分成多个预测模式组的块的
帧内预测模式来执行扫描。

[0017] 本发明的又一个实施方式提供了一种视频编码装置，该视频解码装置包括确定块的帧内预测模式的预测模块，以及依据块的帧内预测模式，使用不同的变换方法来变换该
块的变换模块。该变换模块可以将块的帧内预测模式划分成多个预测模式组，并依据该预
测模式组来确定变换方法。该变换模块可以确定是否变换块。

[0018] 本发明的又一个实施方式提供了一种视频编码装置，该视频编码装置包括确定块的帧内预测模式的预测模块，以及基于由块的帧内预测模式来确定的扫描顺序来扫描和重
排块的系数的重排模块。

[0019] 有益效果

[0020] 根据本发明的示例性实施方式，基于帧内预测模式的自适应变换方法以及使用该方法的装置可以将帧内预测模式划分成组，并依据帧内预测模式，使用不同的变换方法来
执行变换。因而，可以减少操作的复杂性并可以实现有效的变换。

附图说明

[0021] 图1是示出了根据本发明的示例性实施方式的视频编码装置的框图。

[0022] 图2是示出了根据本发明的示例性实施方式的视频解码装置的框图。

[0023] 图3示出了根据本发明的示例性实施方式的依据帧内预测模式来改变变换方法的方法。

[0024] 图4示出了根据本发明的示例性实施方式的变换方法。

[0025] 图5示出了根据本发明的示例性实施方式的依据帧内预测模式的变换方法。

[0026] 图6是示出了根据本发明的示例性实施方式的依据帧内预测模式来选择不同的变换方法的方法的流程图。

[0027] 图7示出了根据本发明的示例性实施方式的依据帧内预测模式来重新分配码字的方法。

[0028] 图8示出了根据本发明的示例性实施方式的依据变换方法的扫描模式。

[0029] 图9是示出了根据本发明的示例性实施方式的依据变换方法来确定扫描模式的方法的流程图。

[0030] 图10是示出了根据本发明的示例性实施方式的依据变换方法来确定扫描模式的方法的流程图。

具体实施方式

[0031] 本发明可以以各种方式改变和修改，并且可以结合不同的示例性实施方式示出，其中一些示例性实施方式将在附图中描述和示出。但是，这些实施方式不意在限制本发明，
而是被解释为包括所有属于本发明的精神和技术范围的修改、等效物和替代物。在附图中
相同的标记在本文中指代相同的元件。

[0032] 虽然可以使用术语第一、第二等来描述各种元件，但是这些元件不应该被这些术语所限制。这些术语仅仅被用来区分一个元件与另一个元件。例如，在不背离本发明的教导
的情况下，第一元件可以被称为第二元件，并且同样地，第二元件可以被称为第一元件。术
语“和/或”包括多个相关的所列项的任一项以及所有组合。

[0033] 应当理解的是，当一个元件涉及被“连接至”或“耦接至”另一个元件时，该元件可以被直接地连接或耦接至另一个元件或中介元件。反之，当一个元件涉及被“直接地连接
至”或“直接地耦接至”另一个元件时，不存在中介元件。

[0034] 本文使用的术语仅仅是用于描述具体的实施方式的目的，而不意在限制本发明。如本文中所使用的，单数术语“一个(a)”、“一个(an)”和“该(the)”意在也包括复数形式，除
非上下文另有明确地说明。进一步应当理解的是，当术语“包括”和/或“具有”在本说明书中
使用时，指定所陈述的特征、整体、步骤、操作、元件和/或部件的存在，而不排除一个或多个
其它特征、整体、步骤、操作、元件、部件和/或它们的组合的存在或相加。

[0035] 在下文中，将参考附图详细描述本发明的示例性实施方式。在附图中相同的标记在本文中指代相同的元件，且本文中相同元件的重复说明将被省略。

[0036] 图1是示出根据本发明的示例性实施方式的视频编码装置的框图。

[0037] 参照图1，视频编码装置100包括图像分割模块105、预测模块110、变换模块115、量化模块120、重排模块125、熵编码模块130、反量化模块135、逆变换模块140、滤波模块145以
及存储器150。

[0038] 虽然图1所示的元件被独立地示出，以便表示在视频编码装置中不同的区别功能，但是这样的配置并不象征着每个元件通过单独的硬件组成或软件组成来构造。也就是说，
为了便于描述，独立地排列元件，其中至少两个元件可以组合成单一的元件，或者单一的元
件可以划分成多个元件以执行功能。应当注意的是，在不背离本发明精神的情况下，一些元
件被集成为一个组合元件和/或元件被划分成多个单独的元件的实施方式被包括在本发明
的范围内。

[0039] 一些元件对于在本发明中重要的功能可以不是基本的，而可以是仅仅为了提高性能可选的组成。可以通过除了仅仅用来提高性能的组成以外，仅包括对本发明的实施方式
是基本的组成来实施本发明。除了仅仅用于提高性能的可选的组成以外，仅包括基本组成
的结构属于本发明的范围。

[0040] 图像分割模块105可以将输入图像分割成至少一个处理单元。此处，处理单元可以是预测单元(PU)、变换单元(TU)或者编码单元(CU)。图像分割模块105可以将一个图像分割
成编码单元、预测单元和变换单元的多个组合，并且基于预定标准(例如成本函数)选择编
码单元、预测单元和变换单元的一个组合，从而对图像进行编码。

[0041] 例如，一个图像可以被分割成多个编码单元。递归树结构如四叉树结构可以用于将图像分割成编码单元。将最大尺寸的图像或者编码单元作为根，编码单元可以被分割成
子编码单元，其具有如分割的编码单元一样多的子节点。根据预定约束不再分割的编码单
元将成为叶节点。也就是说，假设编码单元只能被分割成四等分，单一的编码单元可以分割
成至多四个不同的编码单元。

[0042] 在本发明的实施方式中，编码单元不仅可以用于指代编码单元，也可以指代译码单元。

[0043] 预测单元可以被分割成在编码单元中具有相同尺寸的至少一个正方形或矩形的形式，或者被分割以使得在编码单元中分割的预测单元的形状与其它预测单元的形状不
同。

[0044] 当待进行帧内预测的预测单元基于编码单元产生且该编码单元不是最小的编码单元时，可以执行帧内预测而不需要将编码单元分割成多个预测单元(N×N)。

[0045] 预测模块110可以包括帧间预测模块以执行帧间预测，以及帧内预测模块以执行帧内预测。预测模块110可以确定帧间预测和帧内预测中的哪个应当在预测单元上执行，并
且可以根据所确定的预测方法来确定具体的信息(例如帧内预测模式、运动向量以及参考
图像等)。此处，在其上执行预测的处理单元可以不同于用于确定预测方法和具体的信息的
处理单元。例如，可以针对每个预测单元确定预测方法和预测模式，而针对每个变换单元执
行预测。在生成的预测块和原始块之间的残留值(残留块)可以被输入至变换模块115。此
外，用于预测的预测模式信息、运动向量信息等连同残留值可以通过熵编码模块130进行编
码，并且可以被发送至译码装置。当使用特定的编码模式时，可以将原始块进行编码并发送
至译码装置，而不需要通过预测模块110生成预测块。

[0046] 帧间预测模块可以基于当前图像的在前图像和在后图像中的至少一个图像的信息针对预测单元进行预测。帧间预测模块可以包括参考图像插值模块、运动预测模块以及
运动补偿模块。

[0047] 参考图像插值模块可以被供应来自存储器150的参考图像信息，并且生成小于来自参考图像的整数像素位置单元(整数像素单元(integer pixel unit)或像素单元)的像
素信息。在亮度像素的情况下，具有不同滤波系数的基于DCT的8抽头插值滤波器可以用于
以1/4像素位置为单元(以1/4像素为单元)生成小于整数像素单元的像素信息。在色度像素
的情况下，具有不同滤波系数的基于DCT的4抽头插值滤波器可以用于以1/8像素位置为单
元(以1/8像素为单元)中生成小于整数像素单元的像素信息。

[0048] 运动预测模块可以基于由参考图像插值模块进行插值的参考图像来执行运动预测。可以使用各种方法如基于全搜索的块匹配算法(FBMA)、三步搜索(TSS)算法以及新三步
搜索(NTS)算法来计算运动向量。运动向量可以具有基于插值像素的以1/2或1/4像素为单
元的运动向量值。运动预测模块可以使用不同的运动预测方法对当前预测单元执行预测。
可以使用各种方法(例如跳过、合并以及先进运动向量预测(AMVP)等)作为运动预测方法。

[0049] 帧内预测模块可以基于与当前块相邻的参考像素信息生成预测块，该参考像素信息是当前图像中的像素信息。当与当前预测单元相邻的块是已经进行了帧间预测的块，并
且参考像素是已经进行了帧间预测的像素时，可以利用已经进行了帧内预测的块中的参考
像素信息来代替包括在已经进行了帧间预测的块中的参考像素信息。也就是说，当参考像
素不可用时，可以利用可用的参考像素中的至少一个参考像素来代替不可用的参考像素的
信息。

[0050] 帧内预测的预测模式可以包括根据预测方向来使用参考像素信息的定向预测模式，以及在执行预测时不使用方向信息的非定向预测模式。预测亮度信息的模式和预测色
度信息的模式可以彼此不同。用于获得亮度信息或者预测亮度信号信息的帧内预测模式信
息可以用于预测色度信息。

[0051] 当执行帧内预测中预测单元和变换单元具有相同的尺寸时，预测单元上的帧内预测可以基于预测单元的左像素、左上像素以及上像素来执行。另一方面，当执行帧内预测中
预测单元和变换单元具有不同的尺寸时，帧内预测可以基于变换单元使用参考像素来执
行。具有N×N分割的帧内预测可以仅在最小编码单元上执行。

[0052] 在帧间预测方法中，在预测块生成之前，根据预测模式可以将自适应帧内平滑(AIS)滤波器应用于参考像素。不同种类的AIS滤波器可以应用于参考像素。在帧内预测方
法中，当前预测单元的帧内预测模式可以从位于当前预测单元邻近位置的预测单元的帧内
预测模式来预测。在使用从相邻预测单元预测的模式信息来对当前预测单元的预测模式进
行预测中，在当前预测单元和相邻预测单元具有相同的帧内预测模式时，可以使用预定标
志信息来发送指示当前预测单元和相邻预测单元具有相同的预测模式的信息。如果当前预
测单元和相邻预测单元具有不同的预测模式，关于当前块的预测模式的信息可以通过熵编
码来编码。

[0053] 包括残留信息的残留块可以通过预测模块110基于预测单元来生成，其中残留信息是在预测单元的预测块和原始块之间的差。生成的残留块可以被输入至变换模块115。变
换模块115可以使用例如离散余弦变换(DCT)或离散正弦变换(DST)的变换方法对残留块进
行变换，该残留块包括由预测模块110基于原始块生成的预测单元的残留信息。用于变换残
留块的变换方法可以基于用于生成残留块的预测单元的帧内预测模式信息在DCT和DST中
确定。

[0054] 针对当前变换单元的帧内预测模式可以被划分为：包括垂直预测模式的第一帧内预测模式组；包括水平预测模式的第二帧内预测模式组；以及包括除了第一帧内预测模式
组和第二帧内预测模式组之外的任一定向预测模式的第三帧内预测模式组。变换模块115
可以确定帧内预测模式组，并且依据帧内预测模式组，使用不同的变换方法来执行变换。

[0055] 量化模块120可以对由变换模块115变换到频域的值进行量化。量化参数可以依据块或图像的重要性而改变。从量化模块120输出的值可以被提供至反量化模块135和重排模
块125。

[0056] 对于量化残留值，重排模块125可以重排系数。

[0057] 重排模块125可以通过系数扫描将系数的二维(2D)块改变为系数的一维(1D)向量。例如，重排模块125可以使用对角线扫描将系数的2D块改变为系数的1D向量。可以依据
变换单元的尺寸和帧内预测模式使用沿列方向扫描系数的2D块的垂直扫描以及沿行方向
扫描系数的2D块的水平扫描，来替代对角线扫描。也就是说，使用的扫描方法可以基于变换
单元的尺寸和帧内预测模式从对角线扫描、垂直扫描和水平扫描中选择。

[0058] 熵编码模块130可以基于由重排模块125获得的值来执行熵编码。各种编码方法可以用于熵编码，例如指数哥伦布编码，上下文自适应可变长度编码(CAVLC)，以及上下文自
适应二进制算术编码(CABAC)。

[0059] 熵编码模块130可以编码多种信息，例如可以从重排模块125和预测模块110获得的关于编码单元的残留系数信息和块类型信息、预测模式信息、分割单元信息、预测单元信
息、变换单元信息、运动向量信息、参考帧信息、块插值信息以及滤波信息。

[0060] 熵编码模块130可以对从重排模块125输入的编码单元的系数进行熵编码。

[0061] 熵编码模块130可以存储针对熵编码的表，例如可变长度编码(VLC)表，以及使用VLC表的熵编码。在熵编码中，针对包括在表中的某些码字使用计数器的方法，或直接交换
方法可以用来改变信息的码字向码数的分配。例如，在映射码数和码字的表中，将短位码字
分配至较高码数，映射码字和码数的表的映射顺序可以自适应改变，以使得将短长度的码
字分配至具有使用计数器的码数的所计次数的最高数值的码数。当由计数器所计次数的数
值是预设阈值时，在计数器中记录的所计数次数的数值可以分成两半，接着再次计数。

[0062] 当对应于码数的信息发生时，可以通过使用直接交换方法交换具有适当的较高码数的位置的方法来减少分配至码数的位数，进而将表中没有被计数的码数用于进行熵编
码。

[0063] 熵编码模块可以依据帧内预测模式组来针对编码变换方法使用不同的映射表。

[0064] 反量化模块135和逆变换模块140将由量化模块120量化的值进行反量化，并将由变换模块115变换的值进行逆变换。由反量化模块135和逆变换模块140生成的残留值可以
加入到预测块，该预测块由预测模块110的运动预测模块、运动补偿模块和帧内预测模块进
行预测，进而生成重建块。

[0065] 滤波模块145可以包括去块滤波器、偏移校正模块和自适应环路滤波器(ALF)中的至少一个。

[0066] 去块滤波器145可以将在重建图像中块之间的边界处生成的块失真移除。是否向当前块应用去块滤波器可以基于包括在该块的多个行或列中的像素来确定。当去块滤波器
被应用到块时，可以依据需要的去块滤波强度来应用强滤波器或者弱滤波器。此外，当应用
去块滤波器中执行水平滤波和垂直滤波时，水平滤波和垂直滤波可以并行执行。

[0067] 偏移校正模块可以通过像素来校正去块滤波图像与原始图像的偏移。将图像的像素分割为预定数量的区域、确定要进行偏移校正的区域，以及向确定的区域应用偏移校正
的方法，或者在考虑关于每个像素的边缘信息的情况下应用偏移校正的方法可以用于执行
特定图像上的偏移校正。

[0068] ALF可以基于滤波重建图像与原始图像的比较结果来执行滤波。包括在图像中的像素可以被分割成预定组，可以确定应用到每个组的滤波器，并且针对每个组可以执行不
同的滤波。关于是否应用ALF的信息可以由每个编码单元(CU)发送，并且要应用到每个块的
ALF的形状和系数可以改变。ALF可以具有多种类型，并且包括在相应的滤波器中的多个系
数可以改变。关于ALF的滤波相关信息(例如滤波系数信息、ALF开/关信息以及滤波类型信
息)可以被包括并发送在比特流的预定参数集合中。

[0069] 存储器150可以存储从滤波模块145输出的重建块或图像，并且当执行帧间预测时，存储的重建块或图像可以被提供至预测模块110。

[0070] 图2是示出了根据本发明的示例性实施方式的视频解码装置的框图。

[0071] 参照图2，视频解码装置200可以包括熵解码模块210、重排模块215、反量化模块220、逆变换模块225、预测模块230、滤波模块235以及存储器240。

[0072] 当视频比特流从视频编码装置输入时，可以根据由视频编码装置进行的视频编码过程的逆过程对输入的比特流进行解码。

[0073] 熵解码模块210可以根据由视频编码装置的熵编码模块进行的熵编码过程的逆过程执行熵解码。例如，在视频编码装置中用于熵编码相同的VLC表可以用于执行熵解码。在
熵解码模块210中解码的信息中用于生成预测块的信息可以被提供至预测模块230，通过由
熵解码模块进行的熵解码获得的残留值可以被输入至重排模块215。

[0074] 类似的熵编码模块、熵解码模块210也可以使用计数器或者直接交换方法来改变码字分配表，并且基于改变的码字分配表来执行熵解码。

[0075] 熵解码模块210可以解码与由编码装置执行的帧内预测和帧间预测相关的信息。如上文所描述的，当在执行帧内预测和帧间预测中视频编码装置具有预定的约束时，熵解
码模块可以基于该约束来执行熵解码，以获取关于当前块的帧内预测和帧间预测的信息。

[0076] 重排模块215可以基于编码模块的重排方法，在由熵解码模块210执行熵解码的比特流上执行重排。重排模块215可以将以1D向量形式表示的系数重建和重排成以2D块形式
的系数。重排模块215可以被提供利用与由编码模块执行的系数扫描相关的信息，并且可以
基于编码模块执行扫描的扫描顺序，使用逆扫描系数的方法来执行重排。

[0077] 反量化模块220可以基于由编码装置提供的量化参数和块的重排系数来执行反量化。

[0078] 逆变换模块225可以关于由变换模块执行的DCT和DST来执行逆DCT和逆DST，其中DCT和DST已经被视频编码装置基于量化结果而被执行。逆变换可以基于由视频编码装置确
定的传输单元而被执行。视频编码装置的变换模块可以依据多个信息元素(例如预测方法、
当前块的尺寸和预测方向等)来选择性地执行DCT和DST，并且视频解码装置的逆变换模块
225可以基于关于由视频编码装置的变换模块来执行的变换的信息来执行逆变换。

[0079] 可以由编码单元替代变换单元来执行变换。

[0080] 针对当前变换单元的帧内预测模式可以被划分为包括垂直预测模式的第一帧内预测模式组、包括水平预测模式的第二帧内预测模式组以及包括除了第一帧内预测模式组
和第二帧内预测模式组以外的任一定向预测模式的第三帧内预测模式组。逆变换模块225
可以确定帧内预测模式组并且依据帧内预测模式组，使用不同的变换方法来执行逆变换。

[0081] 在解码变换方法中，当帧内预测模式组是第一帧内预测模式组时，使用第一映射表来解码变换方法；当帧内预测模式组是第二帧内预测模式组时，使用第二映射表来解码
变换方法；当帧内预测模式组是第三帧内预测模式组时，使用第三映射表来解码变换方法。

[0082] 预测模块230可以基于由熵解码模块210提供的预测块生成信息和由存储器240提供的关于在前解码块或图像的信息来生成预测块。

[0083] 与上文描述的视频编码装置的操作相类似，当执行帧内预测中预测单元和变换单元具有相同的尺寸时，基于预测单元的左像素、左上像素和上像素执行来预测单元上的帧
内预测。另一方面，当执行帧内预测中预测单元和变换单元具有不同的尺寸时，可以基于变
换单元使用参考像素来执行帧内预测。具有N×N分割的帧内预测可以仅对最小编码单元执
行。

[0084] 预测模块230可以包括预测单元确定模块、帧间预测模块和帧内预测模块。预测单元确定模块可以接收多种信息，例如从熵解码模块输入的预测单元信息、帧内预测方法的
预测模式信息和帧间预测方法的运动预测相关信息，并且可以确定在预测单元上执行帧间
预测和帧内预测中的哪一个。帧间预测模块可以基于当前图像的在前图像和在后图像中的
至少一个图像的信息执行当前预测单元上的帧间预测，包括使用从视频编码装置提供的对
于当前预测单元的帧间预测必要的信息的当前预测单元。

[0085] 为了执行帧间预测，可以基于编码单元来确定用于包括在编码单元中的预测单元的运动预测方法是跳过模式、合并模式，还是AMVP模式。

[0086] 帧内预测模式可以基于当前图像中的像素信息来生成预测块。当预测单元是在其上执行帧内预测的预测单元时，可以基于从视频编码装置提供的关于预测单元的帧内预测
模式信息来执行帧内预测。帧内预测模块可以包括AIS滤波器、参考像素插值模块和DS滤波
器。AIS滤波器在当前块的参考像素上执行滤波，并且可以依据当前预测单元的预测模式来
确定是否应用AIS滤波器。可以使用从视频编码装置提供的预测单元的预测模式和关于AIS
滤波器的信息在当前块的参考像素上执行AIS滤波。当当前块的预测模式是不包括AIS滤波
的模式时，可以不应用AIS滤波器。

[0087] 当预测单元的预测模式是基于通过对参考像素进行插值而获得的像素值来执行帧内预测的预测模式时，参考像素插值模块可以通过对参考像素进行插值而以比整数位置
单元小的像素单元生成参考像素。当当前预测单元的预测模式是没有对参考像素进行插值
而生成预测块的预测模式时，可以不对参考像素进行插值。当当前块的预测模式是DC模式
时，DC滤波器可以通过滤波生成预测块。

[0088] 重建块或图像可以被提供至滤波模块235。滤波模块235可以包括去块滤波器、偏移校正模块和ALF。

[0089] 可以从视频编码装置提供关于是否将去块滤波器应用到相应的块或图像的信息，以及关于当使用去块滤波器时应用强滤波器和弱滤波器中的哪一个的信息。视频解码装置
的去块滤波器可以被提供利用来自视频编码装置的关于去块滤波器的信息，并且可以在相
应的块上执行去块滤波。与视频编码装置类似，首先执行垂直去块滤波和水平去块滤波，其
中在重叠区域可以执行垂直去块滤波和水平去块滤波中的至少一个。在垂直去块滤波和水
平去块滤波重叠的区域上可以执行垂直去块滤波和水平去块滤波中先前没有被执行的任
一个。这个去块滤波过程可以使去块滤波的并行处理成为可能。

[0090] 偏移校正模块可以基于在编码过程中应用到图像的偏移校正类型和偏移值信息来在重建图像上执行偏移校正。

[0091] ALF可以基于在滤波后的重建图像和原始图像之间的比较结果来执行滤波。可以基于从编码装置提供的是否应用ALF的信息以及ALF系数信息来将ALF应用到编码单元。ALF
信息可以包括并提供在特定参数集中。

[0092] 存储器240可以存储用作参考图像或参考块的重建图像或块，并且可以向输出模块提供该重建图像。

[0093] 如上所述，在本发明的实施方式中，术语“编码单元(coding unit)”用作编码单元(encoding unit)并且也可以用作解码的单元(解码单元)。

[0094] 图3示出了根据本发明的示例性实施方式的根据帧内预测模式来改变变换方法的方法。

[0095] 参照图3，可以根据帧内预测模式的方向来使用不同的变换方法。

[0096] 第一帧内预测模式组300包括垂直帧内预测模式26和邻近模式23、24、25、27、28和29。第二帧内预测模式组320包括水平帧内预测模式10和邻近模式13、12、11、9、8和7。第三
帧内预测模式组340包括除了第一帧内预测模式组300和第二帧内预测模式组320之外的对
角线预测模式。

[0097] 第一帧内预测模式组300、第二帧内预测模式组320和第三帧内预测模式组340具有随机设置的值。在根据本实施方式的依赖于帧内预测模式的变换方法中，其它预测模式
可以被包括在相应的组中。也就是说，第一帧内预测模式组300表示包括具有高的垂直预测
趋势的帧内预测模式的组；第二帧内预测模式组320表示具有高的水平预测趋势的帧内预
测模式的组。包括在相应的组中的帧内预测模式可以在本发明的范围内改变。

[0098] 也就是说，在根据本实施方式的变换方法中，帧内预测模式被划分为组，并且根据该组来应用不同的变换方法，其中帧内预测模式也可以被划分为多个组，而不是三个组，并
且根据该组来应用不同的变换方法。

[0099] 图4示出了根据本发明的示例性实施方式的一种变换方法。

[0100] 参考图4，可以使用四个变换方法来对残留信号进行变换。

[0101] 可以根据是在块上执行行变换还是列变换将下面所述的变换方法进行分类。在解码过程中，可以执行关于用于编码过程中的变换的变换方法的逆变换。在下文中，为便于描
述，本实施方式仅示出了用于编码过程的变换方法。在解码过程中，可以基于在编码过程中
的变换方法来进行逆变换。

[0102] 第一变换方法400执行行变换和列变换两者，并且可以在块上执行二维(2D)变换。

[0103] 第二变换方法420仅执行行变换，并且可以沿行的方向在块上执行一维(1D)变换。第三变换方法440仅执行列变换，并且可以沿列的方向在块上执行一维变换。

[0104] 第四变换方法460可以既不执行行变换也不执行列变换。可以基于预定标志信息来表示第四变换方法，标志信息可以指定不在当前块上执行变换。此外，在编码过程中，关
于不变换(变换跳过)的方法例如第四变换方法是否用于整个编码过程的信息可以利用附
加标志信息来指示。

[0105] 在本实施方式中，可以选择性地仅使用第一变换方法至第四变换方法中的一些变换方法，而不是使用第一变换方法至第四变换方法中的全部变换方法。例如，第四变换方法
(其是不变换的方法)可以使用标志信息选择性地使用。也就是说，在对块进行变换中，可以
仅使用第一变换方法至第三变换方法，而选择性地使用第四变换方法。可选地，当仅使用第
一变换方法和第四变换方法时，可以仅使用标志信息选择性地使用第一变换方法或者可以
使用第一变换方法或第一变换方法和第四变换方法两者。

[0106] 表1示出了变换方法和表示变换方法的码字。

[0107] [表1]

[0108] 变换方法 行变换 列变换 码字  第一变换方法 0 0 1 2D变换
第二变换方法 0 ‑ 01 1D变换
第三变换方法 ‑ 0 001 1D变换
第四变换方法 ‑ ‑ 000 不变换

[0109] 在根据本实施方式的变换方法中，可以根据帧内预测模式来应用不同的变换方法。

[0110] 图5示出了根据本发明的示例性实施方式的根据帧内预测模式的变换方法。

[0111] 为了便于描述，下面的实施方式示出了将帧内预测模式分成三个帧内预测模式组并且不同的变换方法用于各个组。然而，仅作为示例提供该实施方式以示出帧内预测模式
被划分为多个预测模式组并且基于所划分的组来应用变换方法。示出了帧内预测模式被划
分为多个预测模式组并且基于所划分的组来应用变换方法的可选实施方式落入本发明的
范围。

[0112] 参照图5，包括垂直预测模式和邻近预测模式的第一帧内预测模式组500可以使用沿行的方向执行1D变换的第二变换方法。

[0113] 包括水平预测模式和邻近预测模式的第二帧内预测模式组520可以使用沿列的方向执行1D变换的第三变换方法。

[0114] 第三帧内预测模式组540可以使用沿行的方向和列的方向两者执行2D变换的第一变换方法或使用沿任一方向都不执行变换的第四变换方法来执行变换。

[0115] 作为非方向模式的DC模式或平面模式可以选择并使用第一变换方法至第四变换方法中具有小的失真率优化(RDO)值的变换方法。

[0116] 在解码过程中，用于编码过程相同的变换方法可以被用于针对预测模式组执行逆变换。

[0117] 也就是说，根据本实施方式，

[0118] (1)在编码过程中，可以获得帧内预测模式信息并且可以基于获得的帧内预测模式信息来选择性地使用变换方法。帧内预测模式信息可以是指示帧内预测模式被包括在哪
个预测模式组的信息；

[0119] (2)在解码过程中，可以解码帧内预测模式信息。可以基于使用编码过程的变换方法解码的帧内预测模式信息来执行逆变换，从而重建块。

[0120] 图6是示出了根据本发明的示例性实施方式的根据帧内预测模式来选择不同的变换方法的方法的流程图。

[0121] 在下文中，图6示出了根据示例性实施方式的根据帧内预测模式来选择性地使用一些变换方法的方法。

[0122] 参照图6，确定当前帧内预测模式被包括在哪个帧内预测模式组中(S600)。

[0123] 在第一帧内预测模式组中(S610)，考虑到RDO，仅沿列的方向执行1D变换的第三变换方法不太可能具有最好的性能。因而，在执行帧内预测时，可以使用第一变换方法、第二
变换方法和第四变换方法中的至少一种，不包括第三变换方法，来执行变换以比较RDO。在
这些变换方法中，可以选择具有最好性能的变换方法作为针对当前变换单元的变换方法以
执行变换(S640)。

[0124] 在第二帧内预测模式组中(S620),考虑到RDO，仅沿行的方向执行1D变换的第二变换方法不太可能具有最好的性能。因而，在执行帧内预测时，可以使用第一变换方法、第三
变换方法和第四变换方法中的至少一种，不包括第二变换方法，来执行变换以比较RDO。在
这些变换方法中，可以选择具有最好性能的变换方法作为针对当前变换单元的变换方法以
执行变换(S650)。

[0125] 在第三帧内预测模式组中(S630),可以使用第一变换方法和第四变换方法中的一个选择，不包括沿行的方向执行1D变换的第二变换方法和沿列的方向执行1D变换的第三变
换方法，来执行变换(S660)。

[0126] 表2至表4示出了根据本发明的示例性实施方式的用于各个帧内预测模式组的变换方法不同集合。

[0127] [表2]

[0128] 变换方法 行变换 列变换 码字  第一变换方法 0 0 0 2D变换
第二变换方法 0 ‑ 10 1D变换
第四变换方法 ‑ ‑ 11  

[0129] 表2示出了用于第一帧内预测模式组的变换方法的集合，其中可以选择性地使用除了仅执行列变换的第三变换方法以外的三种变换方法中的一种变换方法。

[0130] [表3]

[0131]变换方法 行变换 列变换 码字  
第一变换方法 0 0 0 2D变换
第三变换方法 ‑ 0 10 1D变换
第四变换方法 ‑ ‑ 11  

[0132] 表3示出了用于第二帧内预测模式组的变换方法的集合，其中可以选择性地使用除了仅执行行变换的第二变换方法以外的三种变换方法中的一种变换方法。

[0133] [表4]

[0134]变换方法 行变换 列变换 码字  
第一变换方法 0 0 0 2D变换
第四变换方法 ‑ ‑ 1  

[0135] 表4示出了用于第三帧内预测模式组的变换方法的集合，其中可以选择性地使用除了仅执行行变换的第二变换方法和仅执行列变换的第三变换方法以外的两种变换方法
中的一种变换方法。

[0136] 提供前述的实施方式仅用于示例性的目的，并且可以以各种方式改变在帧内预测模式组和变换方法之间的映射关系。

[0137] 图7示出了根据本发明的示例性实施方式的根据帧内预测模式来重新分配码字的方法。

[0138] 参照图7，向变换方法分配的码字可以根据帧内预测模式组来改变。

[0139] 由于第一帧内预测模式组700更可能使用仅执行行变换的第二变换方法，所以将第二变换方法分配至比第三变换方法短的码字以增加编码效率。可选地，向第二变换方法
分配的码字映射至最短的码字，并且向第三变换方法分配的码字映射至最长的码字，从而
增加编码效率。

[0140] 用这种方式，第一帧内预测模式组700、第二帧内预测模式组720和第三帧内预测模式组740可以分别根据使用不同的映射表(第一映射表710、第二映射表730和第三映射表
750)的码字来执行编码。也就是说，利用根据帧内预测模式组的变换方法来映射不同的码
字，从而增加编码和解码效率。

[0141] 表5示出了针对第二帧内预测模式组利用各个变换方法来映射的码字。

[0142] [表5]

[0143] 变换方法 行变换 列变换 码字  第一变换方法 0 0 0 2D变换
第二变换方法 0 ‑ 001 1D变换
第三变换方法 ‑ 0 01 1D变换
第四变换方法 ‑ ‑ 000  

[0144] 参照表5，由于相比于第二变换方法，第二帧内预测模式组更可能选择执行列变换的第三变换方法作为最佳的方法，所以可以将第三变换方法分配至比向第二变换方法分配
的码字更短的码字。

[0145] 图8示出了根据本发明的示例性实施方式的根据变换方法的扫描模式。

[0146] 参照图8，扫描模式可以包括水平扫描顺序800、垂直扫描顺序820和对角线扫描顺序840和880。在对角线扫描中，可以根据块的尺寸使用不同的对角线扫描顺序。对角线扫描
顺序840可以被用于4×4块，而对角线扫描顺序860可以被用于比4×4块大的块。在图8中示
出的扫描顺序仅用于示例性的目的提供，并且也可以使用可选的扫描顺序。

[0147] 根据本实施方式，可以根据帧内预测模式和块的尺寸来使用不同的扫描顺序。例如，可以使用映射表来获得关于用于块的扫描顺序的信息，该映射表表示基于帧内预测模
式和块的尺寸的输入值的在帧内预测模式和块的尺寸与扫描顺序之间的映射关系。

[0148] 进一步，可以不仅根据关于帧内预测模式和块的尺寸的信息，还根据变换方法来使用不同的扫描顺序以排列系数。例如，在仅执行行变换的第二变换方法中，残留信号更可
能保持在垂直方向，因而可以使用垂直扫描顺序820。在仅执行列变换的第三变换方法中，
残留信号更可能保持在行的方向，因而可以使用水平扫描顺序800。在执行行变换和列变换
两者的变换方法中，可以使用对角线扫描顺序840来变换残留信号。

[0149] 图9是示出了根据本发明的示例性实施方式的根据变换方法来确定扫描模式的方法的流程图。

[0150] 图9示出了一种根据帧内预测模式例如帧内预测模式组信息来确定扫描顺序的方法。与根据帧内预测模式组来确定变换方法类似，根据变换方法来确定扫描顺序的方法也
可以被包括在本实施方式中。

[0151] 参照图9，确定帧内预测模式组(S900)。

[0152] 因为变换是基于帧内预测模式组执行的，因此确定关于用于当前变换单元的帧内预测模式的信息以及相应地确定帧内预测模式组。

[0153] 在第一帧内预测模式组中(S910)，可以使用第二变换方法，并且可以将垂直(列的方向)扫描顺序用于变换残留信息(S940)。

[0154] 在第二帧内预测模式组中(S920)，可以使用第三变换方法，并且可以将水平(行的方向)扫描顺序用于变换残留信息(S950)。

[0155] 在第三帧内预测模式组中(S930)，可以使用第一变换方法，并且可以将曲折(对角线)扫描顺序用于变换残留信息(S960)。

[0156] 虽然图9示出了根据帧内预测模式的三个划分组来为块确定扫描顺序，但是在本发明的范围内，帧内预测模式可以被进一步划分为更大数量的组。

[0157] 此外，如上所述，不仅关于帧内预测模式的信息，还有将要扫描的块的尺寸都可以用作确定块的扫描顺序的因素。

[0158] 在编码过程中，可以确定帧内预测模式，并且可以根据确定的帧内预测模式来确定扫描顺序。帧内预测模式可以被划分为多个组，并且可以针对每个相应的组来确定扫描
顺序。

[0159] 在解码过程中，可以基于在编码过程中确定的帧内预测模式来确定扫描顺序，并且可以使用与用于编码过程相同的扫描顺序来重建块。同样，在解码过程中，帧内预测模式
可以被划分为多个组，并且可以针对每个相应的组来确定扫描顺序。

[0160] 此外，在解码过程中，可以基于解码的帧内预测模式信息和块的尺寸信息来获得关于在编码过程中使用的扫描顺序的信息。在解码过程中，可以基于获得的关于在编码过
程中使用的扫描方法的信息来执行扫描，并且可以生成与在编码过程中相同的块。

[0161] 图10是示出了根据本发明的示例性实施方式的根据变换方法来确定扫描模式的方法的流程图。

[0162] 图10是示出了除帧内预测模式信息之外还根据块尺寸信息来确定扫描模式的方法的流程图。

[0163] 参照图10，输入关于块的帧内预测模式的信息(S1000)。

[0164] 可以输入关于帧内预测模式数值的信息，或者如果预定组中包括了帧内预测模式数值，则可以输入关于相应的组的索引信息。

[0165] 输入关于块的尺寸的信息(S1010)。

[0166] 除了关于帧内预测模式的信息之外，进一步可以考虑用关于块的尺寸的信息确定扫描顺序。也就是说，即使使用相同的帧内预测模式数值来执行块上的帧内预测，也可以根
据块的尺寸使用不同的扫描顺序。

[0167] 基于关于帧内预测模式的信息和关于块的尺寸的信息来获得块的扫描顺序(S1020)。可以基于通过S1000和S1010中输入的关于帧内预测模式的信息和扫描信息来获
得扫描块的方法。

[0168] 在编码过程中，可以通过在预测过程中确定帧内预测模式和块的尺寸来获得针对块的扫描顺序。在解码过程中，可以基于关于帧内预测模式的熵解码信息和关于块的尺寸
的信息来获得针对块的扫描顺序。

[0169] 尽管已经示出和描述了本发明的示例性实施方式，可以设想，本领域的技术人员可在不背离本发明的原理和精神的情况下对这些示例性实施方式做出各种改变。

[0170] 1.一种视频解码方法，所述方法包括：

[0171] 确定块的帧内预测模式；以及

[0172] 依据所述块的帧内预测模式，使用不同的逆变换方法来逆变换所述块。

[0173] 2.根据1所述的方法，其中，确定所述块的帧内预测模式确定所述块的帧内预测模式被包括在如下哪个帧内预测模式组中：包括垂直预测模式的第一帧内预测模式组；包括
水平预测模式的第二帧内预测模式组；以及包括除了第一帧内预测模式组和第二帧内预测
模式组之外的任一定向预测模式的第三帧内预测模式组。

[0174] 3.根据2所述的方法，其中，依据所述块的帧内预测模式使用不同的逆变换方法来逆变换所述块将所述块的帧内预测模式划分成多个预测模式组，并且依据所述预测模式组
来确定逆变换方法。

[0175] 4.根据3所述的方法，还包括通过解码用于确定是否对所述块执行逆变换的标志信息来确定是否对所述块执行逆变换。

[0176] 5.一种视频解码方法，所述方法包括：

[0177] 确定块的帧内预测模式；以及

[0178] 依据所述块的帧内预测模式来确定扫描顺序。

[0179] 6.根据5所述的方法，其中，依据所述块的帧内预测模式来确定扫描顺序将所述块的帧内预测模式划分成多个预测模式组，并且依据所述预测模式组来确定扫描顺序。

[0180] 7.一种视频编码方法，所述方法包括：

[0181] 确定块的帧内预测模式；以及

[0182] 依据所述块的帧内预测模式，使用不同的变换方法来变换所述块。

[0183] 8.根据7所述的方法，其中，依据所述块的帧内预测模式使用不同的变换方法来交换所述块将所述块的帧内预测模式划分成多个预测模式组，并且依据所述预测模式组来确
定变换方法。

[0184] 9.根据8所述的方法，还包括确定是否变换所述块以及对关于是否变换所述块的信息进行编码。

[0185] 10.一种视频编码方法，所述方法包括：

[0186] 确定块的帧内预测模式；以及

[0187] 依据所述块的帧内预测模式来确定扫描顺序。

[0188] 11.根据10所述的方法，其中，依据所述块的帧内预测模式来确定扫描顺序将所述块的帧内预测模式划分成多个预测模式组，并且依据所述预测模式组来确定扫描顺序。

[0189] 12.一种视频解码装置，所述装置包括：

[0190] 熵解码模块，其对关于帧内预测模式的信息进行解码；以及

[0191] 逆变换模块，其基于由所述熵解码模块解码的帧内预测模式，使用不同的逆变换方法来对块进行逆变换。

[0192] 13.根据12所述的装置，其中，所述逆变换模块依据划分成多个预测模式组的所述块的帧内预测模式来确定逆变换方法。

[0193] 14.根据13所述的装置，其中，所述熵解码模块对标志信息进行解码，以确定是否对所述块执行逆变换。

[0194] 15.一种视频解码装置，所述装置包括：

[0195] 熵解码模块，其对关于帧内预测模式的信息进行解码；以及

[0196] 重排模块，其基于针对所述熵解码模块解码的帧内预测模式确定的扫描顺序来扫描系数。

[0197] 16.根据15所述的装置，其中，所述重排模块基于划分成多个预测模式组的所述块的帧内预测模式来执行扫描。

[0198] 17.一种视频编码装置，所述装置包括：

[0199] 预测模块，其确定块的帧内预测模式；以及

[0200] 变换模块，其依据所述块的帧内预测模式，使用不同的变换方法来变换所述块。

[0201] 18.根据17所述的装置，其中，所述变换模块将所述块的帧内预测模式划分成多个预测模式组，并且依据所述预测模式组来确定变换方法。

[0202] 19.根据17所述的装置，其中，所述变换模块确定是否变换所述块。

[0203] 20.一种视频编码装置，所述装置包括：

[0204] 预测模块，其确定块的帧内预测模式；以及

[0205] 重排模块，其基于针对所述块的帧内预测模式确定的扫描顺序来扫描和重排所述块的系数。