一种VVC帧内预测角度模式快速选择方法

摘要

本发明涉及一种VVC帧内预测角度模式快速选择方法，包括：计算模式2、18、34、50、66的SATD值，并比较五个模式SATD值以得到最小SATD值对应的模式i0；计算模式i0‑8和i0+8的SATD值，并比较模式i0、i0‑8、i0+8的SATD值以得到最小SATD值对应的模式i1；其中，若模式i0‑8或i0+8不存在，则不进行计算；若具有最小SATD值的模式为i1＝2或i1＝66，则转至S4；否则，计算第i1‑4和i1+4模式的SATD值，并比较模式i1、i1‑4、i1+4的SATD值以得到最小SATD值对应的模式i2；确定RDO模式集合，并采用VVC的RDO技术计算RDO模式集合中每种角度模式的RDO值，选择RDO值最小的角度模式作为最优角度模式。本发明有效降低了VVC帧内编码时间和复杂度。

权利要求

1.一种VVC帧内预测角度模式快速选择方法，其特征在于，包括以下步骤：S1、初次筛选：计算模式2、18、34、50、66的SATD值，并比较五个模式SATD值以得到最小SATD值对应的模式i0；

S2、二次筛选：基于初次筛选得到的最小SATD值对应的模式i0，计算模式i0-8和i0+8的SATD值，并比较模式i0、i0-8、i0+8的SATD值以得到最小SATD值对应的模式i1；其中，若模式i0-8或i0+8不存在，则不进行计算；

S3、三次筛选：若二次筛选具有最小SATD值的模式为i1＝2或i1＝66，则转至S4；否则，计算第i1-4和i1+4模式的SATD值，并比较模式i1、i1-4、i1+4的SATD值以得到最小SATD值对应的模式i2；

S4、确定RDO模式集合：若i1＝2，则将模式2、3、4、5、6加入RDO模式集合；若i1＝66，则将模式62、63、64、65、66加入RDO模式集合；否则，将模式i2-2、i2-1、i2、i2+1、i2+2加入RDO模式集合；

S4、终次筛选：采用VVC的RDO技术计算RDO模式集合中每种角度模式的RDO值，选择RDO值最小的角度模式作为最优角度模式；

所沭SATD值的计算方法为编码残差经过哈达玛变换后再取绝对值求和；

其中，D为输入矩阵的大小，H为归一化的哈达玛矩阵，X为编码残差。

2.根据权利要求1所述的一种VVC帧内预测角度模式快速选择方法，其特征在于，所述RDO技术为用于模式决定的拉格朗日率失真优化，为每一种模式计算其拉格朗日代价，其公式如下：J＝D+λ·R

其中，D表示当前预测模式下的失真，R表示编码当前预测模式下所有信息所需要的比特数，λ为拉格朗日因子。

3.根据权利要求2所述的一种VVC帧内预测角度模式快速选择方法，其特征在于，所述编码当前预测模式下所有信息包括变换系数、模式信息、宏块划分方式。

说明书

一种VVC帧内预测角度模式快速选择方法

技术领域

[0001] 本发明属于视频压缩技术领域，具体涉及一种VVC帧内预测角度模式快速选择方法。

背景技术

[0002] 高清、超高清及4K视频等超高分辨率视频的出现，一方面，这意味着需要更大的带宽来传输视频数据；另一方面，也意味着需要更大的存储空间来保存视频数据。为缓解视频传输、存储对资源的需求，视频编码标准作为视频压缩技术的一种常用有效手段，目标是在不降低视频解码后的视频质量的条件下，最大可能地提高视频压缩比。视频编码标准发展历程中，一直都在探索创新中寻求新的突破，截止目前已经发布了很多不同的版本，最新版本是还在不断完善中的H.266/VVC(versatile video coding)标准。

[0003] VVC预测编码包括帧内预测编码和帧间预测编码；其中，帧内预测编码消除了大量空域冗余，它是利用同一帧已编码完成的像素点对即将编码的像素点进行预测。VVC帧内预测模式由H.265原有的35种增加到67种，即DC模式，Planar平面模式，和65种角度预测模式。预测模式的增加大大提高了帧内预测的准确性，但同时也带来了非常高的计算复杂度。VVC帧内预测通过采用粗模式选择(RMD)和最有可能预测模式(MPM)相结合的方法减少率失真优化(RDO)过程中涉及到的角度预测模式，从而降低计算复杂度；即便如此，VVC的帧内预测模式仍然涉及到众多的角度模式选择，运算量非常大。

发明内容

[0004] 基于现有技术中存在的上述不足，本发明提供一种VVC帧内预测角度模式快速选择方法。

[0005] 为了达到上述发明目的，本发明采用以下技术方案：

[0006] 一种VVC帧内预测角度模式快速选择方法，包括以下步骤：

[0007] S1、初次筛选：计算模式2、18、34、50、66的SATD值，并比较五个模式SATD值以得到最小SATD值对应的模式i0；

[0008] S2、二次筛选：基于初次筛选得到的最小SATD值对应的模式i0，计算模式i0-8和i0+8的SATD值，并比较模式i0、i0-8、i0+8的SATD值以得到最小SATD值对应的模式i1；其中，若模式i0-8或i0+8不存在，则不进行计算；

[0009] S3、三次筛选：若二次筛选具有最小SATD值的模式为i1＝2或i1＝66，则转至S4；否则，计算第i1-4和i1+4模式的SATD值，并比较模式i1、i1-4、i1+4的SATD值以得到最小SATD值对应的模式i2；

[0010] S4、确定RDO模式集合：若i1＝2，则将模式2、3、4、5、6加入RDO模式集合；若i1＝66，则将模式62、63、64、65、66加入RDO模式集合；否则，将模式i2-2、i2-1、i2、i2+1、i2+2加入RDO模式集合；

[0011] S4、终次筛选：采用VVC的RDO技术计算RDO模式集合中每种角度模式的RDO值，选择RDO值最小的角度模式作为最优角度模式。

[0012] 作为优选方案，所述SATD值的计算方法为编码残差经过哈达玛变换后再取绝对值求和；

[0013]

[0014] 其中，D为输入矩阵的大小，H为归一化的哈达玛矩阵，X为编码残差。

[0015] 作为优选方案，所述RDO技术为用于模式决定的拉格朗日率失真优化，为每一种模式计算其拉格朗日代价，其公式如下：

[0016] J＝D+λ·R

[0017] 其中，D表示当前预测模式下的失真，R表示编码当前预测模式下所有信息所需要的比特数，λ为拉格朗日因子。

[0018] 作为优选方案，所述编码当前预测模式下所有信息包括变换系数、模式信息、宏块划分方式。

[0019] 本发明与现有技术相比，有益效果是：

[0020] 本发明的VVC帧内预测角度模式快速选择方法，通过采用二分法的思想，使用SATD略过部分帧内编码角度预测模式，减少RDO计算时涉及到的角度预测模式，从而快速得到最优的角度预测模式；本发明的方法在保证视频质量基本不变的前提下，有效地降低了VVC帧内编码时间和复杂度。

附图说明

[0021] 图1是本发明实施例的VVC帧内预测角度模式快速选择方法的流程图；

[0022] 图2是本发明实施例的67种帧内预测模式示意图。

具体实施方式

[0023] 为了更清楚地说明本发明实施例，下面将对照附图说明本发明的具体实施方式。显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图，并获得其他的实施方式。

[0024] 如图1和2所示，本发明实施例的VVC帧内预测角度模式快速选择方法，以亮度帧内编码模式选择为例，具体包括以下步骤：

[0025] 步骤1：初次筛选：计算第2、18、34、50、66模式的SATD，比较五个模式SATD值后，得出具有最小SATD值的模式i0。

[0026] 以亮度编码块(CU)为例，针对当前亮度编码块CU，分别按2、18、34、50、66模式计算得到预测亮度编码块CU，那么编码残差Diff为：

[0027] Diff＝CU_ori-CU_pro

[0028] CU_ori表示原始亮度编码块CU的像素值，CU_pre表示预测编码块CU的像素值，Diff表示原始亮度编码块和预测亮度编码块之间的像素差异值。

[0029] 将残差经过哈达玛变换后再取绝对值求和，其公式如下所示：

[0030]

[0031] 其中，D为输入矩阵的大小，H为归一化的哈达玛矩阵，X为残差信号矩阵，即编码残差。

[0032] 比较五个模式SATD值后，得出具有最小SATD值的模式i0。

[0033] 步骤2：二次筛选。

[0034] 若初次筛选具有最小SATD值的模式为i0(i0＝2、18、34、50、66)，计算第i0-8和i0+8模式的SATD(若第i0-8或i0+8模式不存在，则不进行计算)，比较模式i0、i0-8、i0+8的SATD值，得出具有最小SATD值的模式i1。

[0035] 具体来说，若初次筛选具有最小SATD值的模式为2，计算第10模式的SATD，比较模式2、10的SATD值，得出具有最小SATD值的模式i1；若初次筛选具有最小SATD值的模式为18，计算第10和26模式的SATD，比较模式10、18、26的SATD值，得出具有最小SATD值的模式i1；若初次筛选具有最小SATD值的模式为34，计算第26和42模式的SATD，比较模式26、34、42的SATD值，得出具有最小SATD值的模式i1；若初次筛选具有最小SATD值的模式为50，计算第42和58模式的SATD，比较模式42、50、58的SATD值，得出具有最小SATD值的模式i1；若初次筛选具有最小SATD值的模式为66，计算第58模式的SATD，比较模式58、66的SATD值，得出具有最小SATD值的模式i1。

[0036] 步骤3：三次筛选。若二次筛选具有最小SATD值的模式为i1＝2或i1＝66，则进入步骤4；否则，计算第i1-4和i1+4模式的SATD(i1＝10、18、26、34、42、50、58)，比较模式i1、i1-4、i1+4的SATD值，得出具有最小SATD值的模式i2。

[0037] 具体来说，若二次筛选具有最小SATD值的模式为i1＝2，则进入步骤4；若二次筛选具有最小SATD值的模式为i1＝10,计算第6和14模式的SATD，比较模式6、10、14的SATD值，得出具有最小SATD值的模式i2；若二次筛选具有最小SATD值的模式为i1＝18,计算第14和22模式的SATD，比较模式14、18、22的SATD值，得出具有最小SATD值的模式i2；若二次筛选具有最小SATD值的模式为i1＝26,计算第22和30模式的SATD，比较模式22、26、30的SATD值，得出具有最小SATD值的模式i2；若二次筛选具有最小SATD值的模式为i1＝34,计算第30和38模式的SATD，比较模式30、34、38的SATD值，得出具有最小SATD值的模式i2；若二次筛选具有最小SATD值的模式为i1＝42,计算第38和46模式SATD，比较模式38、42、46的SATD值，得出具有最小SATD值的模式i2；若二次筛选具有最小SATD值的模式为i1＝50,计算第46和54模式的SATD，比较模式46、50、54的SATD值，得出具有最SATD值的模式i2；若二次筛选具有最小SATD值的模式为i1＝58,计算第54和62模式的SATD，比较模式54、58、62的SATD值，得出具有最小SATD值的模式i2；若二次筛选具有最小SATD值的模式为i1＝66，则进入步骤4。

[0038] 步骤4：确定RDO模式集合。若具有最小SATD值的模式为2，将模式2、3、4、5、6加入到RDO模式集合；若具有最小SATD值的模式为66，将模式62、63、64、65、66加入到RDO模式集合；否则，具有最小SATD值的模式为上步得到的i2，此时将模式i2-2、i2-1、i2、i2+1、i2+2加入到RDO模式集合。

[0039] 具体来说，若具有最小SATD值的模式为2，将模式2、3、4、5、6加入到RDO模式集合；若具有最小SATD值的模式为步骤3得到的6,将模式4、5、6、7、8加入到RDO模式集合；若具有最小SATD值的模式为步骤3得到的10,将模式8、9、10、11、12加入到RDO模式集合；若具有最小SATD值的模式为步骤3得到的14,将模式12、13、14、15、16加入到RDO模式集合；若具有最小SATD值的模式为步骤3得到的18,将模式16、17、18、19、20加入到RDO模式集合；若具有最小SATD值的模式为步骤3得到的22,将模式20、21、22、23、24加入到RDO模式集合；若具有最小SATD值的模式为步骤3得到的26,将模式24、25、26、27、28加入到RDO模式集合；若具有最小SATD值的模式为步骤3得到的30,将模式28、29、30、31、32加入到RDO模式集合；若具有最小SATD值的模式为步骤3得到的34,将模式32、33、34、35、36加入到RDO模式集合；若具有最小SATD值的模式为步骤3得到的38,将模式36、37、38、39、40加入到RDO模式集合；若具有最小SATD值的模式为步骤3得到的42,将模式40、41、42、43、44加入到RDO模式集合；若具有最小SATD值的模式为步骤3得到的46,将模式44、45、46、47、48加入到RDO模式集合；若具有最小SATD值的模式为步骤3得到的50,将模式48、49、50、51、52加入到RDO模式集合；若具有最小SATD值的模式为步骤3得到的54,将模式52、53、54、55、56加入到RDO模式集合；若具有最小SATD值的模式为步骤3得到的58,将模式56、57、58、59、60加入到RDO模式集合；若具有最小SATD值的模式为步骤3得到的62,将模式60、61、62、63、64加入到RDO模式集合；若具有最小SATD值的模式为66，将模式62、63、64、65、66加入到RDO模式集合。

[0040] 步骤五：终次筛选。采用VVC的RDO技术计算RDO模式集合中每种角度模式的RDO，选择RDO值最小的角度模式作为最优的角度模式i。

[0041] RDO是用于模式决定的拉格朗日率失真优化，为每一种模式计算其拉格朗日代价，其公式如下：

[0042] J＝D+λ·R

[0043] 其中，D表示当前预测模式下的失真(即Diff，原始亮度编码块和预测编码块之间的像素差异值)，R表示编码当前预测模式下所有信息(如变换系数、模式信息、宏块划分方式等)所需要的比数，λ为拉格朗日因子。

[0044] RDO值最小的角度模式是我们的最优模式i。

[0045] 以上所述仅是对本发明的优选实施例及原理进行了详细说明，对本领域的普通技术人员而言，依据本发明提供的思想，在具体实施方式上会有改变之处，而这些改变也应视为本发明的保护范围。