一种编解码方法、装置及其设备转让专利

申请号 : CN202110680962.6

文献号 : CN113411602B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 陈方栋

申请人 : 杭州海康威视数字技术股份有限公司

摘要 :

本申请提供一种编解码方法、装置及其设备,该方法包括:若当前块的特征信息满足特定条件,则执行以下步骤获取所述当前块或者所述当前块的子块的目标预测值:根据所述当前块的第一单向运动信息确定第一原始预测值,根据所述当前块的第二单向运动信息确定第二原始预测值;根据所述第一原始预测值和所述第二原始预测值确定水平方向速率;根据所述第一原始预测值和所述第二原始预测值确定垂直方向速率;根据所述水平方向速率和所述垂直方向速率获取预测补偿值;根据所述第一原始预测值、所述第二原始预测值和所述预测补偿值获取目标预测值。通过本申请的技术方案,可以提高编码性能。

权利要求 :

1.一种解码方法,其特征在于,所述方法包括:

若确定对当前块启动双向光流模式,则对所述当前块进行基于双向光流模式的运动补偿;其中,所述当前块包括一个或多个4x4块,所述对所述当前块进行基于双向光流模式的运动补偿,包括:针对所述当前块的每个4x4块,确定所述4x4块的第一原始预测值和所述

4x4块的第二原始预测值;根据所述4x4块的第一原始预测值和所述4x4块的第二原始预测值确定所述4x4块的目标预测值,根据每个4x4块的目标预测值确定所述当前块的预测值;

其中,对于每个4x4块,所述根据所述4x4块的第一原始预测值和所述4x4块的第二原始预测值确定所述4x4块的目标预测值,包括:根据所述第一原始预测值和所述第二原始预测值,确定所述4x4块的水平方向速率;根据所述第一原始预测值和所述第二原始预测值,确定所述4x4块的垂直方向速率;根据所述4x4块的水平方向速率和所述4x4块的垂直方向速率获取所述4x4块的预测补偿值;根据所述第一原始预测值、所述第二原始预测值和所述

4x4块的预测补偿值,获取所述4x4块的目标预测值;

其中,所述根据所述第一原始预测值和所述第二原始预测值,确定所述4x4块的水平方向速率,包括:根据所述第一原始预测值和所述第二原始预测值确定自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5和互相关系数S6;其中,所述自相关系数S1为水平方向梯度和的自相关系数,所述互相关系数S2为水平方向梯度和与垂直方向梯度和的互相关系数,所述互相关系数S3为时域预测值差值与水平方向梯度和的互相关系数,所述自相关系数S5为垂直方向梯度和的自相关系数,所述互相关系数S6为所述时域预测值差值与垂直方向梯度和的互相关系数;若满足第一预设条件,则根据所述互相关系数S2、速率阈值、所述互相关系数S6、第一放大因子和第二放大因子确定所述4x4块的水平方向速率;或者,若不满足所述第一预设条件,则根据所述自相关系数S1、所述速率阈值、所述互相关系数S3、所述第一放大因子和所述第二放大因子确定所述4x4块的水平方向速率;其中,所述第一预设条件为:互相关系数S2的绝对值大于自相关系数S5的绝对值的k倍,k为预设的整数阈值;

其中,在所述当前块启动双向光流模式时,所述当前块同时满足的条件包括:开关控制信息为允许所述当前块采用双向光流模式;当前块不采用子块运动信息模式,且当前块不采用CIIP模式,且当前块不采用SMVD模式;当前块采用双向预测,且所述当前块对应的两个参考帧来自不同方向,且所述当前块对应的所述两个参考帧与当前帧的距离相同;当前块采用双向预测,且所述当前块对应的两个参考帧的加权权重相同;当前块的宽度值,高度值和面积值均在限定范围内;其中,所述当前块对应的两个参考帧的加权权重相同,包括:当前块允许块级加权预测方法BCW启用,且当前块的两个加权权重完全一样。

2.根据权利要求1所述的方法,其特征在于,所述方法还包括:在当前块不启动双向光流模式时,当前块不满足如下条件中的任意一个条件:

开关控制信息为允许所述当前块采用双向光流模式;当前块不采用子块运动信息模式,且当前块不采用CIIP模式,且当前块不采用SMVD模式;当前块采用双向预测,且所述当前块对应的两个参考帧来自不同方向,且所述当前块对应的所述两个参考帧与当前帧的距离相同;当前块采用双向预测,且所述当前块对应的两个参考帧的加权权重相同;当前块的宽度值,高度值和面积值均在限定范围内。

3.根据权利要求1或2所述的方法,其特征在于,所述当前块的宽度值,高度值和面积值均在限定范围内,包括:

当前块的宽度大于等于 8,当前块的高度大于等于8,当前块的宽高乘积大于等于128。

4.一种解码装置,其特征在于,所述装置用于:

若确定对当前块启动双向光流模式,则对所述当前块进行基于双向光流模式的运动补偿;其中,所述当前块包括一个或多个4x4块,所述对所述当前块进行基于双向光流模式的运动补偿,包括:针对所述当前块的每个4x4块,确定所述4x4块的第一原始预测值和所述

4x4块的第二原始预测值;根据所述4x4块的第一原始预测值和所述4x4块的第二原始预测值确定所述4x4块的目标预测值,根据每个4x4块的目标预测值确定所述当前块的预测值;

其中,对于每个4x4块,所述根据所述4x4块的第一原始预测值和所述4x4块的第二原始预测值确定所述4x4块的目标预测值,包括:根据所述第一原始预测值和所述第二原始预测值,确定所述4x4块的水平方向速率;根据所述第一原始预测值和所述第二原始预测值,确定所述4x4块的垂直方向速率;根据所述4x4块的水平方向速率和所述4x4块的垂直方向速率获取所述4x4块的预测补偿值;根据所述第一原始预测值、所述第二原始预测值和所述

4x4块的预测补偿值,获取所述4x4块的目标预测值;

其中,所述根据所述第一原始预测值和所述第二原始预测值,确定所述4x4块的水平方向速率,包括:根据所述第一原始预测值和所述第二原始预测值确定自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5和互相关系数S6;其中,所述自相关系数S1为水平方向梯度和的自相关系数,所述互相关系数S2为水平方向梯度和与垂直方向梯度和的互相关系数,所述互相关系数S3为时域预测值差值与水平方向梯度和的互相关系数,所述自相关系数S5为垂直方向梯度和的自相关系数,所述互相关系数S6为所述时域预测值差值与垂直方向梯度和的互相关系数;若满足第一预设条件,则根据所述互相关系数S2、速率阈值、所述互相关系数S6、第一放大因子和第二放大因子确定所述4x4块的水平方向速率;或者,若不满足所述第一预设条件,则根据所述自相关系数S1、所述速率阈值、所述互相关系数S3、所述第一放大因子和所述第二放大因子确定所述4x4块的水平方向速率;其中,所述第一预设条件为:互相关系数S2的绝对值大于自相关系数S5的绝对值的k倍,k为预设的整数阈值;

其中,在所述当前块启动双向光流模式时,所述当前块同时满足的条件包括:开关控制信息为允许所述当前块采用双向光流模式;当前块不采用子块运动信息模式,且当前块不采用CIIP模式,且当前块不采用SMVD模式;当前块采用双向预测,且所述当前块对应的两个参考帧来自不同方向,且所述当前块对应的所述两个参考帧与当前帧的距离相同;当前块采用双向预测,且所述当前块对应的两个参考帧的加权权重相同;当前块的宽度值,高度值和面积值均在限定范围内;其中,所述当前块对应的两个参考帧的加权权重相同,包括:当前块允许块级加权预测方法BCW启用,且当前块的两个加权权重完全一样。

5.根据权利要求4所述的装置,其特征在于,

在当前块不启动双向光流模式时,当前块不满足如下条件中的任意一个条件:

开关控制信息为允许所述当前块采用双向光流模式;当前块不采用子块运动信息模式,且当前块不采用CIIP模式,且当前块不采用SMVD模式;当前块采用双向预测,且所述当前块对应的两个参考帧来自不同方向,且所述当前块对应的所述两个参考帧与当前帧的距离相同;当前块采用双向预测,且所述当前块对应的两个参考帧的加权权重相同;当前块的宽度值,高度值和面积值均在限定范围内。

6.根据权利要求4或5所述的装置,其特征在于,所述当前块的宽度值,高度值和面积值均在限定范围内,包括:当前块的宽度大于等于 8,当前块的高度大于等于8,当前块的宽高乘积大于等于128。

7.一种视频解码器,其特征在于,包括:处理器和机器可读存储介质,所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令;

所述处理器用于执行机器可执行指令,以实现如下步骤:

若确定对当前块启动双向光流模式,则对所述当前块进行基于双向光流模式的运动补偿;其中,所述当前块包括一个或多个4x4块,所述对所述当前块进行基于双向光流模式的运动补偿,包括:针对所述当前块的每个4x4块,确定所述4x4块的第一原始预测值和所述

4x4块的第二原始预测值;根据所述4x4块的第一原始预测值和所述4x4块的第二原始预测值确定所述4x4块的目标预测值,根据每个4x4块的目标预测值确定所述当前块的预测值;

其中,对于每个4x4块,所述根据所述4x4块的第一原始预测值和所述4x4块的第二原始预测值确定所述4x4块的目标预测值,包括:根据所述第一原始预测值和所述第二原始预测值,确定所述4x4块的水平方向速率;根据所述第一原始预测值和所述第二原始预测值,确定所述4x4块的垂直方向速率;根据所述4x4块的水平方向速率和所述4x4块的垂直方向速率获取所述4x4块的预测补偿值;根据所述第一原始预测值、所述第二原始预测值和所述

4x4块的预测补偿值,获取所述4x4块的目标预测值;

其中,所述根据所述第一原始预测值和所述第二原始预测值,确定所述4x4块的水平方向速率,包括:根据所述第一原始预测值和所述第二原始预测值确定自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5和互相关系数S6;其中,所述自相关系数S1为水平方向梯度和的自相关系数,所述互相关系数S2为水平方向梯度和与垂直方向梯度和的互相关系数,所述互相关系数S3为时域预测值差值与水平方向梯度和的互相关系数,所述自相关系数S5为垂直方向梯度和的自相关系数,所述互相关系数S6为所述时域预测值差值与垂直方向梯度和的互相关系数;若满足第一预设条件,则根据所述互相关系数S2、速率阈值、所述互相关系数S6、第一放大因子和第二放大因子确定所述4x4块的水平方向速率;或者,若不满足所述第一预设条件,则根据所述自相关系数S1、所述速率阈值、所述互相关系数S3、所述第一放大因子和所述第二放大因子确定所述4x4块的水平方向速率;其中,所述第一预设条件为:互相关系数S2的绝对值大于自相关系数S5的绝对值的k倍,k为预设的整数阈值;

其中,在所述当前块启动双向光流模式时,所述当前块同时满足的条件包括:开关控制信息为允许所述当前块采用双向光流模式;当前块不采用子块运动信息模式,且当前块不采用CIIP模式,且当前块不采用SMVD模式;当前块采用双向预测,且所述当前块对应的两个参考帧来自不同方向,且所述当前块对应的所述两个参考帧与当前帧的距离相同;当前块采用双向预测,且所述当前块对应的两个参考帧的加权权重相同;当前块的宽度值,高度值和面积值均在限定范围内;其中,所述当前块对应的两个参考帧的加权权重相同,包括:当前块允许块级加权预测方法BCW启用,且当前块的两个加权权重完全一样。

8.一种电子设备,其特征在于,包括处理器;

用于存储处理器可执行指令的存储器;

其中,所述处理器被配置为执行上述权利要求1至3中的任一项权利要求所述的解码方法的步骤。

9.一种计算机可读存储介质,所述计算机可读存储介质上存储有指令,其特征在于,所述指令被处理器执行时实现下述解码方法:

若确定对当前块启动双向光流模式,则对所述当前块进行基于双向光流模式的运动补偿;其中,所述当前块包括一个或多个4x4块,所述对所述当前块进行基于双向光流模式的运动补偿,包括:针对所述当前块的每个4x4块,确定所述4x4块的第一原始预测值和所述

4x4块的第二原始预测值;根据所述4x4块的第一原始预测值和所述4x4块的第二原始预测值确定所述4x4块的目标预测值,根据每个4x4块的目标预测值确定所述当前块的预测值;

其中,对于每个4x4块,所述根据所述4x4块的第一原始预测值和所述4x4块的第二原始预测值确定所述4x4块的目标预测值,包括:根据所述第一原始预测值和所述第二原始预测值,确定所述4x4块的水平方向速率;根据所述第一原始预测值和所述第二原始预测值,确定所述4x4块的垂直方向速率;根据所述4x4块的水平方向速率和所述4x4块的垂直方向速率获取所述4x4块的预测补偿值;根据所述第一原始预测值、所述第二原始预测值和所述

4x4块的预测补偿值,获取所述4x4块的目标预测值;

其中,所述根据所述第一原始预测值和所述第二原始预测值,确定所述4x4块的水平方向速率,包括:根据所述第一原始预测值和所述第二原始预测值确定自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5和互相关系数S6;其中,所述自相关系数S1为水平方向梯度和的自相关系数,所述互相关系数S2为水平方向梯度和与垂直方向梯度和的互相关系数,所述互相关系数S3为时域预测值差值与水平方向梯度和的互相关系数,所述自相关系数S5为垂直方向梯度和的自相关系数,所述互相关系数S6为所述时域预测值差值与垂直方向梯度和的互相关系数;若满足第一预设条件,则根据所述互相关系数S2、速率阈值、所述互相关系数S6、第一放大因子和第二放大因子确定所述4x4块的水平方向速率;或者,若不满足所述第一预设条件,则根据所述自相关系数S1、所述速率阈值、所述互相关系数S3、所述第一放大因子和所述第二放大因子确定所述4x4块的水平方向速率;其中,所述第一预设条件为:互相关系数S2的绝对值大于自相关系数S5的绝对值的k倍,k为预设的整数阈值;

其中,在所述当前块启动双向光流模式时,所述当前块同时满足的条件包括:开关控制信息为允许所述当前块采用双向光流模式;当前块不采用子块运动信息模式,且当前块不采用CIIP模式,且当前块不采用SMVD模式;当前块采用双向预测,且所述当前块对应的两个参考帧来自不同方向,且所述当前块对应的所述两个参考帧与当前帧的距离相同;当前块采用双向预测,且所述当前块对应的两个参考帧的加权权重相同;当前块的宽度值,高度值和面积值均在限定范围内;其中,所述当前块对应的两个参考帧的加权权重相同,包括:当前块允许块级加权预测方法BCW启用,且当前块的两个加权权重完全一样。

说明书 :

一种编解码方法、装置及其设备

技术领域

[0001] 本申请涉及编解码技术领域,尤其是涉及一种编解码方法、装置及其设备。

背景技术

[0002] 为了达到节约空间的目的,视频图像都是经过编码后才传输的,完整的视频编码方法可以包括预测、变换、量化、熵编码、滤波等过程。其中,预测编码可以包括帧内编码和帧间编码,帧间编码是利用视频时间域的相关性,使用邻近已编码图像的像素预测当前图像的像素,以达到有效去除视频时域冗余的目的。
[0003] 在帧间编码中,可以使用运动矢量(Motion Vector,MV)表示当前帧视频图像的当前块与参考帧视频图像的参考块之间的相对位移。例如,当前帧的视频图像A与参考帧的视频图像B存在很强的时域相关性,在需要传输视频图像A的图像块A1(当前块)时,则可以在视频图像B中进行运动搜索,找到与图像块A1最匹配的图像块B1(即参考块),并确定图像块A1与图像块B1之间的相对位移,该相对位移也就是图像块A1的运动矢量。
[0004] 编码端可以将运动矢量发送给解码端,不是将图像块A1发送给解码端,解码端可以根据运动矢量和图像块B1得到图像块A1。显然,由于运动矢量占用的比特数远远小于图像块A1占用的比特数,因此,上述方式可以节约大量比特开销。
[0005] 在传统方式中,在当前块是单向块时,获得当前块的运动信息后,可以根据该运动信息进行编码/解码,从而提高编码性能。但是,在当前块是双向块时,获得当前块的双向运动信息后,可以根据双向运动信息获取来自两个不同方向的预测图像,而来自两个不同方向的预测图像往往存在镜像对称的关系,当前编码框架中未充分利用这一特性来进一步的去除冗余。也就是说,针对双向块的应用场景,目前存在编码性能比较差等问题。

发明内容

[0006] 本申请提供了一种编解码方法、装置及其设备,可以提高编码性能。
[0007] 本申请提供一种编解码方法,所述方法包括:若当前块的特征信息满足特定条件,则执行以下步骤获取所述当前块或者所述当前块的子块的目标预测值:
[0008] 根据所述当前块的第一单向运动信息确定第一原始预测值,根据所述当前块的第二单向运动信息确定第二原始预测值;根据所述第一原始预测值和所述第二原始预测值确定水平方向速率;根据所述第一原始预测值和所述第二原始预测值确定垂直方向速率;
[0009] 根据所述水平方向速率和所述垂直方向速率获取预测补偿值;
[0010] 根据所述第一原始预测值、所述第二原始预测值和所述预测补偿值获取目标预测值。
[0011] 本申请提供一种编解码装置,所述装置包括:所述装置用于若当前块的特征信息满足特定条件,则获取所述当前块或者所述当前块的子块的目标预测值,所述装置包括:
[0012] 第一确定模块,用于若当前块的特征信息满足特定条件,根据所述当前块的第一单向运动信息确定第一原始预测值,根据所述当前块的第二单向运动信息确定第二原始预测值;
[0013] 第二确定模块,用于根据所述第一原始预测值和所述第二原始预测值确定水平方向速率;根据所述第一原始预测值和所述第二原始预测值确定垂直方向速率;
[0014] 第一获取模块,用于根据所述水平方向速率和所述垂直方向速率获取预测补偿值;
[0015] 第二获取模块,用于根据所述第一原始预测值、所述第二原始预测值和所述预测补偿值获取目标预测值。
[0016] 本申请提供一种编码端设备,包括:处理器和机器可读存储介质,所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令;所述处理器用于执行机器可执行指令,以实现如下步骤:若当前块的特征信息满足特定条件,则执行以下步骤获取所述当前块或者所述当前块的子块的目标预测值:根据所述当前块的第一单向运动信息确定第一原始预测值,根据所述当前块的第二单向运动信息确定第二原始预测值;
[0017] 根据所述第一原始预测值和所述第二原始预测值确定水平方向速率;
[0018] 根据所述第一原始预测值和所述第二原始预测值确定垂直方向速率;
[0019] 根据所述水平方向速率和所述垂直方向速率获取预测补偿值;
[0020] 根据所述第一原始预测值、所述第二原始预测值和所述预测补偿值获取目标预测值。
[0021] 本申请提供一种解码端设备,包括:处理器和机器可读存储介质,所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令;所述处理器用于执行机器可执行指令,以实现如下步骤:若当前块的特征信息满足特定条件,则执行以下步骤获取所述当前块或者所述当前块的子块的目标预测值:根据所述当前块的第一单向运动信息确定第一原始预测值,根据所述当前块的第二单向运动信息确定第二原始预测值;
[0022] 根据所述第一原始预测值和所述第二原始预测值确定水平方向速率;
[0023] 根据所述第一原始预测值和所述第二原始预测值确定垂直方向速率;
[0024] 根据所述水平方向速率和所述垂直方向速率获取预测补偿值;
[0025] 根据所述第一原始预测值、所述第二原始预测值和所述预测补偿值获取目标预测值。
[0026] 由以上技术方案可见,本申请实施例中,可以根据当前块的第一单向运动信息确定第一原始预测值,根据当前块的第二单向运动信息确定第二原始预测值,根据第一原始预测值和第二原始预测值确定水平方向速率和垂直方向速率,并根据水平方向速率和垂直方向速率获取预测补偿值,并根据预测补偿值获取目标预测值。上述方式能够基于光流法获取当前块或者当前块的子块的目标预测值,从而提高硬件实现友好性,带来编码性能的提高。

附图说明

[0027] 为了更加清楚地说明本申请实施例的技术方案,下面将对本申请实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请中记载的一些实施例,对于本领域普通技术人员来讲,还可以根据本申请实施例的这些附图获得其他的附图。
[0028] 图1A是本申请一种实施方式中的插值的示意图;
[0029] 图1B是本申请一种实施方式中的视频编码框架的示意图;
[0030] 图2是本申请一种实施方式中的编解码方法的流程图;
[0031] 图3是本申请一种实施方式中的编解码方法的流程图;
[0032] 图4是本申请一种实施方式中的当前块的子块对应的参考块的示意图;
[0033] 图5是本申请一种实施方式中的编解码装置的结构图;
[0034] 图6是本申请一种实施方式中的解码端设备的硬件结构图;
[0035] 图7是本申请一种实施方式中的编码端设备的硬件结构图。

具体实施方式

[0036] 在本申请实施例中所使用的术语仅仅是出于描述特定实施例的目的,而非用于限制本申请。本申请实施例和权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其它含义。还应当理解,本文中使用的术语“和/或”是指包含一个或多个相关联的列出项目的任何或所有可能组合。应当理解,尽管在本申请实施例可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本申请范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,此外,所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
[0037] 本申请实施例中提出一种编解码方法、装置及其设备,可以涉及如下概念:
[0038] 帧内预测与帧间预测(intra prediction and inter prediction)技术:帧内预测是指,利用视频空间域的相关性,使用当前图像已经编码块的像素预测当前像素,以达到去除视频空域冗余的目的。帧间预测是指,利用视频时域的相关性,由于视频序列包含有较强的时域相关性,使用邻近已编码图像像素预测当前图像的像素,达到有效去除视频时域冗余的目的。主要视频编码标准帧间预测部分都采用了基于块的运动补偿技术,主要原理是为当前图像的每一像素块在之前的已编码图像中寻找最佳匹配块,该过程称为运动估计(Motion Estimation,ME)。
[0039] 运动矢量(Motion Vector,MV):在帧间编码中,可以使用运动矢量表示当前编码块与其参考图像中的最佳匹配块之间的相对位移。每个划分的块都有相应的运动矢量需要传输到解码端,如果对每个块的运动矢量进行独立编码和传输,特别是划分成小尺寸的块时,则需要消耗相当多的比特。为了降低用于编码运动矢量的比特数,则可以利用相邻图像块之间的空间相关性,根据相邻已编码块的运动矢量对当前待编码块的运动矢量进行预测,然后,对预测差进行编码。这样,可以有效地降低表示运动矢量的比特数。在对当前块的运动矢量编码过程中,首先,使用相邻已编码块的运动矢量预测当前块的运动矢量,然后,可以对运动矢量的预测值(MVP,Motion Vector Prediction)与运动矢量的真正估值之间的差值(MVD,MotionVector Difference)进行编码,从而有效降低MV的编码比特数。
[0040] 运动信息(Motion Information):由于运动矢量表示当前图像块与某个参考图像块的位置偏移,为了准确的获取指向图像块的信息,除了运动矢量,还需要参考帧图像的索引信息来表示使用哪个参考帧图像。在视频编码技术中,对于当前帧图像,通常可以建立一个参考帧图像列表,参考帧图像索引信息则表示当前图像块采用了参考帧图像列表中的第几个参考帧图像。此外,很多编码技术还支持多个参考图像列表,因此,还可以使用一个索引值来表示使用了哪一个参考图像列表,这个索引值可以称为参考方向。在视频编码技术中,可以将运动矢量、参考帧索引、参考方向等与运动相关的信息统称为运动信息。
[0041] 插值(Interpolation):若当前运动矢量为非整像素精度,则无法直接从对应参考帧中拷贝已有像素值,所需像素值通过插值获得。如图1A所示,若想获得偏移为1/2像素的像素值Y1/2,则通过周围已有像素值X插值获得。若采用抽头数为N的插值滤波器,则通过周k围N个整像素插值获得。若抽头数N为8,则 a 为滤波器系数,即加权系
数。
[0042] 运动补偿:运动补偿的过程就是通过插值或拷贝获得当前块所有预测像素值的过程。
[0043] 视频编码框架:参见图1B所示,可以使用视频编码框架实现本申请实施例的编码端处理流程,此外,视频解码框架的示意图与图1B类似,在此不再重复赘述,而且,可以使用视频解码框架实现本申请实施例的解码端处理流程。具体的,在视频编码框架和视频解码框架中,包括帧内预测、运动估计/运动补偿、参考图像缓冲器、环内滤波、重建、变换、量化、反变换、反量化、熵编码器等模块。在编码端,通过这些模块之间的配合,可以实现编码端处理流程,在解码端,通过这些模块之间的配合,可以实现解码端处理流程。
[0044] 在传统方式中,在当前块是双向块(即当前块是采用双向预测的块)时,来自两个不同方向的预测图像往往存在镜像对称的关系,当前编码框架中未充分利用这一特性来进一步的去除冗余,从而存在编码性能比较差等问题。针对上述发现,本申请实施例中,在当前块是双向块时,提出一种基于光流法的预测信号调整方式,能够基于原始运动信息获得原始预测值,基于原始预测值,通过光流方程获得当前块的预测补偿值,基于该预测补偿值与原始预测值获得当前块的目标预测值。上述方式能够基于光流法获取当前块的目标预测值,从而提高硬件实现友好性,带来编码性能的提高,即可以提高编码性能和编码效率。
[0045] 以下结合几个具体实施例,对本申请实施例中的编解码方法进行详细说明。
[0046] 实施例1:参见图2所示,为编解码方法的流程示意图,该方法可以应用于解码端或者编码端,该方法通过执行以下步骤获取当前块或者当前块的子块的目标预测值。若针对当前块执行以下步骤,则可以获取当前块的目标预测值;若当前块被划分为至少一个子块,且针对当前块的每个子块执行以下步骤,则可以获取当前块的子块的目标预测值,该方法包括:
[0047] 步骤201,若当前块的特征信息满足特定条件,则根据当前块的第一单向运动信息确定第一原始预测值,并根据当前块的第二单向运动信息确定第二原始预测值。
[0048] 示例性的,当前块可以是双向块(即当前块是采用双向预测的块),也就是说,当前块对应的运动信息是双向运动信息,且这个双向运动信息可以包括两个不同方向的运动信息,将这两个不同方向的运动信息称为第一单向运动信息和第二单向运动信息。第一单向运动信息可以对应第一参考帧,且该第一参考帧位于当前块所处当前帧的前面;第二单向运动信息可以对应第二参考帧,且该第二参考帧位于当前块所处当前帧的后面。
[0049] 示例性的,特征信息可以包括但不限于以下一种或者多种:运动信息属性;预测模式属性;尺寸信息;序列级开关控制信息。当然,上述只是几个示例,对此不做限制。
[0050] 若特征信息包括运动信息属性,且运动信息属性满足如下情况的一种或者同时满足以下至少两种时,则确定运动信息属性满足特定条件;1、当前块采用双向预测,且当前块对应的两个参考帧来自不同方向;2、当前块包括多个子块,多个子块的运动信息均相同;3、当前块采用双向预测,且当前块对应的两个参考帧的加权权重相同;4、当前块采用双向预测,且当前块对应的两个参考帧与当前帧的距离相同;5、当前块采用双向预测,且当前块对应的两个参考帧的预测值的差异值小于预设阈值。当然,上述只是几个示例,对此不做限制。
[0051] 针对情况5,还需要获取当前块对应的两个参考帧的预测值的差异值,为了获取该差异值,可以采用如下方式:根据当前块的第一单向运动信息从第一参考帧中获取第一预测块,并根据当前块的第二单向运动信息从第二参考帧中获取第二预测块;根据第一预测块的下采样后的预测值与第二预测块的下采样后的预测值的SAD,获取第一参考帧与第二参考帧的预测值的差异值。或者,根据当前块的第一单向运动信息从第一参考帧中获取第一预测块,并根据当前块的第二单向运动信息从第二参考帧中获取第二预测块;根据第一预测块的预测值与第二预测块的预测值的SAD,获取第一参考帧与第二参考帧的预测值的差异值。
[0052] 若特征信息包括预测模式属性,且预测模式属性为不采用基于帧内帧间联合预测的融合模式,和/或,不采用对称运动矢量差模式,则确定预测模式属性满足特定条件。
[0053] 若特征信息包括序列级开关控制信息,且该序列级开关控制信息为允许当前块采用双向光流模式,则确定序列级开关控制信息满足特定条件。
[0054] 若特征信息包括尺寸信息,且尺寸信息包括宽度值、高度值和面积值中的至少一个,当尺寸信息中的宽度值、高度值和面积值中的至少一个满足相应的阈值条件时,尺寸信息满足特定条件。示例性的,尺寸信息满足如下情况的一种或者同时满足以下至少两种时,则确定尺寸信息满足特定条件;当前块的宽度值大于或等于第一阈值,当前块的宽度值小于或等于第二阈值;当前块的高度值大于或等于第三阈值,当前块的高度值小于或等于第四阈值;当前块的面积值大于或等于第五阈值,当前块的面积值小于或等于第六阈值。当然,上述只是几个示例,对此不做限制。
[0055] 示例性的,第一阈值可以小于第二阈值,第一阈值和第二阈值均为2的X1次方,X1为正整数,对此第一阈值和第二阈值均不做限制,例如,第一阈值可以为8,第二阈值可以为128。第三阈值可以小于第四阈值,第三阈值和第四阈值也为2的X2次方,X2为正整数,对此第三阈值和第四阈值均不做限制,例如,第三阈值可以为8,第四阈值可以为128。第五阈值可以小于第六阈值,第五阈值和第六阈值也为2的X3次方,X3为正整数,对此第五阈值和第六阈值均不做限制,例如,第五阈值可以为64(即8*8),第六阈值可以为16384(即128*128)。
当然,上述阈值只是示例,对这些阈值均不做限制。
[0056] 示例性的,特征信息可以包括运动信息属性、预测模式属性、尺寸信息、序列级开关控制信息中的一种或者几种。当特征信息包括运动信息属性时,则运动信息属性满足特定条件时,可以表明特征信息满足特定条件;当特征信息包括预测模式属性时,则预测模式属性满足特定条件时,可以表明特征信息满足特定条件;当特征信息包括尺寸信息时,则尺寸信息满足特定条件时,可以表明特征信息满足特定条件;当特征信息包括序列级开关控制信息时,则序列级开关控制信息满足特定条件时,可以表明特征信息满足特定条件。
[0057] 当特征信息包括运动信息属性、预测模式属性、尺寸信息、序列级开关控制信息中的至少两种时,例如,以特征信息包括运动信息属性和预测模式属性为例,则运动信息属性满足特定条件、且预测模式属性满足特定条件时,可以表明特征信息满足特定条件。又例如,以特征信息包括运动信息属性、尺寸信息、序列级开关控制信息为例,则运动信息属性满足特定条件、且尺寸信息满足特定条件、且序列级开关控制信息满足特定条件时,可以表明特征信息满足特定条件。当然,上述过程只是几个示例,对此不做限制。
[0058] 示例性的,根据当前块的第一单向运动信息确定第一原始预测值,并根据当前块的第二单向运动信息确定第二原始预测值,可以包括但不限于:基于当前块的第一单向运动信息,从第一参考帧中确定第一参考块,并确定第一参考块的第一原始预测值;第一参考块的中心区域的第一原始预测值是通过对第一参考帧中的像素值进行插值得到,第一参考块的边缘区域的第一原始预测值是通过对第一参考帧中的像素值进行拷贝得到。基于当前块的第二单向运动信息,从第二参考帧中确定第二参考块,并确定第二参考块的第二原始预测值;第二参考块的中心区域的第二原始预测值是通过对第二参考帧中的像素值进行插值得到,第二参考块的边缘区域的第二原始预测值是通过对第二参考帧中的像素值进行拷贝得到。
[0059] 例如,基于当前块的第一单向运动信息,可以从第一参考帧中确定当前块对应的第一参考块,假设当前块的大小为M*M,第一参考块的大小为N*N,N可以大于M,如M为4,N为6。可以将第一参考块划分为中心区域和边缘区域,第一参考块的中心区域是指:以第一参考块的中心点为中心,大小为M*M的区域;第一参考块的边缘区域是指:第一参考块中除了中心区域之外的其它区域。针对第一参考块的中心区域,第一参考块的中心区域的第一原始预测值是通过对第一参考帧中的像素值进行插值得到;针对第一参考块的边缘区域,第一参考块的边缘区域的第一原始预测值是通过对第一参考帧中的像素值进行拷贝得到。
[0060] 基于当前块的第二单向运动信息,可以从第二参考帧中确定当前块对应的第二参考块,假设当前块的大小为M*M,第二参考块的大小为N*N,N可以大于M,如M为4,N为6。可以将第二参考块划分为中心区域和边缘区域,第二参考块的中心区域是指:以第二参考块的中心点为中心,大小为M*M的区域;第二参考块的边缘区域是指:第二参考块中除了中心区域之外的其它区域。针对第二参考块的中心区域,第二参考块的中心区域的第二原始预测值是通过对第二参考帧中的像素值进行插值得到;针对第二参考块的边缘区域,第二参考块的边缘区域的第二原始预测值是通过对第二参考帧中的像素值进行拷贝得到。
[0061] 示例性的,根据当前块的第一单向运动信息确定第一原始预测值,并根据当前块的第二单向运动信息确定第二原始预测值,可以包括但不限于:基于当前块的第一单向运动信息,从第一参考帧中确定第一参考块,并确定第一参考块的第一原始预测值,所述第一原始预测值是通过对第一参考帧中的像素值进行插值得到。基于当前块的第二单向运动信息,从第二参考帧中确定第二参考块,并确定第二参考块的第二原始预测值,所述第二原始预测值是通过对第二参考帧中的像素值进行插值得到。例如,基于当前块的第一单向运动信息,可以从第一参考帧中确定当前块对应的第一参考块,假设当前块的大小为M*M,则第一参考块的大小可以为M*M。基于当前块的第二单向运动信息,可以从第二参考帧中确定当前块对应的第二参考块,假设当前块的大小为M*M,则第二参考块的大小可以为M*M。
[0062] 步骤202,根据第一原始预测值和第二原始预测值确定水平方向速率。
[0063] 示例性的,水平方向速率是指:当前块在参考帧上对应子块(即位于参考帧的与当前块对应的子块)的水平方向(即X方向)速率。或者,当前块的子块在参考帧上对应子块(即位于参考帧的与当前块的子块对应的子块)的水平方向(即X方向)速率。
[0064] 示例性的,根据第一原始预测值和第二原始预测值确定水平方向速率,包括但不限于:
[0065] 方式一、根据第一原始预测值和第二原始预测值确定水平方向梯度和的自相关系数S1、时域预测值差值与水平方向梯度和的互相关系数S3。然后,根据自相关系数S1、速率阈值、互相关系数S3、第一放大因子和第二放大因子确定水平方向速率。
[0066] 方式二、若满足第一预设条件,根据第一原始预测值和第二原始预测值确定水平方向梯度和与垂直方向梯度和的互相关系数S2、时域预测值差值与垂直方向梯度和的互相关系数S6;根据互相关系数S2、速率阈值、互相关系数S6、第一放大因子和第二放大因子确定水平方向速率。若不满足第一预设条件,根据第一原始预测值和第二原始预测值确定水平方向梯度和的自相关系数S1、时域预测值差值与水平方向梯度和的互相关系数S3;根据自相关系数S1、速率阈值、互相关系数S3、第一放大因子和第二放大因子确定水平方向速率。
[0067] 示例性的,第一预设条件基于互相关系数S2、垂直方向梯度和的自相关系数S5确定。
[0068] 方式三、若满足第二预设条件,根据第一原始预测值和第二原始预测值确定水平方向梯度和的自相关系数S1、水平方向梯度和与垂直方向梯度和的互相关系数S2、时域预测值差值与水平方向梯度和的互相关系数S3、垂直方向梯度和的自相关系数S5、时域预测值差值与垂直方向梯度和的互相关系数S6;根据自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6、速率阈值、第一放大因子和第二放大因子确定水平方向速率。若不满足第二预设条件,则根据第一原始预测值和第二原始预测值确定水平方向梯度和的自相关系数S1、时域预测值差值与水平方向梯度和的互相关系数S3;根据自相关系数S1、速率阈值、互相关系数S3、第一放大因子和第二放大因子确定水平方向速率。
[0069] 示例性的,第二预设条件基于互相关系数S2、自相关系数S5确定。
[0070] 步骤203,根据第一原始预测值和第二原始预测值确定垂直方向速率。
[0071] 示例性的,垂直方向速率是指:当前块在参考帧上对应子块(即位于参考帧的与当前块对应的子块)的垂直方向(即Y方向)速率。或者,当前块的子块在参考帧上对应子块(即位于参考帧的与当前块的子块对应的子块)的垂直方向(即Y方向)速率。
[0072] 示例性的,根据第一原始预测值和第二原始预测值确定垂直方向速率,包括但不限于:
[0073] 方式一、根据第一原始预测值和第二原始预测值确定水平方向梯度和与垂直方向梯度和的互相关系数S2、垂直方向梯度和的自相关系数S5、时域预测值差值与垂直方向梯度和的互相关系数S6。然后,可以根据互相关系数S2、自相关系数S5、互相关系数S6、速率阈值、水平方向速率、第一放大因子和第二放大因子确定垂直方向速率。
[0074] 方式二、根据第一原始预测值和第二原始预测值获取未进行截断处理的未截断水平方向速率,并根据所述未截断水平方向速率确定垂直方向速率。
[0075] 示例性的,可以根据第一原始预测值和第二原始预测值确定水平方向梯度和的自相关系数S1、水平方向梯度和与垂直方向梯度和的互相关系数S2、时域预测值差值与水平方向梯度和的互相关系数S3、垂直方向梯度和的自相关系数S5、时域预测值差值与垂直方向梯度和的互相关系数S6。然后,根据自相关系数S1、互相关系数S3、第一放大因子和第二放大因子确定未截断水平方向速率,并根据互相关系数S2、自相关系数S5、互相关系数S6、速率阈值、未截断水平方向速率、第一放大因子和第二放大因子确定垂直方向速率。
[0076] 方式三、当满足第三预设条件时,根据第一原始预测值和第二原始预测值确定垂直方向梯度和的自相关系数S5、时域预测值差值与垂直方向梯度和的互相关系数S6;然后,根据自相关系数S5、互相关系数S6、速率阈值、第一放大因子和第二放大因子确定垂直方向速率。当不满足第三预设条件时,根据第一原始预测值和第二原始预测值确定水平方向梯度和与垂直方向梯度和的互相关系数S2、垂直方向梯度和的自相关系数S5、时域预测值差值与垂直方向梯度和的互相关系数S6;然后,根据互相关系数S2、自相关系数S5、互相关系数S6、速率阈值、水平方向速率、第一放大因子和第二放大因子确定垂直方向速率。
[0077] 示例性的,第三预设条件可以基于所述水平方向速率确定。
[0078] 步骤202和步骤203中,可以根据第一原始预测值、第二原始预测值、第一放大因子和第二放大因子,确定水平方向梯度和、垂直方向梯度和、时域预测值差值;根据水平方向梯度和、垂直方向梯度和、时域预测值差值,确定水平方向梯度和的自相关系数S1、水平方向梯度和与垂直方向梯度和的互相关系数S2、时域预测值差值与水平方向梯度和的互相关系数S3、垂直方向梯度和的自相关系数S5、时域预测值差值与垂直方向梯度和的互相关系数S6。
[0079] 示例性的,互相关系数S2可以位于第一互相关系数阈值与第二互相关系数阈值之间;互相关系数S6可以位于第三互相关系数阈值与第四互相关系数阈值之间。
[0080] 例如,若根据第一原始预测值、第二原始预测值、第一放大因子和第二放大因子得到的互相关系数S2小于第一互相关系数阈值,则将互相关系数S2更新为第一互相关系数阈值;若根据第一原始预测值、第二原始预测值、第一放大因子和第二放大因子得到的互相关系数S2大于第二互相关系数阈值,则将互相关系数S2更新为第二第二互相关系数阈值;若根据第一原始预测值、第二原始预测值、第一放大因子和第二放大因子得到的互相关系数S2大于或等于第一互相关系数阈值、小于或者等于第二互相关系数阈值,则保持互相关系数S2不变。
[0081] 若根据第一原始预测值、第二原始预测值、第一放大因子和第二放大因子得到的互相关系数S6小于第三互相关系数阈值,则将互相关系数S6更新为第三互相关系数阈值;若根据第一原始预测值、第二原始预测值、第一放大因子和第二放大因子得到的互相关系数S6大于第四互相关系数阈值,则将互相关系数S6更新为第四互相关系数阈值;若根据第一原始预测值、第二原始预测值、第一放大因子和第二放大因子得到的互相关系数S6大于或等于第三互相关系数阈值、小于或者等于第四互相关系数阈值,则保持互相关系数S6不变。
[0082] 示例性的,第一放大因子可以为5与(BD‑7)中的较小值,或者,1与(BD‑11)中的较大值。当然,上述只是第一放大因子的示例,对此不做限制,可以根据经验配置。
[0083] 示例性的,第二放大因子可以为8与(BD‑4)中的较小值,或者,4与(BD‑8)中的较大值。当然,上述只是第二放大因子的示例,对此不做限制,可以根据经验配置。
[0084] 示例性的,速率阈值可以为2的M次方,M为13与BD的差值,或者,5与(BD‑7)中的较大值。当然,上述只是速率阈值的示例,对此不做限制,可以根据经验配置。
[0085] 示例性的,BD(bit depth)为比特深度,表示为每个色度或亮度像素值所需的比特宽度。
[0086] 步骤204,根据水平方向速率和垂直方向速率获取预测补偿值。
[0087] 示例性的,根据水平方向速率和垂直方向速率获取预测补偿值,可以包括但不限于:根据第一原始预测值、第二原始预测值和梯度右移位数,确定水平方向梯度和垂直方向梯度,并根据水平方向速率、垂直方向速率、水平方向梯度和所述垂直方向梯度,获取预测补偿值。
[0088] 示例性的,梯度右移位数可以为2与(14‑BD)中的较大值,或者,6与(BD‑6)中的较大值。当然,上述只是梯度右移位数的示例,对此不做限制,可以根据经验配置。
[0089] 步骤205,根据第一原始预测值、第二原始预测值和预测补偿值获取目标预测值。
[0090] 示例性的,若上述方法用于获取当前块的目标预测值,则:若当前块的特征信息满足特定条件,则根据当前块的第一单向运动信息确定所述当前块对应的第一原始预测值,并根据当前块的第二单向运动信息确定所述当前块对应的第二原始预测值。根据第一原始预测值和第二原始预测值确定所述当前块对应的水平方向速率,并根据第一原始预测值和第二原始预测值确定所述当前块对应的垂直方向速率。然后,根据水平方向速率和垂直方向速率获取所述当前块对应的预测补偿值,并根据第一原始预测值、第二原始预测值和预测补偿值获取所述当前块对应的目标预测值。至此,成功获取到所述当前块对应的目标预测值。
[0091] 示例性的,若当前块被划分为至少一个子块,且上述方法用于获取当前块的每个子块的目标预测值,则:若当前块的特征信息满足特定条件,针对所述当前块的每个子块,根据所述子块的第一单向运动信息(与当前块的第一单向运动信息相同)确定所述子块对应的第一原始预测值,并根据所述子块的第二单向运动信息(与当前块的第二单向运动信息相同)确定所述子块对应的第二原始预测值。根据第一原始预测值和第二原始预测值确定所述子块对应的水平方向速率,根据第一原始预测值和第二原始预测值确定所述子块对应的垂直方向速率。然后,根据水平方向速率和垂直方向速率获取所述子块对应的预测补偿值,并根据第一原始预测值、第二原始预测值和预测补偿值获取所述子块对应的目标预测值。
[0092] 至此,成功获取到所述子块对应的目标预测值。在得到所述当前块的每个子块的目标预测值之后,实际上,就是得到了所述当前块的目标预测值。
[0093] 由以上技术方案可见,本申请实施例中,可以根据当前块的第一单向运动信息确定第一原始预测值,根据当前块的第二单向运动信息确定第二原始预测值,根据第一原始预测值和第二原始预测值确定水平方向速率和垂直方向速率,并根据水平方向速率和垂直方向速率获取预测补偿值,并根据预测补偿值获取目标预测值。上述方式能够基于光流法获取当前块或者当前块的子块的目标预测值,从而提高硬件实现友好性,带来编码性能的提高。
[0094] 实施例2:本申请实施例中提出一种编解码方法,可以应用于解码端或者编码端,参见图3所示,为编解码方法的流程示意图。示例性的,若当前块的特征信息满足特定条件,则可以针对当前块的每个子块执行以下步骤,以获取当前块的每个子块的目标预测值。
[0095] 步骤301,若当前块的特征信息满足特定条件,则根据当前块的第一单向运动信息(即当前块的子块的第一单向运动信息)确定子块的第一原始预测值,并根据当前块的第二单向运动信息(即当前块的子块的第二单向运动信息)确定子块的第二原始预测值。
[0096] 示例性的,若当前块是双向块(即当前块是采用双向预测的块),则可以获取当前块对应的双向运动信息,对此获取方式不做限制。这个双向运动信息包括两个不同方向的运动信息,将两个不同方向的运动信息称为第一单向运动信息(如第一运动矢量和第一参考帧索引)和第二单向运动信息(如第二运动矢量和第二参考帧索引)。基于第一单向运动信息可以确定第一参考帧(如参考帧0),且第一参考帧位于当前块所处当前帧的前面;基于第二单向运动信息可以确定第二参考帧(如参考帧1),且第二参考帧位于当前块所处当前帧的后面。
[0097] 示例性的,针对当前块的每个子块,该子块的第一单向运动信息与当前块的第一单向运动信息相同,该子块的第二单向运动信息与当前块的第二单向运动信息相同。
[0098] 示例性的,特征信息可以包括以下一种或者多种:运动信息属性;预测模式属性;尺寸信息;序列级开关控制信息,关于特征信息满足特定条件,参见步骤201,在此不再赘述。
[0099] 示例性的,根据当前块的第一单向运动信息确定子块的第一原始预测值,并根据当前块的第二单向运动信息确定子块的第二原始预测值,可以包括:基于当前块的第一单向运动信息,从第一参考帧中确定与当前块的子块对应的第一参考块,并确定所述第一参(0)考块的第一原始预测值I (x,y);基于当前块的第二单向运动信息,从第二参考帧中确定(1)
与当前块的子块对应的第二参考块,并确定所述第二参考块的第二原始预测值I (x,y)。
关于第一原始预测值和第二原始预测值的确定方式,可以参见步骤201,在此不再赘述。
[0100] 步骤302,根据子块的第一原始预测值和第二原始预测值确定水平方向梯度和、垂直方向梯度和、时域预测值差值。例如,根据子块的第一原始预测值、子块的第二原始预测值、第一放大因子和第二放大因子,确定水平方向梯度和、垂直方向梯度和、时域预测值差值。
[0101] 步骤303,根据水平方向梯度和、垂直方向梯度和、时域预测值差值,确定水平方向梯度和的自相关系数S1(后续称为自相关系数S1)、水平方向梯度和与垂直方向梯度和的互相关系数S2(后续称为互相关系数S2)、时域预测值差值与水平方向梯度和的互相关系数S3(后续称为互相关系数S3)、垂直方向梯度和的自相关系数S5(后续称为自相关系数S5)、时域预测值差值与垂直方向梯度和的互相关系数S6(后续称为互相关系数S6)。
[0102] 步骤304,根据自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6中的一个或者多个,确定当前块的子块在参考帧上对应子块的水平方向速率。
[0103] 步骤305,根据自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6中的一个或者多个,确定当前块的子块在参考帧上对应子块的垂直方向速率。
[0104] 步骤306,根据水平方向速率和垂直方向速率获取当前块的子块的预测补偿值。
[0105] 步骤307,根据当前块的子块的第一原始预测值、当前块的子块的第二原始预测值和当前块的子块的预测补偿值,获取当前块的子块的目标预测值。
[0106] 示例性的,步骤301‑步骤307的流程,可以参见实施例1,在此不再赘述。
[0107] 实施例3:编码端/解码端需要判断当前块的特征信息是否满足特定条件。如果是,则采用本申请实施例的技术方案,获取当前块或者当前块的子块的目标预测值,这个技术方案也可以称为双向光流模式。如果否,则不需要采用本申请提出的目标预测值获取方式。
[0108] 当特征信息至少同时满足下面条件时,确定当前块的特征信息满足特定条件。
[0109] 当前块采用双向预测,且当前块对应的两个参考帧来自不同方向,也就是说,当前块对应的一个参考帧位于当前帧之前,当前块对应的另一个参考帧位于当前帧之后。
[0110] 当前块的尺寸信息(如宽度值、高度值、面积值等)在限定范围内。
[0111] 实施例4:当特征信息至少同时满足下面条件时,确定当前块的特征信息满足特定条件。
[0112] 当前块采用双向预测,且当前块对应的两个参考帧来自不同方向,也就是说,当前块对应的一个参考帧位于当前帧之前,当前块对应的另一个参考帧位于当前帧之后。
[0113] 当前块的尺寸信息(如宽度值、高度值、面积值等)在限定范围内。
[0114] 当前块包括多个子块,多个子块的运动信息均相同,也就是说,当前块的每个子块的运动信息可以完全一样,即当前块不采用子块运动信息模式。
[0115] 示例性的,当前块不采用子块运动信息模式,可以包括:当前块不采用Affine模式或SBTMVP模式;Affine模式为采用仿射运动模型模式,SBTMVP(subblock‑based temporal motion vector prediction)模式为在时域获取整块运动信息的模式。在当前块采用Affine模式或SBTMVP模式时,当前块内部的各个子块的运动信息,大概率不完全一样,因此,当前块可以不采用Affine模式或SBTMVP模式。
[0116] 实施例5:当特征信息至少同时满足下面条件时,确定当前块的特征信息满足特定条件。
[0117] 当前块采用双向预测,且当前块对应的两个参考帧来自不同方向,也就是说,当前块对应的一个参考帧位于当前帧之前,当前块对应的另一个参考帧位于当前帧之后。
[0118] 当前块的尺寸信息(如宽度值、高度值、面积值等)在限定范围内。
[0119] 当前块包括多个子块,多个子块的运动信息均相同,也就是说,当前块的每个子块的运动信息可以完全一样,即当前块不采用子块运动信息模式。
[0120] 当前块采用双向预测,且当前块对应的两个参考帧的加权权重相同。
[0121] 实施例6:当特征信息至少同时满足下面条件时,确定当前块的特征信息满足特定条件。
[0122] 当前块采用双向预测,且当前块对应的两个参考帧来自不同方向,也就是说,当前块对应的一个参考帧位于当前帧之前,当前块对应的另一个参考帧位于当前帧之后。
[0123] 当前块的尺寸信息(如宽度值、高度值、面积值等)在限定范围内。
[0124] 当前块包括多个子块,多个子块的运动信息均相同,也就是说,当前块的每个子块的运动信息可以完全一样,即当前块不采用子块运动信息模式。
[0125] 当前块采用双向预测,且当前块对应的两个参考帧的加权权重相同。
[0126] 当前块不采用CIIP模式(基于帧内帧间联合预测的融合模式)。
[0127] 实施例7:当特征信息至少同时满足下面条件时,确定当前块的特征信息满足特定条件。
[0128] 当前块采用双向预测,且当前块对应的两个参考帧来自不同方向,也就是说,当前块对应的一个参考帧位于当前帧之前,当前块对应的另一个参考帧位于当前帧之后。
[0129] 当前块的尺寸信息(如宽度值、高度值、面积值等)在限定范围内。
[0130] 当前块包括多个子块,多个子块的运动信息均相同,也就是说,当前块的每个子块的运动信息可以完全一样,即当前块不采用子块运动信息模式。
[0131] 当前块采用双向预测,且当前块对应的两个参考帧的加权权重相同。
[0132] 当前块不采用SMVD(Symmetric Motion Vector Difference,对称运动矢量差)模式,SMVD模式中双向运动信息中的两个MVD是对称的,即只需要编码其中一个运动矢量差MVD,另一个运动矢量差为负的MVD。
[0133] 实施例8:当特征信息至少同时满足下面条件时,确定当前块的特征信息满足特定条件。
[0134] 序列级开关控制信息为允许当前块采用双向光流模式,也就是说,序列级控制允许双向光流模式启用,即序列级控制开关为开,表示允许当前块采用双向光流模式。
[0135] 当前块采用双向预测,且当前块对应的两个参考帧来自不同方向,也就是说,当前块对应的一个参考帧位于当前帧之前,当前块对应的另一个参考帧位于当前帧之后。
[0136] 当前块的尺寸信息(如宽度值、高度值、面积值等)在限定范围内。
[0137] 当前块包括多个子块,多个子块的运动信息均相同,也就是说,当前块的每个子块的运动信息可以完全一样,即当前块不采用子块运动信息模式。
[0138] 当前块采用双向预测,且当前块对应的两个参考帧的加权权重相同。
[0139] 实施例9:将上述实施例3‑实施例8中的条件“当前块采用双向预测,且当前块对应的两个参考帧来自不同方向”,修改为“当前块采用双向预测,且当前块对应的两个参考帧来自不同方向,且当前块对应的两个参考帧与当前帧的距离相同”。
[0140] 例如,若当前帧的显示顺序号为POC,当前块对应的两个参考帧的显示顺序号分别为POC0和POC1,则两个参考帧来自不同方向,等同于(POC‑POC0)*(POC‑POC1)<0,两个参考帧与当前帧的距离相同,等同于(POC‑POC0)的值等于(POC1‑POC)的值。
[0141] 实施例10:当特征信息至少满足下面条件时,确定当前块的特征信息满足特定条件。
[0142] 序列级开关控制信息为允许当前块采用双向光流模式,也就是说,序列级控制允许双向光流模式启用,即序列级控制开关为开,表示允许当前块采用双向光流模式。
[0143] 实施例11:当特征信息至少满足下面条件时,确定当前块的特征信息满足特定条件。
[0144] 当前块采用双向预测,且当前块对应的两个参考帧的预测值的差异值可以小于预设阈值TH_SAD。示例性的,可以采用如下方式获取当前块对应的两个参考帧的预测值的差异值:
[0145] 方式一、根据当前块的第一单向运动信息从第一参考帧中获取与当前块的子块对应的第一预测块,并根据当前块的第二单向运动信息从第二参考帧中获取与当前块的子块对应的第二预测块;根据第一预测块的预测值与第二预测块的预测值的SAD(Sum of Absolute Difference,绝对差值和),获取第一参考帧与第二参考帧的预测值的差异值。
[0146] 在方式一中,预测值的差异值为第一预测块的预测值(后续记为pred0)与第二预测块的预测值(后续记为pred1)的SAD,即pred0和pred1中所有像素的SAD。例如,可以通过如下公式确定第一参考帧与第二参考帧的预测值的差异值,在该公式中,pred0(i,j)为pred0的第i列,第j行的pred0预测值,pred1(i,j)为pred1的第i列,第j行的pred1预测值,n为像素总数,abs(x)表示x的绝对值,H表示高度值,W表示宽度值。
[0147]
[0148] 方式二、根据当前块的第一单向运动信息从第一参考帧中获取与当前块的子块对应的第一预测块,并根据当前块的第二单向运动信息从第二参考帧中获取与当前块的子块对应的第二预测块;根据第一预测块的下采样后的预测值(即对第一预测块的预测值进行下采样后,得到的预测值)与第二预测块的下采样后的预测值(即对第二预测块的预测值进行下采样后,得到的预测值)的SAD,获取第一参考帧与第二参考帧的预测值的差异值。
[0149] 在方式二中,预测值的差异值为第一预测块的下采样N倍后的预测值(后续记为pred0)与第二预测块的下采样N倍后的预测值(后续记为pred1)的SAD。例如,可以通过如下公式确定第一参考帧与第二参考帧的预测值的差异值,在该公式中,pred0(i,j)为pred0的第i列,第j行的pred0预测值,pred1(i,j)为pred1的第i列,第j行的pred1预测值,n为像素总数,abs(x)表示x的绝对值,H表示高度值,W表示宽度值,N为正整数,优选为2。
[0150]
[0151] 实施例12:在上述实施例中,当前块的尺寸信息在限定范围内,可为如下情况的一种:
[0152] 情况一、当前块的宽度值在第一区间[Wmin,Wmax]的范围内;当前块的高度值位于第二区间[Hmin,Hmax]的范围内;Wmin、Wmax、Hmin、Hmax均为2的n1次方,n1为大于等于1的整数;例如,Wmin优选为8,Wmax优选为128,Hmin优选为8,Hmax优选为128。
[0153] 当前块的面积值位于第三区间[Smin,Smax]的范围内;Smin、Smax均为2的n2次方,n2为大于等于1的整数;例如,Smin优选为64,Smax优选为128*128=16384。
[0154] 在上述实施例中,[a,b]表示大于等于a,且小于等于b。
[0155] 情况二、当前块的宽度值在第一区间[Wmin,Wmax]的范围内;Wmin、Wmax均为2的n1次方,n1为大于等于1的整数;例如,Wmin优选为8,Wmax优选为128。
[0156] 情况三、当前块的高度值位于第二区间[Hmin,Hmax]的范围内;Hmin、Hmax均为2的n1次方,n1为大于等于1的整数;例如,Hmin优选为8,Hmax优选为128。
[0157] 示例性的,若满足如下任何一种条件,则当前块对应的两个参考帧的加权权重相同:
[0158] 条件1:当前块不采用允许不同加权权重的方法。
[0159] 条件2:当前块允许采用不同加权权重的方法(如块级加权预测方法BCW(Bi‑prediction with CU based weighting)启用),且当前块的两个加权权重完全一样。
[0160] 条件3:当前块所在当前帧不采用不同加权权重的方法。
[0161] 条件4:当前块所在当前帧允许采用不同加权权重的方法(如帧级加权预测方法启用),且当前帧的两个加权权重完全一样。
[0162] 实施例13:编码端/解码端需要根据当前块的第一单向运动信息确定子块的第一原始预测值,并根据当前块的第二单向运动信息确定子块的第二原始预测值。例如,基于当前块的第一单向运动信息,从第一参考帧中确定与当前块的子块对应的第一参考块,并确(0)定所述第一参考块的第一原始预测值I (x,y);基于当前块的第二单向运动信息,从第二参考帧中确定与当前块的子块对应的第二参考块,并确定所述第二参考块的第二原始预测(1)
值I (x,y)。
[0163] 例如,基于当前块的第一单向运动信息,从第一参考帧中确定第一参考块,并确定(0) (0)第一参考块的第一原始预测值I (x,y);第一参考块的中心区域的第一原始预测值I (x,y)是通过对第一参考帧中的像素值进行插值得到,第一参考块的边缘区域的第一原始预测(0)
值I (x,y)是通过对第一参考帧中的像素值进行拷贝得到。基于当前块的第二单向运动信(1)
息,从第二参考帧中确定第二参考块,并确定第二参考块的第二原始预测值I (x,y);第二(1)
参考块的中心区域的第二原始预测值I (x,y)是通过对第二参考帧中的像素值进行插值(1)
得到,第二参考块的边缘区域的第二原始预测值I (x,y)是通过对第二参考帧中的像素值进行拷贝得到。
[0164] 参见图4所示,假设子块的大小为4*4,第一参考块的大小为6*6,第一参考块的中心区域是指:以第一参考块的中心点为中心,大小为4*4的区域,第一参考块的中心区域的第一原始预测值是通过对第一参考帧中的像素值进行插值得到,对此不再赘述。第一参考块的边缘区域是指:第一参考块中除了中心区域之外的其它区域(即中心区域之外,上下左右各1行1列的区域),第一参考块的边缘区域的第一原始预测值是通过对第一参考帧中的像素值进行拷贝得到,在图4中,示出了将第一参考帧中的像素点的像素值,拷贝到第一参考块的边缘区域。当然,图4只是一个示例,还可以利用其它像素点的像素值进行拷贝。
[0165] 显然,在上述方式中,针对第一参考块的边缘区域,可以通过第一参考帧中最近的整像素值拷贝获取,以避免额外的插值过程,间接地避免访问额外的参考像素。
[0166] 关于第二参考块的中心区域的第二原始预测值、第二参考块的边缘区域的第二原始预测值,第二原始预测值的获取过程可以参见第一原始预测值的获取过程,在此不再重复赘述。
[0167] 例如,基于当前块的第一单向运动信息,从第一参考帧中确定第一参考块,确定第一参考块的第一原始预测值,第一参考块的第一原始预测值均是通过对第一参考帧中的像素值进行插值得到。基于当前块的第二单向运动信息,从第二参考帧中确定第二参考块,确定第二参考块的第二原始预测值,第二参考块的第二原始预测值是通过对第二参考帧中的像素值进行插值得到。例如,假设子块的大小为4*4,第一参考块的大小为4*4,第二参考块的大小为4*4,第一参考块的所有区域的第一原始预测值是通过对第一参考帧中的像素值进行插值得到,第二参考块的所有区域的第一原始预测值是通过对第一参考帧中的像素值进行插值得到。
[0168] 实施例14:在得到子块的第一原始预测值和子块的第二原始预测值后,编码端/解码端根据子块的第一原始预测值和第二原始预测值确定水平方向梯度和、垂直方向梯度和、时域预测值差值。例如,根据子块的第一原始预测值、子块的第二原始预测值、第一放大因子和第二放大因子,确定水平方向梯度和、垂直方向梯度和、时域预测值差值。例如,通过公式(1)确定水平方向梯度和,通过公式(2)确定垂直方向梯度和,通过公式(3)确定时域预测值差值:
[0169]
[0170]
[0171] θ(i,j)=(I(1)(i,j)>>nb)‑(I(0)(i,j)>>nb)  (3)
[0172] 示例性的, 表示水平方向梯度, 表示垂直方向梯度,针对公式(1)‑公式(3)中的如下参数: 和 可以通过方式(4)和公式
(5)确定。
[0173]
[0174]
[0175] ψx(i,j)表示水平方向梯度和,ψy(i,j)表示垂直方向梯度和,θ(i,j)表示时域预测值差值。
[0176] I(0)(x,y)表示子块的第一原始预测值,I(1)(x,y)表示子块的第二原始预测值。假(0)设子块的大小为4*4,参见实施例13,I (x,y)是大小为4*4的第一参考块的第一原始预测(1)
值,或大小为6*6的第一参考块的第一原始预测值,I (x,y)是大小为4*4的第二参考块的(0)
第二原始预测值,或大小为6*6的第二参考块的第二原始预测值,以I (x,y)是大小为4*4(1)
的第一参考块的第一原始预测值,I (x,y)是大小为4*4的第二参考块的第二原始预测值(k) (0)
为例。I (i,j)表示坐标(i,j)的像素值,如I (i,j)表示第一参考块中坐标(i,j)的像素(1)
值,对应子块的第一原始预测值,I (i,j)表示第二参考块中坐标(i,j)的像素值,对应子块的第二原始预测值。
[0177] na可以表示第一放大因子,第一放大因子na可以为5与(BD‑7)中的较小值,或者,1与(BD‑11)中的较大值。nb可以表示第二放大因子,第二放大因子nb可以为8与(BD‑4)中的较小值,或者,4与(BD‑8)中的较大值。shift1可以表示梯度右移位数,梯度右移位数shift1可以为2与(14‑BD)中的较大值,或者,6与(BD‑6)中的较大值。
[0178] >>表示右移,如>>na表示右移na,即,除以2的na次方。>>nb表示右移nb,也就是说,除以2的nb次方。>>shift1表示右移shift1,即,除以2的shift1次方。
[0179] BD(bit depth)可以为比特深度,可以表示为每个色度或亮度像素值所需的比特宽度。例如,BD可以为10或者8,通常情况下,BD可以为已知值。
[0180] 实施例15:在得到水平方向梯度和、垂直方向梯度和、时域预测值差值后,编码端/解码端还可以根据水平方向梯度和、垂直方向梯度和、时域预测值差值,确定水平方向梯度和的自相关系数S1(后续称自相关系数S1)、水平方向梯度和与垂直方向梯度和的互相关系数S2(后续称互相关系数S2)、时域预测值差值与水平方向梯度和的互相关系数S3(后续称互相关系数S3)、垂直方向梯度和的自相关系数S5(后续称自相关系数S5)、时域预测值差值与垂直方向梯度和的互相关系数S6(后续称互相关系数S6)。例如,可以通过如下公式确定自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6。
[0181] S1=∑(i,j)∈Ωψx(i,j)·ψx(i,j)     (6)
[0182] S2=∑(i,j)∈Ωψx(i,j)·ψy(i,j)     (7)
[0183] S3=∑(i,j)∈Ωθ(i,j)·ψx(i,j)      (8)
[0184] S5=∑(i,j)∈Ωψy(i,j)·ψy(i,j)     (9)
[0185] S6=∑(i,j)∈Ωθ(i,j)·ψy(i,j)     (10)
[0186] ψx(i,j)表示水平方向梯度和,ψy(i,j)表示垂直方向梯度和,θ(i,j)表示时域预测值差值。
[0187] 假设子块的大小为4*4,Ω表示4*4子块对应的窗口,或者,Ω表示4*4子块周围的6*6窗口。针对Ω中的每个坐标点(i,j),可以先通过上述实施例确定ψx(i,j)、ψy(i,j)和θ(i,j),然后,根据ψx(i,j)、ψy(i,j)和θ(i,j),确定S1、S2、S3、S5、S6。
[0188] 实施例16:在得到互相关系数S2和互相关系数S6之后,可以将互相关系数S2限制在第一互相关系数阈值与第二互相关系数阈值之间,例如,若互相关系数S2小于第一互相关系数阈值,则可以将互相关系数S2更新为第一互相关系数阈值,若互相关系数S2大于第二互相关系数阈值,则可以将互相关系数S2更新为第二互相关系数阈值。可以将互相关系数S6限制在第三互相关系数阈值与第四互相关系数阈值之间,例如,若互相关系数S6小于第三互相关系数阈值,则可以将互相关系数S6更新为第三互相关系数阈值,若互相关系数S6大于第四互相关系数阈值,则可以将互相关系数S6更新为第四互相关系数阈值;第一互相关系数阈值可以小于第二互相关系数阈值,第三互相关系数阈值可以小于第四互相关系数阈值。
[0189] 示例性的,可以对互相关系数S2和互相关系数S6进行如下大小限制,从而防止中间结果溢出,即使得位宽不超过一定范围。‑(1<<THS2)表示第一阈值,1<<THS2表示第二阈值,‑(1<<THS6)表示第三阈值,1<<THS6表示第四阈值。例如,为了防止位宽超过32比特,则THS2可以为25,THS6可以为27。当然,上述数值只是一个示例,对此不做限制。
[0190] S2=clip3(‑(1<<THS2),(1<<THS2),S2)     (11)
[0191] S6=clip3(‑(1<<THS6),(1<<THS6),S6)     (12)
[0192] Clip3(a,b,x)表示,若x小于a,则x=a;若x大于b,则x=b;否则x不变。因此,公式(11)表示,若S2小于‑(1<<THS2),则S2为‑(1<<THS2),若S2大于(1<<THS2),则S2为(1<<THS2),否则,S2保持不变。同理,公式(12)表示,若S6小于‑(1<<THS6),则S6为‑(1<<THS6),若S6大于(1<<THS6),则S6为(1<<THS6),否则,S6保持不变。<<表示左移。
[0193] 实施例17:在得到自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6后,可以根据自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6中的一个或者多个,确定当前块的子块在参考帧上对应子块的水平方向速率。可以根据自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6中的一个或者多个,确定当前块的子块在参考帧上对应子块的垂直方向速率。
[0194] 例如,可以根据自相关系数S1、速率阈值、互相关系数S3、第一放大因子和第二放大因子确定水平方向速率,参见如下公式所示,为基于上述参数确定水平方向速率的示例。
[0195]
[0196] 在上述公式中,若S1>0成立,则若S1>0不成立,则vx=0。vx表示水平方向速率,th′BIO表示速率阈值,即用于将水平方向速率vx限制在‑th′BIO与th′BIO之间,即水平方向速率vx大于或者等于‑th′BIO,水平方向速率vx小于或者等于th′BIO。速率阈值th′BIO可以为2的M次方,M为13与BD的差值,或者,5与(BD‑7)中
13‑BD max(5,BD‑7)
的较大值。例如,th′BIO=2 或者th′BIO=2 ,BD为比特深度。
[0197] na可以表示第一放大因子,第一放大因子na可以为5与(BD‑7)中的较小值,或者,1与(BD‑11)中的较大值。nb可以表示第二放大因子,第二放大因子nb可以为8与(BD‑4)中的较小值,或者,4与(BD‑8)中的较大值。>>表示右移, 为向下取整。
[0198] 第一放大因子na和第二放大因子nb均可以根据经验配置,第二放大因子nb可以大于第一放大因子na。第一放大因子na和第二放大因子nb用于放大水平方向速率vx的取值区间,例如,假设nb‑na为3,则 为8,则可以将水平方向速率vx的取值区间放大8倍,假设nb‑na为4,则 为16,则可以将水平方向速率vx的取值区间放大16倍,以此类推。
[0199] Clip3(a,b,x)表示,若x小于a,则x=a;若x大于b,则x=b;否则x不变,在上述公式中,‑th′BIO为a,th′BIO为b, 为x,综上所述,若大于‑th′BIO,且小于th′BIO,则水平方向速率vx为
[0200] 例如,可以根据互相关系数S2、自相关系数S5、互相关系数S6、速率阈值、水平方向速率、第一放大因子和第二放大因子确定垂直方向速率,参见如下公式所示。
[0201]
[0202] vy表示垂直方向速率,vx表示水平方向速率,th′BIO表示速率阈值,即用于将垂直方向速率限制在‑th′BIO与th′BIO之间,即垂直方向速率大于或者等于‑th′BIO,垂直方向速率小于或者等于th′BIO。速率阈值th′BIO可以为2的M次方,M为13与BD的差值,或者,5与(BD‑7)中13‑BD max(5,BD‑7)
的较大值。例如,th′BIO=2 或者th′BIO=2 ,BD为比特深度。
[0203] na可以表示第一放大因子,第一放大因子na可以为5与(BD‑7)中的较小值,或者,1与(BD‑11)中的较大值。nb可以表示第二放大因子,第二放大因子nb可以为8与(BD‑4)中的较小值,或者,4与(BD‑8)中的较大值。>>表示右移, 为向下取整。
[0204] 第一放大因子na和第二放大因子nb均可以根据经验配置,第二放大因子nb可以大于第一放大因子na。第一放大因子na和第二放大因子nb用于放大垂直方向速率vy的取值区间,例如,假设nb‑na为3,则 为8,则可以将垂直方向速率vy的取值区间放大8倍,假设nb‑na为4,则 为16,则可以将垂直方向速率vy的取值区间放大16倍,以此类推。
[0205] Clip3(a,b,x)表示,若x小于a,则x=a;若x大于b,则x=b;否则x不变,在上述公小于th′BIO,则垂直方向速率vy为
[0206] 示例性的,在上述公式中,
[0207] 实施例18:在得到自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6后,可以根据自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6中的一个或者多个,确定当前块的子块在参考帧上对应子块的水平方向速率。可以根据自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6中的一个或者多个,确定当前块的子块在参考帧上对应子块的垂直方向速率。
[0208] 例如,可以根据自相关系数S1、速率阈值、互相关系数S3、第一放大因子和第二放大因子确定水平方向速率,参见如下公式所示,为基于上述参数确定水平方向速率的示例。
[0209]
[0210] 公式(15)与公式(13)相比,去除了 前面的负号,其它内容与公式(13)相同,各参数的含义也与公式(13)相同,在此不再重复赘述。
[0211] 例如,可以根据互相关系数S2、自相关系数S5、互相关系数S6、速率阈值、水平方向速率、第一放大因子和第二放大因子确定垂直方向速率,参见如下公式所示。
[0212]前面的负号,其它内容与公式(14)相同,各参数的含义也与公式(14)相同,在此不再重复赘述。
[0213] 实施例19:在得到自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6后,可以根据自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6中的一个或者多个,确定当前块的子块在参考帧上对应子块的水平方向速率。
[0214] 例如,若满足第一预设条件,则可以根据互相关系数S2、速率阈值、互相关系数S6、第一放大因子和第二放大因子确定水平方向速率。若不满足第一预设条件,则可以根据自相关系数S1、速率阈值、互相关系数S3、第一放大因子和第二放大因子确定水平方向速率。第一预设条件基于互相关系数S2、自相关系数S5确定,参见如下公式所示:
[0215] 当满足第一预设条件时,
[0216]
[0217] 当不满足第一预设条件时,
[0218]
[0219] 上述第一预设条件可以包括:|S2|>k|S5|,|.|表示取绝对值,k为阈值,可任意设置,如设为8。
[0220] 当满足第一预设条件时,若S2==0成立,则若S2==00不成立,则vx=0。vx表示水平方向速率,th′BIO表示速率阈值,na表示第一放大因子,nb表示第二放大因子,>>表示右移, 为向下取整。
[0221] Clip3(a,b,x)表示,若x小于a,则x=a;若x大于b,则x=b;否则x不变,在上述公式中,‑th′BIO为a,th′BIO为b, 为x,综上所述,若大于‑th′BIO,且小于th′BIO,则水平方向速率vx为
[0222] 当不满足第一预设条件时,公式(18)与公式(13)相同,在此不再重复赘述。
[0223] 实施例20:在得到自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6后,可以根据自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6中的一个或者多个,确定当前块的子块在参考帧上对应子块的水平方向速率。
[0224] 例如,若满足第二预设条件,则可以根据自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6、速率阈值、第一放大因子和第二放大因子确定水平方向速率。若不满足第二预设条件,则可以根据自相关系数S1、速率阈值、互相关系数S3、第一放大因子和第二放大因子确定水平方向速率。第二预设条件基于互相关系数S2、自相关系数S5确定,参见如下公式所示:当满足第二预设条件时,则Stmp=S1·S5‑S2·S2,[0225] 当不满足第二预设条件时,则
[0226]
[0227] 当满足第二预设条件时,先根据S1、S2、S5确定Stmp,具体确定方式参见上述公式,然后,若Stmp==0成立,则若Stmp==0不成立,则vx=0。vx表示水平方向速率,th′BIO表示速率阈值,na表示第一放大因子,nb表示第二放大因子,>>表示右移, 为向下取整。
[0228] 在上述公式中,Clip3(a,b,x)表示,若x小于a,则x=a;若x大于b,则x=b;否则x不变,在上述公式中,‑th′BIO为a,th′BIO为b, 为x,综上所述,若 大于‑th′BIO,且小于th′BIO,则
水平方向速率vx可以为
[0229] 当不满足第二预设条件时,公式(20)与公式(13)相同,在此不再重复赘述。
[0230] 上述第二预设条件可以包括但不限于:|S2|>k|S5|,|.|表示取绝对值,k为阈值,可任意设置,如设为8。当然,这个第二预设条件只是一个示例,对此不做限制。
[0231] 实施例21:针对实施例19,当不满足第一预设条件时,水平方向速率的确定公式变为公式(15),针对实施例20,当不满足第二预设条件时,水平方向速率的确定公式变为公式(15)。
[0232] 实施例22:在得到自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6后,可以根据自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6中的一个或者多个,确定当前块的子块在参考帧上对应子块的垂直方向速率。
[0233] 例如,可以根据自相关系数S1、互相关系数S3、第一放大因子和第二放大因子确定未截断水平方向速率,并根据互相关系数S2、自相关系数S5、互相关系数S6、速率阈值、所述未截断水平方向速率、第一放大因子和第二放大因子确定垂直方向速率。
[0234] 参见如下公式所示:
[0235]
[0236]
[0237] 从上述公式可以看出,若S1>0成立,则 若S1>0不成立,则vx_org=0。与上述实施例中的vx相比,本实施例中,并未使用速率阈值th′BIO将水平方向速率限制在‑th′BIO与th′BIO之间,因此,将vx_org称为未截断水平方向速率,即未进行截断处理,也就是说,这个未截断水平方向速率vx_org没有被限制在‑th′BIO与th′BIO之间。
[0238]
[0239] vy表示垂直方向速率,vx_org表示未截断水平方向速率,th′BIO表示速率阈值,na表示第一放大因子,nb表示第二放大因子,>>表示右移, 为向下取整。Clip3(a,b,x)表示,若x小于a,则x=a;若x大于b,则x=b;否则x不变,在上述公式中,‑th′BIO为a,th′BIO为b,为x,综上所述,若
[0240] 示例性的,在上述公式中,
[0241] 实施例23:在得到自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6后,可以根据自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6中的一个或者多个,确定当前块的子块在参考帧上对应子块的垂直方向速率。
[0242] 例如,当满足第三预设条件时,根据自相关系数S5、互相关系数S6、速率阈值、第一放大因子和第二放大因子确定垂直方向速率。当不满足第三预设条件时,根据互相关系数S2、自相关系数S5、互相关系数S6、速率阈值、水平方向速率、第一放大因子和第二放大因子确定垂直方向速率。示例性的,第三预设条件可以基于所述水平方向速率确定。
[0243] 参见如下公式所示:当满足第三预设条件时,则:
[0244]
[0245] 当不满足第三预设条件时,则:
[0246]
[0247] 示例性的,第三预设条件可以为:若vx为‑th′BIO或th′BIO,即vx为最小值或最大值。
[0248] 当满足第三预设条件时,若S5>0成立,则若S5>0不成立,则vy=0。示例性的,vy表示垂直方向速率,th′BIO表示速率阈值,na表示第一放大因子,nb表示第二放大因子,>>表示右移, 为向下取整。Clip3(a,b,x)表示,若x小于a,则x=a;若x大于b,则x=b;否则x不变,在上述公式中,‑th′BIO为a,th′BIO为b,为x,综上所述,若 大于‑th′BIO,且
小于th′BIO,则垂直方向速率vy可以为
[0249] 当不满足第三预设条件时,公式(24)与公式(14)相同,在此不再重复赘述。
[0250] 实施例24:针对实施例23,当不满足第三预设条件时,垂直方向速率的确定公式变更为公式(16)。
[0251] 实施例25:在上述实施例中,第一放大因子na可以为5与(BD‑7)中的较小值,即na=min(5,BD‑7);或者,第一放大因子na可以为1与(BD‑11)中的较大值,即na=Max(1,BD‑11)。当然,上述只是第一放大因子的示例,对此不做限制,可以根据经验配置。第二放大因子nb可以为8与(BD‑4)中的较小值,即nb=min(8,BD‑4);或者,第二放大因子nb可以为4与(BD‑8)中的较大值,即nb=Max(4,BD‑8)。当然,上述只是第二放大因子的示例,对此不做限制,可以根据经验配置。速率阈值th′BIO可以为2的M次方,M为13与BD的差值,或者,5与(BD‑7)中的
13‑BD max(5,BD‑7)
较大值。例如,th′BIO=2 或者th′BIO=2 。当然,上述只是速率阈值的示例,对此不做限制,可以根据经验配置。
[0252] 通过将第一放大因子na设置为1与(BD‑11)中的较大值,可以减少梯度的自相关系数和互相关系数的右移位数,增加自相关系数和互相关系数的所需位宽(保存精度)。通过将第二放大因子nb设置为4与(BD‑8)中的较大值,可以减少梯度的自相关系数和互相关系数的右移位数,增加自相关系数和互相关系数的所需位宽(保存精度)。通过将速率阈值max(5,BD‑7)th′BIO设置为2 ,可以增加水平方向速率vx和垂直方向速率vy的所需位宽(保存精度)。
[0253] 实施例26:编码端/解码端得到水平方向速率vx和垂直方向速率vy后,可以根据水平方向速率vx和垂直方向速率vy获取当前块的子块的预测补偿值,例如,根据子块的第一原始预测值、子块的第二原始预测值和梯度右移位数,确定水平方向梯度和垂直方向梯度,并根据水平方向速率vx、垂直方向速率vy、水平方向梯度和所述垂直方向梯度,获取预测补偿值。
[0254] 例如,编码端/解码端可以通过如下公式获取当前块的子块的预测补偿值b(x,y):
[0255]
[0256] 示例性的, 表示水平方向梯度, 表示垂直方向梯度,针对上述公式中的如下参数: 和 还可以通过如下方式确定这些参
数。
[0257]
[0258]
[0259] I(k)(i,j)表示坐标(i,j)的像素值,如I(0)(i,j)表示第一参考块中坐标(i,j)的像(1)素值,对应子块的第一原始预测值,I (i,j)表示第二参考块中坐标(i,j)的像素值,对应(0) (1)
子块的第二原始预测值。例如,I (x,y)表示子块的第一原始预测值,I (x,y)表示子块的(0)
第二原始预测值。假设子块的大小为4*4,I (x,y)是大小为4*4的第一参考块的第一原始(1)
预测值,或者大小为6*6的第一参考块的第一原始预测值,I (x,y)是大小为4*4的第二参(0)
考块的第二原始预测值,或者大小为6*6的第二参考块的第二原始预测值,以I (x,y)是大(1)
小为4*4的第一参考块的第一原始预测值,I (x,y)是大小为4*4的第二参考块的第二原始预测值为例。
[0260] vx表示水平方向速率,vy表示垂直方向速率,>>表示右移,rnd为round,表示取整操作,shift1表示梯度右移位数,>>shift1表示右移shift1。梯度右移位数shift1可以为2与(14‑BD)中的较大值,即shift1=max(2,14‑BD),或者,shift1可以为6与(BD‑6)中的较大值,即shift1=max(6,BD‑6)。当然,上述只是梯度右移位数的示例,对此不做限制,可以根据经验配置。通过将shift1设置为6与(BD‑6)中的较大值,可以增加梯度的右移位数,即减少梯度所需位宽(保存精度)。BD表示比特深度,即亮度值所需比特宽度,一般为10或8。
[0261] 实施例27:编码端/解码端可以根据当前块的子块的第一原始预测值、当前块的子块的第二原始预测值和当前块的子块的预测补偿值,获取当前块的子块的目标预测值。例如,编码端/解码端可以通过如下公式获取当前块的子块的目标预测值predBDOF(x,y):
[0262] predBDOF(x,y)=(I(0)(x,y)+I(1)(x,y)+b(x,y)+ooffset)>>shift(28)[0263] 在上述公式中,I(0)(x,y)表示子块的第一原始预测值,I(1)(x,y)表示子块的第二原始预测值,b(x,y)表示子块的预测补偿值,>>表示右移,>>shift表示右移shift。
[0264] 示例性的,ooffset=2shift‑1+214,shift=15‑BD,BD表示比特深度。
[0265] 当然,上述方式只是获取子块的目标预测值的示例,对此不做限制。
[0266] 实施例28:在当前块被划分为多个子块时,可以采用上述实施例,确定每个子块的目标预测值,即针对当前块的每个子块(如4*4大小的子块)进行预测信号的调整,从而得到每个子块的目标预测值。本实施例中,当满足特定条件时,还可以提前跳出某个子块的信号调整过程,也就是说,不再采用上述实施例的方式确定子块的目标预测值。
[0267] 例如,当前块被划分为子块1、子块2、子块3和子块4,编码端/解码端先采用上述实施例的方式确定子块1的目标预测值,然后采用上述实施例的方式确定子块2的目标预测值,假设满足特定条件,则编码端/解码端不再采用上述实施例的方式确定子块3的目标预测值和子块4的目标预测值,即提前跳出子块3和子块4的信号调整过程。
[0268] 示例性的,若当前块的两个子块的预测值的差异值均小于某个阈值TH_SUB_SAD时,可以确定满足特定条件,提前跳出剩余子块的信号调整过程。例如,若子块1的预测值的差异值小于阈值TH_SUB_SAD,且子块2的预测值的差异值小于阈值TH_SUB_SAD,则确定满足特定条件,提前跳出剩余子块(即子块3和子块4)的信号调整过程。
[0269] 又例如,当前块被划分为多个子块,针对每个子块,编码端/解码端采用上述实施例的方式确定所述子块的目标预测值之前,判断是否满足特定条件。若满足特定条件,则不再采用上述实施例的方式确定所述子块的目标预测值,即提前跳出所述子块的信号调整过程。若不满足特定条件,则可以采用上述实施例的方式确定所述子块的目标预测值。
[0270] 示例性的,若所述子块的预测值的差异值均小于某个阈值TH_SUB_SAD时,可以确定满足特定条件,提前跳出所述子块的信号调整过程。例如,若子块1的预测值的差异值小于阈值TH_SUB_SAD,则确定满足特定条件,提前跳出子块1的信号调整过程。
[0271] 示例性的,为了确定子块的预测值的差异值,可以采用如下方式实现:
[0272] 方式一、预测值的差异值可以为第一预测块(即根据当前块的第一单向运动信息从第一参考帧中获取的与子块对应的第一预测块)的预测值(后续记为pred0)与第二预测块(即根据当前块的第二单向运动信息从第二参考帧中获取的与子块对应的第二预测块)的预测值(后续记为pred1)的SAD,即pred0和pred1中所有像素的SAD。例如,可以通过如下公式确定第一参考帧与第二参考帧的预测值的差异值,在该公式中,pred0(i,j)为pred0的第i列,第j行的pred0预测值,pred1(i,j)为pred1的第i列,第j行的pred1预测值,n为像素总数,abs(x)表示x的绝对值,H表示高度值,W表示宽度值。
[0273]
[0274] 方式二、预测值的差异值还可以为第一预测块的下采样N倍后的预测值(记为pred0,即对第一预测块的预测值进行下采样后,得到的预测值)与第二预测块的下采样N倍后的预测值(记为pred1,即对第二预测块的预测值进行下采样后,得到的预测值)的SAD。例如,通过如下公式确定第一参考帧与第二参考帧的预测值的差异值,pred0(i,j)为pred0的第i列,第j行的pred0预测值,pred1(i,j)为pred1的第i列,第j行的pred1预测值,n为像素总数,abs(x)表示x的绝对值,H表示高度值,W表示宽度值,N为正整数,优选为2。
[0275]
[0276] 实施例29:
[0277] 基于与上述方法同样的申请构思,本申请实施例还提出一种编解码装置,应用于编码端或者解码端,所述装置用于若当前块的特征信息满足特定条件,则获取所述当前块或者所述当前块的子块的目标预测值,如图5所示,为所述装置的结构图,所述装置包括:
[0278] 第一确定模块51,用于若当前块的特征信息满足特定条件,根据所述当前块的第一单向运动信息确定第一原始预测值,根据所述当前块的第二单向运动信息确定第二原始预测值;
[0279] 第二确定模块52,用于根据所述第一原始预测值和所述第二原始预测值确定水平方向速率;根据所述第一原始预测值和所述第二原始预测值确定垂直方向速率;
[0280] 第一获取模块53,用于根据所述水平方向速率和所述垂直方向速率获取预测补偿值;
[0281] 第二获取模块54,用于根据所述第一原始预测值、所述第二原始预测值和所述预测补偿值获取目标预测值。
[0282] 示例性的,所述特征信息可以包括但不限于以下一种或多种:运动信息属性;预测模式属性;尺寸信息;序列级开关控制信息。
[0283] 所述第一确定模块51还用于:若所述特征信息包括所述运动信息属性,所述运动信息属性满足如下情况的一种或者同时满足以下至少两种时,确定所述运动信息属性满足特定条件;
[0284] 所述当前块采用双向预测,且所述当前块对应的两个参考帧来自不同方向;
[0285] 所述当前块包括多个子块,所述多个子块的运动信息均相同;
[0286] 所述当前块采用双向预测,且所述当前块对应的两个参考帧的加权权重相同;
[0287] 所述当前块采用双向预测,且所述当前块对应的两个参考帧与当前帧的距离相同;
[0288] 所述当前块采用双向预测,且当前块对应的两个参考帧的预测值的差异值小于预设阈值。
[0289] 所述第一确定模块51还用于:根据所述当前块的第一单向运动信息从第一参考帧中获取第一预测块,并根据所述当前块的第二单向运动信息从第二参考帧中获取第二预测块;
[0290] 根据所述第一预测块的下采样后的预测值与所述第二预测块的下采样后的预测值的SAD,获取所述第一参考帧与所述第二参考帧的预测值的差异值。
[0291] 所述第一确定模块51还用于:若所述特征信息包括所述预测模式属性,所述预测模式属性为不采用基于帧内帧间联合预测的融合模式,和/或,不采用对称运动矢量差模式,确定所述预测模式属性满足特定条件。
[0292] 所述第一确定模块51还用于:若所述特征信息包括所述序列级开关控制信息,且所述序列级开关控制信息为允许所述当前块采用双向光流模式,则确定所述序列级开关控制信息满足特定条件。
[0293] 所述第一确定模块51还用于:若所述特征信息包括所述尺寸信息,所述尺寸信息满足如下情况的一种或者同时满足以下至少两种时,则确定所述尺寸信息满足特定条件;所述当前块的宽度值大于或等于第一阈值,所述当前块的宽度值小于或等于第二阈值;所述当前块的高度值大于或等于第三阈值,所述当前块的高度值小于或等于第四阈值;所述当前块的面积值大于或等于第五阈值,所述当前块的面积值小于或等于第六阈值。
[0294] 所述第一确定模块51根据所述当前块的第一单向运动信息确定第一原始预测值,根据所述当前块的第二单向运动信息确定第二原始预测值时具体用于:
[0295] 基于所述当前块的第一单向运动信息,从第一参考帧中确定第一参考块,并确定所述第一参考块的第一原始预测值;其中,所述第一参考块的中心区域的第一原始预测值是通过对第一参考帧中的像素值进行插值得到,所述第一参考块的边缘区域的第一原始预测值是通过对第一参考帧中的像素值进行拷贝得到;基于所述当前块的第二单向运动信息,从第二参考帧中确定第二参考块,并确定所述第二参考块的第二原始预测值;其中,所述第二参考块的中心区域的第二原始预测值是通过对第二参考帧中的像素值进行插值得到,所述第二参考块的边缘区域的第二原始预测值是通过对第二参考帧中的像素值进行拷贝得到。
[0296] 所述第二确定模块52根据所述第一原始预测值和所述第二原始预测值确定水平方向速率时具体用于:当满足第一预设条件时,根据第一原始预测值和第二原始预测值确定水平方向梯度和与垂直方向梯度和的互相关系数S2、时域预测值差值与垂直方向梯度和的互相关系数S6;根据互相关系数S2、速率阈值、互相关系数S6、第一放大因子和第二放大因子确定水平方向速率;第一预设条件基于互相关系数S2、垂直方向梯度和的自相关系数S5确定。
[0297] 所述第二确定模块52根据所述第一原始预测值和所述第二原始预测值确定水平方向速率时具体用于:若满足第二预设条件,根据第一原始预测值和第二原始预测值确定水平方向梯度和的自相关系数S1、水平方向梯度和与垂直方向梯度和的互相关系数S2、时域预测值差值与水平方向梯度和的互相关系数S3、垂直方向梯度和的自相关系数S5、时域预测值差值与垂直方向梯度和的互相关系数S6;根据所述自相关系数S1、互相关系数S2、互相关系数S3、自相关系数S5、互相关系数S6、速率阈值、第一放大因子和第二放大因子确定水平方向速率;其中,所述第二预设条件基于所述互相关系数S2、所述自相关系数S5确定。
[0298] 所述第二确定模块52根据所述第一原始预测值和所述第二原始预测值确定垂直方向速率时具体用于:根据所述第一原始预测值和所述第二原始预测值获取未进行截断处理的未截断水平方向速率,并根据所述未截断水平方向速率确定垂直方向速率。
[0299] 所述第二确定模块52根据所述第一原始预测值和所述第二原始预测值确定垂直方向速率时具体用于:当满足第三预设条件时,根据所述第一原始预测值和所述第二原始预测值确定垂直方向梯度和的自相关系数S5、时域预测值差值与垂直方向梯度和的互相关系数S6;根据所述自相关系数S5、互相关系数S6、速率阈值、第一放大因子和第二放大因子确定垂直方向速率;其中,所述第三预设条件基于所述水平方向速率确定。
[0300] 所述互相关系数S2位于第一互相关系数阈值与第二互相关系数阈值之间;
[0301] 所述互相关系数S6位于第三互相关系数阈值与第四互相关系数阈值之间。
[0302] 第一放大因子为5与(BD‑7)中的较小值,或,1与(BD‑11)中的较大值;第二放大因子为8与(BD‑4)中的较小值,或,4与(BD‑8)中的较大值;速率阈值为2的M次方,M为13与BD的差值,或,5与(BD‑7)中的较大值;其中,BD为比特深度。
[0303] 所述第一获取模块53根据所述水平方向速率和所述垂直方向速率获取预测补偿值时具体用于:根据所述第一原始预测值、所述第二原始预测值和梯度右移位数,确定水平方向梯度和垂直方向梯度,并根据所述水平方向速率、所述垂直方向速率、所述水平方向梯度和所述垂直方向梯度,获取所述预测补偿值;其中,所述梯度右移位数为2与(14‑BD)中的较大值,或,6与(BD‑6)中的较大值,BD为比特深度。
[0304] 本申请实施例提供的解码端设备,从硬件层面而言,其硬件架构示意图具体可以参见图6所示。包括:处理器61和机器可读存储介质62,所述机器可读存储介质62存储有能够被所述处理器61执行的机器可执行指令;所述处理器61用于执行机器可执行指令,以实现本申请上述示例公开的方法。例如,处理器用于执行机器可执行指令,以实现如下步骤:
[0305] 若当前块的特征信息满足特定条件,则执行以下步骤获取所述当前块或者所述当前块的子块的目标预测值:根据所述当前块的第一单向运动信息确定第一原始预测值,根据所述当前块的第二单向运动信息确定第二原始预测值;根据所述第一原始预测值和所述第二原始预测值确定水平方向速率;根据所述第一原始预测值和所述第二原始预测值确定垂直方向速率;根据所述水平方向速率和所述垂直方向速率获取预测补偿值;根据所述第一原始预测值、所述第二原始预测值和所述预测补偿值获取目标预测值。
[0306] 本申请实施例提供的编码端设备,从硬件层面而言,其硬件架构示意图具体可以参见图7所示。包括:处理器71和机器可读存储介质72,所述机器可读存储介质72存储有能够被所述处理器71执行的机器可执行指令;所述处理器71用于执行机器可执行指令,以实现本申请上述示例公开的方法。例如,处理器用于执行机器可执行指令,以实现如下步骤:
[0307] 若当前块的特征信息满足特定条件,则执行以下步骤获取所述当前块或者所述当前块的子块的目标预测值:根据所述当前块的第一单向运动信息确定第一原始预测值,根据所述当前块的第二单向运动信息确定第二原始预测值;根据所述第一原始预测值和所述第二原始预测值确定水平方向速率;根据所述第一原始预测值和所述第二原始预测值确定垂直方向速率;根据所述水平方向速率和所述垂直方向速率获取预测补偿值;根据所述第一原始预测值、所述第二原始预测值和所述预测补偿值获取目标预测值。
[0308] 基于与上述方法同样的申请构思,本申请实施例还提供一种机器可读存储介质,所述机器可读存储介质上存储有若干计算机指令,所述计算机指令被处理器执行时,能够实现本申请上述示例公开的编解码方法。其中,上述机器可读存储介质可以是任何电子、磁性、光学或其它物理存储装置,可以包含或存储信息,如可执行指令、数据,等等。例如,机器可读存储介质可以是:RAM(Radom Access Memory,随机存取存储器)、易失存储器、非易失性存储器、闪存、存储驱动器(如硬盘驱动器)、固态硬盘、任何类型的存储盘(如光盘、dvd等),或者类似的存储介质,或者它们的组合。
[0309] 上述实施例阐明的系统、装置、模块或单元,可以由计算机芯片或实体实现,或由具有某种功能的产品来实现。一种典型的实现为计算机,计算机的形式可以是个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件收发设备、平板计算机、可穿戴设备或者这些设备中的任意几种设备的组合。
[0310] 为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
[0311] 本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD‑ROM、光学存储器等)上实施的计算机程序产品形式。
[0312] 本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可以由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其它可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其它可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。而且,这些计算机程序指令也可以存储在能引导计算机或其它可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或者多个流程和/或方框图一个方框或者多个方框中指定的功能。
[0313] 这些计算机程序指令也可装载到计算机或其它可编程数据处理设备上,使得在计算机或者其它可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其它可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。