一种有效抑制编码振铃效应的方法、编码器及编码方法

摘要

本发明提出的有效抑制编码振铃效应的方法中，通过编码预测获取实际量化损失值，判断是否出现过度量损以确定是否进行编码振铃效应及块效应的抑制，不占用额外资源；在编码重构之前进行滤波以获取当前块y的最优结果，嵌入到编码器基于块的编码过程中，避免脱离编码器造成的处理准确性和实时性不足；采用LMMSE准则进行滤波，针对低码率/极低码率的码率应用，能够有效抑制由于高频信号被抑制，高频分量的过度量损，在强边缘附近出现的振铃效应及块效应。本发明还提出一种编码器及编码方法，在编码重构之前对当前块的最优模式进行滤波以获取最优结果，具有更高的压缩效率和更好的主观质量表现。

权利要求

1.一种有效抑制编码振铃效应的方法，其特征在于，包括：步骤L1：获取当前块y在完成编码预测后确定的最优预测块p和对应误差r，其中，y＝p+r；获取实际量化损失值 其中， 为重构块x的方差，y＝x+e，e为量化噪声；

获取所述对应误差r的方差

步骤L2：判断 是否小于 若是，执行步骤L3，若否，则未出现过度量损的情况；

步骤L3：获取期望量损参数值 其中，m＝x-p， 为m的方差；

步骤L4：根据LMMSE准则进行滤波，获取当前块y的最优结果，将所述最优结果运用于编码重构，以抑制编码振铃效应；

其中，所述步骤L4包括：

根据以下公式进行滤波，获取当前块y的最优结果y'；

y'＝ω0+ω1y+ω2p，

且

2.一种编码器，其特征在于，包括：编码预测单元及编码重构单元；

所述编码预测单元根据RDO策略获取当前块y的最优预测块p和对应误差r，并获取实际量化损失值 以及对应误差r的方差 且当 小于 时，获取期望量损参数值 其中，y＝p+r，m＝x-p， 为m的方差，x为重构块；

所述编码重构单元包括一滤波单元；所述滤波单元根据所述编码预测单元获取的数据，以获取当前块的最优结果，根据所述最优结果进行编码重构计算，获取编码结果；

所述滤波单元为LMMSE滤波单元，根据以下公式进行滤波，获取当前块y的最优结果y'；

y'＝ω0+ω1y+ω2p，

其中， e为量化噪声。

3.一种编码方法，其特征在于，使用如权利要求2所述的一种编码器，包括步骤：编码预测单元进行编码预测阶段，获取当前块y的最优预测块p和对应误差r，并获取实际量化损失值 以及对应误差r的方差当 小于 时，获取期望量损参数值

编码重构单元进行编码重构阶段，所述编码重构阶段之前还包括，滤波单元获取当前块y的最优结果，将所述最优结果运用于编码重构阶段，获取编码结果；

其中，所述滤波单元为LMMSE滤波单元，根据以下公式进行滤波，获取当前块y的最优结果y'；

y'＝ω0+ω1y+ω2p，

且 y＝p+r；m＝

x-p； 为m的方差，x为重构块，e为量化噪声。

说明书

一种有效抑制编码振铃效应的方法、编码器及编码方法

技术领域

[0001] 本发明涉及视频编码和处理领域，具体涉及一种有效抑制编码振铃效应的方法、编码器及编码方法。

背景技术

[0002] 在常用视频编码中，为了除去图像信号中的相关性及减小图像编码的动态范围，通常采用基于宏块的变换编码及量化技术。当编码的量化参数较大时，由于高频信号被抑制，高频分量的过度量损，在强边缘附近可能出现振铃效应，并在运动场景中运动主体产生严重的拖尾现象，这些编码所产生的人工噪声都会降低视频的主观感受。对这类存在人工噪声的视频序列进行编码的时候，编码性能亦会出现下降。

[0003] 目前对强边缘附近可能出现振铃效应的解决方案多利用全局性统计信息或时域相关性等信息，用预处理的方法进行，由于整个过程脱离编码器编码过程，处理的准确性和实时性不足，而且需要增加额外的帧级预处理单元。

[0004] 因此，亟须提出一种有效抑制编码振铃效应的方法、编码器及编码方法，以解决上述问题。

发明内容

[0005] 本发明的目的在于提出一种有效抑制编码振铃效应的方法，嵌入到编码器基于块的编码过程中，能够有效抑制振铃效应及块效应。

[0006] 本发明的又一目的在于提出一种编码器及编码方法，针对低码率/极低码率码率应用，具有更高的压缩效率和更好的主观质量表现，速度快效率高。

[0007] 为达到上述目的，本发明一方面提出了一种有效抑制编码振铃效应的方法，包括：

[0008] 步骤L1：获取当前块y在完成编码预测后确定的最优预测块p和对应误差r，其中，y＝p+r；获取实际量化损失值 其中， 为重构块x的方差，y＝x+e，e为量化噪声；获取所述对应误差r的方差

[0009] 步骤L2：判断 是否小于 若是，执行步骤3，若否，则未出现过度量损的情况；

[0010] 步骤L3：获取期望量损参数值 其中，m＝x-p， 为m的方差；

[0011] 步骤L4：根据LMMSE准则进行滤波，获取当前块y的最优结果，将所述最优结果运用于编码重构，以抑制编码振铃效应。

[0012] 可选的，在上述有效抑制编码振铃效应的方法中，所述步骤L4包括：

[0013] 根据以下公式进行滤波，获取当前块y的最优结果y'；

[0014] y'＝ω0+ω1y+ω2p，

[0015] 其中，

[0016]

[0017] 为达到上述目的，本发明又一方面提出一种编码器，包括：

[0018] 编码预测单元及编码重构单元，所述编码重构单元包括一滤波单元；所述编码预测单元获取当前块的最优模式，所述滤波单元根据所述最优模式获取当前块的最优结果，根据所述最优结果进行编码重构计算，获取编码结果。

[0019] 可选的，在上述编码器中，所述滤波单元为LMMSE滤波单元，根据以下公式进行滤波，获取当前块y的最优结果y'；

[0020] y'＝ω0+ω1y+ω2p，

[0021] 其中，

[0022] x为重构块，p为最优预测块，e为量化噪声，m＝x-p， 为m的方差， 为期望量损参数值，um＝E(x-p)。

[0023] 可选的，在上述编码器中，所述编码预测单元根据RDO策略获取当前块的最优模式。

[0024] 为达到上述目的，本发明有一方面提出一种使用如上所述的任一种编码器进行编码的方法，包括步骤：

[0025] 编码预测单元进行编码预测阶段，获取当前块y的最优模式；

[0026] 编码重构单元根据所述最优模式进行编码重构阶段，所述编码重构阶段之前还包括，滤波单元根据所述最优模式获取当前块的最优结果，将所述最优结果运用于编码重构阶段，获取编码结果。

[0027] 可选的，在上述编码方法中，所述滤波单元为LMMSE滤波单元，根据以下公式进行滤波，获取当前块y的最优结果y'；

[0028] y'＝ω0+ω1y+ω2p，

[0029] 其中，

[0030] x为重构块，p为最优预测块，e为量化噪声，m＝x-p， 为m的方差， 为期望量损参数值，um＝E(x-p)。

[0031] 综上所述，本发明提出的有效抑制编码振铃效应的方法中，通过编码预测获取实际量化损失值，判断是否出现过度量损以确定是否进行编码振铃效应及块效应的抑制，不占用额外资源；进一步的，在编码重构之前进行滤波以获取当前块y的最优结果，嵌入到编码器基于块的编码过程中，避免脱离编码器造成的处理准确性和实时性不足，具有更高的压缩效率和更好的主观质量表现；又进一步的，采用LMMSE准则进行滤波，针对低码率/极低码率的码率应用，对低码率进行相应的优化，能够有效抑制由于高频信号被抑制，高频分量的过度量损，在强边缘附近出现的振铃效应及块效应。

附图说明

[0032] 图1为本发明一优选实施例中一种有效抑制编码振铃效应的方法的流程示意图；

[0033] 图2为本发明一优选实施例中的编码器结构示意图；

[0034] 图3为使用图2中编码器进行编码的流程示意图。

具体实施方式

[0035] 下面将结合示意图对本发明的具体实施方式进行更详细的描述。根据下列描述和权利要求书，本发明的优点和特征将更清楚。需说明的是，附图均采用非常简化的形式且均使用非精准的比例，仅用以方便、明晰地辅助说明本发明实施例的目的。

[0036] 目前标准编码器模型采用的匹配准则包括：

[0037] 1、整像素搜索采用基于块的SAD(Sum of Absolute Differences)/MAD(Mean Absolute Differences)匹配准则:

[0038]

[0039] 其中，

[0040] 1≤i≤m-M+1,1≤j≤n-N+1，

[0041] 根据算法原理，可以得到：

[0042]

[0043]

[0044] 从上可以看到，SAD/MAD的匹配准则实质上基于块的均值匹配方法实现，即对于当前块y的最优预测块p，存在如下关系：

[0045] ux≈up

[0046] 2、模式选择RDO策略失真度计算采用SSD

[0047] (Sum of Squared Differences)/MSD(Mean Square Differences)准则：

[0048]

[0049]

[0050] 1≤i≤m-M+1,1≤j≤n-N+1，

[0051] 根据算法原理，可以得到：

[0052] SSD＝M×N×D(S-T)，

[0053] MSD＝D(S-T)，

[0054] 从上可以看到，SSD/MSD的匹配准则实质上基于块的残差的方差匹配方法实现，即对于当前块y和重构块x，失真度即为M×N×D(y-x)：

[0055] 另，因为存在量化噪声e，有如下关系：

[0056] y＝x+e，

[0057] 基于量化噪声随机特性(必须满足编码量化过程中DC系数没有量化损失)，存在以下性质：

[0058] ux≈uy

[0059]

[0060] 基于此，本发明提出一种有效抑制编码振铃效应的方法，具体的，参考图1，包括：

[0061] 步骤L1：获取当前块y在完成编码预测后确定的最优预测块p和对应误差r，其中，y＝p+r；获取实际量化损失值 其中， 为重构块x的方差，y＝x+e，e为量化噪声；获取所述对应误差r的方差

[0062] 步骤L2：判断 是否小于 若是，执行步骤3，若否，则未出现过度量损的情况；

[0063] 步骤L3：获取期望量损参数值 其中，m＝x-p， 为m的方差；

[0064] 步骤L4：根据LMMSE准则进行滤波，获取当前块y的最优结果，将所述最优结果运用于编码重构，以抑制编码振铃效应。

[0065] 可选的，所述步骤L4包括：

[0066] 根据以下公式进行滤波，获取当前块y的最优结果y'；

[0067] y'＝ω0+ω1y+ω2p，

[0068] 其中，

[0069]

[0070] 本发明采用LMMSE准则进行滤波，其原理即E[(y-x)2]值的最小化与RDO策略中失真度计算的方差最小化一致，但LMMSE准则针对低码率/极低码率的码率应用，对低码率进行相应的优化，能够有效抑制由于高频信号被抑制，高频分量的过度量损，在强边缘附近出现的振铃效应及块效应。

[0071] 本发明又一实施例中提出一种编码器，参考图2，具体的，其包括编码预测单元及编码重构单元，编码重构单元包括一滤波单元，所述滤波单元基于上述有效抑制编码振铃效应的方法，具体的，所述编码预测单元获取当前块的最优模式，编码重构单元根据所述最优模式进行编码重构阶段，滤波单元根据所述最优模式获取当前块的最优结果，将所述最优结果运用于编码重构阶段，获取编码结果。

[0072] 在编码重构之前进行滤波以获取当前块y的最优结果，嵌入到编码器基于块的编码过程中，避免脱离编码器造成的处理准确性和实时性不足，具有更高的压缩效率和更好的主观质量表现。

[0073] 可选的，所述滤波单元为LMMSE滤波单元。即采用LMMSE准则获取当前块的最优结果，然后将所述最优结果进行重构计算，获取编码结果。

[0074] 根据以下公式进行滤波，获取当前块y的最优结果y'；

[0075] y'＝ω0+ω1y+ω2p  式(1)，

[0076] 其中，

[0077] x为重构块，p为最优预测块，e为量化噪声，m＝x-p， 为m的方差， 为期望量损参数值，um＝E(x-p)。

[0078] 本发明采用LMMSE准则进行滤波，针对低码率/极低码率的码率应用，对低码率进行相应的优化，能够有效抑制高频分量的过度量损在强边缘附近出现的振铃效应及块效应。

[0079] 可选的，所述编码预测单元根据RDO策略获取当前块的最优模式，本发明对编码预测单元进行编码预测的策略或方式等均不作任何限制。

[0080] 可选的，易知本发明中的编码器实现编码还包括噪声强度估计单元、参考帧单元、运动估计单元及运动补偿单元，均为保证所述编码基于块的编码过程能够实现，本发明不作赘述。

[0081] 参考图3，本发明一优选实施例中，使用上述编码器进行块的编码的过程包括：

[0082] 步骤S1：编码预测单元进行编码预测阶段，获取当前块y的最优模式；

[0083] 步骤S2：编码重构单元根据所述最优模式进行编码重构阶段，所述编码重构阶段之前还包括，滤波单元根据所述最优模式获取当前块的最优结果，将所述最优结果运用于编码重构阶段，获取编码结果。

[0084] 优选的，步骤S2中，所述滤波单元为LMMSE滤波单元，根据以下公式进行滤波，获取当前块y的最优结果y'；

[0085] y'＝ω0+ω1y+ω2p，

[0086] 其中，

[0087] x为重构块，p为最优预测块，e为量化噪声，m＝x-p， 为m的方差， 为期望量损参数值，um＝E(x-p)。

[0088] 综上所述，本发明提出的有效抑制编码振铃效应的方法中，通过编码预测获取实际量化损失值，判断是否出现过度量损以确定是否进行编码振铃效应及块效应的抑制，不占用额外资源；进一步的，在编码重构之前进行滤波以获取当前块y的最优结果，嵌入到编码器基于块的编码过程中，避免脱离编码器造成的处理准确性和实时性不足，具有更高的压缩效率和更好的主观质量表现；又进一步的，采用LMMSE准则进行滤波，针对低码率/极低码率的码率应用，对低码率进行相应的优化，能够有效抑制由于高频信号被抑制，高频分量的过度量损，在强边缘附近出现的振铃效应及块效应。

[0089] 本领域的普通技术人员可以理解，实现上述实施例方法中的全部或部分步骤是可以通过程序指令相关硬件来完成的，所述的程序可以存储于一计算机可读取存储介质中，所述的存储介质可以为ROM、RAM、磁盘、光盘等。

[0090] 上述仅为本发明的优选实施例而已，并不对本发明起到任何限制作用。任何所属技术领域的技术人员，在不脱离本发明的技术方案的范围内，对本发明揭露的技术方案和技术内容做任何形式的等同替换或修改等变动，均属未脱离本发明的技术方案的内容，仍属于本发明的保护范围之内。