一种基于非参数化交替方向乘子法的图像去噪算法转让专利
申请号 : CN201810207235.6
文献号 : CN108416753B
文献日 : 2020-06-12
发明人 : 叶昕辰 , 张明亮 , 蔡玉 , 樊鑫
申请人 : 大连理工大学
摘要 :
本发明为一种基于非参数化交替方向乘子法的图像去噪算法，属于图像处理领域。该方法在交替方向乘子法的基础上，通过建立相应的损失函数并结合反向传播技术，可以自动地学习相关的参数，进一步求解得到高质量的去噪图像。本方法程序简单，易于实现；可以自动的学习相关的参数，避免了人工选择参数；只需训练少量样本就可以用于图像去噪，并且所需的算法迭代次数相对较少，一般20次以内就能够收敛到模型的最优解。
权利要求 :
1.一种基于非参数化交替方向乘子法的图像去噪算法，其特征在于，包括如下步骤：第一步，准备初始数据；初始数据包括带有不同噪声水平的低质量灰度图，以及相应的真实灰度图；
第二步，构建噪声模型；
其中，y表示带噪声的图像，x表示待求的未知图像，表示模型的最优解，D表示滤波算子，g(·)表示正则项，λ表示权重参数，用于控制数据保真项 和正则项g(·)之间的平衡；
第三步，推导噪声模型的求解算法；
3-1)引入辅助变量z，将模型解耦为数据保真项和正则项，即利用增广拉格朗日乘子法将带约束的模型转化为无约束优化模型：其中，Lρ(x,z,α)表示增广拉格朗日函数，α表示拉格朗日乘子，α初始值为零矩阵，ρ表示惩罚参数，ρ初始值取为0.2，z的初始值为零矩阵，x的初始值为带噪图像；
3-2)利用交替方向乘子法将上述的增广拉格朗日函数Lρ(x,z,α)分解为如下易于求解的子问题：
3-2-1)x-问题：
其中，k表示第k次迭代；将上式等号右侧部分关于x求导，并令其一阶导数为零，得到关于x问题的闭式解：式中 和 分别表示离散傅里叶变换及其对应的逆变换，DT表示D的转置，是由D旋转
180度得到的，I表示全1矩阵；
3-2-2)z-问题：
与x-问题同理，将上式等号右侧部分关于z求导，并令其一阶导数为零，则可以得到关于z问题的闭式解：：或者
其中，为求导算子，S(·)表示非线性收缩函数，使用高斯径向基函数来近似收缩函数S(·)
3-2-3)α-问题：
然后用梯度下降法求解相应的乘子α：
α(k+1)＝α(k)+ρ(Dx(k+1)-z(k+1))第四步，训练模型并更新参数
结合第三步和第四步，算法最终解释为一个双水平优化问题：其中，Θ1,…,T简记为Θ；下水平问题看作一个利用ADMM solver求解最优变量的过程，上水平问题建立了一个关于最优变量 和真实图像 的损失函数，利用LBFGS方法并通过最小化损失函数进行参数的更新，得到最优参数Θ*；通过迭代双水平优化过程，直至收敛到模型最优解。
2.如权利要求1所述的基于非参数化交替方向乘子法的图像去噪算法，其特征是，第四步，训练模型并更新参数，具体包括以下步骤：给定初始训练样本对 其中y(k)为第k个带噪图像， 为第k个真实图像，K表示样本的总个数；定义如下的损失函数：其中T表示模型的迭代次数， 表示T次迭代后第k个图像的输出，表示待学习的模型参数即权重参数λt、惩罚参数ρt、滤波系数Dt；称依次求解x-问题、z-问题、α-问题为一次迭代过程；在参数固定的情况下，利用交替方向乘子法求解模型的过程称为ADMM solver；
进行参数更新：首先，利用链式法则计算损失函数关于参数Θt的梯度，即然后利用LBFGS方法计算梯度的下降方向，最后利用梯度下降法更新参数Θt；
在参数Θ1,…,T固定的情况下，执行ADMM solver，之后固定变量 最小化损失函数计算参数的梯度，进而自动更新模型的参数。
说明书 :
一种基于非参数化交替方向乘子法的图像去噪算法
技术领域
[0001] 本发明属于图像处理领域，涉及采用交替方向乘子法对带噪声的图像建模，并推导出基于交替方向乘子法可以自动更新参数的算法来对图像进行去噪。尤其涉及一种基于非参数化交替方向乘子法的图像去噪算法。
背景技术
[0002] 在计算机视觉、信号处理以及其它的领域，图像去噪是一个基本的图像恢复问题。受复杂的电磁环境、电子设备及人为因素的影响，通常得到的是一些带有噪声的低质量图像，这往往给人们带来较差的视觉效果。图像去噪是一个数据处理过程，一个好的图像去噪算法可以得到较高质量的图像，我们可以利用得到的这些高质量图像来进行目标识别和图像分割等任务。现存的图像去噪方法大致可分为三类：局部滤波方法、全局优化算法以及基于学习的算法。局部滤波算法例如均值滤波、中值滤波以及变换域滤波等方法。这一类方法具有简单、易操作等优点，但往往得到的图像视觉效果较差。全局优化算法在过去几十年是一种主流算法，Bredies等提出了一个广义总变差模型(K.Bredies,K.Kunisch,and T.Pock,“Total generalized variation,”SIAMJ.Imag.Sci.,vol.3,no.3,pp.492–526,
2010)，Perona等人从偏微分方程的角度提出了一个非线性扩散模型(P.Perona and J.Malik,“Scale-space and edge detection using anisotropic diffusion,”Proc.IEEE Trans.Pattern Anal.Mach.Intell.,vol.12,no.7,pp.629–639,1990)。这一类图像优化算法通常能够得到较高质量的图像，但这些方法需要人工地选择合适的参数来得到满意的结果，而人工调参的过程往往是耗时耗力的。而基于学习的算法则克服了这一缺点，通过利用合适的优化算法并结合反向传播方法来自动地更新模型的参数。例如，Schmidt等在半二次规划方法的基础上利用高斯径向基函数得到了相应的收缩函数，通过串联这些收缩函数的收缩域并且学习模型的参数，可以达到较好的图像去噪效果(U.Schmidt and S.Roth,“Shrinkage fields for effective image restoration,”in Proc.IEEE Conference on Computer Vision and PatternRecognition(CVPR),2015,pp.3791–3799)。不同于Schmidt等基于半二次规划方法来求解模型，我们的方法基于交替方向乘子法来建模(S.Boyd,N.Parikh,E.Chu,B.Peleato,and J.Eckstein,“Distributedoptimization and statistical learning via the alternating direction methodof multipliers,”Foundation and Trends in Machine Learning,vol.3,no.1,pp.1–122,2011)，这是因为交替方向乘子法往往使得模型求解变得更加简单，并且可以有更好的收敛性保证。
2010)，Perona等人从偏微分方程的角度提出了一个非线性扩散模型(P.Perona and J.Malik,“Scale-space and edge detection using anisotropic diffusion,”Proc.IEEE Trans.Pattern Anal.Mach.Intell.,vol.12,no.7,pp.629–639,1990)。这一类图像优化算法通常能够得到较高质量的图像，但这些方法需要人工地选择合适的参数来得到满意的结果，而人工调参的过程往往是耗时耗力的。而基于学习的算法则克服了这一缺点，通过利用合适的优化算法并结合反向传播方法来自动地更新模型的参数。例如，Schmidt等在半二次规划方法的基础上利用高斯径向基函数得到了相应的收缩函数，通过串联这些收缩函数的收缩域并且学习模型的参数，可以达到较好的图像去噪效果(U.Schmidt and S.Roth,“Shrinkage fields for effective image restoration,”in Proc.IEEE Conference on Computer Vision and PatternRecognition(CVPR),2015,pp.3791–3799)。不同于Schmidt等基于半二次规划方法来求解模型，我们的方法基于交替方向乘子法来建模(S.Boyd,N.Parikh,E.Chu,B.Peleato,and J.Eckstein,“Distributedoptimization and statistical learning via the alternating direction methodof multipliers,”Foundation and Trends in Machine Learning,vol.3,no.1,pp.1–122,2011)，这是因为交替方向乘子法往往使得模型求解变得更加简单，并且可以有更好的收敛性保证。
发明内容
[0003] 本发明旨在解决克服现有技术的不足，提供一种基于非参数化交替方向乘子法的图像去噪算法。本方法在交替方向乘子法的基础上，通过建立相应的损失函数并结合反向传播技术，可以自动地学习相关的参数，进一步求解得到高质量的去噪图像。
[0004] 本发明采取的技术方案是，一种基于非参数化交替方向乘子法的图像去噪算法，所述方法包括下列步骤：
[0005] 第一步，准备初始数据；
[0006] 初始数据包括带有不同噪声水平的低质量灰度图，以及相应的真实灰度图。
[0007] 第二步，构建噪声模型；
[0008] 通常噪声模型可以表达为：
[0009] y＝x+η
[0010] 其中，y表示带噪声的图像，x表示待求的未知图像，η表示加性高斯白噪声且服从均值为零的正态分布，即 (0,σ2)，σ2表示分布的方差。
[0011] 但上述模型往往会导致方程求解的病态问题，需要添加正则项作为约束，使得模型的最优解存在且唯一。特别地，本发明的正则项采用g(Dx)，从而得到如下的优化模型：
[0012]
[0013] 其中 表示模型的最优解，D表示滤波算子，本发明中滤波算子D采用的是DCT(Discrete Cosine Transform)基，g(·)表示正则项，λ表示权重参数，用于控制数据保真项 和正则项g(·)之间的平衡。
[0014] 第三步，推导噪声模型的求解算法；
[0015] 3-1)对于第二步得到的噪声模型，一般无法直接求解。本发明通过引入辅助变量z，将模型解耦为易于求解的数据保真项和正则项，即
[0016]
[0017] 为了便于模型优化，接下来，本发明利用增广拉格朗日乘子法(Z.Lin,M.Chen,and Y.Ma,“The augmented lagrange multiplier methodfor exact recovery of corrupted low-rank matrices,”arXiv preprintarXiv:1009.5055,2010)将带约束的模型转化为无约束优化模型：
[0018]
[0019] 这里Lρ(x,z,α)表示增广拉格朗日函数，α表示拉格朗日乘子，ρ表示惩罚参数。
[0020] 3-2)利用交替方向乘子法(S.Boyd,N.Parikh,E.Chu,B.Peleato,and J.Eckstein,“Distributedoptimization and statistical learning via the alternating direction methodof multipliers,”Foundation and Trends in Machine Learning,vol.3,no.1,pp.1–122,2011)将上述的增广拉格朗日函数Lρ(x,z,α)分解为几个易于求解的子问题：
[0021] 3-2-1)x-问题：
[0022]
[0023] 其中，k表示第k次迭代。将上式等号右侧部分关于x求导，并令其一阶导数为零，即可得到关于x问题的闭式解：
[0024]
[0025] 式子中 和 分别表示离散傅里叶变换及其对应的逆变换，DT表示D的转置，I表示全1矩阵。
[0026] 3-2-2)z-问题：
[0027]
[0028] 与x-问题同理，将上式等号右侧部分关于z求导，并令其一阶导数为零，则可以得到关于z问题的闭式解：
[0029]
[0030] 或者
[0031]
[0032] 其中，代表求导算子，S(·)表示非线性收缩函数。
[0033] 3-2-3)α-问题：
[0034]
[0035] 然后用梯度下降法来求解相应的乘子α：
[0036] α(k+1)＝α(k)+ρ(Dx(k+1)-z(k+1))
[0037] 第四步，训练模型并更新参数
[0038] 给定初始训练样本对 这里y(k)为第k个带噪图像， 为第k个真实图像，K表示样本的总个数。定义如下的损失函数：
[0039]
[0040] 其中T表示模型的迭代次数， 表示T次迭代后第k个图像的输出，表示待学习的模型参数即权重参数λt、惩罚参数ρt、
滤波系数Dt。为叙述方便起见，称依次求解x-问题、z-问题、α-问题为一次迭代过程。在参数固定的情况下，利用交替方向乘子法求解模型的过程也被称为ADMM solver。
滤波系数Dt。为叙述方便起见，称依次求解x-问题、z-问题、α-问题为一次迭代过程。在参数固定的情况下，利用交替方向乘子法求解模型的过程也被称为ADMM solver。
[0041] 接下来进行参数更新。首先，利用链式法则来计算损失函数关于参数Θt的梯度，即
[0042]
[0043] 然后利用LBFGS方法来计算梯度的下降方向(D.Liu and J.Nocedal,“On the limited memory bfgs method for largescale optimization,”Proc.Mathematical programming,vol.45,no.1-3,pp.503–528,1989)，最后利用梯度下降法更新参数Θt。
[0044] 在参数Θ1,…,T固定的情况下，执行ADMM solver，之后固定变量 最小化损失函数计算参数的梯度，进而自动更新模型的参数。
[0045] 结合第三步和第四步，本发明提出的基于非参数化交替方向乘子法的图像去噪算法如下所示：
[0046]
[0047] 其中，Θ1,…,T简记为Θ。本发明提出的算法解释为一个双水平优化问题(bi-level optimization problem)：下水平问题可以看作一个利用ADMM solver求解最优变量的过程(前向传播过程)，上水平问题建立了一个关于最优变量和真实图像 的损失函数，利用LBFGS方法并通过最小化损失函数来进
行参数的更新，得到最优参数Θ*(反向传播过程)。本发明通过迭代双水平优化过程，直至收敛到模型最优解。
行参数的更新，得到最优参数Θ*(反向传播过程)。本发明通过迭代双水平优化过程，直至收敛到模型最优解。
[0048] 本发明的方法的特点及效果：
[0049] 本发明方法基于普通的交替方向乘子法，在训练过程中通过建立相关的损失函数来对带噪图像模型进行优化，从而达到自动更新参数的目的，并最终得到高质量的恢复图像，具有以下特点：
[0050] 1、程序简单，易于实现；
[0051] 2、可以自动的学习相关的参数，避免了人工选择参数；
[0052] 3、只需训练少量样本就可以用于图像去噪，并且所需的算法迭代次数相对较少。
附图说明
[0053] 图1是实际实施流程图。
[0054] 图2是噪声水平σ＝25的图像修复结果对比；a)带噪图像(Noisy)；b)KSVD结果；c)FoE结果；d)本发明方法的结果。
具体实施方式
[0055] 下面结合实施例和附图对本发明的基于非参数化交替方向乘子法的图像去噪算法做出详细说明。
[0056] 本发明旨在解决克服现有技术的不足，提供一种新的图像去噪方法。本发明采取的技术方案是，一种基于非参数化交替方向乘子法的图像去噪算法，借助普通的交替方向乘子法，在训练过程中通过建立相关的损失函数来对带噪图像模型进行优化，从而可以自动的学习相关的参数并可以恢复较高质量的图像。整个流程如图1所示。所述方法包括下列步骤：
[0057] 第一步，准备初始数据；
[0058] 初始数据包括带有不同噪声水平的低质量灰度图，以及相应的真实灰度图，如图2所示。
[0059] 第二步，构建噪声模型；
[0060] 通常噪声模型可以表达为：
[0061] y＝x+η
[0062] 这里y表示带噪声的图像，x表示待求的未知图像，η表示加性高斯白噪声且服从均值为零的正态分布，即 σ2表示分布的方差。
[0063] 上述模型会导致方程求解的病态问题，需要添加正则项作为约束，使得模型的最优解存在且唯一。特别地，本发明的正则项采用g(Dx)，从而得到下面的优化模型：
[0064]
[0065] 其中 表示模型的最优解，D表示滤波算子，本发明中滤波算子D采用的是DCT(Discrete Cosine Transform)基，g(·)表示正则项，λ表示权重参数，用于控制数据保真项 和正则项g(·)之间的平衡。值得注意的是，在传统的优化模型中λ和g(·)是人为选择的，而本发明的方法可以自动地学习这些未知参数。
[0066] 第三步，推导噪声模型的求解算法；
[0067] 3-1)对于第二步得到的噪声模型，一般无法直接求解。本发明通过引入辅助变量z，将模型解耦为易于求解的数据保真项和正则项，即
[0068]
[0069] 为了便于模型优化，接下来，本发明利用增广拉格朗日乘子法(Z.Lin,M.Chen,and Y.Ma,“The augmented lagrange multiplier methodfor exact recovery of corrupted low-rank matrices,”arXiv preprintarXiv:1009.5055,2010)将带约束的模型转化为无约束优化模型：
[0070]
[0071] 这里Lρ(x,z,α)表示增广拉格朗日函数，α表示拉格朗日乘子，ρ表示惩罚参数。
[0072] 3-2)交替方向乘子法由于其易于优化、收敛速度快、迭代稳定等优点(S.Boyd,N.Parikh,E.Chu,B.Peleato,and J.Eckstein,“Distributedoptimization and statistical learning via the alternating direction methodof multipliers,”Foundation and Trends in Machine Learning,vol.3,no.1,pp.1–122,2011)，近十几年来得到了非常广泛的应用。因此，本发明利用交替方向乘子法将上述的增广拉格朗日函数Lρ(x,z,α)分解为几个易于求解的子问题：
[0073] 3-2-1)x-问题：
[0074]
[0075] 其中，k表示第k次迭代。将上式等号右侧部分关于x求导，并令其一阶导数为零，即可得到关于x问题的闭式解：
[0076]
[0077] 式子中 和 分别表示离散傅里叶变换及其对应的逆变换，DT表示D的转置，是由D旋转180度得到的，I表示全1矩阵。
[0078] 3-2-2)z-问题：
[0079]
[0080] 与x-问题同理，将上式等号右侧部分关于z求导，并令其一阶导数为零，则可以得到关于z问题的闭式解：
[0081]
[0082] 或者
[0083]
[0084] 其中， 代表求导算子，S(·)表示非线性收缩函数，本发明使用高斯径向基函数来近似收缩函数S(·)(J.P.Vert,K.Tsuda,and B.Scholkopf,“A primer on kernel methods,”Proc.Kernel Methods in Computational,pp.35–70,2004)。
[0085] 3-2-3)α-问题：
[0086]
[0087] 然后用梯度下降法来求解相应的乘子α：
[0088] α(k+1)＝α(k)+ρ(Dx(k+1)-z(k+1))
[0089] 第四步，训练模型并更新参数
[0090] 给定初始训练样本对 这里y(k)为第k个带噪图像， 为第k个真实图像，K表示样本的总个数。定义如下的损失函数：
[0091]
[0092] 其中T表示模型的迭代次数， 表示T次迭代后第k个图像的输出，表示待学习的模型参数即权重参数λt、惩罚参数ρt、
滤波系数Dt。为叙述方便起见，我们称依次求解x-问题、z-问题、α-问题为一次迭代过程。在参数固定的情况下，利用交替方向乘子法求解模型的过程也被称为ADMM solver。
滤波系数Dt。为叙述方便起见，我们称依次求解x-问题、z-问题、α-问题为一次迭代过程。在参数固定的情况下，利用交替方向乘子法求解模型的过程也被称为ADMM solver。
[0093] 接下来进行参数更新。首先，利用链式法则来计算损失函数关于参数Θt的梯度，即
[0094]
[0095] 然后利用LBFGS方法来计算梯度的下降方向(D.Liu and J.Nocedal,“On the limited memory bfgs method for largescale optimization,”Proc.Mathematical programming,vol.45,no.1-3,pp.503–528,1989)，最后利用梯度下降法来更新参数Θt。
[0096] 在参数Θ1,…,T固定的情况下，执行ADMM solver，之后固定变量 最小化损失函数计算参数的梯度，进而自动更新模型的参数。
[0097] 结合第三步和第四步，本发明提出的算法最终解释为一个双水平优化问题(bi-level optimization problem)：
[0098]
[0099] 其中，Θ1,…,T简记为Θ。下水平问题可以看作一个利用ADMM solver求解最优变量的过程(前向传播过程)，上水平问题建立了一个关于最优变量和真实图像 的损失函数，利用LBFGS方法并通过最小化损失函数来进
行参数的更新，得到最优参数Θ*(反向传播过程)。本发明通过迭代双水平优化过程，直至收敛到模型最优解。下面给出基于非参数化交替方向乘子法的图像去噪算法的具体求解过程：
行参数的更新，得到最优参数Θ*(反向传播过程)。本发明通过迭代双水平优化过程，直至收敛到模型最优解。下面给出基于非参数化交替方向乘子法的图像去噪算法的具体求解过程：
[0100] 4-1-1)给定K个初始带噪图像 噪声水平σ＝25，以及相应的真实值图像[0101] 为叙述方便，下面我们以一张图片为例，即K＝1。最大训练次数记为smax，最大迭代次数记为T；初始参数 初始的变量 均设置为0，这里Θ0表示第0次训练的参数， 和 表示第0次迭代，第0次训练的初始变量。
[0102] 4-1-2)利用ADMM solver依次求解 这里 表示第t次迭代第s次训练的图像。
[0103] 4-1-3)重复步骤4-1-2)直至t＝T+1停止，然后输出
[0104] 4-1-4)利用输出图像 计算相应的损失函数 然后利用反向传播技术更新相关的参数Θs，即首先，利用链式法则来计算损失函数关于参数Θs的梯度，然后利用LBFGS方法计算梯度的下降方向，最后利用梯度下降法来更新参数Θs。
[0105] 4-1-5)重复步骤4-1-2)、4-1-3)和4-1-4)，直至模型收敛或者s＝smax，停止，并输出最终的去噪图像。其中，最大训练次数为15，最大迭代次数设置为5。
[0106] 本实施例对一组数据的最终恢复结果及与其他方法的比较如图2所示，本发明采用常用的峰值信噪比(Peak Signal to Noise Ratio，PSNR)作为图像恢复的评判准则，峰值信噪比越大则说明图像恢复的效果越好。其中(a)图为噪声水平σ＝25的带噪图像，(b)图为KSVD方法得到的结果(M.Elad,B.Matalon,and M.Zibulevsky,“Image denoising withshrinkage and redundant repersentations,”in Proc.IEEE Conferenceon Computer Vision and Pattern Recognition(CVPR),2006,pp.1924–1931)；(c)图为FoE方法得到的结果(Q.Gao and S.Roth,“How well do filter-based mrfs model naturalimages？”in Proc.German Association for Pattern Recognition(DAGM),2012,pp.62–72)；(d)本发明所述方法的结果。