一种基于深度学习去噪的近似信息传递算法改进方法

摘要

本发明公开了一种基于深度学习去噪的近似信息传递算法改进方法，将噪声分为多个等级并优化去噪模型的结构，使其能够更好地去除每一级的噪声，而后将训练好去噪模型代入LDAMP中对压缩感知的图像测量值进行迭代恢复。在迭代过程中，更加细致的噪声等级增强了每次迭代中的噪声图像与去噪模型的匹配度，同时更加完善的去噪模型也使得噪声图像的恢复效果得到了进一步的提升。在图像采样率较低的情况下，本发明方法更加细致的噪声分层与优化后的去噪模型，为图像的预处理提供了更加精致准确的选择。本发明对所提出的LDAMP增强方法，在相同采样率下，较之原始的LDAMP，可以显著提升基于压缩感知的图像恢复质量。

权利要求

1.一种基于深度学习去噪的近似信息传递算法改进方法，其特征在于，对噪声等级进行精细分层，利用优化后的去噪模型对每一层级的噪声进行学习训练，然后将训练好的去噪模型替代LDAMP方法中的去噪模型，再按LDAMP中的迭代策略进行迭代，最终得到测量值的重建图像。

2.根据权利要求1所述的改进方法，其特征在于，包括以下步骤：S1、噪声细致分层，以噪声标准差为分层依据将噪声分为17层；

S2、定义去噪模型的结构；

S3、以高清数据集DIV2K，IMAGENET，BSD500，Urben100的灰度图为数据集，以其缩放，裁剪图为基准图制备训练集；

S4、独立训练每个噪声等级范围内的去噪模型；

S5、训练过程中采取Adam优化器，训练过程中不断下调学习率；

S6、按照以上设置训练epoch达到收敛，保存模型，待去噪模型训练完毕后植入LDAMP框架中，进行整体方法的迭代去噪，得到测量值的重建图像。

3.根据权利要求2所述的改进方法，其特征在于，步骤S2中，去噪模型包括9个残差块和

20层卷积层，卷积层均使用5*5的卷积核尺寸，每个卷积层的通道数均为64。

4.根据权利要求2所述的改进方法，其特征在于，步骤S3中，按不同的噪声等级产生对应范围的标准差以生成均值为0，标准差为噪声等级范围内的随机高斯矩阵，以基准图与高斯矩阵对应相加产生相应的训练集进行批量训练。

5.根据权利要求2所述的改进方法，其特征在于，步骤S4中，设制作的基准图为去噪目标Ir，基准图与高斯矩阵的叠加为去噪的目标In，构成图像对对去噪模型进行迭代训练，计算梯度并回传调整模型参数lossMSE。

6.根据权利要求5所述的改进方法，其特征在于，训练过程中采用均方误差作为损失函数，计算去噪模型去噪后的图像与其对应的目标图像间的像素的均方误差，计算梯度并回传调整模型参数lossMSE如下：lossMSE＝MSE(Ir,In)。

7.根据权利要求2所述的改进方法，其特征在于，步骤S5中，设0.0001的学习率作为初始值，每经过20个epoch，学习率下降为原来的三分之一，训练集采用随机裁剪训练集为

192*192大小的灰度基准图，每个基准图送入网络前归一化至-1至+1范围内，训练batch大小选为16。

8.根据权利要求2所述的改进方法，其特征在于，步骤S6中，在LDAMP框架中的去噪迭代次数为15次，并在每层迭代后判断是否需要进行下一次迭代，若相邻两次迭代图像提升未达到设定的最低阈值或出现上下波动，则提前退出迭代。

9.根据权利要求8所述的改进方法，其特征在于，LDAMP迭代中，第t层的相关参数计算函数 计算如下：其中， b＝rand(1,n)， 为去噪模型，AH为测量矩阵的转置，A为测量矩阵，xt为第t-1层的重建数据向量，n为图像的整体像素数，zt为第t-1层的计算中间量，σt为第t层的估算标准差。

10.根据权利要求9所述的改进方法，其特征在于，第t-1层的计算中间量zt计算如下：第t层的估算标准差σt计算如下：

其中，y为测量值，m为测量值的个数。

说明书

一种基于深度学习去噪的近似信息传递算法改进方法

技术领域

[0001] 本发明属于图像压缩技术领域，具体涉及一种通过噪声细致分层与去噪模型优化来对基于深度学习去噪的近似信息传递算法LDAMP进行增强的方法。

背景技术

[0002] 压缩感知技术是指将信号或者图像在低于奈奎斯特采样率的情况下重建的技术，其在图像处理，图像检索，CT图像重建等领域有广泛的应用。而峰值信噪比(PSNR)是评判图像质量的重要指标，在图像压缩感知领域中，相同采样率下的图像恢复的PSNR越高，代表着图像恢复的越清晰，压缩算法的性能越好。在传输图像过程中受硬件，传输带宽以及外部环境的影响与限制，图像接收端获取的采样信息较少，从而产生如何从低采样率的信息中获取高质量图像的问题。

[0003] 在图像压缩感知领域，传统的压缩感知恢复算法有TVAL3，BM3D-AMP，NLRCS等，随着计算机硬件设备的发展，大规模运算加速的成本显著降低，深度神经网络与传统图像压缩感知恢复问题的结合，也使得图像压缩感知领域有了新的突破。Learned D-AMP是深度神经网络与传统图像压缩感知恢复问题结合的标杆性算法，通过使用人为添加的不同高斯噪声的图像训练集进行训练，从而获得不同噪声等级下的去噪模型，进而结合LDAMP算法对低采样率的图像信息进行图像恢复。但无论是传统算法还是传统算法与深度学习相结合的算法，较之传统图像编码技术，在率失真性能上有较大差距，所以如何在低采样率下获得更高视觉质量的图像有着重要的意义和价值。

发明内容

[0004] 本发明所要解决的技术问题在于针对上述现有技术中的不足，提供一种基于深度学习去噪的近似信息传递算法改进方法，提升LDAMP算法的性能，更好的恢复低采样率下的图像数据。

[0005] 本发明采用以下技术方案：

[0006] 一种基于深度学习去噪的近似信息传递算法改进方法，对噪声等级进行精细分层，利用优化后的去噪模型对每一层级的噪声进行学习训练，然后将训练好的去噪模型替代LDAMP方法中的去噪模型，再按LDAMP中的迭代策略进行迭代，最终得到测量值的重建图像。

[0007] 具体的，包括以下步骤：

[0008] S1、噪声细致分层，以噪声标准差为分层依据将噪声分为17层；

[0009] S2、定义去噪模型的结构；

[0010] S3、以高清数据集DIV2K，IMAGENET，BSD500，Urben100的灰度图为数据集，以其缩放，裁剪图为基准图制备训练集；

[0011] S4、独立训练每个噪声等级范围内的去噪模型；

[0012] S5、训练过程中采取Adam优化器，训练过程中不断下调学习率；

[0013] S6、按照以上设置训练epoch达到收敛，保存模型，待去噪模型训练完毕后植入LDAMP框架中，进行整体方法的迭代去噪，得到测量值的重建图像。

[0014] 进一步的，步骤S2中，去噪模型包括9个残差块和20层卷积层，卷积层均使用5*5的卷积核尺寸，每个卷积层的通道数均为64。

[0015] 进一步的，步骤S3中，按不同的噪声等级产生对应范围的标准差以生成均值为0，标准差为噪声等级范围内的随机高斯矩阵，以基准图与高斯矩阵对应相加产生相应的训练集进行批量训练。

[0016] 进一步的，步骤S4中，设制作的基准图为去噪目标Ir，基准图与高斯矩阵的叠加为去噪的目标In，构成图像对对去噪模型进行迭代训练，计算梯度并回传调整模型参数lossMSE。

[0017] 更进一步的，训练过程中采用均方误差作为损失函数，计算去噪模型去噪后的图像与其对应的目标图像间的像素的均方误差，计算梯度并回传调整模型参数lossMSE如下：

[0018] lossMSE＝MSE(Ir,In)。

[0019]

[0020] 进一步的，步骤S5中，设0.0001的学习率作为初始值，每经过20个epoch，学习率下降为原来的三分之一，训练集采用随机裁剪训练集为192*192大小的灰度基准图，每个基准图送入网络前归一化至-1至+1范围内，训练batch大小选为16。

[0021] 进一步的，步骤S6中，在LDAMP框架中的去噪迭代次数为15次，并在每层迭代后判断是否需要进行下一次迭代，若相邻两次迭代图像提升未达到设定的最低阈值或出现上下波动，则提前退出迭代。

[0022] 更进一步的，LDAMP迭代中，第t层的相关参数计算函数 计算如下：

[0023]

[0024] 其中， b＝rand(1,n)， 为去噪模型，AH为测量矩阵的转置，A为测量矩阵，xt为第t-1层的重建数据向量，n为图像的整体像素数，zt为第t-1层的计算中间量，σt为第t层的估算标准差。

[0025] 更进一步的，第t-1层的计算中间量zt计算如下：

[0026]

[0027] 第t层的估算标准差σt计算如下：

[0028]

[0029] 其中，y为测量值，m为测量值的个数。

[0030] 与现有技术相比，本发明至少具有以下有益效果：

[0031] 本发明提供了一种基于深度学习去噪的近似信息传递算法LDAMP增强方法，针对压缩感知低采样率的图像恢复问题。相对于LDAMP，本发明设计了更加细致的噪声等级并优化了去噪模型，在同等高斯噪声下较之LDAMP当中应用的DnCNN去噪有着更好的去噪效果，若在图像采样率较低，采样前选取适当的噪声模型对图像进行预处理后再做测量，其重建效果相较于未做预处理的测量重建效果会有着明显提升，而更加细致的噪声分层与优化后的去噪模型，为图像的预处理提供了更加精致准确的选择，本发明中的方法更加优秀的恢复效果在图像的预处理后的测量亦得到了全面的体现。

[0032] 进一步的，在LDAMP迭代过程中，将噪声分为17层，更加细致的噪声等级增强了每次迭代中的噪声图像与去噪模型的匹配度，同时更加完善的去噪模型也使得噪声图像的恢复效果得到了进一步的提升。

[0033] 进一步的，去噪模型结构的完善与优化，使得去噪模型能够更加强力地去除同等噪声等级的图像，重建图像的质量得到了更好的提升。

[0034] 进一步的，以高清数据集DIV2K，IMAGENET，BSD500，Urben100的灰度图为数据集，以其缩放，裁剪图为基准图制备训练集，可以扩大模型的适用性，避免只针对小部分特殊图像具备去噪效果，且使用随机裁剪图为基准图，扩大了训练集，避免了模型过拟合的可能性。

[0035] 进一步的，独立训练每个噪声等级范围内的去噪模型，使得每个去噪模型的任务单一，能够更加准确的对相应范围内的噪声进行去噪，同时独立的训练，可使得每个模型的训练不依赖其他模型，能够进行多模型并行训练。

[0036] 进一步的，训练过程中采取的Adam优化器，简单高效，且能够自适应调节步长。训练过程中不断下调学习率，能够减少训练出现的波动，同时也加快了模型的收敛速度。

[0037] 进一步的，将训练模型植入LDAMP原有框架，利用其原有框架的迭代重建的高效算法充分发挥优化后模型的去噪性能，相较于原始的LDAMP算法，能够在相同采样率下的测量数据恢复中，得到显著的重建质量提升。

[0038] 综上所述，本发明通过噪声的细致分层以及去噪模型结构的优化的方法有效增强了原有的LDAMP算法，通过更加细致的迭代过程避免了多余的迭代次数，避免了冗余的计算时间。

[0039] 下面通过附图和实施例，对本发明的技术方案做进一步的详细描述。

附图说明

[0040] 图1为LDAMP迭代结构图(单层)；

[0041] 图2为优化后的去噪模型的结构图；

[0042] 图3是本发明采用的两幅测试图像Lena与Monarch，其中(a)是Lena，(b)是Monarch；

[0043] 图4给出了Lena采样率为5％的情况下，本发明的重建图像与其他方法的重建图像的视觉质量对比。其中(a)是原始图像，(b)是NLRCS重建图像，(c)是LDAMP重建图像，(d)是E-LDAMP(本发明)重建图像；

[0044] 图5给出了Lena与Monarch图像采样率为2％，5％，10％，20％的情况下，本发明的重建图像与其他方法的重建图像的PSNR指标对比。其中(a)是Lena，(b)是Monarch；

[0045] 图6给出了Lena与Monarch未经处理的原图与经过最优预处理模型后的图像采样率为2％，5％，10％，的情况下，本发明的重建图像与LDAMP的重建图像的PSNR指标对比。其中(a)是Lena，(b)是Monarch。

具体实施方式

[0046] 本发明提供了一种基于深度学习去噪的近似信息传递算法(LDAMP)的增强方法，首先通过对噪声等级的细致分层，利用优化后的去噪模型对每一层级的噪声进行充分的学习训练，然后将训练好的去噪模型替代LDAMP方法中的去噪模型，再按DAMP中的迭代策略进行迭代，最终得到测量值的重建图像，并且实现较之LDAMP相同采样率下重建图像质量的显著提升。由实验环节也可看出本方案的有效性。为解决现实中有条件限制情况下的压缩感知图像低采样率下的高质量恢复提供有效思路。

[0047] 请参阅图1，本发明一种基于深度学习去噪的近似信息传递算法(LDAMP)的增强方法，包括以下步骤：

[0048] S1、噪声细致分层，将噪声分为17层(原LDAMP噪声分为10层)，以噪声标准差为分层依据，1-17层的分层范围见下表；

[0049] 表1

[0050]

[0051]

[0052] S2、定义去噪模型的结构；

[0053] 本发明使用一个共有9个残差块，20层卷积层的结构，其中，卷积层均使用5*5的卷积核尺寸，每个卷积层的通道数均为64，相较于原始的LDAMP的去噪模型DnCNN，本发明中采取的去噪模型增添了众多残差块结构，去掉了BN层，结构示意图见图2。

[0054] S3、制备训练集

[0055] 以高清数据集DIV2K，IMAGENET(部分)，BSD500，Urben100的灰度图为数据集，以其缩放，裁剪图为基准图。

[0056] 在训练过程中，按不同的噪声等级产生对应范围的标准差以生成均值为0，标准差为噪声等级范围内的随机高斯矩阵(作为噪声)，以基准图与高斯矩阵对应相加产生相应的训练集进行批量训练。

[0057] S4、独立训练每个噪声等级范围内的去噪模型；

[0058] 设制作的基准图为去噪目标Ir，基准图与高斯矩阵的叠加为去噪的目标In，通过这样的方式构成图像对，对去噪模型进行迭代训练，训练过程中采用均方误差(MSE)作为损失函数，计算去噪模型去噪后的图像与其对应的目标图像间的像素的均方误差，计算梯度并回传调整模型参数lossMSE如下：

[0059] lossMSE＝MSE(Ir,In)

[0060] S5、训练过程中采取Adam优化器，并设0.0001的学习率作为初始值，每经过20个epoch(一个epoch是指图像库中所有的图像数据都训练过一遍算作一个epoch，所有数据包含2万张左右)，学习率下降为原来的三分之一，训练集采用随机裁剪训练集为192*192大小的灰度基准图，每个基准图送入网络前归一化至-1至+1范围内，训练batch大小选为16。

[0061] S6、按照以上设置训练100个epoch达到收敛，保存模型。17个去噪模型训练完毕后，将其植入LDAMP框架中，进行整体方法的迭代去噪；

[0062] LDAMP的具体迭代流程参照图1，相关计算迭代公式如下：

[0063]

[0064]

[0065]

[0066]

[0067] b＝rand(1,n)   (5)

[0068]

[0069] 其中，y为测量值，m为测量值的个数，n为图像的整体像素数，xt为第t-1层的重建数据向量，尺寸为(n,1)，亦为第t层的输入，其初始值为全零向量。A为测量矩阵，AH为测量矩阵的转置，zt为第t-1层的计算中间量，与测量值尺寸相同，初始值为测量值y， 代表去噪模型，其具体结构见图1，σt为第t层的估算标准差，用以参照选择对应去噪模型， 为第t层的相关参数计算函数。

[0070] 由于噪声层数的增多(共17个噪声等级)，ELDAMP的去噪迭代次数更改为15次，并在每层迭代后判断是否需要进行下一次迭代，若达到相关条件(相邻两次迭代图像提升未达到设定的最低阈值或出现上下波动)，则提前退出迭代。

[0071] 为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。通常在此处附图中的描述和所示的本发明实施例的组件可以通过各种不同的配置来布置和设计。因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

[0072] A、对比实验方案

[0073] 将优化后的去噪模型在每一个噪声等级中训练完毕并代入LDAMP框架后，分别做以下两组对比试验，并以对比实验的方式证明本方法的有效性。

[0074] 实验一

[0075] 本发明方法与NLRCS以及LDAMP两种压缩感知恢复方法，在相同采样率下(2％，5％，10％，20％)，图像重建质量对比。

[0076] 实验二

[0077] 本发明方法与LDAMP在各自最优预处理模型处理后的相同采样率下(2％，5％，10％)，图像重建质量对比。

[0078] B、实验条件

[0079] 1、去噪模型训练使用的数据库

[0080] 以高清数据集DIV2K，IMAGENET(部分)，BSD500，Urben100的灰度图为数据集，以其缩放，裁剪图为基准图。在训练过程中，按不同的噪声等级产生对应范围的标准差以生成均值为0，标准差为噪声等级范围内的随机高斯矩阵(作为噪声)，以基准图与高斯矩阵对应相加产生相应的训练集进行批量训练。

[0081] 2、去噪模型训练的参数设置

[0082] 去噪模型训练采用Adam优化器，初始学习率设为0.0001，训练周期为100个epoch(训练数据全部过一遍是一个epoch)，每训练20个epoch学习率降为原学习率的三分之一。训练集采用随机裁剪训练集为192*192大小的灰度基准图，每个基准图送入网络前归一化至-1至+1范围内，训练batch大小选为16。

[0083] 3、对比实验中，测试图像为两幅8比特位深256*256大小图像，如图3所示，并以峰值信噪比(PSNR：Peak Signal to Noise Ratio)作为重建图像质量评价标准。实验一中，采取NLRCS以及LDAMP与本发明方法作为对比，实验二中，采取LDAMP与本发明方法在各自最优模型处理后的相同采样率下的图像恢复质量对比。

[0084] C、实验结果与分析

[0085] 表2给出了实验一中Lena与Monarch在采样率2％，5％，10％，20％下各个不同方法的图像重建质量指标

[0086] 表2

[0087]

[0088]

[0089] 表2中ELDAMP表示本发明；可以看出，本发明的重建图像PSNR，在相同采样率下，显著高于NLRCS与原始的LDAMP方法，在各个采样率下，均要比原始的LDAMP高出1dB左右(Monarch在2％采样率下高出3dB)，图4给出了5％采样率下，三种方法的图像重建效果与原图的比较，可以看出本发明的图像重建的视觉效果显著高于NLRCS与LDAMP在相同采样率下的图像重建的视觉效果。图3给出了表2数据的折线图展现。

[0090] 表3

[0091]

[0092] 表3给出了实验二中Lena与Monarch经过LDAMP与本发明方法各自最优预处理模型处理后，于采样率2％，5％，10％下两种恢复方法的图像重建质量指标以及未经过预处理模型处理直接采样恢复的图像重建质量指标，可以看出经预处理后采样，均可比原方法提高2dB左右，本发明在图像经过预处理测量后较之原始LDAMP经过预处理测量后的图像恢复质量亦有显著提升，在三种采样率下均能提升1～2dB，(Monarch在2％采样率下高出4dB)。

[0093] 以上内容仅为说明本发明的技术思想，不能以此限定本发明的保护范围，凡是按照本发明提出的技术思想，在技术方案基础上所做的任何改动，均落入本发明权利要求书的保护范围之内。