基于重参数因果卷积网络的通信信号调制识别方法与系统

摘要

力强，实现不同信道条件下自动调制分类的稳定本发明公开了一种基于重参数因果卷积网 有效性。络的通信信号调制识别方法与系统。所述方法包括：输入包括多种调制类型的调制信号样本即训练集；利用二维重参数因果卷积网络提取I/Q通道特征，采用全局平均池化层对二维重参数因果卷积提取的特征消除空间维度，再通过两个1x1卷积来获得细化的特征Fse，接着利用一维重参数因果卷积网络针对Fse进一步提取特征，在设定的信噪比和批处理大小下，根据损失函数进行模型训练，且训练过程中每个分支随机丢弃一部(56)对比文件杨洁;夏卉.基于卷积神经网络的通信信号调制识别研究.计算机测量与控制.2020,(07),全文.

权利要求

1.一种基于重参数因果卷积网络的通信信号调制识别方法，其特征在于，包括以下步骤：步骤S1，输入包括多种调制类型的调制信号样本，此为经过标注的训练集样本；

步骤S2，利用二维重参数因果卷积网络提取I/Q通道特征，采用全局平均池化层对二维重参数因果卷积提取的特征消除空间维度，再通过两个1x1卷积来获得细化的特征Fse，接着利用一维重参数因果卷积网络针对Fse进一步提取特征，在设定的信噪比和批处理大小下，根据损失函数进行模型训练，并且在训练过程中每个分支随机丢弃一部分输入单元，其中，二维重参数因果卷积网络和一维重参数因果卷积网络中的因果卷积表示如下：；

其中，F表示输入， 表示卷积， 是卷积核权重 的第 个元素，是时间索引，K表示内核大小；

细化的特征Fse通过以下计算得到：

；

；

其中，Ft为t时刻输入，T为总时间长度，GAP表示全局平均池化，Conv1和Conv2均为1x1卷积；

步骤S3，将待识别信号类型的调制信号输入训练好的模型，利用二维重参数因果卷积网络提取I/Q通道特征，采用全局平均池化层对二维重参数因果卷积提取的特征消除空间维度，再通过两个1x1卷积来获得细化的特征Fse，接着利用一维重参数因果卷积网络针对Fse进一步提取特征，对多个分支进行集成，经过全连接层实现分类。

2.根据权利要求1所述的基于重参数因果卷积网络的通信信号调制识别方法，其特征在于，步骤S2中，训练过程中输出的特征表示为：；

其中， 为训练过程输出的特征，F表示输入，Wm表示第m个卷积核权重，M为卷积核数量。

3.根据权利要求1所述的基于重参数因果卷积网络的通信信号调制识别方法，其特征在于，步骤S3中，应用阶段得到的输出表示为：；

其中， 为应用阶段输出的特征，F表示输入，Wm表示第m个卷积核权重，M为卷积核数量。

4.一种基于重参数因果卷积网络的通信信号调制识别系统，其特征在于，包括：模型训练模块，对于包括多种调制类型的调制信号样本的输入训练集，利用二维重参数因果卷积网络提取I/Q通道特征，采用全局平均池化层对二维重参数因果卷积提取的特征消除空间维度，再通过两个1x1卷积来获得细化的特征Fse，接着利用一维重参数因果卷积网络针对Fse进一步提取特征，在设定的信噪比和批处理大小下，根据损失函数进行模型训练，并且在训练过程中每个分支随机丢弃一部分输入单元，其中，二维重参数因果卷积网络和一维重参数因果卷积网络中的因果卷积表示如下：；

其中，F表示输入， 表示卷积， 是卷积核权重 的第 个元素，是时间索引，K表示内核大小；

细化的特征Fse通过以下计算得到：

；

；

其中，Ft为t时刻输入，T为总时间长度，GAP表示全局平均池化，Conv1和Conv2均为1x1卷积；

模型应用模块，将待识别信号类型的调制信号输入训练好的模型，利用二维重参数因果卷积网络提取I/Q通道特征，采用全局平均池化层对二维重参数因果卷积提取的特征消除空间维度，再通过两个1x1卷积来获得细化的特征Fse，接着利用一维重参数因果卷积网络针对Fse进一步提取特征，对多个分支进行集成，经过全连接层实现分类。

5.一种计算机设备，其特征在于，包括：

一个或多个处理器；

存储器；以及

一个或多个程序，其中所述一个或多个程序被存储在所述存储器中，并且被配置为由所述一个或多个处理器执行，所述程序被处理器执行时实现如权利要求1‑3中任一项所述的基于重参数因果卷积网络的通信信号调制识别方法的步骤。

6.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1‑3中任一项所述的基于重参数因果卷积网络的通信信号调制识别方法的步骤。

说明书

基于重参数因果卷积网络的通信信号调制识别方法与系统

技术领域

[0001] 本发明涉及信号处理领域，具体涉及一种通信信号的调制识别方法与系统。

背景技术

[0002] 自动调制分类（Automatic Modulation Classification，AMC）是现代无线通信中的一项关键技术，它在没有先验知识的情况下识别接收的调制信号，实现频谱监测和动态频谱接入等功能。然而，高维无线数据的爆炸性增长，使得利用传统算法进行精确地自动调制分类变得非常具有挑战性。深度学习（Deep Learning，DL）利用神经网络能够从原始无线数据中自动学习判别特征的能力，避免了对手动识别特征的依赖，提供了一种很有前途的解决方案。

[0003] DL方法从I/Q样本中提取有区别的空间和时间特征的能力非凡。然而，基于循环神经网络（Recurrent Neural Network，RNN）的方法对于边缘设备上的实时AMC来说是具有挑战性的，因为它们固有的递归性质阻碍了并行推理。而尽管基于卷积神经网络（Convolutional Neural Network，CNN）的方法提供了高并行性和部署便利性，但它们很难与基于RNN的技术的分类性能相匹配。近年来，因果卷积已成功地引入AMC任务，因为它将RNN的因果特性与CNN的高并行性相结合。然而，浅因果卷积的长期时间建模能力有限，简单地增加内核大小或膨胀会导致优化困难，而堆叠深因果卷积不可避免地会增加模型复杂性。存在对高性能的因果卷积网络的需求。

发明内容

[0004] 本发明的目的是为了克服现有技术的不足，提出一种基于重参数因果卷积网络的通信信号调制识别方法与系统，通过增强大内核因果卷积的特征提取能力，提高识别性能。

[0005] 为了达到上述目的，本发明采用如下的技术方案：

[0006] 一种基于重参数因果卷积网络的通信信号调制识别方法，包括以下步骤：

[0007] 步骤S1，输入包括多种调制类型的调制信号样本，此为经过标注的训练集样本；

[0008] 步骤S2，利用二维重参数因果卷积网络提取I/Q通道特征，采用全局平均池化层对二维重参数因果卷积提取的特征消除空间维度，再通过两个1x1卷积来获得细化的特征Fse，接着利用一维重参数因果卷积网络针对Fse进一步提取特征，在设定的信噪比和批处理大小下，根据损失函数进行模型训练，并且在训练过程中每个分支随机丢弃一部分输入单元；

[0009] 步骤S3，将待识别信号类型的调制信号输入训练好的模型，利用二维重参数因果卷积网络提取I/Q通道特征，采用全局平均池化层对二维重参数因果卷积提取的特征消除空间维度，再通过两个1x1卷积来获得细化的特征Fse，接着利用一维重参数因果卷积网络针对Fse进一步提取特征，对多个分支进行集成，经过全连接层实现分类。

[0010] 本发明还提供一种基于重参数因果卷积网络的通信信号调制识别系统，包括：

[0011] 模型训练模块，对于包括多种调制类型的调制信号样本的输入训练集，利用二维重参数因果卷积网络提取I/Q通道特征，采用全局平均池化层对二维重参数因果卷积提取的特征消除空间维度，再通过两个1x1卷积来获得细化的特征Fse，接着利用一维重参数因果卷积网络针对Fse进一步提取特征，在设定的信噪比和批处理大小下，根据损失函数进行模型训练，并且在训练过程中每个分支随机丢弃一部分输入单元；

[0012] 模型应用模块，将待识别信号类型的调制信号输入训练好的模型，利用二维重参数因果卷积网络提取I/Q通道特征，采用全局平均池化层对二维重参数因果卷积提取的特征消除空间维度，再通过两个1x1卷积来获得细化的特征Fse，接着利用一维重参数因果卷积网络针对Fse进一步提取特征，对多个分支进行集成，经过全连接层实现分类。

[0013] 本发明还提供一种计算机设备，包括：一个或多个处理器；存储器；以及一个或多个程序，其中所述一个或多个程序被存储在所述存储器中，并且被配置为由所述一个或多个处理器执行，所述程序被处理器执行时实现如上所述的基于重参数因果卷积网络的通信信号调制识别方法的步骤。

[0014] 本发明还提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上所述的基于重参数因果卷积网络的通信信号调制识别方法的步骤。

[0015] 本发明提供了一种基于重参数因果卷积网络的通信信号调制识别方法与系统，将SRP技术引入因果卷积，构建一个RepCasual模块（包括二维重参数因果卷积网络和一维重参数因果卷积网络），提高了模型的泛化能力；并采用瓶颈结构与通道注意机制用于特征细化，采用集成多样本丢弃技术以提高鲁棒性。本发明通过从特征泛化、特征多样性和特征鲁棒性三个方面增强了大内核因果卷积的特征提取能力。

附图说明

[0016] 图1为本发明所述的基于重参数化因果卷积网络的通信信号自动调制识别的实现方法示意图。

[0017] 图2为本发明所述的瓶颈结构示意图，其中（a）传统的三层卷积网络；（b）第二层瓶颈结构；（c）通道注意模块；（d）实现细节。

[0018] 图3为RepCasual以及多样本丢弃方法与RepCasual结合示意图。

[0019] 图4为测试结果混淆矩阵图。

[0020] 图5为利用数据集RadioML 2016.10a对所述网络架构RepCCNet与现有网络的精度进行比较的结果。

[0021] 图6为RepCCNet架构的消融实验研究结果。

具体实施方式

[0022] 下面结合附图对本发明的技术方案作进一步说明。

[0023] 图1示出了本发明的基于重参数化因果卷积网络的通信信号自动调制识别方法的示例实现过程，参照图1，所述方法的实现利用了RepCasual模块、瓶颈结构（Bottleneck Structure，BS）和多样本丢弃算法（Multi‑Sample Dropout，MD）三个主要创新技术，所述RepCasual模块是将神经网络架构结合了独特的连接模式和结构重新参数化（Structural Re‑Parameterization，SRP）技术，以实现更好的泛化。这里Rep指代Reparameterization，指通过结构重新参数化把多个分支合并成一个分支，减少计算量和参数量。所述瓶颈结构（BS）利用耦合通道注意力机制来动态校准丰富特征的通道。在不增加网络参数的情况下，保证了丰富的I/Q特征提取和足够大的感受野。所述多样本丢弃算法（MD）通过在模块上应用多个丢失，然后对结果进行平均，可以进一步提高算法的有效性，提高模型的鲁棒性。

[0024] 本发明提出的模型称为RepCCNet。该模型的构建方法具体包括如下步骤：

[0025] 步骤001，为了解决深度模型的多分支结构会导致超参数化，不利于实时计算的问题，因此将SRP技术引入因果卷积，构建一个RepCasual模块，它是包含一维（1D）和二维（2D）版本的RepCCNet的核心构建块。两个RepCasual模块版本具有相同的原理，而2D版本的目的是融合输入端的I/Q通道。它将I/Q通道视为空间维数，利用一个大小为（2，K）且具有有效填充（valid padding）的卷积核，通过二维因果卷积对I/Q信息进行积分。

[0026] 这里以1D RepCasual为例，所述重参数因果卷积具体操作如下：

[0027] 给定一个模块输入F，一维因果卷积表示如下：

[0028] ；

[0029] 其中 表示卷积， 是卷积核权重 的第 个元素，是时间索引。K表示内核大小。

[0030] 推导出卷积的线性性质：

[0031] ；

[0032] 用 个不同的卷积核 ，来训练分支 的卷积，获取训练时间输出：

[0033] ；

[0034] 通过求和对卷积核进行聚合，以获得测试期间的测试时间输出 ：

[0035] ；

[0036] 二维因果卷积和一维因果卷积二者实际公用表达式。因为二维RepCasual的另一个维度的卷积尺寸为2，和第二维度一样尺寸，又因为采用了valid padding，因此并没有第二个维度的卷积滑窗过程。

[0037] 多分支训练导致过参数化，过参数化有利于收敛。因此，深度模型的过参数化特性提高了泛化能力，多分支结构自然就会导致过参数化。

[0038] 步骤002，设计了一种瓶颈结构BS，在不增加网络参数的情况下，保证了丰富的I/Q特征提取和足够大的感受野。

[0039] 卷积层的参数数量P和浮点运算量（FLOPs）C可以计算为：

[0040] ；

[0041] 其中K表示内核大小，Cin是输入通道数，Cout是输出通道数，S表示输入大小。

[0042] 对于传统的三层卷积网络，如图2中的（a）所示，参数数量为19008，并且感受野跨越25个单元。如图2中的（b）所示，引入瓶颈结构BS导致减少了17664的参数量，保留了感受野25。因此，瓶颈结构在保证第一层中有足够的卷积信道的同时有效地减少了参数数量。此外，我们利用通道注意模块挤压和激励（Squeeze‑and‑Excitation，SE）来细化这些丰富的通道F。如图2中的（c）所示，SE模块采用全局平均池化（Global Average Pooling，GAP）层来消除空间维度，并采用两个1D卷积来获得细化的特征Fse，图2中的(d)为实现细节。SE模块的数学形式表示如下：

[0043] ；

[0044] T为总时间长度，Conv1和Conv2均为1x1卷积，GAP表示全局平均池化。

[0045] 步骤003，将MD技术集成到RepCasual模块。

[0046] 在训练过程中，为RepCasual分支的每个输入合并了一个丢弃层，随机丢弃当前分支中的一部分输入单元。相反，在测试阶段对卷积核采用SRP技术后，去除所有丢弃层。如图3所示，其中（a）和（b）分别示出了原始RepCasual和集成了MD的处理过程。在训练阶段，原始RepCasual中三个分支的所有输入单元都被保留，而在采用MD后，每个分支中的一部分随机输入被设置为零。在测试阶段，使用结构重新参数化技术对多个分支进行集成，并直接去除MD层。这种集成使网络能够更好地泛化，并提高其在AMC任务中的性能。

[0047] 步骤004，以测试集作为重参数化因果卷积网络的输入，验证所述网络的识别性能。

[0048] 基于所提出的模型，进行模型的训练进而实现通信信号调制识别的方法包括以下步骤：

[0049] 步骤S1，输入包括多种调制类型的调制信号样本，此为经过标注的训练集样本；

[0050] 步骤S2，利用二维重参数因果卷积网络提取I/Q通道特征，采用全局平均池化层对二维重参数因果卷积提取的特征消除空间维度，再通过两个1x1卷积来获得细化的特征Fse，接着利用一维重参数因果卷积网络针对Fse进一步提取特征，在设定的信噪比和批处理大小下，根据损失函数进行模型训练，并且在训练过程中每个分支随机丢弃一部分输入单元；

[0051] 步骤S4，将待识别信号类型的调制信号输入训练好的模型，利用二维重参数因果卷积网络提取I/Q通道特征，采用全局平均池化层对二维重参数因果卷积提取的特征消除空间维度，再通过两个1x1卷积来获得细化的特征Fse，接着利用一维重参数因果卷积网络针对Fse进一步提取特征，对多个分支进行集成，经过全连接层实现分类。

[0052] 本发明提出的模型称为RepCCNet。在本发明实施例中，利用RadioML 2016.10a数据集验证RepCCNet的识别性能。RadioML 2016.10a包括11种调制类型（8种数字和3种模拟），具有不同的信噪比（Signal to Noise Ratio，SNR）。每个调制类别包括1000个调制信号样本。该数据集是为了模拟真实的通信场景而设计的，包括中心频率偏移、采样率偏移、加性高斯白噪声、多径、衰落等随机过程。

[0053] 仿真实例中方法包含以下步骤：

[0054] 步骤S001，在PyTorch 1.12.1中实现构建本发明所述RepCasual网络架构；

[0055] 步骤S002，随机选取60%的I/Q数据样本作为“训练集”，20%的I/Q数据样本作为“有效集”，其余样本作为“测试集”；

[0056] 步骤S003，设置信噪比范围为‑20 dB至18 dB；

[0057] 步骤S004，使用AdamW优化器对网络进行200个阶段的训练，将AdamW优化器的权重‑4衰减为10 ，批处理大小为400。

[0058] 步骤S005，使用一个阶跃学习率衰减计划，初始学习率从0.01开始，如果验证损失在八个时段内没有减少，学习率将减半。利用分类交叉熵计算训练损失。

[0059] 步骤S006，模型从无到有地进行端到端的训练，无需任何预训练。在NVIDIA GTX 3080 GPU上执行训练。

[0060] 步骤S007，评价准则：所述深度学习模型对通信信号调制模式识别的精度：

[0061] 结合图4，混淆矩阵的行和列分别表示实际标签和预测标签。沿对角线的较高值表示准确分类，而非对角线值表示调制类型之间的混淆。大多数调制类型的精度达到90%以上。BPSK、QPSK和WBFM的精度最高，分别为98.9%、97.8%和96.4%。混淆矩阵定量地显示了RepCCNet在11个调制中的分类能力。高对角线值证实了网络有效区分RadioML数据集中大多数调制类型的能力。

[0062] 结合图5，在不同的SNR水平上将RepCCNet的分类精度与其他几种调制分类方法进行了比较。这些模型包括两种CNN类型、三种RNN类型和三种混合类型，其中MCLDNN具有最好的分类精度。结果表明，RepCCNet具有良好的噪声鲁棒性，即使在低信噪比至‑5 dB时仍能保持较高的精度。与其他方法的差距在‑5 dB到10 dB的信噪比范围内最为突出，其中RepCCNet的性能优于以下最佳方法5%以上。在0 dB以下的低信噪比下，所有方法的性能都会下降，但RepCCNet仍能达到20%‑40%的最高精度。随着信噪比的增加，RepCCNet的准确率稳步提高，在0 dB信噪比下超过80%，在10 dB信噪比下超过90%，在10 dB时超过93.3%。相比之下，其他方法稳定在80%‑90%左右。这证明了RepCCNet在不同信道条件下自动调制分类的稳定有效性。

[0063] 结合图6，分析了不同RepCCNet组件的影响。去除结构重参数化（w/o SRP）会导致10 dB SNR以下的性能显著下降，显示出其对噪声鲁棒性的贡献。在5 dB‑15 dB范围内，去除多样本丢弃（w/o MD）会使精度降低6%，这突出了它在提高泛化能力方面的作用。去除瓶颈模块（w/o BS）性能略有下降。图6中的w/o是without的缩写，表示去除了该部分。总的来说，RepCCNet架构中的每一部分，在所有信噪比水平上都能产生出色的分类精度。

[0064] 结合表1，比较了所有方法的参数数量和FLOPs。所述RepCCNet架构具有最小的模型尺寸，只有35.9K个参数。相比之下，次优分类算法MCLDNN有402K个参数。此外，所述RepCCNet架构在FLOPs方面紧跟MCNet。

[0065] 表1模型复杂度对比

[0066]

[0067] 综上所述，本发明提供了一种基于重参数化因果卷积网络的通信信号自动调制识别的方法，此技术可用于通信信号中的调制识别领域。可实现RadioML 2016.10a数据集中包括11种调制类型（8种数字和3种模拟）的调制分类。

[0068] 本发明还提供一种基于重参数因果卷积网络的通信信号调制识别系统，包括：

[0069] 模型训练模块，对于包括多种调制类型的调制信号样本的输入训练集，利用二维重参数因果卷积网络提取I/Q通道特征，采用全局平均池化层对二维重参数因果卷积提取的特征消除空间维度，再通过两个1x1卷积来获得细化的特征Fse，接着利用一维重参数因果卷积网络针对Fse进一步提取特征，在设定的信噪比和批处理大小下，根据损失函数进行模型训练，并且在训练过程中每个分支随机丢弃一部分输入单元；

[0070] 模型应用模块，将待识别信号类型的调制信号输入训练好的模型，利用二维重参数因果卷积网络提取I/Q通道特征，采用全局平均池化层对二维重参数因果卷积提取的特征消除空间维度，再通过两个1x1卷积来获得细化的特征Fse，接着利用一维重参数因果卷积网络针对Fse进一步提取特征，对多个分支进行集成，经过全连接层实现分类。

[0071] 本发明还提供一种计算机设备，包括：一个或多个处理器；存储器；以及一个或多个程序，其中所述一个或多个程序被存储在所述存储器中，并且被配置为由所述一个或多个处理器执行，所述程序被处理器执行时实现如上所述的基于双频回波信号差异的水下目标识别方法的步骤。

[0072] 本发明还提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上所述的基于双频回波信号差异的水下目标识别方法的步骤。

[0073] 本发明提供了一种基于重参数化因果卷积网络的通信信号自动调制识别方法的思路，具体实现该技术方案的方法和途径很多，以上所述仅是本发明的优选实施方式。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。本实施例中未明确的各组成部分均可用现有技术加以实现。