一种基于混合预编码和信道估计的联合设计方法和装置

摘要

本发明公开了一种基于混合预编码和信道估计的联合设计方法和装置，其中，该方法包括：获取多用户毫米波MIMO系统不同信噪比的训练数据；构建深度展开网络，其中，所述深度展开网络包括与大规模毫米波多输入多输出MIMO系统的收发机对应的多个子网络；将所述训练数据输入到所述深度展开网络进行两阶段的联合训练，获得训练好的网络优化参数；其中，所述两阶段的联合训练是基于双时间尺度设计的，目标损失函数包括系统和速率，训练参数更新方法包括随机梯度下降法；基于所述训练好的网络优化参数，执行数据传输任务。本发明可以降低信令开销，提高系统的鲁棒性，降低计算复杂度。

权利要求

1.一种基于混合预编码和信道估计的联合设计方法，其特征在于，包括以下步骤：获取多用户毫米波MIMO系统不同信噪比的训练数据；

构建深度展开网络，其中，所述深度展开网络包括与大规模毫米波多输入多输出MIMO系统的收发机对应的多个子网络；

将所述训练数据输入到所述深度展开网络进行两阶段的联合训练，获得训练好的网络优化参数；其中，所述两阶段的联合训练是基于双时间尺度设计的，目标损失函数包括系统和速率，训练参数更新方法包括随机梯度下降法；

基于所述训练好的网络优化参数，执行数据传输任务。

2.根据权利要求1所述的方法，其特征在于，所述获取多用户毫米波MIMO系统不同信噪比的训练数据，包括：建立窄带毫米波信道模型，所述窄带毫米波信道模型包含Ncl个簇，所述每个簇包含Nray条传播路径，信道矩阵表示形式包括：其中，Nt为发送天线数量，Nr为接收天线数量， 为第i簇中第l条路径的复增益， 和 分别表示接收端和发送端的到达角和发送角， 和 分别表示接收和发送导向矢量，对于一个包含N根天线的线性阵列和角度φ，导向矢量写作：其中，d和λ分别表示相邻天线之间的距离和载波的波长；

利用所述窄带毫米波信道模型，根据统计具有特定分布的信道和噪声的特性生成信道样本和噪声样本，并根据所述信道样本和所述噪声样本生成所述训练数据。

3.根据权利要求2所述的方法，其特征在于，所述多个子网络，包括：接收端的信道估计子网络，以及发送端的导频设计子网络和混合预编码子网络，其中，所述接收端的信道估计子网络是基于递归最小二乘算法进行深度展开，所述混合预编码子网络是基于随机逐次凸逼近算法进行深度展开的，包括模拟编码网络和数字编码网络。

4.根据权利要求3所述的方法，其特征在于，所述双时间尺度，包括：根据信道统计特性将时间轴划分多个帧；

将所述帧逐个划分为预设数量的时隙；

根据所述帧的结构确定长时间尺度，并根据所述时隙确定短时间尺度。

5.根据权利要求4所述的方法，其特征在于，所述两阶段的联合训练包括第一训练阶段和第二训练阶段，其中，所述第一训练阶段用于训练长时间尺度深度展开网络，所述长时间尺度深度展开网络包括所述混合预编码子网络，包括以下步骤：将所述信道样本输入到所述模拟编码网络，输出模拟编码器；

根据所述模拟编码器获得等效信道矩阵；

将所述等效信道矩阵输入到数字编码网络，输出第一数字编码器；

执行网络反向传播过程，其中，损失函数采用系统和速率的形式，使用随机梯度下降算法更新网络参数。

6.根据权利要求5所述的方法，其特征在于，所述第二训练阶段，用于训练短时间尺度深度展开网络，所述短时间尺度深度展开网络包括所述混合预编码子网络、所述导频设计子网络和所述信道估计子网络，包括以下步骤：固定所述第一训练阶段训练好的模拟编码器，并将所述信道样本输入到所述第一训练阶段的模拟编码网络得到待估计的等效信道矩阵；

将所述待估计的等效信道矩阵输入到所述导频设计子网络，并结合所述噪声样本，输出导频信号；

将所述导频信号输入到信道估计子网络，输出估计的等效信道矩阵；

将所述估计的等效信道矩阵输入到所述数字编码网络，输出第二数字编码器；

执行网络反向传播过程，其中，损失函数采用系统和速率的形式，使用随机梯度下降算法更新网络参数。

7.根据权利要求4所述的方法，其特征在于，所述混合预编码子网络是基于随机逐次凸逼近算法进行深度展开的，包括：+

引入可训练参数B，并取矩阵A对角线元素的倒数，并将其他非对角线元素设置为0，用A+表示，采用结构AB；

‑

引入偏置训练参数复数矩阵D，并将其对角线元素的虚部设为0，用D表示；

+ ‑ ‑

采用AB+D的结构来近似求逆矩阵A。

8.根据权利要求4所述的方法，其特征在于，所述信道估计子网络是基于递归最小二乘算法进行深度展开，包括：在网络的每一层中采用以下结构：

其中 表示输入和输出， 表示引入的乘子训练参数和偏置训练参数。

9.根据权利要求6所述的方法，其特征在于，所述执行数据传输任务，包括：所述信道统计特性保持不变的情况下，固定在训练阶段优化好的所述模拟编码器；

所述信道统计特性发生改变的情况下，在每个所述帧的第一个所述时隙，获取信道样本来微调所述模拟编码网络，优化所述模拟编码器。

10.一种基于混合预编码和信道估计的联合设计装置，其特征在于，包括：获取模块，用于获取多用户毫米波MIMO系统不同信噪比的训练数据；

构建模块，用于构建深度展开网络，其中，所述深度展开网络包括与大规模毫米波多输入多输出MIMO系统的收发机对应的多个子网络；

训练模块，用于将所述训练数据输入到所述深度展开网络进行两阶段的联合训练，获得训练好的网络优化参数；其中，所述两阶段的联合训练是基于双时间尺度设计的，目标损失函数包括系统和速率，训练参数更新方法包括随机梯度下降法；

传输模块，用于基于所述训练好的网络优化参数，执行数据传输任务。

说明书

一种基于混合预编码和信道估计的联合设计方法和装置

技术领域

[0001] 本发明涉及无线通信技术领域，尤其涉及一种基于混合预编码和信道估计的联合设计方法和装置。

背景技术

[0002] 由于大规模空间多路复用增益和高度定向波束成形，大规模多输入多输出天线(MIMO)系统已经成为提升系统容量的关键技术之一。然而由于射频链路的昂贵造价和能量损耗，在MIMO系统中使用全数字的预编码方式是不现实的。目前混合预编码的方式可以大量减少射频链路的使用，被广泛关注和研究。由于混合预编码的设计需要知道信道信息，因此信道估计也是十分重要的一环。目前提出了许多混合预编码和信道估计的算法，其中混合预编码的设计主要基于码本和迭代优化算法，信道估计则往往通过压缩感知的方法。但这些算法计算复杂度较高，需要大量迭代，在实际中难以应用。并且，信道估计和混合预编码这两个模块在传统算法中往往被分开设计，可能会造成性能上的损失。

[0003] 目前深度学习技术在通信中得到了广泛地应用，其计算复杂度低，不需要对求解的问题进行精确的数学建模，并且其中的深度展开技术通过引入可训练参数，将传统迭代优化算法展开成多层网络结构，合理的利用了原算法的架构，在性能上几乎不差于传统算法。

发明内容

[0004] 本发明旨在至少在一定程度上解决相关技术中的技术问题之一。

[0005] 为此，本发明的目的在于解决大规模多输入多输出天线(MIMO)系统中混合预编码算法和信道估计算法计算复杂度高，两种算法分模块设计降低系统性能的问题，采用深度展开的技术来对混合预编码和信道估计进行联合设计，提出了一种基于混合预编码和信道估计的联合设计方法。

[0006] 本发明的另一个目的在于提出一种基于混合预编码和信道估计的联合设计装置。

[0007] 为达上述目的，本发明一方面提出了一种基于混合预编码和信道估计的联合设计方法，包括以下步骤：

[0008] 获取多用户毫米波MIMO系统不同信噪比的训练数据；

[0009] 构建深度展开网络，其中，所述深度展开网络包括与大规模毫米波多输入多输出MIMO系统的收发机对应的多个子网络；

[0010] 将所述训练数据输入到所述深度展开网络进行两阶段的联合训练，获得训练好的网络优化参数；其中，所述两阶段的联合训练是基于双时间尺度设计的，目标损失函数包括系统和速率，训练参数更新方法包括随机梯度下降法；

[0011] 基于所述训练好的网络优化参数，执行数据传输任务。

[0012] 根据本发明实施例的一种基于混合预编码和信道估计的联合设计方法，通过获取多用户毫米波MIMO系统不同信噪比的训练数据；构建深度展开网络，其中，所述深度展开网络包括与大规模毫米波多输入多输出MIMO系统的收发机对应的多个子网络；将所述训练数据输入到所述深度展开网络进行两阶段的联合训练，获得训练好的网络优化参数；其中，所述两阶段的联合训练是基于双时间尺度设计的，目标损失函数包括系统和速率，训练参数更新方法包括随机梯度下降法；基于所述训练好的网络优化参数，执行数据传输任务。本发明可以降低信令开销，提高系统的鲁棒性，降低计算复杂度。

[0013] 另外，根据本发明上述实施例的基于混合预编码和信道估计的联合设计方法还可以具有以下附加的技术特征：

[0014] 进一步地，所述获取多用户毫米波MIMO系统不同信噪比的训练数据，包括：

[0015] 建立窄带毫米波信道模型，所述窄带毫米波信道模型包含Ncl个簇，所述每个簇包含Nray条传播路径，信道矩阵表示形式包括：

[0016]

[0017] 其中，Nt为发送天线数量，Nr为接收天线数量， 为第i簇中第l条路径的复增益， 和 分别表示接收端和发送端的到达角和发送角。 和 分别表示接收和发送导向矢量；

[0018] 利用所述窄带毫米波信道模型，根据统计具有特定分布的信道和噪声的特性生成信道样本和噪声样本，并根据所述信道样本和所述噪声样本生成所述训练数据。

[0019] 进一步地，所述多个子网络，包括：

[0020] 接收端的信道估计子网络，以及发送端的导频设计子网络和混合预编码子网络，其中，所述接收端的信道估计子网络是基于递归最小二乘算法进行深度展开，所述混合预编码子网络是基于随机逐次凸逼近算法进行深度展开的，包括模拟编码网络和数字编码网络。

[0021] 进一步地，所述双时间尺度，包括：

[0022] 根据信道统计特性将时间轴划分多个帧；

[0023] 将所述帧逐个划分为预设数量的时隙；

[0024] 根据所述帧的结构确定长时间尺度，并根据所述时隙确定短时间尺度。

[0025] 进一步地，所述两阶段的联合训练包括第一训练阶段和第二训练阶段，其中，所述第一训练阶段用于训练长时间尺度深度展开网络，所述长时间尺度深度展开网络包括所述混合预编码子网络，包括以下步骤：

[0026] 将所述信道样本输入到所述模拟编码网络，输出模拟编码器；

[0027] 根据所述模拟编码器获得等效信道矩阵；

[0028] 将所述等效信道矩阵输入到数字编码网络，输出第一数字编码器；

[0029] 执行网络反向传播过程，其中，损失函数采用系统和速率的形式，使用随机梯度下降算法更新网络参数。

[0030] 进一步地，所述第二训练阶段，用于训练短时间尺度深度展开网络，所述短时间尺度深度展开网络包括所述混合预编码子网络、所述导频设计子网络和所述信道估计子网络，包括以下步骤：

[0031] 固定所述第一阶段训练好的模拟编码器，并将所述信道样本输入到所述第一阶段的模拟编码网络得到待估计的等效信道矩阵；

[0032] 将所述待估计的等效信道矩阵输入到所述导频设计子网络，并结合所述噪声样本，输出导频信号；

[0033] 将所述导频信号输入到信道估计子网络，输出估计的等效信道矩阵；

[0034] 将所述估计的等效信道矩阵输入到所述数字编码网络，输出第二数字编码器；

[0035] 执行网络反向传播过程，其中，损失函数采用系统和速率的形式，使用随机梯度下降算法更新网络参数。

[0036] 进一步地，所述混合预编码子网络是基于随机逐次凸逼近算法进行深度展开的，包括：

[0037] 引入可训练参数B，并取矩阵A对角线元素的倒数，并将其他非对角线元素设置为+ +0，用A表示，采用结构AB；

[0038] 引入偏置训练参数复数矩阵D，并将其对角线元素的虚部设为0，用D‑表示；

[0039] 采用A+B+D‑的结构来近似求逆矩阵A‑。

[0040] 进一步地，所述信道估计子网络是基于递归最小二乘算法进行深度展开，包括：

[0041] 在网络的每一层中采用以下结构：

[0042]

[0043] 其中 表示输入和输出， 表示引入的乘子训练参数和偏置训练参数。

[0044] 进一步地，所述执行数据传输任务，包括：

[0045] 所述信道统计特性保持不变的情况下，固定在训练阶段优化好的所述模拟编码器；

[0046] 所述信道统计特性发生改变的情况下，在每个所述帧的第一个所述时隙，获取信道样本来微调所述模拟编码网络，优化所述模拟编码器。

[0047] 为达到上述目的，本发明另一方面提出了一种基于混合预编码和信道估计的联合设计装置，包括：

[0048] 获取模块，用于获取多用户毫米波MIMO系统不同信噪比的训练数据；

[0049] 构建模块，用于构建深度展开网络，其中，所述深度展开网络包括与大规模毫米波多输入多输出MIMO系统的收发机对应的多个子网络；

[0050] 训练模块，用于将所述训练数据输入到所述深度展开网络进行两阶段的联合训练，获得训练好的网络优化参数；其中，所述两阶段的联合训练是基于双时间尺度设计的，目标损失函数包括系统和速率，训练参数更新方法包括随机梯度下降法；

[0051] 传输模块，用于基于所述训练好的网络优化参数，执行数据传输任务。

[0052] 本发明实施例的一种基于混合预编码和信道估计的联合设计装置，通过获取多用户毫米波MIMO系统不同信噪比的训练数据；构建深度展开网络，其中，所述深度展开网络包括与大规模毫米波多输入多输出MIMO系统的收发机对应的多个子网络；将所述训练数据输入到所述深度展开网络进行两阶段的联合训练，获得训练好的网络优化参数；其中，所述两阶段的联合训练是基于双时间尺度设计的，目标损失函数包括系统和速率，训练参数更新方法包括随机梯度下降法；基于所述训练好的网络优化参数，执行数据传输任务。本发明可以降低信令开销，提高系统的鲁棒性，降低计算复杂度。

[0053] 本发明的有益效果：

[0054] 本发明基于双时间尺度的设计，在大多数时间只需要估计低维等效信道，可以降低信令开销，并通过深度展开技术对信道估计子模块和混合预编码子模块进行联合设计，能够提高系统的鲁棒性，降低计算复杂度。

[0055] 本发明附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。

附图说明

[0056] 本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

[0057] 图1为现有的混合预编码毫米波MIMO系统的架构示意图；

[0058] 图2为根据本发明实施例的基于混合预编码和信道估计的联合设计方法的流程图；

[0059] 图3为根据本发明实施例的信道估计深度展开网络的结构示意图；

[0060] 图4为根据本发明实施例的混合预编码深度展开网络的结构示意图；

[0061] 图5为根据本发明实施例的双时间尺度帧的结构示意图；

[0062] 图6为根据本发明实施例的网络训练和数据传输的流程示意图；

[0063] 图7为根据本发明实施例的双时间尺度网络的结构示意图；

[0064] 图8为根据本发明实施例的基于混合预编码和信道估计的联合设计方法、传统方案和黑盒网络在不同信噪比情况下系统和速率的对比示意图；

[0065] 图9为根据本发明实施例的基于混合预编码和信道估计的联合设计方法、传统方案和黑盒网络在不同射频链路数量情况下系统和速率的对比示意图；

[0066] 图10为根据本发明实施例的基于混合预编码和信道估计的联合设计装置的结构示意图。

具体实施方式

[0067] 需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本发明。

[0068] 为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

[0069] 下面参照附图描述根据本发明实施例提出的基于混合预编码和信道估计的联合设计方法及装置，首先将参照附图描述根据本发明实施例提出的基于混合预编码和信道估计的联合设计方法。

[0070] 为了更加清楚的说明根据本发明实施例提出的基于混合预编码和信道估计的联合设计方法和装置，下面先结合图1对现有的混合预编码多用户毫米波MIMO系统进行详细说明。

[0071] 如图1所示，该系统的发送端装配有Nt根发送天线和 条射频链路，发送Ns个数据流至接收端，其中， 接收端有K个用户，每个用户装配有Nr根接收天线和条射频链路，其中， 在发送端，射频链路连接着一个移相器网络，将
个数字输出信号变为Nt个经过编码的模拟信号。类似地，在接收端的每个用户，Nr根接收天线连接着一个移相器网络以及 条射频链路。

[0072] 对于用户k，基站发送Ns个并行的经过调制的发送符号 符号向量s满足这些符号先经过数字发送预编码 的处理，再经过模拟预编码经过发送端预编码的信号可以写成xk＝FRF,kFBB,ksk。其中FRF,k表示仅能调整相位，并通过移相器网络实现的模拟预编码矩阵，因此需要符合硬件上的恒模约束数字预编码矩阵FBB,k需要经过功率归一化 使得发送
端的功率约束满足，其中，Pt表示最大的传输功率。经过预编码的信号xk经过一个窄带快衰落信，类似地，在接收端，接收信号需要经过接收端模拟编码 以及数字编码的处理，最终用户k接收的信号可以表示为

[0073]

[0074] ，其中 表示信道矩阵， 为高斯噪声，中间项为其他用户的干扰，其中WRF,k需要满足恒模约束 并且对于用户k的第l个数据
流，定义信干比(SINR)如下：

[0075]

[0076] 其中 表示低维等效信道矩阵， 和分别表示接收端用户k的第l个数据流的模拟编码向量和数字编码向量。

[0077] 需要说明的是，在本发明的一个实施例中，以基站为发送端，而发送端需要获得信道矩阵H来进行混合预编码。因此，在传输数据之前，需要发送导频来对信道进行估计。考虑TDD模式下，上下行链路信道具有互异性，因此可以通过用户端发送导频估计上行链路信道从而获得下行信道。

[0078] 具体的，用户k先发送长度为L的导频矩阵 然后接收端接收到的导频信号 其中， 表示
高斯白噪声矩阵， 在实际应用中，发送端根据时间顺序依次发送导频矩阵中的导频，且发送导频矩阵的第l次传输 ( 的第l列，在本发明一个实施例中传输次数与导频矩阵的列数一一对应)需要满足功率约束， 接收端从接收到的信号
当中估计出低维等效信道Heq,k。

[0079] 图2是本发明一个实施例的基于混合预编码和信道估计的联合设计方法的流程图。

[0080] 如图2所示，该基于混合预编码和信道估计的联合设计方法包括以下步骤：

[0081] 步骤S1，获取多用户毫米波MIMO系统不同信噪比的训练数据。

[0082] 具体地，在本发明的一个实施例中，不同信噪比的训练数据包括训练样本{H,n}，即信道矩阵样本和高斯噪声样本。在实际应用中，可以通过不同方式获取训练样本数据。

[0083] 作为一种示例，可以根据系统实际应用的场景获取历史数据，通过调用数据库中预先存储的大规模毫米波MIMO系统之前进行通信时产生的历史数据，作为训练数据。

[0084] 作为另一种示例，可以对规模毫米波MIMO系统的信道进行建模，根据建立的信道模型实时获取训练数据。本发明的一个实施例通过建立窄带毫米波信道模型实时获取训练数据，该窄带毫米波信道模型包含Ncl个簇，每个簇包含Nray条传播路径。

[0085] 信道矩阵表示为：

[0086]

[0087] 其中， 为第i簇中第l条路径的复增益， 和 分别表示接收端和发送端的到达角和发送角。 和 分别表示接收和发送导向矢量。对于一个包含N根天线的线性阵列和角度φ，导向矢量可以写作：

[0088]

[0089] 其中，d和λ分别表示相邻天线之间的距离和载波的波长。在建立的信道模型后，根据信道和噪声的某一特定分布，相应地根据统计特性生成信道样本和噪声样本，并获取产生的信道样本和噪声样本。由此，可以通过建立的信道模型实时生成训练数据。

[0090] 步骤S2，构建深度展开网络，其中，深度展开网络包括与大规模毫米波多输入多输出MIMO系统的收发机对应的多个子网络。

[0091] 具体地，与大规模毫米波多输入多输出MIMO系统的收发机对应的多个子网络包括接收端的信道估计子网络，以及发送端的导频设计子网络和混合预编码子网络。在本发明的一个实施例中，将深度展开网络分为两方面：信道估计深度展开网络和混合预编码深度展开网络。

[0092] (1)首先介绍信道估计深度展开网络的设计。信道估计深度展开网络如图3所示，包括导频训练网络和基于RLS(递归最小二乘算法)的深度展开网络。RLS是传统的信道估计算法，通过引入训练参数，构建基于RLS的深度展开网络。

[0093] (1.1)导频训练网络

[0094] 和传统的高斯导频和傅里叶矩阵导频不同，在深度展开信道估计网络中，将导频设置为网络的训练参数，以此来更好的适应信道矩阵的特性，获得更好的信道估计效果。导频训练网络的输入为待估计的等效信道矩阵Heq,k，输出为接收的导频信号 导频作为网络的训练参数并且需要满足功率约束条件

[0095] (1.2)基于RLS的深度展开网络

[0096] 传统RLS信道估计算法：第k个用户发送导频后，在基站得到的接收信号为[0097]

[0098] 通过最小化均方误差来得到估计的低维等效信道 通过最小二乘法得到的解可以表示为：

[0099]

[0100] RLS信道估计算法将上述式子中的矩阵求逆过程用户迭代过程进行替换。RLS算法流程如算法1中所示。

[0101]

[0102] 其中 分别表示 的第n列， 为算法的中间变量，βk∈(0,1)表示遗忘因子，δ表示一个极小的正数， 表示权重矩阵，并且最终得到的估计信道为估计误差 随 的更新而减小。算法的输入为导频和基站接收信号，输出
为估计的信道矩阵，算法迭代次数为导频长度L。

[0103] 基于RLS的深度展开网络：尽管RLS信道估计算法已经可以取得满意的表现，但是却需要大量的迭代次数才能收敛。于是，我们将RLS算法展开成一个层数较少的网络，并引入可训练参数。网络第n层的输入为 输出为 网络的具体结构如下：

[0104] 为了提高网络训练的自由度并加快收敛速度，在网络的每一层中采用以下结构：

[0105]

[0106] 其中 表示输入和输出， 表示引入的乘子训练参数和偏置训练参数。于是基于RLS的深度展开网络中引入 作
为训练参数来更新变量 除此之外，遗忘因子 也被设为网络训练参数 如
图3中所示， 表示深度展开网络第n层中的子结构层，其表达式如下：

[0107]

[0108]

[0109]

[0110]

[0111] 将导频训练网络和基于RLS的深度展开网络中的所有训练参数作为信道估计深度展开网络的训练参数，可以表示为 Lc为深度展开网络的层数。

[0112] (2)然后介绍混合预编码深度展开网络的设计。混合预编码深度展开网络是基于SSCA算法展开的，包括模拟编码网络和数字编码网络，如图4所示。

[0113] (2.1)SSCA混合预编码算法：首先将模拟编码器用以下形式表示

[0114]

[0115] 其中 表示实现模拟编码器的移相器的相位角。将目标函数表示为r0(φ,M；H)，其中 表示数字编码器。

[0116] 模拟预编码和数字预编码的设计如下：

[0117] 模拟预编码：基于完整信道信息来设计模拟预编码，首先迭代J次针对数字预编码J设计的算法，得到数字预编码M 并固定，然后通过寻找凸的替代函数来替代原目标函数来设计模拟编码器。在第t次迭代中，替代函数如下所示：

[0118]

[0119] 其中，

[0120] 并且 为r0(φt,MJ；H)对φ求偏导。并且ft可以通过下式计t t t‑1 t t J ‑1
算：f＝(1‑ρ)f +ρr0(φ ,M；H)，并且f ＝0。通过对 求偏导来得到φ的更新公式：

[0121]

[0122] 其中η表示更新步长。

[0123] 数字预编码：通过固定模拟预编码，基于等效低维信道信息Heq更新数字预编码。采用连续凸近似(SCA)算法来求解数字编码器。对于第k个用户的第l个数据流来说，其MSE表达式如下：

[0124]

[0125] 通过检验一阶最优性条件，接收端最优数字编码器解为

[0126]

[0127] 在此情况下，可将原优化问题转化为最小化MSE的形式：

[0128]

[0129] 接下来设计发送端的数字编码器FBB。通过引入单调的log凸函数g(tk,l)，优化问题可以转化为：

[0130]

[0131] s.t.εk,l≤g(tk,l)‑1。

[0132] 然后使用一阶泰勒展开近似目标函数：

[0133]

[0134] 最终问题转化为如下形式：

[0135]

[0136]

[0137] 该问题可以通过KKT条件求解。为了简化问题，选择g(x)＝αx作为log函数，并且α>1。

[0138] 整个SCA算法流程如算法2所示。

[0139]

[0140] (2.2)混合预编码深度展开网络

[0141] 模拟编码网络：模拟编码网络的输入是完整的信道样本H，输出是模拟编码器{WRF,k,FRF,k}。将模拟编码器的相位角设置为网络训练参数 并且通过运算操j(·)作e 满足恒模约束。

[0142] 数字编码网络：数字编码网络的输入是等效信道矩阵Heq,k，输出是数字编码器{FBB,k,WBB,k}。数字编码网络是通过引入可训练参数，将SCA算法展开成一个多层的网络结构。并且通过引入两种非线性运算来近似SCA算法中的矩阵求逆过程。

[0143] 首先第一种非线性运算，对于矩阵A，取其对角线元素的倒数，并将其他非对角线+元素设置为0，表示为A。作为一种示例，通过一个3x3的矩阵来说明这种运算，[0144]

[0145] 然后第二种非线性运算，对于复数矩阵D，将其对角线元素的虚部设为0，表示为‑D，仍通过一个3x3矩阵的示例来说明这种运算，

[0146]

[0147] 基于以上两种非线性运算，对于矩阵求逆A‑1，采用以下结构来近似：

[0148] 首先，利用非线性运算A+并引入可训练参数B，考虑采用结构A+B。当A为对角阵时，‑1 + +有A ＝A 。而且可以观察到要近似的求逆矩阵的对角线元素远大于非对角线元素，因此A B是一个合理的近似。

[0149] 然后引入了偏置训练参数来使D得近似更为接近。并且发现求逆矩阵的对角线元‑ ‑素的虚部几乎为0，因此采用D。注意实际可训练参数为D而不是D ，在网络前向传播过程中，‑
我们通过D‑D1得到D，其中变量

[0150]+ ‑ ‑1

[0151] 于是采用结构AB+D来近似求逆矩阵A 。引入可训练参数 用来在第i层近似变量 的求逆，减少了计算复杂度。另外，为了增加网络训练的自由度，引入了乘子和偏置训练参数 在第i层来更新变量如图4所示， 代表第i层深度展开网络的子结构层，其表达
式如下：

[0152]

[0153]

[0154]

[0155]

[0156] 其中， 除此之外，将常量 设置为训练参数 来加快网络收敛。并且为了防止梯度爆炸和满足功率约束，在数字编码网络的每一层将 归一化为

[0157] 于是数字编码网络的所有训练参数可以表示为 其中Lh表示数字编码网络的层数。

[0158] 模拟编码网络和数字编码网络的所有训练参数构成混合预编码深度展开网络的训练参数，可以表示为

[0159] 进一步分析了模拟编码器在深度展开网络和传统SSCA算法中的关系。在传统SSCA算法中，φ通过梯度 更新；而在混合预编码深度展开网络中，Ψ基于以下梯度更新：

[0160]

[0161] 上式中的第一项梯度和原SSCA算法的梯度相同，不过预编码器通过网络得到；而第二项梯度则只存在于深度展开网络中，并且使得模拟编码器和数字编码器的更新联系更紧密。

[0162] 步骤S3，将训练数据输入到深度展开网络进行两阶段的联合训练，获得训练好的网络优化参数；其中，两阶段的联合训练是基于双时间尺度设计的，目标损失函数包括系统和速率，训练参数更新方法包括随机梯度下降法。

[0163] 具体地，混合预编码算法是基于高维瞬时信道的基础上提出的，在大规模天线场景下，获取高维信道矩阵会导致巨大的信令开销。本发明采用了一种基于双时间尺度的设计方案，其中长时间的模拟编码器通过信道统计特性来设计，在每一个帧的开始进行更新；短时间的数字编码器通过等效低维度信道信息来设计，在每一个时间间隙进行更新，可以减小信令开销。

[0164] 在本发明的一个实施例中，根据信道统计特性将时间轴划分多个帧，并将每个帧划分为预设数量的时隙，根据帧结构确定长时间尺度，并根据时隙确定短时间尺度。下面结合图5进行详细说明。

[0165] 对于一个特定的帧，在此期间信道统计特性固定不变。该帧分为Ts个时隙，作为一种示例，预设数量即为Ts个，信道在每个时隙内保持不变。基于这种划分，长时间尺度是信道统计特性在每一个帧都是固定不变的，而短时间尺度的高维原始信道Hk在每个时隙固定不变。

[0166] 需要说明的是，由于等效信道矩阵 的维度远低于高维原始信道矩阵Hk，因此，在本发明的一个实施例中通过发送导频，在每个时隙获得低维等效信道矩阵Heq,k。于是，可以在不同的时间尺度来优化模拟编码器和数字编码器，基于原始完整信道来优化模拟编码器，基于等效低维信道来优化数字编码器。

[0167] 如图6所示，在训练阶段中，利用训练样本训练深度展开网络，优化网络参数。通过不同信噪比的训练数据对深度展开网络进行离线训练的目的是获得中各个子网络的训练参数，通过获得的训练参数优化深度展开网络的网络参数，便于后续在实际应用中通过固定优化后的网络参数进行预测。

[0168] 基于双时间尺度将深度展开网络分为两阶段训练，即第一阶段深度展开网络和第二阶段深度展开网络。其中，第一阶段网络用于训练模拟编码网络，第二阶段网络则通过第一阶段训练好的模拟编码网络获得模拟编码器和等效低维信道，用于进行低维导频训练和估计低维等效信道，根据恢复出来的低维信道优化数字预编码。

[0169] 其中，第一阶段的长时间尺度网络和第二阶段的短时间尺度网络中每个均封装了与大规模毫米波多用户多输入多输出(multiple‑in multiple‑out，简称MIMO)系统的收发机的所有模块，即长时间尺度网络和短时间尺度网络中包含相当于MIMO系统的基站端的信道估计和混合预编码的子网络，以及用户端的导频设计子网络。也就是说，部署了本申请的深度展开网络后的混合预编码毫米波MIMO系统，考虑在TDD模式下，用户端发送导频通过上行链路传输，在基站进行信道估计恢复信道，并根据恢复出的信道进行混合预编码。

[0170] 接下来详细介绍如何联合训练提出的深度展开网络：

[0171] (1)第一训练阶段

[0172] 图7(a)表示第一阶段的深度展开网络，也就是数字编码网络和模拟编码网络构成的混合预编码深度展开网络。模拟编码网络用来设计模拟编码器，输入和输出分别是完整信道样本H(可能是过时的)和模拟编码器{WRF,FRF}。数字编码网络用来设计数字编码器，输入和输出分别是实时低维等效信道矩阵Heq和数字编码器{FBB,WBB}.

[0173] 网络前向传播过程：首先离线获得完整信道样本H作为模拟编码网络的输入，得到输出模拟编码器{WRF,FRF}，然后根据模拟编码器获得等效信道Heq，并作为数字编码网络的输入，得到输出数字编码器。

[0174] 损失函数：第一阶段训练中神经网络的损失函数定义为系统的和速率。

[0175] 网络反向传播过程：混合预编码深度展开网络的所有训练参数根据随机梯度下降算法进行更新。

[0176] (2)第二训练阶段

[0177] 图7(b)表示第二阶段的深度展开网络，包括信道估计深度展开网络和数字编码网络。并且通过第一阶段训练好的模拟编码网络来获得等效信道矩阵。信道估计深度展开网络的输入为等效信道矩阵Heq，输出为估计的等效信道

[0178] 网络前向传播过程：首先信道样本H通过第一阶段训练好的模拟编码网络获得模拟编码器{WRF,FRF}和等效信道矩阵，作为信道估计深度展开网络的输入，得到输出为估计的等效信道矩阵。然后将其作为数字编码网络的输入，最终得到输出数字编码器{FBB,WBB}。

[0179] 损失函数：第二阶段训练中神经网络的损失函数定义为系统的和速率。

[0180] 网络反向传播过程：信道估计深度展开网络和数字编码网络的所有训练参数根据随机梯度下降算法进行更新。注意模拟编码网络的训练参数不参与更新。

[0181] 可以理解的是，相比于传统的独立设计各个模块进行训练，联合设计的网络框架具有潜在的性能增益。传统算法基于不同的优化目标来对信道估计和混合预编码进行设计，例如最小化信道估计的均方误差来设计信道估计模块，最大化系统和速率来设计混合预编码模块。然而，提出的联合训练网络框架将两个模块联合设计并训练，并且是基于同一个优化目标，即联合训练时仅有一个损失函数即系统的和速率。在在这种框架下，并没有准确的进行信道估计，即使信道估计部分存在一定误差，最终的系统和速率也能取得较好的性能效果。

[0182] 用系统的和速率(取负数)作为目标损失函数，通过随机梯度下降SGD迭代更新训练参数。在本发明的一个实施例中，系统和速率定义如下：

[0183]

[0184] 其中Γ是上文定义的SINR。

[0185] 步骤S4，基于训练好的网络优化参数，执行数据传输任务。

[0186] 具体地，如图6所示，在数据传输阶段，如果信道统计特性保持不变，则固定在训练阶段优化好的模拟编码器；如果信道统计特性发生改变，则在每个帧的第一个时隙，获取信道样本Hk，根据此来微调模拟编码器子网络，优化模拟编码器；无论信道统计特性是否改变，在每一个时隙获取等效低维信道信息Heq,k，根据训练好的数字编码器子网络来优化数字编码器。

[0187] 可以理解的是，通过双时间尺度的方法对混合预编码矩阵进行更新时，在大多数时间只需要估计低维等效信道矩阵，降低了信道估计开销，且不需要频繁更换实现模拟编码器的移相器网络。

[0188] 在本发明的一个实施例中，将本发明的仿真结果和传统方案、黑盒网络进行了比较。图8比较了上述本发明的一个实施例和传统方案以及黑盒网络在不同信噪比下的系统和速率；图9比较了上述本发明的一个实施例和传统方案以及黑盒网络在射频链路下的系统和速率；表1比较了上述本发明的一个实施例和传统方案以及黑盒网络在不同用户数量情况下的系统和速率。可以看出，本发明可以取得和传统算法相当的性能甚至有所提升，并且远优于传统黑盒神经网络的性能。

[0189] 表1：本发明的一个实施例和传统方案以及黑盒网络在不同用户数量情况下的系统和速率

[0190]

[0191] 需要说明的是，表1中本发明的一个实施例和黑盒网络中的百分比是根据传统SSCA‑RLS算法中的和速率归一化之后的结果。

[0192] 通过上述步骤，获取多用户毫米波MIMO系统不同信噪比的训练数据；构建深度展开网络，其中，深度展开网络包括与大规模毫米波多输入多输出MIMO系统的收发机对应的多个子网络；将训练数据输入到深度展开网络进行两阶段的联合训练，获得训练好的网络优化参数；其中，两阶段的联合训练是基于双时间尺度设计的，目标损失函数包括系统和速率，训练参数更新方法包括随机梯度下降法；基于训练好的网络优化参数，执行数据传输任务。本发明可以降低信令开销，提高系统的鲁棒性，降低计算复杂度。

[0193] 需要说明的是，基于混合预编码和信道估计的联合设计方法实现方式有多种，但无论具体的实现方法如何，只要方法解决了现有技术中计算复杂度高、系统性能较低和信令开销高的问题，都是针对现有技术问题的解决，并具有相应的效果。

[0194] 为了实现上述实施例，如图10所示，本实施例中还提供了一种基于混合预编码和信道估计的联合设计装置10，该装置10包括：获取模块100，构建模块200，训练模块300，传输模块400。

[0195] 获取模块100，用于获取多用户毫米波MIMO系统不同信噪比的训练数据；

[0196] 构建模块200，用于构建深度展开网络，其中，深度展开网络包括与大规模毫米波多输入多输出MIMO系统的收发机对应的多个子网络；

[0197] 训练模块300，用于将训练数据输入到深度展开网络进行两阶段的联合训练，获得训练好的网络优化参数；其中，两阶段的联合训练是基于双时间尺度设计的，目标损失函数包括系统和速率，训练参数更新方法包括随机梯度下降法；

[0198] 传输模块400，用于基于训练好的网络优化参数，执行数据传输任务。

[0199] 根据本发明实施例的基于混合预编码和信道估计的联合设计装置，获取多用户毫米波MIMO系统不同信噪比的训练数据；构建深度展开网络，其中，深度展开网络包括与大规模毫米波多输入多输出MIMO系统的收发机对应的多个子网络；将训练数据输入到深度展开网络进行两阶段的联合训练，获得训练好的网络优化参数；其中，两阶段的联合训练是基于双时间尺度设计的，目标损失函数包括系统和速率，训练参数更新方法包括随机梯度下降法；基于训练好的网络优化参数，执行数据传输任务。本发明可以降低信令开销，提高系统的鲁棒性，降低计算复杂度。

[0200] 需要说明的是，前述对基于混合预编码和信道估计的联合设计方法实施例的解释说明也适用于该实施例的基于混合预编码和信道估计的联合设计装置，此处不再赘述。

[0201] 此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

[0202] 在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

[0203] 尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。