[论文解读] Transfer Learning and Meta Learning Based Fast Downlink Beamforming Adaptation

Yi Yuan, Gan Zheng+3 more|arXiv (Cornell University)|Nov 2, 2020

Advanced MIMO Systems Optimization参考文献 38被引用 6

一句话总结

本文提出了一种基于迁移学习和元学习的算法，用于在动态无线环境中实现快速下行链路波束成形自适应，其中信道分布存在训练与测试之间的变化。通过利用预训练模型和元优化的初始化，该方法可在仅使用少量新数据的情况下实现快速适应，优于标准深度学习方法，并在非平稳场景下通过在线联合自适应策略实现近乎最优的性能。

ABSTRACT

This paper studies fast adaptive beamforming optimization for the signal-to-interference-plus-noise ratio balancing problem in a multiuser multiple-input single-output downlink system. Existing deep learning based approaches to predict beamforming rely on the assumption that the training and testing channels follow the same distribution which may not hold in practice. As a result, a trained model may lead to performance deterioration when the testing network environment changes. To deal with this task mismatch issue, we propose two offline adaptive algorithms based on deep transfer learning and meta-learning, which are able to achieve fast adaptation with the limited new labelled data when the testing wireless environment changes. Furthermore, we propose an online algorithm to enhance the adaptation capability of the offline meta algorithm in realistic non-stationary environments. Simulation results demonstrate that the proposed adaptive algorithms achieve much better performance than the direct deep learning algorithm without adaptation in new environments. The meta-learning algorithm outperforms the deep transfer learning algorithm and achieves near optimal performance. In addition, compared to the offline meta-learning algorithm, the proposed online meta-learning algorithm shows superior adaption performance in changing environments.

研究动机与目标

• 解决深度学习波束成形在测试环境与训练分布不一致时的性能下降问题。
• 克服在动态无线条件下进行波束成形优化时深度学习面临的任务不匹配问题。
• 开发离线与在线自适应策略，实现在新环境中使用有限标注数据时的快速收敛。
• 通过基于FTL的在线元学习与序列微调，提升在非平稳环境中的鲁棒性。
• 在实时5G波束成形应用中，以低计算开销实现近乎最优的SINR平衡性能。

提出的方法

• 提出一种深度迁移学习（DTL）算法，通过仅更新其参数子集来微调预训练神经网络，以适应新环境。
• 引入一种元学习算法，学习最优模型初始化，从而通过在新数据上进行完整网络微调实现快速适应。
• 开发一种在线联合自适应算法，结合元学习与Follower-the-Regularized-Leader（FTL）方法，利用顺序数据持续更新模型。
• 采用基于模型的深度学习框架，将信道状态信息映射到上行链路功率分配，以在波束成形恢复前降低维度。
• 在离线设置中采用任务特定的小批量训练协议与周期性模型更新，并在未见的信道样本上进行验证。
• 采用基于FTL的在线学习策略，在每个时隙利用历史数据动态调整模型，提升在环境变化中的响应能力。

实验结果

研究问题

• RQ1 深度迁移学习能否有效适应具有分布偏移的新无线环境下的波束成形模型？
• RQ2 与标准迁移学习相比，元学习在波束成形优化中是否能提供更优的泛化能力与更快的适应速度？
• RQ3 通过FTL增强的元学习实现的在线自适应，在非平稳、真实世界的无线场景中如何提升性能？
• RQ4 在动态环境切换条件下，离线元学习与在线联合自适应之间的性能差距如何？
• RQ5 环境选择（如城市与高速公路）在多大程度上影响所提算法的适应能力？

主要发现

• 元学习算法优于深度迁移学习，在SINR平衡方面实现了近乎最优的性能，即使适应时间有限。
• 在非平稳环境中，基于在线元学习的算法显著优于离线元学习和在线联合自适应方法。
• 当用户在不同环境间切换（如从室外切换至城市区域）时，观察到平均SINR下降，证实了任务不匹配的存在。
• 在环境切换初期，离线元学习算法由于依赖于周期性更新前的过时模型而表现劣于在线方法。
• 从室外切换至城市区域时，线上方法与离线上限之间的性能差距更大，表明城市环境中信道变化更剧烈。
• 在线算法能有效利用顺序数据实现快速适应，展现出在动态、真实移动场景中的优越鲁棒性。