[论文解读] From Learning to Meta-Learning: Reduced Training Overhead and Complexity for Communication Systems

Osvaldo Simeone, Sangwoo Park+1 more|arXiv (Cornell University)|Jan 5, 2020

Domain Adaptation and Few-Shot Learning参考文献 46被引用 68

一句话总结

本文提出元学习，特别是模型无关元学习（MAML），通过学习一个共享的模型初始化，以减少通信系统中的数据和训练时间需求，从而实现对新、未见过的系统配置的快速适应。通过在元训练期间利用相关任务的数据，该方法在少导频解调和无监督端到端通信任务中，相比传统方法和联合学习方法，显著降低了符号误码率并实现了更快的收敛速度。

ABSTRACT

Machine learning methods adapt the parameters of a model, constrained to lie in a given model class, by using a fixed learning procedure based on data or active observations. Adaptation is done on a per-task basis, and retraining is needed when the system configuration changes. The resulting inefficiency in terms of data and training time requirements can be mitigated, if domain knowledge is available, by selecting a suitable model class and learning procedure, collectively known as inductive bias. However, it is generally difficult to encode prior knowledge into an inductive bias, particularly with black-box model classes such as neural networks. Meta-learning provides a way to automatize the selection of an inductive bias. Meta-learning leverages data or active observations from tasks that are expected to be related to future, and a priori unknown, tasks of interest. With a meta-trained inductive bias, training of a machine learning model can be potentially carried out with reduced training data and/or time complexity. This paper provides a high-level introduction to meta-learning with applications to communication systems.

研究动机与目标

• 解决传统机器学习在动态通信系统中高数据和高训练时间成本的问题。
• 减少系统配置变更时因需从头开始重新训练而产生的训练低效问题。
• 利用相关任务的先验知识，自动选择归纳偏置（如模型初始化）。
• 在仅使用少量数据的情况下，实现对新、未见过的系统配置（如新设备、信道条件）的快速适应。
• 展示元学习在实际通信系统应用（如解调和端到端传输）中的实用优势。

提出的方法

• 使用模型无关元学习（MAML）学习一个共享的初始模型参数 θ，以实现对新任务的快速适应。
• 采用两层优化：在多个相关任务上进行元训练以优化 θ，随后通过在新任务上进行少量梯度步长实现快速适应。
• 将元学习目标形式化为：最小化从元初始化 θ 出发经过 m 步梯度更新后的期望测试损失。
• 通过元训练任务的测试集对元损失进行经验近似，利用适应路径的雅可比矩阵计算梯度。
• 通过反向传播计算内层循环更新的二阶梯度，需计算黑塞向量积。
• 使用随机梯度下降（SGD）优化共享参数 θ，基于适配模型上计算的元损失。

实验结果

研究问题

• RQ1 元学习能否减少通信系统中有效模型适应所需的训练数据点数量？
• RQ2 元学习能否在无需从头开始重新训练的情况下，显著缩短新系统配置的训练时间？
• RQ3 在未见过的通信场景中，元学习与传统方法和联合学习相比，其泛化性能如何？
• RQ4 元学习所学习的初始化在低数据场景（如少导频解调）下对收敛速度有何影响？
• RQ5 元学习能否有效应用于具有动态信道条件的无监督端到端通信系统？

主要发现

• 在少导频解调场景中，元学习实现的符号误码率低于传统方法和联合学习，即使导频数少至 4 个。
• 在少导频情况下，元学习在相同误码率下相比传统学习最高可实现 10 dB 的信噪比增益。
• 在无监督端到端通信中，元学习显著更快地降低块误码率，可在 100 次迭代内实现收敛。
• 元学习初始化使模型能仅通过少量训练步骤即快速适应新的瑞利衰落信道，展现出强大的元泛化能力。
• 该方法通过实现仅用少量数据的快速适应，显著降低了训练开销，适用于导频开销有限的间歇性物联网设备。
• 实验结果证实，结合MAML的元学习提供了有利的归纳偏置，在多种信道配置和系统任务中均表现出良好的泛化能力。