[论文解读] Meta-Learning with MAML on Trees

Jezabel Garcia, Federica Freddi+6 more|arXiv (Cornell University)|Mar 8, 2021

Topic Modeling参考文献 16被引用 4

一句话总结

该论文提出 TreeMAML，一种与模型无关的元学习算法，通过利用层次化任务结构——特别是语言系统发育树——来提升少样本跨语言自然语言理解性能。通过在树状适应过程中对聚类内的梯度进行聚合，TreeMAML 在 XNLI 基准测试中相比最先进方法实现了 3% 的准确率提升，证明了其在低资源语言上的迁移学习能力更优。

ABSTRACT

In meta-learning, the knowledge learned from previous tasks is transferred to new ones, but this transfer only works if tasks are related. Sharing information between unrelated tasks might hurt performance, and it is unclear how to transfer knowledge across tasks with a hierarchical structure. Our research extends a model agnostic meta-learning model, MAML, by exploiting hierarchical task relationships. Our algorithm, TreeMAML, adapts the model to each task with a few gradient steps, but the adaptation follows the hierarchical tree structure: in each step, gradients are pooled across tasks clusters, and subsequent steps follow down the tree. We also implement a clustering algorithm that generates the tasks tree without previous knowledge of the task structure, allowing us to make use of implicit relationships between the tasks. We show that the new algorithm, which we term TreeMAML, performs better than MAML when the task structure is hierarchical for synthetic experiments. To study the performance of the method in real-world data, we apply this method to Natural Language Understanding, we use our algorithm to finetune Language Models taking advantage of the language phylogenetic tree. We show that TreeMAML improves the state of the art results for cross-lingual Natural Language Inference. This result is useful, since most languages in the world are under-resourced and the improvement on cross-lingual transfer allows the internationalization of NLP models. This results open the window to use this algorithm in other real-world hierarchical datasets.

研究动机与目标

• 为解决 MAML 在处理无关或具有层次结构的任务时知识迁移能力受限的问题。
• 提升低资源 NLP 场景下的少样本学习性能，尤其针对低资源语言。
• 开发一种可在无先验任务关系知识的情况下动态学习任务层次结构的方法。
• 通过将语言系统发育结构融入元学习，提升自然语言理解中的跨语言迁移能力。

提出的方法

• TreeMAML 通过引入一种遵循树结构的层次化梯度聚合机制，对 MAML 进行改进，以在模型适应过程中实现更优的梯度传播。
• 在每次适应步骤中，先在树的同一层级上对任务聚类的梯度进行聚合，再向下传递至更细粒度的任务。
• 采用一种改进的层次聚类算法（基于 OTD）从任务相似性中动态学习任务树结构，无需先验知识。
• 该算法支持固定树（如语言系统发育树）与学习得到的树，从而在实际应用中具备灵活性。
• 该方法与模型无关，兼容任意主干网络与损失函数，具有广泛的适用性。
• 该方法利用基于梯度的相似性度量来推断任务关系，灵感来源于先前研究中的参数重要性评分。

实验结果

研究问题

• RQ1 与标准 MAML 相比，层次化任务结构是否能提升少样本元学习性能？
• RQ2 当使用固定语言系统发育树与动态学习的任务层次结构时，TreeMAML 的性能表现有何差异？
• RQ3 在 NLP 中，融入语言关系（如语言家族）在多大程度上能增强跨语言迁移？
• RQ4 TreeMAML 是否能在跨语言自然语言蕴含任务上超越最先进方法 XMAML？
• RQ5 当任务层次结构由数据学习而非预定义时，该算法在低资源语言上的泛化能力是否更强？

主要发现

• 在合成多维回归任务上，TreeMAML 相较于标准 MAML 和基线模型，将均方误差降低了一半。
• 在 XNLI 基准测试中，TreeMAML 在跨语言自然语言蕴含任务上相比之前最先进方法（XMAML）实现了 3% 的准确率提升。
• 固定树结构的 TreeMAML 在所有语言上均优于 MAML，尤其在低资源语言中表现提升最大。
• 在大多数情况下，学习得到的 TreeMAML 表现与固定树结构相当或更优，表明其能发现超越预定义系统发育树的有用任务关系。
• 在某些情况下（如希腊语和泰语），性能下降，原因可能是树结构过于简化或不准确，凸显了该方法对树结构质量的敏感性。
• 结果表明，当学习任务层次结构时，TreeMAML 能够利用非系统发育相似性（如文体或词汇借用）来增强迁移能力，超越传统的语言分类体系。