[論文レビュー] LAMAL: LAnguage Modeling Is All You Need for Lifelong Language Learning

Fan-Keng Sun, Cheng-Hao Ho+1 more|arXiv (Cornell University)|Sep 7, 2019

Multimodal Machine Learning Applications被引用数 10

ひとこと要約

LAMALは、学習中の過去のタスクの疑似サンプルを言語モデリングによって生成する、継続的言語学習フレームワークを提案する。これにより、追加のメモリやモデル容量を必要とせず、消去的忘却を回避できる。単一の統合モデルを用いて5つの多様な言語タスクで、マルチタスクベースラインの2–3%以内の性能を達成する。

ABSTRACT

Most research on lifelong learning (LLL) applies to images or games, but not language. We present LAMAL, a simple yet effective method for LLL based on language modeling. LAMAL replays pseudo-samples of previous tasks while requiring no extra memory or model capacity. Specifically, LAMAL is a language model that simultaneously learns to solve the task and generate training samples. When the model is trained for a new task, it generates pseudo-samples of previous tasks for training alongside data for the new task. The results show that LAMAL prevents catastrophic forgetting without any sign of intransigence and can perform up to five very different language tasks sequentially with only one model. Overall, LAMAL outperforms previous methods by a considerable margin and is only 2--3\% worse than multitasking, which is usually considered the LLL upper bound. The source code is available at https://github.com/xxx.

研究の動機と目的

• 自然言語タスクにおける継続的学習手法の不足に応えること。現在の研究は主に視覚や強化学習に集中している。
• 追加のメモリやモデル容量を必要とせず、逐次的言語学習における消去的忘却を防ぐこと。
• 言語モデリングを唯一のコアメカニズムとして用い、複数の多様な言語タスクを逐次に学習可能な統合モデルを開発すること。
• マルチタスク学習の上限性能に近く、かつシンプルでスケーラブルな性能を達成すること。

提案手法

• LAMALは、現在のタスクを遂行すると同時に、以前に学習したタスクの疑似サンプルを生成する、単一の言語モデルを採用する。
• 新しいタスクの学習中に、モデルは自身の過去のタスク知識から合成データ（疑似サンプル）を生成する。
• これらの生成済み疑似サンプルを現在のタスクデータと組み合わせてモデルを訓練し、過去の知識の保持を強化する。
• 外部メモリ、バッファストレージ、アーキテクチャの変更は一切不要で、アトロジックな言語モデリングに依存する。
• 標準的な言語モデリング目的関数を用いてエンドツーエンドに訓練され、タスク学習とサンプル生成の両方を暗黙的に支援する。
• 疑似サンプルは、各タスクの後でモデル自身のパラメータを用いて生成され、生データを保存せずに継続的リハーサルが可能になる。

実験結果

リサーチクエスチョン

• RQ1 言語モデリングのみで、自然言語タスクにおける継続的学習の基盤を構築できるか？
• RQ2 モデルが自らの疑似サンプルを生成することで、逐次学習における忘却をどの程度効果的に防げるか？
• RQ3 言語モデリングで訓練された単一のモデルが、多様な言語タスクにおいてマルチタスク学習の性能にどの程度近づけるか？
• RQ4 外部メモリや容量拡張の欠如が、継続的言語学習における性能に悪影響を及えるか？

主な発見

• LAMALは、5つの非常に異なる言語タスクにおいて、いかなる不具合の兆候もなく、消去的忘却を防止する。
• この手法は、マルチタスクの上限性能（継続的学習における最適性能と見なされる）の2–3%以内の性能を達成する。
• LAMALは、言語タスクの継続的学習手法において、先行手法を著しく上回る。
• 自ら生成したデータのみを用いても、逐次タスク間で強力な汎化能力と記憶保持能力を維持する。
• 追加のメモリやモデル容量を必要としないため、非常に効率的でスケーラブルである。
• このアプローチは多様な言語タスクにわたり頑健であり、継続的言語学習における広範な適用可能性を示している。