[論文レビュー] Federated Continual Learning with Adaptive Parameter Communication.

Jaehong Yoon, Wonyong Jeong+3 more|arXiv (Cornell University)|Jan 1, 2020

Domain Adaptation and Few-Shot Learning参考文献 14被引用数 17

ひとこと要約

本稿では、干渉を低減し、クライアント間での効率的な知識移行を可能にする、適応的パラメータ通信（APC）を用いたフェデレーテッド継続的学習のフレームワークを提案する。APCは、ニューラルネットワークの重みをグローバル共有パラメータとスパースなタスク固有パラメータに分解することで、従来のフェデレーテッド学習および継続的学習手法と比較して、顕著に低い通信コストで優れた性能を達成する。

ABSTRACT

There has been a surge of interest in continual learning and federated learning, both of which are important in training deep neural networks in real-world scenarios. Yet little research has been done regarding the scenario where each client learns on a sequence of tasks from private local data. This problem of federated continual learning poses new challenges to continual learning, such as utilizing knowledge and preventing interference from tasks learned on other clients. To resolve these issues, we propose a novel federated continual learning framework, Federated continual learning with Adaptive Parameter Communication, which additively decomposes the network weights into global shared parameters and sparse task-specific parameters. This decomposition allows to minimize interference between incompatible tasks, and also allows inter-client knowledge transfer by communicating the sparse task-specific parameters. Our federated continual learning framework is also communication-efficient, due to high sparsity of the parameters and sparse parameter update. We validate APC against existing federated learning and local continual learning methods under varying degrees of task similarity across clients, and show that our model significantly outperforms them with a large reduction in the communication cost.

研究の動機と目的

• クライアントがプライベートデータから順次学習を行うフェデレーテッド継続的学習の課題に取り組み、互換性のないタスクによる干渉を回避する。
• 異なるクライアントで学習されたタスク間の干渉を最小限に抑えつつ、効果的なクライアント間の知識移行を実現する。
• 制限された帯域幅の環境に適した、通信効率の高いフレームワークを設計する。
• 継続的学習中に最小限のパラメータ交換で、クライアント間での知識保持をバランスよく維持する。

提案手法

• タスクに不適切な知識を分離するために、ネットワーク重みをグローバル共有パラメータとスパースなタスク固有パラメータに分解する。
• クライアント間でスパースなタスク固有パラメータのみを通信することで、低コストな知識移行を実現する。
• 加法的分解を用いることで、グローバルパラメータに深刻な忘却が生じないよう、段階的な学習を可能にする。
• 高い影響を持つスパースなタスク固有更新を優先する適応的通信戦略を適用する。
• 各クライアントが独自のスパースなタスク固有パラメータを保持しながら、FedAvgに類似した集約手法で共有グローバルモデルを更新する。
• スパarsityを活用してモデル更新のサイズを縮小し、フェデレーテッド環境における通信効率を向上させる。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッド継続的学習フレームワークは、クライアント間で不適合なタスクの干渉を効果的に低減できるか？
• RQ2 スパースなタスク固有パラメータのみを用いて、どの程度の知識移行が可能か？
• RQ3 標準的なフェデレーテッド学習およびローカル継続的学習と比較して、本手法の精度と通信コストはどのように異なるか？
• RQ4 タスク固有パラメータのスパarsityは、パフォーマンスを損なわせることなく、通信オーバーヘッドを顕著に削減できるか？

主な発見

• APCは、クライアント間でのタスク類似度が異なる状況下でも、既存のフェデレーテッド学習およびローカル継続的学習手法を顕著に上回る性能を発揮する。
• タスク固有パラメータの高いスパarsityとその更新に起因し、通信コストが大幅に削減される。
• スパースなタスク固有パラメータの通信により、知識移行が効果的に実現され、後続のタスクにおけるパフォーマンスが向上する。
• グローバルパラメータとスパースなタスク固有パラメータへの分解により、不適合なタスク間の干渉が最小限に抑えられる。
• クライアントのデータ分布が異なる場合でも、順次タスクに対するモデルのパフォーマンスが強く維持される。
• 通信効率が向上してもモデルの精度が損なわれないため、帯域制限のある環境に適した。