[論文レビュー] Finding Structure in Continual Learning

Pourya Shamsolmoali, Masoumeh Zareapoor|arXiv (Cornell University)|Feb 4, 2026

Domain Adaptation and Few-Shot Learning被引用数 0

ひとこと要約

この論文は連続学習を二つの目的の問題として再定式化し、Douglas-Rachford Splitting (DRS) を用いて可塑性と安定性を分離。リプレイや構造的成長なしで、安定性-可塑性のトレードオフを改善。

ABSTRACT

Learning from a stream of tasks usually pits plasticity against stability: acquiring new knowledge often causes catastrophic forgetting of past information. Most methods address this by summing competing loss terms, creating gradient conflicts that are managed with complex and often inefficient strategies such as external memory replay or parameter regularization. We propose a reformulation of the continual learning objective using Douglas-Rachford Splitting (DRS). This reframes the learning process not as a direct trade-off, but as a negotiation between two decoupled objectives: one promoting plasticity for new tasks and the other enforcing stability of old knowledge. By iteratively finding a consensus through their proximal operators, DRS provides a more principled and stable learning dynamic. Our approach achieves an efficient balance between stability and plasticity without the need for auxiliary modules or complex add-ons, providing a simpler yet more powerful paradigm for continual learning systems.

研究の動機と目的

• 連続学習における安定-可塑性のジレンマを動機付け、最適化の絡み合いを根本的な問題として批判する。
• リプレイなし、DRSベースの最適化フレームワークを提案し、タスク適合（可塑性）と事前適合（安定性）をデカップリングする。
• Rényiダイバージェンスを用いたベイズ潜在空間を活用し、タスク間の知識伝達を構造化。
• 収束保証と標準ベンチマークにおける実証的優位性を示す。
• 潜在的確率性とダイバージェンスのパラメータ化といった設計選択を正当化するアブレーションを提供。

提案手法

• 現在のタスクに対するタスク適合損失 f を最小化し、事前分布との後方分布間のRényiダイバージェンスを用いて安定性 g を最小化することとして連続学習の目的を定式化。
• Douglas-Rachford Splitting を用いて prox_f と prox_g を反復的・緩和的更新ループで別々に解く。
• 更新ステップ: 1) prox_f（可塑性）で現在のタスクに適合させる； 2) prox_g（安定性）を反射上で適合させ、エンコーダを prior に合わせる； 3) λ_r を用いた緩和更新で可塑性と安定性を結合する。
• 潜在 z をガウス分布 q_phi(z|x) およびガウス事前 p(z) でパラメータ化し、タスク間で後方から前方への伝播を用いる。
• 安定で柔軟な制約のため α>1 の Rényi ダイバージェンス D_alpha(q||p)（経験的に α=2.0）を採用し、ガウスの場合の閉形式解を提供（A.4.1）。
• DRS の不動点が複合目的関数の停留点に対応し、prox ステップ間の差異の減衰（||x_k - y_k|| -> 0）を示して収束を証明する。

実験結果

リサーチクエスチョン

• RQ1 DRS分割ベースの最適化は連続学習において可塑性と安定性を分離し、停留点へ収束するか？
• RQ2 KLよりRényiダイバージェンスを用いるとリプレイなし設定で安定性-可塑性のバランスとロバスト性が改善されるか？
• RQ3 構造化された潜在空間を用いた後方から前方への伝播は、長いタスク列で転移を強化し忘却を減らすか？
• RQ4 提案手法は分離タスク設定とジョイントタスク設定の標準CLベンチマークでどう性能を示すか？
• RQ5 潜在確率性と発散パラメータαが性能と計算時間に与える影響はどの程度か？

主な発見

Method	CIFAR-100 [10]	CIFAR-100 [20]	Tiny-ImageNet [20]	ImageNet [100]	Avg.	CelebA [10]	EM [10]	Avg.
Ours	71.8±0.3	79.5±0.6	51.6±0.4	59.7±0.5	65.7	87.9±0.5	88.6±0.1	88.2

• DRSベースの連続学習器は分離ベンチマークで平均精度65.7、忘却はほぼ最小限（BWT -1.9）で最良を達成。
• ジョイントタスク設定では最高精度88.2と最 Strongな正の後向転移（BWT +3.2）を示す。
• 前向き転移は強く、新規タスクで最大+10.4の改善。
• アブレーションでは潜在的確率性と Rényi ダイバージェンス（α ≈ 2.0）が性能に有益で、決定論的潜在は精度を低下させる。
• この手法はリプレイフリーで、実行時間も競争力があり、精度でベースラインを上回る。
• 理論的にはDRSの不動点が停留点へ収束することと、可塑性-安定性の差異が減衰することを保証。