[論文レビュー] Continual Variational Autoencoder Learning via Online Cooperative Memorization

Fei Ye, Adrian G. Borş|arXiv (Cornell University)|Jul 20, 2022

Domain Adaptation and Few-Shot Learning被引用数 6

ひとこと要約

本稿では、継続的変分オートエンコーダー（VAE）のための新規メモリバッファフレームワーク、オンライン協調記憶（OCM）を提案する。この手法は、分類ラベルを必要とせずに、カーネルに基づく多様性基準を用いて短期記憶（STM）から長期記憶（LTM）へ多様なサンプルを動的に転送することで、生涯にわたる生成的モデリングを向上させる。継続的学習ベンチマークにおいて、パrameterの追加が最小限であるにもかかわらず、再構成品質と分類精度の最先端性能を達成する。

ABSTRACT

Due to their inference, data representation and reconstruction properties, Variational Autoencoders (VAE) have been successfully used in continual learning classification tasks. However, their ability to generate images with specifications corresponding to the classes and databases learned during Continual Learning (CL) is not well understood and catastrophic forgetting remains a significant challenge. In this paper, we firstly analyze the forgetting behaviour of VAEs by developing a new theoretical framework that formulates CL as a dynamic optimal transport problem. This framework proves approximate bounds to the data likelihood without requiring the task information and explains how the prior knowledge is lost during the training process. We then propose a novel memory buffering approach, namely the Online Cooperative Memorization (OCM) framework, which consists of a Short-Term Memory (STM) that continually stores recent samples to provide future information for the model, and a Long-Term Memory (LTM) aiming to preserve a wide diversity of samples. The proposed OCM transfers certain samples from STM to LTM according to the information diversity selection criterion without requiring any supervised signals. The OCM framework is then combined with a dynamic VAE expansion mixture network for further enhancing its performance.

研究の動機と目的

• タスクフリー継続的学習（TFCL）において、タスクの識別子が不明な状況下での変分オートエンコーダー（VAE）における災難的忘却（catastrophic forgetting）を解消すること。
• 動的最適輸送（OT）理論を用いて、TFCLにおけるVAEにおける忘却の理論的裏付けを提供するフレームワークを構築すること。
• 教師信号や事前のタスク情報に依存せずに、データの多様性を保持するメモリ機構を設計すること。
• スケーラブルで高パフォーマンスな生涯生成的モデリングを実現するため、OCMフレームワークを動的VAE混合ネットワークと統合すること。

提案手法

• 継続的学習を動的最適輸送問題として定式化し、データ尤度の理論的上限を導出することで、忘却の緩和に向けたメモリ多様性の重要性を明らかにする。
• 短期記憶（STM）を用いた最近のデータの保持と、長期記憶（LTM）を用いた長期的保持を実現する2つのメモリコンponentを備えたオンライン協調記憶（OCM）を提案する。
• 分類ラベルなしで、STM内のサンプルの多様性を評価するためのカーネルベースの類似度測度を導入し、LTMへの転送に適した代表的サンプルを選択する。
• タスク間のデータ分布の変化をモデル化できるように、新しいVAEコンポーネントを動的に追加する動的VAE混合ネットワークを採用する。
• カーネル化された距離に基づくしきい値機構を用い、STMからLTMへのサンプル転送のタイミングを決定することで、多様性を確保し、重複を避ける。
• ELBO最適化を用いてOCMとVAE学習を統合し、アーキテクチャの最小限の変更で、TFCL下でのエンドツーエンド学習を可能にする。

実験結果

リサーチクエスチョン

• RQ1 タスクフリー継続的学習下でのVAEにおける災難的忘却はどのように現れるのか？ また、その挙動を支配する理論的原則は何か？
• RQ2 分類ラベルやタスク識別子に依存せずに、データ多様性を保持できるメモリバッファシステムを設計可能か？
• RQ3 継続的VAE学習において、メモリ多様性が再構成データの尤度に与える影響は何か？
• RQ4 提案されたOCMフレームワークは、既存のメモリベースおよび拡張ベースのVAE手法と比較して、再構成性能および一般化性能においてどのように差をつけるか？

主な発見

• 理論的分析により、TFCL下でのVAEにおけるデータ尤度は最適輸送距離によって上限づけられ、メモリ多様性が性能維持に不可欠であることが示された。
• 動的拡張を備えたOCMは、LIMix や CNDPM よりも、クロスドメインおよびImageNetでより少ない混合コンポーネント数と低いメモリ使用量で優れた性能を発揮した。
• Split MNISTおよびCIFAR10では、Dynamic-OCMが2.0KのLTMサンプルで94.02%の精度を達成し、最先端手法を上回った。
• ImageNetでは、拡張を用いたOCMがIS 6.36、FID 133.23を達成し、ランダムなメモリ選択（IS 3.15、FID 145.36）を著しく上回った。
• OCMフレームワークは再構成品質を向上させ、ランダムサンプリングベースラインと比較して、よりシャープな生成画像と低いFIDスコアを示した。
• 分類タスクにも一般化可能であり、Split MNIST、CIFAR10、CIFAR100で、競合手法よりも少ないパrameter数で最先端の性能を達成した。