[論文レビュー] Avalanche: A PyTorch Library for Deep Continual Learning

Antonio Carta, Lorenzo Pellegrini+3 more|arXiv (Cornell University)|Feb 2, 2023

Domain Adaptation and Few-Shot Learning被引用数 12

ひとこと要約

Avalanche は PyTorch を拡張し、ディープ・継続学習のための動的アーキテクチャ、データストリーム、インクレメンタル訓練/評価をサポートし、ベンチマーク、訓練戦略、プラグインベースの拡張性を提供します。

ABSTRACT

Continual learning is the problem of learning from a nonstationary stream of data, a fundamental issue for sustainable and efficient training of deep neural networks over time. Unfortunately, deep learning libraries only provide primitives for offline training, assuming that model's architecture and data are fixed. Avalanche is an open source library maintained by the ContinualAI non-profit organization that extends PyTorch by providing first-class support for dynamic architectures, streams of datasets, and incremental training and evaluation methods. Avalanche provides a large set of predefined benchmarks and training algorithms and it is easy to extend and modular while supporting a wide range of continual learning scenarios. Documentation is available at \url{https://avalanche.continualai.org}.

研究の動機と目的

• 非定常なデータストリームからの学習として継続的学習を動機づけ、標準ライブラリにおけるオフライン訓練の限界に対処する。
• ダイナミックアーキテクチャ、ストリーミングデータセット、および継続的学習(CL)シナリオの逐次訓練/評価をサポートする、拡張可能な PyTorch ベースのプラットフォームとして Avalanche を紹介する。
• CL 研究における迅速なプロトタイピングと再現性を促進するための、ライブラリのモジュール設計、ベンチマーク、戦略、評価/ログツールを提示する。
• コンポーネントの再利用を可能にするアーキテクチャ機能、プラグインベースのカスタマイズ、および研究ワークフローとの広範な互換性を強調する。

提案手法

• ベンチマーク、トレーニング、モデル、評価、ロガーの5モジュールからなるアーキテクチャを説明する。
• トレーニング中にアーキテクチャ、リプレイバッファ、損失、最適化手法を更新できる、動的かつスタンドアロンのコンポーネントを説明する。
• CL 手法を結合・再利用するためのプラグインシステムとコールバックベースの戦略テンプレートを詳述する。
• ストリーム操作、バランシング、リプレイバッファのための AvalancheDataset とデータローダーのユーティリティを示す。
• 実験間の信頼性を確保するためのテスト、継続的インテグレーション、再現性の実践を概説する。

実験結果

リサーチクエスチョン

• RQ1 Avalanche はどのくらいの継続学習シナリオとベンチマークをサポートしており、それらをどのように拡張できるか？
• RQ2 プラグインとテンプレートシステムは、さまざまな CL 設定で戦略を結合・再利用することをどのように可能にするか？
• RQ3 学習中に動的アーキテクチャや進化する訓練コンポーネントを提供する仕組みは何か？
• RQ4 訓練と評価における再現性とロギングには、Avalanche はどのように対処しているか？
• RQ5 Avalanche が研究志向の継続学習ワークフローへ拡張するという証拠は何があるか？

主な発見

• Avalanche は深層継続学習の最大級のソフトウェアライブラリとして提示されている（公表されたリリース時点で）。
• ライブラリは、研究志向の CL プロジェクトの迅速なプロトタイピング、再現性、移植性を強調している。
• Avalanche は、5 つの中核モジュールと戦略の結合をサポートする堅牢なプラグインシステムを備えた、モジュール型・拡張可能な設計を提供する。
• DynamicModules、ExemplarBuffers、およびプラグインは、トレーニングループ内でアーキテクチャ、リプレイバッファ、損失のその場での更新を可能にする。
• 総合的な評価/ロギングインフラストラクチャ（EvaluationPlugin と複数のロガー）は、実験中の指標とシステムリソースの監視を促進する。