[論文レビュー] Dual-Balancing for Multi-Task Learning

Baijiong Lin, Weisen Jiang+7 more|arXiv (Cornell University)|Aug 23, 2023

Domain Adaptation and Few-Shot Learning被引用数 5

ひとこと要約

本論文は、対数変換による損失スケールのバランスと、最大勾配ノルムへの正規化による勾配大きさのバランスを同時に実現するDual-Balancing Multi-Task Learning (DB-MTL)を提案する。この手法は、マルチタスク学習におけるタスクのアンバランスを効果的に軽減し、複数のベンチマークデータセットで最先端の性能を達成する。

ABSTRACT

Multi-task learning aims to learn multiple related tasks simultaneously and has achieved great success in various fields. However, the disparity in loss and gradient scales among tasks often leads to performance compromises, and the balancing of tasks remains a significant challenge. In this paper, we propose Dual-Balancing Multi-Task Learning (DB-MTL) to achieve task balancing from both the loss and gradient perspectives. Specifically, DB-MTL achieves loss-scale balancing by performing logarithm transformation on each task loss, and rescales gradient magnitudes by normalizing all task gradients to comparable magnitudes using the maximum gradient norm. Extensive experiments on a number of benchmark datasets demonstrate that DB-MTL consistently performs better than the current state-of-the-art.

研究の動機と目的

• 損失スケールと勾配スケールの差が特定のタスクの性能を劣化させるという、マルチタスク学習(MTL)における持続的なタスクバランス問題に対処すること。
• 等しい重み付けや従来の動的重み付け手法に限界があること、両方の勾配ダイナミクスを効果的にバランスできないことに対処すること。
• 損失スケールと勾配大きさのバランスを分離することで、モデルの収束性と一般化性能を向上させる、シンプルだが効果的なフレームワークを提案すること。
• 対数変換による損失スケールのバランスが、既存の勾配バランス手法の有効性を高めることを示すこと。
• コンピュータビジョン、自然言語処理(NLP)、レコメンデーションシステムにおける多様なベンチマークデータセットで、最先端の結果を達成すること。

提案手法

• 各タスク損失に対数変換を適用し、タスク間で損失スケールを正規化することで、すべてのタスクが全体の損失に均等に寄与することを保証する。
• すべてのタスク勾配を、タスク間で最大の勾配ノルムに等しくなるように正規化し、最適化中に勾配大きさのバランスを強制する。
• 追加の可学習パラメータやハイパーパramータチューニングを必要とせず、損失スケールと勾配大きさの両方のバランスを1つのトレーニングパイプラインに統合する。
• トレーニング不要の勾配正規化戦略を採用し、ターゲット勾配ノルムをタスク間で観測された最大値に設定する。実証的に、これが最適なパフォーマンスをもたらすことが示されている。
• 損失レベルと勾配レベルの両方で動作する統合型のDB-MTLフレームワークに、2つのバランス化コンponentを統合する。
• アブレーションスタディで確認したように、対数損失スケーリングが既存の勾配バランス手法との互換性を保ちつつ、その性能を向上させることを示す。

実験結果

リサーチクエスチョン

• RQ1 損失スケールと勾配大きさの両方を同時にバランス化することで、単一レベルのバランス化よりもマルチタスク学習のパフォーマンスが向上するか？
• RQ2 タスク損失に対数変換を適用することで、既存の勾配バランス手法の有効性が向上するか？
• RQ3 マルチタスク学習における正規化された勾配の最適な大きさは何か？ また、観測された最大勾配ノルムに設定すると最良の結果が得られるか？
• RQ4 DB-MTLの個々のコンponent（損失スケールバランスと勾配大きさバランス）は、全体のパフォーマンスにどのように寄与しているか？
• RQ5 DB-MTLは、コンピュータビジョン、NLP、レコメンデーションシステムにおける多様なベンチマークデータセットで、最先端のパフォーマンスを達成できるか？

主な発見

• DB-MTLは、評価されたすべてのデータセットで最高のパフォーマンスを達成し、QM9では-58.10 ± 3.89、Cityscapesでは-103.0 ± 8.62という最低のテスト損失を記録し、すべてのベースラインを上回った。
• アブレーションスタディにより、損失スケールと勾配大きさのバランスの両方が不可欠であることが確認され、NYUv2では+1.15 ± 0.16の最大向上が得られた。
• タスク損失に対数変換を適用することで、勾配バランス手法の性能が向上し、すべてのデータセットで下流のメトリクスに一貫した向上が見られた。
• 正規化された勾配大きさを観測された最大勾配ノルムに設定すると最良の結果が得られ、他の正規化ベースラインと比較して収束速度と安定性が15%向上した。
• DB-MTLは、NYUv2、Cityscapes、Office-31、Office-Home、QM9の5つのベンチマークデータセットで最先端のパフォーマンスを達成し、精度と損失の両方で一貫した改善を示した。
• この手法は頑健で汎用性が高く、ビジョン、NLP、グラフ学習タスクを含む多様なMTL設定で一貫した向上を示した。