[論文レビュー] Deep Long-Tailed Learning: A Survey

Yifan Zhang, Bingyi Kang+3 more|arXiv (Cornell University)|Oct 9, 2021

Domain Adaptation and Few-Shot Learning参考文献 166被引用数 79

ひとこと要約

深層長尾学習の総合的な調査で、手法をクラス再バランス、情報拡張、モジュール改善に分類し、評価指標として新しい相対精度を提案する。

ABSTRACT

Deep long-tailed learning, one of the most challenging problems in visual recognition, aims to train well-performing deep models from a large number of images that follow a long-tailed class distribution. In the last decade, deep learning has emerged as a powerful recognition model for learning high-quality image representations and has led to remarkable breakthroughs in generic visual recognition. However, long-tailed class imbalance, a common problem in practical visual recognition tasks, often limits the practicality of deep network based recognition models in real-world applications, since they can be easily biased towards dominant classes and perform poorly on tail classes. To address this problem, a large number of studies have been conducted in recent years, making promising progress in the field of deep long-tailed learning. Considering the rapid evolution of this field, this paper aims to provide a comprehensive survey on recent advances in deep long-tailed learning. To be specific, we group existing deep long-tailed learning studies into three main categories (i.e., class re-balancing, information augmentation and module improvement), and review these methods following this taxonomy in detail. Afterward, we empirically analyze several state-of-the-art methods by evaluating to what extent they address the issue of class imbalance via a newly proposed evaluation metric, i.e., relative accuracy. We conclude the survey by highlighting important applications of deep long-tailed learning and identifying several promising directions for future research.

研究の動機と目的

• 長尾クラス分布の下で深層モデルを訓練する際の課題を要約する。
• 既存の深層長尾学習手法を3つの主要カテゴリと9つのサブカテゴリに分類する。
• 方法が不均衡に対処する程度を評価するための新しい評価指標（相対精度）を用いた経験的分析フレームワークを提供する。
• 実世界の応用を強調し、将来の研究の有望な方向性を特定する。

提案手法

• 既存の手法を3つの主要カテゴリ：クラス再バランス、情報拡張、モジュール改善 に整理・レビューする。
• クラス再バランスの分野では、リサンプリング、クラス感度学習、ロジット調整を論じる。
• 転移学習およびデータ拡張を含む情報拡張をレビューする。
• 表現学習、分類器設計、デカップリング学習、アンサンブル学習などのモジュール改善アプローチを扱う。
• 最先端手法を分析するために新しい評価指標、相対精度を提案・適用する。

実験結果

リサーチクエスチョン

• RQ1 既存の深層長尾学習手法は、ヘッド・ミドル・テールクラス全体で不均衡なクラス分布をどのように緩和するか？
• RQ2 3つの大分類（再バランス、拡張、モジュール改善）における、尾部クラスの改善に最も寄与する核となる手法は何か？
• RQ3 提案された相対精度指標で評価した場合、現在の手法はどれほど効果的か？
• RQ4 これらの手法の実践的影響と限界を示すデータセットと応用例は何か？
• RQ5 深層長尾学習を進展させる上で最も有望な将来の方向性と新しいタスク設定は何か？

主な発見

• 2021年半ばまでの深層長尾学習の初の総合的調査を提供する。
• 高度な手法の詳細なレビューと、相対精度指標を用いた不均衡対処の経験的分析を提供する。
• 手法革新の4つの潜在的方向性と今後の研究のための8つの新タスク設定を特定する。
• 細粒度で不均衡な視覚タスクにおける実世界の応用と既存アプローチの限界を論じる。