[論文レビュー] Learning Soft Labels via Meta Learning

Nidhi Vyas, Shreyas Saxena+1 more|arXiv (Cornell University)|Sep 20, 2020

Machine Learning and Data Classification参考文献 27被引用数 18

ひとこと要約

本論文は、ソフトラベルを学習可能なパラメータとして扱い、トレーニング中に動的に最適化することで汎化性能を向上させるとともに、ノイズのあるアノテーションを是正するメタラーニングフレームワークを提案する。モデルパラメータと併せてメタラーニングの目的関数に基づきラベルを最適化することで、CIFAR100（ResNet18で2.1%の精度向上）で最先端の性能を達成し、ノイズの多いデータ設定でも既存手法を上回る。

ABSTRACT

One-hot labels do not represent soft decision boundaries among concepts, and hence, models trained on them are prone to overfitting. Using soft labels as targets provide regularization, but different soft labels might be optimal at different stages of optimization. Also, training with fixed labels in the presence of noisy annotations leads to worse generalization. To address these limitations, we propose a framework, where we treat the labels as learnable parameters, and optimize them along with model parameters. The learned labels continuously adapt themselves to the model's state, thereby providing dynamic regularization. When applied to the task of supervised image-classification, our method leads to consistent gains across different datasets and architectures. For instance, dynamically learned labels improve ResNet18 by 2.1% on CIFAR100. When applied to dataset containing noisy labels, the learned labels correct the annotation mistakes, and improves over state-of-the-art by a significant margin. Finally, we show that learned labels capture semantic relationship between classes, and thereby improve teacher models for the downstream task of distillation.

研究の動機と目的

• 硬い意思決定境界や劣った汎化性能を引き起こす固定のワンホットラベルの限界を解消する。
• 静的ソフトラベル（例：ラベルスムージング）の最適でない正則化を克服し、トレーニング中に動的に適応可能にする。
• 人為的介入なしにデータセット内のノイズのあるアノテーションを是正し、現実世界のデータ環境におけるロバスト性を向上させる。
• 意味的センシティブなソフトラベルを学習することで知識蒸留を改善し、教師モデルの性能を向上させる。
• ラベルとモデルパラメータを一括して最適化することで、クリーンデータとノイズのあるデータの両環境で効果的に機能する統合フレームワークを構築する。

提案手法

• モデル重みと併せて勾配降下法で最適化可能な微分可能パラメータとして、クラスレベルおよびインスタンスレベルのラベルを扱う。
• メタラーニングの目的関数を用いる：検証データセットにおけるモデル性能を最大化するようにラベルを更新し、モデル状態と整合性を保つ。
• クラスレベルのラベルに対しては、各クラスごとに個別にスムージングパラメータ αᵏᵗ を適用し、pᵢ,ₖᵗ = 1−αᵧᵢᵗ（ターゲットクラス）および αᵧᵢᵗ/(c−1)（その他のクラス）とする。
• インスタンスレベルのラベルに対しては、同じメタ最適化戦略を用いて各データポイントごとに固有のソフトラベルを学習し、インスタンス固有の正則化を実現する。
• 暗黙の微分を用いてラベル最適化プロセスをバックプロパゲートし、モデルパラメータとラベルパラメータの両方をエンドツーエンドでトレーニング可能にする。
• 最適化履歴を活用して安定したラベル更新を維持し、ラベルとモデルを交互に最適化する際によく見られる退化解を回避する。

実験結果

リサーチクエスチョン

• RQ1 トレーニング中にソフトラベルを動的に最適化することで、静的ラベルスムージングを上回る汎化性能の向上が達成可能か？
• RQ2 ヒューリスティクスや補助モデルに依存せずに、メタラーニングフレームワークがノイズのあるデータセット内の誤分類例を効果的に是正できるか？
• RQ3 動的に学習されたソフトラベルはクラス間の意味的関係を捉えており、知識蒸留の性能向上に寄与するか？
• RQ4 ラベルとモデルパラメータを同時に最適化する手法は、さまざまなノイズレベル下で最先端手法と比較して、精度とロバスト性の面で優れているか？
• RQ5 学習されたソフトラベルは、教師ネットワークを必要とせず、他のモデルに直接教師信号を転送できる知識蒸留の直接的代替手段として機能するか？

主な発見

• 標準的なワンホットラベルを用いたトレーニングと比較して、ResNet18におけるCIFAR100の精度が2.1%向上した。
• CIFAR100に40%の均等ノイズを加えた状況でも、WRN28-10を用いて76.9±0.3%のテスト精度を達成し、MentorNet DD や L2RW といった最先端手法を上回った。
• 学習されたインスタンスレベルのソフトラベルは、ノイズのあるデータセットにおけるアノテーション誤りを是正し、ベースラインと比較して顕著な汎化性能の向上を実現した。
• メタラーニングにより学習されたソフトラベルはクラス間の意味的関係を捉えており、知識蒸留の性能向上に寄与した。
• クリーンデータおよびノイズのあるデータの両設定で既存手法を上回り、複数のアーキテクチャおよびデータセットで一貫した向上を示した。
• 知識蒸留と比較して競争力のある性能を達成し、教師ネットワークを必要とせず、ソフトラベルを他のモデルに直接転送可能である。