[論文レビュー] Searching to Exploit Memorization Effect in Learning from Corrupted Labels

Quanming Yao, Hansi Yang+3 more|arXiv (Cornell University)|Nov 6, 2019

Machine Learning and Data Classification参考文献 44被引用数 9

ひとこと要約

本稿では、ノイズのあるラベルで学習する際の深層ネットワークの記憶化効果を活用するため、最適なサンプル選択スケジュールを自動で学習する新しいAutoMLベースの手法S2Eを提案する。選択プロセスをドメイン固有の探索空間上で二段階最適化問題として定式化し、確率的リラクゼーションニュートン法を用いることで、CIFARおよびMNISTベンチマークで最先端の精度と効率性を達成し、クリーンなサンプル選択および一般化性能の両面で既存手法を上回る。

ABSTRACT

Sample selection approaches are popular in robust learning from noisy labels. However, how to properly control the selection process so that deep networks can benefit from the memorization effect is a hard problem. In this paper, motivated by the success of automated machine learning (AutoML), we model this issue as a function approximation problem. Specifically, we design a domain-specific search space based on general patterns of the memorization effect and propose a novel Newton algorithm to solve the bi-level optimization problem efficiently. We further provide theoretical analysis of the algorithm, which ensures a good approximation to critical points. Experiments are performed on benchmark data sets. Results demonstrate that the proposed method is much better than the state-of-the-art noisy-label-learning approaches, and also much more efficient than existing AutoML algorithms.

研究の動機と目的

• 手動で設計されたスケジュールが非効率的かつ不適切であるため、ノイズラベルを伴う深層学習における最適なトレーニングサンプル選択の課題に対処する。
• ネットワークがノイズのないラベルパターンを過学習する前に学習する記憶化効果を、トレーニング中に動的にサンプル選択を調整することで活用する。
• Co-teachingなどの既存のサンプル選択アプローチで使用される手動設計スケジュールに代わる、自動的かつデータ依存の方法を開発する。
• 深層ネットワークの学習曲線パターンを観察して得られる、典型的な記憶化行動を反映する基本関数を用いて、選択スケジュールのコンactかつ表現力のある探索空間を設計する。
• 離散的で微分不能なサンプル選択プロセスに勾配ベースの最適化を効果的に適用するため、確率的リラクゼーションとニュートン法を組み合わせた効率的な探索アルゴリズムを提案する。

提案手法

• サンプル選択スケジュール学習を、ニューラルアーキテクチャサーチに類似した二段階最適化問題として定式化する。外側のループでスケジュールを最適化し、内側のループで学生ネットワークを訓練する。
• 典型的な記憶化行動（初期段階で高い損失、その後急速に低損失へ収束）を反映する基本関数を用いて、ドメイン固有の探索空間を設計する。
• 離散的サンプル選択演算子を近似するための確率的リラクゼーション技術を導入し、最適化に向けた勾配計算を可能にする。
• ヘッセ行列の近似を用いたニュートン法を適用し、モデルの性能と最適化ダイナミクスの両方を組み込んだ外側の目的関数を効率的に最適化する。
• 各エポック $ t $ における選択されるサンプルの割合を制御するため、シグモイドベースの出力層を用いて選択率関数 $ R(t) $ をパラメータ化し、滑らかで微分可能な制御を実現する。
• 学習済みスケジュールをCo-teachingに類似したフレームワークに統合し、二つのネットワークが互いの予測から選択されたクリーンなサンプルで学習する。

実験結果

リサーチクエスチョン

• RQ1 自動的かつデータ駆動型のアプローチは、ノイズラベル学習における手動設計スケジュールを上回ることができるか？
• RQ2 深層ネットワークの記憶化効果は、適応的かつ動的なサンプル選択によってどのように効果的に活用できるか？
• RQ3 異なるデータセットやアーキテクチャに一般化可能な、表現力はあるがコンactな選択スケジュールの探索空間は何か？
• RQ4 勾配ベースの探索アルゴリズムは、離散的で微分不能なサンプル選択プロセスに効果的に適用可能か？
• RQ5 提案手法は、ノイズラベル学習分野における最先端の手法と比較して、より優れた一般化性能と効率性を達成するか？

主な発見

• S2Eは、CIFAR-10（対称性-50％ノイズ時50.82％）、CIFAR-100（対称性-50％ノイズ時38.74％）、MNIST（ペア-45％ノイズ時96.90％）で、既存手法を上回る最先端のテスト精度を達成する。
• ベースラインと比較して、すべてのデータセットおよびノイズタイプで一貫して高いラベル正確性を示しており、クリーンサンプルの選択割合が顕著に高いことが裏付けられる。
• CIFAR-10では、ニュートン法に基づく探索アルゴリズムを用いたS2Eが、勾配降下法、自然勾配法、ベイズ最適化、Hyperbandよりも高速に収束し、モデルトレーニングの呼び出し回数が少ない。
• アブレーションスタディの結果、提案された探索空間は一般関数近似器（RBF、MLP）よりも効果的であり、さらにCo-teachingや単一基本関数設計をも上回る性能を示す。
• MLPベースラインから学習された $ R(t) $ 関数は、仮定1で想定される形状に非常に近づいており、探索空間の設計が妥当であることを検証する。
• 確率的リラクゼーションとニュートン法の併用により、サンプル選択の非微分性にもかかわらず効率的な最適化が可能となり、臨界点への理論的収束保証が得られる。