[論文レビュー] Deep Learning from Small Amount of Medical Data with Noisy Labels: A Meta-Learning Approach

Görkem Algan, İlkay Ulusoy+3 more|arXiv (Cornell University)|Oct 14, 2020

Machine Learning and Data Classification参考文献 28被引用数 4

ひとこと要約

本論文は、少量のクリーンな「メタデータ」を用いてラベルノイズにさらされた小さな医療データセットにおける深層学習の性能を向上させるためのメタラーニングフレームワークを提案する。この手法は、メタトレーニング中にソフトラベル予測を用いることで、ラベルノイズへの過学習を低減し、68%のラベルノイズを含む網膜症の前駆動期（ROP）データセットで91.4%のテスト精度を達成した。これは、標準的な交差エントロピー学習や既存の手法よりも優れている。

ABSTRACT

Computer vision systems recently made a big leap thanks to deep neural networks. However, these systems require correctly labeled large datasets in order to be trained properly, which is very difficult to obtain for medical applications. Two main reasons for label noise in medical applications are the high complexity of the data and conflicting opinions of experts. Moreover, medical imaging datasets are commonly tiny, which makes each data very important in learning. As a result, if not handled properly, label noise significantly degrades the performance. Therefore, a label-noise-robust learning algorithm that makes use of the meta-learning paradigm is proposed in this article. The proposed solution is tested on retinopathy of prematurity (ROP) dataset with a very high label noise of 68%. Results show that the proposed algorithm significantly improves the classification algorithm's performance in the presence of noisy labels.

研究の動機と目的

• 専門家間の合意の欠如やデータの複雑さに起因する、高レベルのラベルノイズを伴う小さな医療データセットにおける深層学習モデルの訓練という課題に対処すること。
• 小さなノイズの多いデータセットでは失敗する、従来の損失関数やデータクリーニング手法の限界を克服すること。
• 最小限の検証済みクリーンデータを用いて、ノイズの多いラベルからの学習を効果的にガイドするメタラーニングフレームワークを開発すること。
• データが限られる状況下でも、医療画像分類において一般化性能を向上させ、ノイズラベルへの過学習を防ぐこと。
• 小さな、極めてノイズの多い網膜症の前駆動期（ROP）データセットにおいて、最先端の性能を示すこと。

提案手法

• フレームワークは、従来のトレーニングループとメタトレーニングループの2ループ構造を採用するメタラーニングアーキテクチャを採用している。
• メタトレーニング中、モデルは少量の検証済みクリーン例（メタデータ）を用いて、ノイズの多いトレーニングデータのソフトラベル表現を学習する。
• ベース分類器は、真のノイズラベルの代わりに予測されたソフトラベルで訓練されるため、誤ったラベルの記憶が低減される。
• メタ目的関数は、メタロスとベースロスの重み付き組み合わせで最適化され、ハイパーパrameterとして K=10、α=0.5、β=4000 を使用している。
• より大きな糖尿病網膜症データセットでの事前学習により、ROPデータセットへのファインチューニングの前に特徴の学習が向上する。
• 勾配降下法にモーメンタムと学習率スケジューリングを適用し、10エポックのウォームアップを経てから20エポックのメタトレーニングを実施する。

実験結果

リサーチクエスチョン

• RQ1 極めてラベルノイズの高い小さな医療データセットで学習する際、メタラーニングがモデルの一般化性能を効果的に向上させることができるか？
• RQ2 少量のクリーンなメタデータを用いることで、医療画像分類におけるノイズラベルからの学習がどの程度向上するか？
• RQ3 標準的な交差エントロピー学習と比較して、ソフトラベル予測メカニズムがノイズラベルへの過学習をどの程度低減できるか？
• RQ4 提案手法は、小さなノイズの多い医療データセットにおいて、従来手法や最先端の手法を上回る性能を示すか？
• RQ5 100%のトレーニング精度を回避することで、ノイズラベルに対してロバストであることが保証されるか？

主な発見

• 提案手法は、68%のラベルノイズを含むROPデータセットで91.4%のテスト精度を達成し、標準的な交差エントロピー学習（86.3%および90.3%）を上回った。
• 提案手法ではトレーニング精度が86.23%に制限されたが、これはノイズラベルへの過学習が効果的に防止されていることを示しており、交差エントロピー学習では100%に達したのとは対照的である。
• 本手法は、5.5k～8.5k枚の画像を用いた先行研究と同等の性能を達成したが、実際には1.9k枚の画像での学習にとどまっている。
• より大きな糖尿病網膜症データセットでの事前学習により、ROPデータセット単体での直接学習に比べて4%の性能向上が達成された。
• 最小限のクリーンなメタデータを活用して、ノイズの多いデータから有用な知識を抽出することができ、低データ・高ノイズ環境下での有効性が示された。
• 極度のラベルノイズ下でもモデルのロバスト性を維持できたため、実世界の医療画像応用における実用的価値があると考えられる。