[論文レビュー] Noisy Labels are Treasure: Mean-Teacher-Assisted Confident Learning for Hepatic Vessel Segmentation

Zhe Xu, Donghuan Lu+6 more|arXiv (Cornell University)|Jun 3, 2021

Advanced Neural Network Applications参考文献 27被引用数 4

ひとこと要約

本稿では、低品質（ノイジィ）な肝臓血管のアノテーションを活用してセグメンテーションを向上させるために、Mean-Teacherを支援とするConfident Learning（MTCL）フレームワークを提案する。教師ネットワークを用いて、Confident Learningにより画素単位のラベル補正をガイドすることで、ノイズの多いラベルを「負担」から「貴重な資産」に変換し、2つの公的データセットでSOTA（最先端）の性能を達成した。Diceスコアとハウスドルフ距離の両面で顕著な向上が得られた。

ABSTRACT

Manually segmenting the hepatic vessels from Computer Tomography (CT) is far more expertise-demanding and laborious than other structures due to the low-contrast and complex morphology of vessels, resulting in the extreme lack of high-quality labeled data. Without sufficient high-quality annotations, the usual data-driven learning-based approaches struggle with deficient training. On the other hand, directly introducing additional data with low-quality annotations may confuse the network, leading to undesirable performance degradation. To address this issue, we propose a novel mean-teacher-assisted confident learning framework to robustly exploit the noisy labeled data for the challenging hepatic vessel segmentation task. Specifically, with the adapted confident learning assisted by a third party, i.e., the weight-averaged teacher model, the noisy labels in the additional low-quality dataset can be transformed from "encumbrance" to "treasure" via progressive pixel-wise soft-correction, thus providing productive guidance. Extensive experiments using two public datasets demonstrate the superiority of the proposed framework as well as the effectiveness of each component.

研究の動機と目的

• CTスキャンにおける肝臓血管データに高品質（HQ）ラベルが不足している問題に寄与する。これは、低コントラストと複雑な形状のため、ラベリングが困難であるためである。
• トレーニングデータに低品質（LQ）のノイジィラベルを導入することで生じる性能劣化を克服すること。
• 豊富に存在するLQラベルデータを効果的に活用するための方法を開発すること。具体的には、ノイズのあるアノテーションを信頼性の高い学習信号に変換すること。
• 限られたHQデータと大規模なLQデータを用いて、肝臓血管セグメンテーションにおけるロバストな半教師あり学習を可能にすること。

提案手法

• フレームワークは、データオーグメンテーションを用いて学習する学生ネットワークと、指数的加重平均（EWA）パラメータを持つ教師ネットワークが提供する一貫性のある予測を特徴とするMean-Teacherアーキテクチャを採用する。
• ラベルの汚染を分類ノイズプロセス（CNP）仮定を用いてモデル化することで、画素単位のノイズ検出にConfident Learning（CL）を適応する。
• 教師ネットワークの予測から得られる信頼度スコアを用いて、段階的にノイズラベルを修正するスムーズに自己ノイズ除去モジュール（SSDM）を導入する。
• 異なるオーグメンテーション下での学生と教師の予測の整合性を保つための整合性損失を用いることで、ロバストネスと特徴学習を向上させる。
• ノイズラベルは破棄されず、信頼度に基づいて再重み付けされ、修正されることで、HQおよびLQデータの両方から効果的に学習できる。
• 交差エントロピー損失、整合性損失、自己ノイズ除去正則化を組み合わせて、エンドツーエンドで訓練する。

実験結果

リサーチクエスチョン

• RQ1 低品質な肝臓血管データセットに含まれるノイズラベルを、性能を低下させるノイズではなく、有用な学習信号に効果的に変換できるか？
• RQ2 画素単位のラベルノイズに対処するため、Confident Learningと組み合わせたMean-Teacher学習をどのように適応すれば、セグメンテーション性能を向上させられるか？
• RQ3 少量の高品質データを用いて、自己ノイズ除去により大規模な低品質データセットのアノテーション品質をどの程度向上できるか？
• RQ4 提案されたMTCLフレームワークは、肝臓血管セグメンテーションタスクにおいて、標準的な半教師ありおよび完全教師ありベースラインを上回る性能を示すか？

主な発見

• 提案されたMTCLフレームワークは、3DIRCADbデータセットでDiceスコア0.7245、ハウスドルフ距離（HD）7.2111を達成し、すべてのベースラインを上回った。
• アブレーションスタディの結果、SSDMを削除するとDiceスコアが0.0277低下し、ラベルノイズ除去におけるその重要性が確認された。
• HQデータとノイズ除去済みLQラベルを併用することで、元のLQラベルを用いた場合と比較してDiceスコアが7.67%向上、HDが3.91%改善された。
• 視覚的評価では、誤検出が減少し、血管境界の回復が向上しており、図3に示す。
• ラベルの自己ノイズ除去プロセスは、MSD8データセットにおける顕著なラベリング誤りを効果的に同定・修正した。図4に可視化されている。
• フレームワークは優れた一般化性能を示し、高品質データがわずかであっても性能向上を達成した。