[論文レビュー] AMI-Net+: A Novel Multi-Instance Neural Network for Medical Diagnosis from Incomplete and Imbalanced Data

Zeyuan Wang, Josiah Poon+1 more|arXiv (Cornell University)|Jul 3, 2019

Machine Learning in Healthcare参考文献 17被引用数 7

ひとこと要約

AMI-Net+ は、ファーカス損失、ゲート付きアテンション、自己適応的マルチインスタンスプーリング機構を統合することで、不完全で不均衡な臨床データからの医療診断を向上させる画期的なマルチインスタンスニューラルネットワークである。2つの実世界の医療データセットにおいて、既存のモデルを上回る性能を示し、断片的で歪んだ症状-疾患関係の処理において優れた性能を発揮する。

ABSTRACT

In medical real-world study (RWS), how to fully utilize the fragmentary and scarce information in model training to generate the solid diagnosis results is a challenging task. In this work, we introduce a novel multi-instance neural network, AMI-Net+, to train and predict from the incomplete and extremely imbalanced data. It is more effective than the state-of-art method, AMI-Net. First, we also implement embedding, multi-head attention and gated attention-based multi-instance pooling to capture the relations of symptoms themselves and with the given disease. Besides, we propose var-ious improvements to AMI-Net, that the cross-entropy loss is replaced by focal loss and we propose a novel self-adaptive multi-instance pooling method on instance-level to obtain the bag representation. We validate the performance of AMI-Net+ on two real-world datasets, from two different medical domains. Results show that our approach outperforms other base-line models by a considerable margin.

研究の動機と目的

• 実世界の研究において、不完全で極めて不均衡な医療データから頑健な診断モデルを訓練するという課題に対処すること。
• 高度なアテンション機構と損失関数を導入することで、AMI-Netフレームワークを改善すること。
• 疾患に最も関連するインスタンスを動的に選択する、自己適応的マルチインスタンスプーリング戦略を考案すること。
• 実世界のデータセットを用いて、多様な医療分野におけるモデルの有効性を検証すること。

提案手法

• 訓練中にクラス不均衡の影響を軽減するために、標準的なクロスエントロピー損失をファーカス損失に置き換える。
• 複数のヘッドとゲート付きアテンション機構を用いて、症状内および症状-疾患間の関係をモデル化する。
• 疾患に関連する重要度に基づいて、インスタンスの重みを動的に学習する自己適応的マルチインスタンスプーリング層を導入する。
• アテンションおよびプーリング処理の前に、症状特徴をエンコーディングする埋め込み層を適用する。
• バッチレベルの症状データからの疾患分類を最適化するため、エンドツーエンドの訓練を実施する。
• 各患者を「バッチ」として扱い、症状（インスタンス）の集合としてモデル化するマルチインスタンス学習（MIL）パラダイムを活用する。

実験結果

リサーチクエスチョン

• RQ1 マルチインスタンスニューラルネットワークは、実世界の設定において、不完全で極めて不均衡な医療データから効果的に学習できるか？
• RQ2 希少疾患診断の文脈において、ファーカス損失は標準的なクロスエントロピー損失と比較して、モデルの性能をどのように向上させるか？
• RQ3 自己適応的プーリングは、固定プーリング戦略と比較して、表現学習の質をどの程度向上させるか？
• RQ4 アテンション機構の統合は、診断に重要な症状を特定する能力をモデルが向上させるか？
• RQ5 AMI-Net+ は、データ特性が異なるさまざまな医療分野に一般化可能か？

主な発見

• AMI-Net+ は、異なる分野の2つの実世界の医療データセットにおいて、ベースラインモデル（AMI-Netを含む）を顕著に上回る性能を発揮した。
• ファーカス損失の使用により、少数派の疾患クラスにおける性能が向上し、クラス不均衡の悪影響が軽減された。
• 自己適応的マルチインスタンスプーリング機構により、関連性の高い症状に注目することで、モデルの解釈性と正確性が向上した。
• 特にゲート付きアテンションを用いることで、複雑な症状-疾患依存関係を捉える能力が向上した。
• AUCおよびF1スコアの両面で、既存のMILベースのアプローチを上回る最先端の性能を達成した。