[論文レビュー] Attention-based Multi-instance Neural Network for Medical Diagnosis from Incomplete and Low Quality Data

Zeyuan Wang, Josiah Poon+2 more|arXiv (Cornell University)|Apr 9, 2019

Traditional Chinese Medicine Studies参考文献 31被引用数 10

ひとこと要約

本論文では、患者の記録を症状インスタンスのバッグとしてモデル化することで、不完全で低品質な臨床データからエンド・ツー・エンドの医療診断を可能にする、注目メカニズムを備えたマルチインスタンスニューラルネットワーク、AMI-Netを提案する。マルチヘッドアテンション、インスタンスレベルおよびバッグレベルのプーリングを用い、情報量の多い症状を優先することで、中国医学（TCM）および西洋医学分野の2つの実世界の不均衡なデータセットで最先端の性能を達成した。

ABSTRACT

One way to extract patterns from clinical records is to consider each patient record as a bag with various number of instances in the form of symptoms. Medical diagnosis is to discover informative ones first and then map them to one or more diseases. In many cases, patients are represented as vectors in some feature space and a classifier is applied after to generate diagnosis results. However, in many real-world cases, data is often of low-quality due to a variety of reasons, such as data consistency, integrity, completeness, accuracy, etc. In this paper, we propose a novel approach, attention based multi-instance neural network (AMI-Net), to make the single disease classification only based on the existing and valid information in the real-world outpatient records. In the context of a patient, it takes a bag of instances as input and output the bag label directly in end-to-end way. Embedding layer is adopted at the beginning, mapping instances into an embedding space which represents the individual patient condition. The correlations among instances and their importance for the final classification are captured by multi-head attention transformer, instance-level multi-instance pooling and bag-level multi-instance pooling. The proposed approach was test on two non-standardized and highly imbalanced datasets, one in the Traditional Chinese Medicine (TCM) domain and the other in the Western Medicine (WM) domain. Our preliminary results show that the proposed approach outperforms all baselines results by a significant margin.

研究の動機と目的

• 実際の外来診療環境における、不完全で低品質な臨床記録からの疾患診断の課題に対処すること。
• 極めて不均衡で標準化されていない医療データセットを効果的に処理できるディープラーニングモデルの開発。
• 完全で一貫性のあるデータが不要な、患者レベルの症状バッグからのエンド・ツー・エンドの学習を可能にすること。
• 注目メカニズムを用いて最も情報量の多い症状に焦点を当てることで、診断精度の向上。

提案手法

• モデルは各患者記録を症状インスタンスのバッグとして扱い、各インスタンスを特徴空間内のベクトルとして表現する。
• 埋め込み層により、個々の患者の状態を反映する密な表現空間に、生の症状ベクトルをマッピングする。
• マルチヘッド自己注意メカニズムにより、インスタンス間の相関関係を捉え、重要な症状を強調する注意重みを割り当てる。
• インスタンスレベルのマルチインスタンスプーリングにより、注意重み付きのインスタンスを統合し、バッグレベルの表現を生成する。
• バッグレベルのマルチインスタンスプーリングにより、最終的な疾患分類のための表現をさらに精緻化する。
• ネットワーク全体をエンド・ツー・エンドで訓練し、入力されたインスタンスのバッグから直接バッグレベルの診断ラベルを予測する。

実験結果

リサーチクエスチョン

• RQ1 注目メカニズムを備えたマルチインスタンスニューラルネットワークは、実世界の医療環境における不完全で低品質な臨床データから効果的に学習できるか？
• RQ2 AMI-Netは、標準化されておらず極めて不均衡な医療データセットにおいて、既存のベースラインと比較してどの程度の性能を示すか？
• RQ3 注目メカニズムは、最も情報量の多い症状に焦点を当てるにあたり、どの程度診断性能を向上させられるか？
• RQ4 提案されたモデルは、中国医学（TCM）および西洋医学といった異なる医療分野に一般化可能か？

主な発見

• AMI-Netは、中国医学（TCM）および西洋医学の両方のデータセットにおいて、すべてのベースラインモデルを顕著に上回る診断精度を達成した。
• 極めて不均衡で標準化されていない2つのデータセットにおいて、最先端の性能を発揮し、データ品質の問題に対しても頑健であることが示された。
• 注目メカニズムにより、診断に有用な症状が効果的に特定され、優先順位付けされ、モデルの解釈可能性が向上した。
• エンド・ツー・エンドの学習フレームワークにより、データ前処理や特徴工学的処理を必要とせず、患者のバッグから疾患ラベルへの直接的なマッピングが可能となった。