[論文レビュー] Self-attention based BiLSTM-CNN classifier for the prediction of ischemic and non-ischemic cardiomyopathy

Kavita Dubey, Anant Agarwal+3 more|arXiv (Cornell University)|Jul 24, 2019

Cardiac electrophysiology and arrhythmias参考文献 23被引用数 5

ひとこと要約

本稿では、ヒストパスロジカル画像から虚血性および非虚血性心筋症を分類するため、Inception-V3アーキテクチャを用いた自己注意機構を備えたBiLSTM-CNNモデルを提案する。自己注意機構を双方向LSTMおよび畳み込みニューラルネットワークの特徴と統合することで、特徴表現が向上し、ベースラインモデルよりも分類精度が向上する。

ABSTRACT

Heart Failure is a major component of healthcare expenditure and a leading cause of mortality worldwide. Despite higher inter-rater variability, endomyocardial biopsy (EMB) is still regarded as the standard technique, used to identify the cause (e.g. ischemic or non-ischemic cardiomyopathy, coronary artery disease, myocardial infarction etc.) of unexplained heart failure. In this paper, we focus on identifying cardiomyopathy as ischemic or non-ischemic. For this, we propose and implement a new unified architecture comprising CNN (inception-V3 model) and bidirectional LSTM (BiLSTM) with self-attention mechanism to predict the ischemic or non-ischemic to classify cardiomyopathy using histopathological images. The proposed model is based on self-attention that implicitly focuses on the information outputted from the hidden layers of BiLSTM. Through our results we demonstrate that this framework carries a high learning capacity and is able to improve the classification performance.

研究の動機と目的

• 心筋症の原因を診断する際の高水準の評価者間ばらつきを是正すること。
• 生心筋生検（EMB）を用いたヒストパスロジカル画像に基づき、虚血性と非虚血性心筋症を自動的に区別する深層学習ベースの手法を開発すること。
• 自己注意機構をBiLSTMおよびCNNアーキテクチャに統合することで、より良い特徴表現を実現し、分類性能を向上させること。

提案手法

• モデルは、ヒストパスロジカル画像からの階層的特徴抽出に、CNNバックボーンとしてInception-V3を採用する。
• 双方向長短期記憶（BiLSTM）ネットワークは、CNNによって抽出された順序的特徴を処理し、時間的依存性をモデル化する。
• 自己注意機構はBiLSTMの出力に適用され、関連する特徴を動的に強調し、ノイズを抑制する。
• 注意機構は、隠れ状態の上に文脈に適した重みを計算し、シーケンス内の判別的領域に焦点を当てる。
• 最終的な分類は、自己注意機構による重み付けされた特徴を入力とする全結合層を用いて実施する。
• モデルは、交差エントロピー損失を用いてエンドツーエンドで訓練され、誤差逆伝播による最適化が行われる。

実験結果

リサーチクエスチョン

• RQ1 自己注意機構は、ヒストパスロジカル画像からの虚血性および非虚血性心筋症の分類において、BiLSTM-CNNモデルの性能を向上させることができるか？
• RQ2 自己注意機構をBiLSTMおよびCNNコンponentsに統合することで、特徴表現および分類精度はどのように向上するか？
• RQ3 提案されたアーキテクチャは、標準のBiLSTM-CNNおよび注意なしのモデルを上回る性能を示すか？

主な発見

• 提案された自己注意機構を備えたBiLSTM-CNNモデルは、ヒストパスロジカル画像データにおいてベースラインモデルよりも高い分類精度を達成した。
• 自己注意機構は、特徴シーケンス内の判別的領域を効果的に強調し、モデルの解釈可能性と性能を向上させた。
• 注意駆動の特徴重み付けのおかげで、ノイズやヒストパスロジカル画像のばらつきに対して、モデルは頑健であることが示された。
• Inception-V3とBiLSTM、自己注意機構の統合により、心筋組織画像における階層的および順序的パターンの有効な学習が可能になった。
• 臨床現場への導入の可能性が強く示唆され、主観的なEMB解釈への依存を低減できる。