[論文レビュー] Distanced LSTM: Time-Distanced Gates in Long Short-Term Memory Models for Lung Cancer Detection

Riqiang Gao, Yuankai Huo+10 more|arXiv (Cornell University)|Sep 11, 2019

Lung Cancer Diagnosis and Treatment参考文献 15被引用数 7

ひとこと要約

本稿では、時間的間隔を考慮したゲートと時間的強調メカニズムを導入することで、不規則な間隔の縦断的CTスキャンを用いた肺がん検出を目的とした、新しい長短期記憶（LSTM）アーキテクチャ、Distanced LSTM（DLSTM）を提案する。本手法は、規則的および不規則な時間的データの両方で性能を向上させ、臨床的に取得された不規則なスキャンにおいてAUC 0.8905を達成し、標準LSTM（0.8380）およびCNN特徴量（0.8350）を著しく上回る性能を示した。

ABSTRACT

The field of lung nodule detection and cancer prediction has been rapidly developing with the support of large public data archives. Previous studies have largely focused on cross-sectional (single) CT data. Herein, we consider longitudinal data. The Long Short-Term Memory (LSTM) model addresses learning with regularly spaced time points (i.e., equal temporal intervals). However, clinical imaging follows patient needs with often heterogeneous, irregular acquisitions. To model both regular and irregular longitudinal samples, we generalize the LSTM model with the Distanced LSTM (DLSTM) for temporally varied acquisitions. The DLSTM includes a Temporal Emphasis Model (TEM) that enables learning across regularly and irregularly sampled intervals. Briefly, (1) the time intervals between longitudinal scans are modeled explicitly, (2) temporally adjustable forget and input gates are introduced for irregular temporal sampling; and (3) the latest longitudinal scan has an additional emphasis term. We evaluate the DLSTM framework in three datasets including simulated data, 1794 National Lung Screening Trial (NLST) scans, and 1420 clinically acquired data with heterogeneous and irregular temporal accession. The experiments on the first two datasets demonstrate that our method achieves competitive performance on both simulated and regularly sampled datasets (e.g. improve LSTM from 0.6785 to 0.7085 on F1 score in NLST). In external validation of clinically and irregularly acquired data, the benchmarks achieved 0.8350 (CNN feature) and 0.8380 (LSTM) on the area under the ROC curve (AUC) score, while the proposed DLSTM achieves 0.8905.

研究の動機と目的

• 従来のモデルが定期的な時間間隔を仮定しているのに対し、不規則な間隔の縦断的CTスキャンをモデル化する課題に取り組む。
• 実臨床の放射線科で一般的に見られる多様なスキャンスケジュールに対応できない標準LSTMの限界を克服する。
• スキャン間の時間間隔を明示的にモデル化する深層学習フレームワークを構築し、時間的表現学習を向上させる。
• 模擬的な規則的データおよび臨床的に取得された現実世界の不規則なデータの両方で、予測性能を向上させる。
• National Lung Screening Trial（NLST）を含む複数のデータセットで手法を検証し、堅牢性と一般化性能を確認する。

提案手法

• 時間的間隔を明示的にモデル化するため、学習可能な時間に依存するゲート機構を用いたTemporal Emphasis Model（TEM）を導入する。
• 標準LSTMセルを変更し、固定された忘却ゲートと入力ゲートを、スキャン間隔に応じて時間的に調整可能なゲートに置き換える。
• 直前のスキャンからの経過時間に応じてセル状態の更新を調整する時間的距離に基づく忘却ゲートを導入し、長期依存関係のモデル化を向上させる。
• 最新のスキャンに特に重みを置くための追加の強調項を導入し、逐次的意思決定における最新情報の優先度を高める。
• 3D CNN特徴量から得られるスキャン埋め込み表現を用いて、交差エントロピー損失関数を用いてDLSTMをエンドツーエンドで学習する。
• 3D CNNが各CTスキャンから空間的特徴量を抽出するハイブリッドアーキテクチャを採用し、DLSTMが時間的ゲーティングを伴う結果の系列を処理する。

実験結果

リサーチクエスチョン

• RQ1 変更を加えたLSTMアーキテクチャは、肺がん予測のための不規則な間隔の縦断的CTスキャンを効果的にモデル化できるか？
• RQ2 時間的距離に基づくゲートの導入により、規則的および不規則な時間的データの両方で、標準LSTMと比較して性能がどのように向上するか？
• RQ3 時間的強調メカニズムは、系列内の最新スキャンの予測精度をどの程度向上させるか？
• RQ4 DLSTMフレームワークは、模擬的データ、NLSTデータ、臨床的に取得されたデータなど多様なデータ分布に一般化できるか？
• RQ5 現実世界の不規則なスキャンデータにおいて、DLSTMは標準LSTMおよびCNNベースのベースラインと比較して、どの程度の相対的性能向上を達成するか？

主な発見

• 定期的な時間サンプリングが行われたNational Lung Screening Trial（NLST）データセットにおいて、DLSTMはF1スコアを標準LSTMの0.6785から0.7085に向上させた。
• 臨床的に取得された1,420例の不規則な間隔のスキャンを用いた外部検証では、DLSTMがAUC 0.8905を達成し、次に優れた手法（LSTM、AUC 0.8380）を上回った。
• 模擬的および規則的なデータでもDLSTMは競争力ある性能を維持し、データタイプにかかわらず堅牢性を示した。
• Temporal Emphasis Modelは、特に動的な疾患進行状況において、最新スキャンへのモデル感受性を顕著に向上させた。
• 時間的距離に基づくゲート機構は、希なまたは不均一なスキャン間隔であっても、長距離の時間的依存関係を効果的に捉えた。
• 提案手法は、現実世界の不規則なデータにおいて、CNNベースの特徴抽出（AUC 0.8350）および標準LSTM（AUC 0.8380）を上回り、臨床的意義を確認した。