[論文レビュー] Predictive support recovery with TV-Elastic Net penalty and logistic regression: an application to structural MRI

Mathieu Dubois, Fouad Hadj‐Selem+5 more|arXiv (Cornell University)|Jul 21, 2014

Medical Image Segmentation Techniques参考文献 10被引用数 4

ひとこと要約

本稿では、神経画像における空間的整合性とバイオマーカー検出の向上を目的として、$\varepsilon_{1}$、$\varepsilon_{2}$、および全 Variation (TV) 正則化を組み合わせた新しい最適化フレームワークを提案する。非滑らかな TV 正則化を扱うためにネステロフの滑らか化技術を用いながらも、正確な $\varepsilon_{1}$ スパarsity を維持することで、加速型近位勾配最適化が可能となり、予測精度の向上に寄与しないものの、構造的 MRI における予測的脳領域のサポート回復性能が優れていることを示している。

ABSTRACT

The use of machine-learning in neuroimaging offers new perspectives in early diagnosis and prognosis of brain diseases. Although such multivariate methods can capture complex relationships in the data, traditional approaches provide irregular (l2 penalty) or scattered (l1 penalty) predictive pattern with a very limited relevance. A penalty like Total Variation (TV) that exploits the natural 3D structure of the images can increase the spatial coherence of the weight map. However, TV penalization leads to non-smooth optimization problems that are hard to minimize. We propose an optimization framework that minimizes any combination of l1, l2, and TV penalties while preserving the exact l1 penalty. This algorithm uses Nesterov's smoothing technique to approximate the TV penalty with a smooth function such that the loss and the penalties are minimized with an exact accelerated proximal gradient algorithm. We propose an original continuation algorithm that uses successively smaller values of the smoothing parameter to reach a prescribed precision while achieving the best possible convergence rate. This algorithm can be used with other losses or penalties. The algorithm is applied on a classification problem on the ADNI dataset. We observe that the TV penalty does not necessarily improve the prediction but provides a major breakthrough in terms of support recovery of the predictive brain regions.

研究の動機と目的

• 神経画像における予測重みマップの解釈性が低い問題（$\ell_{2}$ の不規則なパターンや $\ell_{1}$ の散在パターンによるもの）を解決する。
• 全 Variation (TV) 正則化を導入することで、脳画像における予測領域の空間的整合性を向上させる。
• 非滑らかな TV 正則化を扱えるが、正確な $\ell_{1}$ スパarsity を維持できる効率的な最適化アルゴリズムの開発。
• アルツハイマー病の状態を構造的 MRI から分類するために、ADNIデータセットを用いて手法を評価する。
• TV 正則化が、予測精度に潜在的なトレードオフがある中でも、生物学的に関連する脳領域のサポート回復を改善するかを評価する。

提案手法

• スパarsity、正則化、空間的滑らかさのバランスを図るために、$\ell_{1}$、$\ell_{2}$、および TV 正則化を組み合わせたロジスティック回帰問題を定式化する。
• 非滑らかな TV 正則化を滑らかな関数で近似するために、ネステロフの滑らか化技術を適用し、勾配ベース最適化を可能にする。
• 滑らか化された問題に対して、正確な加速型近位勾配法（FISTA スタイル）を用いて最小化し、高速収束を実現する。
• 滑らか化パラメータ $\mu$ を段階的に減少させる継続的アルゴリズムを導入し、高精度を達成しながらも最適な収束速度を維持する。
• 正確な $\ell_{1}$ 近位作用素を保持することで真のスパarsity を確保するとともに、数値的に滑らか化による $\mathrm{TV}$ 近位作用素の近似を実施する。
• 本フレームワークは汎用的であり、微分可能な損失関数や線形変換の $p$-ノルムとして表現可能な非滑らか正則化にも応用可能である。

実験結果

リサーチクエスチョン

• RQ1 全 Variation (TV) 正則化を組み込むことで、構造的 MRI における予測重みマップの空間的整合性と解釈性が向上するか？
• RQ2 TV 正則化の滑らか化近似を、正確な $\ell_{1}$ および $\ell_{2}$ 正則化と効果的に組み合わせられるか？
• RQ3 提案された最適化フレームワークは、アルツハイマー病関連の既知の神経解剖学的領域の高精度なサポート回復を達成できるか？
• RQ4 TV 正則化を用いる際、予測精度とサポート回復の間にトレードオフが生じるか？
• RQ5 適応的滑らか化パラメータを用いた継続的アルゴリズムは、非滑らか最適化において高速収束と高精度の両方を達成できるか？

主な発見

• $\ell_{2}+\mathrm{TV}$ 正則化は、海馬や側頭葉萎縮といった既知のアルツハイマー病関連脳領域と整合する滑らかで空間的整合性の高い重みマップを生成する。
• $\ell_{1}+\ell_{2}+\mathrm{TV}$ 組み合わせは、$\ell_{1}+\ell_{2}$ よりも優れたサポート回復を達成し、海馬などの重要な領域を特定するとともに、関連性の低い領域を除外する。
• $\ell_{1}+\mathrm{TV}$ および $\ell_{1}+\ell_{2}+\mathrm{TV}$ の手法はほぼ同一の重みマップを生成しており、$\ell_{1}$ が $\ell_{2}+\mathrm{TV}$ パatters の選択に寄与していることが示唆される。
• 予測精度は TV を追加しても顕著に向上せず、$\ell_{2}+\mathrm{TV}$ のバランス分類率（BCR）は 0.784 であり、$\ell_{2}$（0.855）や $\ell_{1}+\ell_{2}$（0.772）と同等の水準であった。
• McNemar検定の結果、$\ell_{2}+\mathrm{TV}$ と $\ell_{2}$ の間には予測性能に有意差はなく（p = 0.16）、一方で $\ell_{1}+\mathrm{TV}$ は $\ell_{1}$ より顕著に優れていた（p = 2e-4）。
• アルゴリズムは標準ワークステーション上での収束に約1時間を要し、FISTA イテレーションを約13,000回実行した。