[論文レビュー] Tucker Tensor Regression and Neuroimaging Analysis

Xiaoshan Li, Hua Zhou+1 more|arXiv (Cornell University)|Apr 20, 2013

Tensor decomposition and applications参考文献 23被引用数 19

ひとこと要約

本稿では、テンソル予測変数における低ランク構造を活用することで、高次元神経画像データを効率的に推定するためのTuckerテンソル回帰モデルを提案する。この手法は、Kullback-Leibler損失の意味で最良のTucker近似を一貫して推定でき、シミュレーションおよび実際のfMRIデータにおいてCPベースのモデルを上回り、特に正則化を施した場合、ADHD分類における誤分類誤差を低く抑える。

ABSTRACT

Large-scale neuroimaging studies have been collecting brain images of study individuals, which take the form of two-dimensional, three-dimensional, or higher dimensional arrays, also known as tensors. Addressing scientific questions arising from such data demands new regression models that take multidimensional arrays as covariates. Simply turning an image array into a long vector causes extremely high dimensionality that compromises classical regression methods, and, more seriously, destroys the inherent spatial structure of array data that possesses wealth of information. In this article, we propose a family of generalized linear tensor regression models based upon the Tucker decomposition of regression coefficient arrays. Effectively exploiting the low rank structure of tensor covariates brings the ultrahigh dimensionality to a manageable level that leads to efficient estimation. We demonstrate, both numerically that the new model could provide a sound recovery of even high rank signals, and asymptotically that the model is consistently estimating the best Tucker structure approximation to the full array model in the sense of Kullback-Liebler distance. The new model is also compared to a recently proposed tensor regression model that relies upon an alternative CANDECOMP/PARAFAC (CP) decomposition.

研究の動機と目的

• 神経画像データをテンソルとして解析する際の古典的回帰における超高次元性と構造的損失の課題に対処すること。
• 多次元画像データの空間的構造を保持する柔軟な低ランクテンソル回帰フレームワークの開発。
• 推定精度、モデルの柔軟性、計算効率の観点から、TuckerとCPテンソル分解を比較すること。
• Kullback-Leibler損失を用いた全配列モデルへの近似において、Tuckerベースの推定の漸近的一貫性を確立すること。
• 次元削減を伴うテンソル予測子を用いたシミュレーションおよび実際のADHD fMRI分類を通じて、本手法の実用的有効性を示すこと。

提案手法

• モデルはTucker分解を用いて回帰係数配列をコアテンソルと各モードに沿った因子行列の積として表現し、自由パラメータ数を削減する。
• 一般化線形モデルでは、応答変数の期待値にリンク関数を適用し、線形予測子は係数配列とテンソル予測変数の内積を含む。
• 一般化線形モデル枠組み下でTuckerパラメータを効率的に推定するための、高速な交替方向乗数法（ADMM）アルゴリズムを開発した。
• 推定の安定性を高め、過剰適合を防ぐために、Tuckerコアテンソルおよび因子行列にグループlasso正則化を適用した。
• Tuckerモデリングの前段階で、ウェーブレット変換（HaarおよびDaubechies D4）による次元削減を実施し、元の画像テンソルのサイズを縮小した。
• モデル選択には、サンプルサイズとパラメータ数の比に関するヒューリスティックルールを用い、正規およびロジスティック回帰の両設定で安定性を確保した。

実験結果

リサーチクエスチョン

• RQ1 複雑で正確な低ランク信号でない神経画像データに対して、CPベースのテンソル回帰と比較して、Tuckerテンソル回帰はより柔軟で正確な代替手段を提供できるか？
• RQ2 Tucker分解は、テンソル予測変数をベクトル化するのと比較して、空間的構造をどのように保持し、推定効率を向上させるか？
• RQ3 Kullback-Leibler損失の観点から、Tuckerベースの推定が全配列モデルへの近似において漸近的にどのように振る舞うか？
• RQ4 正則化と次元削減は、ADHD fMRIデータのような実際の神経画像データセットにおける分類性能にどのように影響を与えるか？
• RQ5 高次元画像回帰において、TuckerとCPテンソルモデルの相対的な計算効率と予測精度はいかがなっているか？

主な発見

• 漸近的理論により、Tuckerテンソル回帰モデルは、Kullback-Leibler損失の意味で、全配列モデルへの最良のTucker近似を一貫して推定することが示された。
• シミュレーションでは、Tuckerモデルが高ランク信号即ち複雑な構造を有する信号でさえも効果的に回復でき、複雑な元の構造に対して高いロバストネスを示した。
• 実際のADHD fMRIデータでは、正則化Tuckerモデルが、Daubechies D4ウェーブレットおよび10×12×10の次元削減を施した場合に、誤分類誤差率0.320を達成し、テストされたすべての他のモデルを上回った。
• 正則化Tuckerモデルは、すべての設定で最小の誤差率を示し、CPベースのモデルと比較して3.3%から10%の改善を達成した。
• フィッティング時間はTuckerとCPモデルでほぼ同等であり、特に正則化モデル（10×12×10データ）では、Tuckerがわずかに効率的（1.92秒 vs. 1.90秒）であったが、非正則化設定ではCPモデルが遅かった。
• Tuckerモデルは、各モードでランクパラメータを調整できる柔軟性（例：R₁=2, R₂=2, R₃=3）を有しており、固定ランクのCPモデルと比較して、モデルの複雑さとサンプルサイズ制約の間の妥当なトレードオフを実現できた。