[論文レビュー] Modeling Category-Selective Cortical Regions with Topographic Variational Autoencoders

T. Anderson Keller, Qinghe Gao+1 more|arXiv (Cornell University)|Oct 25, 2021

Cell Image Analysis Techniques被引用数 7

ひとこと要約

本稿では、上位知覚的皮質領域の出現を教師なしでモデル化するためのトポグラフィック変分オートエンコーダー（TVAE）を提案する。空間的組織をトポグラフィック事前分布によって強制することで、顔、身体、場所に対して選択的に反応する密な空間的局在化ニューロンクラスタを生成する。これは、ヒトの腹側側頭皮質に類似した、より抽象度の高いカテゴリーの入れ子構造を示している。

ABSTRACT

Category-selectivity in the brain describes the observation that certain spatially localized areas of the cerebral cortex tend to respond robustly and selectively to stimuli from specific limited categories. One of the most well known examples of category-selectivity is the Fusiform Face Area (FFA), an area of the inferior temporal cortex in primates which responds preferentially to images of faces when compared with objects or other generic stimuli. In this work, we leverage the newly introduced Topographic Variational Autoencoder to model the emergence of such localized category-selectivity in an unsupervised manner. Experimentally, we demonstrate our model yields spatially dense neural clusters selective to faces, bodies, and places through visualized maps of Cohen's d metric. We compare our model with related supervised approaches, namely the Topographic Deep Artificial Neural Network (TDANN) of Lee et al., and discuss both theoretical and empirical similarities. Finally, we show preliminary results suggesting that our model yields a nested spatial hierarchy of increasingly abstract categories, analogous to observations from the human ventral temporal cortex.

研究の動機と目的

• 教師なし学習にトポグラフィックインダクティブバイアスを適用することで、ヒトの脳で観察される空間的に局在化したカテゴリー選択的組織を再現できるかを調査すること。
• 上位カテゴリー（例：動的対不動的）および下位カテゴリー（例：人間の顔対動物の顔）の区別を含む、階層的カテゴリー選択性の出現をモデル化すること。
• TVAEの性能と構造的組織を、TDANNなどの教師ありモデルと比較し、空間的整合性と選択的反応の両面で評価すること。
• トポグラフィック組織が正則化子として機能する程度、生成性能を損なわずにインダクティブバイアスを向上させるかを評価すること。

提案手法

• 本モデルは、2次元トーラストポロジーと局所的近傍プーリングを用いて、潜在空間における空間的連続性を強制するトポグラフィック変分オートエンコーダー（TVAE）を採用する。
• 潜在表現は、2次元グリッド上での近接するニューロンが類似した刺激カテゴリーに対して優先的に反応するように構造化されており、皮質柱組織を模倣する。
• TVAEは、変分下界目的関数に加え、空間相関損失を用いて隣接するニューロンの活性が相関するよう最適化する確率的勾配降下法でエンドツーエンドに訓練される。
• 潜在特徴マップに空間相関損失が適用され、皮質的距離（mm単位）に基づく期待される相関からの逸脱をペナルティ処理することで、トポグラフィック順序を促進する。
• 局所的類似性を強制するために、25×25のカーネルを用いて局所的空間統計を計算する。
• 標準化された前処理を施したImageNetに類似したデータで学習を行う：リサイズを224×224、ランダムクロッピング、ImageNet統計に基づく正規化を実施する。

実験結果

リサーチクエスチョン

• RQ1 教師なしでトポグラフィック正則化が施されたVAEモデルは、FFA、PPA、EBAなどのヒト皮質領域で観察される空間的に局在化したカテゴリー選択的ニューロンクラスタを再現できるか？
• RQ2 TVAEは、ヒトの腹側側頭皮質に見られるように、より抽象度の高いカテゴリーの入れ子構造を持つ空間的階層を生成するか？
• RQ3 TVAEの性能と選択的反応は、トップオグラフィックディープアーティフィシャルニューラルネットワーク（TDANN）のような教師ありベースラインと比較してどうなるか？
• RQ4 トポグラフィック組織が正則化子として機能する程度はどの程度で、生成能力を損なわずにインダクティブバイアスを向上させるのか？

主な発見

• TVAEは、Cohenのdマップを用いて可視化したところ、顔、身体、場所に対して選択的に反応する空間的に密集したニューロンクラスタを効果的に生成した。
• 本モデルは、より高次のカテゴリー（例：動的対不動的）が重複する階層的パターンとして現れる、入れ子構造のカテゴリーセレクティビティを示した。
• 教師ありのTDANNベースラインと比較して、TVAEは類似した階層的組織を達成したが、選択的反応の整合性に関する視覚的差異は定量的に評価が難しい。
• 非トポグラフィックVAEベースラインでは、カテゴリー選択的反応が著しく低下しており、大多数のニューロンがすべてのスティムラスに対して活性化していた。これは、トポグラフィック構造が特化を促進していることを示している。
• TVAEのログ尤度性能は非トポグラフィックVAEよりわずかに低いが、これはトポグラフィック構造が生成性能を多少犠牲にすることでインダクティブバイアスを向上させる正則化子として機能していることを示唆している。
• 空間相関損失は効果的にトポグラフィック順序を強制しており、ハイパーパramータを元のTDANN設定に合わせた場合、先行研究と一致する結果が得られた。