[論文レビュー] Efficient Visual Coding: From Retina To V2

Honghao Shan, Garrison W. Cottrell|arXiv (Cornell University)|Dec 20, 2013

Neural dynamics and brain function参考文献 4被引用数 6

ひとこと要約

本論文は、網膜からV2に至る初期視覚処理を模倣するため、スパースPCA（sPCA）とICAを用いた改善された階層的視覚符号化モデルを提案する。従来のICAに代えてsPCAを再帰的フレームワーク（RICA）に組み込むことで、網膜のゴンギュラス細胞、V1の単純および複合細胞、およびV2細胞に一致する生物学的に妥当な受容野を学習する。神経生理学的研究における検証可能な予測を提供する。

ABSTRACT

The human visual system has a hierarchical structure consisting of layers of processing, such as the retina, V1, V2, etc. Understanding the functional roles of these visual processing layers would help to integrate the psychophysiological and neurophysiological models into a consistent theory of human vision, and would also provide insights to computer vision research. One classical theory of the early visual pathway hypothesizes that it serves to capture the statistical structure of the visual inputs by efficiently coding the visual information in its outputs. Until recently, most computational models following this theory have focused upon explaining the receptive field properties of one or two visual layers. Recent work in deep networks has eliminated this concern, however, there is till the retinal layer to consider. Here we improve on a previously-described hierarchical model Recursive ICA (RICA) [1] which starts with PCA, followed by a layer of sparse coding or ICA, followed by a component-wise nonlinearity derived from considerations of the variable distributions expected by ICA. This process is then repeated. In this work, we improve on this model by using a new version of sparse PCA (sPCA), which results in biologically-plausible receptive fields for both the sPCA and ICA/sparse coding. When applied to natural image patches, our model learns visual features exhibiting the receptive field properties of retinal ganglion cells/lateral geniculate nucleus (LGN) cells, V1 simple cells, V1 complex cells, and V2 cells. Our work provides predictions for experimental neuroscience studies. For example, our result suggests that a previous neurophysiological study improperly discarded some of their recorded neurons; we predict that their discarded neurons capture the shape contour of objects.

研究の動機と目的

• 網膜からV2に至る初期視覚処理の生物学的に妥当な階層的モデルを開発すること。
• ディープラーニングにインspiredされた視覚符号化フレームワークにおいて、網膜層をモデル化するギャップを埋めること。
• 従来の再帰的ICA（RICA）モデルを改善し、より生物学的妥当性を高めるためにICAの代わりにスパースPCA（sPCA）を導入すること。
• 神経生理学的研究、特に神経細胞分類に関する実験的神経科学のための検証可能な予測を生成すること。

提案手法

• モデルはPCAから始まる再帰的アーキテクチャを採用し、その後にsPCAを適用し、期待される変数分布に基づく成分ごとの非線形性を適用する。
• sPCAを段階的に繰り返し適用することで、網膜および皮質細胞タイプに類似したスパースで局所化された受容野を学習する。
• ICA理論からの統計的制約を組み込みつつ、sPCAを用いて学習された特徴の生物学的妥当性を向上させる。
• 自然画像パッチを用いて学習することで、視覚入力の統計的構造を模倣する。
• 受容野の形状とチューニング特性を、網膜、V1、およびV2からの既知の神経生理学的データと比較分析する。
• フレームワークは、従来の神経生理学的研究で無視されていた神経細胞が、縁に敏感な細胞である可能性を予測する。

実験結果

リサーチクエスチョン

• RQ1 階層的視覚符号化モデルは、初期視覚処理の複数段階において受容野特性を正確に模倣できるか？
• RQ2 スパースPCA（sPCA）は、従来のICAに比べて初期視覚モデルにおけるより生物学的に妥当な受容野を生成できるか？
• RQ3 sPCAを再帰的ICA（RICA）に組み込むことで、網膜およびV2細胞応答のモデル化にどのような影響を与えるか？
• RQ4 なぜ過去の研究で一部の神経生理学的神経細胞が誤って無視されていたのか？それらの細胞がおそらくエンコードする特徴は何か？
• RQ5 学習された特徴は、網膜、V1、およびV2細胞の既知の解剖学的および生理学的特性とどのように比較できるか？

主な発見

• モデルは、網膜のゴンギュラス細胞および側大腿上核（LGN）細胞の特性を再現する受容野を成功裏に学習した。
• V1の単純細胞の受容野は、方向選択性および空間周波数チューニングを示し、神経生理学的データと整合的である。
• 単純細胞特徴のプーリングを通じてV1の複合細胞に類似した応答が生成され、既知の皮質処理を反映している。
• モデルは、より大きなサイズ、非重複性、および縁に敏感な特性を示すV2に類似した受容野を生成した。
• 本研究は、神経生理学的研究で過去に無視されていた神経細胞が、物体の形状の縁をエンコードしている可能性を予測し、それらの機能的役割の再評価が求められることを示唆した。
• sPCAに基づくモデルは、すべての視覚処理段階において、標準ICAよりも生物学的に妥当な受容野を生成する点で優れている。