[論文レビュー] Revealing Fine Structures of the Retinal Receptive Field by Deep Learning Networks

Qi Yan, Yajing Zheng+7 more|arXiv (Cornell University)|Nov 6, 2018

Neural dynamics and brain function参考文献 54被引用数 8

ひとこと要約

この論文は、白ノイズ刺激で訓練された深層畳み込みニューラルネットワーク（CNN）が、生物学的網膜回路素子に類似したフィルタを学習することで、網膜受容野の微細構造的成分を明らかにできることを示している。研究では、CNNが細胞特異的な表現を学び、入力タイプ（白ノイズから自然画像へ）にわたって効果的に一般化することを示しており、単一網膜ゴンギュウ細胞の計算的本質を生物学的に妥当な方法でモデル化していることが示唆される。

ABSTRACT

Deep convolutional neural networks (CNNs) have demonstrated impressive performance on many visual tasks. Recently, they became useful models for the visual system in neuroscience. However, it is still not clear what are learned by CNNs in terms of neuronal circuits. When a deep CNN with many layers is used for the visual system, it is not easy to compare the structure components of CNNs with possible neuroscience underpinnings due to highly complex circuits from the retina to higher visual cortex. Here we address this issue by focusing on single retinal ganglion cells with biophysical models and recording data from animals. By training CNNs with white noise images to predict neuronal responses, we found that fine structures of the retinal receptive field can be revealed. Specifically, convolutional filters learned are resembling biological components of the retinal circuit. This suggests that a CNN learning from one single retinal cell reveals a minimal neural network carried out in this cell. Furthermore, when CNNs learned from different cells are transferred between cells, there is a diversity of transfer learning performance, which indicates that CNNs are cell-specific. Moreover, when CNNs are transferred between different types of input images, here white noise v.s. natural images, transfer learning shows a good performance, which implies that CNNs indeed capture the full computational ability of a single retinal cell for different inputs. Taken together, these results suggest that CNNs could be used to reveal structure components of neuronal circuits, and provide a powerful model for neural system identification.

研究の動機と目的

• 深層CNNが、神経細胞応答から学習することで、網膜受容野の微細構造的成分を明らかにできるかを調査すること。
• 単一網膜ゴンギュウ細胞（RGC）で訓練されたCNNが、生物学的に妥当な神経回路構造を反映しているかを特定すること。
• 異なるRGCおよび入力刺激（白ノイズ対自然画像）間でのCNNモデルの転送可能性を評価すること。
• CNNが多様な視覚入力に対して個々の網膜細胞の全計算能力を捉えられるかを評価すること。
• CNNを、初期視覚処理における神経回路の構成要素を同定・検証する解釈可能なモデルとして確立すること。

提案手法

• 単一網膜ゴンギュウ細胞（RGC）のスパiking応答を予測するために、白ノイズ画像刺激を用いて深層CNNを訓練する。
• CNNで学習された畳み込みフィルタを、サブユニット線形フィルターや非線形性といった既知の網膜回路の生物物理学的構成要素と比較する。
• 同一の刺激分布を持つ異なるRGC間での転移学習を実施し、学習された表現の細胞特異性を評価する。
• 白ノイズ刺激から自然画像への転移学習のパフォーマンスをテストし、学習された計算の一般化能力を評価する。
• パラメータの削除とネットワーク解析を用いて、学習されたフィルタの機能的関連性を検証する。
• 訓練および検証に、実験的RGC応答データと生物物理学的モデルで生成された応答を併用する。

実験結果

リサーチクエスチョン

• RQ1 白ノイズ刺激で訓練された深層CNNは、既知の生物学的回路素子に対応する網膜受容野の微細構造的成分を明らかにできるか？
• RQ2 転移学習による性能の違いから、CNNで学習されたフィルタがどの程度個々の網膜ゴンギュウ細胞特異的であるか？
• RQ3 白ノイズで訓練されたCNNが自然画像入力にどの程度一般化するか。これは、実際の網膜処理における計算の正確性を示唆する。
• RQ4 CNNで学習された構成要素（例：フィルタ）は、網膜回路の生物物理学的構造と意味的に整合しているか？
• RQ5 CNNは、初期視覚系における神経回路の機能的構成要素を同定・検証する解釈可能なモデルとして機能できるか？

主な発見

• RGC応答に基づいて訓練されたCNNの学習フィルタは、生物物理学的網膜回路モデルのサブユニット線形フィルターや非線形性と非常に類似している。
• 異なるRGC間での転移学習の性能にばらつきが見られ、CNNが一般的な特徴ではなく、細胞特異的な表現を学習していることが示された。
• 白ノイズから自然画像への転移学習で高いパフォーマンスが達成されたため、CNNが多様な入力タイプにわたって単一RGCの全計算能力を捉えていることが示された。
• CNNアーキテクチャは、個々の網膜ゴンギュウ細胞の受容野構造を高い忠実度でモデル化できており、各細胞固有の最小限の神経計算を捉えている可能性を示唆している。
• パラメータの削除により、学習フィルタが機能的に重要であり、重複していないことが判明し、生物学的解釈可能性が裏付けられた。
• 結果として、単一RGC応答で訓練されたCNNは、初期視覚における神経系同定のための解釈可能で生物学的根拠を持つモデルとして機能可能であることが示された。