[論文レビュー] Recurrent neural circuits for contour detection

Drew Linsley, Junkyung Kim+2 more|arXiv (Cornell University)|Oct 29, 2020

Spectroscopy and Chemometric Analyses被引用数 17

ひとこと要約

本稿では、霊長類の視覚皮質回路を模倣した再帰的ニューラルネットワークであるγ-Netを紹介する。このネットワークは、輪郭検出タスクにおいて優れたサンプル効率を達成するとともに、自然に方向傾き錯覚を示す。この錯覚は欠陥ではなく、低レベルのエッジよりも高レベルの物体境界を優先する神経機構の副産物であり、文脈的錯覚が人工的および生物学的視覚システムにおける効率的なシーンセグメンテーション戦略を反映していることを示している。

ABSTRACT

We introduce a deep recurrent neural network architecture that approximates visual cortical circuits. We show that this architecture, which we refer to as the gamma-net, learns to solve contour detection tasks with better sample efficiency than state-of-the-art feedforward networks, while also exhibiting a classic perceptual illusion, known as the orientation-tilt illusion. Correcting this illusion significantly reduces gamma-net contour detection accuracy by driving it to prefer low-level edges over high-level object boundary contours. Overall, our study suggests that the orientation-tilt illusion is a byproduct of neural circuits that help biological visual systems achieve robust and efficient contour detection, and that incorporating these circuits in artificial neural networks can improve computer vision.

研究の動機と目的

• 文脈的視覚的錯覚（方向傾き錯覚）が、非効率な計算の兆候であるのではなく、効率的な神経計算の副産物であるかどうかを調査すること。
• 霊長類の視覚皮質回路を模倣した、再帰的ニューラルネットワークアーキテクチャ（γ-Net）を構築し、輪郭検出におけるサンプル効率を向上させること。
• γ-Netにおける方向傾き錯覚が、低レベルのエッジではなく高レベルの物体境界を検出する戦略的バイアスを反映しているかどうかを検証すること。
• 錯覚の修正を意図的に施した場合の性能とのトレードオフを評価し、文脈フィードバックの役割を解明すること。

提案手法

• γ-Netは、Mélyら（2018）の再帰的皮質回路モデルを模倣した階層的で学習可能な再帰的ニューラルネットワークアーキテクチャであり、視覚における文脈的錯覚を説明する。
• モデルは、空間的に広がった受容野を介してフィードフォワード信号とフィードバック信号を統合する、フィードバック再帰ユニット（fGRU）を用いる。
• 再帰的ダイナミクスは畳み込み再帰によって実装され、時間ステップにわたって特徴表現を段階的に精錬できる。
• 標準的なデータセット（BSDS500など）を用いて、ピクセル単位の境界予測に対する教師信号を用いて、エンドツーエンドで訓練される。
• 方向傾き錯覚の役割を検証するため、モデルは錯覚誘発刺激における中央グレーティングの方向の認識を修正するように微調整されたが、リードアウトヘッドは固定された。
• 性能評価は、BSDS500テストセットにおけるF1 ODSスコアを用い、錯覚補正済みモデルと非錯覚刺激で訓練されたドメイン転送制御モデルを比較した。

実験結果

リサーチクエスチョン

• RQ1 人工ニューラルネットワークにおける方向傾き錯覚は、非効率な計算の兆候であるのか、それとも効率的なシーンセグメンテーション戦略の副産物であるのか？
• RQ2 霊長類の視覚皮質回路を模倣した再帰的ニューラル回路は、最先端のフィードフォワードネットワークと比較して、輪郭検出におけるサンプル効率を向上させられるか？
• RQ3 γ-Netに見られる方向傾き錯覚の存在が、低レベルのエッジよりも高レベルの物体境界の検出を優先するバイアスと相関しているか？
• RQ4 γ-Netにおける方向傾き錯覚を補正した場合、輪郭検出性能にどのような影響が生じるのか。また、これにより文脈フィードバックの役割がどのように明らかになるか？

主な発見

• γ-Netは、特にデータが限られた訓練環境下において、最先端のフィードフォワード畳み込みネットワークと比較して顕著に高いサンプル効率を達成した。
• γ-Netは、輪郭検出タスクの学習後に自然に方向傾き錯覚を示したが、これは人間の知覚と一致し、標準的なフィードフォワードモデルでは観察されなかった。
• γ-Netにおける方向傾き錯覚の補正は、輪郭検出性能に顕著な低下をもたらした（p < 0.001）。これは、錯覚が物体境界検出を優先する戦略的バイアスと関連していることを示している。
• 錯覚補正済みのγ-Netは低レベルのエッジに偏る一方で、ドメイン転送制御モデルは高レベルの輪郭を維持する傾向を示した。これにより、錯覚が境界検出を支援していることが確認された。
• 水平方向（空間的に広がった）接続のみを除去するローカライズド・レッショニングによって錯覚が消失した。これにより、これらの接続が錯覚の出現に不可欠であることが確認された。
• 本研究は、文脈的錯覚が計算上のバグではなく、頑健で効率的な輪郭検出を最適化した神経回路の副産物であるという計算的証拠を提供した。