[論文レビュー] Hierarchical Predictive Coding Models in a Deep-Learning Framework

Matin Hosseini, Anthony S. Maida|arXiv (Cornell University)|May 7, 2020

Neural dynamics and brain function参考文献 53被引用数 8

ひとこと要約

この論文は、新皮質におけるベイジアン予測コーディングを模倣した階層的予測コーディングモデルのためのディープラーニングフレームワークを提案している。上位からの予測と下位からの予測誤差を用いて表現を精緻化する。予測コーディングを現代のディープラーニングアーキテクチャに組み込むことで、ビデオ予測、異常検出、オブジェクト認識の応用を含め、強固で教師なしの表現学習が可能であることを示している。

ABSTRACT

Bayesian predictive coding is a putative neuromorphic method for acquiring higher-level neural representations to account for sensory input. Although originating in the neuroscience community, there are also efforts in the machine learning community to study these models. This paper reviews some of the more well known models. Our review analyzes module connectivity and patterns of information transfer, seeking to find general principles used across the models. We also survey some recent attempts to cast these models within a deep learning framework. A defining feature of Bayesian predictive coding is that it uses top-down, reconstructive mechanisms to predict incoming sensory inputs or their lower-level representations. Discrepancies between the predicted and the actual inputs, known as prediction errors, then give rise to future learning that refines and improves the predictive accuracy of learned higher-level representations. Predictive coding models intended to describe computations in the neocortex emerged prior to the development of deep learning and used a communication structure between modules that we name the Rao-Ballard protocol. This protocol was derived from a Bayesian generative model with some rather strong statistical assumptions. The RB protocol provides a rubric to assess the fidelity of deep learning models that claim to implement predictive coding.

研究の動機と目的

• 神経科学からの古典的予測コーディングモデルと現代のディープラーニングフレームワークを橋渡しすること。
• 階層的予測コーディングモデルにおける接続性と情報フローを分析し、一般的な計算原理を同定すること。
• 緩い統計的仮定のもとで、予測コーディングをディープラーニングツールを用いて実装可能かつ有効であることを実証すること。
• 通常のディープニューラルネットワークに存在しないフィードバック接続が、学習と表現品質をどのように向上させるかを調査すること。
• 予測コーディングが、ビデオ予測、分類、異常検出といったタスクを統合的に扱うフレームワークとして機能できるかどうかを評価すること。

提案手法

• 階層的モジュール間のコアな通信構造としてRao-Ballardプロトコルを採用し、上位からの予測と誤差のバックプロパゲーションを可能にする。
• 畳み込みおよび再帰的アーキテクチャ（LSTMを含む）を用いて、ディープラーニングフレームワークで予測コーディングを実装する。
• 予測誤差の最小化による教師なし学習を適用し、予測値と実際の入力との乖離が表現の精緻化を駆動する。
• 生成モデルの原則を用いて、上位の表現が下位の入力を正確に再構成できるようにする。
• 標準のフォワード伝搬ディープニューラルネットワークとは対照的に、層間のフィードバック接続を統合し、表現の反復的精緻化を可能にする。
• 動画フレーム予測と異常検出タスクを用いて手法を検証し、残差誤差が期待されるパターンからの逸脱を示すことを確認した。

実験結果

リサーチクエスチョン

• RQ1 予測コーディングの原則をどのようにして現代のディープラーニングアーキテクチャに効果的に統合できるか？
• RQ2 フィードバック接続は、表現学習とモデルのロバストネスを向上させるために果たす役割は何か？
• RQ3 予測誤差で学習された予測コーディングモデルは、ビデオ予測および異常検出において高い性能を達成できるか？
• RQ4 予測コーディングで学習された表現は、標準のオートエンコーダーやディープベルーフネットワークのものと比べてどのように異なるか？
• RQ5 上位層における残差誤差が、異常検出のための信頼できる指標としてどの程度有効に機能するか？

主な発見

• Rao-Ballardプロトコルは、ディープラーニングにおける階層的予測コーディングを実装するための実用的で解釈可能なフレームワークを提供する。
• フィードバック接続は、動画フレーム予測など、時間的・空間的一般化を要するタスクにおけるモデル性能を顕著に向上させる。
• 予測誤差の最小化により、入力の変動の背後にある要因を捉える豊かな、分離可能な表現が獲得される。
• 上位層における残差誤差は、異常を信頼性高く示しており、予測コーディングを外れ値検出に活用する根拠となる。
• 再帰的ユニット（例：LSTM）を用いた予測コーディングモデルは、完全にフォワード伝搬ネットワークに比べ、遮蔽や部分的可視性に対してもよりロバストであることが示された。
• 予測コーディングをディープラーニングに統合することで、ラベルなしデータを必要とせず、多様なタスクで強力な性能を発揮する、教師なしでエンドツーエンドの学習が可能になる。