[論文レビュー] Deep Predictive Coding Network with Local Recurrent Processing for Object Recognition

Kuan Han, Haiguang Wen+4 more|arXiv (Cornell University)|May 19, 2018

Advanced Neural Network Applications被引用数 35

ひとこと要約

本論文では、局所的な再帰的処理と双方向フィードバック・フィードフォワード接続を用いて、反復的にオブジェクト認識表現を精錬する深層予測コーディングネットワーク（PCN）を提案する。脳における予測コーディングを模倣することで、標準のCNNよりも層数やパラメータ数を減らしつつ、SVHN、CIFAR、ImageNetで競争力ある画像分類精度を達成するとともに、予測誤差を通じて視覚的注目度を明らかにする。

ABSTRACT

Inspired by "predictive coding" - a theory in neuroscience, we develop a bi-directional and dynamic neural network with local recurrent processing, namely predictive coding network (PCN). Unlike feedforward-only convolutional neural networks, PCN includes both feedback connections, which carry top-down predictions, and feedforward connections, which carry bottom-up errors of prediction. Feedback and feedforward connections enable adjacent layers to interact locally and recurrently to refine representations towards minimization of layer-wise prediction errors. When unfolded over time, the recurrent processing gives rise to an increasingly deeper hierarchy of non-linear transformation, allowing a shallow network to dynamically extend itself into an arbitrarily deep network. We train and test PCN for image classification with SVHN, CIFAR and ImageNet datasets. Despite notably fewer layers and parameters, PCN achieves competitive performance compared to classical and state-of-the-art models. Further analysis shows that the internal representations in PCN converge over time and yield increasingly better accuracy in object recognition. Errors of top-down prediction also reveal visual saliency or bottom-up attention.

研究の動機と目的

• 予測コーディングを脳のメカニズムとして模倣した生物学的に妥当なニューラルネットワークアーキテクチャを開発し、より優れたオブジェクト認識を実現すること。
• 深いフィードフォワードアーキテクチャへの依存を減らし、浅いネットワークにおける再帰的処理によって動的深度を実現すること。
• 局所的な再帰的処理にフィードバックおよびフィードフォワード接続を組み合わせることで、表現学習と分類性能が向上するかどうかを調査すること。
• 反復的推論中に予測誤差から視覚的注目度がどのように出現するかを調査すること。
• 局所的再帰的処理とグローバル再帰的処理の予測コーディングネットワークにおける性能とダイナミクスを比較すること。

提案手法

• PCNは、各層が隣接層とフィードバック（上位からの予測）およびフィードフォワード（下位からの誤差）接続を介して相互作用する双方向アーキテクチャを採用する。
• 各タイムステップで、勾配に類似したダイナミクスを用いて予測誤差を最小化することで、層ごとの表現を反復的に精錬する。
• 学習には標準的な誤差逆伝播法を用いるが、推論では時間的に再帰的処理を展開することで、有効な階層を深くする。
• 各層は特徴抽出にインセプション型のCNNモジュールを用い、予測コーディングダイナミクスと組み合わせて反復的精錬を実現する。
• 層間の予測誤差信号を用いて、認識中の視覚的注目度および注目メカニズムを分析する。
• 標準的な画像分類プロトコルに従い、SVHN、CIFAR-10、CIFAR-100、ImageNetでモデルを評価する。

実験結果

リサーチクエスチョン

• RQ1 フィードバックおよびフィードフォワード接続を有する局所的再帰的処理を備えた双方向ネットワークは、標準のCNNと比較して、パラメータ数や層数を減らしてもオブジェクト認識性能を向上させることができるか？
• RQ2 再帰的処理中の予測誤差は、視覚的注目度やボトムアップ注目度とどのように関係しているか？
• RQ3 予測コーディングによる表現の反復的精錬は、収束的かつ安定した内部状態をもたらすか？
• RQ4 パフォーマンスと効率の観点から、局所的再帰的処理とグローバル再帰的処理の違いは何か？
• RQ5 PCNの誤差信号は、明示的な教師信号なしに注目度マップを予測するために利用できるか？

主な発見

• PCNは、標準的または最先端のモデルと比較して、はるかに少ない層数とパラメータ数で、SVHN、CIFAR-10、CIFAR-100、ImageNetで競争力ある分類精度を達成する。
• 予測誤差のノルムは時間経過とともに減少し、再帰的処理中に内部表現が安定した低誤差状態に収束していることを示している。
• 層間の予測誤差の空間的分布から視覚的注目度が明らかになり、特徴が顕著な画像領域が強調されている。これは、ボトムアップ注目度の出現を示唆している。
• 層の表現の更新方向が分類損失の負の勾配と一致しており、予測コーディングが最適な表現学習を暗黙的に支援していることを示している。
• 局所的再帰的処理を用いたPCNは、グローバル再帰的処理を用いたバージョンを上回る性能を示しており、コアなオブジェクト認識には局所的フィードバックが十分であることが示唆されている。
• ネットワークの内部誤差信号は、明示的な教師信号なしに注目度マップを予測可能であり、注目度モデリングへの応用の可能性を示している。