[論文レビュー] Relaxing the Constraints on Predictive Coding Models

Beren Millidge, Alexander Tschantz+2 more|arXiv (Cornell University)|Oct 2, 2020

Neural dynamics and brain function参考文献 49被引用数 14

ひとこと要約

この論文は、予測符号化モデルにおける代表的な生物学的に不自然な制約—たとえば重みの縛り、逆方向の非線形性、1対1の誤差接続—を緩和しても性能が低下しないことを示している。これらの制約を学習可能でヘブニアンに更新される重みに置き換え、誤差ダイナミクスを単純化することで、著者らは完全に局所的で二部グラフ構造のネットワークがバックプロパゲーションを近似でき、高い学習精度を達成できることを示した。これにより、生物学的に妥当な神経回路の設計空間が著しく拡張された。

ABSTRACT

Predictive coding is an influential theory of cortical function which posits that the principal computation the brain performs, which underlies both perception and learning, is the minimization of prediction errors. While motivated by high-level notions of variational inference, detailed neurophysiological models of cortical microcircuits which can implements its computations have been developed. Moreover, under certain conditions, predictive coding has been shown to approximate the backpropagation of error algorithm, and thus provides a relatively biologically plausible credit-assignment mechanism for training deep networks. However, standard implementations of the algorithm still involve potentially neurally implausible features such as identical forward and backward weights, backward nonlinear derivatives, and 1-1 error unit connectivity. In this paper, we show that these features are not integral to the algorithm and can be removed either directly or through learning additional sets of parameters with Hebbian update rules without noticeable harm to learning performance. Our work thus relaxes current constraints on potential microcircuit designs and hopefully opens up new regions of the design-space for neuromorphic implementations of predictive coding.

研究の動機と目的

• 予測符号化モデルにおける長年の生物学的不自然さ、たとえば重みの縛りや非局所的誤差接続を是正すること。
• 対称的かつ逆方向の重みと1対1の誤差ユニットという核心的な仮定を緩和しても、予測符号化の学習性能の核が保持されるかを調査すること。
• ヘブニアン学習ルールが、固定された非生物学的要因を置き換えることで、予測符号化の生物学的妥当性を高められるかを検討すること。
• 完全に局所的で、二部グラフ構造のネットワークアーキテクチャが、教師ありおよび教師なし学習タスクにおいても高い性能を達成できることを示すこと。
• 皮質マイクロサーキット設計における制約を減らすことで、神経形態的実装の設計空間を拡張すること。

提案手法

• 固定された対称的逆方向重みを学習可能でヘブニアンに更新される重みに置き換える、修正された予測符号化フレームワークを提案する。
• 逆方向重みや誤差接続のための別個のパラメータセット（例：逆方向重みや誤差接続）をヘブニアンルールで学習させ、重み輸送の必要性を排除する。
• 誤差ユニットと値ユニットの1対1接続要件を撤廃し、疎で学習可能な誤差接続を許容する。
• 生物学的に不自然な導関数に基づく項を排除することで逆方向非線形性を単純化し、代わりに学習されたダイナミクスを介した直接的な誤差伝播に依存する。
• 変分推論フレームワークを用いて、新しいパラメータの学習ルールを自由エネルギー目的関数の勾配降下として導出する。
• 層間でのみ値→誤差および誤差→値の接続を持つ二部グラフ構造のネットワークを採用し、層内での直接的な横方向またはフィードバック接続を避ける。

実験結果

リサーチクエスチョン

• RQ1 対称的逆方向重みが撤廃され、学習可能でヘブニアンに更新される重みに置き換えられても、予測符号化モデルが高精度な学習性能を維持できるか？
• RQ2 1対1の誤差ユニット接続要件が撤廃されても、予測符号化ネットワークの学習性能が低下するか？
• RQ3 逆方向非線形性を安全に無視または置き換えても学習に悪影響を及えないか、特に変分推論の文脈において。
• RQ4 ヘブニアン学習を用いた完全に局所的で二部グラフ構造のネットワークアーキテクチャが、深層ネットワークにおけるバックプロパゲーションをどの程度近似できるか？
• RQ5 これらの緩和が、生物学的に妥当な神経形態的回路の設計にどのような意味を持つのか？

主な発見

• 対称的逆方向重みと1対1の誤差接続の削除は、ハイパボリック・タンジェント非線形性を同じ条件下で用いる限り、学習性能にほとんど影響を与えない。
• ヘブニアンルールを用いて逆方向重みと誤差接続を学習することで、分類（識別的および生成的）の両方の能力が保持される。
• 得られたアーキテクチャは完全に局所的であり、非局所的情報伝達が存在しないため、神経形態的ハードウェア実装に非常に適している。
• 局所的結合とヘブニアン学習のみを用いても、複雑な入出力マッピングにおいて高い精度を達成でき、これにより複雑な表現学習に十分なメカニズムである可能性が示唆される。
• 変分自由エネルギーフレームワークにより、新しいパラメータの学習ルールが数学的に一貫した形で導出可能であり、理論的整合性を支持する。
• 結果から、予測符号化はその核心方程式に対して著しい摂動に耐えうる強固さと柔軟性を有していることが示唆される。