[論文レビュー] Sampling-based probabilistic inference emerges from learning in neural circuits with a cost on reliability

Laurence Aitchison, Guillaume Hennequin+1 more|arXiv (Cornell University)|Jul 24, 2018

Neural dynamics and brain function参考文献 38被引用数 6

ひとこと要約

この論文は、神経ネットワークが神経の信頼性に生物学的に妥当なコスト（正確な発火の代謝的費用を表す）を用いて学習されるとき、自然にサンプリングに基づく確率的推論が発現することを示している。再構成精度とエネルギー代謝コストのバランスを取ることで、学習タスクが確率的でないにもかかわらず、ネットワークはベイズ的後方分布からのサンプリングを示す応答のばらつきを獲得する。この顕在的行動は、感覚皮質で観察された神経動態と類似しており、自己符号化器における変分推論と明示的に関連づけられる。

ABSTRACT

Neural responses in the cortex change over time both systematically, due to ongoing plasticity and learning, and seemingly randomly, due to various sources of noise and variability. Most previous work considered each of these processes, learning and variability, in isolation -- here we study neural networks exhibiting both and show that their interaction leads to the emergence of powerful computational properties. We trained neural networks on classical unsupervised learning tasks, in which the objective was to represent their inputs in an efficient, easily decodable form, with an additional cost for neural reliability which we derived from basic biophysical considerations. This cost on reliability introduced a tradeoff between energetically cheap but inaccurate representations and energetically costly but accurate ones. Despite the learning tasks being non-probabilistic, the networks solved this tradeoff by developing a probabilistic representation: neural variability represented samples from statistically appropriate posterior distributions that would result from performing probabilistic inference over their inputs. We provide an analytical understanding of this result by revealing a connection between the cost of reliability, and the objective for a state-of-the-art Bayesian inference strategy: variational autoencoders. We show that the same cost leads to the emergence of increasingly accurate probabilistic representations as networks become more complex, from single-layer feed-forward, through multi-layer feed-forward, to recurrent architectures. Our results provide insights into why neural responses in sensory areas show signatures of sampling-based probabilistic representations, and may inform future deep learning algorithms and their implementation in stochastic low-precision computing systems.

研究の動機と目的

• 神経のばらつきが性能に悪影響を及えるにもかかわらず、継続的なシナプス可塑性の文脈でその持続理由を理解すること。
• 学習システムにおける神経の信頼性（高い代謝コスト）と性能の正確さの間のトレードオフを調査すること。
• 信頼性に対する生物学的根拠に基づくコストが、神経回路における確率的計算の出現を引き起こすかどうかを特定すること。
• そのようなコストが、非確率的学習タスクでさえも、統計的に適切な後方分布からのサンプリングを誘発するかどうかを検討すること。
• この生物学的に動機づけられた目的と、現代の機械学習で用いられる変分自由エネルギー原理との間の正式な関連を確立すること。

提案手法

• スパースコーディングやオートエンコーダーなどの非教師あり学習タスクに、高信頼性（低ノイズ）をペナルティとする追加のコスト項を含めた神経ネットワークの学習。
• 神経のばらつきを、神経単位ごとのノイズ振幅（σi）を用いた確率的ダイナミクスでモデル化し、ノイズは代謝コストを反映するパラメータにスケーリングされる。
• 具体的には、正確で低ノイズのスパイク応答を維持するために必要なエネルギーを根拠として、信頼性コストを生物物理学的原則から導出する。
• 神経集団ダイナミクスを、ドリフト（Π）とノイズ（Q）行列を用いた動的システムとして定式化し、Πには対称成分（Q）と反対称成分（S）が含まれる。
• アンチ対称成分Sの無制限の増大を防ぐために、ΠΣ（ダイナミクス行列 × 定常共分散）にフロベニウスノルムを正則化子として導入する。
• サンプリング速度を、時間経過における経験的平均推定の共分散を用いて分析し、平均二乗誤差の代理として、Σ⁻¹/²Cov[µ]Σ⁻¹/²のトレースを用いる。

実験結果

リサーチクエスチョン

• RQ1 生物学的に妥当な神経の信頼性コストが、神経ネットワークにおける確率的推論の出現を引き起こすことができるか？
• RQ2 学習済みネットワークにおける神経のばらつきは、隠れ要因のベイズ的後方分布からのサンプルに対応するか？
• RQ3 エネルギー代謝コストと表現の正確さのトレードオフが、神経応答ばらつきの構造にどのように影響を与えるか？
• RQ4 導出された信頼性コストと、変分オートエンコーダーで用いられる変分自由エネルギー目的関数との間に正式な関連があるか？
• RQ5 このメカニズムは、深層および再帰的ネットワークを含む、さまざまなネットワークアーキテクチャに一般化可能か？

主な発見

• 信頼性コストを伴って学習された神経ネットワークは、学習タスクが確率的でないにもかかわらず、入力の内部確率的モデルの後方分布からのサンプリングを示す応答ばらつきを獲得する。
• 正確さと信頼性の最適バランスは、近似的なベイズ推論によるサンプリングによって生成される分布と統計的に同等の応答分布をもたらす。
• 導出された目的関数は、変分自由エネルギーの上界を形成し、これを最小化することでネットワーク応答と真の後方分布との類似度が向上することが保証される。
• 深層および再帰的アーキテクチャでは、同じメカニズムにより、フィードフォワードネットワークでは表現できない複雑で相関のある後方分布からのサンプリングが可能になる。
• サンプリング速度は、ダイナミクス行列の構造と定量的に関連しており、アンチ対称成分Sがノイズと相関をバランスさせるように調整された場合に最適なサンプリングが達成される。
• この手法は、再帰的ネットワークにおける時間的相関に対してもロバストであり、推論の正確性やオートエンコーダー性能を損なわずに高速収束を促進可能である。