[論文レビュー] The Inevitability of Probability: Probabilistic Inference in Generic Neural Networks Trained with Non-Probabilistic Feedback

A. Emin Orhan, Wei Ji|arXiv (Cornell University)|Jan 12, 2016

Neural Networks and Applications被引用数 5

ひとこと要約

この論文は、非確率的フィードバック上で単純な誤差ベース学習で訓練された汎用の順方向型および再帰型ニューラルネットワークが、心理物理学的タスクにおいて近似的に最適な確率的推論能力を自然に発現できることを示している。主な発見は、隠れ層がスパarsityに基づく確率的集団コードを形成することであり、これにより最小限のネットワークサイズと強い汎化性能を実現するが、明示的な確率的教師信号がなくても可能である。

ABSTRACT

Humans and other animals have been shown to perform near-optimal probabilistic inference in a wide range of psychophysical tasks. On the face of it, this is surprising because optimal probabilistic inference in each case is associated with highly non-trivial behavioral strategies. Yet, typically subjects receive little to no feedback during most of these tasks and the received feedback is not explicitly probabilistic in nature. How can subjects learn such non-trivial behavioral strategies from scarce non-probabilistic feedback? We show that generic feed-forward and recurrent neural networks trained with a relatively small number of non-probabilistic examples using simple error-based learning rules can perform near-optimal probabilistic inference in standard psychophysical tasks. The hidden layers of the trained networks develop a novel sparsity-based probabilistic population code. In all tasks, performance asymptotes at very small network sizes, usually on the order of tens of hidden units, due to the low computational complexity of the typical psychophysical tasks. For the same reason, the trained networks also display remarkable generalization to stimulus conditions not seen during training. We further show that in a probabilistic binary categorization task involving arbitrary categories where both human and monkey subjects have been shown to perform probabilistic inference, a monkey subject's performance (but not human subjects' performance) is consistent with an error-based learning rule. Our results suggest that near-optimal probabilistic inference in standard psychophysical tasks emerges naturally and robustly in generic neural networks trained with error-based learning rules, even when neither the training objective nor the training examples are explicitly probabilistic, and that these types of networks can be used as simple plausible neural models of probabilistic inference.

研究の動機と目的

• 非確率的フィードバックで訓練された神経ネットワークが、なぜ近似的に最適な確率的推論を達成できるかを調査すること。
• 誤差ベースの学習ルールが、汎用の神経アーキテクチャにおいて確率的推論を生み出すことができるかどうかを特定すること。
• 訓練済みネットワークの隠れ層に、スパarsityに基づく確率的集団コードがどのように出現するかを調査すること。
• 訓練済みネットワークの未学習の刺激条件に対する汎化性能を評価すること。
• 二値分類タスクにおける、サル（マネキ）および人間被験者の行動データとモデル予測を比較すること。

提案手法

• 非確率的例題を用いた標準的な誤差ベース学習ルールで順方向型および再帰型ニューラルネットワークを訓練すること。
• 隠れ層にスパarsityに基づく符号化方式を採用し、確率的不確実性を表現すること。
• 標準的な心理物理学的タスクにおいて、確率的推論を要するネットワークのパフォーマンスを評価すること。
• ネットワークサイズを変化させながら、計算効率を評価すること。
• 学習中に存在しなかった新しい刺激条件への汎化をテストすること。
• 二値分類タスクにおける人間およびサル被験者の行動データと、モデル予測を比較すること。

実験結果

リサーチクエスチョン

• RQ1 非確率的フィードバックで訓練された汎用神経ネットワークは、近似的に最適な確率的推論を実行できるか？
• RQ2 確率的推論を支えるために、隠れ層にどのような内部表現（符号化）が出現するか？
• RQ3 このようなネットワークは、最適なパフォーマンスを達成しつつ、どれほど小さくできるか？
• RQ4 これらのネットワークは、未学習の刺激にどの程度汎化するか？
• RQ5 観察された行動は、非ヒト霊長類における誤差ベースの学習ルールと整合的か？

主な発見

• 非確率的フィードバックおよび学習目的にもかかわらず、訓練済みネットワークは心理物理学的タスクで近似的に最適な確率的推論を達成している。
• タスクの複雑さが低いため、非常に小さなネットワークサイズ（通常は数十個の隠れユニット）で性能が飽和する。
• 隠れ層にスパarsityに基づく確率的集団コードが自発的に出現し、不確実性を符号化している。
• 学習中に存在しなかった刺激条件に対しても、ネットワークは強い汎化性能を示している。
• サル被験者の確率的分類タスクにおけるパフォーマンスは、提案された誤差ベースの学習ルールと整合的であるが、人間のパフォーマンスとは一致しない。
• 結果から、生物学的に妥当な学習ルールのもとで、確率的推論が神経ネットワークに自然に出現しうることが示唆される。