[論文レビュー] Evolving Culture vs Local Minima

Yoshua Bengio|arXiv (Cornell University)|Mar 14, 2012

Language and cultural evolution参考文献 45被引用数 21

ひとこと要約

この論文は、人間の文化と言語が、深層認知アーキテクチャ内での高レベルの抽象化を学習する際の最適化の困難さ——特に局所的最小値——を克服するためのメカニズムとして進化したと提案する。個々の個人間で心的概念を伝達・再結合可能にすることで、文化は、より効果的な表現の発見を加速する間接的監視の役割を果たし、脳が学習の多様性における劣悪な局所的最小値から脱出できるようにする。

ABSTRACT

We propose a theory that relates difficulty of learning in deep architectures to culture and language. It is articulated around the following hypotheses: (1) learning in an individual human brain is hampered by the presence of effective local minima; (2) this optimization difficulty is particularly important when it comes to learning higher-level abstractions, i.e., concepts that cover a vast and highly-nonlinear span of sensory configurations; (3) such high-level abstractions are best represented in brains by the composition of many levels of representation, i.e., by deep architectures; (4) a human brain can learn such high-level abstractions if guided by the signals produced by other humans, which act as hints or indirect supervision for these high-level abstractions; and (5), language and the recombination and optimization of mental concepts provide an efficient evolutionary recombination operator, and this gives rise to rapid search in the space of communicable ideas that help humans build up better high-level internal representations of their world. These hypotheses put together imply that human culture and the evolution of ideas have been crucial to counter an optimization difficulty: this optimization difficulty would otherwise make it very difficult for human brains to capture high-level knowledge of the world. The theory is grounded in experimental observations of the difficulties of training deep artificial neural networks. Plausible consequences of this theory for the efficiency of cultural evolutions are sketched.

研究の動機と目的

• 深層アーキテクチャにおける高レベルの抽象化の学習が、局所的最小値などの最適化の課題によってなぜ困難であるかを説明すること。
• 人間の文化と言語が、学習をガイドし表現学習を向上させる進化的なメカニズムとしてどのように機能するかを調査すること。
• 文化的なアイデアの伝達が間接的監視として機能し、複雑な非線形学習問題の解決における集団的進歩を可能にするという仮説を提示すること。
• 言語が、伝達可能な心的概念の空間における探索を加速する再結合作用としてどのように機能するかを検討すること。
• 深層学習研究からの知見を、人間の認知、言語、文化的伝達の進化と結びつけること。

提案手法

• 深層学習の最適化の困難さ（局所的最小値）と文化・言語の進化的出現を結びつける理論的枠組みを提唱する。
• 期待誤差を最小化する基準関数（C(θ) = ∫P(z)E(θ,z)dz）に基づく最適化プロセスとして人間の学習をモデル化し、局所的最小値が進行を妨げる。
• 他の人々からの「ヒント」を間接的監視として導入し、より良い高レベル表現への学習をガイドする。
• 言語を心的概念の再結合・最適化を可能にするメカニズムとして位置づけ、アイデアの空間における効率的探索を可能にする。
• 学習者の集団の計算シミュレーションを用いて、通信を通じて高レベルの抽象を共有する場合と個別学習の場合を比較し、収束速度の違いを検証する。
• メミティックアルゴリズムや文化的進化と類似点を示し、アイデア交換のオープンかつ分散型のシステムが集団知能を向上させることを示唆する。

実験結果

リサーチクエスチョン

• RQ1 なぜ深層アーキテクチャにおいて高レベルの抽象化の学習が特に困難であり、局所的最小値はその困難さにどのように寄与するか？
• RQ2 アイデアの文化的な伝達は、学習プロセスにおける局所的最小値をどのように乗り越えるのを支援するか？
• RQ3 言語は心的概念の進化的な再結合作用として、どのように機能するか？
• RQ4 通信を通じて高レベルの抽象を共有する学習者の集団は、個別学習に比べてより優れた一般化性能を達成できるか？
• RQ5 社会的構造とコミュニケーションツールは、複雑な認知的問題を解決する文化的進化の効率にどのように影響するか？

主な発見

• 深層アーキテクチャの最適化の多様性に局所的最小値が存在すると、高レベルの抽象化の学習に対する根本的な障壁が生じる。
• アイデアの文化的な伝達は、他者の知見を活用することで、劣悪な局所的最小値から脱出するための間接的監視として機能する。
• 言語は心的概念の再結合と最適化を効率的に行い、伝達可能なアイデアの空間における探索を加速する。
• 計算シミュレーションの結果、通信を通じて高レベルの抽象を共有する集団は、孤立学習よりも速やかにより良い解に収束し、全体の適応度が向上することが示された。
• アイデアの多様な探索を促進し、高品質なメム（例：オープンアクセスや分散型評価システム）を迅速に広める社会的構造は、文化的進化の効率を高める。
• この理論は、文化的進化が知能の副産物であるのではなく、特に深層アーキテクチャにおける個別学習の限界を補完する重要な要因であることを示唆している。