[论文解读] Evolving Culture vs Local Minima

Yoshua Bengio|arXiv (Cornell University)|Mar 14, 2012

Language and cultural evolution参考文献 45被引用 21

一句话总结

本文提出，人类文化和语言的演化是为了解决深层认知架构中学习高层次抽象时的优化困难——特别是局部极小值问题。通过在个体之间传递和重组心智概念，文化作为一种间接监督形式，加速了有效表征的发现，从而使大脑能够摆脱学习景观中的不良局部极小值。

ABSTRACT

We propose a theory that relates difficulty of learning in deep architectures to culture and language. It is articulated around the following hypotheses: (1) learning in an individual human brain is hampered by the presence of effective local minima; (2) this optimization difficulty is particularly important when it comes to learning higher-level abstractions, i.e., concepts that cover a vast and highly-nonlinear span of sensory configurations; (3) such high-level abstractions are best represented in brains by the composition of many levels of representation, i.e., by deep architectures; (4) a human brain can learn such high-level abstractions if guided by the signals produced by other humans, which act as hints or indirect supervision for these high-level abstractions; and (5), language and the recombination and optimization of mental concepts provide an efficient evolutionary recombination operator, and this gives rise to rapid search in the space of communicable ideas that help humans build up better high-level internal representations of their world. These hypotheses put together imply that human culture and the evolution of ideas have been crucial to counter an optimization difficulty: this optimization difficulty would otherwise make it very difficult for human brains to capture high-level knowledge of the world. The theory is grounded in experimental observations of the difficulties of training deep artificial neural networks. Plausible consequences of this theory for the efficiency of cultural evolutions are sketched.

研究动机与目标

• 解释为何在深层架构中学习高层次抽象存在困难，以及局部极小值等优化挑战在其中所起的作用。
• 研究人类文化和语言如何作为进化机制，引导学习并改善表征学习。
• 提出文化对思想的传递可作为间接监督，使集体能够更有效地解决复杂且非线性的学习问题。
• 探讨语言作为心智概念的重组算子，在可沟通心智概念空间中加速搜索的作用。
• 将深度学习研究的洞见与人类认知、语言及文化传递的演化联系起来。

提出的方法

• 提出一个理论框架，将深度学习优化困难（如局部极小值）与文化和语言的进化出现联系起来。
• 将人类学习建模为对准则函数的优化过程，该函数最小化期望误差（C(θ) = ∫P(z)E(θ,z)dz），其中局部极小值会阻碍进展。
• 引入来自其他人类的“提示”作为间接监督，引导学习朝向更优的高层次表征。
• 将语言视为重组和优化心智概念的机制，实现对思想空间的高效探索。
• 通过学习者群体的计算模拟，检验通过沟通共享高层次抽象是否能比孤立学习更快收敛。
• 与记忆算法和文化演化类比，表明开放、去中心化的思想交换系统可增强集体智能。

实验结果

研究问题

• RQ1 为何在深层架构中学习高层次抽象尤其困难，局部极小值在其中扮演何种角色？
• RQ2 文化对思想的传递如何帮助个体克服学习过程中的局部极小值？
• RQ3 语言在心智概念的进化重组中以何种方式发挥作用？
• RQ4 当学习者通过沟通共享高层次抽象时，其群体的一般化性能是否优于孤立学习？
• RQ5 社会结构和沟通工具如何影响文化演化在解决复杂认知问题时的效率？

主要发现

• 深层架构优化景观中存在局部极小值，构成了学习高层次抽象的根本障碍。
• 文化对思想的传递作为间接监督，使个体能够借助他人见解，摆脱不良局部极小值。
• 语言能够高效重组和优化心智概念，加速对可沟通思想空间的搜索。
• 计算模拟表明，通过沟通共享高层次抽象的学习者群体比孤立学习者收敛更快，整体群体适应度更高。
• 促进思想探索多样性并快速传播高质量模因（如通过开放获取和去中心化评分系统）的社会结构，可提升文化演化的效率。
• 该理论表明，文化演化不仅是智能的副产品，更是其关键促成因素，尤其在克服个体学习在深层架构中的局限性方面。