[论文解读] Opening the black box of deep learning

Dian Lei, Xiaoxiao Chen+1 more|arXiv (Cornell University)|May 22, 2018

Generative Adversarial Networks and Image Synthesis参考文献 32被引用 24

一句话总结

本文提出一种基于物理的框架，将深度学习解释为受量子力学与统计物理支配的物理系统，证明卷积、池化和激活等核心操作可自然地从物理原理中涌现。研究表明，深度学习的成功源于其与普适物理定律的一致性，为深度学习的有效性与泛化能力提供了统一且理论基础坚实的解释。

ABSTRACT

The great success of deep learning shows that its technology contains profound truth, and understanding its internal mechanism not only has important implications for the development of its technology and effective application in various fields, but also provides meaningful insights into the understanding of human brain mechanism. At present, most of the theoretical research on deep learning is based on mathematics. This dissertation proposes that the neural network of deep learning is a physical system, examines deep learning from three different perspectives: microscopic, macroscopic, and physical world views, answers multiple theoretical puzzles in deep learning by using physics principles. For example, from the perspective of quantum mechanics and statistical physics, this dissertation presents the calculation methods for convolution calculation, pooling, normalization, and Restricted Boltzmann Machine, as well as the selection of cost functions, explains why deep learning must be deep, what characteristics are learned in deep learning, why Convolutional Neural Networks do not have to be trained layer by layer, and the limitations of deep learning, etc., and proposes the theoretical direction and basis for the further development of deep learning now and in the future. The brilliance of physics flashes in deep learning, we try to establish the deep learning technology based on the scientific theory of physics.

研究动机与目标

• 为解决深度学习中的'黑箱'问题，提供基于物理而非纯数学的理论基础。
• 利用量子力学与统计物理的原理，解释深度学习为何有效——特别是为何需要深层结构。
• 将卷积、池化、归一化等关键深度学习组件统一理解为物理过程，而非任意的算法选择。
• 通过将深度学习建立在能量、熵与对称性等科学定律基础上，为未来深度学习的发展奠定理论基础。
• 证明遵循自然规律的物理数据本质上可被深度网络学习，而符号数据则不然。

提出的方法

• 将神经网络建模为物理系统，其中神经元代表响应入射波函数（准粒子）的量子系统，受量子叠加与相互作用哈密顿量支配。
• 将输入数据视为波函数，网络激活视为源自量子测量结果的概率分布，网络执行如粒子数或动量测量等物理可观测量。
• 将卷积推导为通过相互作用势测量激发准粒子数量的物理操作，类比于量子散射过程。
• 将代价函数（如交叉熵）表述为统计物理中的熵基目标，将优化与能量最小化、最大熵等物理原理相联系。
• 利用重整化群概念与对称性原理（如局域性、平移不变性）解释深层网络中的层次特征学习与泛化能力。
• 区分微观（类似CNN）与宏观（类似RBM）模型：CNN作为量子测量过程，RBM作为对大量微观态的统计平均。

实验结果

研究问题

• RQ1 为何深度学习必须是深层的？何种物理原理决定了深度的必要性？
• RQ2 标准深度学习操作（如卷积、ReLU、池化、归一化）如何从物理定律中自然涌现？
• RQ3 为何深度网络能很好地泛化到物理数据，却在符号或非物理数据上失败？
• RQ4 在分类任务中，为何选择交叉熵作为代价函数具有物理基础？
• RQ5 卷积神经网络的成功能否不被解释为一种算法技巧，而被理解为物理测量过程的自然结果？

主要发现

• 卷积神经网络执行对准粒子激发数量的物理测量，卷积核对应于相互作用哈密顿量，从而解释了其在提取物理特征方面的有效性。
• 深度学习的成功并非偶然，而是源于其与局域性、对称性与能量最小化等基本物理定律的一致性，而这些定律在真实世界数据中本征存在。
• 使用交叉熵作为代价函数具有物理依据，因其与统计物理中的熵相对应，将优化过程与无序与信息的物理原理相联系。
• 深度学习的泛化能力源于现实世界数据（物理数据）遵循参数较少的简单物理模型，使其本质上可被深度网络学习。
• 本文解释了为何可进行端到端训练而非逐层训练：物理模型将整个网络视为一个一致的量子测量过程，而非顺序堆叠。
• 该框架预测了新的研究方向，如位置神经元与混合集成网络，其基础是物理一致性，并可通过实验验证。