[论文解读] Categorical Foundations of Gradient-Based Learning

G. S. H. Cruttwell, Bruno Gavranović+3 more|arXiv (Cornell University)|Mar 2, 2021

Topological and Geometric Data Analysis被引用 5

一句话总结

本文提出了一种基于参数化透镜和反向导数范畴的范畴框架，用于梯度学习，统一了各类优化器（如Adam、AdaGrad）和损失函数（如MSE、交叉熵），涵盖连续与离散领域（如布尔电路）。核心贡献是提供一种原则性、可组合的语义模型，支持形式化推理与Python中的实际实现。

ABSTRACT

We propose a categorical semantics of gradient-based machine learning algorithms in terms of lenses, parametrised maps, and reverse derivative categories. This foundation provides a powerful explanatory and unifying framework: it encompasses a variety of gradient descent algorithms such as ADAM, AdaGrad, and Nesterov momentum, as well as a variety of loss functions such as as MSE and Softmax cross-entropy, shedding new light on their similarities and differences. Our approach to gradient-based learning has examples generalising beyond the familiar continuous domains (modelled in categories of smooth maps) and can be realized in the discrete setting of boolean circuits. Finally, we demonstrate the practical significance of our framework with an implementation in Python.

研究动机与目标

• 开发一个统一的、数学上严谨的框架，用于理解基于梯度的机器学习算法。
• 解决当前学习算法缺乏通用、可扩展的语义基础的问题，这些算法目前多以启发式或孤立方式分析。
• 在单一范畴结构下统一监督学习的各类组件，如优化器、损失函数和参数更新。
• 将基于梯度的学习适用范围从光滑函数扩展至离散设置（如布尔电路）。
• 通过基于范畴论的组合性、原则性语义模型，实现形式化推理与实现。

提出的方法

• 通过参数化透镜建模基于梯度的学习，形式化输入、输出与参数之间的双向数据流。
• 利用反向导数范畴（RDCs）为微分与梯度计算提供范畴基础。
• 将损失函数与优化器形式化为参数化透镜范畴中的态射，支持组合性推理。
• 应用Para构造方法建模参数化映射，并将透镜框架推广至不同计算领域。
• 在Python中实现该框架，以证明其实际可行性与学习系统组合构建的潜力。
• 利用纤维化与依赖类型建模切触丛，并将框架扩展至基于流形的学习。

实验结果

研究问题

• RQ1 如何为同时涵盖连续与离散设置的基于梯度的学习，构建统一的范畴语义？
• RQ2 反向传播与参数更新中信息的双向流动，其背后的范畴结构是什么？
• RQ3 如何在单一框架内统一建模不同的优化器（如Adam、Nesterov）与损失函数（如MSE、交叉熵）？
• RQ4 该框架能否扩展以支持高阶导数及复杂架构（如GANs或RNNs）？
• RQ5 该框架如何适应非监督、概率性或非基于梯度的学习范式？

主要发现

• 该框架成功地将多种优化器（如Adam、AdaGrad、Nesterov动量）统一于单一范畴模型之下。
• 在基于透镜的框架中，为均方误差与Softmax交叉熵等损失函数提供了正式语义。
• 该方法不仅适用于光滑函数，还可推广至离散领域（如布尔电路），证明其在非连续设置下的适用性。
• 该框架同时支持参数学习与输入学习（如深度幻觉生成），展现出广泛适用性。
• 一个可运行的Python实现证明了该方法的实际可行性与组合性特征。
• 该框架可扩展至高级架构（如GANs与RNNs），并支持未来对高阶导数与博弈论学习的扩展。