[论文解读] Lenses and Learners

Brendan Fong, Michael Johnson|arXiv (Cornell University)|Mar 5, 2019

Constraint Satisfaction and Optimization参考文献 12被引用 10

一句话总结

本文建立了监督学习算法（建模为'学习者'）与双向数据转换结构（透镜）之间的深层数学联系，表明学习者可通过一个对称单峰函子忠实嵌入对称透镜的范畴。关键结果是：学习者恰好对应于左侧为常量补全透镜、右侧为无额外公理的裸非对称透镜的对称透镜，揭示了学习与数据同步之间一种新颖且结构化的对偶性。

ABSTRACT

Lenses are a well-established structure for modelling bidirectional transformations, such as the interactions between a database and a view of it. Lenses may be symmetric or asymmetric, and may be composed, forming the morphisms of a monoidal category. More recently, the notion of a learner has been proposed: these provide a compositional way of modelling supervised learning algorithms, and again form the morphisms of a monoidal category. In this paper, we show that the two concepts are tightly linked. We show both that there is a faithful, identity-on-objects symmetric monoidal functor embedding a category of asymmetric lenses into the category of learners, and furthermore there is such a functor embedding the category of learners into a category of symmetric lenses.

研究动机与目标

• 建立两个此前无关领域之间的正式数学联系：监督学习算法（学习者）与双向数据转换（透镜）。
• 证明学习者可通过一个对象上恒等、忠实的对称单峰函子，嵌入对称透镜的范畴。
• 表明学习者对应于对称透镜，其中左腿为常量补全透镜，右腿为无额外公理的裸非对称透镜。
• 探索学习者与高级透镜变体（如修正透镜和spg-透镜）之间的结构性类比，暗示更深层次的范畴统一。

提出的方法

• 将学习者定义为监督学习算法的组合模型，在等价类下形成对称单峰范畴。
• 引入对称透镜的广义组合规则，允许一腿满足PutGet公理，而另一腿（裸透镜）不满足任何公理。
• 构建从学习者范畴到对称透镜范畴的对称单峰函子，将学习者映射为左端为常量补全透镜、右端为裸透镜的非对称透镜跨度。
• 使用集合上的字符串图管理复杂函数组合，提升态射及其组合的视觉清晰度。
• 确立该函子的像由左腿为常量补全透镜（一种封闭spg-透镜）且右腿为裸透镜的对称透镜组成。
• 证明右腿（裸透镜）可自然扩展为具有修正结构的spg-透镜，与近期关于修正透镜的工作保持一致。

实验结果

研究问题

• RQ1 监督学习算法能否被正式建模为某种对称透镜，若能，定义这种对应关系的结构性约束是什么？
• RQ2 学习者范畴与对称透镜范畴之间的范畴关系是什么，特别是在单峰结构和函子嵌入方面？
• RQ3 学习者的结构性质如何与修正透镜和spg-透镜等高级透镜变体的结构性质相关联？
• RQ4 是否存在一种自然方式将无公理的裸非对称透镜（无任何公理）扩展为更结构化的透镜（如spg-透镜），且是否保持学习者的组合性质？
• RQ5 该函子像中对称透镜的左、右两腿在多大程度上反映了学习算法中Get和Put操作的功能角色？

主要发现

• 存在一个忠实、对象上恒等、对称单峰的函子，从学习者范畴到对称透镜范畴，建立了学习与数据同步之间稳健的范畴联系。
• 学习者恰好可表示为左腿为常量补全透镜、右腿为无额外公理的裸非对称透镜的对称透镜。
• 在此框架中，即使一腿不满足任何公理，对称透镜的组合仍是明确定义的，将标准组合扩展至行为良好的透镜之外。
• 右腿中的裸透镜可自然扩展为具有修正结构的spg-透镜，以结构化方式恢复GetPut与PutGet公理。
• 左腿（常量补全透镜）是封闭spg-透镜的特例，其PutGet行为确保了在对称透镜框架中的组合稳定性。
• 本工作与近期关于多目透镜（JR19）的工作之间的结构性相似性，暗示了学习与基于透镜的数据转换之间更深层次的范畴统一，尤其体现在左腿作为稳定、行为良好的组件所起的作用。