[论文解读] An Inductive Bias for Distances: Neural Nets that Respect the Triangle Inequality

Silviu Pitis, Harris Chan+2 more|arXiv (Cornell University)|Feb 14, 2020

Domain Adaptation and Few-Shot Learning参考文献 36被引用 4

一句话总结

本文提出了 Deep Norms、Wide Norms 和 Neural Metrics——三种新颖的神经网络架构，通过强制对称与非对称距离满足三角不等式，实现对图最短路径距离等非欧几里得度量的精确建模。这些模型可普遍逼近范数诱导的度量，并在低数据量的多目标强化学习与图距离建模任务中优于标准欧几里得度量学习方法。

ABSTRACT

Distances are pervasive in machine learning. They serve as similarity measures, loss functions, and learning targets; it is said that a good distance measure solves a task. When defining distances, the triangle inequality has proven to be a useful constraint, both theoretically--to prove convergence and optimality guarantees--and empirically--as an inductive bias. Deep metric learning architectures that respect the triangle inequality rely, almost exclusively, on Euclidean distance in the latent space. Though effective, this fails to model two broad classes of subadditive distances, common in graphs and reinforcement learning: asymmetric metrics, and metrics that cannot be embedded into Euclidean space. To address these problems, we introduce novel architectures that are guaranteed to satisfy the triangle inequality. We prove our architectures universally approximate norm-induced metrics on $\mathbb{R}^n$, and present a similar result for modified Input Convex Neural Networks. We show that our architectures outperform existing metric approaches when modeling graph distances and have a better inductive bias than non-metric approaches when training data is limited in the multi-goal reinforcement learning setting.

研究动机与目标

• 为解决深度度量网络中欧几里得度量学习的局限性，其无法建模非对称或非欧几里得距离。
• 开发内在满足三角不等式的神经网络架构，避免事后约束或惩罚。
• 通过架构设计，实现对 R^n 上范数诱导度量（包括非对称与非欧几里得度量）的普遍逼近。
• 在度量学习任务（包括图距离建模与多目标强化学习中的价值函数学习）上评估所提模型。
• 证明在低数据设置下，相比非度量或欧几里得度量基线，其泛化能力与归纳偏置更优。

提出的方法

• 提出 Deep Norms 与 Wide Norms 作为前馈网络，通过 ReLU 激活的凹单元与池化层参数化范数，确保次可加性与三角不等式。
• 在 Deep Norms 中使用 MaxReLU 激活，在 Wide Norms 中采用共享权重的宽网络结构，以强制实现次可加性与对称性。
• 应用改进的输入凸神经网络（ICNNs）建模凸函数，实现对半范数与度量的普遍逼近。
• 采用基于范数的距离函数 d(x,y) = ||φ(x) - φ(y)||_N，其中 ||·||_N 为学习得到的范数，通过构造确保三角不等式成立。
• 使用带目标网络的时序差分（TD）损失与 Adam 优化进行训练，并在强化学习环境中以均方误差（MSE）、成功率与 SPL（Success-weighted Path Length）进行评估。
• 可视化学习到的范数球与价值函数，以证明模型的几何一致性与表达能力。

实验结果

研究问题

• RQ1 能否设计出神经网络，使其对对称与非对称距离均内在满足三角不等式？
• RQ2 此类架构能否在 R^n 上普遍逼近范数诱导的度量，包括非欧几里得度量？
• RQ3 在低数据强化学习设置中，这些架构是否相比标准欧几里得度量学习提供更优的归纳偏置？
• RQ4 它们能否有效建模无法嵌入欧几里得空间的图基最短路径距离？
• RQ5 在泛化能力与训练稳定性方面，与非度量或基于惩罚的方法相比表现如何？

主要发现

• Deep Norms 与 Wide Norms 在范数逼近任务中达到接近零的均方误差（0.000），优于欧几里得基线（0.057）。
• 模型成功嵌入违反欧几里得嵌入定理的图距离，如四节点图示例所示，欧几里得距离因几何约束而失效。
• 在多目标强化学习中，尽管均方误差高于基线，Deep Norms 与 Wide Norms 因更强的归纳偏置，实现了更高的策略成功率与 SPL。
• 在低数据设置下，模型泛化能力优异，SPL 性能随训练数据比例增加而提升，在非对称环境中优于 MLP 与 ICNN 基线。
• 可视化结果表明，Deep Norms 与 Wide Norms 学习到的范数球保留了几何结构并满足三角不等式，而欧几里得模型在非欧几里得图上失效。
• 理论结果表明，Deep Norms 与 Wide Norms 可普遍逼近 R^n 上的范数诱导度量，且改进的 ICNN 可逼近半范数。