[論文レビュー] An Inductive Bias for Distances: Neural Nets that Respect the Triangle Inequality

Silviu Pitis, Harris Chan+2 more|arXiv (Cornell University)|Feb 14, 2020

Domain Adaptation and Few-Shot Learning参考文献 36被引用数 4

ひとこと要約

本稿では、非対称距離を含む非ユークリッド距離の三角不等式を強制する新しいニューラルネットワークアーキテクチャ「Deep Norms」「Wide Norms」「Neural Metrics」を提案する。これらは、非ユークリッド距離（例：グラフの最短経路距離）の正確なモデリングを可能にし、すべてのノルム誘導距離を普遍的に近似する。低データ量のマルチゴール強化学習およびグラフ距離モデリングにおいて、標準的なユークリッド距離学習より優れた性能を示す。

ABSTRACT

Distances are pervasive in machine learning. They serve as similarity measures, loss functions, and learning targets; it is said that a good distance measure solves a task. When defining distances, the triangle inequality has proven to be a useful constraint, both theoretically--to prove convergence and optimality guarantees--and empirically--as an inductive bias. Deep metric learning architectures that respect the triangle inequality rely, almost exclusively, on Euclidean distance in the latent space. Though effective, this fails to model two broad classes of subadditive distances, common in graphs and reinforcement learning: asymmetric metrics, and metrics that cannot be embedded into Euclidean space. To address these problems, we introduce novel architectures that are guaranteed to satisfy the triangle inequality. We prove our architectures universally approximate norm-induced metrics on $\mathbb{R}^n$, and present a similar result for modified Input Convex Neural Networks. We show that our architectures outperform existing metric approaches when modeling graph distances and have a better inductive bias than non-metric approaches when training data is limited in the multi-goal reinforcement learning setting.

研究の動機と目的

• ユークリッド距離学習の限界を是正するため、非対称または非ユークリッド距離をモデル化できない深層メトリクスネットワークの問題に対処すること。
• 三角不等式を内在的な誘導バイアスとして満たすニューラルネットワークアーキテクチャを設計し、後処理の制約やペナルティを回避すること。
• アーキテクチャ設計により、非対称および非ユークリッドなものを含むR^n上でのノルム誘導距離の普遍的近似を可能にすること。
• 提案手法を、グラフ距離モデリングやマルチゴール強化学習における価値関数学習を含むメトリクス学習タスクで評価すること。
• 非メトリックまたはユークリッドメトリックベースラインと比較して、低データ環境における一般化性能と誘導バイアスの向上を示すこと。

提案手法

• ReLU活性化関数を用いた凹関数ユニットとプーリング層を組み合わせた前向き型ネットワークとしてのDeep NormsおよびWide Normsを提案。これにより、劣加法性および三角不等式が保証される。
• Deep NormsではMaxReLU活性化関数を、Wide Normsでは重み共有の広いアーキテクチャを用いて、劣加法性と対称性を強制する。
• 修正版入力凸ニューラルネットワーク（ICNNs）を用いて凸関数をモデル化し、半ノルムおよびメトリクスの普遍的近似を可能にする。
• 距離関数d(x,y) = ||φ(x) - φ(y)||_Nを採用。ここで||·||_Nは学習されたノルムであり、構成上三角不等式が保証される。
• 時間差分（TD）損失とターゲットネットワーク、Adam最適化を用いてモデルを学習。強化学習環境ではMSE、成功確率、SPLを評価指標に用いる。
• 学習されたノルム球および価値関数の可視化により、モデルの幾何学的整合性と表現力の高さを確認する。

実験結果

リサーチクエスチョン

• RQ1 非対称距離および対称距離の両方において、三角不等式を内蔵的に満たすニューラルネットワークを設計できるか？
• RQ2 このようなアーキテクチャは、非ユークリッドを含むR^n上でのノルム誘導距離を普遍的に近似できるか？
• RQ3 低データ量の強化学習環境において、標準的なユークリッド距離学習と比較して、より優れた誘導バイアスを提供できるか？
• RQ4 ユークリッド空間に埋め込めないグラフベースの最短経路距離を効果的にモデル化できるか？
• RQ5 一般化性能および学習安定性の観点から、非メトリックまたはペナルティベースの手法と比較して、どのように差がつくか？

主な発見

• Deep NormsおよびWide Normsは、ノルム近似タスクにおいてMSEがほぼゼロ（0.000）に達し、ユークリッドベースライン（0.057）を上回る性能を示した。
• 4ノードのグラフ例では、幾何的制約によりユークリッド距離が失敗するが、本手法はそのようなグラフ距離を正しく埋め込めた。
• マルチゴール強化学習では、MSEがベースラインより高いにもかかわらず、より高いポリシー成功確率とSPLを達成。これは強い誘導バイアスによるものである。
• 低データ環境でも良好な一般化性能を示し、訓練データの割合が増加するに従いSPL性能が向上。非対称環境ではMLPおよびICNNベースラインを上回った。
• 可視化結果から、Deep NormsおよびWide Normsの学習済みノルム球は幾何的構造を保ち、三角不等式を満たしている一方で、ユークリッドモデルは非ユークリッドグラフでは失敗した。
• 理論的結果として、Deep NormsおよびWide NormsがR^n上でのノルム誘導距離を普遍的に近似できることを示し、修正版ICNNsは半ノルムを近似可能であることが判明した。