[논문 리뷰] An Inductive Bias for Distances: Neural Nets that Respect the Triangle Inequality

Silviu Pitis, Harris Chan외 2명|arXiv (Cornell University)|2020. 02. 14.

Domain Adaptation and Few-Shot Learning참고 문헌 36인용 수 4

한 줄 요약

이 논문은 대칭적이고 비대칭적 거리에 대해 삼각 부등식을 강제하는 새로운 신경망 아키텍처인 딥 노름(Deep Norms), 워드 노름(Wide Norms), 그리고 뉴럴 메트릭스(Neural Metrics)를 제안한다. 이는 비유클리드 거리, 예를 들어 그래프의 최단경로 거리와 같은 정확한 모델링을 가능하게 한다. 이러한 모델들은 노름 유도 거리의 보편적 근사가 가능하며, 저자료 다중목표 강화학습 및 그래프 거리 모델링에서 표준 유클리드 거리 학습보다 뛰어난 성능을 보인다.

ABSTRACT

Distances are pervasive in machine learning. They serve as similarity measures, loss functions, and learning targets; it is said that a good distance measure solves a task. When defining distances, the triangle inequality has proven to be a useful constraint, both theoretically--to prove convergence and optimality guarantees--and empirically--as an inductive bias. Deep metric learning architectures that respect the triangle inequality rely, almost exclusively, on Euclidean distance in the latent space. Though effective, this fails to model two broad classes of subadditive distances, common in graphs and reinforcement learning: asymmetric metrics, and metrics that cannot be embedded into Euclidean space. To address these problems, we introduce novel architectures that are guaranteed to satisfy the triangle inequality. We prove our architectures universally approximate norm-induced metrics on $\mathbb{R}^n$, and present a similar result for modified Input Convex Neural Networks. We show that our architectures outperform existing metric approaches when modeling graph distances and have a better inductive bias than non-metric approaches when training data is limited in the multi-goal reinforcement learning setting.

연구 동기 및 목표

• 유클리드 거리 학습의 한계를 해결하기 위해, 비대칭적이거나 비유클리드 거리를 모델링할 수 없는 딥 메트릭 네트워크의 문제를 해결한다.
• 삼각 부등식을 내재된 인덕티브 바이어스로 갖는 신경망 아키텍처를 개발하여, 후행 처리나 페널티를 통한 제약을 피한다.
• 아키텍처 설계를 통해 R^n 상의 비대칭적이고 비유클리드인 노름 유도 거리의 보편적 근사를 가능하게 한다.
• 제안된 모델을 그래프 거리 모델링 및 다중목표 강화학습에서의 가치 함수 학습과 같은 메트릭 학습 작업에 평가한다.
• 비메트릭 또는 유클리드 메트릭 기반 베이스라인과 비교해 저자료 환경에서의 일반화 능력과 인덕티브 바이어스 향상을 입증한다.

제안 방법

• ReLU 활성화 함수를 사용하는 볼륨이 낮고 오목한 유닛과 풀링 레이어를 통해 하위加성(subadditivity)과 삼각 부등식을 보장하는, 노름을 매개변수화하는 피드포워드 네트워크인 딥 노름과 워드 노름을 제안한다.
• 딥 노름에서는 MaxReLU 활성화 함수를 사용하고, 워드 노름은 공유 가중치를 가진 넓은 아키텍처를 통해 하위加성과 대칭성을 강제한다.
• 수정된 입력 볼록 신경망(ICNNs)을 사용하여 볼록 함수를 모델링하고, 반노름(semi-norms)과 메트릭의 보편적 근사를 가능하게 한다.
• ||·||_N이 학습된 노름인 거리 함수 d(x,y) = ||φ(x) - φ(y)||_N을 적용하여, 삼각 부등식을 구조적으로 보장한다.
• 타임스탬프 손실(TD loss)과 타겟 네트워크, Adam 최적화를 사용해 모델을 훈련하고, 강화학습 환경에서 MSE, 성공률, SPL을 평가한다.
• 학습된 노름 구와 가치 함수를 시각화하여 모델의 기하학적 일관성과 표현력을 입증한다.

실험 결과

연구 질문

• RQ1 대칭적이고 비대칭적 거리에 대해 신경망을 삼각 부등식을 내재적으로 만족하도록 설계할 수 있는가?
• RQ2 이러한 아키텍처는 R^n 상의 비유클리드인 노름 유도 거리까지 포함해 보편적으로 근사할 수 있는가?
• RQ3 저자료 강화학습 환경에서 표준 유클리드 거리 학습 대비 더 나은 인덕티브 바이어스를 제공하는가?
• RQ4 유클리드 공간에 통합될 수 없는 그래프 기반 최단경로 거리를 효과적으로 모델링할 수 있는가?
• RQ5 일반화 능력과 훈련 안정성 측면에서 비메트릭 또는 페널티 기반 접근법과 비교해 어떻게 성능을 내는가?

주요 결과

• 딥 노름과 워드 노름은 노름 근사 작업에서 MSE가 거의 0.000에 가까운 성능를 기록했으며, 동일한 작업에서 유클리드 기반 베이스라인(0.057)을 압도적으로 뛰어넘었다.
• 모델들은 유클리드 임bedding 정리에 어긋나는 그래프 거리를 성공적으로 임베딩했다. 예를 들어, 기하학적 제약로 인해 유클리드 거리가 실패하는 4노드 그래프 예제에서 이를 입증했다.
• 다중목표 강화학습에서, 베이스라인보다 MSE가 높지만, 더 강한 인덕티브 바이어스 덕분에 정책 성공률과 SPL이 뛰어나게 향상되었다.
• 저자료 환경에서도 잘 일반화되며, 학습 분량이 증가할수록 SPL 성능이 향상되었고, 비대칭 환경에서 MLP 및 ICNN 기반 베이스라인을 모두 능가했다.
• 시각화 결과, 딥 노름과 워드 노름에서 학습된 노름 구가 기하학적 구조를 유지하고 삼각 부등식을 준수하는 반면, 유클리드 모델은 비유클리드 그래프에서 실패함을 확인했다.
• 이론적 결과로, 딥 노름과 워드 노름이 R^n 상의 노름 유도 거리를 보편적으로 근사하며, 수정된 ICNNs가 반노름을 근사할 수 있음을 입증했다.