[논문 리뷰] Empowering A* Search Algorithms with Neural Networks for Personalized Route Recommendation

Jingyuan Wang, Ning Wu외 3명|arXiv (Cornell University)|2019. 07. 19.

Data Management and Algorithms참고 문헌 34인용 수 5

한 줄 요약

이 논문은 개인화된 경로 추천에서 동적 비용 함수를 궤적 데이터와 도로 네트워크에서 학습함으로써 개인 맞춤형 경로 추천을 크게 향상시키는 신경 A* 검색 프레임워크인 NASR을 제안한다. 이는 주로 사용자별 이동 상태를 모델링하는 어텐션 기반 RNN과 히우리스틱 비용을 추정하는 그래프 어텐션 네트워크 기반 가치 네트워크를 사용한다. 세 가지 실세계 데이터셋에서 높은 정확도를 유지하면서도 검색 공간을 줄였다.

ABSTRACT

Personalized Route Recommendation (PRR) aims to generate user-specific route suggestions in response to users' route queries. Early studies cast the PRR task as a pathfinding problem on graphs, and adopt adapted search algorithms by integrating heuristic strategies. Although these methods are effective to some extent, they require setting the cost functions with heuristics. In addition, it is difficult to utilize useful context information in the search procedure. To address these issues, we propose using neural networks to automatically learn the cost functions of a classic heuristic algorithm, namely A* algorithm, for the PRR task. Our model consists of two components. First, we employ attention-based Recurrent Neural Networks (RNN) to model the cost from the source to the candidate location by incorporating useful context information. Instead of learning a single cost value, the RNN component is able to learn a time-varying vectorized representation for the moving state of a user. Second, we propose to use a value network for estimating the cost from a candidate location to the destination. For capturing structural characteristics, the value network is built on top of improved graph attention networks by incorporating the moving state of a user and other context information. The two components are integrated in a principled way for deriving a more accurate cost of a candidate location. Extensive experiment results on three real-world datasets have shown the effectiveness and robustness of the proposed model.

연구 동기 및 목표

• 수동으로 설계된 비용 함수가 적응성과 맥락 인식 능력이 부족하여 히우리스틱 기반 A* 검색의 개인화된 경로 추천에서의 한계를 해결하기 위해.
• 딥 신경망을 사용하여 A* 검색에서 비용 함수를 자동으로 학습함으로써 사용자 특화된 선호도와 시공간 맥락을 포괄하기 위해.
• 사용자 이동 상태와 도로 네트워크 구조를 통합된 원칙적인 비용 추정 프레임워크에 통합하여 경로 탐색 성능을 향상시키기 위해.
• 학습된 맥락 인식 히우리스틱을 통해 A*의 검색 공간을 줄이면서도 경로 추천 품질을 유지하거나 향상시키기 위해.
• 실세계 궤적 데이터셋에서 제안된 신경 A* 프레임워크의 효과성과 강건성을 입증하기 위해.

제안 방법

• 모델은 사용자 이동 상태와 이력 궤적을 인코딩하기 위해 어텐션 기반 RNN을 사용하여 사용자 현재 이동 맥락의 시간에 따라 변하는 표현을 학습한다.
• 개선된 그래프 어텐션 네트워크 기반의 가치 네트워크는 후보 위치에서 목적지까지의 히우리스틱 비용을 추정하며, 사용자 상태와 맥락이 풍부화된 노드 표현을 포함한다.
• A*의 비용 함수는 f(n) = g(n) + h(n)로 재정의되며, g(n)은 RNN이 학습하고 h(n)은 가치 네트워크가 학습함으로써 동적이고 맥락 인식 가능한 검색이 가능해진다.
• 가치 네트워크는 후보 노드, 현재 노드, 목적지 노드 간의 노드 표현 유사도 기반 스코어링 메커니즘을 사용하여 유망한 경로를 우선순위로 정렬한다.
• 경로 탐색 성능 향상을 위해 5단계 시간 차이 학습 방법을 사용하여 엔드 투 엔드로 모델을 훈련시킨다.
• 이 프레임워크는 두 구성 요소를 원칙적으로 통합하여 A*가 최소한의 관련 경로만 탐색하면서도 최적성 보장을 유지할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 신경망은 개인화된 경로 추천에서 A* 검색에 대해 동적이고 사용자별 비용 함수를 효과적으로 학습할 수 있는가?
• RQ2 어텐션 기반 RNN은 경로 계획에서 변화하는 사용자 이동 상태와 이력 선호도를 얼마나 잘 모델링할 수 있는가?
• RQ3 사용자 상태 통합이 있는 그래프 어텐션 네트워크는 복잡한 도로 네트워크에서 히우리스틱 추정을 향상시킬 수 있는가?
• RQ4 제안된 신경 A* 프레임워크는 검색 공간을 줄이면서도 정확도를 유지하거나 향상시킬 수 있는가?
• RQ5 다양한 교통 및 사용자 행동 패턴을 가진 다양한 실세계 데이터셋에서 모델의 강건성은 어떠한가?

주요 결과

• NASR 모델은 맥락 인식 비용 함수를 학습함으로써 A* 검색의 검색 공간을 크게 줄여 더 빠르고 효율적인 경로 추천을 가능하게 했다.
• 5단계 시간 차이 학습 방법이 다른 훈련 전략보다 뛰어나며, 단계 수가 5일 때 경로 추천 정확도에서 최고의 성능을 보였다.
• 시각화 결과는 실제 사용자 경로의 위치에 더 높은 연관 스코어를 부여함으로써 사용자 선호도와의 보다 우수한 일치를 보였다.
• 모델은 핵심 도로 구간과 자주 방문하는 장소를 더 높은 가중치로 할당함으로써 구조적 중요성을 반영한 노드 표현을 학습했다.
• 가치 네트워크는 교통 조건이 좋은 주요 도로를 효과적으로 식별하여, 거리가 더 길더라도 그러한 경로에 대해 낮은 추정 비용을 할당했다.
• 세 가지 실세계 데이터셋에서의 광범위한 실험을 통해 모델의 효과성과 다양한 도시 환경 및 사용자 행동 패턴에 대한 강건성이 확인되었다.