[논문 리뷰] Multi-Scale Representation Learning for Spatial Feature Distributions using Grid Cells

Gengchen Mai, Krzysztof Janowicz외 4명|arXiv (Cornell University)|2020. 02. 15.

Advanced Image and Video Retrieval Techniques참고 문헌 34인용 수 35

한 줄 요약

Space2Vec는 다중 스케일 그리드 셀에서 영감을 받은 인코더를 제안하여 절대 위치와 공간 맥락을 공동으로 표현하고 지리 포인트의 POI 유형 예측 및 GIScience의 지오 로케이트 이미지 분류를 단일 스케일 방법보다 향상시킵니다.

ABSTRACT

Unsupervised text encoding models have recently fueled substantial progress in NLP. The key idea is to use neural networks to convert words in texts to vector space representations based on word positions in a sentence and their contexts, which are suitable for end-to-end training of downstream tasks. We see a strikingly similar situation in spatial analysis, which focuses on incorporating both absolute positions and spatial contexts of geographic objects such as POIs into models. A general-purpose representation model for space is valuable for a multitude of tasks. However, no such general model exists to date beyond simply applying discretization or feed-forward nets to coordinates, and little effort has been put into jointly modeling distributions with vastly different characteristics, which commonly emerges from GIS data. Meanwhile, Nobel Prize-winning Neuroscience research shows that grid cells in mammals provide a multi-scale periodic representation that functions as a metric for location encoding and is critical for recognizing places and for path-integration. Therefore, we propose a representation learning model called Space2Vec to encode the absolute positions and spatial relationships of places. We conduct experiments on two real-world geographic data for two different tasks: 1) predicting types of POIs given their positions and context, 2) image classification leveraging their geo-locations. Results show that because of its multi-scale representations, Space2Vec outperforms well-established ML approaches such as RBF kernels, multi-layer feed-forward nets, and tile embedding approaches for location modeling and image classification tasks. Detailed analysis shows that all baselines can at most well handle distribution at one scale but show poor performances in other scales. In contrast, Space2Vec's multi-scale representation can handle distributions at different scales.

연구 동기 및 목표

• 다양한 이질적인 지리 분포를 처리할 수 있는 일반적이고 다중 스케일 공간 표현의 필요성을 동기화한다.
• grid cells에서 영감을 받은 다중 스케일 사인파 위치 인코딩을 사용하는 인코더–디코더 프레임워크 Space2Vec를 제안한다.
• 공간에서 포인트 특징의 분산 표현을 학습하기 위한 지도학습 없는 비지도 학습을 가능하게 한다.
• Space2Vec가 POI 유형 분류 및 지오 위치 이미지 작업에서 RBF, tile 및 일반 좌표 인코더보다 우수함을 시연한다.
• 다중 스케일 인코딩이 스케일 간의 공간 구조를 포착하는 방식에 대한 질적 통찰을 제공한다.

제안 방법

• 절대 위치를 64스케일에 걸친 다중 스케일 사인파 인코딩을 연결하여 인코딩한다( Space2Vec 이론 및 그리드 영감 인코딩).
• 위치용 Enc^(x)와 포인트 특징용 Enc^(v)의 두 가지 가지 분기 인코더를 사용하고 이를 연결하여 e[v]와 e[x]를 형성한다.
• 두 개의 디코더: Dec_s는 위치 임베딩으로부터 포인트 특징을 재구성하고, Dec_c는 다중-헤드 어텐션 메커니즘을 통해 인근 컨텍스트 포인트의 임베딩으로부터 중심 포인트의 특징을 재구성한다.
• Dec_c에서 변위 인코딩을 통한 거리/방향 조건 부여와 순열 불변 집계를 통해 이웃 포인트에 대한 어텐션을 계산한다( PointNet에 비유).
• 후보 포인트 중 실제 중심 포인트의 특징 임베딩을 예측하는 로그 가능도를 최대화하도록 비지도 학습하고, 선택적 음수 샘플링을 포함한다.

실험 결과

연구 질문

• RQ1 다중 스케일, 그리드 셀–에서 영감을 받은 인코딩이 GIS 데이터의 군집된 분포와 균일한 분포를 모두 포착할 수 있는가?
• RQ2 Space2Vec가 전통적 인코딩(RBF, 타일, 랩핑)과 직접 좌표 입력에 비해 위치 인식 POI 유형 예측 및 지오 로케이트 이미지 분류를 향상시키는가?
• RQ3 다중 스케일 인코딩이 POI 분포 그룹(클러스터형, 중간, 균등) 및 공간 스케일에 따라 모델 동작에 어떤 영향을 미치는가?
• RQ4 다중 스케일에서 학습된 위치 임베딩 및 맥락 상호작용에서 어떤 질적 패턴이 나타나는가?

주요 결과

• Space2Vec가 다중 스케일 그리드 유사 인코딩으로 baseliner 인코더(RBF, 타일, 랩, 및 직접 좌표 입력)보다 POI 유형 예측 및 이미지 분류 작업에서 더 우수하다.
• 단일 스케일 인코더는 스케일이 다른 분포를 처리하기 어려운 반면, Space2Vec는 여러 스케일을 넘나들며 정보를 효과적으로 통합한다.
• Space2Vec의 그리드 기반 어텐션을 사용한 공간 맥락 모델링은 컨텍스트 포인트가 사용될 때 예측을 개선하여 테스트 세트에서 비 그리드 기반의 특수화된 기법을 능가한다.
• 질적 분석은 Space2Vec가 서로 다른 스케일에서 공간 구조를 포착하고 다중 스케일 인코딩으로 거리 효과 감소를 반영하는 화형 패턴과 같은 표현을 학습함을 보여준다.
• 이 방법은 로케이션 인코더와 멀티-헤드 어텐션 기반 컨텍스트 디코더가 절대 위치와 공간 관계를 공동으로 모델링하는 인코더–디코더 구조를 활용한다.