[論文レビュー] Multi-Scale Representation Learning for Spatial Feature Distributions\n using Grid Cells

Gengchen Mai, Krzysztof Janowicz+4 more|arXiv (Cornell University)|Feb 15, 2020

Advanced Image and Video Retrieval Techniques参考文献 34被引用数 35

ひとこと要約

Space2Vecは、絶対位置と空間的文脈を同時に表現するマルチスケールのグリッドセル風エンコーダを提案し、POIタイプ予測と地理定位画像分類を単一スケール手法より改善します。

ABSTRACT

Unsupervised text encoding models have recently fueled substantial progress\nin NLP. The key idea is to use neural networks to convert words in texts to\nvector space representations based on word positions in a sentence and their\ncontexts, which are suitable for end-to-end training of downstream tasks. We\nsee a strikingly similar situation in spatial analysis, which focuses on\nincorporating both absolute positions and spatial contexts of geographic\nobjects such as POIs into models. A general-purpose representation model for\nspace is valuable for a multitude of tasks. However, no such general model\nexists to date beyond simply applying discretization or feed-forward nets to\ncoordinates, and little effort has been put into jointly modeling distributions\nwith vastly different characteristics, which commonly emerges from GIS data.\nMeanwhile, Nobel Prize-winning Neuroscience research shows that grid cells in\nmammals provide a multi-scale periodic representation that functions as a\nmetric for location encoding and is critical for recognizing places and for\npath-integration. Therefore, we propose a representation learning model called\nSpace2Vec to encode the absolute positions and spatial relationships of places.\nWe conduct experiments on two real-world geographic data for two different\ntasks: 1) predicting types of POIs given their positions and context, 2) image\nclassification leveraging their geo-locations. Results show that because of its\nmulti-scale representations, Space2Vec outperforms well-established ML\napproaches such as RBF kernels, multi-layer feed-forward nets, and tile\nembedding approaches for location modeling and image classification tasks.\nDetailed analysis shows that all baselines can at most well handle distribution\nat one scale but show poor performances in other scales. In contrast,\nSpace2Vec's multi-scale representation can handle distributions at different\nscales.\n

研究の動機と目的

• heterogeneous geographic distributions を扱える一般的でマルチスケールな空間表現の必要性を動機づける。
• Space2Vecを提案する。マルチスケールのサイン波位置エンコードを使用したエンコーダ–デコーダ框架で、グリッドセルをインスパイアした表現。
• 空間における点特徴の分散表現を学習するための教師なしトレーニングを可能にする。
• Space2VecがPOIタイプ分類と地理定位画像タスクでRBF、tile、plain座標エンコーダよりも優れていることを実証する。
• マルチスケールのエンコーディングがスケールを跨いだ空間構造を捉える方法について定性的洞察を提供する。

提案手法

• 64スケールに跨るマルチスケールのサイン波エンコードを結合して絶対位置をエンコードする（Space2Vec理論とグリッド由来のエンコーディング）。
• 位置用Enc^(x)と点特徴用Enc^(v)の二分岐エンコーダを用い、e[v]とe[x]を結合して形成する。
• デコーダは2つ：Dec_sは位置埋め込みから点特徴を再構成するため、Dec_cは近傍点の埋め込みから中心点の特徴を再構成するため、マルチヘッドアテンション機構を介して行う。
• Dec_cでは、変位エンコーディングを通じた距離/方向条件付けと、順序不変な集約（PointNetに類似）を用いて近傍点に対するアテンションを計算する。
• 候補点の中から真の中心点の特徴埋め込みを予測する対数尤度を最大化することによる教師なし訓練（任意のネガティブサンプリング）。

実験結果

リサーチクエスチョン

• RQ1 GISデータのクラスター化と均一な分布の両方を、マルチスケールでグリッドセル風エンコードが捉えられるか。
• RQ2 Space2Vecは従来のエンコード（RBF、tile、wrap）および直接座標入力と比較して、位置認識型POIタイプ予測と地理定位画像分類を改善するか。
• RQ3 POI分布グループ（クラスター化、中央値、均等）および空間スケールを跨いだ場合に、マルチスケールエンコードはモデルの挙動にどのような影響を与えるか。
• RQ4 学習された位置埋め込みとスケール跨ぎの文脈相互作用において、どのような定性的パターンが現れるか。

主な発見

• Space2Vecはマルチスケールのグリッド状エンコーディングを用いて、POIタイプ予測と画像分類タスクでベースラインエンコーダ（RBF、tile、wrap、直接座標入力）を上回る。
• 単一スケールのエンコーダはスケールが異なる分布を処理するのが困難であるのに対し、Space2Vecは複数のスケールを跨いだ情報を効果的に統合する。
• Space2Vecのグリッドベースのアテンションによる空間文脈モデリングは、文脈点が使われる場合の予測を改善し、テストセットで特化型の非グリッドベースの手法を上回る。
• 定性的分析は、Space2Vecが異なるスケールの空間構造を捉え、マルチスケールエンコーディングによって距離効果の低下を反映する発火パターン様の表現を学習することを示す。
• 本アプローチは、位置エンコーダとマルチヘッドアテンションベースの文脈デコーダが絶対位置と空間関係を共同モデル化するエンコーダ–デコーダ設定を活用する。