[論文レビュー] Where to Go Next: A Spatio-temporal LSTM model for Next POI Recommendation

Pengpeng Zhao, Haifeng Zhu+4 more|arXiv (Cornell University)|Jun 18, 2018

Recommender Systems and Techniques参考文献 15被引用数 46

ひとこと要約

この論文は ST-LSTM を提案し、時間と距離のゲートを備えた時空間 LSTM の変種を用いて、次の POI 推薦のための短期および長期のユーザー関心をモデル化し、4つの実世界データセットで最先端の結果を達成します。

ABSTRACT

Next Point-of-Interest (POI) recommendation is of great value for both location-based service providers and users. Recently Recurrent Neural Networks (RNNs) have been proved to be effective on sequential recommendation tasks. However, existing RNN solutions rarely consider the spatio-temporal intervals between neighbor check-ins, which are essential for modeling user check-in behaviors in next POI recommendation. In this paper, we propose a new variant of LSTM, named STLSTM, which implements time gates and distance gates into LSTM to capture the spatio-temporal relation between successive check-ins. Specifically, one-time gate and one distance gate are designed to control short-term interest update, and another time gate and distance gate are designed to control long-term interest update. Furthermore, to reduce the number of parameters and improve efficiency, we further integrate coupled input and forget gates with our proposed model. Finally, we evaluate the proposed model using four real-world datasets from various location-based social networks. Our experimental results show that our model significantly outperforms the state-of-the-art approaches for next POI recommendation.

研究の動機と目的

• 次の POI 推薦を改善するために、連続するチェックイン間の時間間隔と地理的距離を明示的にモデル化する。
• 時間と距離のゲートを取り入れ、短期および長期のユーザー関心を捉える ST-LSTM（ST-LSTM）を開発する。
• パラメータ数を削減するために入力ゲートと忘却ゲートを結合した ST-CLSTM で効率を向上させる。
• 複数の大規模実世界の LBSN データセット上でアプローチを評価し、強力なベースラインと比較する。

提案手法

• 時間ゲートを2つ（T1, T2）、距離ゲートを2つ（D1, D2）として、最後の POI の短期的影響と長期的影響を制御する ST-LSTM を導入する。
• LSTM セルの更新を、ゲート付きの短期/長期情報フローを含むように変更する： - ĉ_t = f_t ⊙ c_{t−1} + i_t ⊙ T1_t ⊙ D1_t ⊙ ĉ_tilde; - c_t = f_t ⊙ c_{t−1} + i_t ⊙ T2_t ⊙ D2_t ⊙ ĉ_tilde; - h_t = o_t ⊙ tanh(ĉ_t or c_t); ここで ĉ_tilde は候補メモリで、triangle t/d triangle t は時間間隔/距離間隔を表す。
• research_questions: [

実験結果

リサーチクエスチョン

• RQ1 連続する POI 間の時間・距離間隔をリカレントモデルに組み込み、次の POI 推薦を改善するにはどうすればよいか。
• RQ2 短期および長期の興味に対するデュアルゲートは、単一ゲートや非空間的時間モデルより良い性能をもたらすか。
• RQ3 入力ゲートと忘却ゲートを結合することで、精度を犠牲にすることなく効率を向上できるか。
• RQ4 ST-LSTM/ST-CLSTM は複数の実世界データセットで最先端ベースラインと比較してどうか。
• RQ5 時間ゲートと距離ゲートはコールドスタートと一般化にどのような影響を与えるか。

主な発見

データセット	手法	Acc@1	Acc@5	Acc@10	MAP
CA	FPMC-LR	0.0378	0.0493	0.0784	0.1791
CA	PRME-G	0.0422	0.0650	0.0813	0.1868
CA	GE	0.0294	0.0329	0.0714	0.1691
CA	RNN	0.0475	0.0901	0.1138	0.1901
CA	LSTM	0.0486	0.0937	0.1276	0.1975
CA	GRU	0.0483	0.0915	0.1216	0.1934
CA	ST-RNN	0.0505	0.0922	0.1232	0.2075
CA	ST-LSTM	0.0716	0.1232	0.1508	0.2208
CA	ST-CLSTM	0.0801	0.1308	0.1612	0.2556
SIN	FPMC-LR	0.0395	0.0625	0.0826	0.1724
SIN	PRME-G	0.0466	0.0723	0.0876	0.1715
SIN	GE	0.0062	0.0321	0.0607	0.1102
SIN	RNN	0.1321	0.1867	0.2043	0.2186
SIN	LSTM	0.1261	0.1881	0.2019	0.2123
SIN	GRU	0.1237	0.1921	0.1992	0.2101
SIN	ST-RNN	0.1379	0.1957	0.2091	0.2239
SIN	ST-LSTM	0.1978	0.2436	0.2651	0.3194
SIN	ST-CLSTM	0.2037	0.2542	0.2861	0.3433
Gowalla	FPMC-LR	0.0293	0.0524	0.0849	0.1745
Gowalla	PRME-G	0.0334	0.0652	0.0869	0.1916
Gowalla	GE	0.0174	0.0600	0.0947	0.1973
Gowalla	RNN	0.0473	0.0892	0.1207	0.1998
Gowalla	LSTM	0.0503	0.0967	0.1241	0.2004
Gowalla	GRU	0.0498	0.0931	0.1289	0.2045
Gowalla	ST-RNN	0.0519	0.09532	0.1304	0.2187
Gowalla	ST-LSTM	0.0713	0.1355	0.1669	0.2338
Gowalla	ST-CLSTM	0.0778	0.1492	0.1818	0.2557
Brightkite	FPMC-LR	0.1634	0.2475	0.3164	0.3300
Brightkite	PRME-G	0.1976	0.2993	0.3495	0.3115
Brightkite	GE	0.0521	0.1376	0.2118	0.2602
Brightkite	RNN	0.3401	0.4087	0.4320	0.4130
Brightkite	LSTM	0.3575	0.4146	0.4489	0.4303
Brightkite	GRU	0.3310	0.4007	0.4377	0.4042
Brightkite	ST-RNN	0.3672	0.4231	0.4477	0.4369
Brightkite	ST-LSTM	0.4389	0.4807	0.5035	0.5266
Brightkite	ST-CLSTM	0.4443	0.4953	0.5231	0.5626

• ST-LSTM は4つの実データセット（CA、SIN、Gowalla、Brightkite）で Acc@1、Acc@5、Acc@10、MAP のすべての指標でベースラインを有意に上回った。
• ST-CLSTM は結合された入力/忘却ゲートにより、同等またはより良い精度を、パラメータ数を減らして実現し、効率を改善した。
• 時間ゲートと距離ゲートは短期・長期の興味モデル化に有意義な寄与をする。これらを無効化すると性能が劣化する。
• ST-LSTM/ST-CLSTM はコールドスタート条件（低いチェックイン履歴）でも優れた結果を達成する。
• セルサイズを増加させ、バッチサイズを調整することで、Acc@10 と大規模データセットでの全体的な収束速度が改善される。