[论文解读] End-to-end Network for Twitter Geolocation Prediction and Hashing

Jey Han Lau, Lianhua Chi+2 more|arXiv (Cornell University)|Oct 13, 2017

Advanced Image and Video Retrieval Techniques参考文献 19被引用 9

一句话总结

本文提出了一种端到端的深度神经网络，用于推文级别的地理定位预测，该方法所需特征工程极少且与语言无关。其准确率比当前最先进模型高出2%-6%，并提出了一种新颖的端到端哈希方法，可将学习到的表征压缩为紧凑的二进制代码，在检索任务中优于基准哈希技术。

ABSTRACT

We propose an end-to-end neural network to predict the geolocation of a tweet. The network takes as input a number of raw Twitter metadata such as the tweet message and associated user account information. Our model is language independent, and despite minimal feature engineering, it is interpretable and capable of learning location indicative words and timing patterns. Compared to state-of-the-art systems, our model outperforms them by 2%-6%. Additionally, we propose extensions to the model to compress representation learnt by the network into binary codes. Experiments show that it produces compact codes compared to benchmark hashing algorithms. An implementation of the model is released publicly.

研究动机与目标

• 开发一种与语言无关、端到端的神经网络，用于推文级别的地理定位预测，且所需特征工程极少。
• 通过利用原始推文元数据（无需地名词典或语言特定工具）来超越当前最先进地理定位预测系统。
• 将模型扩展以将学习到的表征压缩为紧凑的二进制代码，以实现高效检索。
• 评估二进制代码在使用汉明距离进行快速检索任务中的有效性。
• 证明该模型学习到的表征在用作哈希算法输入时，比word2vec嵌入更有效。

提出的方法

• 该模型使用深度神经网络，以原始推文元数据（包括消息文本、用户时区和用户位置）作为输入，无需语言特定的预处理。
• 其采用多层架构，包含全连接层和残差连接，随后是输出实值表征向量的最终层。
• 为实现端到端哈希，模型在最终表征中添加高斯噪声和正则化损失项，以促使表征值趋向±1，从而可通过符号函数实现二值化。
• 正则化损失惩罚表征向量中的非极端值，促进二值输出，同时保持准确率无显著下降。
• 模型使用交叉熵损失进行分类训练，并通过添加噪声和损失项进行微调，以增强二值化效果。
• 通过在最终表征上应用符号函数生成二进制代码，并使用汉明距离上的平均精度（MAP）评估检索性能。

实验结果

研究问题

• RQ1 端到端深度学习模型是否能在极少特征工程下，实现优于当前最先进系统的地理定位预测准确率？
• RQ2 该模型是否能在不使用语言特定工具的情况下，学习到可解释的、与地理位置相关的模式（如区域性词汇和时间行为）？
• RQ3 能否通过端到端可微方法，有效将学习到的表征压缩为紧凑的二进制代码？
• RQ4 所提出的哈希方法与LSH和FastHash等成熟哈希技术相比，性能如何？
• RQ5 将该模型的表征作为外部哈希算法的输入，是否能提升检索性能，相比标准word2vec嵌入？

主要发现

• 即使不使用语言特定的预处理或地名词典，该模型在推文级别地理定位预测中仍比当前最先进系统高出2%-6%的准确率。
• 通过注意力机制和激活分析可证明，该模型学习到了可解释的、与地理位置相关的词汇和区域性活动模式。
• 添加高斯噪声和正则化损失项可有效提升表征向量的二值化效果，使值更趋向±1，且准确率无显著下降。
• 在200–400比特的代码长度下，FastHash与deepgeo表征的组合相比仅使用噪声的deepgeo，MAP高出2%-4%，表明检索性能更优。
• 与word2vec嵌入相比，deepgeo表征更紧凑且更有效：即使在100比特的代码长度下，FastHash结合deepgeo的性能也优于FastHash结合word2vec在更大比特长度下的表现。
• 该模型的表征可有效支持哈希，因为使用deepgeo输入的LSH显著优于使用word2vec输入的LSH，尤其在小比特长度下表现更优。