[论文解读] Unsupervised cross-lingual matching of product classifications

Denis Gordeev, Alexey Rey+1 more|arXiv (Cornell University)|Sep 19, 2018

Natural Language Processing Techniques参考文献 9被引用 4

一句话总结

本文提出了一种无监督方法，利用预对齐的跨语言词嵌入和层次结构来匹配跨语言产品分类，表明层次信息显著提升了准确率——尤其是在嵌入预对齐的情况下——而MUSE和Vecmap等无监督映射技术在低资源、领域差异大的分类体系上表现失败。

ABSTRACT

Unsupervised cross-lingual embeddings mapping has provided a unique tool for completely unsupervised translation even for languages with different scripts. In this work we use this method for the task of unsupervised cross-lingual matching of product classifications. Our work also investigates limitations of unsupervised vector alignment and we also suggest two other techniques for aligning product classifications based on their descriptions: using hierarchical information and translations.

研究动机与目标

• 为解决在低资源语言下对齐不同国家产品分类系统（尤其是低资源语言）的挑战。
• 探究无监督跨语言嵌入对齐是否能有效映射产品分类体系类别。
• 评估层次结构和基于翻译的方法在提升匹配准确率方面的有效性。
• 确定现有无监督和监督嵌入对齐技术（如MUSE、Vecmap）在小型、特定领域分类体系上的局限性。
• 评估领域特定信息和结构元数据是否能提升低资源环境下的匹配性能。

提出的方法

• 利用MUSE和Vecmap进行无监督跨语言嵌入对齐，将不同语言的词嵌入映射到共享向量空间。
• 通过从父类别向子类别传播相似度得分实现层次匹配，利用OKPD2和NIGP-5分类体系的四级结构。
• 采用字符串相似度和基于翻译的匹配方法，利用预训练翻译引擎生成初始对齐候选。
• 使用基于SVD的Procrustes优化和CSLS（跨语言相似度局部缩放）方法，通过减少中心性问题来提升对齐质量。
• 将预对齐嵌入与层次传播相结合，以提升性能，尤其在低资源环境下。
• 在翻译后的类别描述上，结合word2vec、doc2vec和基于字符串的相似度对方法进行评估。

实验结果

研究问题

• RQ1 无监督跨语言嵌入对齐（如MUSE、Vecmap）能否有效匹配跨语言的产品分类类别？
• RQ2 分类体系中的层次结构如何影响跨语言分类匹配的准确率？
• RQ3 在小型、特定领域分类体系中，使用预对齐嵌入或基于翻译的字符串匹配是否优于纯嵌入对齐？
• RQ4 词语频率和分布信息在低资源、非维基百科领域中，对无监督对齐性能的限制程度如何？
• RQ5 结构元数据（如父子关系）能否缓解基于嵌入匹配在稀疏分类系统中的局限性？

主要发现

• MUSE和Vecmap在产品分类匹配任务中表现欠佳，MUSE在英-俄和俄-英任务中准确率分别仅为51.7%和63.7%，而Vecmap在英-芬任务中的平均准确率仅为32.63%。
• 即使使用部分匹配字典，监督和半监督映射在小样本数据集上也失败，原因在于类别数量少和领域不匹配。
• 当嵌入已预对齐时，层次匹配显著提升准确率（p < 0.001），但若与字符串相似度或平均Word2Vec结合使用，则会损害性能（p < 0.001）。
• 字符串匹配和基于翻译的对齐方法在低资源环境下优于无监督嵌入对齐。
• 预对齐嵌入与层次传播相结合可获得最佳结果，表明结构元数据在稀疏、非平行领域中对提升对齐性能至关重要。
• 许多错误匹配的类别在主题上具有相关性（如“acids”→“oils”），表明即使在错误对齐中也保留了语义一致性，暗示可通过结构约束进行优化。