[论文解读] Enabling Cognitive Intelligence Queries in Relational Databases using Low-dimensional Word Embeddings

Rajesh Bordawekar, Oded Shmueli|arXiv (Cornell University)|Mar 23, 2016

Topic Modeling参考文献 28被引用 11

一句话总结

本文提出了认知智能（Cognitive Intelligence, CI）查询，通过使用 word2vec 将数据库标记（如列名、行值）嵌入到低维向量空间，从而增强关系型数据库的功能，支持语义相似性与基于类比的查询。该方法通过用户自定义函数（UDF）在 SQL 中实现语义关系查询，显著扩展了传统语法匹配的查询表达能力。

ABSTRACT

We apply distributed language embedding methods from Natural Language Processing to assign a vector to each database entity associated token (for example, a token may be a word occurring in a table row, or the name of a column). These vectors, of typical dimension 200, capture the meaning of tokens based on the contexts in which the tokens appear together. To form vectors, we apply a learning method to a token sequence derived from the database. We describe various techniques for extracting token sequences from a database. The techniques differ in complexity, in the token sequences they output and in the database information used (e.g., foreign keys). The vectors can be used to algebraically quantify semantic relationships between the tokens such as similarities and analogies. Vectors enable a dual view of the data: relational and (meaningful rather than purely syntactical) text. We introduce and explore a new class of queries called cognitive intelligence (CI) queries that extract information from the database based, in part, on the relationships encoded by vectors. We have implemented a prototype system on top of Spark to exhibit the power of CI queries. Here, CI queries are realized via SQL UDFs. This power goes far beyond text extensions to relational systems due to the information encoded in vectors. We also consider various extensions to the basic scheme, including using a collection of views derived from the database to focus on a domain of interest, utilizing vectors and/or text from external sources, maintaining vectors as the database evolves and exploring a database without utilizing its schema. For the latter, we consider minimal extensions to SQL to vastly improve query expressiveness.

研究动机与目标

• 通过分布式词嵌入技术捕捉数据库实体的语义含义，实现在关系型数据库中的语义查询。
• 解决传统 SQL 在表达数据库实体之间语义关系方面的局限性。
• 将数据库查询能力从语法匹配扩展至语义相似性与类比推理。
• 设计一个可扩展、可扩展的框架，将学习得到的向量表示集成到现有关系型系统中。
• 通过基于 Spark 的原型系统，展示 CI 查询的可行性与表达能力。

提出的方法

• 通过文本化（textification）从数据库表中提取标记序列，使用视图或模式感知方法生成用于训练的上下文丰富文本。
• 应用分布式 word2vec 模型，从内部或外部文本中学习数据库标记的低维（例如 200D）向量表示。
• 将学习到的向量存储在系统表中，以支持查询执行期间的高效查找。
• 通过 SQL 用户自定义函数（UDF）实现语义相似性与类比查询，如 proximityMAX()、proximityAVG() 和 proximityTop2Avg()。
• 支持向量复用与增量更新，以在数据库演化过程中保持语义一致性。
• 通过引入外部文本源（如 Wikipedia）和领域特定视图，扩展框架以提升嵌入表示的精度。

实验结果

研究问题

• RQ1 低维词嵌入能否有效捕捉数据库实体（如列名与行值）之间的语义关系？
• RQ2 如何将基于向量的语义相似性集成到标准 SQL 中，以支持认知型查询？
• RQ3 基于向量的查询在性能方面有何影响，特别是在训练、存储与运行时距离计算方面？
• RQ4 CI 查询在多大程度上可减少复杂数据库探索中对模式知识的依赖？
• RQ5 如何在底层数据库演化过程中高效地维护与更新向量嵌入？

主要发现

• 在数据库生成的文本序列上应用 word2vec 成功生成了有意义的低维向量，能够编码数据库标记之间的语义关系。
• 使用 UDF（如 proximityMAX() 和 proximityAVG()）的 CI 查询可有效支持语义相似性搜索，其结果对距离阈值（如 0.3 或 0.2）和邻近度函数的选择敏感。
• 基于 Apache Spark 的原型实现证明了将基于向量的语义查询集成到现有关系型系统中的可行性。
• 基于向量的查询显著增强了查询表达能力，使用户可在极少依赖数据库模式知识的情况下导航大规模数据库。
• 向量训练与距离计算存在性能瓶颈，但可通过批量处理、索引优化与 GPU 加速加以缓解。
• 该框架通过引入外部文本源与领域特定视图支持可扩展性，从而提升嵌入质量与相关性。