[论文解读] Vector-Matrix-Vector Queries for Solving Linear Algebra, Statistics, and Graph Problems

Cyrus Rashtchian, David P. Woodruff+1 more|arXiv (Cornell University)|Jun 24, 2020

Complexity and Algorithms in Graphs参考文献 42被引用 8

一句话总结

本文引入了向量-矩阵-向量（uᵀMv）查询模型，作为高效求解线性代数、统计学和图论问题的统一框架。它表明，uᵀMv 查询可以以仅 O(log n) 的额外开销模拟标准图查询（例如边存在性、邻居、割和边采样），从而实现对子图计数和全局矩阵性质估计的亚线性查询算法，并达到近乎紧致的界限。

ABSTRACT

We consider the general problem of learning about a matrix through vector-matrix-vector queries. These queries provide the value of $\boldsymbol{u}^{\mathrm{T}}\boldsymbol{M}\boldsymbol{v}$ over a fixed field $\mathbb{F}$ for a specified pair of vectors $\boldsymbol{u},\boldsymbol{v} \in \mathbb{F}^n$. To motivate these queries, we observe that they generalize many previously studied models, such as independent set queries, cut queries, and standard graph queries. They also specialize the recently studied matrix-vector query model. Our work is exploratory and broad, and we provide new upper and lower bounds for a wide variety of problems, spanning linear algebra, statistics, and graphs. Many of our results are nearly tight, and we use diverse techniques from linear algebra, randomized algorithms, and communication complexity.

研究动机与目标

• 开发一种通用查询模型，统一并推广现有的图和矩阵问题查询模型，如边存在性、割和独立集查询。
• 研究 uᵀMv 查询在求解线性代数、统计学和图论中全局问题时的能力与局限性。
• 为这些领域中广泛的问题建立近乎紧致的上界与下界查询复杂度。
• 证明 uᵀMv 查询可以以 O(log n) 的额外开销模拟标准图查询，从而支持高效的亚线性算法。
• 探索 uᵀMv 查询在解决目前需要更复杂或高阶查询的问题（如子图计数）方面的潜力。

提出的方法

• 本文形式化了 uᵀMv 查询模型，其中每个查询在给定向量 u、v 和矩阵 M 下返回域 F 上的 uᵀMv。
• 建立了从标准图查询（如边存在性、邻居、割、边采样）到 uᵀMv 查询的归约，表明每种查询均可通过 O(log n) 次 uᵀMv 查询模拟。
• 作者运用线性代数、随机算法和通信复杂度技术，推导出高效的查询算法。
• 对于子图计数，他们将 uᵀMv 查询与现有的子图估计框架结合，利用 uᵀMv 可计算任意子矩阵中 1 的个数的特性。
• 他们证明，估计图 G 中子图 H 的副本数量需要 Õ(min{m, m^ρ(H)/#H}) 次 uᵀMv 查询，其中 m 为边数，ρ(H) 为 H 的分数边覆盖。
• 通过通信复杂度技术推导出下界，表明许多结果在对数因子范围内近乎最优。

实验结果

研究问题

• RQ1 uᵀMv 查询模型能否作为各种图和矩阵查询模型的统一框架？
• RQ2 uᵀMv 查询在多大程度上能高效模拟标准图查询（如边存在性、邻居、割和边采样）？
• RQ3 使用 uᵀMv 查询估计子图计数（如三角形）的查询复杂度是多少？
• RQ4 是否存在可通过亚线性 uᵀMv 查询测试的全局矩阵性质（如低秩、酉矩阵、双随机矩阵）？
• RQ5 在最小割或子图计数等问题上，uᵀMv 查询是否在查询效率上优于现有模型？

主要发现

• uᵀMv 查询可仅以 O(log n) 的额外开销模拟边存在性、邻居、割和边采样查询。
• 估计图 G 中子图 H 的副本数量所需的 uᵀMv 查询次数为 Õ(min{m, m^ρ(H)/#H})，与标准查询模型中的已知界限一致。
• 通过在向量空间中迭代二分法，O(log n) 次 uᵀMv 查询足以估计顶点 i 的第 j 个邻居。
• 该模型为线性代数、统计学和图论中的问题提供了近乎紧致的查询复杂度界限，通常在对数因子范围内与已知下界匹配。
• 本文表明，与局部查询相比，uᵀMv 查询在子图计数中更具优势，因为它避免了对更高阶查询（如三部独立集查询）的需求。
• 该框架为线性代数、随机算法和通信复杂度提供了新的理论视角，开辟了基于查询计算的新研究方向。