[論文レビュー] Vector-Matrix-Vector Queries for Solving Linear Algebra, Statistics, and Graph Problems

Cyrus Rashtchian, David P. Woodruff+1 more|arXiv (Cornell University)|Jun 24, 2020

Complexity and Algorithms in Graphs参考文献 42被引用数 8

ひとこと要約

本稿は、線形代数、統計、グラフ問題を効率的に解くための包括的フレームワークとして、ベクトル-行列-ベクトル（uᵀMv）クエリモデルを導入する。uᵀMvクエリが、標準的なグラフクエリ（例：辺の存在、隣接頂点、カット、辺のサンプリング）をたったO(log n)のオーバーヘッドでシミュレートできることを示し、部分線形クエリアルゴリズムを用いて部分グラフのカウントを推定し、グローバル行列の性質をほぼタイトな境界で解くことを可能にする。

ABSTRACT

We consider the general problem of learning about a matrix through vector-matrix-vector queries. These queries provide the value of $\boldsymbol{u}^{\mathrm{T}}\boldsymbol{M}\boldsymbol{v}$ over a fixed field $\mathbb{F}$ for a specified pair of vectors $\boldsymbol{u},\boldsymbol{v} \in \mathbb{F}^n$. To motivate these queries, we observe that they generalize many previously studied models, such as independent set queries, cut queries, and standard graph queries. They also specialize the recently studied matrix-vector query model. Our work is exploratory and broad, and we provide new upper and lower bounds for a wide variety of problems, spanning linear algebra, statistics, and graphs. Many of our results are nearly tight, and we use diverse techniques from linear algebra, randomized algorithms, and communication complexity.

研究の動機と目的

• 線形代数およびグラフ問題における既存のモデル（例：辺の存在、カット、独立集合クエリ）を統合・一般化する一般化されたクエリモデルの開発。
• uᵀMvクエリが線形代数、統計、グラフ理論におけるグローバル問題を解く能力と限界を調査すること。
• これらの分野における広範な問題に対して、クエリ複雑度のほぼタイトな上界および下界を確立すること。
• uᵀMvクエリが標準的なグラフクエリをO(log n)のオーバーヘッドでシミュレートできることを示し、効率的な部分線形アルゴリズムを可能にすること。
• 現在はより複雑な高次クエリを必要としている問題（例：部分グラフカウント）を、uᵀMvクエリで解く可能性を探索すること。

提案手法

• 本稿は、各クエリが与えられたベクトルu, vおよび行列Mに対して、体F上でのuᵀMvの値を返すuᵀMvクエリモデルを形式化する。
• 標準的なグラフクエリ（例：辺の存在、隣接頂点、カット、辺のサンプリング）をuᵀMvクエリに還元し、それぞれがO(log n)クエリでシミュレート可能であることを示す。
• 線形代数、確率的アルゴリズム、通信複雑度の技術を用いて、クエリ効率の良いアルゴリズムを導出する。
• 部分グラフカウントの問題では、uᵀMvクエリを既存の部分グラフ推定フレームワークと組み合わせ、uᵀMvが任意の部分行列内の1の数を計算できることを活用する。
• グラフGにおける部分グラフHのコピー数を推定するには、Õ(min{m, m^ρ(H)/#H}) uᵀMvクエリが必要であり、ここでmは辺の数、ρ(H)はHの分数的エッジ被覆であることを証明する。
• 通信複雑度の技術を用いて下界を導出し、多くの結果が対数要因を除いてほぼ最適であることを示す。

実験結果

リサーチクエスチョン

• RQ1 uᵀMvクエリモデルは、さまざまなグラフおよび行列クエリモデルを統合する包括的フレームワークとして機能できるか？
• RQ2 uᵀMvクエリは、辺の存在、隣接頂点、カット、辺のサンプリングといった標準的なグラフクエリをどの程度効率的にシミュレートできるか？
• RQ3 uᵀMvクエリを用いて部分グラフカウント（例：三角形）を推定する際のクエリ複雑度はいかほどか？
• RQ4 低ランク、ユニタリ、二重確率的行列といったグローバル行列の性質は、部分線形uᵀMvクエリでテスト可能か？
• RQ5 最小カットや部分グラフカウントといった問題において、uᵀMvクエリは従来のモデルを上回るクエリ効率を達成できるか？

主な発見

• uᵀMvクエリは、辺の存在、隣接頂点、カット、辺のサンプリングクエリを、それぞれO(log n)のオーバーヘッドでシミュレート可能である。
• グラフGにおける部分グラフHのコピー数を推定するためのuᵀMvクエリの数は、Õ(min{m, m^ρ(H)/#H})であり、標準クエリモデルからの既知の境界と一致する。
• 頂点iのj番目の隣接頂点を推定するには、O(log n)のuᵀMvクエリで十分であり、これはベクトル空間における反復的二分探索を用いる。
• 本モデルは、線形代数、統計、グラフ理論の問題において、ほぼタイトなクエリ複雑度の境界を提供する。多くの場合、既知の下界と対数要因を除いて一致する。
• 本稿は、uᵀMvクエリが部分グラフカウントにおいてローカルクエリよりも優位であることを示し、三部独立集合クエリのような高次クエリの必要性を回避できることを示している。
• このフレームワークは、線形代数、確率的アルゴリズム、通信複雑度を結びつける新しい理論的視点を提供し、クエリベース計算の新たな研究方向を開く。