[論文レビュー] Dominance Product and High-Dimensional Closest Pair under L_infty

Gold, Omer, Sharir, Micha|arXiv (Cornell University)|Jan 1, 2017

Parallel Computing and Optimization Techniques参考文献 33被引用数 124

ひとこと要約

本稿では、コッパースミス＝ワイングラッドテンソルの4乗を用いて、長方形行列積の指数を向上させるために、非対称テンソルパワー解析フレームワークを導入する。非対称分解および三線形形式の共同抽出を最適化することで、行列積の双対指数α > 0.31389の新たな下界を達成し、従来のα > 0.30298の境界を改善し、L∞ノルムにおけるすべてのペアの最短経路問題など、より高速なアルゴリズムを可能にする。

ABSTRACT

Given a set $S$ of $n$ points in \mathbb{R}^d, the Closest Pair problem is to find a pair of distinct points in S at minimum distance. When d is constant, there are efficient algorithms that solve this problem, and fast approximate solutions for general d. However, obtaining an exact solution in very high dimensions seems to be much less understood. We consider the high-dimensional L_\infty Closest Pair problem, where d=n^r for some r > 0, and the underlying metric is L_\infty. We improve and simplify previous results for L_\infty Closest Pair, showing that it can be solved by a deterministic strongly-polynomial algorithm that runs in O(DP(n,d)\log n) time, and by a randomized algorithm that runs in O(DP(n,d)) expected time, where DP(n,d) is the time bound for computing the dominance product for n points in \mathbb{R}^d. That is a matrix D, such that D[i,j] = \bigl| \{k \mid p_i[k] \leq p_j[k]\} \bigr|; this is the number of coordinates at which p_j dominates p_i. For integer coordinates from some interval [-M, M], we obtain an algorithm that runs in ilde{O}\left(\min\{Mn^{\omega(1,r,1)},\, DP(n,d)\} ight) time, where \omega(1,r,1) is the exponent of multiplying an n imes n^r matrix by an n^r imes n matrix. We also give slightly better bounds for DP(n,d), by using more recent rectangular matrix multiplication bounds. Computing the dominance product itself is an important task, since it is applied in many algorithms as a major black-box ingredient, such as algorithms for APBP (all pairs bottleneck paths), and variants of APSP (all pairs shortest paths).

研究の動機と目的

• 正方行列積にとどまらず、より一般的な長方形行列積の分野へ、高次テンソルパワーの分析を拡張すること。
• 行列次元の非一様なトレードオフを捉えることのできる、非対称テンソルパワー分解の体系的フレームワークを構築すること。
• ω(k) = 2 となるようなkの上界supremumとして定義される双対指数αの既知の下界を向上させること。
• 長方形行列積がボトルネックとなる根本的問題、例えば重み付き有向グラフにおけるすべてのペアの最短経路問題など、より高速なアルゴリズムを導出すること。

提案手法

• コッパースミス＝ワイングラッドテンソルの4乗に特に適した、3つのモードに対して非対称な取り扱いを可能にする一般化されたテンソル抽出法を導入すること。
• テンソル成分の異なるタイプの三線形形式への分布を制御するパラメータa(uvw)およびauvw(ijk)を定義し、それらの最適化を行うこと。
• T211、T112、T121の3つの異なるテンソルタイプの共同抽出を、それらの非対称性を別々に制御するパラメータbおよび˜bを導入することで形式化し、抽出形式の数をバランスさせる。
• シューナッハの漸近的和の不等式を適用し、抽出形式の数の増加率および得られる行列積のノルムを用いて、行列積指数ω(k)の上限を評価すること。
• 整数qおよび有理数パラメータb、˜bに関して、不等式MQ^{ω(log R / log Q)} ≤ (q + 2)^4を最適化し、ω(k)の上界を最小化すること。
• Mapleを用いた広範な数値最適化を実施し、さまざまなk値におけるω(k)の最終的な境界を導出すること。

実験結果

リサーチクエスチョン

• RQ1 高次テンソルパワーの分析は、正方行列積にとどまらず、長方形行列積へも拡張可能か？
• RQ2 非対称分解戦略の中で、抽出可能な三線形形式の数を最大限にし、得られる行列積のノルムを最小限に抑えるのはどのようなものか？
• RQ3 T211、T112、T121などの複数のテンソルタイプの共同抽出を、統一されたフレームワーク内で形式化し最適化することは可能か？
• RQ4 本手法を用いて、コッパースミス＝ワイングラッドテンソルの4乗から得られるω(k)の最もタイトな上界は何か？
• RQ5 この手法により、従来のα > 0.30298の境界を著しく上回る双対指数αの向上が達成可能か？

主な発見

• 本稿では、行列積の双対指数α > 0.31389の新たな下界を達成し、従来のα > 0.30298の境界を改善した。
• 本稿では、コッパースミス＝ワイングラッドテンソルの4乗を用いて、長方形行列積の境界を導出するのは初めてであり、k ≠ 1のすべてのkに対して改善された指数ω(k)をもたらした。
• k = 0.31389において、本手法によりω(k) ≤ 2.000064が得られ、n × n^kおよびn^k × n行列の積の計算コストが著しく低減された。
• 本フレームワークにより、kの広い範囲にわたりω(k)の tighter な境界が得られ、特にω(k)が2に最も近い低k領域で顕著な向上が得られた。
• 著者らは、Mapleを用いた完全な数値最適化パイプラインを提供しており、ソースコードは公開されており、再現性およびパラメータ空間のさらなる探査を可能にしている。
• 非対称なテンソルパワー解析が、特に長方形領域において、行列積の計算複雑性の限界を押し広げる上で不可欠であることが確認された。