[論文レビュー] An n\log n Lower Bound for Fourier Transform Computation in the Well Conditioned Model

Nir Ailon|arXiv (Cornell University)|Mar 6, 2014

Blind Source Separation Techniques参考文献 4被引用数 3

ひとこと要約

本稿は、Rを均一な条件数とするR-よく-conditionedな線形回路モデルにおいて、フーリエ変換の任意のスケーリングを計算する際のΩ((n log n)/R)の下界を確立する。著者らは、準確率の準エントロピーに基づく新規なポテンシャル関数を導入することで、従来の手法に見られる制限を克服し、Rが有界であるとき、正規化フーリエ変換にはΩ(n log n)ステップを要することを証明した。これは、現実的な計算モデルにおける長年の未解決問題を解消するものである。

ABSTRACT

Obtaining a non-trivial (super-linear) lower bound for computation of the Fourier transform in the linear circuit model has been a long standing open problem for over 40 years. An early result by Morgenstern from 1973, provides an $Ω(n \log n)$ lower bound for the unnormalized Fourier transform when the constants used in the computation are bounded. The proof uses a potential function related to a determinant. The result does not explain why the normalized Fourier transform (of unit determinant) should be difficult to compute in the same model. Hence, the result is not scale insensitive. More recently, Ailon (2013) showed that if only unitary 2-by-2 gates are used, and additionally no extra memory is allowed, then the normalized Fourier transform requires $Ω(n\log n)$ steps. This rather limited result is also sensitive to scaling, but highlights the complexity inherent in the Fourier transform arising from introducing entropy, unlike, say, the identity matrix (which is as complex as the Fourier transform using Morgenstern's arguments, under proper scaling). In this work we extend the arguments of Ailon (2013). In the first extension, which is also the main contribution, we provide a lower bound for computing any scaling of the Fourier transform. Our restriction is that, the composition of all gates up to any point must be a well conditioned linear transformation. The lower bound is $Ω(R^{-1}n\log n)$, where $R$ is the uniform condition number. Second, we assume extra space is allowed, as long as it contains information of bounded norm at the end of the computation. The main technical contribution is an extension of matrix entropy used in Ailon (2013) for unitary matrices to a potential function computable for any matrix, using Shannon entropy on "quasi-probabilities".

研究の動機と目的

• 線形回路モデルにおける正規化フーリエ変換の計算複雑性を理解するギャップを埋めること。ここでは、従来の下界がスケール依存的であるか、2×2ユニタリゲートに限定されていた。
• 各ステップで良好に条件付けられた変換を要件とすることで、現実的な計算を捉えるモデルを構築すること。これにより、数値的安定性と正確性が保証される。
• Ailonのエントロピーに基づく手法をユニタリ行列から一般の可逆行列へ拡張するため、準確率の準エントロピーに基づく新規なポテンシャル関数を用いること。
• フーリエ変換のスケーリングに依存しない下界を確立することで、Morgensternの行列式に基づくアプローチの主要な制限を解消すること。
• 新規なポテンシャル関数が、フーリエ変換を越えた他の線形代数的演算に対しても一般化可能かどうかを調査すること。

提案手法

• 行列要素とその逆行列の連合分布の準エントロピーに基づく、新たなポテンシャル関数Φ_n(M)を定義する。これは、準確率の一般化f-発散度を用いて定式化される。
• R-よく-conditionedモデルを定義する。これは、すべての部分的ゲート合成について、条件数がR以下であることを要件とする。これにより、数値的安定性が保証される。
• 回路行列の部分行列に対するスペクトルノルムの境界を用いて、ポテンシャル関数の成長を制約し、各ステップで最大O(R)までしか増加しないことを示す。
• 補題5.2を活用し、行列の逆行列の主要ブロックがポテンシャル関数に与える寄与を下界づけ、非対角ブロックのノルム制約を用いる。
• ポテンシャル関数の初期値（0）と最終値（Ω(n log n)）の境界を組み合わせ、各ステップでの成長がO(R)であることを考慮し、全体の下界Ω((n log n)/R)を導出する。
• 追加の出力空間を許容する場合にも、状態ベクトルのノルムを制限し、同じポテンシャル関数を用いて類似した下界を導出する。

実験結果

リサーチクエスチョン

• RQ1 定理3.1の下界におけるR依存性はタイトか。それとも、良好に条件付けられた行列のより強い性質を活用することで改善可能か。
• RQ2 追加の出力空間を許容する定理5.3の下界は、追加空間のノルム依存性においてタイトか。
• RQ3 提案された準エントロピーに基づくポテンシャル関数は、フーリエ変換を越えた他の線形代数的演算に対しても下界を証明するために使用可能か。
• RQ4 なぜこの手法は、高次元のユニタリ行列に対してもタイトな下界を証明できないのか。ユニタリ行列の構造的差異が、普遍的適用を妨げる根本的要因は何か。
• RQ5 なぜユニタリ行列ではエントロピーのポテンシャルがグローバルに有界となるのか。これは、一般のユニタリ操作に対してΩ(n²)の下界を証明するのを制限する根本的要因であるのか。

主な発見

• 本稿は、Rを均一な条件数とするR-よく-conditionedな線形回路モデルにおいて、フーリエ変換の任意のスケーリングを計算する際のΩ((n log n)/R)の下界を確立した。
• この下界は、フーリエ変換のスケーリングに依存せず、正規化に強く、Morgensternの行列式に基づくアプローチの主要な制限を解消する。
• ポテンシャル関数Φ_n(M)は、1回のゲート適用あたり最大O(R)までしか増加せず、その最終値がΩ(n log n)であるため、少なくともΩ((n log n)/R)のゲートが必要であることが示された。
• この手法は、Ailonのエントロピーに基づくアプローチをユニタリ行列から一般の可逆行列へ拡張するために、準確率の準エントロピーに基づく新規な概念を用いている。
• 追加の出力空間が許容される場合でも、追加状態のノルムが有界であれば、下界は依然としてΩ((n log n)/R)のままである。
• この結果により、正規化フーリエ変換はR-よく-conditionedモデルにおいて、Ω(n log n)ステップ未満で計算できないことが示され、FFTの上界と一致する。これは、現実的な仮定の下でその最適性が確認されたことを意味する。