[論文レビュー] Pixel Arrays: A fast and elementary method for solving nonlinear systems

David I. Spivak, Magdalen R. C. Dobson+2 more|arXiv (Cornell University)|Aug 31, 2016

Advanced Optimization Algorithms Research参考文献 6被引用数 5

ひとこと要約

本稿では、関係をピクセル化されたブール行列として扱い、一般化された配列乗算により組み合わせることで、境界ボックス内の非線形方程式系のすべての解を近似する、高速で反復処理を要しないPA（ピクセル配列）法を提案する。この手法はニュートン法に基づくソルバーと比較して著しく高速であり、1つのベンチマークでは7,200倍以上も高速である一方、誤検出を回避し、微分不可能または不連続な関数に対しても対応可能である。

ABSTRACT

We present a new method, called the pixel array method, for approximating all solutions in a bounding box for an arbitrary nonlinear system of relations. In contrast with other solvers, our approach requires that the user must specify which variables are to be exposed, and which are to be left latent. The entire solution set is then obtained---in terms of these exposed variables---by performing a series of array multiplications on the $n_i$-dimensional plots of the individual relations $R_i$. This procedure introduces no false negatives and is much faster than Newton-based solvers. The key is the unexposed variables, which Newton methods can make no use of. In fact, we found that with even a single unexposed variable our method was more than 10x faster than Julia's NLsolve. Due to its relative simplicity, the pixel array method is also applicable to a broader class of systems than Newton-based solvers are. The purpose of this article is to give an account of this new method.

研究の動機と目的

• 指定された境界ボックス内における非線形方程式系の解の全集合を計算する、高速で基本的な手法の開発。
• 初期推定値を必要とし、しばしば解を逃すか、滑らかでない関数では失敗する反復的ソルバーの限界を克服すること。
• 他の変数を潜在変数として扱い、出力には「露出」された変数のみを報告する形での解の近似を可能にすること。
• 従来のニュートン型手法とは異なり、不連続性や微分不可能な関数に対しても頑健である手法の提供。
• 露出されていない変数が計算を著しく高速化できることを示し、既存のソルバーと比較して顕著な利点を提供すること。

提案手法

• 各非線形関係を、各ピクセルが与えられた許容誤差内にその点が関係を満たすかどうかを示す多次元ブールピクセル配列として表現する。
• 一般化された配列乗算（行列乗算、トレース、クロネッカー積を一般化）を用いて複数の関係を組み合わせ、露出変数に関する解集合を計算する。
• 配列乗算の結合則および単調性を活用し、誤検出を防ぎ、最適な演算クラスタリングにより効率的な計算を可能にする。
• 初期のピクセル図から得られる誤差境界を、乗算プロセス全体にわたって保持し、解の正確性を維持する。
• Juliaを用いて効率的な配列演算を実装し、スパースまたは構造的関係を持つシステムでも高い性能を発揮する。
• ユーザーがどの変数を露出（出力に表示）するか、どの変数を潜在（内部で使用され、回復されない）とするかを指定可能とし、速度最適化を可能にする。

実験結果

リサーチクエスチョン

• RQ1 行列乗算に基づく反復処理を要しない、基本的な手法が、NLsolveのような反復的ソルバーを上回り、非線形方程式系のすべての解を効率的に見つけられるか。
• RQ2 露出されていない（潜在的である）変数の存在が、非線形方程式系の解法における計算速度にどのように影響するか。
• RQ3 ピクセル配列法が、ニュートン法が失敗する微分不可能または不連続な関数に対しても、どの程度対応できるか。
• RQ4 行列乗算が初期のピクセル図からの誤差境界を保持しつつ、正確な解の近似を提供できるか。
• RQ5 閉形式解がない方程式系において、ピクセル配列法の性能が、MathematicaのSolveおよびNSolveのような記号的ソルバーと比べてどの程度優れているか。

主な発見

• NLsolveが3時間以上終了しないシステムに対して、PA法は1.5秒で解集合を計算し、7,200倍以上の高速化を達成した。
• 単一の未露出変数が存在する場合でも、PA法はJuliaのNLsolveよりも10倍以上高速であった。
• MathematicaのNSolveが処理できず、'This system cannot be solved with the methods available to NSolve'（このシステムはNSolveが利用可能な手法では解けない）というエラーを返した方程式系を、PA法は正常に解釈した。
• 配列乗算の単調性のおかげで、誤検出が一切発生せず、真の解がすべて保持された。
• 定理4.1で示されたように、初期のピクセル図からの誤差境界が、配列乗算プロセス全体にわたって保持された。
• ニュートン法に基づくソルバーが滑らかさと微分可能性を要するのに対し、本手法は微分不可能および不連続な関数に対しても頑健である。