[論文レビュー] New Methods for Solving Large Scale Linear Programming Problems in the Windows and Linux computer operating systems

Saeed Ketabchi, Hossein Moosaei+2 more|arXiv (Cornell University)|Sep 19, 2012

Advanced Optimization Algorithms Research参考文献 6被引用数 3

ひとこと要約

本稿では、大規模な線形計画問題を解くための2つの手法を提案および比較している。1つはMATLABのlinprogを介した内点法であるLIPSOLであり、もう1つは新規の増大ラグランジュ法と一般化ニュートン反復およびArmijo線探索を組み合わせた手法である。主な発見は、LinuxオペレーティングシステムがWindows 7よりも大規模な問題を効率よく処理できることであり、Windowsではメモリ不足エラーが発生するメモリ集約型のインスタンスをLinuxが正常に処理でき、高性能最適化ワークロードにおけるLinuxの優れた効率性とメモリ管理能力を示している。

ABSTRACT

In this study, calculations necessary to solve the large scale linear programming problems in two operating systems, Linux and Windows 7 (Win), are compared using two different methods. Relying on the interior-point methods, linear-programming interior point solvers (LIPSOL) software was used for the first method and relying on an augmented Lagrangian method-based algorithm, the second method used the generalized derivative. The performed calculations for various problems show the produced random in the Linux operating system (OS) and Win OS indicate the efficiency of the performed calculations in the Linux OS in terms of the accuracy and using of the optimum memory.

研究の動機と目的

• 標準のWindowsシステムではメモリ制限に達する大規模な線形計画問題を解く課題に対処すること。
• WindowsとLinuxの両方で、LIPSOL（内点法）と増大ラグランジュに基づく一般化ニュートン法の2つの最適化手法の性能を評価および比較すること。
• オペレーティングシステムの選択が、大規模なLP問題の計算効率、メモリ使用量、解の正確性に与える影響を調査すること。
• 標準ツールがWindowsで失敗する状況でも、Linux上で独自のアルゴリズムを用いて大規模なLP問題を解く可能性を実証すること。

提案手法

• 最初の手法は、標準形線形計画問題を解くために、MATLABベースの内点法ソルバーであるLIPSOLをlinprog関数を介して使用する。
• 2番目の手法は、双対問題の増大ラグランジュ式を用い、関数 $ \Phi(u,\alpha,\bar{x}) = -b^T u + \frac{1}{2\alpha} \| (\bar{x} + \alpha(A^T u - c))_+ \|^2 $ を用いて、制約なし最小化問題に変換する。
• Φの最小化に一般化ニュートン法を適用し、ヘッシアンを $ \nabla^2\Phi(u,\alpha,\bar{x}) = A D(z) A^T $ と近似する。ここで $ D(z) $ は活性制約に基づく対角行列である。
• 特異性の可能性に対処するため、修正されたニュートン方向を用いる：$ -(\nabla^2\Phi + \delta I_m)^{-1} \nabla\Phi $、ここで $ \delta = 10^{-4} $ である。
• 十分な減少条件を満たすために、ステップサイズをバックトラッキングするArmijoルールに基づく線探索を用い、グローバル収束を保証する。
• MATLABのスパース乱数行列生成および問題固有のベクトル構築を用いて、次元 $ m, n $ と密度 $ d $ を変化させたランダムなスパース線形計画問題を生成する。

実験結果

リサーチクエスチョン

• RQ1 一般化ニュートン反復およびArmijo線探索を組み合わせた増大ラグランジュ法は、LIPSOLよりも大規模な線形計画問題を効果的に解けるか？
• RQ2 提案されたアルゴリズムは、Windows 7のMATLABのlinprogでメモリ不足エラーが発生する大規模な線形計画問題を解けるか？
• RQ3 Linuxオペレーティングシステムは、大規模な線形計画問題を解く際、Windows 7と比較してメモリ効率および計算性能に優れているか？
• RQ4 オペレーティングシステムの選択が、内点法および増大ラグランジュ法を用いた大規模なLP問題の解法可能性と正確性にどの程度影響を与えるか？

主な発見

• 一般化ニュートン反復およびArmijo線探索を組み合わせた増大ラグランジュ法は、MATLABのlinprogがメモリ不足エラーを発生させるようなすべてのテスト対象の大規模問題を正常に解いた。
• Windows 7では、$ m=10000, n=150000 $ および $ m=100, n=10^7 $ の問題でlinprogが「メモリ不足」エラーを発生させたが、提案手法は正常に完了した。
• Linuxでは、提案手法がすべての問題を解いた。特に $ m=10000, n=150000 $ の最大規模の問題も4215.10秒で完了したのに対し、linprogは同様の問題で失敗した。
• 問題 $ m=10000, n=15000 $ において、提案手法はLinuxで3243.50秒で完了したが、linprogはメモリ制限により失敗した。
• 提案手法は高い正確性を達成した：実行可能差 $ \|Ax^*-b\|_\infty \leq 1.12 \times 10^{-8} $、双対非実行性 $ \|(A^T u^* - c)_+\|_\infty \leq 3.13 \times 10^{-13} $、双対性ギャップ $ |c^T x^* - b^T u^*| \leq 1.2 \times 10^{-7} $。
• Linuxは優れたメモリ管理と計算安定性を示し、同じアルゴリズムを使用してもWindows 7では不可能だった問題を処理できた。