[論文レビュー] Constrained local extrema without Lagrange multipliers and the higher derivative test

Salvador Gigena|arXiv (Cornell University)|Mar 13, 2013

Geophysics and Gravity Measurements参考文献 8被引用数 3

ひとこと要約

本稿では、ラグランジュ乗数を用いずに制約付き極値を特定・分類するための新規手法を提示する。代わりに、座標再パrameterizationを用いて制約付き最適化問題を非制約問題に変換する。さらに、複数変数における臨界点の分類のための高階微分判定法を導入し、古典的な1変数基準を高次元に拡張する。

ABSTRACT

Two are the main objectives of this article: first, we introduce a method for determining and analyzing constrained local extrema that provides a different alternative to all previous works on the topic, by eliminating Lagrange multipliers and reducing constrained problems to unconstrained ones; Second, we also develop another method for analyzing and determining the nature of known critical points by resorting, when needed, to higher order derivatives. The result presented here constitutes our proposal of solution to a long standing problem: that of extending to higher dimensions what has been known for many years in the case of functions defined on open sets of the real line, regarding the classification of critical points when enough derivatives are also known at those points.

研究の動機と目的

• 制約付き最適化においてラグランジュ乗数の使用を排除するため、問題を非制約問題に再定式化すること。
• 高次元空間における臨界点を分類するための体系的な高階微分判定法を開発すること。
• 1変数関数における臨界点分類の古典的基準を、高階微分を用いて多変数関数へと拡張すること。
• ラグランジュ乗数手法の複雑さを回避する、自己完結的な解析的枠組みを提供すること。
• 長年にわたり存在していた多変数微積分におけるギャップを解消し、既知の1変数結果を高次元へ一般化すること。

提案手法

• 局所座標を用いて制約多様体を再パラメータ化し、制約付き問題を変数を減らした非制約問題に還元する。
• 還元された非制約問題に、標準的な多変数微積分技法（偏微分、ヘッセ行列）を適用する。
• 2階微分テストが不確かである場合に、高階方向微分を用いて臨界点の性質を分析する。
• 臨界点における最初に非ゼロとなる高階方向微分の符号に基づいて、一般化された高階微分判定法を定式化する。
• 最初に消失しない高階微分の次数と符号を用いて、臨界点の種別（局所的最小、最大、サドル点）を体系的に決定する手順を導入する。
• 等式制約付き最適化および臨界点分類の両方の応用に、明示的な例と幾何的解釈を含めて適用する。

実験結果

リサーチクエスチョン

• RQ1 制約付き局所的極値は、ラグランジュ乗数に依存せずに特定・分類可能か？
• RQ2 1変数の場合に類似する、多変数関数における臨界点分類のための高階微分判定法は存在するか？
• RQ3 最初に非ゼロとなる高階微分の符号と次数を用いて、高次元における臨界点の性質をどのように特定できるか？
• RQ4 1変数関数における高階微分テストの一般化は、複数変数関数および制約付き条件下でどのように実現されるか？
• RQ5 最適化問題を非制約形式に簡素化できるように、制約多様体を局所的にパラメータ化できるか？

主な発見

• 本稿は、制約多様体の再パラメータ化により、ラグランジュ乗数の使用を完全に排除し、問題を非制約最適化タスクに還元することに成功した。
• 最初に非ゼロとなる高階方向微分の符号に基づく高階微分判定法が開発され、古典的な1変数基準が高次元に拡張された。
• 本手法は、制約付き経路に沿った関数の微分のみを用いて、臨界点が局所的最小、最大、サドル点のいずれであるかを体系的に特定する方法を提供する。
• 本アプローチは、等式制約付き最適化および多変数関数における臨界点分類の両方に適用可能である。
• 理論的結果は、42ページにわたる詳細な導出と3つの明示的図版により裏付けられており、本手法の整合性と一般性が示された。
• 本フレームワークは、長年の課題を解決し、ラグランジュ乗数を必要とせずに1変数の高階微分テストを高次元へ一般化した。