[論文レビュー] Ranking Function Synthesis for Linear Lasso Programs

Jan Leike|arXiv (Cornell University)|Jan 21, 2014

Machine Learning and Algorithms参考文献 32被引用数 5

ひとこと要約

本稿では、線形ラッソプログラムにおける終了証明の合成を、順序関数テンプレートを用いて制約に基づく完全な手法として提示している。特に、新規の複数段階型、区分的、辞書式形式を含む。Farkasの補題の代わりにMotzkinの転置定理を用いることで、厳密な不等式を扱い、複数の順序関数タイプをサポートする。アフィン線形テンプレートおよび固定された不変集合に対して、妥当性と完全性が証明されている。

ABSTRACT

The scope of this work is the constraint-based synthesis of termination arguments for the restricted class of programs called linear lasso programs. A termination argument consists of a ranking function as well as a set of supporting invariants. We extend existing methods in several ways. First, we use Motzkin's Transposition Theorem instead of Farkas' Lemma. This allows us to consider linear lasso programs that can additionally contain strict inequalities. Existing methods are restricted to non-strict inequalities and equalities. Second, we consider several kinds of ranking functions: affine-linear, piecewise and lexicographic ranking functions. Moreover, we present a novel kind of ranking function called multiphase ranking function which proceeds through a fixed number of phases such that for each phase, there is an affine-linear ranking function. As an abstraction to the synthesis of specific ranking functions, we introduce the notion ranking function template. This enables us to handle all ranking functions in a unified way. Our method relies on non-linear algebraic constraint solving as a subroutine which is known to scale poorly to large problems. As a mitigation we formalize an assessment of the difficulty of our constraints and present an argument why they are of an easier kind than general non-linear constraints. We prove our method to be complete: if there is a termination argument of the form specified by the given ranking function template with a fixed number of affine-linear supporting invariants, then our method will find a termination argument. To our knowledge, the approach we propose is the most powerful technique of synthesis-based discovery of termination arguments for linear lasso programs and encompasses and enhances several methods having been proposed thus far.

研究の動機と目的

• 線形ラッソプログラムにおける終了証明の合成のための完全かつ妥当な手法の開発。
• 従来のアプローチが整数固有の回避策を必要としていた厳密な不等式を扱えるように、既存の制約に基づく手法を拡張すること。
• アフィン線形、区分的、辞書式、複数段階型の多様な順序関数の合成を、形式的な順序関数テンプレートフレームワークによって統一すること。
• 合成に伴って生じる非線形代数的制約の計算的困難さを評価し、一般の非線形制約よりも取り扱いやすい性質であることを示すこと。
• 固定構造の証明に対して完全性を保証することで、実用的な終了解析を可能とし、整数ラッソプログラムにおける未解決問題と決定可能性の問題を特定すること。

提案手法

• Farkasの補題の代わりにMotzkinの転置定理を用いることで、線形ラッソプログラムにおける厳密な不等式を扱い、従来の手法よりも広範な適用性を実現する。
• アフィン線形、区分的、辞書式、複数段階型の順序関数を一貫して定式化するための順序関数テンプレートの概念を導入する。
• プログラムの遷移と不変集合から非線形代数的制約を構築し、固定された不変集合に対して妥当性と完全性を証明する。
• 得られた制約を解くためにCylindrical Algebraic Decomposition (CAD) を適用し、制約が一般の非線形系よりも複雑さが低い理論的根拠を提示する。
• 順序数算術を用いて順序関数のwell-foundednessを形式的に議論するための順序数的同等物を定義する。
• 変換前の後で制約の非線形次元を評価し、複雑さの推定とアルゴリズムの実行可能性をガイドする。

実験結果

リサーチクエスチョン

• RQ1 厳密な不等式を含む線形ラッソプログラムに対して、制約に基づく終了証明の合成手法を完全なものにできるか？
• RQ2 アフィン線形、区分的、辞書式、複数段階型といった多様な順序関数タイプを、単一のテンプレートフレームワークで形式的に統一できるか？
• RQ3 順序関数の合成から生じる非線形制約系は、一般の非線形系よりも著しく容易に解けるものか？
• RQ4 サポートする不変集合の数が固定された場合、この手法は依然として妥当かつ完全か？
• RQ5 結合的線形ラッソプログラムの終了性の決定可能性は何か？そしてそれを証明できるか？

主な発見

• 本手法は、任意の固定された不変集合の数と任意の順序関数テンプレート（新規の複数段階型テンプレートを含む）に対して、妥当性と完全性が保証されている。
• Motzkinの転置定理を用いることで、整数固有の変換を必要とせず、厳密な不等式を扱える。これは、従来の手法とは異なり、整数変換の回避策を必要としない。
• 生成された非線形制約は、一般の非線形系よりも構造的かつ解きやすい性質であることが示され、実用的応用に妥当であると正当化される。
• 複数段階型順序関数テンプレートは、辞書式順序関数とは直交する新規な代替手段として導入され、辞書式順序関数が適用できないプログラムに対しても適用可能である例が示された。
• 整数ラッソプログラムでは、整数多面体を保証する課題があるため、本手法は完全でない。今後の整数固有の制約処理の必要性が示唆される。
• 本稿では、一般の線形ラッソプログラムの終了性が決定不能であることを証明し、問題の理論的限界を確立した。