[论文解读] Ranking Function Synthesis for Linear Lasso Programs

Jan Leike|arXiv (Cornell University)|Jan 21, 2014

Machine Learning and Algorithms参考文献 32被引用 5

一句话总结

本文提出了一种完整的、基于约束的方法，用于在使用排名函数模板的线性lasso程序中合成终止性论证，包括新颖的多阶段、分段和字典序形式。通过使用Motzkin的转置定理而非Farkas引理，该方法能够处理严格不等式，并支持多种排名函数类型，且对仿射线性模板和固定不变量集证明了完备性和正确性。

ABSTRACT

The scope of this work is the constraint-based synthesis of termination arguments for the restricted class of programs called linear lasso programs. A termination argument consists of a ranking function as well as a set of supporting invariants. We extend existing methods in several ways. First, we use Motzkin's Transposition Theorem instead of Farkas' Lemma. This allows us to consider linear lasso programs that can additionally contain strict inequalities. Existing methods are restricted to non-strict inequalities and equalities. Second, we consider several kinds of ranking functions: affine-linear, piecewise and lexicographic ranking functions. Moreover, we present a novel kind of ranking function called multiphase ranking function which proceeds through a fixed number of phases such that for each phase, there is an affine-linear ranking function. As an abstraction to the synthesis of specific ranking functions, we introduce the notion ranking function template. This enables us to handle all ranking functions in a unified way. Our method relies on non-linear algebraic constraint solving as a subroutine which is known to scale poorly to large problems. As a mitigation we formalize an assessment of the difficulty of our constraints and present an argument why they are of an easier kind than general non-linear constraints. We prove our method to be complete: if there is a termination argument of the form specified by the given ranking function template with a fixed number of affine-linear supporting invariants, then our method will find a termination argument. To our knowledge, the approach we propose is the most powerful technique of synthesis-based discovery of termination arguments for linear lasso programs and encompasses and enhances several methods having been proposed thus far.

研究动机与目标

• 开发一种完整且正确的方法，用于合成线性lasso程序中的终止性论证。
• 通过支持严格不等式，扩展现有基于约束的方法，而此前的方法无法处理此类不等式，除非采用特定于整数的变通方法。
• 通过正式的排名函数模板框架，统一合成多种排名函数——仿射线性、分段、字典序和多阶段——的方法。
• 评估并缓解在合成过程中出现的非线性代数约束的计算难度，表明其复杂度低于一般非线性约束。
• 通过证明固定结构论证的完备性，实现实际的终止性分析，并识别整数lasso程序和可判定性方面的开放问题。

提出的方法

• 使用Motzkin的转置定理而非Farkas引理，以处理线性lasso程序中的严格不等式，从而比以往方法具有更广泛的应用范围。
• 引入排名函数模板的概念，以正式统一仿射线性、分段、字典序和多阶段排名函数的规格说明。
• 从程序转换和不变量构造非线性代数约束，并为固定不变量集合证明了正确性和完备性。
• 应用柱面代数分解（CAD）求解所得约束，理论上证明这些约束的复杂度低于一般非线性系统。
• 定义序数排名等价物，以使用序数算术正式推理排名函数的良基性。
• 在变换前后评估约束的非线性维度，以指导复杂度估计和算法可行性分析。

实验结果

研究问题

• RQ1 能否为具有严格不等式的线性lasso程序设计一种完备的基于约束的终止性论证合成方法？
• RQ2 如何在单一模板框架下正式统一多种排名函数类型——仿射线性、分段、字典序和多阶段？
• RQ3 由排名函数合成产生的非线性约束系统是否显著比一般非线性系统更容易求解？
• RQ4 当支持不变量的数量固定时，该方法是否仍保持正确性和完备性？
• RQ5 合取线性lasso程序的终止性是否可判定？能否证明其可判定性？

主要发现

• 该方法对任意固定数量的支持不变量和任意排名函数模板（包括新颖的多阶段模板）均被证明是正确且完备的。
• 通过使用Motzkin的转置定理，该方法无需采用特定于整数的变换即可处理严格不等式，而此前的方法则需要此类变换。
• 生成的非线性约束被证明具有更结构化且可能更易处理的性质，从而在实践中具有合理性。
• 多阶段排名函数模板被引入为一种新颖的、与字典序排名函数正交的替代方案，示例表明其适用于无法使用字典序排名的程序。
• 由于难以确保积分多面体的存在，该方法在整数lasso程序中不具有完备性，提示未来需发展特定于整数的约束处理机制。
• 本文证明了一般线性lasso程序的终止性是不可判定的，从而确立了该问题的理论边界。