[论文解读] A Theoretical Framework of Approximation Error Analysis of Evolutionary Algorithms

Jun He, Yu Chen+1 more|arXiv (Cornell University)|Oct 26, 2018

Metaheuristic Optimization Algorithms Research参考文献 22被引用 4

一句话总结

本文通过将进化算法（EAs）建模为齐次马尔可夫链，提出了一套理论框架，用于分析离散优化中进化算法的近似误差。该框架利用若尔当代数形式和舒尔三角化方法推导出精确表达式，并通过收敛速率分析与辅助矩阵迭代方法获得上界，从而实现对进化算法性能的严格评估，超越单纯的实验适应度值。

ABSTRACT

In the empirical study of evolutionary algorithms, the solution quality is evaluated by either the fitness value or approximation error. The latter measures the fitness difference between an approximation solution and the optimal solution. Since the approximation error analysis is more convenient than the direct estimation of the fitness value, this paper focuses on approximation error analysis. However, it is straightforward to extend all related results from the approximation error to the fitness value. Although the evaluation of solution quality plays an essential role in practice, few rigorous analyses have been conducted on this topic. This paper aims at establishing a novel theoretical framework of approximation error analysis of evolutionary algorithms for discrete optimization. This framework is divided into two parts. The first part is about exact expressions of the approximation error. Two methods, Jordan form and Schur's triangularization, are presented to obtain an exact expression. The second part is about upper bounds on approximation error. Two methods, convergence rate and auxiliary matrix iteration, are proposed to estimate the upper bound. The applicability of this framework is demonstrated through several examples.

研究动机与目标

• 建立一个严格的理论基础，用于分析进化算法中的近似误差，弥合实验实践与理论分析之间的鸿沟。
• 将进化算法建模为齐次马尔可夫链，以实现对解质量随时间演变的数学分析。
• 推导出在第 $ t $ 代时期望近似误差 $ e^{[t]} $ 的精确表达式，特别针对精英策略EAs。
• 当精确表达式不可行时，开发 $ e^{[t]} $ 的上界估计技术，适用于一般EAs与精英策略EAs。
• 通过具体实例（如(1+1) EA与随机搜索过程）展示该框架的适用性。

提出的方法

• 将EAs建模为具有转移矩阵 $ \mathbf{P} $ 的齐次马尔可夫链，其中状态代表解质量等级。
• 利用若尔当代数形式与舒尔三角化方法，推导出 $ e^{[t]} $ 的精确表达式，形式为 $ e^{[t]} = \sum_{i=1}^{k} \sum_{m=1}^{L_i} c_{i_m} \binom{t}{L_i - m + 1} \lambda_i^{t - m + 1} $。
• 应用收敛速率分析，得到上界 $ e^{[t]} \leq c(\lambda_{\text{max}} + \epsilon)^t $，其中 $ \lambda_{\text{max}} $ 为转移矩阵的谱半径。
• 引入辅助矩阵迭代方法，并结合幂因子，推导出上三角转移矩阵的更紧上界：$ e^{[t]} \leq \sum_{i=1}^{L} c_i(\lambda_i + \epsilon_i)^t $。
• 将近似误差定义为 $ e^{[t]} = \mathbb{E}[|f(X^{[t]}) - f_{\text{opt}}|] $，并利用矩阵分解技术分析其时间演化过程。
• 利用特征值分解与矩阵幂分析，将误差动态表达为转移矩阵的特征值与系数的函数。

实验结果

研究问题

• RQ1 在第 $ t $ 代时，进化算法的期望近似误差 $ e^{[t]} $ 的精确解析表达式是什么？
• RQ2 如何对一般EAs的近似误差收敛速率进行理论上的上界估计？
• RQ3 能否通过矩阵分解与迭代方法，为精英策略EAs推导出更紧的 $ e^{[t]} $ 上界？
• RQ4 矩阵的性质（如可对角化性或三角化）如何影响误差表达式的结构？
• RQ5 转移矩阵的谱半径与近似误差长期衰减速率之间存在何种关系？

主要发现

• 精确表达式为 $ e^{[t]} = \sum_{i=1}^{k} \sum_{m=1}^{L_i} c_{i_m} \binom{t}{L_i - m + 1} \lambda_i^{t - m + 1} $，其中 $ \lambda_i $ 为约化转移矩阵 $ \mathbf{R} $ 的特征值。
• 对于可对角化的转移矩阵，表达式简化为 $ e^{[t]} = \sum_{i=1}^{L} c_i \lambda_i^t $，从而可直接基于特征值进行分析。
• 收敛速率方法给出上界 $ e^{[t]} \leq c(\lambda_{\text{max}} + \epsilon)^t $，适用于所有EAs，其中 $ \lambda_{\text{max}} $ 为 $ \mathbf{R} $ 的谱半径。
• 对于上三角转移矩阵，辅助矩阵迭代方法提供更紧的上界：$ e^{[t]} \leq \sum_{i=1}^{L} c_i(\lambda_i + \epsilon_i)^t $，其中 $ \epsilon_i $ 可任意小。
• 在(1+1) EA实例中，当从单比特翻转解开始时，可导出上界 $ e^{[t]} \leq [f(n) - f(n-1)](1 - \frac{1}{ne})^t $。
• 该框架在随机搜索过程中得到验证，当初始分布为两成员时，有 $ e^{[t]} \leq 2[f(n)-f(n-1)](1 - \frac{1}{ne})^t + [f(n)-f(n-2)](1 - \frac{2}{ne})^t $。