[論文レビュー] Population Scalability Analysis of Abstract Population-based Random Search: I. Spectral Radius

Tianshi Chen, Jun He|arXiv (Cornell University)|Jun 20, 2012

Metaheuristic Optimization Algorithms Research参考文献 32被引用数 1

ひとこと要約

本稿は、一般化された確率的最適化アルゴリズムである抽象的集団ベースのランダムサーチ（ARS）における集団スケーラビリティを分析する、固有値半径に基づく新規フレームワークを提案する。理論的に、正規の単調的ランドスケープでは超線形的スケーラビリティが不可能であることを示すが、二つの条件、すなわち「橋渡し可能な点」と「多様性の維持」を満たす場合、偽装的ランドスケープでは超線形的スケーラビリティが可能である。

ABSTRACT

Population-based Random Search (RS) algorithms, such as Evolutionary Algorithms (EAs), Ant Colony Optimization (ACO), Artificial Immune Systems (AIS) and Particle Swarm Optimization (PSO), have been widely applied to solving discrete optimization problems. A common belief in this area is that the performance of a population-based RS algorithm may improve if increasing its population size. The term of population scalability is used to describe the relationship between the performance of RS algorithms and their population size. Although understanding population scalability is important to design efficient RS algorithms, there exist few theoretical results about population scalability so far. Among those limited results, most of them belong to case studies, e.g. simple RS algorithms for simple problems. Different from them, the paper aims at providing a general study. A large family of RS algorithms, called ARS, has been investigated in the paper. The main contribution of this paper is to introduce a novel approach based on the fundamental matrix for analyzing population scalability. The performance of ARS is measured by a new index: spectral radius of the fundamental matrix. Through analyzing fundamental matrix associated with ARS, several general results have been proven: (1) increasing population size may increase population scalability; (2) no super linear scalability is available on any regular monotonic fitness landscape; (3) potential super linear scalability may exist on deceptive fitness landscapes; (4) “bridgeable point” and “diversity preservation” are two necessary conditions for super linear scalability

研究の動機と目的

• 集団ベースのランダムサーチ（RS）アルゴリズムにおける集団スケーラビリティを理解するための一般的な理論的枠組みの欠如に対処すること。
• 集団サイズの増加が、多様なフィットネスランドスケープにおいて超線形的性能向上をもたらすかどうかを調査すること。
• 単純な事例研究を越えて、RSアルゴリズムにおける超線形的スケーラビリティに必要な条件を同定すること。
• 遺伝的アルゴリズム（EAs）、PSO、ACO、AISを含む広範なRSアルゴリズムの家族に適用可能な一般化された分析手法を構築すること。
• 特に基本行列の固有値半径を用いた行列理論的ツールを用いて、スケーラビリティの理論的限界を確立すること。

提案手法

• 抽象的集団ベースのランダムサーチ（ARS）という広範なRSアルゴリズムのクラスにおける集団スケーラビリティを分析する一般化されたフレームワークを提案する。
• 時間経過に伴う状態遷移をモデル化するためのコアな分析的ツールとして、基本行列を導入する。
• 収束行動とスケーラビリティを定量化するパフォーマンス指標として、基本行列の固有値半径を定義する。
• 行列理論的分析を用いて、異なるフィットネスランドスケープ構造下でのARSの一般的性質を導出する。
• スペクトル解析を用いて、正規の単調的ランドスケープと偽装的ランドスケープの間でのスケーラビリティの傾向を比較する。
• 超線形的スケーラビリティに必要な構造的条件として、「橋渡し可能な点」と「多様性の維持」を同定する。

実験結果

リサーチクエスチョン

• RQ1 集団ベースのランダムサーチアルゴリズムにおいて、集団サイズの増加が超線形的スケーラビリティをもたらすことができるか？
• RQ2 フィットネスランドスケープのどのような構造的特性が、超線形的スケーラビリティを可能または不可能にするか？
• RQ3 基本行列の固有値半径は、ARSのパフォーマンスとスケーラビリティとどのように関係するか？
• RQ4 異なるRSアルゴリズムにおいて、超線形的スケーラビリティが可能になる一般的な条件は何か？
• RQ5 '橋渡し可能な点'と'多様性の維持'は、超線形的スケーラビリティを可能にするために果たす役割は何か？

主な発見

• 集団サイズの増加は、特定のランドスケープ条件のもとでは集団スケーラビリティを向上させることができるとともに、それ以外の場合は不可能である。
• 正規の単調的ランドスケープでは、集団サイズにかかわらず、超線形的スケーラビリティは不可能である。
• 超線形的スケーラビリティの可能性は、単純な探索経路を欺く偽装的ランドスケープに限られる。
• 「橋渡し可能な点」——異なる盆地間を効率的に探索可能な遷移点——の存在は、超線形的スケーラビリティに不可欠な条件である。
• 「多様性の維持」——探索空間全体における十分な探索能力を維持すること——も、超線形的スケーラビリティに不可欠なもう一つの条件である。
• 基本行列の固有値半径は、ARSにおけるスケーラビリティ傾向を定量化するための妥当かつ分析可能なパフォーマンス指標として機能する。