[論文レビュー] Evolution with Drifting Targets

Varun Kanade, Leslie G. Valiant+1 more|arXiv (Cornell University)|May 19, 2010

Machine Learning and Algorithms参考文献 17被引用数 11

ひとこと要約

本稿は、目的関数の徐々な変化（ドリフト）に対して安定性を保つ進化計算フレームワークを提案する。相関クエリ技法を適用することで、任意の発達可能概念クラスが多項式リソースを用いてドリフト耐性アルゴリズムに変換可能であり、逆多項式ドリフト率でさえも高い正確性を達成・維持できることを証明する。

ABSTRACT

We consider the question of the stability of evolutionary algorithms to gradual changes, or drift, in the target concept. We define an algorithm to be resistant to drift if, for some inverse polynomial drift rate in the target function, it converges to accuracy 1 -- ε, with polynomial resources, and then stays within that accuracy indefinitely, except with probability ε, at any one time. We show that every evolution algorithm, in the sense of Valiant (2007; 2009), can be converted using the Correlational Query technique of Feldman (2008), into such a drift resistant algorithm. For certain evolutionary algorithms, such as for Boolean conjunctions, we give bounds on the rates of drift that they can resist. We develop some new evolution algorithms that are resistant to significant drift. In particular, we give an algorithm for evolving linear separators over the spherically symmetric distribution that is resistant to a drift rate of O(ε/n), and another algorithm over the more general product normal distributions that resists a smaller drift rate. The above translation result can be also interpreted as one on the robustness of the notion of evolvability itself under changes of definition. As a second result in that direction we show that every evolution algorithm can be converted to a quasi-monotonic one that can evolve from any starting point without the performance ever dipping significantly below that of the starting point. This permits the somewhat unnatural feature of arbitrary performance degradations to be removed from several known robustness translations.

研究の動機と目的

• 目的関数の徐々な変化（ドリフト）に対して進化計算の安定性を形式化すること。
• 発達可能性モデルにおけるドリフト耐性を、レジリエンス特性として定義・分析すること。
• すべての発達可能概念クラスが、相関クエリを用いてドリフト耐性アルゴリズムに変換可能であることを示すこと。
• 球対称分布および積正規分布上での線形分離器に対する、定量的ドリフト耐性を有する新しい進化アルゴリズムの開発。
• 準単調進化アルゴリズムの導入により、任意の性能低下を排除すること。

提案手法

• Feldman [9] が提唱した相関クエリ技法を応用し、任意の進化アルゴリズムをドリフト耐性アルゴリズムに変換する。
• ドリフト耐性を、多項式リソースを用いて 1−ϵ の正確性に収束し、逆多項式ドリフトに対しても持続的な高い性能を示すものとして定義する。
• 変数の追加・削除・交換・リテラルの否定を含む近傍構造（Neigh）を、表現クラスに用いる。
• 頑健な性能推定を保証するため、許容関数 t(r,ϵ)=ϵ²/18 およびサンプルサイズ s=Õ(1/ϵ²) を採用する。
• 一様分布下でのケースバイケース分析を用いて、近傍バージョンの性能向上を分析する。
• 単調かつ一般の論理積に対して、ドリフト率が ∆≤ϵ²/144 まで耐えられることを証明する。

実験結果

リサーチクエスチョン

• RQ1 進化計算は、目的関数が徐々に変化する（ドリフトする）状況でも高い性能を維持できるか？
• RQ2 与えられた進化アルゴリズムが、高精度に収束し続けるために耐えられる最大のドリフト率は何か？
• RQ3 すべての発達可能概念クラスが、一般的手法を用いてドリフト耐性アルゴリズムに変換可能か？
• RQ4 特に初期仮説が最適でない場合に、進化過程での性能低下をどのように防止できるか？
• RQ5 球対称分布および積正規分布上での線形分離器に対して、ドリフト耐性の境界は何か？

主な発見

• 本稿は、相関クエリを用いることで、すべての発達可能概念クラスがドリフト耐性アルゴリズムに変換可能であり、1−ϵ の正確性内での持続的性能を保証できることを証明する。
• 単調論理積に対しては、多項式リソースとサンプルサイズ Õ(1/ϵ²) を用いて、ドリフト率 ∆≤ϵ²/144 まで耐えられることを示す。
• 一般論理積に対しては、リテラルの否定を含む近傍が用いられ、同じ多項式しきい値でドリフト耐性が保証される。
• 球対称分布上での線形分離器向けのアルゴリズムは、ドリフト率 O(ϵ/n) まで耐えられることを示し、より優れたレジリエンスを示す。
• 性能が初期値を下回ることを防ぐ準単調進化アルゴリズムが新たに導入され、任意の性能低下が排除される。
• 相関クエリによる変換により、定義の変更（ドリフトや単調性制約を含む）に対しても発達可能性が頑健であることが保証される。