[論文レビュー] An Efficient Genetic Programming System with Geometric Semantic Operators and its Application to Human Oral Bioavailability Prediction

Mauro Castelli, Luca Manzoni+1 more|arXiv (Cornell University)|Aug 12, 2012

Evolutionary Algorithms and Applications参考文献 4被引用数 5

ひとこと要約

本論文は、指数的ブロード（bloat）を回避する地理的意味的演算子を実装する、新規で効率的な遺伝的プログラミング（GP）システムを提案する。これにより、単一のフィットネスランドスケープの性質を実用的に活用できるようになった。本システムは、人間の経口生体利用率を予測するタスクにおいて、標準的なGPおよび複数の機械学習手法を上回る、優れた汎化性能を達成した。

ABSTRACT

Very recently new genetic operators, called geometric semantic operators, have been defined for genetic programming. Contrarily to standard genetic operators, which are uniquely based on the syntax of the individuals, these new operators are based on their semantics, meaning with it the set of input-output pairs on training data. Furthermore, these operators present the interesting property of inducing a unimodal fitness landscape for every problem that consists in finding a match between given input and output data (for instance regression and classification). Nevertheless, the current definition of these operators has a serious limitation: they impose an exponential growth in the size of the individuals in the population, so their use is impossible in practice. This paper is intended to overcome this limitation, presenting a new genetic programming system that implements geometric semantic operators in an extremely efficient way. To demonstrate the power of the proposed system, we use it to solve a complex real-life application in the field of pharmacokinetic: the prediction of the human oral bioavailability of potential new drugs. Besides the excellent performances on training data, which were expected because the fitness landscape is unimodal, we also report an excellent generalization ability of the proposed system, at least for the studied application. In fact, it outperforms standard genetic programming and a wide set of other well-known machine learning methods.

研究の動機と目的

• 既存の地理的意味的演算子が原因で個体サイズが指数関数的に増大する問題を克服し、実世界の応用に不適切になるのを防ぐこと。
• ブロードを回避しながら意味的同等性を維持する、コンactで効率的な地理的意味的演算子の実装を設計すること。
• 新薬のヒトにおける経口生体利用率を予測する、複雑で現実世界の薬物動態問題に対して、提案されたシステムを評価すること。
• 標準的な遺伝的プログラミングおよび他の最先端の機械学習手法と比較して、優れた汎化性能を示すことを証明すること。

提案手法

• システムは初期のランダムな個体群と、地理的意味的演算に用いる補助的なランダムプログラムの集合のみを格納する。
• これらのプログラムへのポインタの動的テーブルを維持することで、完全な式を格納せずにも効率的なOffspringの構築が可能になる。
• 地理的意味的交叉と変異は、入力-出力ペア（入力出力ペア）としての意味的ベクトルにおけるベクトル空間演算によって実装され、意味的整合性が保証される。
• 明示的なプログラムの簡略化を設計段階で避けることで、コンパクトな表現とポインタ管理によるブロードの制御に依存する。
• フィットネス評価は、意味的類似性とターゲット一致度を用いて、コンパクト表現上で実施される。
• システムは、ヒトの経口生体利用率を予測するための分子記述子のデータセットに適用され、テストセットにおけるRMSEを用いて性能が評価された。

実験結果

リサーチクエスチョン

• RQ1 地理的意味的演算子を、個体サイズの指数関数的増大を回避する形で実装できるか。これにより、実用的な応用が可能になるか。
• RQ2 提案されたGPシステムは、地理的意味的演算子の単一のフィットネスランドスケープの性質を維持しつつ、計算効率も確保できるか。
• RQ3 提案されたシステムの汎化性能は、標準的な遺伝的プログラミングおよび他の最先端の機械学習手法と比較して、経口生体利用率予測タスクでどのように異なるか。
• RQ4 GPが自動的に特徴選択を実行するという性質を考慮すると、明示的な特徴選択がなくても、本システムは高い性能を達成できるか。

主な発見

• 提案されたGPシステムは、初期プログラムとポインタテーブルのみを格納することで、指数的ブロードを完全に排除し、地理的意味的演算子の実用的利用を可能にした。
• 30回の実行における中央値としてのテストRMSEは26.97であり、標準的な遺伝的プログラミングおよび複数の最先端手法を上回った。
• 明示的な特徴選択がなくても、相関に基づく特徴選択を用いた手法と同等またはそれ以上の性能を示した。
• テスト誤差がSVM やマルチレイヤーパーセプトロンなどの多くのベースライン手法よりも顕著に低く、優れた汎化能力を示した。
• 結果から、効率的な実装がなされた場合、地理的意味的演算子が現実世界の応用において優れた汎化性能を発揮できることを確認した。
• 本フレームワークは、その効率性と頑健性のおかげで、高次元の複雑な問題への応用の可能性を示している。