[論文レビュー] A Layered Learning Approach to Scaling in Learning Classifier Systems for Boolean Problems

Isidro M. Alvarez, Trung B. Nguyen+2 more|arXiv (Cornell University)|Jun 2, 2020

Evolutionary Algorithms and Applications参考文献 28被引用数 4

ひとこと要約

本稿では、転移学習を通じて学習済みコード断片（CFs）と機能的ビルディングブロックを再利用することで、複数のブール問題ドメインにわたりスケーラブルに拡張可能な、拡張された階層的学習アプローチ、XCSCF* を提案する。複雑な問題を階層的な部分問題に分解し、型安全で汎用的な関数を埋め込むことで、タスク固有のハードコードなしに、nビットマルチプレクサ、キャリーワン、メジャリティオン、エッブンパリティ問題に対して、コンactかつ解釈可能な解を学習する。

ABSTRACT

Learning classifier systems (LCSs) originated from cognitive-science research but migrated such that LCS became powerful classification techniques. Modern LCSs can be used to extract building blocks of knowledge to solve more difficult problems in the same or a related domain. Recent works on LCSs showed that the knowledge reuse through the adoption of Code Fragments, GP-like tree-based programs, into LCSs could provide advances in scaling. However, since solving hard problems often requires constructing high-level building blocks, which also results in an intractable search space, a limit of scaling will eventually be reached. Inspired by human problem-solving abilities, XCSCF* can reuse learned knowledge and learned functionality to scale to complex problems by transferring them from simpler problems using layered learning. However, this method was unrefined and suited to only the Multiplexer problem domain. In this paper, we propose improvements to XCSCF* to enable it to be robust across multiple problem domains. This is demonstrated on the benchmarks Multiplexer, Carry-one, Majority-on, and Even-parity domains. The required base axioms necessary for learning are proposed, methods for transfer learning in LCSs developed and learning recast as a decomposition into a series of subordinate problems. Results show that from a conventional tabula rasa, with only a vague notion of what subordinate problems might be relevant, it is possible to capture the general logic behind the tested domains, so the advanced system is capable of solving any individual n-bit Multiplexer, n-bit Carry-one, n-bit Majority-on, or n-bit Even-parity problem.

研究の動機と目的

• 大規模なブール問題を解く際の、既存の学習分類器システム（LCS）のスケーラビリティの限界に対処すること。
• XCSCF* フレームワークをマルチプレクサドメインにとどまらず、複数の異種ブール問題ドメインに拡張すること。
• 部分問題間で機能的ビルディングブロック（コード断片）の転移学習を可能にし、探索空間を縮小するとともに解のコンパクト性を向上させること。
• 問題サイズのハードコードなしに、可変スケールの問題解決を可能にする汎用的で拡張可能なフレームワークの開発。
• 中間の再利用可能な機能的コンponentsを用いた構造化により、解釈性を向上させること。

提案手法

• 複雑なブール問題を、段階的に複雑度が増す部分問題の階層に分解することで、階層的学習を可能にする。
• 固定サイズの定数に代わる一般化された入力メカニズム（属性リスト、attlst）を導入し、可変スケールの問題解決を可能にする。
• 関数とコード断片の間の互換性を保証するための型適合制約を組み込むことで、無効な探索空間を削減する。
• 基本的な公理とドメインに依存しない関数（例：StringSum, HeadList, TailList）を用いて、問題分解の基盤となるビルディングブロックを提供する。
• より単純な部分問題から学習されたコード断片（CFs）を再利用することで、より複雑なターゲット問題を解くための転移学習を適用する。
• 学習を、閾値概念に類似した機能の論理的連鎖の構築プロセスとして再定式化する。

実験結果

リサーチクエスチョン

• RQ1 LCSにおける階層的学習アプローチが、複数の異なるブール問題ドメインにわたり、堅牢にスケーリング可能であるか。
• RQ2 機能的ビルディングブロックを部分問題間で再利用することで、探索空間を縮小し、解のコンパクト性を向上させることは可能か。
• RQ3 タスク固有のハードコードや事前の問題サイズ制約なしに、一般化され解釈可能な解を学習できるまでの範囲はどの程度か。
• RQ4 型安全で汎用的な関数の統合が、LCSにおけるスケーラブルで拡張可能な問題解決を可能にするか。
• RQ5 転移学習と機能的合成を用いる場合と、従来のタブララサ学習とを比較した場合、解の品質と解釈性においてどのような差異が生じるか。

主な発見

• XCSCF* は、最小限の汎用関数と基本公理のセットのみを用いて、マルチプレクサ、キャリーワン、メジャリティオン、エッブンパリティ問題のnビット版を正常に解消した。
• システムは最小限で解釈可能な解を達成し、大規模な問題に対しても、しばしば1つの汎用ルールで十分だった。
• 明示的な属性リスト（attlst）の使用により、可変スケールの問題解決が可能になり、問題サイズのハードコードが不要になった。
• 学習済みコード断片と機能的ビルディングブロックが部分問題間で効果的に転送可能であることが実証され、探索空間が顕著に縮小された。
• 抽象化された解はコンパクトで解釈可能であったが、完全に展開されたCFツリーでは複雑なネスト構造が確認され、効果的な機能的合成が行われていた。
• モジュラーでカリキュラムベースの学習アーキテクチャを備えることで、今後の連続的および実数値データセットへの拡張が可能である。