[论文解读] A Layered Learning Approach to Scaling in Learning Classifier Systems for Boolean Problems

Isidro M. Alvarez, Trung B. Nguyen+2 more|arXiv (Cornell University)|Jun 2, 2020

Evolutionary Algorithms and Applications参考文献 28被引用 4

一句话总结

该论文提出了一种增强的分层学习方法 XCSCF*，通过迁移学习重用已学习的代码片段（CFs）和功能构建模块，使学习分类器系统（LCS）能够在多个布尔问题领域实现可扩展性。通过将复杂问题分解为分层的子问题，并嵌入类型安全的通用函数，该系统在无需针对任务硬编码的情况下，为 n 位多路复用器、进位一、多数为一和偶校验问题学习到了紧凑且可解释的解决方案。

ABSTRACT

Learning classifier systems (LCSs) originated from cognitive-science research but migrated such that LCS became powerful classification techniques. Modern LCSs can be used to extract building blocks of knowledge to solve more difficult problems in the same or a related domain. Recent works on LCSs showed that the knowledge reuse through the adoption of Code Fragments, GP-like tree-based programs, into LCSs could provide advances in scaling. However, since solving hard problems often requires constructing high-level building blocks, which also results in an intractable search space, a limit of scaling will eventually be reached. Inspired by human problem-solving abilities, XCSCF* can reuse learned knowledge and learned functionality to scale to complex problems by transferring them from simpler problems using layered learning. However, this method was unrefined and suited to only the Multiplexer problem domain. In this paper, we propose improvements to XCSCF* to enable it to be robust across multiple problem domains. This is demonstrated on the benchmarks Multiplexer, Carry-one, Majority-on, and Even-parity domains. The required base axioms necessary for learning are proposed, methods for transfer learning in LCSs developed and learning recast as a decomposition into a series of subordinate problems. Results show that from a conventional tabula rasa, with only a vague notion of what subordinate problems might be relevant, it is possible to capture the general logic behind the tested domains, so the advanced system is capable of solving any individual n-bit Multiplexer, n-bit Carry-one, n-bit Majority-on, or n-bit Even-parity problem.

研究动机与目标

• 解决现有学习分类器系统（LCS）在求解大规模布尔问题时的可扩展性限制。
• 将 XCSCF* 框架扩展至多路复用器领域之外，以支持多个异构的布尔问题领域。
• 通过在子问题之间重用功能构建模块（代码片段）实现迁移学习，以减少搜索空间并提升解决方案的紧凑性。
• 开发一种通用且可扩展的框架，支持可变规模的问题求解，而无需硬编码问题规模。
• 通过引入中间可重用的功能组件来结构化解决方案，从而提升可解释性。

提出的方法

• 将复杂的布尔问题分解为一系列逐步更复杂的子问题层次，以实现分层学习。
• 引入一种通用的输入机制，使用属性列表（attlst）替代固定大小的常量，以支持可变规模的问题求解。
• 嵌入类型匹配约束，确保函数与代码片段之间的兼容性，从而减少无效的搜索空间。
• 使用一组基础公理和与领域无关的函数（例如，StringSum、HeadList、TailList）作为问题分解的基础构建模块。
• 通过重用简单子问题中已学习的代码片段（CFs）来解决更复杂的靶问题，实现迁移学习。
• 将学习过程重新定义为构建功能逻辑链的过程，类似于人类学习中的阈值概念。

实验结果

研究问题

• RQ1 LCS 中的分层学习方法是否能够在多个不同的布尔问题领域中实现稳健的可扩展性？
• RQ2 如何在子问题之间重用功能构建模块，以减少搜索空间并提升解决方案的紧凑性？
• RQ3 在不进行任务特定硬编码或预先设定问题规模约束的情况下，系统在多大程度上能够学习到通用且可解释的解决方案？
• RQ4 集成类型安全的通用函数是否能够实现 LCS 中可扩展且可扩展的问题求解？
• RQ5 与传统的从零开始学习（tabula rasa learning）相比，使用迁移学习和功能组合在解决方案质量与可解释性方面有何差异？

主要发现

• XCSCF* 仅使用一组极简的通用函数和基础公理，成功求解了多路复用器、进位一、多数为一和偶校验问题的 n 位版本。
• 系统实现了最小且可解释的解决方案，即使在大规模问题中，通常也仅需每个问题领域一条通用规则。
• 通过显式使用属性列表（attlst），实现了可变规模的问题求解，消除了对问题规模硬编码的需求。
• 系统表明，已学习的代码片段和功能构建模块可以有效跨子问题迁移，显著减少了搜索空间。
• 在抽象后，解决方案紧凑且可解释，但完全展开的 CF 树揭示了复杂的嵌套模式，表明功能组合的有效性。
• 该框架可通过模块化、课程化学习架构，未来扩展至连续和实值数据集。