[论文解读] Disentangling Abstraction from Statistical Pattern Matching in Human and Machine Learning

Sreejan Kumar, Ishita Dasgupta+3 more|arXiv (Cornell University)|Apr 4, 2022

Reinforcement Learning in Robotics被引用 6

一句话总结

本文提出一种新方法，通过构建‘任务元胞’（task metamers）——即统计特性相同但底层规则不同的任务——来区分人类与机器学习中真正的抽象与统计模式匹配。研究发现，人类在抽象任务上的泛化能力优于其统计元胞，而神经网络在抽象任务上的表现往往劣于其元胞，揭示了学习机制的根本差异。

ABSTRACT

The ability to acquire abstract knowledge is a hallmark of human intelligence and is believed by many to be one of the core differences between humans and neural network models. Agents can be endowed with an inductive bias towards abstraction through meta-learning, where they are trained on a distribution of tasks that share some abstract structure that can be learned and applied. However, because neural networks are hard to interpret, it can be difficult to tell whether agents have learned the underlying abstraction, or alternatively statistical patterns that are characteristic of that abstraction. In this work, we compare the performance of humans and agents in a meta-reinforcement learning paradigm in which tasks are generated from abstract rules. We define a novel methodology for building "task metamers" that closely match the statistics of the abstract tasks but use a different underlying generative process, and evaluate performance on both abstract and metamer tasks. We find that humans perform better at abstract tasks than metamer tasks whereas common neural network architectures typically perform worse on the abstract tasks than the matched metamers. This work provides a foundation for characterizing differences between humans and machine learning that can be used in future work towards developing machines with more human-like behavior.

研究动机与目标

• 探究神经网络在元强化学习中是否学习抽象规则，还是仅依赖统计模式。
• 开发一种生成任务元胞的方法，使其在保持统计特性的同时，底层生成规则不同。
• 比较人类与神经网络在抽象任务与其统计匹配元胞上的表现。
• 识别人类抽象是否源于真正的规则学习，而非统计相关性。
• 为评估机器学习模型中是否存在真正抽象提供一个框架。

提出的方法

• 作者设计了一套元强化学习设置，其中任务由抽象规则（如关系性或组合性结构）生成。
• 他们引入了‘任务元胞’——一种合成任务，其统计分布与抽象任务相同，但通过不同且非抽象的过程生成。
• 该方法确保原始抽象任务与其元胞在统计特性（如动作值分布、状态转移）上无法区分。
• 在抽象任务及其对应元胞上评估性能，以分离抽象在泛化中的作用。
• 神经网络智能体在一系列此类任务的分布上进行训练，并在抽象任务与元胞变体上进行测试。
• 人类参与者也接受相同任务集的测试，以比较跨物种的泛化行为。

实验结果

研究问题

• RQ1 神经网络智能体在抽象任务上的泛化，是因为学习了底层规则，还是因为统计规律？
• RQ2 人类能否可靠地区分抽象任务与其统计元胞？
• RQ3 在人类与神经网络中，抽象任务的表现与统计匹配元胞的表现相比如何？
• RQ4 神经网络在多大程度上依赖统计模式而非基于规则的抽象？
• RQ5 任务元胞能否作为识别机器学习模型中抽象性的诊断工具？

主要发现

• 人类在抽象任务上的表现显著优于其统计元胞，表明其依赖基于规则的抽象。
• 神经网络智能体在抽象任务上的表现劣于其匹配元胞，表明其利用统计模式而非学习底层规则。
• 抽象任务与元胞任务之间的表现差距在人类中远大于神经网络，凸显了学习机制的关键差异。
• 任务元胞成功保留了统计特性，同时改变了生成结构，验证了其作为诊断工具的有效性。
• 结果表明，当前深度学习模型即使看似泛化良好，也可能并未实现真正的抽象。
• 本研究提供了实证证据，表明统计模式匹配可模拟泛化行为，因此亟需为人工智能中的抽象性开发新的评估方法。