[论文解读] Towards Stable Symbol Grounding with Zero-Suppressed State AutoEncoder

Masataro Asai, Hiroshi Kajino|arXiv (Cornell University)|Mar 27, 2019

AI-based Problem Solving and Planning参考文献 30被引用 5

一句话总结

本文提出零抑制状态自编码器（ZSAE），通过在闭世界假设先验下强制未使用命题为零，以稳定神经符号AI中的符号表示。ZSAE提升了规划成功率，降低了模型对超参数的敏感性，并实现了对非活跃神经元的剪枝，解决了无监督符号接地中的新型‘符号稳定性问题’。

ABSTRACT

While classical planning has been an active branch of AI, its applicability is limited to the tasks precisely modeled by humans. Fully automated high-level agents should be instead able to find a symbolic representation of an unknown environment without supervision, otherwise it exhibits the knowledge acquisition bottleneck. Meanwhile, Latplan (Asai and Fukunaga 2018) partially resolves the bottleneck with a neural network called State AutoEncoder (SAE). SAE obtains the propositional representation of the image-based puzzle domains with unsupervised learning, generates a state space and performs classical planning. In this paper, we identify the problematic, stochastic behavior of the SAE-produced propositions as a new sub-problem of symbol grounding problem, the symbol stability problem. Informally, symbols are stable when their referents (e.g. propositional values) do not change against small perturbation of the observation, and unstable symbols are harmful for symbolic reasoning. We analyze the problem in Latplan both formally and empirically, and propose "Zero-Suppressed SAE", an enhancement that stabilizes the propositions using the idea of closed-world assumption as a prior for NN optimization. We show that it finds the more stable propositions and the more compact representations, resulting in an improved success rate of Latplan. It is robust against various hyperparameters and eases the tuning effort, and also provides a weight pruning capability as a side effect.

研究动机与目标

• 识别并形式化‘符号稳定性问题’——即在小输入扰动下符号表示发生翻转的不稳定性——作为无监督符号接地中的关键子问题。
• 分析Latplan原始状态自编码器（SAE）中的不稳定性，追溯其根源为Gumbel-Softmax采样中的随机性以及潜在表示缺乏结构约束。
• 提出ZSAE，一种改进的SAE，通过强制未使用命题为零来稳定符号指称并提升推理鲁棒性。
• 证明ZSAE可生成更紧凑、更稳定且更高效的表示，减少对超参数调优的依赖，并支持神经元剪枝。

提出的方法

• ZSAE引入正则化项，惩罚未被输入支持的命题中的非零激活，从而有效施加闭世界假设（CWA）先验。
• 该方法修改了SAE中Gumbel-Softmax采样过程，通过最小化活跃（真）命题的数量，以促进稀疏且稳定的二值表示。
• 其采用可微的二值约束松弛，允许反向传播，同时鼓励未使用命题的值为零。
• 该架构为每个命题采用双头结构（每个二值变量对应两个神经元），支持端到端训练，结合熵正则化与零抑制。
• ZSAE通过减少有效使用的比特数实现紧凑表示——例如，在MNIST拼图任务中，有效比特数从1000减少至68，同时保持重建保真度。
• 该方法可剪枝恒为零激活的神经元，使模型参数量减少44%（从837万降至558万），且无精度损失。

实验结果

研究问题

• RQ1 神经符号接地中的随机性如何导致符号指称不稳定，其对经典规划有何影响？
• RQ2 Latplan的SAE中Gumbel-Softmax公式化在多大程度上导致表示不稳定，其与原始数学模型的偏离程度如何？
• RQ3 通过正则化施加闭世界假设是否能稳定符号表示并提升规划性能？
• RQ4 ZSAE是否降低对超参数的敏感性，并通过剪枝非活跃神经元实现结构化模型压缩？
• RQ5 所提出的符号稳定性问题（SSP）能否作为现代神经符号系统中的根本性挑战进行泛化？

主要发现

• 与原始SAE相比，ZSAE在经典规划中实现了20%更高的成功率，归因于更稳定且紧凑的符号表示。
• 在MNIST拼图任务中，ZSAE将表示中使用的有效比特数从1000减少至68，显著压缩了状态空间。
• ZSAE将网络总参数量减少44%（从8,376,278降至5,578,414），且重建精度无下降。
• 模型对超参数选择的敏感性降低，简化了实际部署中的调优过程。
• ZSAE可剪枝恒为零激活的神经元，这些神经元被识别为非活跃且可移除，且不造成性能损失。
• 该方法表明，Latplan中通过Gumbel-Softmax实现的熵正则化已提供部分稳定性，但ZSAE通过显式零抑制进一步增强，实现更鲁棒的符号推理。