[论文解读] Variational Neural Cellular Automata

Rasmus Palm, Mari Mar Duque+2 more|arXiv (Cornell University)|Jan 28, 2022

Cellular Automata and Applications被引用 5

一句话总结

本文提出变分神经元胞自动机（VNCA），一种结合变分自编码器与神经元胞自动机的生成式概率模型，用于学习自组织、局部连接的生长过程。尽管参数有限且通信范围局部，VNCA 仍能实现优异的重建效果，学习多样化的生成模式，并通过稳定进入吸引子状态实现对扰动的鲁棒恢复。

ABSTRACT

In nature, the process of cellular growth and differentiation has lead to an amazing diversity of organisms -- algae, starfish, giant sequoia, tardigrades, and orcas are all created by the same generative process. Inspired by the incredible diversity of this biological generative process, we propose a generative model, the Variational Neural Cellular Automata (VNCA), which is loosely inspired by the biological processes of cellular growth and differentiation. Unlike previous related works, the VNCA is a proper probabilistic generative model, and we evaluate it according to best practices. We find that the VNCA learns to reconstruct samples well and that despite its relatively few parameters and simple local-only communication, the VNCA can learn to generate a large variety of output from information encoded in a common vector format. While there is a significant gap to the current state-of-the-art in terms of generative modeling performance, we show that the VNCA can learn a purely self-organizing generative process of data. Additionally, we show that the VNCA can learn a distribution of stable attractors that can recover from significant damage.

研究动机与目标

• 开发一种受生物细胞生长与分化启发的生成模型，通过局部、迭代计算实现。
• 解决先前神经元胞自动机（NCA）研究中缺乏恰当概率建模的问题，这些研究通常作为自编码器运行，缺乏似然估计与采样能力。
• 采用生成建模的最佳实践评估模型，包括似然计算与与最先进方法的公平比较。
• 探究自组织、局部连接系统是否能从共享潜在码中学习多样、稳定且具有鲁棒性的生成过程。
• 研究受有丝分裂启发的细胞加倍机制对生成性能与计算效率的影响。

提出的方法

• VNCA 采用变分自编码器框架，其中解码器为神经元胞自动机（NCA），潜在码 z0 从先验 p(z) 中采样，并用作 2×2 细胞状态网格的种子。
• NCA 通过基于局部邻域规则的迭代方式更新细胞状态，使用通过反向传播学习的参数化更新函数。
• 引入一种新型加倍机制，即每 M 步将所有细胞复制一次，模拟有丝分裂，实现在网格中早期的全局协调。
• 在生长过程结束时的最终细胞状态用于定义似然分布 p(x|z)，从而实现重建与似然估计。
• 模型通过证据下界（ELBO）端到端训练，潜在空间中应用摊销变分推断。
• 评估了两种变体：基于加倍的 VNCA 与非加倍变体，前者在生成性能上更优，后者在损伤恢复方面表现更佳。

实验结果

研究问题

• RQ1 能否将类似神经元胞自动机的局部连接、迭代系统改造为具备似然估计与采样能力的完整概率生成模型？
• RQ2 受有丝分裂启发的加倍机制是否能提升生成建模性能与计算效率？
• RQ3 VNCA 是否能学习到稳定的吸引子状态，从而实现图像中有效的损伤恢复？
• RQ4 在似然与重建质量方面，VNCA 与最先进生成模型相比表现如何？
• RQ5 不同 VNCA 架构在生成质量与抗损伤鲁棒性之间存在何种权衡？

主要发现

• VNCA 在 MNIST 上实现 4.98 比特/维度的测试似然，证明其为具备可测量性能的有效概率生成模型。
• 加倍变体在生成建模方面优于非加倍变体，因早期全局协调而实现更优似然与更快训练速度。
• 非加倍变体学习到更稳定的吸引子，且在 MNIST 与 CelebA 实验中均能高保真度地从严重损伤输入中恢复原始图像。
• VNCA 能够从同一潜在码生成多样的图像结构，表明其捕捉到了数据分布的内在模式。
• 损伤恢复极为有效：模型能从高度损坏的输入中恢复原始输入，表明其具有鲁棒的内部表征与稳定动力学。
• 由于稀疏计算——仅活跃细胞被更新，尤其在早期生长阶段——模型计算效率高，尽管参数有限，仍具可扩展性。