[论文解读] Towards Differentiable Resampling

Michael Zhu, Kevin D. Murphy+1 more|arXiv (Cornell University)|Apr 24, 2020

Target Tracking and Data Fusion in Sensor Networks参考文献 10被引用 21

一句话总结

本文提出了一种可微分的神经网络重采样器——粒子变换器（particle transformer），用于替代传统粒子滤波器中不可微分的重采样过程。通过使用基于似然的损失函数进行训练，并实现端到端优化，该方法在合成数据和模拟机器人定位任务中均优于传统重采样方法，展现出更高的鲁棒性和粒子多样性，尤其在多模态后验估计中表现更优。

ABSTRACT

Resampling is a key component of sample-based recursive state estimation in particle filters. Recent work explores differentiable particle filters for end-to-end learning. However, resampling remains a challenge in these works, as it is inherently non-differentiable. We address this challenge by replacing traditional resampling with a learned neural network resampler. We present a novel network architecture, the particle transformer, and train it for particle resampling using a likelihood-based loss function over sets of particles. Incorporated into a differentiable particle filter, our model can be end-to-end optimized jointly with the other particle filter components via gradient descent. Our results show that our learned resampler outperforms traditional resampling techniques on synthetic data and in a simulated robot localization task.

研究动机与目标

• 为解决传统粒子滤波器中重采样步骤不可微的问题，该问题会阻断时间步之间的反向传播。
• 探究学习型重采样是否能在状态估计任务中超越传统重采样方法。
• 设计一种专为粒子重采样任务定制的神经网络架构，同时满足集合排列不变性与基于权重的注意力机制。
• 通过采用可学习的、梯度兼容的机制使重采样步骤可微分，从而实现粒子滤波器的端到端训练。
• 通过在低权重区域生成多样化粒子，提升对模型误差和多模态后验分布的鲁棒性。

提出的方法

• 提出粒子变换器，一种基于集合的神经网络，利用加权多头注意力机制处理粒子集合，并生成重采样后的粒子。
• 引入尺度等变性与加权注意力机制，确保模型尊重粒子权重并保持空间一致性。
• 使用基于似然的损失函数对重采样器进行训练，通过比较预测粒子集合与真实粒子集合的后验似然来优化。
• 通过在重采样器、运动模型和观测模型中反向传播梯度，实现整个可微分粒子滤波器的端到端训练。
• 在跨多个时间步的反向传播训练（BPTT）过程中，采用梯度裁剪以稳定训练过程。
• 采用两阶段训练策略：首先在合成数据上使用似然损失对重采样器进行预训练，然后在完整滤波流程中进行端到端微调。

实验结果

研究问题

• RQ1 学习型神经网络重采样器是否能在可微分粒子滤波器中实现优于传统重采样方法的性能？
• RQ2 可微分重采样机制是否能实现稳定、端到端的粒子滤波器训练，支持跨多个时间步的反向传播？
• RQ3 粒子变换器是否能生成比传统重采样更丰富多样且更具鲁棒性的粒子集合，尤其在多模态或噪声环境下？
• RQ4 学习型重采样器是否能通过更优地将粒子分布于高似然区域，从而减少对过参数化运动与观测模型的依赖？
• RQ5 在不同水平的模型不确定性与噪声条件下，粒子变换器与系统性重采样及其他重采样方法相比性能如何？

主要发现

• 在合成数据上，粒子变换器在重采样器冻结时将误差率从4.3%降低至3.7%，在端到端训练时进一步降低至1.9%，优于系统性重采样。
• 采用粒子变换器的端到端训练性能最佳，尤其在k=1时反向传播通过时间（BPTT）的设置下，优于冻结与非冻结重采样器变体。
• 粒子变换器能在低权重区域生成粒子，并在多模态后验峰值附近产生更多样化的样本，而系统性重采样则会忽略这些区域。
• 在模拟机器人定位任务中，采用学习型重采样器的粒子滤波器成功在四步内跟踪真实机器人位姿，而传统重采样器因粒子退化而失败。
• 粒子变换器能够维持多个假设附近的粒子，从而提升对模型误差和训练中未见的罕见观测状态的鲁棒性。
• 梯度裁剪显著提升了训练稳定性与性能，尤其在多时间步BPTT训练中表现明显，尽管完全端到端训练仍具挑战性。