[论文解读] DiffPD: Differentiable Projective Dynamics with Contact.

Tao Du, Kui Wu+5 more|arXiv (Cornell University)|Jan 15, 2021

Model Reduction and Neural Networks被引用 10

一句话总结

DiffPD 是一种可微分的软体模拟器，利用 Projective Dynamics 的隐式时间积分和预分解 Cholesky 分解来加速反向传播，相较于标准牛顿法实现了 4–19× 的加速。它通过低秩 LCP 公式高效计算接触力的梯度，从而在软体应用中实现快速学习与控制。

ABSTRACT

We present a novel, fast differentiable simulator for soft-body learning and control applications. Existing differentiable soft-body simulators can be classified into two categories based on their time integration methods. Simulators using explicit time-stepping scheme require tiny time steps to avoid numerical instabilities in gradient computation, and simulators using implicit time integration typically compute gradients by employing the adjoint method to solve the expensive linearized dynamics. Inspired by Projective Dynamics (PD), we present DiffPD, an efficient differentiable soft-body simulator with implicit time integration. The key idea in DiffPD is to speed up backpropagation by exploiting the prefactorized Cholesky decomposition in PD to achieve a super-linear convergence rate. To handle contacts, DiffPD solves contact forces by analyzing a linear complementarity problem (LCP) and its gradients. With the assumption that contacts occur on a small number of nodes, we develop an efficient method for gradient computation by exploring the low-rank structure in the linearized dynamics. We evaluate the performance of DiffPD and observe a speedup of 4-19 times compared to the standard Newton's method in various applications including system identification, inverse design problems, trajectory optimization, and closed-loop control.

研究动机与目标

• 为解决可微分软体模拟器中梯度计算的高计算成本，尤其是在接触丰富的场景下。
• 克服现有可微分模拟器中显式时间步长（需小时间步长）和伴随方法（昂贵的线性求解）的局限性。
• 实现软体系统的高效系统辨识、逆向设计、轨迹优化和闭环控制。
• 利用 Projective Dynamics 中接触力的低秩结构，通过重用 Cholesky 分解加速梯度计算。
• 开发一种在保持精度的同时，显著降低反向传播计算开销的可微分模拟器。

提出的方法

• 采用 Projective Dynamics (PD) 作为底层的隐式时间积分方案，以确保数值稳定性并实现高效的线性求解。
• 利用 PD 中的预分解 Cholesky 分解来加速反向传播，实现梯度计算的超线性收敛。
• 将接触力建模为线性互补问题 (LCP)，并通过分析 LCP 解的敏感性来计算梯度。
• 利用接触仅作用于少数节点所导致的动力学线性化后的低秩结构，降低 Hessian-向量乘积的计算成本。
• 在前向模拟和反向传播中，采用改进的牛顿法并重用基于 Cholesky 的因子分解来求解非线性系统。
• 通过推导 LCP 解关于系统参数的梯度，将接触处理集成到可微分框架中。

实验结果

研究问题

• RQ1 能否利用 Projective Dynamics 中的隐式时间积分来加速可微分软体模拟中的梯度计算？
• RQ2 在可微分模拟器中，如何高效计算接触力及其梯度，同时避免高昂的计算成本？
• RQ3 接触引起的扰动的低秩结构在多大程度上能降低反向传播中 Hessian-向量乘积的计算成本？
• RQ4 所提出的方法在多种学习与控制任务中能否实现相对于标准牛顿法的显著加速？
• RQ5 该可微分模拟器在真实应用场景（如系统辨识和轨迹优化）中的表现如何？

主要发现

• DiffPD 在多个应用中实现梯度计算 4–19× 的加速，相较于标准牛顿法。
• 预分解 Cholesky 分解的使用实现了反向传播中的超线性收敛，显著减少了每次反向传播的时间。
• 通过利用接触力的低秩结构，该方法降低了在接触丰富的场景下梯度计算的计算成本。
• 模拟器在保持高精度的同时，实现了系统辨识、逆向设计、轨迹优化和闭环控制中的高效学习与控制。
• 基于 LCP 的接触公式化方法实现了稳定且可微分的接触处理，这对真实软体动力学模拟至关重要。
• 该方法在具有多个接触的复杂软体系统中表现出良好的可扩展性，在实际基准测试中展现出鲁棒性与高效性。