[论文解读] Forward Prediction for Physical Reasoning

Rohit Girdhar, Laura Gustafson+2 more|arXiv (Cornell University)|Jun 18, 2020

Multimodal Machine Learning Applications参考文献 67被引用 8

一句话总结

本文研究了在复杂且混沌的PHYRE基准中，使用基于物体和基于像素的表示方法，在简单搜索型智能体中进行前向预测模型的物理推理。研究发现，尽管像素级预测的准确度较低，基于像素的前向预测模型在物理推理性能上的提升优于基于物体的模型，尤其在多物体任务中表现更优，并在PHYRE基准上取得了新的最先进性能，但对未见过的任务模板的泛化能力仍然有限。

ABSTRACT

Physical reasoning requires forward prediction: the ability to forecast what will happen next given some initial world state. We study the performance of state-of-the-art forward-prediction models in the complex physical-reasoning tasks of the PHYRE benchmark. We do so by incorporating models that operate on object or pixel-based representations of the world into simple physical-reasoning agents. We find that forward-prediction models can improve physical-reasoning performance, particularly on complex tasks that involve many objects. However, we also find that these improvements are contingent on the test tasks being small variations of train tasks, and that generalization to completely new task templates is challenging. Surprisingly, we observe that forward predictors with better pixel accuracy do not necessarily lead to better physical-reasoning performance.Nevertheless, our best models set a new state-of-the-art on the PHYRE benchmark.

研究动机与目标

• 评估现代前向预测模型是否能够提升复杂、类现实世界环境中的物理推理性能。
• 研究前向预测模型在PHYRE基准中对未见过的任务模板的泛化能力。
• 比较基于物体与基于像素的前向预测模型在物理推理智能体中的有效性。
• 理解前向预测准确度与下游物理推理成功之间的关系。
• 通过基于前向预测的智能体在PHYRE基准上建立新的最先进性能。

提出的方法

• 将最先进的基于物体和基于像素的前向预测模型集成到PHYRE基准的简单、搜索型物理推理智能体中。
• 采用联合训练设置对基于像素的模型进行训练，实现前向预测与任务求解的端到端优化。
• 通过不同输入帧数量（τ）的轨迹（rollouts）评估在不同时间上下文下的性能。
• 仅使用第一帧（τ=1）进行训练，以实现与先前工作的直接比较，避免教师强制（teacher forcing）的影响。
• 在物体空间和像素空间中，分别应用对比学习和图神经网络，从初始观测预测未来状态。
• 在模板内和模板间设置下，使用AUCCESS和成功率@10评估性能。

实验结果

研究问题

• RQ1 在PHYRE基准中引入前向预测模型是否能提升物理推理性能？
• RQ2 在物理推理任务中，基于物体的前向预测模型与基于像素的前向预测模型的性能表现如何比较？
• RQ3 前向预测模型在完全未见过的训练阶段未出现的任务模板上，泛化能力如何？
• RQ4 更高的像素级预测准确度是否与更好的物理推理性能相关？
• RQ5 前向预测模型能否在PHYRE基准上实现最先进性能？

主要发现

• 表现最佳的前向预测智能体Dec [Joint] 1f在PHYRE基准上取得了新的最先进性能，在模板内和模板间设置下均优于先前的智能体。
• 前向预测模型显著提升了复杂多物体任务的性能，AUCCESS与任务复杂度之间的皮尔逊相关系数ρ=0.6。
• 尽管像素级准确度更高，基于物体的模型并未在物理推理性能上优于基于像素的模型，后者在任务求解中更为有效。
• 像素级预测准确度的提升并不一定带来更好的物理推理性能，AUCCESS与FPA（前向预测准确度）之间缺乏相关性可证明这一点。
• 基于前向预测的智能体在泛化到未见过的任务模板时表现不佳，尤其当轨迹不够准确、无法有效指导动作选择时更为明显。
• 前向预测的优势在包含多个物体的复杂模板中最为显著，而在物体较少的简单模板中则改善有限。