[论文解读] Unsupervised Domain Adaptation for Visual Navigation

Shangda Li, Devendra Singh Chaplot+4 more|arXiv (Cornell University)|Oct 27, 2020

Multimodal Machine Learning Applications参考文献 54被引用 6

一句话总结

本文提出基于策略的图像迁移（PBIT），一种无监督域自适应方法，可将真实世界图像转换为与仿真环境视觉分布一致，同时保留与策略相关的特征。该方法提升了视觉导航策略从仿真环境到真实世界环境的零样本迁移性能，在未见过的真实世界场景中实现55.6%的成功率——较直接迁移方法高出22.3个百分点。

ABSTRACT

Advances in visual navigation methods have led to intelligent embodied navigation agents capable of learning meaningful representations from raw RGB images and perform a wide variety of tasks involving structural and semantic reasoning. However, most learning-based navigation policies are trained and tested in simulation environments. In order for these policies to be practically useful, they need to be transferred to the real-world. In this paper, we propose an unsupervised domain adaptation method for visual navigation. Our method translates the images in the target domain to the source domain such that the translation is consistent with the representations learned by the navigation policy. The proposed method outperforms several baselines across two different navigation tasks in simulation. We further show that our method can be used to transfer the navigation policies learned in simulation to the real world.

研究动机与目标

• 为解决视觉导航中仿真到真实世界的泛化差距，实现从仿真环境中训练的策略向真实世界环境的迁移。
• 克服为域自适应收集真实世界与仿真数据配对样本的高昂成本。
• 开发一种无监督图像迁移方法，以保留对导航策略任务相关的关键视觉特征。
• 确保图像迁移结果与导航策略所学习的表征一致，而不仅仅是照片级真实感。

提出的方法

• 该方法将图像的内容与风格解耦，学习在不同视觉风格下保持一致的域不变表征。
• 采用策略一致性损失，确保翻译后的图像与源域图像产生相同的导航策略行为。
• 训练一个循环一致的图像翻译网络，将真实世界图像映射到源域（如Gibson仿真环境），同时保留对导航至关重要的结构与语义细节。
• 训练过程联合优化图像翻译的保真度与策略一致性，仅使用未配对的真实世界图像和预训练的导航策略。
• 该方法利用预训练的导航策略监督图像翻译，无需域间的真实图像配对数据。
• 该方法在仿真到仿真和仿真到真实世界迁移任务中均进行了评估，展示了跨域的鲁棒性。

实验结果

研究问题

• RQ1 无监督图像翻译能否提升视觉导航策略从仿真环境到真实世界环境的泛化能力？
• RQ2 与标准图像翻译方法相比，策略引导的图像翻译在保留导航相关特征方面表现如何？
• RQ3 所提出方法能否在未见过的真实世界环境中实现强零样本迁移性能，而无需微调？
• RQ4 与仅依赖照片级真实感的翻译相比，图像翻译中的策略一致性在多大程度上提升了导航成功率？
• RQ5 该方法是否能在不同导航任务（如点目标导航与图像目标导航）中实现泛化？

主要发现

• 在未见过的真实世界场景中，PBIT在点目标导航任务中实现了55.6%的成功率，较直接迁移基线（33.3%）提升22.3个百分点。
• 在真实世界测试场景中，PBIT平均将最终距离目标的距离减少87.5%，最终距离为0.67米，而基线为3.16米。
• 在已知的真实世界场景（Corridors）中，PBIT在9次试验中均实现100%成功率，而直接迁移基线仅达到11.1%的成功率。
• 该方法在仿真到仿真和仿真到真实世界域自适应任务中均优于多个基线，表现出一致的性能提升。
• 定性结果表明，即使在纹理和光照差异显著的真实世界场景中，PBIT仍能保留关键导航线索，如地板-墙面边界和障碍物。
• 消融实验确认，策略一致性损失至关重要——若无该损失，即使图像翻译具有高视觉保真度，导航性能也无法提升。