Skip to main content
QUICK REVIEW

[论文解读] Vision-based Manipulation of Deformable and Rigid Objects Using Subspace Projections of 2D Contours

Jihong Zhu, David Navarro-Alarcón|arXiv (Cornell University)|Jun 16, 2020
Advanced Vision and Imaging参考文献 36被引用 4
一句话总结

该论文提出了一种无需模型、基于视觉的统一框架,通过2D图像轮廓的子空间投影实现对刚性与柔性物体的统一操作。该框架能从原始图像数据中在线自动学习视觉特征和交互矩阵,实现无需相机标定、对象属性先验知识或大量训练的实时控制,并成功在海绵上实现了自由空间与基于接触的配置下的“移动并塑形”任务。

ABSTRACT

This paper proposes a unified vision-based manipulation framework using image contours of deformable/rigid objects. Instead of using human-defined cues, the robot automatically learns the features from processed vision data. Our method simultaneously generates -- from the same data -- both, visual features and the interaction matrix that relates them to the robot control inputs. Extraction of the feature vector and control commands is done online and adaptively, with little data for initialization. The method allows the robot to manipulate an object without knowing whether it is rigid or deformable. To validate our approach, we conduct numerical simulations and experiments with both deformable and rigid objects.

研究动机与目标

  • 开发一种统一的基于视觉的控制框架,无需对物体力学特性做任何先验假设,即可处理刚性与柔性物体的操控。
  • 通过直接从图像数据中学习视觉特征和交互模型,消除对手动特征定义或物理建模的需求。
  • 实现实时、自适应的特征提取与控制输入生成,且初始化数据需求极少。
  • 在模拟与真实世界实验中验证该框架在移动和塑形物体(包括基于接触的形变)任务中的性能。
  • 展示系统在操控任务中对初始错位和视觉数据中虚假轮廓的鲁棒性。

提出的方法

  • 该方法使用主成分分析(PCA)将2D物体轮廓投影到低维子空间,从图像数据中提取紧凑的视觉特征向量。
  • 采用基于光度矩和子空间投影的直接视觉伺服方法,避免显式特征参数化。
  • 通过同步的视觉与操作数据在线学习将视觉特征与机器人控制输入关联的交互矩阵,实现实时自适应。
  • 该框架无需相机标定或对相机位姿、物体尺寸或形状的先验知识,仅依赖图像亮度和轮廓数据。
  • 采用基于子空间的误差度量(ASE)评估收敛性,设定阈值为ASE = 1以终止控制。
  • 通过数值模拟和真实实验对该系统进行验证,使用海绵作为刚性物体(自由空间)和柔性物体(基于接触)进行测试。

实验结果

研究问题

  • RQ1能否开发一种统一的基于视觉的控制框架,实现对刚性与柔性物体操控,而无需事先了解物体属性?
  • RQ2如何能从原始图像数据中同时在线学习视觉特征与交互模型,而无需显式特征工程?
  • RQ3该框架在多大程度上可以不依赖相机标定或相机位姿信息运行?
  • RQ4该系统能否成功执行需要同时实现物体运动与形变的“移动并塑形”任务?
  • RQ5该方法在基于接触的操控中,对视觉噪声(如虚假轮廓)和初始错位的鲁棒性如何?

主要发现

  • 该框架成功在海绵上执行了“移动并塑形”任务,从自由空间操控过渡到基于接触的塑形,两种实验均实现对目标轮廓的收敛。
  • 系统在初始接触错位的情况下,仍实现ASE低于1的收敛,如图21所示。
  • 该方法无需相机标定或对物体尺寸、形状或刚性的先验知识,表现出对不同初始条件的鲁棒性。
  • 图像数据中的虚假轮廓会导致ASE度量产生噪声,但系统仍能达成可接受的最终构型,表明对视觉伪影具有抗性。
  • 该框架为无模型设计,且初始化数据需求极少,可在操控过程中实现快速在线自适应。
  • 该方法在模拟与真实世界实验中均得到验证,证实其在不同物体类型和控制场景下的可行性与鲁棒性。

更好的研究,从现在开始

从阅读论文到最终审阅,大幅缩短您的研究时间。

无需绑定信用卡

本解读由 AI 生成,并经人工编辑审核。