[論文レビュー] Affordance-Graphed Task Worlds: Self-Evolving Task Generation for Scalable Embodied Learning

Xiang Liu, Sen Cui+5 more|arXiv (Cornell University)|Feb 12, 2026

Reinforcement Learning in Robotics被引用数 0

ひとこと要約

AGT-World は実世界の観測から自律的にインタラクティブなシミュレーション環境を構築し、長期タスクをグラフ上の原子プリミティブに分解、自己進化をVLMフィードバックと共に用いて方針を改善し、102の自律シーン-タスク対に対して71.6%の成功を達成します。

ABSTRACT

Training robotic policies directly in the real world is expensive and unscalable. Although generative simulation enables large-scale data synthesis, current approaches often fail to generate logically coherent long-horizon tasks and struggle with dynamic physical uncertainties due to open-loop execution. To address these challenges, we propose Affordance-Graphed Task Worlds (AGT-World), a unified framework that autonomously constructs interactive simulated environments and corresponding robot task policies based on real-world observations. Unlike methods relying on random proposals or static replication, AGT-World formalizes the task space as a structured graph, enabling the precise, hierarchical decomposition of complex goals into theoretically grounded atomic primitives. Furthermore, we introduce a Self-Evolution mechanism with hybrid feedback to autonomously refine policies, combining Vision-Language Model reasoning and geometric verification. Extensive experiments demonstrate that our method significantly outperforms in success rates and generalization, achieving a self-improving cycle of proposal, execution, and correction for scalable robot learning.

研究の動機と目的

• 意味認識と物理シミュレーションを橋渡しし、実世界のアフォーダンスとレイアウトを保持したインタラクティブなシーンを再構成する。
• タスク生成をAffordance-Graphed Task World (AGT-World) 上のグラフベースの経路計画問題として形式化する。
• Vision-Language Model の推論と幾何学的検証を用いた自己進化ループを導入し、タスク方針を洗練させる。
• 大規模な自律シーン-タスク生成と複雑なタスクでの評価を通じて、スケーラビリティと一般化を実証する。
• 成功率の empirical 成果を示し、長期的なタスク計画と方針改良に関する洞察を提供する。

提案手法

• タスク空間を構造化された有向グラフ G = (V, E) として表現する。V = O × A × N+、O は操作可能な物体、A は原子的なアクション、N+ は時間次元。
• 物理シミュレータ（OmniGibson）で、セマンティックアフォーダンスと物体状態を保持するように単一のRGB画像から S0 を再構成する。
• VLMを用いたプランニング段階で複雑なタスクを単純なタスクに分解し、サブタスクの記述と対応するアクションフロー π(Tk) を得る。
• Ti の終端状態を Ti+1 の初期状態に結ぶアクション転移エッジ ek によって、タスク間転送をモデル化し、境界の整合性 Sinit(k+1) ≈ Sgoal(k)+ を保証する。
• サブタスクごとに、複数の視点から視覚フィードバックを分析してアクションフローを批評・反復的に改良するハイブリッドVLMベースのフィードバック機構（m, X）を用いる自己進化ループを実装する。

Figure 1: An introduction of our method. A. Video generation models often produce physically implausible behaviors. We instead employ a physics simulation engine to reconstruct semantic and global-state preserving simulated scenes from real-world images at low cost. B. Randomly generated scenes are

実験結果

リサーチクエスチョン

• RQ1 長期的なロボットタスクを、意味アフォーダンスと物理的実現可能性を保持したまま、実行可能な原子アクションに分解するにはどうすればよいか？
• RQ2 グラフベースのタスクワールドは、現実世界の観測からシミュレートされたシーンへの信頼できる経路計画と構成可能な到達性を提供できるか？
• RQ3 視覚言語フィードバックに導かれた自己進化ループは、シミュレーションにおける自律タスク実行の成功率と一般化を改善するか？
• RQ4 視覚フィードバック、時間的文脈、タスク間転送が、生成されたタスクと方針の信頼性に与える影響は何か？

主な発見

Task Category	Count	Success	SR (%)
Articulated Object (Open/Close)	36	24	66.7
Rigid Object (Pick up)	66	49	74.2
Total	102	73	71.6

• フレームワークは、102の自律生成シーン-タスク対に対して総合的な成功率 71.6% を達成。
• 単純なプリミティブはタスク全体で高い成功率を示し、長期的およびナビゲーション中心のサブタスクは自己進化により誤差修正の恩恵を受ける。
• VLMガイド付きタスク拡張は、ユーザー意図へのセマンティック忠実度が高く、設計タスクで SBERT 類似度 0.376、Self-BLEU 0.860 を示す。
• 視覚のマルチビュー入力は計画の信頼性を向上させ、短い時間的文脈ウィンドウ（p1 = 1）が性能と推論コストのバランスを取る。
• 長期的な4つのタスクは、複数のプリミティブを組み合わせて複雑な目的を達成する能力を実証（例：グラスを冷蔵庫へ運ぶ。
• 研究は、全体到達性が階層的分解と完結性および連結性の前提の下で実現可能であるという理論的提案を提供する。

Figure 2: Affordance-Graphed Task Worlds. For any complex long-horizon task, they are decomposed into multiple simple tasks, connected via inter-task edges that bridge different object slices or reset temporal states.