[論文レビュー] Learning Structural Edits via Incremental Tree Transformations

Ziyu Yao, Frank F. Xu+3 more|arXiv (Cornell University)|Jan 28, 2021

Software Engineering Research参考文献 41被引用数 12

ひとこと要約

本稿では、コードの抽象構文木などの木構造データに対して、逐次的に木の編集（例：部分木の追加・削除・コピー）を実行するニューラルエディタを提案する。本手法は、繰り返し編集アクションを生成・適用することで、構造的で段階的な編集を実現する。新規の編集エンコーダを導入し、DaggerSamplingとPostRefineSamplingを用いた動的模倣学習手法を採用することで、一括生成モデルを上回る最先端の精度を達成した。

ABSTRACT

While most neural generative models generate outputs in a single pass, the human creative process is usually one of iterative building and refinement. Recent work has proposed models of editing processes, but these mostly focus on editing sequential data and/or only model a single editing pass. In this paper, we present a generic model for incremental editing of structured data (i.e., "structural edits"). Particularly, we focus on tree-structured data, taking abstract syntax trees of computer programs as our canonical example. Our editor learns to iteratively generate tree edits (e.g., deleting or adding a subtree) and applies them to the partially edited data, thereby the entire editing process can be formulated as consecutive, incremental tree transformations. To show the unique benefits of modeling tree edits directly, we further propose a novel edit encoder for learning to represent edits, as well as an imitation learning method that allows the editor to be more robust. We evaluate our proposed editor on two source code edit datasets, where results show that, with the proposed edit encoder, our editor significantly improves accuracy over previous approaches that generate the edited program directly in one pass. Finally, we demonstrate that training our editor to imitate experts and correct its mistakes dynamically can further improve its performance.

研究の動機と目的

• プログラムのASTなどの木構造データの反復的・構造的編集を、段階的な木変換の系列としてモデル化すること。
• 編集プロセスをモデル化しない一括生成モデルの限界を解消すること。
• 抽象構文記述言語（ASDL）を用いて一般化可能で文法的に整合的かつ言語に依存しない構造的編集フレームワークを構築すること。
• 誤り訂正を組み込んだ新規の編集エンコーダと動的模倣学習により、耐性と精度を向上させること。
• 実世界のコード編集データセットにおける段階的編集の有効性を実証すること。

提案手法

• エディタは、1ステップごとに1つの編集アクション（例：部分木の追加・削除・コピー）を生成・適用することで、反復的な木変換を実行する。
• 新規の編集エンコーダは、入力・出力ペアを一緒に符号化するのではなく、正解編集アクションの系列を符号化することで表現を学習する。
• 模倣学習を用いて、誤りを動的に是正するようにエディタを訓練する。2つのサンプリング戦略（DaggerSamplingとPostRefineSampling）を採用する。
• DaggerSamplingは、混合係数βを用いて専門家のデモンストレーションと自己生成アクションを組み合わせ、フィードバックに基づく是正を可能にする。
• PostRefineSamplingは、生成後にアクションを精練することで安定性を向上させ、繰り返しの追加・削除サイクルのような振動的行動を低減する。
• モデルは、ASDLを用いて文法的整合性を保証する木構造の出力空間を用いて、2つのコード編集データセットで訓練および評価された。

実験結果

リサーチクエスチョン

• RQ1 段階的木編集は、構造的データ編集タスクにおいて一括生成モデルを上回ることができるか？
• RQ2 編集アクションの系列をモデル化する学習可能な編集エンコーダは、編集表現と性能をどのように向上させるか？
• RQ3 自己是正機構を備えた動的模倣学習は、編集プロセスの安定性を向上させ、振動的行動を低減できるか？
• RQ4 DaggerSamplingにおけるβの選択が、編集方針の安定性と精度に与える影響は何か？
• RQ5 PostRefineSamplingは、DaggerSamplingに比べてより安定的かつ正確な編集を実現できるか？

主な発見

• 新規の編集エンコーダを備えた本手法は、コード編集ベンチマークにおいて、従来の一括生成モデルを著しく上回る精度を達成した。
• PostRefineSamplingを用いた模倣学習により、繰り返しの追加・削除サイクルのような不安定な振るまいが、DaggerSampling（β=0）の23％から0.5％未満にまで低減された。
• DaggerSamplingにおいてβ=0.5に設定することで、振動的編集の頻度が低下し、β=0よりも精度が向上した。これは、長期的な是正学習が改善されたことを示している。
• 訓練データの20％のみを用いても強力な性能を発揮し、データの有効利用性が優れていることが示された。
• 編集エンコーダは、トークンレベルと結合符号化のベースラインを上回り、編集アクションの系列を直接モデル化することの利点を示した。
• 未知トークンや文法的誤りに対しても耐性を示し、残存する誤りはほとんどがモデルの探索空間外に位置していた。