[論文レビュー] Empirical Review of Java Program Repair Tools: A Large-Scale Experiment on 2,141 Bugs and 23,551 Repair Attempts

Thomas Durieux, Fernanda Madeiral+2 more|arXiv (Cornell University)|May 28, 2019

Software Testing and Debugging Techniques参考文献 44被引用数 5

ひとこと要約

本研究は、5つのバグベンチマーク（Defects4Jを含む）を用いて、11種類のJavaテストスイートベースのプログラム修復ツールを大規模な実験で評価した。23,551件の修復試行を実施した結果、ツールは全体で21%の修復可能性を示したが、Defects4Jでは47%の高い成功率を示した一方、他のベンチマークでは10–30%にとどまり、故障局所化の誤りや複数の故障箇所といった6つの主要な失敗要因が特定された。

ABSTRACT

In the past decade, research on test-suite-based automatic program repair has grown significantly. Each year, new approaches and implementations are featured in major software engineering venues. However, most of those approaches are evaluated on a single benchmark of bugs, which are also rarely reproduced by other researchers. In this paper, we present a large-scale experiment using 11 Java test-suite-based repair tools and 5 benchmarks of bugs. Our goal is to have a better understanding of the current state of automatic program repair tools on a large diversity of benchmarks. Our investigation is guided by the hypothesis that the repairability of repair tools might not be generalized across different benchmarks of bugs. We found that the 11 tools 1) are able to generate patches for 21% of the bugs from the 5 benchmarks, and 2) have better performance on Defects4J compared to other benchmarks, by generating patches for 47% of the bugs from Defects4J compared to 10-30% of bugs from the other benchmarks. Our experiment comprises 23,551 repair attempts in total, which we used to find the causes of non-patch generation. These causes are reported in this paper, which can help repair tool designers to improve their techniques and tools.

研究の動機と目的

• 自動プログラム修復ツールの性能が、異なるバグベンチマーク間で一般化するかどうかを調査すること。
• 多様なベンチマークにおいて、パッチ生成に失敗する根本的要因を同定・分析すること。
• 一般的に使用されるDefects4Jベンチマークにとどまらない、修復ツールの包括的で実証的な評価を提供すること。
• 標準化され、大規模な修復実験を容易にする再利用可能な実行フレームワーク「RepairThemAll」の開発および公開すること。

提案手法

• 5つの異なるベンチマークから2,141件のバグを対象に、11種類のテストスイートベースの修復ツールを用いた大規模な実験を設計・実行した。
• 異なるベンチマーク間で修復ツールの実行を抽象化・自動化するための統合フレームワーク「RepairThemAll」を開発した。
• 23,551件の修復試行を実施し、各ツール-バグペアについて、結果と失敗理由を体系的にログ記録した。
• 非パッチ生成の失敗パターンを分析するため、誤った故障局所化や複数の故障箇所を含む6つの主要な原因に分類した。
• 再現可能性と一貫性を確保するため、標準化された評価パイプラインを用いた。
• すべてのツール-ベンチマーク組み合わせにおいて、修復可能性、パッチの正しさ、実行時間を含むデータを収集・分析した。

実験結果

リサーチクエスチョン

• RQ1 修復ツールは、異なるバグベンチマーク間で一貫した性能を示すのか、それとも特定のベンチマークに過適合するのか？
• RQ2 バグのパッチ生成に失敗する主な要因は何か？
• RQ3 Defects4Jにおける修復ツールのパフォーマンスは、他のベンチマークと比べてどの程度異なるのか？
• RQ4 ベンチマーク選定が、修復ツールの有効性を評価する際の交絡要因としてどの程度影響を及えるのか？
• RQ5 失敗理由を体系的に分類し、今後のツール改善に活用できるか？

主な発見

• 11種類の修復ツールは、すべてのベンチマークで2,141件のバグのうち21%に対してパッチを生成した。これは、全体的な修復可能性が限定的であることを示している。
• Defects4Jでは47%の高い修復成功率を示したが、他のベンチマークでは10%から30%の範囲にとどまり、顕著な差が見られた。
• 誤った故障局所化が失敗の主な要因であり、ツールが修正すべき正しいコード箇所を特定できなかった。
• 1つのバグに複数の故障箇所があることは大きな障害となっており、多くのツールが1バグあたり1つの故障を前提としているためである。
• 検索空間の制限や文法的修復オペレータの制限といったツール固有の制限が、非パッチケースの30%で失敗に寄与した。
• RepairThemAllフレームワークは、すべてのツールとベンチマーク間で再現可能な実行を可能にし、大規模な分析を促進した。