[論文レビュー] A Survey on Deep Learning for Software Engineering

Yanming Yang, Xin Xia+2 more|arXiv (Cornell University)|Nov 30, 2020

Software Engineering Research参考文献 144被引用数 6

ひとこと要約

本サーベイは、2006年以降の142件の研究をレビューし、ソフトウェア工学（SE）における深層学習（DL）の応用について包括的な分析を提供する。DL技術の分類、モデルの学習と最適化の分析、SEにおけるDLの主な研究分野、課題、今後の方向性の特定を行う。特に、説明可能性、実世界のデータ、従来の手法との比較的評価の必要性を強調する。

ABSTRACT

In 2006, Geoffrey Hinton proposed the concept of training ''Deep Neural Networks (DNNs)'' and an improved model training method to break the bottleneck of neural network development. More recently, the introduction of AlphaGo in 2016 demonstrated the powerful learning ability of deep learning and its enormous potential. Deep learning has been increasingly used to develop state-of-the-art software engineering (SE) research tools due to its ability to boost performance for various SE tasks. There are many factors, e.g., deep learning model selection, internal structure differences, and model optimization techniques, that may have an impact on the performance of DNNs applied in SE. Few works to date focus on summarizing, classifying, and analyzing the application of deep learning techniques in SE. To fill this gap, we performed a survey to analyse the relevant studies published since 2006. We first provide an example to illustrate how deep learning techniques are used in SE. We then summarize and classify different deep learning techniques used in SE. We analyzed key optimization technologies used in these deep learning models, and finally describe a range of key research topics using DNNs in SE. Based on our findings, we present a set of current challenges remaining to be investigated and outline a proposed research road map highlighting key opportunities for future work.

研究の動機と目的

• 2006年以降のソフトウェア工学における深層学習の応用を体系的にレビューし、分類すること。
• SEタスクに用いられる深層ニューラルネットワーク（DNN）の設計、学習、最適化を分析すること。
• さまざまなソフトウェア工学活動におけるSEにおけるDLの主な研究分野とトレンドを特定すること。
• 説明可能性の欠如、公開データセットへの依存、産業界データにおける評価不足といった現在の課題を浮き彫りにすること。
• 産業的実用性と従来の技術との比較的性能を重視した、今後のDL for SEの研究ロードマップを提示すること。

提案手法

• 2006年以降に発表された21の主要なSE会議・学術誌から抽出した142件の一次研究を対象に、体系的文献レビュー（SLR）を実施した。
• アーキテクチャ（例：RNN、CNN、FNN）に基づいてDL技術を分類し、モデル選択戦略と最適化技術を分析した。
• DLベースのSEツールにおけるデータ収集、前処理、モデル学習、評価の実践を分析した。
• DLの応用を6つのSE活動および23の具体的なSEタスク（例：欠陥予測、コード生成、テストケース生成）にマッピングした。
• モデルの解釈可能性の制限、データ依存性、実世界での妥当性の欠如といった制限をテーマ分析により同定した。
• 同定されたギャップに基づき、産業界データの活用、説明可能なAI、従来のSE技術との実証的比較の必要性を含む研究ロードマップを提案した。

実験結果

リサーチクエスチョン

• RQ1 ソフトウェア工学研究において最も一般的に使用されている深層学習アーキテクチャと技術は何か？
• RQ2 SE応用における深層ニューラルネットワークの学習と最適化はどのように行われており、主なデータおよび評価実践は何か？
• RQ3 深層学習が活用された具体的なソフトウェア工学タスクは何か？ また、それらはSE活動のどの分野にどのように分布しているか？
• RQ4 実世界のSE問題への深層学習の適用における主な課題と制限は何か？
• RQ5 SEタスクにおいて、深層学習モデルは従来の機械学習やルールベースのアプローチと比べて、性能でどのように差がつくのか？

主な発見

• RNN、CNN、およびフィードフォワードニューラルネットワーク（FNN）は、SE分野で最も広く使用されている深層学習アーキテクチャであり、142件の研究で合計30種類のDNNが同定された。
• 訓練および評価に産業界データセットを用いた研究はわずか4％にとどまり、学術的リサーチと実世界のSE実務の間には顕著なギャップがあることが示された。
• 多くの研究が、特にコードクローン検出や欠陊予測の分野で、公開済みのオープンソースデータセットに依存しており、データの代表性と一般化可能性に懸念が生じている。
• 深層ニューラルネットワークのブラックボックス性が、SE分野への導入を制限している。解釈不能なため、ソフトウェアエンジニアの信頼性とデバッグの難易度が向上しない。
• SE分野における深層学習と従来の機械学習技術の間で、実証的比較が不足しており、DLが実際に性能向上をもたらす状況が明確でない。
• 今後の研究は、説明可能なAI、データ効率の良い学習（例：メタラーニング）、産業界データでの検証を優先すべきである。これにより、実用的関連性が向上する。