[論文レビュー] Automatic Code Summarization via Multi-dimensional Semantic Fusing in GNN.

Shangqing Liu, Yu Chen+3 more|arXiv (Cornell University)|Jun 9, 2020

Software Engineering Research参考文献 52被引用数 19

ひとこと要約

本論文は、AST、CFG、PDGの複数のコード表現を統合した共同コードプロパティグラフに統合するGNNベースの手法を提案し、リtrieval拡張外部知識と動的グラフアテンションメカニズムを統合することで、局所的およびグローバルなコード意味を捉える。200以上のオープンソースCプロジェクトから構築された新ベンチマークにおいて、BLEU-4、ROUGE-L、METEORでそれぞれ1.66、2.38、2.22の向上を達成し、最先端の性能を発揮した。

ABSTRACT

Source code summarization aims to generate natural language summaries from structured code snippets for better understanding code functionalities. Recent works attempt to encode programs into graphs for learning program semantics and yield promising results. However, these methods only use simple code representations (e.g., AST), which limits the capability of learning the rich semantics for complex programs. Furthermore, these models primarily rely on graph-based message passing, which only captures local neighborhood relations. To this end, in this paper, we combine diverse representations of the source code (i.e., AST, CFG and PDG) into a joint code property graph. To better learn semantics from the joint graph, we propose a retrieval-augmented mechanism to augment source code semantics with external knowledge. Furthermore, we propose a novel attention-based dynamic graph to capture global interactions among nodes in the static graph and followed a hybrid message passing GNN to incorporate both static and dynamic graph. To evaluate our proposed approach, we release a new challenging benchmark, crawled from 200+ diversified large-scale open-source C projects. Our method achieves the state-of-the-art performance, improving existing methods by 1.66, 2.38 and 2.22 in terms of BLEU-4, ROUGE-L and METEOR metrics.

研究の動機と目的

• ASTのような単一または単純なコード表現に依存する従来のコード要約手法の限界を解決する。これらは複雑なプログラムにおける豊かな意味を捉えられていない。
• 従来のGNNにおける局所的受容場の制限を克服し、GNNのメッセージパッシングにおいてグローバルなノード相互作用モデリングを可能にする。
• リtrieval拡張メカニズムを用いて外部知識を統合することで、コード意味を強化する。
• 静的および動的グラフ学習を組み合わせたハイブリッドGNNアーキテクチャを設計し、コードグラフにおける表現学習を向上させる。
• 200以上の大規模オープンソースCプロジェクトをクローリングして、コード要約のための新規で挑戦的なベンチマークを構築する。

提案手法

• 抽象構文木（AST）、制御フローグラフ（CFG）、プログラム依存グラフ（PDG）の3つの静的コード表現を統合し、共同コードプロパティグラフを構築する。
• コードドキュメンテーションや関連コードスニペットからの外部知識をノード埋め込みに豊かにするリtrieval拡張メカニズムを導入する。
• 静的コードグラフ内のノード間の長距離依存関係をモデル化する、新規のアテンションベースの動的グラフを提案する。
• 静的共同グラフと学習された動的グラフの両方からの情報を組み合わせたハイブリッドメッセージパッシングメカニズムを設計する。
• コード埋め込みから自然言語要約を生成するため、クロスアテンションを用いたシーケンス・ツー・シーケンス学習により、モデルをエンドツーエンドで訓練する。

実験結果

リサーチクエスチョン

• RQ1 AST、CFG、PDGの複数の静的コード表現を統合した統一グラフにすることで、要約のためのコード意味表現が向上するか？
• RQ2 リtrieval拡張外部知識は、リソースが限られた環境や複雑なコードシナリオにおいて、コード表現学習をどの程度向上させるか？
• RQ3 動的グラフアテンションメカニズムによるグローバルなノード相互作用モデリングは、従来の局所的メッセージパッシングに比べ、コード要約におけるGNNの性能を上回るか？
• RQ4 提案されたハイブリッドGNNアーキテクチャは、多様で現実世界のコード要約ベンチマークにおいて、既存の最先端モデルと比較してどのように差をつけるか？
• RQ5 大規模かつ多様なオープンソースCコードベンチマークを用いることで、モデルの汎化性能と評価の質にどのような影響を与えるか？

主な発見

• 提案手法はコード要約において最先端の性能を達成し、従来手法よりBLEU-4で1.66ポイント向上した。
• ROUGE-Lは2.38ポイント向上し、要約の再現率指向の質が顕著に向上していることが示された。
• METEORスコアは2.22ポイント向上し、語彙的および意味的正確性の面で人間がアノテートした要約との整合性が向上していることが示された。
• リtrieval拡張知識の統合は、希少または複雑なコードパターンにおいても一貫してコード表現を向上させた。
• 動的グラフアテンションメカニズムにより、長距離依存関係のモデリングが改善され、コード構造のグローバルな理解が向上した。
• 200以上のオープンソースCプロジェクトから構築された新規リリースベンチマークは、より現実的で挑戦的な評価環境を提供し、従来モデルの限界を明らかにした。