[論文レビュー] CoCoSum: Contextual Code Summarization with Multi-Relational Graph Neural Network

Yanlin Wang, Ensheng Shi+6 more|arXiv (Cornell University)|Jul 5, 2021

Software Engineering Research参考文献 64被引用数 9

ひとこと要約

CoCoSUMは、マルチリレーショナルグラフニューラルネットワーク（MRGNN）を用いてクラス内およびクラス間のグローバルコンテキストを統合することで、コード要約の性能を向上させる文脈的コード要約モデルを提案する。クラス名を用いて意味的埋め込みを取得し、UMLクラス図を用いて関係性埋め込みを取得することで、Seq2Seqフレームワークにおける二段階のアテンションメカニズムにより、最先端の手法を上回る性能を発揮する。

ABSTRACT

Source code summaries are short natural language descriptions of code snippets that help developers better understand and maintain source code. There has been a surge of work on automatic code summarization to reduce the burden of writing summaries manually. However, most contemporary approaches mainly leverage the information within the boundary of the method being summarized (i.e., local context), and ignore the broader context that could assist with code summarization. This paper explores two global contexts, namely intra-class and inter-class contexts, and proposes the model CoCoSUM: Contextual Code Summarization with Multi-Relational Graph Neural Networks. CoCoSUM first incorporates class names as the intra-class context to generate the class semantic embeddings. Then, relevant Unified Modeling Language (UML) class diagrams are extracted as inter-class context and are encoded into the class relational embeddings using a novel Multi-Relational Graph Neural Network (MRGNN). Class semantic embeddings and class relational embeddings, together with the outputs from code token encoder and AST encoder, are passed to a decoder armed with a two-level attention mechanism to generate high-quality, context-aware code summaries. We conduct extensive experiments to evaluate our approach and compare it with other automatic code summarization models. The experimental results show that CoCoSUM is effective and outperforms state-of-the-art methods. Our source code and experimental data are available in the supplementary materials and will be made publicly available.

研究の動機と目的

• 既存のコード要約モデルが局所的なコードコンテキストに依存しているという限界に対処し、広範な構造的および意味的関係を無視することを防ぐ。
• クラス名の意味的コンテキスト（クラス内コンテキスト）とUML図からのクラス間依存関係（クラス間コンテキスト）がコード要約の質に与える影響を調査する。
• 神経的シーケンス・ツー・シーケンスフレームワークにグローバルコンテキストを効果的に符号化・統合するモデルを設計する。
• 構造的および意味的グローバルコンテキストを統合することで、より正確で文脈的に関連性のあるコード要約が得られることを実証する。

提案手法

• モデルは、クラス名からクラスの意味的埋め込みを生成するトランスフォーマー基盤のエンコーダーを用い、クラス内コンテキストを捉える。
• UMLクラス図をクラス間コンテキストとして抽出し、新規のマルチリレーショナルグラフニューラルネットワーク（MRGNN）を用いてクラスの関係性埋め込みを学習する。
• コードスニペットはコードトークンエンコーダーおよびアブストラクトシンタックスツリー（AST）エンコーダーを介して符号化され、構文的および構造的特徴が捉えられる。
• 二段階のアテンションメカニズムが、デコード段階でコード表現、クラス意味的埋め込み、およびクラス関係性埋め込みを統合する。
• デコーダーは、局所的なコード特徴とグローバルコンテキスト表現の両方に注目することで、自然言語の要約を生成する。
• モデルは、要約のためのクロスエントロピー損失を用いた、エンド・ツー・エンドのシーケンス・ツー・シーケンスアーキテクチャで訓練される。

実験結果

リサーチクエスチョン

• RQ1 クラス名の意味的コンテキスト（クラス内コンテキスト）を統合することで、コード要約の質が向上するか？
• RQ2 UMLクラス図から得られるクラス間コンテキストが、正確で意味的に豊かな要約の生成能力を向上させるか？
• RQ3 マルチリレーショナルグラフ学習（MRGNN）をコード表現と統合することで、要約のパフォーマンスにどのような影響を与えるか？
• RQ4 提案された二段階のアテンションメカニズムは、局所的およびグローバルコンテキストを効果的に活用し、より優れた要約生成に寄与するか？

主な発見

• CoCoSUMは、ベンチマークデータセットにおいて、最先端のコード要約モデルを著しく上回り、グローバルコンテキスト統合の有効性を実証した。
• クラス名埋め込み（クラス内コンテキスト）の導入により、要約の意味的正確性が向上し、特にクラス名と関連する意味を持つメソッドに対して顕著であった。
• UMLクラス図をクラス間コンテキストとして使用することで、複雑なオブジェクト指向設計において、他のクラスとの関係性を捉える要約生成能力が向上した。
• MRGNNに基づく関係性符号化は、複雑なクラス依存関係を効果的に捉え、多様なコードベースにおけるモデルの一般化能力を向上させた。
• 二段階のアテンションメカニズムは、局所的コード特徴とグローバルコンテキストのバランスをうまくとることができ、より一貫性があり文脈に即した要約を生成した。