[論文レビュー] LLaMA-Reviewer: Advancing Code Review Automation with Large Language Models through Parameter-Efficient Fine-Tuning

Junyi Lu, Lei Yu+3 more|arXiv (Cornell University)|Aug 22, 2023

Software Engineering Research被引用数 4

ひとこと要約

LLaMA-Reviewer は、パラメータ効率の良い微調整（PEFT）フレームワークを採用し、LLaMA 大型言語モデルを活用して自動コードレビューを実現する。コードレビューのタスクで最先端の性能を達成しており、微調整可能なパラメータの割合は 1% 未塔。6.7B パラメータのベースモデルと限定的な微調整エポック数を用いても、レビューの必要性予測、コメント生成、コードの最適化の各分野で、既存のコードレビュー専用モデルと同等またはそれを上回る性能を発揮する。

ABSTRACT

The automation of code review activities, a long-standing pursuit in software engineering, has been primarily addressed by numerous domain-specific pre-trained models. Despite their success, these models frequently demand extensive resources for pre-training from scratch. In contrast, Large Language Models (LLMs) provide an intriguing alternative, given their remarkable capabilities when supplemented with domain-specific knowledge. However, their potential for automating code review tasks remains largely unexplored. In response to this research gap, we present LLaMA-Reviewer, an innovative framework that leverages the capabilities of LLaMA, a popular LLM, in the realm of code review. Mindful of resource constraints, this framework employs parameter-efficient fine-tuning (PEFT) methods, delivering high performance while using less than 1% of trainable parameters. An extensive evaluation of LLaMA-Reviewer is conducted on two diverse, publicly available datasets. Notably, even with the smallest LLaMA base model consisting of 6.7B parameters and a limited number of tuning epochs, LLaMA-Reviewer equals the performance of existing code-review-focused models. The ablation experiments provide insights into the influence of various fine-tuning process components, including input representation, instruction tuning, and different PEFT methods. To foster continuous progress in this field, the code and all PEFT-weight plugins have been made open-source.

研究の動機と目的

• コードレビューのドメイン特化モデルを訓練する際の高いリソースコストを低減するため、事前学習済みの大規模言語モデル（LLM）を活用すること。
• 統一された LLM（例：LLaMA）を自動コードレビュータスクに適用する可能性と有効性を検討すること。
• パラメータ効率の良い微調整（PEFT）技術を用いて、コードレビュー自動化における計算コストとストレージコストを低減すること。
• 入力表現、インstructチューニング、および異なる PEFT メソッドがコードレビュー性能に与える影響を評価すること。
• 閉鎖型 LLM API の代替として、オープンソースでプライバシーを守れるソフトウェア工学ワークフローの代替案を提供すること。

提案手法

• 微調整にパラメータ効率の良い微調整（PEFT）を用いた統一された LLaMA ベースモデルを採用し、微調整可能なパラメータ数を最小限に抑える。
• LoRA（低ランク適応）などの PEFT メソッドを適用し、元のパラメータ数の 1% 未塔で LLaMA モデルを微調整する。
• LLaMA の事前学習フォーマットに合わせた入力表現を設計し、そのインサイド学習能力を最大限に活用する。
• 自然言語インストラクションの処理能力と文脈に即した出力生成能力を向上させるために、2段階のインストラクションチューニングを実施する。
• ストレージ最適化と微調整済み重みの効率的デプロイを可能にするため、プラグイン型モデルアーキテクチャを採用する。
• 2 つの公開データセットを用いて評価する 3 タスクパイプライン（レビューの必要性予測、レビューコメント生成、コードの最適化）を採用する。

実験結果

リサーチクエスチョン

• RQ1 タスク特化の事前学習を行わずに、統一された大規模言語モデル（例：LLaMA）がコードレビュー自動化タスクで競争力のある性能を発揮できるか？
• RQ2 パラメータ効率の良い微調整（PEFT）は、計算コストとストレージコストを低減しつつ、コードレビュータスクにおける高い性能を維持できるか？
• RQ3 入力表現の設計とインストラクションチューニングは、LLM のコードレビューにおける性能にどのような影響を与えるか？
• RQ4 LoRA などの PEFT メソッドの中で、コードレビュータスクにおいて性能とパラメータ効率のバランスが最も優れているのはどれか？
• RQ5 限定的な微調整エポック数で、小さな LLaMA ベースモデル（6.7B パラメータ）が、より大きなタスク特化モデルを上回るか、同等の性能を発揮できるか？

主な発見

• LLaMA-Reviewer は、PEFT を用いてわずか 6.7B パラメータと 1% 未塔の微調整可能なパラメータで、コードレビュータスクで最先端の性能を達成した。
• 限定的な微調整と小さなパラメータ更新量でも、既存のコードレビュー専用モデルと同等またはそれ以上の性能を発揮した。
• LLaMA の事前学習フォーマットに合わせた入力表現の設計が、モデル性能の向上と能力の活用度の向上に顕著な効果をもたらした。
• 2段階のインストラクションチューニングにより、自然言語入力の処理能力と正確で文脈に即した出力生成能力が向上した。
• 構造的に入力・出力フォーマットを持つコードレビュータスクにおいて、適切なランクの LoRA が最も効果的な PEFT メソッドであった。
• プラグイン型モデルアーキテクチャにより、ストレージ要件が削減され、ソフトウェア工学ワークフローにおける微調整済み重みの効率的デプロイが可能になった。