[論文レビュー] Attention Mechanism and Heuristic Approach: Context-Aware File Ranking Using Multi-Head Self-Attention

Pradeep Kumar Sharma, Shantanu Godbole+2 more|arXiv (Cornell University)|Jan 7, 2026

Software Engineering Research被引用数 0

ひとこと要約

この論文は、Change Impact Analysisにおける文脈認識型ファイルランキングの事後決定的洗練としてマルチヘッド自己注意を導入し、決定論的ベースラインに対するリコールを大幅に向上させます。

ABSTRACT

The identification and ranking of impacted files within software reposi-tories is a key challenge in change impact analysis. Existing deterministic approaches that combine heuristic signals, semantic similarity measures, and graph-based centrality metrics have demonstrated effectiveness in nar-rowing candidate search spaces, yet their recall plateaus. This limitation stems from the treatment of features as linearly independent contributors, ignoring contextual dependencies and relationships between metrics that characterize expert reasoning patterns. To address this limitation, we propose the application of Multi-Head Self-Attention as a post-deterministic scoring refinement mechanism. Our approach learns contextual weighting between features, dynamically adjust-ing importance levels per file based on relational behavior exhibited across candidate file sets. The attention mechanism produces context-aware adjustments that are additively combined with deterministic scores, pre-serving interpretability while enabling reasoning similar to that performed by experts when reviewing change surfaces. We focus on recall rather than precision, as false negatives (missing impacted files) are far more costly than false positives (irrelevant files that can be quickly dismissed during review). Empirical evaluation on 200 test cases demonstrates that the introduc-tion of self-attention improves Top-50 recall from approximately 62-65% to between 78-82% depending on repository complexity and structure, achiev-ing 80% recall at Top-50 files. Expert validation yields improvement from 6.5/10 to 8.6/10 in subjective accuracy alignment. This transformation bridges the reasoning capability gap between deterministic automation and expert judgment, improving recall in repository-aware effort estimation.

研究の動機と目的

• Change impact analysisで決定論的ヒューリスティクスを超えるリコールの必要性を動機付ける。
• 特徴を適応的に重み付けするためのマルチヘッド自己注意を用いた文脈認識型洗練を提案する。
• 解釈可能性を保ちつつ、アディティブに結合した注意調整でリコールを改善する。
• 実リポジトリでの実証評価を通じてリコールの向上と専門家の整合性を示す。

提案手法

• 決定論的ヒューリスティックスコアに対する事後決定論的スコアリング洗練としてのマルチヘッド自己注意を適用する。
• 特徴間の文脈的重み付けを学習し、候補セット間の関係的挙動に基づいてファイルごとの重要性を調整する。
• 解釈可能性を保つため、注意調整スコアを決定論的スコアと加法的に結合する。
• 見逃しを最小化するために Precision ではなく Recall に焦点を当てる。
• Top-50リコールと主観的精度を測定するために200のテストケースを評価する。

実験結果

リサーチクエスチョン

• RQ1 マルチヘッド自己注意による文脈的重み付けは、決定論的ヒューリスティクスを超えてインパクトを受けたファイルのランキングにおけるリコールを改善できるか。
• RQ2 文脈認識型重み付けは、複雑さの異なるリポジトリ全体でTop-50リコールにどう影響するか。
• RQ3 注意ベースの洗練はChange Surfaceレビューにおける専門家の判断と整合するか。

主な発見

• Top-50リコールは、決定論的ベースラインのおよそ62-65%から自己注意で78-82%へ向上。リポジトリの複雑さと構造に依存。
• Top-50ファイルで80%のリコールを達成。
• 専門家の検証により主観的精度の整合性が6.5/10から8.6/10へ上昇。
• このアプローチは、リポジトリ認識の努力見積もりにおける自動ランキングと専門家レビューとの推論ギャップを狭める。