[論文レビュー] HiTyper: A Hybrid Static Type Inference Framework with Neural Prediction.

Yün Peng, Zongjie Li+4 more|arXiv (Cornell University)|May 8, 2021

Software Engineering Research参考文献 30被引用数 4

ひとこと要約

HiTyper は、静的型推論とニューラルモデルを統合することで、動的言語における型予測の正確性を向上させるハイブリッド静的およびディープラーニングベースの型推論フレームワークである。型フロー解析のための型グラフを構築し、静的制約を用いて型を推論し、最先端のディープラーニングモデルからの予測を修正する型補正アルゴリズムを適用することで、トップ1のF1スコアを12.7%向上させ、誤った候補型の50.6%をフィルタリングした。

ABSTRACT

Type inference for dynamic programming languages is an important yet challenging task. By leveraging the natural language information of existing human annotations, deep neural networks outperform other traditional techniques and become the state-of-the-art (SOTA) in this task. However, they are facing some new challenges, such as fixed type set, type drift, type correctness, and composite type prediction. To mitigate the challenges, in this paper, we propose a hybrid type inference framework named HiTyper, which integrates static inference into deep learning (DL) models for more accurate type prediction. Specifically, HiTyper creates a new syntax graph for each program, called type graph, illustrating the type flow among all variables in the program. Based on the type graph, HiTyper statically infers the types of the variables with appropriate static constraints. HiTyper then adopts a SOTA DL model to predict the types of other variables that cannot be inferred statically, during which process a type correction algorithm is employed to validate and correct the types recommended by the DL model. Extensive experiments show that HiTyper outperforms the SOTA DL approach by 12.7% in terms of top-1 F1-score. Moreover, HiTyper filters out 50.6% of incorrect candidate types recommended by the SOTA DL model, indicating that HiTyper could improve the correctness of predicted types. Case studies also demonstrate the capability of HiTyper in alleviating the fixed type set issue, and in handling type drift and complicated types such as composite data types.

研究の動機と目的

• 最先端のディープラーニングモデルにおける型推論の限界、すなわち固定された型集合、型のずれ、複合型の予測を解決すること。
• 静的型推論とニューラルモデルを統合することで、型予測の正確性と耐性を向上させること。
• 動的言語における型推論において、型のずれや誤った候補型の問題を軽減すること。
• 純粋なニューラルモデルが困難とする複雑な複合型を正確に予測できること。

提案手法

• プログラムごとに型グラフを構築し、変数間の型フローをモデル化し、依存関係とデータフローを捉える。
• 学習なしで特定可能な変数の型を、適切な制約を用いた静的推論で決定する。
• 静的解析で特定できない変数の型を、最先端のディープラーニングモデルで予測する。
• 静的制約と型の一貫性チェックを用いて、ニューラルモデルの予測を検証・精査する型補正アルゴリズムを導入する。
• 静的推論と学習済み予測をハイブリッドフレームワークで統合し、全体の正確性と正確性を向上させる。
• 型グラフを構造的基盤として用い、静的推論とニューラル予測の両方をガイドすることで一貫性を確保する。

実験結果

リサーチクエスチョン

• RQ1 静的型推論とディープラーニングを統合することで、動的言語における型予測の正確性が向上するか？
• RQ2 ハイブリッドアプローチは、ディープラーニングモデルが推薦する誤った候補型をどの程度削減できるか？
• RQ3 このフレームワークは、複合データ型や複雑な型構造をどの程度効果的に処理できるか？
• RQ4 このフレームワークは、ニューラル型推論モデルに一般的な固定型集合の問題を軽減できるか？
• RQ5 型補正アルゴリズムは、純粋なディープラーニングアプローチと比較して、予測された型の正確性を著しく向上させることができるか？

主な発見

• HiTyper は最先端のディープラーニングモデルと比較して、トップ1のF1スコアを12.7%向上させた。
• フレームワークは、最先端のディープラーニングモデルが推薦する誤った候補型の50.6%をフィルタリングし、予測の正確性を顕著に向上させた。
• HiTyper は、静的制約による有効な型の動的拡張を可能にすることで、固定型集合の問題を効果的に軽減した。
• 予測を静的整合性ルールに基づいて検証することで、型のずれの処理が改善された。
• 事例研究により、HiTyper が純粋なニューラルモデルが困難とする複雑な複合型を正確に予測できる能力を確認した。
• 静的推論とディープラーニングの統合により、多様なプログラム構造にわたるより信頼性が高く一貫性のある型予測が実現した。