[논문 리뷰] Code and Dataset for "Examining Zero-Shot Vulnerability Repair with Large Language Models"

Hammond Pearce, Benjamin Tan외 3명|arXiv (Cornell University)|2021. 12. 03.

Software Engineering Research인용 수 15

한 줄 요약

이 논문은 합성된, 수작업으로 제작된, 그리고 실제 세계의 보안 버그에 대해 오프더쇼프 대규모 언어 모델(Large Language Models, LLMs)인 Codex와 Jurassic-1을 사용한 제로샷 취약점 수정을 평가한다. 합성 및 수작업 시나리오에서는 100%의 수정 성공률를 기록했지만, 실제 세계의 예시에서는 기능적 정확성이 떨어지는 경향이 있어, 미세조정이나 향상된 프롬프트 전략 없이 신뢰할 수 있는 안전한 패치를 생성하는 데 어려움이 있음을 보여준다.

ABSTRACT

<strong>Code and Dataset for "Examining Zero-Shot Vulnerability Repair with Large Language Models"</strong> The following Zenodo contains the resources associated with the S&amp;P accepted paper ‘Examining Zero Shot Vulnerability Repair with Large Language Models’, https://arxiv.org/abs/2112.02125 In this resource, you can find the following. - 'important_results' directory:<br> This directory is for containing the final raw results as generated by the framework, including a global CSV of all generations and an HTML file containing all of the diffs generated for the 'high-confidence' real-world scenarios.<br> - final_results.csv<br> - This contains the final results of all generated software patches.<br> - Note the nomenclature differences with the manuscript tables. These are explained in the README in the framework.<br> - Original vs LLM-Generated Vulnerability Fixes.html<br> - This contains all of the diffs for the real-world patches versus the canonical developer-provided patches. - 'framework' directory:<br> This directory contains the complete archive of the code framework and all results at the time of the paper’s submission. It contains every language model prompt, suggestions, assembled repair patch and analysis data. It contains every script used for generation and analysis. It is a large archive, and within it contains an included README describing how to understand and use it.<br> - For convenience, we include a copy of the README external to the zipped archive. - 'resources' directory: <br> This directory contains the resources used by our large associated tools, including:<br> - 'gpt2-csrc' subdirectory:<br> Everything to do with the gpt2-csrc model, including the trained files, training scripts, and training data. - 'ExtractFix' subdirectory:<br> A docker image containing all ExtractFix scenarios, even those we did not use. Provided for interest (not required for usage).

연구 동기 및 목표

• 오프더쇼프 LLM가 미세조정 없이도 취약점에 대한 안전하고 기능적인 코드 패치를 생성할 수 있는지 평가하기.
• 특히 맥락 정보와 주석 품질이 수정 품질에 미치는 영향을 분석하기 위해 프롬프트 설계가 어떻게 작용하는지 조사하기.
• 역사적이고 실제 세계의 예시를 사용하여 LLM이 실제 세계의 취약점 수정 시나리오에서 실행 가능성과 신뢰성을 평가하기.
• 실제 세계의 불안전한 코드에 프롬프트를 제공했을 때 기능적으로 정확한 수정을 생성하는 데 직면하는 과제를 규명하기.
• 미래의 LLM 기반 프로그램 수리 연구를 지원하기 위해 오픈소스 데이터셋과 평가 프레임워크를 제공하기.

제안 방법

• 다양한 취약점 시나리오에서 상용 블랙박스 LLM 다섯 종류(예: OpenAI Codex, AI21 Jurassic-1)와 추가로 두 종류의 모델(오픈소스 및 미세조정된 모델)을 평가했다.
• 맥락 정보의 수준을 다양하게 조절한 프롬프트를 설계하여, 주석, 함수 이름, 코드 구조 등을 포함하여 이들이 수정 품질에 미치는 영향을 평가했다.
• 일반적인 CWE 카테고리(예: 버퍼 오버플로우, 사용 후 해제)를 기반으로 합성 및 수작업으로 제작된 보안 버그를 생성하여 통제된 환경에서 LLM의 성능을 테스트했다.
• 공개 저장소에서 실제 세계의 취약점 예시를 수집하고, 생산 코드로의 일반화 능력을 평가했다.
• 자동화된 테스팅과 수동 코드 리뷰를 통해 생성된 패치의 기능적 정확성과 보안 특성을 검증했다.
• 안전한 코드로 구성된 정제된 데이터셋을 기반으로 커스터마이징된 미세조정된 GPT-2 모델(gpt2-csrc)을 구현하여 제로샷 추론 대비 성능을 비교했다.

실험 결과

연구 질문

• RQ1 RQ1: 오프더쇼프 LLM은 제로샷 환경에서 보안 취약점을 수정하기 위해 안전하고 기능적인 코드를 생성할 수 있는가?
• RQ2 RQ2: 프롬프트 내 맥락 정보의 양과 품질을 변화시켰을 때 LLM의 정확한 수정 제안 능력에 영향을 미치는가?
• RQ3 RQ3: 합성 또는 수작업 예제와 비교했을 때 실제 세계의 취약점 수정을 위해 LLM을 사용할 때의 주요 과제는 무엇인가?
• RQ4 RQ4: 다양한 취약점 유형에 걸쳐 LLM이 기능적으로 정확하고 안전한 패치를 생성하는 데 얼마나 신뢰할 수 있는가?

주요 결과

• LLM은 합성 및 수작업으로 제작된 취약점 시나리오에서 100%의 수정 성공률를 기록했으며, 통제된 환경에서 강력한 제로샷 능력을 입증했다.
• 합성 사례에서는 높은 성공률를 기록했지만, 실제 세계의 역사적 취약점 예시에 적용했을 땐 자주 기능적으로 잘못되거나 보안이 취약한 패치를 생성했다.
• 프롬프트 엔지니어링—특히 상세한 주석과 명확한 의도의 포함—은 수정 품질을 향상시켰지만, 실제 세계의 사례에서는 기능적 결함을 완전히 제거하지 못했다.
• 모델들은 원래 취약점 자체가 단순하고 국소적인 경우에도 새로운 버그를 유발하거나 올바른 제어 흐름을 유지하지 못하는 경우가 많았다.
• 미세조정된 모델(예: gpt2-csrc)은 제로샷 추론 대비 성능이 향상되었으며, 안전한 코드로의 미세조정이 신뢰성을 향상시킬 수 있음을 시사했다.
• 이 연구는 LLM이 취약점 패tern을 이해할 수는 있지만, 추가적인 보호 조치나 훈련 없이 실제 세계의 코드에 대해 정확하고 안전한 수정을 생성하는 데는 뚜렷한 취약성을 보임을 드러냈다.