[논문 리뷰] The Coming Era of AlphaHacking? A Survey of Automatic Software Vulnerability Detection, Exploitation and Patching Techniques

Tiantian Ji, Yue Wu외 3명|arXiv (Cornell University)|2018. 05. 28.

Advanced Malware Detection Techniques참고 문헌 46인용 수 5

한 줄 요약

이 논문은 소프트웨어에서 취약성 탐지, 공격 유도, 패치 적용을 위한 자동화 기법을 조사하며, 기계 학습이 자율적 사이버 추론 시스템(CRS)을 가능하게 하는 역할을 강조한다. 정적, 동적, 혼합 분석 분야에서 최신 기법을 통합하고, 의미 기반 퍼지잉(semantic fuzzing)과 학습 가능한 패치 적용 기법을 강조하며, 향후 연구를 위한 깊이 있는 의미 이해, 바이너리 기반 학습, 오픈 데이터셋 부족 등의 핵심 과제를 밝혀낸다.

ABSTRACT

With the success of the Cyber Grand Challenge (CGC) sponsored by DARPA, the topic of Autonomous Cyber Reasoning System (CRS) has recently attracted extensive attention from both industry and academia. Utilizing automated system to detect, exploit and patch software vulnerabilities seems so attractive because of its scalability and cost-efficiency compared with the human expert based solution. In this paper, we give an extensive survey of former representative works related to the underlying technologies of a CRS, including vulnerability detection, exploitation and patching. As an important supplement, we then review several pioneer studies that explore the potential of machine learning technologies in this field, and point out that the future development of Autonomous CRS is inseparable from machine learning.

연구 동기 및 목표

• 소프트웨어 취약성 탐지, 공격 유도, 패치 적용을 위한 자동화 기법에 대한 종합적인 서베이를 제공하는 것.
• 기계 학습이 소프트웨어 보안을 위한 자율적 사이버 추론 시스템(CRS)의 발전에 기여하는 역할을 분석하는 것.
• 깊이 있는 의미 이해, 바이너리 기반 기계 학습, 취약성 연구를 위한 오픈소스 데이터셋 부족 등의 핵심 과제를 규명하는 것.
• 취약성 탐지, 공격 유도(예: SemFuzz), 패치 적용(예: ELIXIR, Deepfix) 분야의 최신 기법을 부각하는 것.
• 기계 학습 기반 소프트웨어 취약성 자동화 분야의 오픈 과제와 기회를 제시하여 향후 연구를 이끌어내는 것.

제안 방법

• 정적, 동적, 혼합 분석으로 취약성 탐지 기법을 분류하며, 데이터 추상화를 위한 그래프 기반 모델링(CFG, DFG, PDG)과 추상 해석 기법을 강조한다.
• CVE 및 Git 로그 데이터를 기반으로 자연어 처리(NLP)를 활용해 취약성 의미를 추출하고 개념 증명 공격을 생성하는 의미 기반 퍼지잉(SemFuzz)을 검토한다.
• ELIXIR(기계 학습 기반 순위 매기기로 생성-검증하는 방식)와 Deepfix(GRU 기반 신경 수리 모델)와 같은 기계 학습 기반 패치 적용 기법을 분석한다.
• 스케일링 문제에도 불구하고 모델 체킹과 기호 실행을 형식적 방법으로 고정밀 검증에 활용한다.
• DARPA의 사이버 그랜드 챌린지(Cyber Grand Challenge)의 통찰을 통합하여 자율적 CRS의 진화를 프레임워크화한다.
• 바이너리 중심의 기계 학습 모델 부족과 ImageNet과 유사한 대규모 오픈소스 취약성 데이터셋의 부재 등 핵심 방법론적 격차를 규명한다.

실험 결과

연구 질문

• RQ1 기계 학습은 소프트웨어 시스템에서 취약성 탐지, 공격 유도, 패치 적용의 자동화를 어떻게 향상시킬 수 있는가?
• RQ2 정적 및 동적 분석 기반의 현재 자동화된 취약성 탐지 시스템의 핵심 기술 구성 요소와 제약 조건은 무엇인가?
• RQ3 취약성 보고서 및 패치의 의미 이해 수준이 공격 생성과 수리 합성에 얼마나 기여하는가?
• RQ4 딥 러닝을 바이너리 분석 및 취약성 탐지에 적용할 때의 주요 과제는 무엇인가?
• RQ5 오픈소스, 대규모, 의미적으로 풍부한 데이터셋은 어떻게 자동화된 소프트웨어 보안 연구를 가속화할 수 있는가?

주요 결과

• SemFuzz는 CVE 및 Git 로그 데이터의 자연어 처리(NLP)를 활용하여, CVE에서 제공한 112개의 리눅스 커널 취약성(제로데이 및 공개되지 않은 취약성 포함)에 대해 16%의 탐지율을 달성했다.
• ELIXIR은 의미 특성 기반으로 수리 후보를 기계 학습으로 순위 매김함으로써 객체 지향 프로그램에서 효과적인 수리 공간을 크게 확장하고 패치 적용 성공률을 향상시켰다.
• Deepfix는 훈련된 게이트드 순환 유닛(Gated Recurrent Unit, GRU) 모델을 사용하여 6,971개의 잘못된 프로그램을 높은 정확도로 수정함으로써 신경망 기반 프로그램 수리의 가능성을 입증했다.
• 진전이 있음에도 불구하고, 모델 체킹과 그래프 기반 분석은 상태 폭발과 높은 계산 오버헤드로 인해 스케일링 문제를 겪고 있다.
• 바이너리 기반 기계 학습은 여전히 개발이 부족한 상태이며, 대부분의 모델이 소스 코드를 대상으로 설계되어 있어 중요한 연구 격차를 드러내고 있다.
• ImageNet과 유사한 대규모, 오픈소스, 의미적으로 풍부한 데이터셋의 부재는 소프트웨어 취약성 자동화 분야에서 기계 학습의 발전을 저해하는 주요 장애물로 남아 있다.