[논문 리뷰] Toward Trustworthy Neural Program Synthesis

Darren Key, Wen-Ding Li외 1명|arXiv (Cornell University)|2022. 09. 29.

Adversarial Robustness in Machine Learning인용 수 5

한 줄 요약

이 논문은 신경망 기반 프로그램 합성의 정확도, 캘리브레이션, 해석 가능성 향상을 위해 프로그램과 실행 가능한 사양(예: 입력-출력 테스트 케이스 또는 논리적 관계)을 동시에 생성하는 Speculyzer라는 방법을 소개한다. 학습된 모델을 통해 프로그램의 정확성을 예측하고 가장 유용한 사양을 식별함으로써, 신뢰할 수 있는 신뢰도 추정, 인간이 선호하는 설명, 그리고 코드 생성 벤치마크에서 최신 기술 수준의 정확도를 유지하거나 향상시킨다.

ABSTRACT

We develop an approach to estimate the probability that a program sampled from a large language model is correct. Given a natural language description of a programming problem, our method samples both candidate programs as well as candidate predicates specifying how the program should behave. This allows learning a model that forms a well-calibrated probabilistic prediction of program correctness. Our system also infers which predicates are useful to explain the behavior of the generated code, and humans preferred these in a human study over raw language model outputs. Our method is simple, easy to implement, and maintains state of the art generation accuracy results.

연구 동기 및 목표

• 신뢰할 수 있는 방식으로 문제를 해결할 수 없을 때를 감지할 수 있도록 하는 시스템을 제공함으로써 신경망 기반 프로그램 합성기의 신뢰성 부족 문제를 해결한다.
• 생성된 프로그램이 올바른 이유를 설명하는 인간이 이해할 수 있는 사양을 생성함으로써 설명 가능성(해석 가능성)을 향상시킨다.
• 추가적인 검증 및 설명 구성 요소를 도입함에도 불구하고 전체 코드 생성 정확도를 유지하거나 향상시킨다.
• 모델이 프로그램 정확성에 대해 잘 캘리브레이션된 확률적 추정치를 제공하도록 시스템을 개발한다. 이는 미묘한 버그를 유발할 위험을 줄인다.

제안 방법

• 시스템은 자연어 문제 기술서에서 독립적으로 후보 프로그램과 후보 사양(입력-출력 테스트 케이스 또는 매개변수화된 논리적 관계)을 대규모 언어 모델을 사용해 샘플링한다.
• 사양은 생성된 프로그램에 대해 기계적으로 검증되어 프로그램-사양 쌍의 데이터셋을 형성한다.
• 학습된 모델은 사양 검증 결과를 바탕으로 프로그램의 정확성을 예측하도록 훈련되어, 정확성에 대한 잘 캘리브레이션된 확률 추정치를 가능하게 한다.
• 사용자 선호도 데이터를 기반으로 훈련된 학습된 점수 기반 메커니즘을 사용해 사양의 유용성을 기반으로 사양을 순위 매긴다.
• 프로그램과 사양 생성을 하나의 파이프라인에 통합함으로써, 모델이 스스로의 작업을 검증할 수 있도록 한다.
• 이 방법은 MBPP 및 HumanEval 벤치마크에서 평가되었으며, 주요 정확도 지표로 pass@k를 사용하고, 설명 품질 평가에는 인간 연구를 활용했다.

실험 결과

연구 질문

• RQ1 신경망 기반 프로그램 합성기가 정확성에 대해 잘 캘리브레이션된 확률적 추정치를 생성할 수 있는가? 이는 잘못된 코드를 배포할 위험을 줄인다.
• RQ2 사용자 평가에 따르면, 생성된 사양은 원시 모델 출력보다 모델 출력의 설명 가능성을 향상시키는가?
• RQ3 사양 생성 및 검증을 포함함으로써 전체 프로그램 합성 정확도가 향상될 수 있는가? 또는 성능 저하가 발생하는가?
• RQ4 입력-출력 사양과 논리적 관계 중 어떤 유형의 사양이 인간에게 프로그램 동작을 설명하는 데 더 효과적인가?
• RQ5 여러 개의 유효한 사양이 존재할 때, 모델이 가장 유용한 사양을 식별하는 데 성공할 수 있는가?

주요 결과

• 제안된 방법은 프로그램 정확성에 대해 잘 캘리브레이션된 신뢰도 추정치를 달성하여, 캘리브레이션되지 않은 모델 로짓에 의존하지 않고도 신뢰할 수 있는 신뢰 결정을 가능하게 한다.
• 인간 연구 결과에 따르면, 모델이 생성한 사양은 원시 모델 출력보다 인간 사용자에게 더 선호되며, 이는 해석 가능성과 사용성 향상을 시사한다.
• 이 방법은 MBPP 및 HumanEval 벤치마크에서 pass@k 정확도를 유지하거나 略도 향상시키며, 추가적인 복잡성에도 불구하고 성능 저하가 발생하지 않았음을 입증한다.
• 시스템은 프로그램 행동을 설명하는 데 가장 유용한 사양을 성공적으로 식별하였으며, 상위 순위 사양은 무작위 또는 하위 순위 사양보다 훨씬 더 정보가 풍부하다.
• 이 방법은 모델이 스스로 테스트 케이스를 생성함으로써 자가 검증(self-verification)을 가능하게 하여, 정확성 향상과 외부 테스트 세트에 대한 의존도 감소를 이룬다.
• 사양 합성의 통합은 불확실할 경우 답변을 회피할 수 있는 더 신뢰할 수 있는 시스템을 가능하게 하여, 잘못된 코드를 생성할 위험을 줄인다.