[논문 리뷰] Conditioning by adaptive sampling for robust design

David H. Brookes, Hahnbeom Park외 1명|arXiv (Cornell University)|2019. 01. 29.

Machine Learning and Algorithms참고 문헌 5인용 수 47

한 줄 요약

CbAS는 적응 샘플링을 사용하여 원하는 특성에 대해 사전분포를 조건화함으로써 모델 기반의 미분 불가능한 설계 문제 접근법을 제시합니다; 이는 희귀 이벤트 조건화에 집중하여 오라클 병리현상을 방지합니다.

ABSTRACT

We present a new method for design problems wherein the goal is to maximize or specify the value of one or more properties of interest. For example, in protein design, one may wish to find the protein sequence that maximizes fluorescence. We assume access to one or more, potentially black box, stochastic "oracle" predictive functions, each of which maps from input (e.g., protein sequences) design space to a distribution over a property of interest (e.g. protein fluorescence). At first glance, this problem can be framed as one of optimizing the oracle(s) with respect to the input. However, many state-of-the-art predictive models, such as neural networks, are known to suffer from pathologies, especially for data far from the training distribution. Thus we need to modulate the optimization of the oracle inputs with prior knowledge about what makes `realistic' inputs (e.g., proteins that stably fold). Herein, we propose a new method to solve this problem, Conditioning by Adaptive Sampling, which yields state-of-the-art results on a protein fluorescence problem, as compared to other recently published approaches. Formally, our method achieves its success by using model-based adaptive sampling to estimate the conditional distribution of the input sequences given the desired properties.

연구 동기 및 목표

• 블랙박스 예측기를 사용하여 관심 속성을 최대화하거나 특정하도록 목표를 둔 설계 문제를 동기 부여한다.
• 현실적인 입력 영역으로 조건화하여 훈련 데이터로부터 멀리 떨어진 예측 모델의 병리현상을 해결한다.
• 특성 요구사항을 충족할 가능성이 높은 설계 샘플을 샘플링하는 원리적이고 사전정보에 의한 방법을 개발한다.

제안 방법

• 현실적인 예제로 학습된 생성 모델로 입력 사전분포 p(x)를 모델링한다.
• 속성 값에 대한 조건 이벤트 S를 정의하고 베이즈 규칙을 통해 p(x|S)를 계산한다.
• S가 드문 경우에 조건밀도 p(x|S)를 추정하기 위한 적응적 중요샘플링 방식을 도입한다.
• KL 발산을 최소화함으로써 p(x|S)를 근사하도록 q(x|φ)라는 탐색 모형을 반복적으로 업데이트한다.
• 소멸하지 않는 기대값을 얻고 안정적인 최적화를 달성하기 위해 S(t)와 대응하는 제안 r(t)(x)의 연속된 완화 이벤트를 사용한다.
• 필요 시 잠재 변수 사전분포와 공동 밀도에 접근하도록 방법을 확장한다.

실험 결과

연구 질문

• RQ1 속성 오라클이 블랙박스이고 비미분가능할 수 있을 때 생성적 사전을 원하는 속성 값으로 어떻게 조건화할 수 있는가?
• RQ2 적응 샘플링과 KL 기반 업데이트가 희귀 이벤트 설계 대상에 대한 조건 분포 p(x|S)를 신뢰성 있게 근사할 수 있는가?
• RQ3 오라클 병리현상을 처리하고 설계가 현실적인 영역 내에 머물도록 하는 데 있어 CbAS가 기존 AM, GAN/VAE 기반, 그리고 크로스 엔트로피 방법과 어떤 차이가 있는가?
• RQ4 정확성이나 계산 가능한 근사를 유지하면서 잠재 변수 모델로 방법을 확장할 수 있는가?
• RQ5 단백질 설계 응용에서 서로 다른 오라클 불확실성 모델(예: 앙상블)에 대해 이 접근법이 견고한가?

주요 결과

• CbAS는 반복에 따라 감소하는 KL 발산으로 목표 조건분포에 대한 가까운 근사를 보인다.
• 사전분포와 조건 이벤트 하에서 높은 확률 영역에 집중함으로써 오라클 병리현상을 효과적으로 피한다.
• CbAS는 비미분가능한 오라클과 이산 설계 공간에 적용 가능하며 오라클을 통해 역전파를 수행하지 않는다.
• 단백질 형광 특성에 대한 실험은 AM 및 DbAS 변형을 포함한 여러 비교대비에서 우수한 성능을 보여준다.
• 공동 밀도가 다루기 쉬울 때 잠재 변수 사전분포에 대해 정확도 밀도 형식으로 확장할 수 있다.
• CbAS는 밀도비(weight) 가중치를 통해 사전에의 근접성을 유지하면서 목적 최대화와 사전 준수를 균형화한다.