[논문 리뷰] Learning to Infer Shape Programs Using Latent Execution Self Training.

Homer Walke, R. Kenny Jones외 1명|arXiv (Cornell University)|2020. 11. 25.

Manufacturing Process and Optimization참고 문헌 14인용 수 4

한 줄 요약

이 논문은 실행 가능한 잠재 프로그램을 사용하여 레이블이 없는 형태에 대해 자기학습(self-training)을 수행하는 잠재 실행 자기학습(Latent Execution Self Training, LEST) 방법을 제안한다. 예측된 프로그램을 실행하여 합성 형태를 생성하고 이를 바탕으로 미세조정함으로써, LEST는 국소 최소값을 피하고 구성 고체 기하학과 조립 모델링에서 강화학습보다 더 빠르고 정확한 재구성 성능을 달성한다.

ABSTRACT

Inferring programs which generate 2D and 3D shapes is important for reverse engineering, enabling shape editing, and more. Supervised learning is hard to apply to this problem, as paired (program, shape) data rarely exists. Recent approaches use supervised pre-training with randomly-generated programs and then refine using self-supervised learning. But self-supervised learning either requires that the program execution process be differentiable or relies on reinforcement learning, which is unstable and slow to converge. In this paper, we present a new approach for learning to infer shape programs, which we call latent execution self training (LEST). As with recent prior work, LEST starts by training on randomly-generated (program, shape) pairs. As its name implies, it is based on the idea of self-training: running a model on unlabeled input shapes, treating the predicted programs as ground truth latent labels, and training again. Self-training is known to be susceptible to local minima. LEST circumvents this problem by leveraging the fact that predicted latent programs are executable: for a given shape $\mathbf{x}^* \in S^*$ and its predicted program $\mathbf{z} \in P$, we execute $\mathbf{z}$ to obtain a shape $\mathbf{x} \in S$ and train on $(\mathbf{z} \in P, \mathbf{x} \in S)$ pairs, rather than $(\mathbf{z} \in P, \mathbf{x}^* \in S^*)$ pairs. Experiments show that the distribution of executed shapes $S$ converges toward the distribution of real shapes $S^*$. We establish connections between LEST and algorithms for learning generative models, including variational Bayes, wake sleep, and expectation maximization. For constructive solid geometry and assembly-based modeling, LEST's inferred programs converge to high reconstruction accuracy significantly faster than those of reinforcement learning.

연구 동기 및 목표

• 실제로 희소한 페어드 (프로그램, 형태) 학습 데이터가 존재하는 상황에서, 페어드 데이터 없이 형태 프로그램을 추론하는 문제에 대응한다.
• 다양한 실행 또는 불안정한 강화학습에 의존하는 이전 자기지도 학습 방법의 한계를 극복한다.
• 실행 가능한 잠재 프로그램을 의사라벨로 활용하여 형태 프로그램 추론의 수렴성과 정확도를 향상시킨다.
• 구성 고체 기하학과 조립 모델링과 같은 2D 및 3D 형태 생성 과업에서 효율적인 학습을 가능하게 한다.
• 변분 추론과 기대 최대화 기반 이론적 연결을 통해 학습 동역학을 개선한다.

제안 방법

• 기본 사전 지식을 확보하기 위해 무작위로 생성된 (프로그램, 형태) 쌍을 기반으로 初기 모델을 훈련시킨다.
• 모델을 사용해 레이블이 없는 입력 형태에 대해 프로그램을 예측하고, 이를 잠재 레이블로 간주한다.
• 예측된 프로그램을 실행하여 합성 형태를 생성하고, 새로운 (프로그램, 형태) 학습 쌍을 형성한다.
• 원래의 입력 형태가 아닌 실행된 형태 쌍을 기반으로 모델을 미세조정함으로써 안정적인 자기학습을 가능하게 한다.
• 잠재 프로그램의 실행 가능성 덕분에 생성된 형태의 분포가 실제 형태 분포로 수렴하도록 보장한다.
• 학습 과정을 변분 베이즈, 웨이크-슬립, 기대 최대화와 같은 기존 알고리즘과 연결하여 이론적 기반을 마련한다.

실험 결과

연구 질문

• RQ1 실행 가능한 잠재 프로그램을 의사라벨로 사용함으로써 형태 프로그램 추론을 위한 자기학습이 더 안정적이고 효과적으로 개선될 수 있는가?
• RQ2 LEST는 형태 생성에서 수렴 속도와 재구성 정확도 측면에서 강화학습과 비교해 어떻게 성능을 냈는가?
• RQ3 학습 과정에서 실행된 형태의 분포가 실제 형태 분포로 얼마나 수렴하는가?
• RQ4 LEST와 기대 최대화 및 웨이크-슬립과 같은 기존 생성 모델 학습 알고리즘 사이에 어떤 이론적 연결이 존재하는가?
• RQ5 LEST는 구성 고체 기하학과 조립 기반 모델링과 같은 다양한 형태 모델링 철학에 일반화될 수 있는가?

주요 결과

• LEST는 구성 고체 기하학과 조립 기반 모델링 모두에서 강화학습 기반 베이스라인에 비해 훨씬 더 빠른 수렴 속도와 높은 재구성 정확도를 달성한다.
• 잠재 프로그램을 실행하여 생성된 형태의 분포가 실제 형태 분포로 수렴함을 확인하여 효과적인 분포 일치가 이루어졌음을 시사한다.
• 실행 가능한 잠재 프로그램을 사용한 자기학습은 국소 최소값의 위험을 완화하여 기존 자기학습 접근법보다 학습 안정성을 향상시킨다.
• LEST는 이전 자기지도 학습 방법과 달리 미분 가능한 실행이나 보상 형상화 없이도 뛰어난 성능을 보였다.
• LEST는 변분 추론과 기대 최대화 기반 이론적 연결을 수립하여 학습 동역학에 체계적인 기반을 제공한다.
• 특히 희소 지도 신호가 존재하는 복잡한 형태 생성 과업에서, LEST는 속도와 정확도 면에서 강화학습을 능가한다.