[논문 리뷰] Estimate and Replace: A Novel Approach to Integrating Deep Neural Networks with Existing Applications

Guy Hadash, Einat Kermany외 4명|arXiv (Cornell University)|2018. 04. 24.

Topic Modeling참고 문헌 21인용 수 19

한 줄 요약

이 논문은 딥 네ural 네트워크(DNN)에 비미분 가능한 외부 애플리케이션을 통합하기 위한 새로운 방법인 '추정 및 대체(estimate and replace)'을 소개한다. 이 방법은 엔드 투 엔드 훈련 중에 외부 애플리케이션의 동작을 모방하는 가미 가능한 추정기(estiLayer)를 훈련시켜, 추정기의 역할을 하게 한다. 추론 시에는 추정기를 실제 외부 API로 대체함으로써 순수 DNN보다 훈련 데이터가 적어도 우수한 성능을 달성할 수 있다.

ABSTRACT

Existing applications include a huge amount of knowledge that is out of reach for deep neural networks. This paper presents a novel approach for integrating calls to existing applications into deep learning architectures. Using this approach, we estimate each application's functionality with an estimator, which is implemented as a deep neural network (DNN). The estimator is then embedded into a base network that we direct into complying with the application's interface during an end-to-end optimization process. At inference time, we replace each estimator with its existing application counterpart and let the base network solve the task by interacting with the existing application. Using this 'Estimate and Replace' method, we were able to train a DNN end-to-end with less data and outperformed a matching DNN that did not interact with the external application.

연구 동기 및 목표

• 비미분 가능한 외부 애플리케이션을 엔드 투 엔드 딥 러닝 파이프라인에 통합하는 데 도전하는 것.
• 기존에 정확한 외부 애플리케이션을 활용하여 DNN의 훈련 데이터 요구량을 줄이는 것.
• 훈련 중에 가미 가능한 프록시를 통해 DNN이 외부 API와의 정확한 인터페이스 상호작용을 학습할 수 있도록 하는 것.
• 추론 시에 학습된 추정기를 실제 API로 대체함으로써 모델의 일반화 능력과 정확도가 향상됨을 보여주는 것.

제안 방법

• 비미분 가능한 외부 애플리케이션의 동작을 추정하는 데 사용할 수 있는 가미 가능한 신경망 구성 요소인 estiLayer를 도입한다.
• estiLayer가 대상 API의 입력-출력 동작을 따르도록 제약 조건을 두고 전체 네트워크(estiNet)를 엔드 투 엔드로 훈련시킨다.
• 주 DNN의 최적화와 동시에 estiLayer가 외부 애플리케이션의 기능을 정확히 모방하도록 하는 다중 작업 훈련 과정을 사용한다.
• 사전 훈련된 모델로 estiLayer를 초기화하기 위해 온라인 사전 훈련(online-pretraining)을 적용함으로써 수렴성과 일반화 능력을 향상시킨다.
• 추론 시에는 각 estiLayer를 실제 외부 애플리케이션 API로 대체하여 실제 상호작용이 가능하게 하되, 훈련된 네트워크의 인터페이스 논리 구조는 유지한다.
• 오프라인 사전 훈련과 온라인 미세조정을 조합한 하이브리드 훈련 전략을 적용하여 제한된 데이터에서의 모델 성능을 향상시킨다.

실험 결과

연구 질문

• RQ1 비미분 가능한 외부 애플리케이션과 상호작용하기 위해 가미 가능한 프록시를 통해 엔드 투 엔드 딥 네트워크를 훈련시킬 수 있는가?
• RQ2 추론 시에 학습된 추정기를 실제 외부 API로 대체하면 모델의 정확도와 일반화 능력이 향상되는가?
• RQ3 순수 DNN 기준 대비 Estimate and Replace 접근법이 훈련 데이터 양을 줄일 수 있는가?
• RQ4 특히 소량의 데이터나 희소한 데이터 환경에서 이 방법의 효과는 어떠한가?
• RQ5 인터페이스 학습과 선택을 통해 모델이 다수의 외부 API를 정확히 조율할 수 있는가?

주요 결과

• Estimate and Replace 방법은 단지 10,000개의 훈련 샘플만으로 논리적 추론 작업에서 0.98의 추론 정확도를 달성하여 기준 DNN보다 뚜렷이 뛰어난 성능을 보였다.
• 온라인 사전 훈련을 적용한 결과, 훈련 정확도와 추론 정확도 모두 0.98을 기록하여 제한된 데이터에서 강력한 일반화 능력을 입증하였다.
• 250개의 샘플으로 구성된 작은 데이터셋에서 온라인 훈련 절차는 96.6%의 테스트 정확도를 달성했고, 순수 훈련 기준선의 경우 뿐다 53.3%에 그쳐 상대적 향상률이 81%에 이르렀다.
• 데이터 크기가 작아질수록 온라인 훈련과 순수 훈련 간의 성능 격차가 커지며, 이는 Estimate and Replace 기법이 특히 소량의 데이터 환경에서 매우 효과적임을 보여준다.
• 비미분 가능한 구성 요소가 존재하더라도 이 방법은 DNN이 어려운 API 선택 및 타입 기반 인수 처리와 같은 정확한 API 상호작용 패턴을 학습할 수 있도록 했다.
• 이 방법은 데이터 요구량을 최대 95%까지 줄일 수 있었으며, 표준 DNN이 필요로 하는 데이터의 5%만으로도 97%의 정확도를 달성할 수 있었다.