[논문 리뷰] Adversarial Generalized Method of Moments

Greg Lewis, Vasilis Syrgkanis|arXiv (Cornell University)|2018. 03. 19.

Generative Adversarial Networks and Image Synthesis참고 문헌 13인용 수 17

한 줄 요약

이 논문은 조건부 모멘트 제약 조건 하에서 신경망 표현을 학습하기 위해 모델러와 적대자 간의 제로섬 게임으로 GMM 추정을 공식화하는 적대적 일반화 방법의 모멘텀(AGMM)을 소개한다. 적대적 훈련을 통해 적대자가 위반된 모멘트 조건을 식별함으로써, 다항식 전개를 사용한 DeepIV 및 2SLS와 같은 기준보다 비모수적 인스트루멘탈 변수 회귀 성능을 향상시킨다.

ABSTRACT

We provide an approach for learning deep neural net representations of models described via conditional moment restrictions. Conditional moment restrictions are widely used, as they are the language by which social scientists describe the assumptions they make to enable causal inference. We formulate the problem of estimating the underling model as a zero-sum game between a modeler and an adversary and apply adversarial training. Our approach is similar in nature to Generative Adversarial Networks (GAN), though here the modeler is learning a representation of a function that satisfies a continuum of moment conditions and the adversary is identifying violating moments. We outline ways of constructing effective adversaries in practice, including kernels centered by k-means clustering, and random forests. We examine the practical performance of our approach in the setting of non-parametric instrumental variable regression.

연구 동기 및 목표

• 유한한 데이터로 인해 무한한 수의 조건부 모멘트 제약 조건을 도입하는 것이 실현 가능하지 않은 비모수적 GMM 추정에서 모멘트 조건 선택의 과제를 해결한다.
• 모멘트 조건 선택을 모델 훈련 과정에 통합하여 인과 추론을 위한 딥 뉴럴 네트워크 표현의 적응적 학습을 가능하게 한다.
• 고차원 또는 복잡한 설정에서 전통적 GMM의 한계를 적대적 피드백을 통해 모델 추정치를 정교화함으로써 극복한다.
• 딥러닝과 경제학적 모멘트 조건 제약 조건을 결합한 일반화 가능한 인과 추론 프레임워크를 제공한다.
• 모델러의 현재 약점을 반영하여 모멘트 조건을 동적으로 적응시키는 방식으로 비모수적 인스트루멘탈 변수 회귀의 추정 정확도를 향상시킨다.

제안 방법

• 모델러(신경망을 학습하는 자)와 적대자(위반된 모멘트 조건을 식별하는 자) 사이의 제로섬 게임으로 GMM 추정을 공식화한다.
• 모델러가 GMM 기준을 최소화하고, 적대자가 이를 최대화하는 방식으로, 랜덤 그래디언트 하강법을 사용해 두 플레이어를 동시에 훈련한다.
• 커널 방법(예: k-means 중심의 가우시안 커널) 또는 앙상블 모델(예: 랜덤 포레스트)을 통해 효과적인 적대자를 구축하여 모멘트 위반을 탐지한다.
• 적대적 훈련을 통해 적대자가 식별한 가장 정보적인 모멘트 제약 조건에 기반해 모델러의 표현을 적응적으로 개선한다.
• 약한 정규성 조건 하에서, 이론적으로 모델러가 표본 외에서 상당한 모멘트 조건 위반을 하지 않는다는 것을 증명함으로써 일반화를 확보한다.
• 고차원 설정에서 커널의 대역폭과 가중치를 학습할 수 있도록 유연한 아키텍처를 설계하거나, 신경망/랜덤 포레스트를 사용한다.

실험 결과

연구 질문

• RQ1 적대적 훈련이 비모수적 인과 추론을 향상시키기 위해 GMM 추정에 효과적으로 적용될 수 있는가?
• RQ2 모멘트 조건 선택을 딥러닝 모델에 통합하여 인과 추정의 일반화 성능과 편향을 향상시킬 수 있는가?
• RQ3 모델러와 적대자 간의 제로섬 게임 공식화가 기존 GMM 또는 딥러닝 기준보다 더 나은 인과 효과 식별을 이끌어내는가?
• RQ4 다양한 적대자 아키텍처(커널, 랜덤 포레스트, 신경망)가 AGMM 프레임워크의 성능과 안정성에 어떤 영향을 미치는가?
• RQ5 AGMM가 비모수적 인스트루멘탈 변수 회귀에서 DeepIV 및 다항식 전개를 사용한 2SLS와 비교해 얼마나 뛰어나게 성능을 발휘하는가?

주요 결과

• AGMM는 비모수적 인스트루멘탈 변수 회귀에서 DeepIV 및 다항식 전개를 사용한 2SLS를 크게 능가한다. 특히 도구 변수의 강도가 낮거나 중간일 경우에 두드러진다.
• 10개의 도구 변수와 0.5의 도구 변수 강도 조건에서, AGMM는 'abs' 함수 테스트에서 평균 절대 오차 0.26(95% 신뢰구간: -0.87 ~ 0.74)를 기록했으며, DeepIV(0.53)와 2SLS(0.16)를 모두 앞서나갔다.
• 'sigmoid' 함수에서 도구 변수 강도가 0.7일 경우, AGMM는 0.82(95% 신뢰구간: 0.34 ~ 0.96)를 기록했고, DeepIV(0.82)와 2SLS(0.88)를 모두 앞서나가 비선형 설정에서 뛰어난 성능을 보였다.
• 'linear' 함수에서 도구 변수 강도가 0.9일 경우, AGMM는 0.97(95% 신뢰구간: 0.90 ~ 0.99)를 기록했으며, 2SLS의 최적값 1.00에 매우 가까운 성능을 보여 near-optimal 성능을 입증했다.
• AGMM는 다양한 함수 유형(예: 스텝, sin, 3dpoly)에서도 강건성을 보였으며, 2SLS와 2SLSpoly가 모형 불일치로 실패할 경우에도 높은 R-제곱 값(예: 0.90~0.98)을 유지했다.
• 이론적 보장에 의해 표본 외에서 일반화가 잘 된다는 것이 입증되었으며, AGMM가 식별한 모델은 유한 표본에서 상당한 모멘트 조건 위반을 하지 않는다.