[논문 리뷰] Learning Valuation Functions

Maria Florina Balcan, Florin Constantin외 2명|arXiv (Cornell University)|2011. 08. 29.

Machine Learning and Algorithms참고 문헌 25인용 수 12

한 줄 요약

이 논문은 마이크로경제학과 게임 이론에서 평가 함수의 근사적 학습 가능성에 대해 연구하며, XOS, 부분가소적, 부분모듈라 평가 함수와 같은 클래스에 초점을 맞춘다. PMAC 모델에서 XOS 및 부분가소적 함수의 학습에 대해 거의 날카로운 $\tilde{\Theta}(n^{1/2})$ 경계를 확립하며, 다항 복잡도를 갖는 XOS 함수는 $O(n^\varepsilon)$ 근사치 이내로 $n^{O(1/\varepsilon)}$ 시간 내에 학습될 수 있음을 보여준다.

ABSTRACT

In this paper we study the approximate learnability of valuations commonly used throughout economics and game theory for the quantitative encoding of agent preferences. We provide upper and lower bounds regarding the learnability of important subclasses of valuation functions that express no-complementarities. Our main results concern their approximate learnability in the distributional learning (PAC-style) setting. We provide nearly tight lower and upper bounds of $ ildeΘ(n^{1/2})$ on the approximation factor for learning XOS and subadditive valuations, both widely studied superclasses of submodular valuations. Interestingly, we show that the $ ildeΩ(n^{1/2})$ lower bound can be circumvented for XOS functions of polynomial complexity; we provide an algorithm for learning the class of XOS valuations with a representation of polynomial size achieving an $O(n^{\eps})$ approximation factor in time $O(n^{1/\eps})$ for any $\eps > 0$. This highlights the importance of considering the complexity of the target function for polynomial time learning. We also provide new learning results for interesting subclasses of submodular functions. Our upper bounds for distributional learning leverage novel structural results for all these valuation classes. We show that many of these results provide new learnability results in the Goemans et al. model (SODA 2009) of approximate learning everywhere via value queries. We also introduce a new model that is more realistic in economic settings, in which the learner can set prices and observe purchase decisions at these prices rather than observing the valuation function directly. In this model, most of our upper bounds continue to hold despite the fact that the learner receives less information (both for learning in the distributional setting and with value queries), while our lower bounds naturally extend.

연구 동기 및 목표

• 분포 기반(PAC 스타일) 학습 모델에서 평가 함수의 학습 가능성, 특히 부분모듈라 함수를 초월하는 클래스에 대해 연구한다.
• 부분모듈라 함수를 일반화하는 XOS 및 부분가소적 평가 함수의 학습에 대해 날카로운 근사 경계를 확립한다.
• 직접 평가가 아니라 설정된 가격에서의 구매 결정만 관찰 가능한 더 현실적인 경제 모델에서의 학습 가능성에 대해 탐구한다.
• 일반 대체 및 OXS 평가 함수와 같은 하위클래스에 대한 구조적 통찰과 알고리즘을 제공한다.
• 이론적 학습 결과를 가격 설정과 관찰된 구매 행동을 포함하는 실질적인 경제적 환경으로 연결한다.

제안 방법

• 학습자가 알려지지 않은 배치에 대한 i.i.d. 표본을 받는 분포 기반 학습 모델인 PMAC(어느 정도 정확하게 학습 가능) 모델을 사용하며, 목표 평가 함수의 곱셈적 근사치를 학습하고자 한다.
• 특히 XOS 및 부분가소적 함수에 대해 학습 가능성과 하한 경계를 도출하기 위해 평가 함수 클래스에 대한 새로운 구조적 결과를 적용한다.
• 학습자가 가격을 설정하고 구매 결정(구매/판매)을 관찰하는 새로운 모델을 도입하여 실제 세계의 경제 데이터 수집을 시뮬레이션한다.
• 구매 결정 모델을 이진 분류 문제로 환원하기 위해 분리자(separator)를 사용하며, 구매 데이터에서의 낮은 오차가 평가 근사치에서의 낮은 오차를 암시함을 증명한다.
• 모든 $\varepsilon > 0$ 에 대해 $O(n^\varepsilon)$ 근사치 이내로 다항식 크기 표현을 갖는 XOS 함수를 $n^{O(1/\varepsilon)}$ 시간 내에 학습하는 알고리즘을 설계하며, 이는 $\tilde{\Omega}(n^{1/2})$ 하한 경계를 우회한다.
• 직접 평가 피드백을 통해 함수를 학습하는 가치 질의(VQ) 모델을 활용하며, 가격 설정 실험을 통해 질의를 시뮬레이션하여 결과를 가격 기반 관찰 모델로 확장한다.

실험 결과

연구 질문

• RQ1 PMAC 모델에서 XOS 및 부분가소적 평가 함수를 학습할 때 도달 가능한 최적의 근사 요인은 무엇인가?
• RQ2 추가적인 구조적 가정 하에 XOS 및 부분가소적 함수에 대한 $\tilde{\Omega}(n^{1/2})$ 근사 하한 경계를 극복할 수 있는가?
• RQ3 직접 평가가 아니라 설정된 가격에서의 구매 결정만 관찰될 경우, 평가 함수 클래스의 학습 가능성은 어떻게 변화하는가?
• RQ4 일반 대체 및 OXS 평가 함수와 같은 하위클래스는 분포 기반 및 가치 질의 모델 모두에서 어떤 학습 가능성 성질을 갖는가?
• RQ5 다항식 크기로 제한된 표현 복잡도를 갖는 XOS 함수를 위한 효율적인 알고리즘을 설계할 수 있는가?

주요 결과

• 논문은 PMAC 모델에서 XOS 및 부분가소적 평가 함수를 학습할 때 거의 날카로운 $\tilde{\Theta}(n^{1/2})$ 근사 요인 경계를 확립한다.
• 다항식 크기 표현을 갖는 XOS 함수의 경우, 모든 $\varepsilon > 0$ 에 대해 $O(n^\varepsilon)$ 근사치 이내로 $n^{O(1/\varepsilon)}$ 시간 내에 학습할 수 있는 알고리즘이 존재하며, 이는 $\tilde{\Omega}(n^{1/2})$ 하한 경계를 우회한다.
• 최대 $R$ 개의 트리 또는 트리당 $R$ 개 이하의 리프를 갖는 OXS 평가 함수의 클래스는 $2R$ 근사치 이내로 VQ-학습 가능하다.
• 같은 방식으로 트리 또는 리프 수가 제한된 XOS 평가 함수의 경우에도 동일한 결과가 성립하며, 이는 구조적 제약 조건 하에서의 학습 가능성에 대한 증거가 된다.
• 가격 기반 모델에서 직접 평가가 아니라 구매 결정만 관찰 가능한 경우에도 학습 가능성에 대한 상한 경계는 그대로 유지되며, 하한 경계는 자연스럽게 확장된다.
• 평가 함수 클래스에 대한 구조적 결과는 Goemans 등이 제안한 가치 질의 모델에서 새로운 학습 가능성 결과를 가능하게 하며, 이는 이전의 부분모듈라 함수 연구를 확장한다.