[논문 리뷰] Machine Learning Markets

Amos Storkey|arXiv (Cornell University)|2011. 06. 22.

Sports Analytics and Performance참고 문헌 16인용 수 27

한 줄 요약

이 논문은 기계 학습 시장이라는 프레임워크를 제안하며, 이는 확률적 추론과 모델 조합을 위한 것으로, 기대효용 기반의 믿음을 가진 에이전트들이 예측 시장에서 거래함으로써 베이지안 사후확률에 해당하는 균형 가격에 도달한다. 이는 에이전트의 기대효용 함수를 변화시킴으로써 표준 기계 학습 모델—혼합 모델, 곱셈 모델, 메시지 전파 시스템 등—을 자연스럽게 구현할 수 있음을 보여주며, 가격과 위치 전파를 통해 병렬적이고 확장 가능한 추론을 가능하게 한다.

ABSTRACT

Prediction markets show considerable promise for developing flexible mechanisms for machine learning. Here, machine learning markets for multivariate systems are defined, and a utility-based framework is established for their analysis. This differs from the usual approach of defining static betting functions. It is shown that such markets can implement model combination methods used in machine learning, such as product of expert and mixture of expert approaches as equilibrium pricing models, by varying agent utility functions. They can also implement models composed of local potentials, and message passing methods. Prediction markets also allow for more flexible combinations, by combining multiple different utility functions. Conversely, the market mechanisms implement inference in the relevant probabilistic models. This means that market mechanism can be utilized for implementing parallelized model building and inference for probabilistic modelling.

연구 동기 및 목표

• 예측 시장 기반의 탄력적이고 기대효용 기반의 기계 학습 프레임워크를 개발하여 복잡한 확률적 모델을 표현하고 추론할 수 있도록 한다.
• 표준 모델 조합 기법(예: 전문가의 혼합, 전문가의 곱셈 등)이 기대효용 함수를 통해 시장 균형에서 자연스럽게 실현될 수 있음을 보여준다.
• 시장 역학이 인과 그래프 및 국소 잠재변수 모델에서 확률적 추론, 특히 메시지 전파 알고리즘과 대응됨을 입증한다.
• 에이전트들을 독립적인 실체로 모델링하여 일부 상품에 대해 거래함으로써 가격이 연합된 믿음을 반영하도록 함으로써 확장 가능하고 병렬적인 추론을 가능하게 한다.
• 시장 메커니즘이 다양한 믿음과 기대효용 함수를 가진 이질적인 에이전트들이 시스템의 전체 구조를 변경하지 않고 공존할 수 있음을 보여준다.

제안 방법

• 에이전트들은 다변수 결과에 대한 주관적인 확률적 믿음을 가진 합리적인 거래자로 모델링되며, 오목한 기대효용 함수를 갖는다.
• 시장 가격은 무보상 조건 하에서의 균형 조건에서 유도되며, 사후확률로 해석된다.
• 각 에이전트의 기대효용은 지수 감쇠 함수를 사용하여 시장 비용과 주식 보유량에 따라 기술된다.
• 최적의 주식 보유량(sik)은 기대효용을 최대화함으로써 유도되며, 이는 국소 클리크 메시지와 주변 믿음에 대한 닫힌 형태의 표현을 포함한다.
• 반복적인 가격 업데이트를 통해 메시지 전파 역학이 도출되며, 각 상품의 가격은 국소 클리크에서 계산된 집계 메시지(Aik)에 의존한다.
• 균형 조건은 에이전트별 메시지와 믿음의 기하 평균에 기반한 가격을 연결하며, 이는 분산형 병렬 추론을 가능하게 한다.

실험 결과

연구 질문

• RQ1 기계 학습 시장이 기대효용 함수를 통해 표준 모델 조합 기법(예: 전문가의 혼합, 전문가의 곱셈 등)을 자연스럽게 실현할 수 있는가?
• RQ2 시장 역학이 인과 그래프와 같은 그래픽 모델에서 확률적 추론과 어떻게 대응되는가?
• RQ3 확률적 모델에서의 메시지 전파 알고리즘이 예측 시장에서의 정보 전파로 재해석될 수 있는 정도는 어느 정도인가?
• RQ4 특화된 믿음과 다른 기대효용 함수를 가진 이질적인 에이전트들이 시장에서 시스템의 전체 구조를 변경하지 않고 공존할 수 있는가?
• RQ5 시장 메커니즘이 거래되는 상품의 수를 관리 가능한 부분집합으로 제한함으로써 어떻게 확장 가능하고 병렬적인 추론을 지원할 수 있는가?

주요 결과

• 시장 균형 가격은 확률적 모델에서 사후확률과 일치하며, 이는 거래 결과에 직접적인 확률적 해석을 가능하게 한다.
• 에이전트의 기대효용 함수를 변화시킴으로써 다양한 모델 조합 방법(예: 혼합, 곱셈, 인과 모델 등)이 시장 메커니즘을 수정하지 않고 자연스럽게 도출된다.
• 이 시스템은 메시지 전파 추론을 지원한다: 가격과 주식 보유량이 믿음 전파와 유사하게 정보를 전파하며, 메시지는 국소 클리크에서 계산된다.
• 가격의 균형 조건은 에이전트별 메시지와 주변 믿음의 가중 기하 평균으로 유도되며, 오목한 기대효용 조건 하에서 수렴을 보장한다.
• 시장을 관련 상품의 부분집합으로 제한함으로써 확장 가능하고 병렬적인 추론이 가능하며, 이는 국소 메시지 업데이트와 동일한 역학을 가진다.
• 이 방법은 다양한 믿음과 기대효용 함수를 가진 이질적 에이전트를 수용할 수 있으며, 아키텍처 변경 없이도 탄력적이고 확장 가능한 모델 조합을 가능하게 한다.