[논문 리뷰] Water from Two Rocks: Maximizing the Mutual Information

Yuqing Kong, Grant Schoenebeck|arXiv (Cornell University)|2018. 02. 24.

Machine Learning and Algorithms참고 문헌 5인용 수 7

한 줄 요약

이 논문은 조건부로 독립인 데이터 소스 간의 상호정보량을 최대화하는 정보이론적 프레임워크를 중심으로 기계학습의 공훈련(co-training)과 검증 없이 예측을 유도하는 방법을 통합한다. 이는 레이블이 없는 데이터나 기준값 검증이 없는 상황에서도 진정성 있는 예측과 최적의 예측을 가능하게 하는 강건하고 확장 가능한 평가 지표인 f-상호정보량 증가량(f-mutual information gain)을 제안한다.

ABSTRACT

We build a natural connection between the learning problem, co-training, and forecast elicitation without verification (related to peer-prediction) and address them simultaneously using the same information theoretic approach. In co-training/multiview learning, the goal is to aggregate two views of data into a prediction for a latent label. We show how to optimally combine two views of data by reducing the problem to an optimization problem. Our work gives a unified and rigorous approach to the general setting. In forecast elicitation without verification we seek to design a mechanism that elicits high quality forecasts from agents in the setting where the mechanism does not have access to the ground truth. By assuming the agents' information is independent conditioning on the outcome, we propose mechanisms where truth-telling is a strict equilibrium for both the single-task and multi-task settings. Our multi-task mechanism additionally has the property that the truth-telling equilibrium pays better than any other strategy profile and strictly better than any other "non-permutation" strategy profile when the prior satisfies some mild conditions.

연구 동기 및 목표

• 레이블 데이터(Y)가 전혀 제공되지 않은 상황에서 잠재 레이블 Y에 대한 정확한 예측을 학습하는 문제를 해결하기 위해, 두 개의 조건부 독립 데이터 소스 X_A와 X_B에 의존한다.
• 기준값에 접근할 수 없는 에이전트로부터 고품질의 예측을 유도하기 위한 인센티브 호환 메커니즘을 설계하여, 진실성 있는 예측이 엄밀한 균형 상태가 되도록 보장한다.
• '초기 합의 문제'(naive agreement problem)를 해결하기 위해, 합의 기반 보상 체계를 상호정보량 최대화로 대체함으로써 예측자가 동일하고 정보가 없는 예측으로 수렴하는 문제를 방지한다.
• 특히 f-발산과 상호정보량을 중심으로 한 정보이론을 활용하여, 다시보기 학습(multiview learning)과 동료 예측(peer prediction)을 통합하는 이론적 프레임워크를 제공한다.
• 상호정보량 최대화 프레임워크의 확장성과 실용성을 높이기 위해, 전체 연합 분포나 고차원 공간에서의 정규화를 필요로 하지 않는 f-상호정보량 증가량 같은 확장 가능한 평가 지표를 제공한다.

제안 방법

• 잠재 레이블 Y를 조건으로 하여 두 데이터 소스 X_A와 X_B 간의 상호정보량을 최대화하는 최적화 문제로 공훈련 및 예측 유도 문제를 재구성한다.
• f-발산 기반의 상호정보량 증가량을 성능 평가 지표로 사용하여 고차원 입력에 대해 강건하고, 이전 방법에서 흔히 발생하는 정규화 문제를 피한다.
• PS-gain과 LSR-gain을 일반적인 f-상호정보량 프레임워크의 특수 케이스로 도입하며, PS-gain은 전체 입력 공간에 대한 정규화가 필요하고, LSR-gain은 생성 모델에 의존한다.
• 예측자 평가와 보상 설계 간의 이중성(duality)을 수립함으로써, f-상호정보량 증가량 프레임워크를 학습 및 메커니즘 설계에 동시에 적용한다.
• 조건부 독립성과 정보이론적 인centive를 활용하여 메커니즘 설계 환경에서 진실성 있는 예측이 엄밀한 균형 상태가 되도록 보장한다.
• 신경망 또는 기타 매개변수화된 가설 가족을 사용하여 베이지안 사후분포를 근사함으로써, 고차원 입력을 가진 실세계 데이터에 대한 확장 가능한 구현을 가능하게 한다.

실험 결과

연구 질문

• RQ1 레이블 데이터(Y)에 접근할 수 없는 상황에서, 조건부 독립인 두 데이터 소스 X_A와 X_B만을 사용하여 잠재 레이블 Y에 대한 최적의 예측자를 평가하고 학습시킬 수 있는가?
• RQ2 기준값에 접근할 수 없는 에이전트로부터 진실성 있는 예측을 유도할 수 있는 인센티브 메커니즘을 어떻게 설계할 수 있으며, 진실성 있는 예측이 엄밀한 균형 상태가 되도록 보장할 수 있는가?
• RQ3 공훈련과 동료 예측 모두에서 '초기 합의 문제'를 방지하는 기본적인 정보이론적 원리는 무엇인가?
• RQ4 f-발산에서 사용하는 볼록 함수 f의 선택이 상호정보량 최대화 프레임워크의 성능과 수렴에 어떤 영향을 미치는가?
• RQ5 입력 소스 중 하나가 고차원이거나 명시적 생성 모델이 없는 경우, f-상호정보량 증가량은 어떤 환경에서 실용적으로 적용될 수 있는가?

주요 결과

• f-상호정보량 증가량 프레임워크는 PS-gain에 비해 확장성과 강건성을 확보하며, 고차원 입력 공간에 대한 정규화가 필요 없음을 보여준다.
• 입력 공간 X_B가 고차원일 경우(예: 100×100 이미지), PS-gain은 2^100 정규화 요구로 인해 계산적으로 불가능해지지만, f-상호정보량 증가량은 여전히 처리 가능하다.
• 메커니즘 설계 프레임워크는 진실성 있는 예측이 엄밀한 균형 상태임을 보장하며, 약간의 사전 조건 하에 비치환 전략 프로파일보다 엄밀히 높은 수익을 얻는다.
• 제안된 프레임워크는 상호정보량 최대화 하에서 예측자 평가와 보상 설계가 이중 문제임을 보여줌으로써, 공훈련과 예측 유도를 통합한다.
• 노이즈가 있는 레이블이 있는 학습 환경에서는, 레이블 전이 모델이 단순하고 저차원일 경우, PS-gain과 f-상호정보량 증가량 모두 적용 가능하다.
• 충분한 모델 용량과 일반화 능력을 가진 경우, 베이지안 사후분포를 근사하는 신경망 기반 가설 가족을 통해 프레임워크의 실용적 구현이 가능하다.