[論文レビュー] Water from Two Rocks: Maximizing the Mutual Information

Yuqing Kong, Grant Schoenebeck|arXiv (Cornell University)|Feb 24, 2018

Machine Learning and Algorithms参考文献 5被引用数 7

ひとこと要約

本稿は、ラベルなしで、条件付き独立な2つのデータソース X_A と X_B からの情報理論的枠組みを用いて、機械学習におけるコ・トレーニングと予測の獲得を統合する。この枠組みは、潜在ラベル Y に対して、条件付き独立なデータソース間の相互情報量を最大化することに焦点を当てる。f-相互情報量ゲインを、ラベルなしや真のラベルの確認ができない状況でも、『単純な合意』問題を回避する強固でスケーラブルな評価指標として提案する。これにより、真の予測が可能となり、最適な予測が達成される。

ABSTRACT

We build a natural connection between the learning problem, co-training, and forecast elicitation without verification (related to peer-prediction) and address them simultaneously using the same information theoretic approach. In co-training/multiview learning, the goal is to aggregate two views of data into a prediction for a latent label. We show how to optimally combine two views of data by reducing the problem to an optimization problem. Our work gives a unified and rigorous approach to the general setting. In forecast elicitation without verification we seek to design a mechanism that elicits high quality forecasts from agents in the setting where the mechanism does not have access to the ground truth. By assuming the agents' information is independent conditioning on the outcome, we propose mechanisms where truth-telling is a strict equilibrium for both the single-task and multi-task settings. Our multi-task mechanism additionally has the property that the truth-telling equilibrium pays better than any other strategy profile and strictly better than any other "non-permutation" strategy profile when the prior satisfies some mild conditions.

研究の動機と目的

• ラベルデータ (Y) が一切利用できない状況で、潜在ラベル Y の正確な予測を学習する課題に対処すること。これには、2つの条件付き独立なデータソース X_A と X_B のみに依存する。
• 真のラベルにアクセスできないエージェントから、高品質な予測を獲得するインcentive-compatibleなメカニズムを設計すること。これにより、真実を述べることが厳密なナッシュ均衡となるように保証する。
• 予測が同一で情報のない予測に収束する『単純な合意』問題を克服する。これには、合意に基づく報酬を相互情報量最大化に置き換える。
• 特に f-ダイバージェンスと相互情報量を用いた情報理論を活用し、多視点学習とピア予測を統合する理論的枠組みを提供する。
• 相互情報量最大化に基づくスケーラブルな評価指標（例：f-相互情報量ゲイン）を用いて、実用的かつ実装可能な展開を可能にする。これには、結合分布の完全な知識や高次元空間における正規化を必要としない。

提案手法

• 潜在ラベル Y を条件として、2つのデータソース X_A と X_B 間の相互情報量を最大化する最適化問題として、コ・トレーニングと予測獲得の問題を定式化する。
• f-ダイバージェンスに基づく相互情報量ゲインを性能指標として用い、高次元入力に対してもロバストで、従来の手法で一般的な正規化問題を回避する。
• PS-gain と LSR-gain を、一般化された f-相互情報量フレームワークの特別なケースとして導入する。PS-gain は入力空間全体の正規化を必要とし、LSR-gain は生成モデルに依存する。
• 予測子の評価と報酬設計の双対性を確立することで、f-相互情報量ゲインフレームワークを学習とメカニズム設計の両方へ応用する。
• 条件付き独立性と情報理論的インcentiveを活用することで、メカニズム設計の文脈で真実を述べることが厳密なナッシュ均衡となるように保証する。
• ニューラルネットワークやその他のパラメトリックな仮説族を用いてベイジアン後確率を近似することで、高次元入力を持つ実世界データに対してもスケーラブルな実装を可能にする。

実験結果

リサーチクエスチョン

• RQ1 2つの条件付き独立なソース X_A と X_B のみを用いて、ラベルデータ (Y) が一切入手できない状況でも、潜在ラベル Y の最適な予測子を評価・学習することは可能か？
• RQ2 真のラベルにアクセスできない状況で、エージェントから真実の予測を獲得するインcentiveメカニズムをどのように設計できるか。また、真実を述べることが厳密なナッシュ均衡となるように保証できるか？
• RQ3 コ・トレーニングとピア予測の両方で『単純な合意』問題を回避する根本的な情報理論的原則は何か？
• RQ4 f-ダイバージェンスにおける凸関数 f の選択が、相互情報量最大化フレームワークの性能と収束性に与える影響は何か？
• RQ5 入力ソースの1つが高次元である、もしくは明示的な生成モデルがない状況において、f-相互情報量ゲインはどのような状況で実用的に応用可能か？

主な発見

• f-相互情報量ゲインフレームワークは、PS-gain よりもスケーラブルかつロバストな代替手段を提供し、高次元入力空間における正規化の必要性を回避する。
• 入力空間 X_B が高次元（例：100×100 の画像）の場合、PS-gain は 2^100 の正規化を要するため計算的に非現実的となるが、f-相互情報量ゲインは依然として実行可能である。
• メカニズム設計フレームワークにより、真実を述べることが厳密なナッシュ均衡となり、弱い事前分布の条件下でも、任意の非置換戦略の組み合わせよりも高い報酬が得られる。
• 提案されたフレームワークは、相互情報量最大化の下で予測子評価と報酬設計が双対的であることを示すことにより、コ・トレーニングと予測獲得を統合する。
• ノイズのあるラベルを伴う学習設定では、ラベル遷移モデルが単純かつ低次元であれば、PS-gain と f-相互情報量ゲインの両方が適用可能である。
• 十分なモデル容量と一般化能力を仮定すれば、ベイジアン後確率を近似するニューラルネットワークベースの仮説族を用いることで、過学習を避ける実用的展開が可能となる。