[論文レビュー] Bayesian active learning for choice models with deep Gaussian processes

Jie Yang, Diego Klabjan|arXiv (Cornell University)|May 4, 2018

Gaussian Processes and Bayesian Inference参考文献 16被引用数 3

ひとこと要約

本稿では、深層ガウス過程（DGP）とGumbel分布ノイズを用いたベイジアンアクティブラーニングフレームワークを提案し、ペアワイズ比較から個人の好みをモデル化する選択モデルに応用する。新規の獲得関数を導入することで、最小限のクエリで最も好まれる選択肢を効率的に同定でき、合成関数および実際の航空券ルートデータセットの両方でベースラインモデルを上回る性能を発揮する。特に計算コストが制約されない状況下で顕著な優位性を示す。

ABSTRACT

In this paper, we propose an active learning algorithm and models which can gradually learn individual's preference through pairwise comparisons. The active learning scheme aims at finding individual's most preferred choice with minimized number of pairwise comparisons. The pairwise comparisons are encoded into probabilistic models based on assumptions of choice models and deep Gaussian processes. The next-to-compare decision is determined by a novel acquisition function. We benchmark the proposed algorithm and models using functions with multiple local optima and one public airline itinerary dataset. The experiments indicate the effectiveness of our active learning algorithm and models.

研究の動機と目的

• 個人の最も好まれる選択肢を特定するために必要なペアワイズ比較の回数を最小限に抑えるアクティブラーニングアルゴリズムの開発を目的とする。
• ネスト型ロジットなどの離散的選択モデルの仮定に整合するように、Gumbel分布ノイズを用いた深層ガウス過程を用いて個人の好みをモデル化することを目的とする。
• 情報量の増加を最大化するように次回のペアワイズ比較を選択するための新規獲得関数の設計を目的とする。
• 複数の局所最適解を有する合成関数および実世界の航空券ルートデータセットの両方で、本手法の評価を目的とする。
• クエリ数および計算リソースの制約が異なる状況下で、深層ガウス過程モデル（DC-DGP）と標準ガウス過程モデル（DC-GP）、およびランダムサーチの性能を比較することを目的とする。

提案手法

• 本手法は、選択特徴量上に深層ガウス過程（DGP）の事前分布を用いて潜在的ユーティリティをモデル化し、線形ユーティリティ関数を超える非線形な好みのモデル化を可能にする。
• ペアワイズ比較は、ネスト型ロジットや一般化極値（GEV）選択モデルの仮定を満たすGumbel分布ノイズを用いた確率的モデルで符号化される。
• ペアワイズ比較の同時分布は独立性を仮定せず、選択間の相関のある好みを扱えるようにモデル化される。
• 探索と活用のバランスを最適化するため、次回の比較対象ペアを選択する新しい獲得関数が提案される。
• アルゴリズムは情報量の多いペアワイズ比較を逐次的にクエリし、ベイズ推論を用いて潜在的ユーティリティの事後分布を更新する。
• 適応的UCBやその他の獲得戦略を代替として評価し、異なるクエリ予算におけるロバストネスを検証する。

実験結果

リサーチクエスチョン

• RQ1 Gumbelノイズを用いた深層ガウス過程は、選択実験における複雑で非線形な個人の好み構造を効果的にモデル化できるか？
• RQ2 提案された獲得関数は、UCBやランダム選択といった標準的な戦略を上回り、最も好まれる選択肢を特定するためのクエリ回数を最小限に抑えることができるか？
• RQ3 特徴次元数やクエリ予算が異なる状況下で、DC-DGPモデルとDC-GPモデルの性能および計算コストの違いは何か？
• RQ4 より深いDGP構造（例：DC-DGP5）は、単純なモデル（例：DC-DGP1）に比べて、どのような状況で顕著な性能向上をもたらすか？
• RQ5 実世界のデータ、例えば543件のインスタンスと17次元の特徴を持つ航空券ルートデータセットにおいて、本手法はどのようにスケーリングするか？

主な発見

• 航空券データセットにおいて、DC-DGP5モデルは20回のクエリ以内に最適なルートを特定するという最高の性能を達成し、DC-DGP1およびDC-GPを上回った。
• 高次元問題（17次元）において、提案された獲得関数は最初の15回のクエリにおいて適応的UCBを上回ったが、それ以降は性能が低下した。
• 計算時間の制約がある場合には、適応的UCBを用いたDC-GPモデルが推奨され、特に高次元または時間制限のある状況に適している。
• 低次元または時間制約のある状況（例：2次元）では、適応的UCBを用いたDC-GPモデルが、速度と精度の良好なトレードオフを実現する。
• より多くのクエリが許容可能で、高い精度が求められる場合には、適応的UCBを用いたDC-DGP1モデルが好ましい。
• 計算コストが制約されず、クエリ回数が限られている状況では、提案された獲得関数を用いたDC-DGP5モデルが最適である。