[論文レビュー] Jointly Learning Multiple Measures of Similarities from Triplet Comparisons

Liwen Zhang, Subhransu Maji+1 more|arXiv (Cornell University)|Mar 5, 2015

Multimodal Machine Learning Applications参考文献 28被引用数 4

ひとこと要約

本稿では、三重対比較を用いて、共有されたグローバル埋め込みの低ランク射影として各ビューをモデル化することで、複数のビュー固有の類似度測度を共同で学習するフレームワークを提案する。行列分解を用いたアプローチによりビュー間の相関を活用し、トレースノルム正則化を施すことで、独立学習やプールド学習と比較して、特にデータが限られた状況下でもより低い三重対一般化誤差を達成する。ISOLETデータセットではMT-LMNNを上回る性能を示した。

ABSTRACT

Similarity between objects is multi-faceted and it can be easier for human annotators to measure it when the focus is on a specific aspect. We consider the problem of mapping objects into view-specific embeddings where the distance between them is consistent with the similarity comparisons of the form "from the t-th view, object A is more similar to B than to C". Our framework jointly learns view-specific embeddings exploiting correlations between views. Experiments on a number of datasets, including one of multi-view crowdsourced comparison on bird images, show the proposed method achieves lower triplet generalization error when compared to both learning embeddings independently for each view and all views pooled into one view. Our method can also be used to learn multiple measures of similarity over input features taking class labels into account and compares favorably to existing approaches for multi-task metric learning on the ISOLET dataset.

研究の動機と目的

• ノイズが多く曇った類似度判断が生じるマルチビュー・データの課題に、ビュー固有の比較に焦点を当てることで対処すること。
• 限られたデータで一般化性能を向上させるために、ビュー間の相関を活用するビュー固有の埋め込みを共同で学習すること。
• 共有された低次元埋め込みとビュー固有の局所メトリクスを用いて、複数の類似度測度をモデル化すること。
• 入力特徴量とクラスラベルを統合することでマルチタスクメトリクス学習にフレームワークを拡張すること。
• 合成データおよび実世界のデータセットにおいて、独立学習およびプールド学習と比較して性能が向上することを示すこと。

提案手法

• 本手法は、各ビューの類似度メトリクスを共有グローバル埋め込み行列 $\boldsymbol{L}$ とビュー固有の半正定値行列 $\boldsymbol{M}_t$ の積、すなわち $\boldsymbol{L}\boldsymbol{M}_t\boldsymbol{L}^\top$ としてモデル化する。
• 学習問題は、三重対比較におけるヒンジ損失またはロジスティック損失の最小化として定式化され、モデルの複雑さとランクを制御するため、$\boldsymbol{L}$ および $\boldsymbol{M}_t$ にトレースノルム正則化を適用する。
• 最適化は、交互に更新する手法で実行される：まず $\boldsymbol{L}$ を固定して $\boldsymbol{M}_t$ を更新し、次に $\boldsymbol{M}_t$ を固定して $\boldsymbol{L}$ を更新する。
• 各クラスをビューとして扱うことで、入力特徴量とクラスラベルを統合したマルチタスクメトリクス学習への拡張がなされる。
• 高次元特徴量に対してPCAによる次元削減を施し、ISOLETの実験と同様に確率的最適化を用いてモデルを学習する。
• 本手法は、合成データ、航空機のポーズ、CUB鳥の部位比較、およびマルチタスク学習のためのISOLETデータセットで評価されている。

実験結果

リサーチクエスチョン

• RQ1 共有埋め込みを用いたビュー固有の類似度メトリクスの共同学習は、独立学習やプールド学習と比較して一般化性能を向上させるか？
• RQ2 ビュー間の相関が、共同学習フレームワークの性能にどのように影響するか？
• RQ3 入力特徴量とクラスラベルが利用可能な状況で、本手法は複数の類似度測度を効果的に学習できるか？
• RQ4 本手法は、MT-LMNNのような最先端のマルチタスクメトリクス学習ベースラインを上回るか？
• RQ5 正則化を適用した場合、埋め込み次元 $D$ の選択にどの程度感度を示すか？

主な発見

• 提案手法は、すべてのテストデータセットで独立学習およびプールド学習と比較して、特に訓練データが限られた状況下でより低い三重対一般化誤差を達成した。
• クラウドソーシングで得られた部位比較に基づくCUB鳥データセットでは、共同モデルが独立およびプールドアプローチを著しく上回った。
• ISOLETデータセットでは、テスト誤差率が5.19％（ビュー固有）および4.01％（全データ）を記録し、元のMT-LMNNの結果を上回った。
• 本手法は埋め込み次元 $D$ に対してやや弱い依存性を示し、これは正則化が有効次元を制御していることを示唆しており、これは命題1によって裏付けられている。
• 三重対の一貫性で測定されるように、ビュー同士が類似しているが冗長ではない場合に、共同学習フレームワークは最も効果的である。
• 三重対の数が少ない場合でも、本手法は類似度学習におけるデータ効率性を示した。