[論文レビュー] Learning relationships between data obtained independently

Alexandra Carpentier, Teresa Schlueter|arXiv (Cornell University)|Jan 4, 2016

Machine Learning and Algorithms参考文献 9被引用数 6

ひとこと要約

本稿では、文脈変数に依存せずに、独立に収集されたデータ間の単調な関係を学習するための新規手法を提案する。定量マッチングとデコンボリューションを組み合わせ、従来の定量マッチングに比べて、妥当なノイズ分布を仮定した場合、平均二乗誤差を最大50％まで低減する。

ABSTRACT

The aim of this paper is to provide a new method for learning the relationships between data that have been obtained independently. Unlike existing methods like matching, the proposed technique does not require any contextual information, provided that the dependency between the variables of interest is monotone. It can therefore be easily combined with matching in order to exploit the advantages of both methods. This technique can be described as a mix between quantile matching, and deconvolution. We provide for it a theoretical and an empirical validation.

研究の動機と目的

• 独立に収集された変数間の関係を推定する課題に取り組むこと、特に文脈データが利用できない状況を想定する。
• 不正確または希少な文脈変数の下で性能が低下するマッチング手法の限界を克服すること。
• 依存関数の単調性と既知または推定可能なノイズ分布を活用する手法を開発すること。
• 既存のデータ統合技術の理論的裏付けと実証的妥当性を持つ代替または補完手法を提供すること。

提案手法

• 本手法は、$ h $ が単調であり、ノイズ $ \epsilon $ が既知または推定可能であると仮定して、2つの独立に収集された変数 $ X $ と $ Y $ 間の依存関数 $ h $ を推定する。
• 定量マッチングとデコンボリューションを組み合わせる：正確な値でのマッチングではなく、ノイズをデコンボリューションステップで補正しながら、分位点をマッチングする。
• デコンボリューションステップでは、既知または推定可能なノイズ分布 $ \xi $ を用いて、観測された $ Y $ の測定誤差を補正し、推定精度を向上させる。
• 本手法は、$ Y = h(X, Z) + \epsilon $ と仮定し、$ Z $ が存在しない場合には $ h $ が $ X $ に対して単調であるとし、分位点ベースの整合性を実現する。
• $ X $ と $ Y $ の経験的分位点を用いてマッピングを構築し、ノイズのデコンボリューションを適用して推定された $ h $ を精緻化する。
• ノイズ分布の誤指定に対してもロバストである—$ \xi $ の妥当な近似を用いても、純粋な定量マッチングよりも顕著な改善が得られる。

実験結果

リサーチクエスチョン

• RQ1 文脈変数が利用できない状況で、2つの独立に収集された変数間の関数的関係を推定できるか？
• RQ2 依存関数の単調性が、共変数に基づくマッチングなしで推定を可能にする仕組みは何か？
• RQ3 推定または近似されたノイズ分布を用いたデコンボリューションは、従来の定量マッチングに比べてどの程度推定精度を向上させるか？
• RQ4 本手法は、仮定されたノイズ分布の誤差に対してどの程度感受性を示すか？
• RQ5 本手法は、既存のマッチング手法と効果的に組み合わせられ、データ統合を強化できるか？

主な発見

• 提案手法は、純粋な定量マッチングに比べて平均二乗誤差（MSE）を最大50％まで低減し、$ \xi = U([-2.5, 2.5]) $ を用いた場合のMSEは8.23、定量マッチングの8.62より低い。
• 一様ノイズ分布 $ U([-0.5, 0.5]) $ を用いたデコンボリューションではMSEが8.54となり、定量マッチングを上回る性能を示す。
• ノイズ分布が誤って指定された場合でも、例えば $ \mathcal{N}(0, 0.1) $ を用いた場合でも、定量マッチングを上回る性能を発揮する。
• デコンボリューションにおいてノイズ範囲を広くとること（例：$ U([-2.5, 2.5]) $）により、元の関数の再構築がより明確かつ正確になる。
• 真のノイズ分布が不明であっても、妥当な近似が得られていれば、本手法は良好な性能を発揮する。
• ロンドンの地区データを用いた実証的結果では、本手法が空間的価格パターンを高い忠実度で再構築できており、ベースラインのマッチング手法を上回っている。