[論文レビュー] Restricted Boltzmann Machines for Robust and Fast Latent Truth Discovery

Klaus Broelemann, Thomas Gottron+1 more|arXiv (Cornell University)|Dec 31, 2017

Adversarial Robustness in Machine Learning参考文献 11被引用数 7

ひとこと要約

本稿では、制限ボルツマンマシン（RBMs）に基づく、ノイズが多く矛盾するデータから真の値とソース信頼性を同時に推定する、新たな潜在的真実発見手法LTD-RBMを提案する。コントラスト型ダイバージェンスとギブスサンプリングを用いることで、多様なデータセットにおいて、有効性、効率性、耐障害性に優れ、特にハイパーパrameterやデータ品質の変動に強い、最先端の手法を上回る性能を発揮する。

ABSTRACT

We address the problem of latent truth discovery, LTD for short, where the goal is to discover the underlying true values of entity attributes in the presence of noisy, conflicting or incomplete information. Despite a multitude of algorithms to address the LTD problem that can be found in literature, only little is known about their overall performance with respect to effectiveness (in terms of truth discovery capabilities), efficiency and robustness. A practical LTD approach should satisfy all these characteristics so that it can be applied to heterogeneous datasets of varying quality and degrees of cleanliness. We propose a novel algorithm for LTD that satisfies the above requirements. The proposed model is based on Restricted Boltzmann Machines, thus coined LTD-RBM. In extensive experiments on various heterogeneous and publicly available datasets, LTD-RBM is superior to state-of-the-art LTD techniques in terms of an overall consideration of effectiveness, efficiency and robustness.

研究の動機と目的

• 有効性、効率性、耐障害性の観点から、潜在的真実発見（LTD）手法の包括的評価が不足しているという問題に取り組む。
• 異なるデータ品質とソース信頼性を伴う異種のデータセットにおいても良好に動作する実用的なLTDアプローチを開発する。
• 実世界の展開における課題を反映するように、多様なハイパーパrameter設定下でも安定性と高い性能を確保する。
• 従来の研究における限界、例えば非透明な前処理、パラメータ依存性、耐障害性の評価不足を克服する。
• 離散的および連続的データタイプを効果的に扱える汎用的でスケーラブルかつ耐障害性の高いモデルを提供する。

提案手法

• 制限ボルツマンマシン（RBMs）に基づく確率的モデルを用いてLTD問題を定式化し、真の値とソース信頼性の同時推定を可能にする。
• RBMsにおける効率的なパラメータ学習のため、コントラスト型ダイバージェンスを採用し、トレーニング中の高速収束を実現する。
• 潜在変数の近似的な推論を実現するため、ギブスサンプリングを統合し、不確実性下でも頑健な推定を可能にする。
• 離散的および連続的属性値をサポートする汎用的なデータモデルを設計し、多様なデータタイプへの適用可能性を高める。
• 認識精度を基準として、認識精度を基準に、ハイパーパrameter（初期ソース信頼性、学習率、減衰率、2-Estimates特有のパラメータ）を交互最適化により調整する。
• データ正規化と矛盾する主張の低減を実現する前処理パイプラインを実装するが、同時に、前処理を行わないデータに対してもモデルの耐障害性を保持する。

実験結果

リサーチクエスチョン

• RQ1 LTD-RBMは、多様なデータセットにおいて、最先端のLTD手法と比較して、全体的な有効性、効率性、耐障害性の観点でどの程度優れているか？
• RQ2 真の値が不明な状況下でも、LTD-RBMはハイパーパrameter設定の変動に対してどの程度耐障害性を示すか？
• RQ3 前処理はLTD手法の性能にどの程度影響を与えるか？また、LTD-RBMは、生データおよび前処理済みデータの両方で高い性能を維持できるか？
• RQ4 RBMsを用いたモデルは、矛盾する情報、ノイズの多い情報、不完全な情報に対しても、高い正確性と計算効率を維持して効果的に処理できるか？
• RQ5 データ品質やソース正確性の変動に伴って、LTD-RBMは正規化エントロピーおよび主張の重複度の観点から、どの程度の性能を示すか？

主な発見

• LTD-RBMは、認識精度の観点から、すべてのデータセットでMLE、LTM、2-Estimatesを上回る最高の全体的性能を達成した。
• 前処理済みのフライトデータセットにおいて、LTD-RBMは、初期の誤検出率の設定に関わらず、80％を超える高い正確性を維持した。これは、極めて高い耐障害性を示している。
• ハイパーパrameterが不適切に選択された場合でも、LTD-RBMは安定した性能を示したが、MLEやLTMは、非最適な設定下で著しく性能が低下した。
• 主張の多様性が高い未処理データセットでは、カテゴリカル版のLTD-RBMが最も優れた性能を発揮した。これは、ノイズが多く汚れた生データの処理における強みを示している。
• 特にエントロピーが高いデータセットでは、LTD-RBMの耐障害性が顕著に現れ、困難な真実発見の状況下でも優れた正確性を維持した。
• 本研究では、前処理が結果に大きな影響を与えることが判明したが、LTD-RBMの性能は、比較手法と比べてその変化に対してより感受性が低かった。