[論文レビュー] Denoising individual bias for a fairer binary submatrix detection

Changlin Wan, Wennan Chang+3 more|arXiv (Cornell University)|Jul 31, 2020

Face and Expression Recognition参考文献 6被引用数 4

ひとこと要約

本稿では、バイナリ行列における非一様で非i.i.d.なバックグラウンドノイズをモデル化することで、バイナリ部分行列検出における公平性と正確性を向上させる、denoisingフレームワークBINDを提案する。パターンとバックグラウンド確率の混合分布を推定することで、バックグラウンドノイズ由来である可能性の高い属性を同定・除去し、合成データおよび実世界データにおいて、最先端のBMFおよび共同クラスタリング手法の性能を顕著に向上させる。

ABSTRACT

Low rank representation of binary matrix is powerful in disentangling sparse individual-attribute associations, and has received wide applications. Existing binary matrix factorization (BMF) or co-clustering (CC) methods often assume i.i.d background noise. However, this assumption could be easily violated in real data, where heterogeneous row- or column-wise probability of binary entries results in disparate element-wise background distribution, and paralyzes the rationality of existing methods. We propose a binary data denoising framework, namely BIND, which optimizes the detection of true patterns by estimating the row- or column-wise mixture distribution of patterns and disparate background, and eliminating the binary attributes that are more likely from the background. BIND is supported by thoroughly derived mathematical property of the row- and column-wise mixture distributions. Our experiment on synthetic and real-world data demonstrated BIND effectively removes background noise and drastically increases the fairness and accuracy of state-of-the arts BMF and CC methods.

研究の動機と目的

• 実世界データに見られる非一様で非i.i.d.なバックグラウンドノイズが原因で生じるバイナリ行列因子分解（BMF）および共同クラスタリング（CC）における公平性の問題に対処すること。
• 個々のユーザーの行動やアイテムの人気度といった要因によるバイアスに起因する可能性の高いバイナリ属性を同定・除去し、真の背後にあるパターンとは異なるものに焦点を当てる。
• アルゴリズムの再実装を必要とせず、既存のBMFおよびCC手法を一般化して向上させる、汎用的なノイズ除去フレームワークの開発。
• バイナリ行列におけるパターンとバックグラウンド確率の行および列方向の混合分布について、厳密な数学的導出を提供すること。

提案手法

• 観測されたバイナリ行列を、真のランク1のパターン、行および列方向の確率を持つ非一様なバックグラウンド行列、およびi.i.d.ノイズの組み合わせとしてモデル化する。
• 各行および各列における1の周辺確率を推定し、経験的頻度を用いてバックグラウンド分布を推定する。
• 四分位数に基づくシフト関数を適用し、バックグラウンドと比較して1が過剰に出現する行および列を特定し、真のパターンの兆候とみなす。
• しきい値処理を用いて高信号の行および列を選別し、後続のBMFまたはCC分析用のノイズ除去された部分行列を構築する。
• 既存のBMFまたはCCアルゴリズムに適用可能な、前処理レイヤーとしてのノイズ除去ステップを統合する。
• 混合分布の数学的性質を活用し、ノイズ除去プロセスの統計的妥当性を裏付ける。

実験結果

リサーチクエスチョン

• RQ1 ユーザーの行動やアイテムの人気度といった個別レベルのバイアスによって引き起こされる非一様なバックグラウンドノイズは、既存のBMFおよびCC手法の公平性と正確性にどのように影響を与えるか？
• RQ2 非i.i.d.なバックグラウンド分布をモデル化するデータ駆動型ノイズ除去フレームワークは、バイナリ行列における真のランク1部分行列の検出をどのように改善できるか？
• RQ3 提案されたBINDフレームワークは、合成データおよび実世界データの両方において、最先端のBMFおよびCC手法の性能をどの程度向上させるか？
• RQ4 このフレームワークは、推薦システムのような実世界応用において、より優れた解釈可能性と安定性をどのように実現するか？

主な発見

• 合成データ全般において、非ノイズ除去ベースライン（τ=0）と比較して、BINDはJaccard指数を平均2.6倍に向上させた。
• LOM BMF手法と組み合わせた場合、BINDはパターン検出におけるJaccard指数を平均7.5倍に向上させ、顕著な正確性の向上を示した。
• Biclust CC手法と組み合わせた場合、BINDはJaccard指数を平均2.6倍に向上させ、異なるアルゴリズム的枠組みにおいても一貫した性能向上を確認した。
• Movielensデータにおいて、ノイズ除去領域（I¹）は、映画ジャンルにわたる分散が最小限で、より安定したユーザー評価行動を示し、より一貫性があり解釈可能なユーザーの嗜好を示した。
• 高信号領域（I¹）のユーザーは全体の活動が高かったが、ジャンルの多様性は低く、ターゲット指向の推薦の可能性を示唆した。
• 合成および実世界の両設定において、真のパターンがバックグラウンドノイズから効果的に分離されたことが、パターン回復の向上と誤検出の低減によって裏付けられた。