[論文レビュー] Noise Induces Loss Discrepancy Across Groups for Linear Regression.

Fereshte Khani, Percy Liang|arXiv (Cornell University)|Nov 22, 2019

Explainable Artificial Intelligence (XAI)参考文献 23被引用数 5

ひとこと要約

本稿は、線形回帰において、測定誤差（特徴量のノイズ）が、均等に適用されても、性的・文化的背景ごとの損失差を不均等に影響することを調査している。ノイズが一様に適用されても、特徴量のモーメントのグループ差が、モデル性能の不均衡を引き起こすことが示され、推定器がグループシフトに適応する条件が導出されており、実世界のデータセットを用いた検証も行われている。

ABSTRACT

We study the effect of feature noise (measurement error) on the discrepancy between losses across two groups (e.g., men and women) in the context of linear regression. Our main finding is that adding even the same amount of noise on all individuals impacts groups differently. We characterize several forms of loss discrepancy in terms of the amount of noise and difference between moments of the two groups, for estimators that either do or do not use group membership information. We then study how long it takes for an estimator to adapt to a shift in the population that makes the groups have the same mean. We finally validate our results on three real-world datasets.

研究の動機と目的

• 特徴量の測定誤差が、線形回帰において性的・文化的背景ごとのモデル性能にどのように不均等に影響を与えるかを理解すること。
• ノイズレベルとグループ固有の特徴量モーメント差の関数として、グループ間の損失差を特定すること。
• グループメンバーシップ情報を使用するか否かに応じて、損失差を軽減または悪化させる推定器を比較すること。
• 集団の平均がシフト後に等しくなるような状況において、推定器が適応するまでの時間を分析すること。
• 多様なグループ分布を有する実世界のデータセットを用いて、理論的知見を検証すること。

提案手法

• 特徴量のノイズ下での線形回帰における損失差の解析的表現を、グループ固有の一次モーメントおよび二次モーメントに基づいて導出する。
• すべての個人に同じノイズ分散が均等に適用されるノイズモデルを用い、グループレベルでの影響の差はモーメントの差異に起因することを示す。
• グループ認識型とグループ無視型の両方の推定器を分析し、ノイズ誘発損失シフトに対する感受性を比較する。
• グループ平均がシフト後に等しくなる集団シフトをモデル化し、推定器が適応するための収束速度を導出する。
• 理論的予測の妥当性を検証するため、3つの実世界データセットを用いた実証的検証を実施する。

実験結果

リサーチクエスチョン

• RQ1 均等な特徴量ノイズが、性的・文化的背景ごとのグループ間で、どのように不均等な損失差を引き起こすのか？
• RQ2 グループ特徴量モーメントの差（例：平均や分散）が、ノイズ下での損失差をどのように拡大または抑制するのか？
• RQ3 グループ認識型とグループ無視型の推定器は、ノイズ誘発損失差に対してどのように反応するのか？
• RQ4 集団シフトによってグループ平均が等しくなった後、線形回帰推定器がその状態に適応するまでにどのくらいの時間がかかるのか？
• RQ5 損失差に関する理論的予測が、実世界のデータセットにおいてどの程度成立するのか？

主な発見

• 同じノイズレベルであっても、特徴量モーメントの差異により、グループ間での損失差が生じる。
• 損失差は、ノイズの大きさおよびグループ特徴量の平均・分散の差異が大きいほど増大する。
• グループ認識型推定器は損失差を軽減するが完全に解消しない一方、グループ無視型推定器はより感受性が強い。
• 推定器がグループ平均が等しくなるシフトから回復するまでの適応時間は、ノイズレベルおよびシフト前のグループモーメント差に依存する。
• 3つの実世界データセットにおける実証的結果から、ノイズが性的・文化的背景ごとの有意で測定可能な損失差を引き起こすことが確認された。
• 損失差と適応速度に関する理論的予測が、実データの観測パターンとよく一致している。