[論文レビュー] Credibility evaluation of income data with hierarchical correlation reconstruction

Jarek Duda, Adam Szulc|arXiv (Cornell University)|Dec 19, 2018

Advanced Data Compression Techniques参考文献 9被引用数 4

ひとこと要約

本稿では、内生変数を用いて条件付き確率分布をモデル化することにより、申告所得の信頼性を評価するための階層的相関再構成（HCR）手法を提案する。所得を一様[0,1]分布に正規化し、正規直交多項式の線形結合として密度をモデル化することで、解釈可能なモーメントベースの信頼性スコアリングが可能となり、m=4で対数尤度性能が最適化される。

ABSTRACT

In situations like tax declarations or analyzes of household budgets we would like to automatically evaluate credibility of exogenous variable (declared income) based on some available (endogenous) variables - we want to build a model and train it on provided data sample to predict (conditional) probability distribution of exogenous variable based on values of endogenous variables. Using Polish household budget survey data there will be discussed simple and systematic adaptation of hierarchical correlation reconstruction (HCR) technique for this purpose, which allows to combine interpretability of statistics with modelling of complex densities like in machine learning. For credibility evaluation we normalize marginal distribution of predicted variable to $ρ\approx 1$ uniform distribution on $[0,1]$ using empirical distribution function $(x=EDF(y)\in[0,1])$, then model density of its conditional distribution $( extrm{Pr}(x_0|x_1 x_2\ldots))$ as a linear combination of orthonormal polynomials using coefficients modelled as linear combinations of features of the remaining variables. These coefficients can be calculated independently, have similar interpretation as cumulants, additionally allowing to directly reconstruct probability distribution. Values corresponding to high predicted density can be considered as credible, while low density suggests disagreement with statistics of data sample, for example to mark for manual verification a chosen percentage of data points evaluated as the least credible.

研究の動機と目的

• 補助的世帯変数を用いて、申告所得の信頼性を自動的に評価する手法を開発すること。
• 平均だけでなく、条件付き確率分布全体をモデル化することで、多峰的または異常なパターンの検出を可能にすること。
• 統計的モーメントの解釈可能性と機械学習に類似した密度モデリングの柔軟性を統合すること。
• 経験的分布関数による正規化を用いて周辺分布を一様に保つことで、所得範囲全体にわたる公平な信頼性スコアリングを可能にすること。
• 予測された分布における低密度領域を、手動レビューが必要な可能性のある外れ値または誤りとして特定すること。

提案手法

• 経験的分布関数（EDF）を用いて、外生変数（申告所得）を一様[0,1]分布に正規化する。
• 条件付き密度 Pr(x₀|x₁,…,x_d) を、x₀に関する正規直交多項式の線形結合としてモデル化し、係数は最小二乗回帰により内生変数に依存する形で推定する。
• 多項式展開の係数を用いて統計的モーメント（平均、分散、歪度、尖度）を表現し、積モーメントに類似した解釈が可能になる。
• 75%のポーランド世帯予算調査データを訓練に、残りの25%を評価に使用し、主に対数尤度を指標とする。
• 階層的相関再構成（HCR）を用いて結合密度をモデル化し、係数は平均二乗誤差の最小化により最適化する。
• モデルの次数m（最大9）を用いて複雑さを制御し、m=4が性能と解釈可能性のバランスにおいて最適であると判明した。

実験結果

リサーチクエスチョン

• RQ1 階層的相関再構成は、補助変数に基づく複雑で多峰的な所得データの条件付き密度を効果的にモデル化できるか？
• RQ2 多項式次数mの選択が予測対数尤度および信頼性評価の正確さに与える影響はいかほどか？
• RQ3 多項式展開の係数は、平均、分散、歪度などの意味のある統計的モーメントとして解釈可能か、その程度はどの程度か？
• RQ4 予測された密度値が低い点は、標本から統計的に整合しない点（潜在的な誤りや不正）を信頼性高く特定できるか？
• RQ5 2点相関だけでなく3点相関などの高次依存性を組み込むことで、2点相関のみのアプローチに比べて信頼性モデリングがどの程度向上するか？

主な発見

• m=2を用いた場合、一様ベースライン（ρ=1）に対して約1.5ビットの対数尤度の向上を示し、実際の所得値の予測精度が顕著に向上している。
• m=4で性能がピークに達し、一様ベースラインに対して約2.0ビットの対数尤度向上を示し、複雑さと正確さのバランスが最適であることが示された。
• m=4の場合、標本よりも高い分散を持つ条件付き密度を予測しており、尾部の挙動が強化され、多峰的パターンの検出能力が向上している。
• 予測された分布の約1/3が、標本の標準偏差よりも大きい標準偏差を持つことから、極端値への感受性が向上していることが示唆された。
• 連続変数（例：食料費、年齢）の係数には解釈可能な関係が見られる：食料費の係数が負であることは所得と負の相関があることを示し、年齢の係数が正であることは正の関連があることを示している。
• 本手法は、12人で構成される世帯を外れ値として特定し、予測された所得の急激な低下が顕著に現れる例を示しており、稀なデータポイントへの感受性が高まっていることを示している。