[論文レビュー] Distribution and Symmetric Distribution Regression Model for Histogram-Valued Variables

Sónia Dias, Paula Brito|arXiv (Cornell University)|Mar 25, 2013

Bayesian Methods and Mixture Models参考文献 25被引用数 4

ひとこと要約

本稿では、シンボリックデータ解析におけるヒストグラム値変数のための新しい分布および対称分布（DSD）回帰モデルを提案する。Mallows距離を用いて非負制約を満たすパラメータのもとで予測誤差を最小化する。このモデルは、単一の値ではなく、分布全体の予測を可能にし、0から1の間の適合度測度を有する。実データおよびシミュレートデータへの応用において優れた性能を示している。

ABSTRACT

Histogram-valued variables are a particular kind of variables studied in Symbolic Data Analysis where to each entity under analysis corresponds a distribution that may be represented by a histogram or by a quantile function. Linear regression models for this type of data are necessarily more complex than a simple generalization of the classical model: the parameters cannot be negative still the linear relationship between the variables must be allowed to be either direct or inverse. In this work we propose a new linear regression model for histogram-valued variables that solves this problem, named Distribution and Symmetric Distribution Regression Model. To determine the parameters of this model it is necessary to solve a quadratic optimization problem, subject to non-negativity constraints on the unknowns; the error measure between the predicted and observed distributions uses the Mallows distance. As in classical analysis, the model is associated with a goodness-of-fit measure whose values range between 0 and 1. Using the proposed model, applications with real and simulated data are presented.

研究の動機と目的

• パラメータの非負制約を尊重しつつ、直接的および逆方向の関係を許容するヒストグラム値変数のための線形回帰モデルの開発。
• グループ化または集計された分布を有するデータの固有のばらつきに対処できない古典的回帰の制限を解消すること。
• 平均などの要約統計量ではなく、ヒストグラム全体の予測により分布情報の保持を図ること。
• 予測された分位数関数と観測された分位数関数の類似度を定量的に反映する適合度測度の提供。
• 古典的回帰をシンボリックデータに拡張し、説明変数と応答変数の分布全体の間の関係をモデル化すること。

提案手法

• 非負制約のもとでパラメータを推定するための二次計画法フレームワークを採用し、物理的に意味のある係数を保証する。
• 予測された分布と観測された分布との誤差測度は、確率分布同士を比較するのに適したMallows距離に基づく。
• 応答変数は、非負に制約された係数を用いた説明変数のヒストグラム値変数の線形結合としてモデル化される。
• ヒストグラム値変数の経験的分布を表現するために分位数関数を組み込み、距離尺度による精密な比較を可能にする。
• 0から1の範囲で変動する適合度測度を導出。予測された分位数関数と観測された分位数関数の整合性に基づいてモデル性能を評価する。
• 実データとして米国州レベルの暴力犯罪および人口統計変数を用い、古典的平均ベース回帰と比較して予測を検証した。

実験結果

リサーチクエスチョン

• RQ1 ヒストグラム値変数のための線形回帰モデルを、パラメータの非負性を尊重しつつ、正の関係と負の関係の両方を許容する形でどのように定式化できるか。
• RQ2 回帰分析において、予測されたと観測されたヒストグラム値応答との乖離を測るのに最も適した距離尺度は何か。
• RQ3 シンボリック回帰における分布レベルの予測の質を反映する適合度測度を構築できるか。
• RQ4 DSDモデルは、分布を平均などの単一値に還元する古典的回帰モデルに比べて、予測精度で優れているか。
• RQ5 実世界の応用において、このモデルはばらつきや分布構造をどの程度保持しているか。

主な発見

• DSDモデルは、説明変数として人口統計のヒストグラムを用いて、米国州の暴力犯罪率（LVC）の対数の全ヒストグラムを的確に予測した。
• パラメータ推定値は、離婚者のシンボリック平均が1%増加すると、LVCの予測されたシンボリック平均が0.1720上昇することを示し、予測子の中で最も強い影響を示した。
• アーカンソー州の場合、LVCの予測ヒストグラムは4.2250から7.7913の範囲をカバーし、5つの区間で均等なビン頻度0.2を有した。
• 適合度測度は1に非常に近い値を示し、予測された分位数関数と観測された分位数関数の整合性が極めて高いことを示しており、特にアーカンソー州の視覚的比較で顕著に現れた。
• 古典的線形回帰（R² = 0.75）に比べ、DSDモデルはばらつきを保持するより豊かな分布レベルの予測を提供し、より情報を含む洞察をもたらした。
• DSDモデルは、平均値への還元戦略に伴うばらつきの損失を回避し、分布情報の保持に優れているため、古典的手法を上回る性能を示した。