[論文レビュー] Estimation of Missing Data Using Computational Intelligence and Decision Trees

George Ssali, Tshilidzi Marwala|ArXiv.org|Sep 11, 2007

Algorithms and Data Compression参考文献 22被引用数 16

ひとこと要約

本論文は、意思決定木と自己符号化ニューラルネットワーク（AANN）およびPCA-NNモデルを統合したハイブリッドコンピュテーショナルインテリジェンスフレームワークを提案し、欠損データを推定する。意思決定木が遺伝的アルゴリズムの探索範囲を最適化するのを支援することで、補完精度が向上する。HIV血清感受性有病率データにおいて、AANNモデルの精度は75.8%から86.3%に、PCA-NNモデルの精度は66.1%から81.6%に向上した。

ABSTRACT

This paper introduces a novel paradigm to impute missing data that combines a decision tree with an auto-associative neural network (AANN) based model and a principal component analysis-neural network (PCA-NN) based model. For each model, the decision tree is used to predict search bounds for a genetic algorithm that minimize an error function derived from the respective model. The models' ability to impute missing data is tested and compared using HIV sero-prevalance data. Results indicate an average increase in accuracy of 13% with the AANN based model's average accuracy increasing from 75.8% to 86.3% while that of the PCA-NN based model increasing from 66.1% to 81.6%.

研究の動機と目的

• 統計的および医療データセットにおける欠損データの課題に取り組むこと、特に公衆衛生研究において。
• 従来の補完手法を上回る精度での欠損データ推定を向上させること。
• 特に意思決定木、AANN、PCA-NNを統合した、耐障害性のある補完のための計算知能技術の新規統合を開発すること。
• 意思決定木の予測によってガイドされる遺伝的アルゴリズムを用いて、誤差関数を最小化するようにモデルの性能を最適化すること。
• 実世界のHIV血清感受性有病率データを用いて、提案されたフレームワークの実用的有効性を評価する。

提案手法

• 入力データのパターンに基づき、意思決定木を用いて遺伝的アルゴリズムの最適な探索範囲を予測する。
• 意思決定木を自己符号化ニューラルネットワーク（AANN）モデルと統合し、誤差最小化によって欠損値を再構築する。
• 主成分分析（PCA）とニューラルネットワーク（PCA-NN）を組み合わせ、次元削減と複雑なデータ関係のモデル化を行う。
• 意思決定木の予測された範囲に基づいて、遺伝的アルゴリズムを用いてAANNおよびPCA-NNモデルの最適な重み設定を探索する。
• 再構築損失に基づく誤差関数を定義し、両モデルにおける補完誤差を評価および最小化する。
• HIV血清感受性有病率データを用いてAANNおよびPCA-NNモデルを訓練およびテストし、最適化前後での性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 意思決定木が遺伝的アルゴリズムを効果的にガイドすることで、欠損データ補完精度が向上するか？
• RQ2 意思決定木で最適化されたAANNおよびPCA-NNモデルの統合は、ベースライン補完手法と比べてどのように異なるか？
• RQ3 実世界の健康データにおいて、ハイブリッドフレームワークはどの程度補完誤差を低減するか？
• RQ4 AANNベースのモデルとPCA-NNベースのモデルの間で、欠損データ処理における相対的な性能向上はどの程度か？
• RQ5 意思決定木から導かれる探索範囲の使用は、補完プロセスにおける収束速度の向上とより良い一般化をもたらすか？

主な発見

• AANNベースのモデルは平均で10.5パーセンテージポイントの精度向上を達成し、最適化後は75.8%から86.3%に上昇した。
• PCA-NNベースのモデルは顕著な改善を示し、精度が66.1%から81.6%に上昇した。
• 両モデルにおける補完精度の平均向上は13%であり、ハイブリッドアプローチの有効性を示している。
• 意思決定木でガイドされた遺伝的アルゴリズムは、AANNおよびPCA-NNモデルの両方で収束性を著しく向上させ、誤差を低減した。
• 提案されたフレームワークは、特に不完全なデータセットにおける非線形関係を扱う際、ベースライン補完技術を上回った。
• 結果は、意思決定木を計算知能モデルと統合することで、欠損データ推定の耐障害性と精度が向上することを確認した。