[論文レビュー] The New Approach on Fuzzy Decision Trees

Jooyeol Yun, Jun won Seo+1 more|arXiv (Cornell University)|Aug 13, 2014

Data Mining Algorithms and Applications被引用数 6

ひとこと要約

本稿では、不確実で曖昧なデータを処理するために、ファジィ論理をID3フレームワークに統合する新しいファジィ意思決定木アルゴリズムを提案する。データポイントと平均値との距離に基づいてエントロピーを計算することで、従来のID3に比べてアイrisデータセットにおける分類精度が向上し、ファジィデータ環境における有効性が示された。

ABSTRACT

Decision trees have been widely used in machine learning. However, due to some reasons, data collecting in real world contains a fuzzy and uncertain form. The decision tree should be able to handle such fuzzy data. This paper presents a method to construct fuzzy decision tree. It proposes a fuzzy decision tree induction method in iris flower data set, obtaining the entropy from the distance between an average value and a particular value. It also presents an experiment result that shows the accuracy compared to former ID3.

研究の動機と目的

• 現実世界の機械学習応用におけるファジィで不確実なデータの取り扱いの課題に対処すること。
• 古典的ID3意思決定木アルゴリズムを拡張し、曖昧なデータに対する耐性を高めるためにファジィ論理を統合すること。
• 平均値からの距離に基づくファジィエントロピー計算手法を開発し、不確実性をより正確に定量化すること。
• 提案手法の性能をアイris花のデータセットにおいて古典的ID3と比較して評価すること。
• 実際の分類タスクにおけるファジィ意思決定木の実現可能性と精度向上を示すこと。

提案手法

• 個々のデータポイントと各特徴量の平均値との間のユークリッド距離に基づくファジィエントロピー測定を導入する。
• これらの距離からファジィ所属度を導出し、クラスまたは特徴カテゴリへの所属度を表現する。
• 距離に基づく所属関数から導かれるファジィ確率を用いてエントロピーを再計算し、ID3アルゴリズムにおけるクリップス確率を置き換える。
• ファジィ不確実性を考慮した、変更された情報利得基準を用いてファジィ意思決定木を構築する。
• アルゴリズムは、ID3と同様に各ノードで最適な分割属性を選択するために、このファジィエントロピーを適用するが、ファジィ論理の統合が行われる。
• 標準的なアイrisデータセットを用いて、このアプローチの性能を古典的ID3と比較して評価する。

実験結果

リサーチクエスチョン

• RQ1 曖昧で不確実なデータを処理するために、ファジィ論理をID3意思決定木アルゴリズムに効果的に統合する方法は何か？
• RQ2 距離に基づくファジィエントロピー測定は、従来のエントロピーと比較して分類精度を向上させることができるか？
• RQ3 提案手法のファジィ意思決定木は、アイrisデータセットにおいて古典的ID3と比較してどの程度の性能を示すか？
• RQ4 データから平均値までの距離に基づくファジィ所属度を用いることで、属性選択と木構造にどのような影響を与えるか？
• RQ5 データの不確実性に対して耐性を高める一方で、解釈可能性を維持できるか？

主な発見

• 提案されたファジィ意思決定木は、アイrisデータセットにおいて古典的ID3アルゴリズムよりも高い分類精度を達成した。
• 距離に基づくファジィエントロピーの使用により、不確実で曖昧なデータの処理能力が向上した。
• ファジィ論理の統合により、固有の不確実性を含む現実世界のデータにおいて意思決定木の性能が向上することを実証した。
• データから平均値までの距離に基づくファジィエントロピーは、クリップス確率に基づくエントロピーの代替として実用的であることが示された。
• 研究により、測定の曖昧さや曖昧性を含むデータでは、ファジィ意思決定木が古典的意思決定木を上回ることを確認した。
• 不確実性への耐性を高める一方で、意思決定木の解釈可能性を維持することができた。