[論文レビュー] A Novel Generalized Artificial Neural Network for Mining Two-Class Datasets

Wei‐Chang Yeh|arXiv (Cornell University)|Oct 23, 2019

Neural Networks and Applications参考文献 8被引用数 12

ひとこと要約

本稿では、二値分類のための新しい一般化ニューラルネットワーク（GNN）を提案する。各データセットの属性が、簡略化された群れ最適化（SSO）によって最適化された信頼性値を持つアークで接続されたノードとしてモデル化される。知的モンテカルロシミュレーション（iMCS）を用いて、GNNインスタンスの信頼性を近似し、分類のためのしきい値と比較することで、ベンチマークデータセット上でサポートベクターマシン（SVM）と同等の性能を達成した。

ABSTRACT

A novel general neural network (GNN) is proposed for two-class data mining in this study. In a GNN, each attribute in the dataset is treated as a node, with each pair of nodes being connected by an arc. The reliability is of each arc, which is similar to the weight in artificial neural network and must be solved using simplified swarm optimization (SSO), is constant. After the node reliability is made the transformed value of the related attribute, the approximate reliability of each GNN instance is calculated based on the proposed intelligent Monte Carlo simulation (iMCS). This approximate GNN reliability is then compared with a given threshold to predict each instance. The proposed iMCS-SSO is used to repeat the procedure and train the GNN, such that the predicted class values match the actual class values as much as possible. To evaluate the classification performance of the proposed GNN, experiments were performed on five well-known benchmark datasets. The computational results compared favorably with those obtained using support vector machines.

研究の動機と目的

• 二値分類のためのデータマイニングに特化した新しい一般化された人工ニューラルネットワーク（GNN）の開発を目的とする。
• データセットの属性をネットワーク内のノードとしてモデル化し、ノード間のアークをニューラルネットワークの重みに類似した信頼性値として表現する。
• 分類精度の向上を図るため、アークの信頼性を簡略化された群れ最適化（SSO）を用いて最適化する。
• 分類意思決定のためのインスタンスレベルのGNN信頼性を推定するために、知的モンテカルロシミュレーション（iMCS）を採用する。
• iMCS-SSOフレームワークを繰り返し適用してGNNを学習させ、予測ラベルが実際のラベルに近づくようにする。

提案手法

• データセット内の各属性がGNN内のノードとして表現され、すべてのノードペア間に有向アークが接続される。
• アークの信頼性（ニューラルネットワークの重みに類似）は、簡略化された群れ最適化（SSO）を用いて最適化される。
• ノードの信頼性は属性値に基づいて変換され、インスタンス信頼性の計算の根拠が形成される。
• インスタンス信頼性は、知的モンテカルロシミュレーション（iMCS）を用いて近似され、GNN全体の信頼性を推定する。
• インスタンスの近似されたGNN信頼性に基づいて、事前に定義されたしきい値を用いて分類が行われる。
• iMCS-SSOフレームワークを繰り返し適用してGNNを学習させ、アーク信頼性の調整により分類誤差を最小化する。

実験結果

リサーチクエスチョン

• RQ1 従来のバックプロパゲーションに依存せずに、二値分類のための効果的な一般化ニューラルネットワークモデルを設計できるか？
• RQ2 属性ネットワーク内のアーク信頼性をどのように最適化すれば分類性能が向上するか？
• RQ3 iMCSに基づく信頼性推定は、従来の分類手法に比べてベンチマークデータセットでどの程度優れているか？
• RQ4 SSOはGNNアーキテクチャ内の信頼性値を効果的に最適化できるか？
• RQ5 提案されたGNNは、サポートベクターマシンなどの既存のモデルと比較してどの程度の性能を示すか？

主な発見

• 提案されたGNNは、5つのよく知られたベンチマークデータセット上で、サポートベクターマシン（SVM）と同等の分類性能を達成した。
• iMCSを用いた信頼性推定により、複雑な勾配ベースの学習を必要とせず、効果的かつ効率的な分類が可能になった。
• SSOはアーク信頼性の最適化に有効であったことが確認され、予測ラベルと実際のラベルとの一致が向上した。
• ネットワークベースの信頼性モデリングにより、多様な二値分類データセットの処理においてGNNフレームワークが高い頑健性を示した。
• 結果から、iMCS-SSO学習手順が複数の反復において分類誤差を効果的に最小化していることが示された。
• 本手法は、バックプロパゲーションを回避し、群れ最適化とシミュレーションに依存することで、従来のニューラルネットワークの代替手段として実用的であることが示された。