[論文レビュー] A Study of Parallel Self-Organizing Map

Li Weigang|ArXiv.org|Aug 17, 1998

Neural Networks and Applications参考文献 32被引用数 22

ひとこと要約

本稿では、入力要素の数（M）と分類可能性の数（P）の積によってスケーリングされた入力/出力層を備えた並列アーキテクチャに再構築することで、一度の学習で完了する平行自己組織化マップ（Parallel-SOM）を提案する。変換行列と操作行列を用いて、ユークリッド距離を同時に計算し、グローバーの量子探索を適用して最小距離を同時に同定することで、従来のSOMと同等の収束を達成しつつ、時間的・空間的計算量を削減する。特に量子コンピューティング環境においては、ニューロン数が指数的に削減されるため、実用的である。

ABSTRACT

A Parallel Self-Organizing Map (Parallel-SOM) is proposed to modify Kohonen's SOM in parallel computing environment. In this model, two separate layers of neurons are connected together. The number of neurons in both layers and connections between them is the product of the number of all elements of input signals and the number of possible classification of the data. With this structure the conventional repeated learning procedure is modified to learn just once. The once learning manner is more similar to human learning and memorizing activities. During training, weight updating is managed through a sequence of operations among some transformation and operation matrices. Every connection between neurons of input/output layers is considered as a independent processor. In this way, all elements of the Euclidean distance matrix and weight matrix are calculated simultaneously. The minimum distance of every line of distance matrix can be found by Grover's search algorithm. This synchronization feature improves the weight updating sequence significantly. With a typical classification example, the convergence result demonstrates efficient performance of Parallel-SOM. Theoretic analysis and proofs also show some important properties of proposed model. Especially, the paper proves that Parallel-SOM has the same convergence property as Kohonen's SOM, but the complexity of former is reduced obviously.

研究の動機と目的

• 人間の一度の学習と記憶を模倣する自己組織化マップモデルの開発を目的とし、繰り返しのトレーニングに依存しないこと。
• 従来のSOMにおける逐次処理の非効率性を解消し、並列での重み更新と競争的学習を可能とすること。
• 量子コンピューティング環境に実装する可能性と利点を検討すること。特に重ね合わせと量子並列処理を活用すること。
• 提案されたParallel-SOMが、KohonenのSOMと同等の収束特性を維持していることを証明すること。
• MATLABを用いた実装と理論的分析を通じて、分類タスクにおけるモデルの効率性を実証すること。

提案手法

• モデルは2層のニューロンから構成され、各層のニューロン数とそれらの相互接続数は、入力信号要素数（M）と可能な分類数（P）の積（M×P）に等しい。
• 重みの更新は、変換行列と操作行列のシーケンスによって管理され、ユークリッド距離行列と重み行列のすべての要素を同時に計算可能となる。
• 距離行列の各行における最小距離は、グローバーの量子探索アルゴリズムを用いて同定され、探索の計算量がO(T×P^1/2)に低減される。
• 学習手順は、従来のSOMが繰り返し学習サイクルを必要とするのに対し、入力データを一度だけ走査するのみで完了する。
• 量子コンピューティングに適合するアーキテクチャとして設計されており、入力信号は量子状態として表現され、必要なニューロン数がM×Pからlog₂(M×P)に削減される。
• 量子自己組織化マップ（QuSOM）のゲートアレイ構造を提案。重み演算子、距離演算子、最小距離オракル、および情報抽出のための観測装置を統合する。

実験結果

リサーチクエスチョン

• RQ1 人間の記憶と同様に繰り返しのトレーニングに依存せず、一度の学習で実現できる自己組織化マップを再構築できるか？
• RQ2 並列コンピューティングを活用して、自己組織化マップにおけるすべてのユークリッド距離を同時に計算し、重みを同時に更新できるか？
• RQ3 提案されたParallel-SOMモデルの計算複雑度は、従来のSOMと比較してどの程度低減可能か？また、量子コンピューティング環境ではさらに低減可能か？
• RQ4 新しい並列的かつ一度の学習フレームワーク下でも、提案モデルはKohonenのオリジナルSOMと同等の収束特性を保持できるか？
• RQ5 量子コンピューティングは、大規模データに対して特に、このような並列SOMの実装に必要なリソース（ニューロン数）を顕著に削減できるか？

主な発見

• Parallel-SOMモデルは、論文で厳密に証明されたように、KohonenのオリジナルSOMと同等の収束行動を達成しており、理論的信頼性が保証される。
• 従来のSOMと比較して、Parallel-SOMの時間的・空間的計算量は顕著に低減されており、特に量子コンピューティング環境に実装した場合に顕著である。
• 量子コンピューティング環境では、必要なニューロン数がM×Pからlog₂(M×P)に削減され、M=1,000,000、P=100の場合、古典的ニューロンの1億個ではなく、27量子ビットで十分となる。
• M=4の入力要素、N=2のベクトル、P=2のプロトタイプを想定したテストケースでは、1層あたり16ニューロンが必要となる（SOMの4倍）が、量子環境では実行可能かつ効率的であることが示された。
• 距離行列における最小距離を同定するためにグローバーの探索アルゴリズムを用いることで、探索の計算量がO(T×P^1/2)に低減され、競争的学習フェーズの効率性が向上した。
• MATLABを用いた気象衛星画像分類およびコインカウントの実装により、モデルの実用的妥当性と効率性が確認された。古典的コンピューティングでも実行可能であり、量子加速の可能性を秘めている。