[논문 리뷰] A neural network and iterative optimization hybrid for Dempster-Shafer clustering

Johan Schubert|ArXiv.org|2003. 05. 16.

Neural Networks and Applications참고 문헌 5인용 수 3

한 줄 요약

이 논문은 신경망을 이용한 빠른 초기 군집화와 반복 최적화를 통한 결과 정밀화를 조합한 하이브리드 군집화 방법을 제안한다. 덴스터-샤퍼 이론을 활용하여 메타갈등을 최소화하며, 단일 신경망보다 훨씬 높은 군집화 정확도를 달성하면서도 높은 계산 효율성을 확보한다. 이는 성능과 속도 면에서 둘 다 독립적으로 사용되는 방법보다 뛰어나다.

ABSTRACT

In this paper we extend an earlier result within Dempster-Shafer theory ["Fast Dempster-Shafer Clustering Using a Neural Network Structure," in Proc. Seventh Int. Conf. Information Processing and Management of Uncertainty in Knowledge-Based Systems (IPMU 98)] where a large number of pieces of evidence are clustered into subsets by a neural network structure. The clustering is done by minimizing a metaconflict function. Previously we developed a method based on iterative optimization. While the neural method had a much lower computation time than iterative optimization its average clustering performance was not as good. Here, we develop a hybrid of the two methods. We let the neural structure do the initial clustering in order to achieve a high computational performance. Its solution is fed as the initial state to the iterative optimization in order to improve the clustering performance.

연구 동기 및 목표

• Dempster-Shafer 이론 기반 군집화에서 계산 속도와 군집화 정확도 사이의 상충 관계를 해결하기 위해.
• 빠른 계산을 제공하지만 평균 성능가 낮은 신경망 방법의 성능을 향상시키기 위해.
• 신경망 초기화를 통해 반복 최적화 방법의 높은 정확도를 유지하면서도 계산 비용을 감소시키기 위해.
• 신경망과 반복 최적화의 장점을 접목한 하이브리드 프레임워크를 개발하여 전체 군집화 성능을 향상시키기 위해.

제안 방법

• 메타갈등 함수를 최소화함으로써 빠르고 근사적인 해를 제공하는 신경망 구조를 사용하여 초깃값 군집화를 수행한다.
• 신경망의 출력 결과를 반복 최적화의 초깃값으로 사용하여 군집 결과를 정밀화한다.
• 신경망의 해를 기반으로 메타갈등 함수를 추가로 최소화하여 정확도를 향상시키는 반복 최적화 단계를 수행한다.
• 두 단계 과정을 통해 신경망의 속도와 반복 최적화의 정밀도를 조합한 하이브리드 접근법을 구현한다.
• 신뢰 구조를 사용하여 군집화에서의 불확실성을 표현하는 데 기반하여 덴스터-샤퍼 이론의 프레임워크 내에서 작동한다.
• 증거 간 갈등을 줄이기 위해 메타갈등 함수를 최소화함으로써 군집 품질을 향상시킨다.

실험 결과

연구 질문

• RQ1 신경망은 덴스터-샤퍼 이론 기반 군집화에 대해 빠르면서도 효과적인 초깃값 군집화 솔루션을 제공할 수 있는가?
• RQ2 반복 최적화는 신경망의 출력 결과에 대해 군집화 정확도를 크게 향상시킬 수 있는가?
• RQ3 신경망과 반복 최적화를 조합하면 각각의 방법보다 더 나은 성능을 낼 수 있는가?
• RQ4 하이브리드 접근법은 불확실성 기반 군집화에서 계산 효율성과 군집화 정확도 사이의 균형을 어떻게 유지하는가?

주요 결과

• 하이브리드 방법은 단일 신경망보다 훨씬 높은 군집화 성능을 달성하며, 메타갈등 최소화 측면에서 정확도가 향상되었다.
• 신경망은 빠른 초깃값 해를 제공하여 반복 최적화 단계에서 필요한 반복 수를 줄였다.
• 반복 최적화 단계는 신경망의 출력 결과를 성공적으로 정밀화하여 더 고품질의 군집 결과를 도출했다.
• 하이브리드 접근법은 군집화 정확도 면에서 둘 다 독립적으로 사용되는 방법보다 뛰어나면서도 높은 계산 효율성을 유지했다.