[논문 리뷰] GPTIPS 2: an open-source software platform for symbolic data mining

Dominic P. Searson|arXiv (Cornell University)|2014. 12. 15.

Evolutionary Algorithms and Applications참고 문헌 20인용 수 5

한 줄 요약

GPTIPS 2는 다유전자 유전적 프로그래밍(MGGP)을 사용하여 데이터에서 해석 가능하고 투명한 기호적 방정식을 자동으로 발견하는 기반으로 MATLAB을 사용하는 오픈소스 플랫폼이다. 유전자 중심의 시각화를 통해 모델의 해석 가능성을 향상시키고, 과도한 복잡성 방지를 통해 모델 복잡성을 감소시키며, MATLAB 외부에서 기호적 모델을 신속하게 구현할 수 있도록 하여 사용성과 과학적 및 공학 분야에서의 실용적 응용 가능성을 크게 향상시킨다.

ABSTRACT

GPTIPS is a free, open source MATLAB based software platform for symbolic data mining (SDM). It uses a multigene variant of the biologically inspired machine learning method of genetic programming (MGGP) as the engine that drives the automatic model discovery process. Symbolic data mining is the process of extracting hidden, meaningful relationships from data in the form of symbolic equations. In contrast to other data-mining methods, the structural transparency of the generated predictive equations can give new insights into the physical systems or processes that generated the data. Furthermore, this transparency makes the models very easy to deploy outside of MATLAB. The rationale behind GPTIPS is to reduce the technical barriers to using, understanding, visualising and deploying GP based symbolic models of data, whilst at the same time remaining highly customisable and delivering robust numerical performance for power users. In this chapter, notable new features of the latest version of the software are discussed with these aims in mind. Additionally, a simplified variant of the MGGP high level gene crossover mechanism is proposed. It is demonstrated that the new functionality of GPTIPS 2 (a) facilitates the discovery of compact symbolic relationships from data using multiple approaches, e.g. using novel gene-centric visualisation analysis to mitigate horizontal bloat and reduce complexity in multigene symbolic regression models (b) provides numerous methods for visualising the properties of symbolic models (c) emphasises the generation of graphically navigable libraries of models that are optimal in terms of the Pareto trade off surface of model performance and complexity and (d) expedites real world applications by the simple, rapid and robust deployment of symbolic models outside the software environment they were developed in.

연구 동기 및 목표

• 데이터 마이닝에서 유래한 기호적 모델의 사용, 이해, 시각화 및 구현에 있어 기술적 장벽을 낮추기 위해.
• 다유전자 기호적 회귀에서 모델 복잡성과 과도한 복잡성 문제를 해결하기 위해 유전자 중심의 시각화 및 분석 기법을 도입함으로써.
• 예측 성능과 모델 단순성 사이의 균형을 고려한 파레토 최적 모델 라이브러리 생성을 지원하기 위해.
• MATLAB 환경 외부에서 기호적 모델을 신속하고 안정적이며 투명하게 구현할 수 있도록 하기 위해.
• 고급 사용자에게도 높은 수치 성능를 유지하면서도 사용자 접근성과 맞춤 설정 가능성을 향상시키기 위해.

제안 방법

• 기호적 모델 발견의 핵심 엔진으로 다유전자 유전적 프로그래밍(MGGP) 프레임워크를 활용한다.
• 검색 효율성과 모델의 압축성을 향상시키기 위해 고수준 유전자 교배 메커니즘의 단순화된 변형을 도입한다.
• 다유전자 기호적 모델에서 수평적 과도한 복잡성의 감지 및 완화를 위해 유전자 중심의 시각화 기법을 활용한다.
• 모델 정확도와 복잡성 사이의 파레토 트레이드오프 표면을 따라 최적화된 모델 라이브러리의 생성 및 탐색을 수행한다.
• 예측 성능-복잡성 트레이드오프 분석이 포함된 자동 기호적 회귀를 포함한 다양한 모델 발견 접근 방식을 지원한다.
• 표준화되고 인간이 읽을 수 있는 수식 표현 방식을 통해 외부 시스템에서 기호적 모델의 내보내기 및 구현을 가능하게 한다.

실험 결과

연구 질문

• RQ1 비전문가 사용자에게도 기호적 데이터 마이닝을 더 쉽게 접근하고 해석할 수 있도록 하면서도 고급 사용자에게는 강력한 기능을 유지할 수 있는 방법은 무엇인가?
• RQ2 예측 성능을 훼손하지 않으면서도 다유전자 기호적 회귀 모델의 수평적 과도한 복잡성을 효과적으로 줄일 수 있는 기법은 무엇인가?
• RQ3 모델 정확도와 복잡성 사이의 최적 트레이드오프를 식별하기 위해 모델 라이브러리를 체계적으로 생성하고 탐색하는 방법은 무엇인가?
• RQ4 MATLAB 환경 외부에서 기호적 모델을 신속하고 안정적으로 구현할 수 있도록 하는 방법은 무엇인가?
• RQ5 유전자 중심의 시각화가 기계적으로 유도된 기호적 모델의 해석 가능성과 유지보수성에 얼마나 기여하는가?

주요 결과

• GPTIPS 2의 단순화된 유전자 교배 메커니즘은 검색 효율성을 향상시키고 더 압축된 기호적 모델의 발견에 기여한다.
• 유전자 중심의 시각화 기법은 수평적 과도한 복잡성의 효과적인 감지 및 완화를 가능하게 하여 예측 정확도를 유지하면서도 모델 복잡성을 감소시킨다.
• 이 플랫폼은 성능과 복잡성의 파레토 최적 표면을 따라 최적화된 그래픽적으로 탐색 가능한 모델 라이브러리를 성공적으로 생성한다.
• GPTIPS 2가 생성한 기호적 모델은 MATLAB 외부로 신속하게 구현 가능하여 다양한 응용 환경에서의 실질적 통합을 가능하게 한다.
• 기호 수식의 투명성 덕분에 데이터 생성 과정의 깊은 통찰을 확보할 수 있어 과학적 해석 가능성이 향상된다.
• GPTIPS 2는 높은 수치 성능와 높은 맞춤 설정 가능성을 입증하여 초보자와 전문가 사용자 모두가 기호적 데이터 마이닝 작업을 수행하는 데 유용하다.