[논문 리뷰] The Tsetlin Machine -- A Game Theoretic Bandit Driven Approach to Optimal Pattern Recognition with Propositional Logic

Ole‐Christoffer Granmo|arXiv (Cornell University)|2018. 04. 04.

Optimization and Search Problems참고 문헌 48인용 수 99

한 줄 요약

tldr: Tsetlin Machine을 소개합니다. 이는 Tsetlin Automata로 구성된 clause들로 구성되고 game-theoretic 학습 체계에 의해 조정되어 시끄러운 환경에서 전역 최적해를 달성하는 확장 가능하고 해석 가능한 패턴 인식기입니다. 표준 ML 방법에 비해 경쟁력 있는 정확도를 보여주고 해석 가능한 명제 논리 패턴을 제공합니다.

ABSTRACT

Although simple individually, artificial neurons provide state-of-the-art performance when interconnected in deep networks. Arguably, the Tsetlin Automaton is an even simpler and more versatile learning mechanism, capable of solving the multi-armed bandit problem. Merely by means of a single integer as memory, it learns the optimal action in stochastic environments through increment and decrement operations. In this paper, we introduce the Tsetlin Machine, which solves complex pattern recognition problems with propositional formulas, composed by a collective of Tsetlin Automata. To eliminate the longstanding problem of vanishing signal-to-noise ratio, the Tsetlin Machine orchestrates the automata using a novel game. Further, both inputs, patterns, and outputs are expressed as bits, while recognition and learning rely on bit manipulation, simplifying computation. Our theoretical analysis establishes that the Nash equilibria of the game align with the propositional formulas that provide optimal pattern recognition accuracy. This translates to learning without local optima, only global ones. In five benchmarks, the Tsetlin Machine provides competitive accuracy compared with SVMs, Decision Trees, Random Forests, Naive Bayes Classifier, Logistic Regression, and Neural Networks. We further demonstrate how the propositional formulas facilitate interpretation. In conclusion, we believe the combination of high accuracy, interpretability, and computational simplicity makes the Tsetlin Machine a promising tool for a wide range of domains.

연구 동기 및 목표

• 전통적 Learning Automata가 패턴 인식에서 갖는 한계(패턴 표현의 취약성과 신호 대 잡음 비의 소실 포함)를 해결한다.
• Tsetlin Automata를 기반으로 한 확장 가능하고 해석 가능한 학습 프레임워크를 제안하여 명제 절을 구성한다.
• Type I 및 Type II 피드백이 있는 게임으로 수백만 개의 자동화 기계를 조정하여 전역 최적해를 보장한다(로컬 최적아님).
• 효율적 계산과 해석 가능성을 위해 비트 패턴 절을 활용한다.
• 다양한 데이터 세트에서 경쟁력 있는 성능을 시연하고 더 큰 아키텍처의 빌딩 블록으로서의 가능성을 보인다.

제안 방법

• 패턴을 입력 비트 및 그 부정으로부터 파생된 리터럴 집합에 대한 결합절로 패턴을 표현한다.
• 각 절마다 각 리터럴의 포함 여부를 결정하기 위해 2o Tsetlin Automata 팀을 사용한다.
• 정확한 패턴으로의 절 구성을 이끌기 위해 Type I 및 Type II 피드백을 갖는 새로운 게임 기반 학습을 활용한다.
• 합산 타깃을 통한 다양한 부분 패턴의 커버리지를 보장하기 위해 자원 할당 메커니즘으로 절 학습을 조정한다.
• 양극성 체계(positive/negative)와 임계값을 사용하여 절 간 투표로 최종 출력을 유도한다.
• 해석 친화적인 비트 패턴을 제공하여 사람이 읽을 수 있는 명제 공식에 대응한다.

실험 결과

연구 질문

• RQ1 큰 컬렉션의 Tsetlin Automata를 어떻게 조정하여 패턴 인식을 위한 최적의 명제 공식을 형성할 수 있을까?
• RQ2 게임 이론적 설정에서 Type I 및 Type II 피드백이 분산 학습에서의 신호 대 잡음 비 소실을 극복할 수 있을까?
• RQ3 온라인으로 학습된 명제 논리 기반 절이 벤치마크 데이터 세트에서 표준 ML 방법과의 경쟁력 있는 정확도를 달성하는가?
• RQ4 도출된 패턴은 어느 정도 해석 가능하고 더 큰 아키텍처의 빌딩 블록으로서 사용할 수 있는가?

주요 결과

• Tsetlin Machine은 패턴 인식을 가능하게 하는 절로 구성된 명제 공식을 학습한다.
• Type I 및 Type II 피드백이 있는 게임 이론적 조정 체계가 노이즈를 완화하고 수백만 개의 자동화를 통해 학습을 지원한다.
• 이 방법은 여러 벤치마크에서 SVM, 의사결정 트리, 랜덤 포레스트, Naive Bayes, 로지스틱 회귀, 신경망에 대해 경쟁력 있는 정확도를 보인다.
• 절은 인간이 해석하고 검사하기 쉬운 비트 패턴 표현이다.
• 이 방법은 온라인 학습을 지원하며 더 발전된 아키텍처를 구성하는 빌딩 블록으로 통합될 수 있다.