[논문 리뷰] When Index Term Probability Violates the Classical Probability Axioms Quantum Probability can be a Necessary Theory for Information Retrieval

Massimo Melucci|arXiv (Cornell University)|2012. 03. 12.

Logic, Reasoning, and Knowledge참고 문헌 7인용 수 3

한 줄 요약

이 논문은 정보 검색에서 색인 용어의 확률이 고전적 확률 공리—특히 전체 확률의 법칙—을 위반할 경우, 양자 확률(QP)이 필수적인 이론적 프레임워크가 된다고 주장한다. 이는 통계적 관찰의 불변성 위반이 상호 배타적인 사건 공간을 나타내며, 이로 인해 고전적 베이지안 모델이 적용될 수 없음을 보여주고, 이에 따라 QP를 비고전적이고 더 일반적인 대안으로 제안한다. 이는 정보 검색 시스템 내에서 문맥적, 비가환적인 관련성 관계를 모델링할 수 있다.

ABSTRACT

Probabilistic models require the notion of event space for defining a probability measure. An event space has a probability measure which ensues the Kolmogorov axioms. However, the probabilities observed from distinct sources, such as that of relevance of documents, may not admit a single event space thus causing some issues. In this article, some results are introduced for ensuring whether the observed prob- abilities of relevance of documents admit a single event space. More- over, an alternative framework of probability is introduced, thus chal- lenging the use of classical probability for ranking documents. Some reflections on the convenience of extending the classical probabilis- tic retrieval toward a more general framework which encompasses the issues are made.

연구 동기 및 목표

• 정보 검색에서 관측된 조건부 확률이 단일 고전적 사건 공간 내에서 모델링될 수 있는지 조사하기.
• 서로 배타적인 사건 공간으로 인해 전체 확률의 법칙(LTP) 위반이 발생하는 경우를 특정하기.
• LTP가 위반될 경우 고전적 확률 모델이 실패하므로 더 일반적인 프레임워크가 필요하다고 주장하기.
• 정보 검색에서 비고전적, 문맥 의존적 관련성 관계를 모델링하기 위해 양자 확률(QP)을 필수적인 대안으로 제안하기.
• 실증적 고전적 확률 공리 위반에 기반하여 힐버트 공간과 QP를 정보 검색에 사용하는 데 이론적 근거 제공하기.

제안 방법

• 단일 사건 공간 존재를 위한 필수적이고 충분한 조건으로 통계적 불변성(부등식 4)을 도입하기.
• 관측된 확률이 한 확률 공간 내에서 공존할 수 있는지 테스트하기 위해 부등식 $\left\|\frac{P_{2}(B)-P_{1}(B|A)}{P_{4}(B|\bar{A})-P_{1}(B|A)}\right\|\leq 1$ 를 사용하기.
• 이 불변성이 위반됨을 증거로 삼아 실무에서 다수의 상호 배타적인 사건 공간이 사용됨을 밝히기.
• 양자 확률(QP)이 비가환적이고 문맥 민감한 사건을 모델링할 수 있는 비고전적 수학적 프레임워크임을 제안하기.
• 문서와 관련성 관계를 복소 힐버트 공간 내의 벡터로 모델링하고, 확률은 내적(보른 룰)으로 유도하기.
• 비가환적이고 문맥 의존적인 요소를 고려할 수 있도록 확률적 검색 모델을 QP 기반의 확률 진폭을 사용하도록 확장하기.

실험 결과

연구 질문

• RQ1 정보 검색에서 관측된 조건부 확률이 단일 고전적 사건 공간에 적합하지 않은 조건은 무엇인가?
• RQ2 정보 검색 시스템에서 전체 확률의 법칙(LTP) 위반이 실증적으로 감지되고 정량화될 수 있는가?
• RQ3 다양한 상호 배타적인 사건 공간이 관련성 추정에 참여할 경우 고전적 베이지안 확률이 부족한 이유는 무엇인가?
• RQ4 고전적 확률 공리 위반이 발생할 경우, 정보 검색을 모델링하기 위해 양자 확률이 필수적인 프레임워크가 되는가?
• RQ5 비고전적 확률 모델인 QP가 정보 검색에서 문맥적이고 비가환적인 관련성 관계를 더 잘 표현할 수 있는 이유는 무엇인가?

주요 결과

• 통계적 불변성(부등식 4) 위반은 관측된 확률이 단일 사건 공간에서 유도될 수 없음을 나타내며, 이는 고전적 베이지안 추론이 무효화됨을 의미한다.
• 실증 실험 결과, LTP 위반을 일으키는 용어를 사용할 경우 평균 평균 정확도(MAP)가 유의미하게 향상됨을 확인하였으며, 이는 고전적 직관과 배치된다.
• 그림 1의 산점도는 LTP 위반 정도와 검색 효과성 향상 간의 강한 상관관계를 보여준다.
• 확률이 서로 다른 사건 공간에서 추정될 경우, 고전적 성질인 베이즈 정리와 분배법칙이 더 이상 성립하지 않는다.
• 양자 확률은 고전적 확률이 처리할 수 없는 비가환적이고 문맥 의존적인 관련성 사건을 수학적으로 일관되게 모델링할 수 있는 프레임워크를 제공한다.
• 이론적 결과, 특히 추론 4.1은 전체 확률 집합이 한 공간에서 위반되더라도 부분 집합은 여전히 일관되게 모델링될 수 있음을 확인하여 일반화된 확률 프레임워크의 필요성을 뒷받침한다.