[논문 리뷰] A Sequence of Inequalities among Difference of Symmetric Divergence Measures

Inder J. Taneja|arXiv (Cornell University)|2011. 04. 01.

Mathematical Inequalities and Applications참고 문헌 8인용 수 3

한 줄 요약

이 논문은 잘 알려진 로그형(예: J-분리도, 젠슨-샤논)과 비로그형(예: 헬링거, 카이제곱, 삼각형 분류, d-분리도) 분리도를 포함하는 두 개의 일파rameter 가족을 일반화하여 대칭 분리도 간의 차이에 대한 부등식의 사슬을 수립한다. 핵심 기여는 이러한 분리도 간 차이의 계층적 관계를 드러내는 통합된 부등식 프레임워크를 제공하는 것이다.

ABSTRACT

In this paper we have considered two one parametric generalizations. These two generalizations have in particular the well known measures such as: J-divergence , Jensen-Shannon divergence and arithmetic-geometric mean divergence . These three measures are with logarithmic expressions. Also, we have particular cases the measures such as: Hellinger discrimination , symmetric $\chi ^2$- divergence , and triangular discrimination . These three measures are also well-known in the literature of statistics, and are without logarithmic expressions. Still, we have one more non logarithmic measure as particular case calling it d-divergence . These seven measures bear an interesting inequality. Based on this inequality, we have considered different difference of divergence measures and established a sequence of inequalities among themselves.

연구 동기 및 목표

• 기존의 대칭 분리도를 두 개의 일파라미터 가족으로 통합하고 일반화하기.
• 이 가족들 내에서 로그형과 비로그형 분리도를 특수 케이스로 식별하고 분석하기.
• 이러한 분리도 간 차이를 다스리는 종합적인 부등식 프레임워크 수립하기.
• 유도된 부등식 사슬을 통해 분리도 간 구조적 관계 드러내기.

제안 방법

• 기존의 알려진 분리도들을 특수 케이스로 포함하는 두 개의 일파라미터 일반화된 대칭 분리도 정의하기.
• 일반화의 특정 성분 식별: J-분리도, 젠슨-샤논, 산술-기하 평균 분리도(로그형), 헬링거, 대칭 카이제곱, 삼각형 분류, d-분리도(비로그형).
• 이러한 분리도 쌍 간의 차이를 연결하는 마스터 부등식 유도하기.
• 일반형을 사용하여 전체 가족의 분리도 간 차이를 체계적으로 비교하고 순서 정하기.
• 부등식을 적용하여 분리도 간 차이의 지배 또는 순서 관계를 보여주기.

실험 결과

연구 질문

• RQ1 로그형과 비로그형 대칭 분리도는 어떻게 공통의 파라미터 프레임워크 아래 통합될 수 있는가?
• RQ2 이러한 분리도 간 차이 사이에 존재하는 계층적 관계는 무엇인가?
• RQ3 한 개의 부등식이 일반화된 가족 전반에서 여러 분리도 간 차이의 순서를 다스릴 수 있는가?
• RQ4 이 부등식은 정보 이론 및 통계에서 통계적 분리도 비교에 어떤 함의를 지닌다?

주요 결과

• 한 개의 부등식이 로그형과 비로그형 양쪽 가족의 대칭 분리도 간 차이의 상대적 순서를 다스린다.
• J-분리도, 젠슨-샤논, 산술-기하 평균 분리도는 하나의 일반화 가족의 특수 케이스로 밝혀졌다.
• 헬링거 분류, 대칭 카이제곱 분리도, 삼각형 분류, d-분리도는 두 번째 일반화 가족의 특수 케이스로 확인되었다.
• 유도된 부등식 사슬은 일부 분리도 쌍 간의 차이가 다른 것들에 의해 체계적으로 경계됨을 드러내며, 이들 사이에 계층적 구조를 수립한다.