[논문 리뷰] Learning to Order Things

William W. Cohen, Robert E. Schapire외 1명|2011. 05. 27.

Machine Learning and Algorithms참고 문헌 10인용 수 35

한 줄 요약

이 논문은 선호도 판단을 사용하여 인스턴스의 순서를 학습하기 위한 이단계적 접근법을 제안한다. 여기서 선호도 함수는 온라인 알고리즘(Hedge 기반)을 통해 학습되고, 이후 그 함수를 사용하여 뉘앙스 근사법을 통해 새로운 인스턴스를 순서 매긴다. 주요 기여는 최적의 순서가 NP-완전임을 보여주지만, 효율적으로 근사 가능하다는 점이며, 웹 검색 전문가 조합에서 실험적으로 검증되었다.

ABSTRACT

There are many applications in which it is desirable to order rather than classify instances. Here we consider the problem of learning how to order instances given feedback in the form of preference judgments, i.e., statements to the effect that one instance should be ranked ahead of another. We outline a two-stage approach in which one first learns by conventional means a binary preference function indicating whether it is advisable to rank one instance before another. Here we consider an on-line algorithm for learning preference functions that is based on Freund and Schapire's 'Hedge' algorithm. In the second stage, new instances are ordered so as to maximize agreement with the learned preference function. We show that the problem of finding the ordering that agrees best with a learned preference function is NP-complete. Nevertheless, we describe simple greedy algorithms that are guaranteed to find a good approximation. Finally, we show how metasearch can be formulated as an ordering problem, and present experimental results on learning a combination of 'search experts', each of which is a domain-specific query expansion strategy for a web search engine.

연구 동기 및 목표

• 분류보다 순서를 학습하는 것이 더 자연스럽거나 더 적합한 애플리케이션을 고려하여, 분류가 아닌 순서를 학습하는 문제를 해결하기 위해.
• 일반적으로 분류 레이블보다 수집하기가 더 쉬운 상호 선호도 판단에서 선호도 함수를 학습하는 방법을 개발하기 위해.
• 최적 해가 NP-완전함에도 불구하고, 학습된 선호도 함수를 기반으로 새로운 인스턴스를 효율적으로 순서 매기는 알고리즘을 설계하기 위해.
• 실세계 환경에서 프레임워크를 평가하기 위해, 특히 웹 검색에서 다수의 검색 전문가를 조합하기 위해.

제안 방법

• 이단계 프레임워크: 첫 번째 단계에서 두 인스턴스 u와 v 사이의 선호도 함수 PREF(u,v)를 학습하여 u가 v보다 먼저 순서가 되어야 하는지 여부를 결정한다.
• Freund와 Schapire의 Hedge 알고리즘에 기반한 온라인 학습 알고리즘을 사용하여 선호도 판단에서 선호도 함수를 학습한다.
• 두 번째 단계에서, 학습된 선호도 함수와의 일치도를 최대화함으로써 새로운 인스턴스를 순서 매긴다.
• 최적의 총순서를 근사하기 위해 근사 알고리즘을 적용하며, 근사 품질에 이론적 보장을 제공한다.
• 다양한 도메인 특화된 쿼리 확장 전략(검색 전문가)을 선호도 학습 프레임워크를 사용하여 하나의 순서 매기기 모델로 통합한다.
• 기본 선호도 함수의 선형 조합을 사용하여 최종 선호도 함수를 구성한다.

실험 결과

연구 질문

• RQ1 선호도 판단은 분류나 회귀보다 순서 학습 모델을 학습하는 데 더 효과적으로 사용될 수 있는가?
• RQ2 온라인 학습 알고리즘을 사용하여 쌍별 피드백에서 선호도 함수를 효율적으로 학습할 수 있는가?
• RQ3 학습된 선호도 함수와 가장 잘 일치하는 새로운 인스턴스의 총순서를 효율적으로 계산할 수 있는가?
• RQ4 학습된 선호도 함수로부터 최적의 순서를 찾는 데 필요한 계산 복잡도는 무엇인가?
• RQ5 이 프레임워크는 웹 검색에서 다수의 검색 전문가를 효과적으로 조합하는 데 적용될 수 있는가?

주요 결과

• 학습된 선호도 함수와 가장 잘 일치하는 최적의 총순서를 찾는 문제는 NP-완전하다.
• NP-완전성에도 불구하고, 단순한 근사 알고리즘이 최적 순서에 대한 좋은 근사를 보장한다.
• Hedge 기반 온라인 알고리즘은 이론적 수렴 보장을 제공하며, 쌍별 피드백에서 선호도 함수를 효과적으로 학습한다.
• 실험 결과는 이 프레임워크를 사용해 다수의 검색 전문가를 조합함으로써 웹 검색의 효과성이 향상됨을 보여준다.
• 순서 작업에서 분류나 회귀 레이블보다 선호도 판단이 더 자연스럽고 잠재적으로 더 쉽게 수집 가능한 피드백 메커니즘이다.
• 이 프레임워크는 다양한 쿼리 확장 전략을 하나의 효과적인 순서 매기기 모델로 성공적으로 통합한다.