[논문 리뷰] Learning from Rational Behavior: Predicting Solutions to Unknown Linear Programs

Shahin Jabbari, Ryan Rogers외 2명|arXiv (Cornell University)|2016. 01. 01.

Advanced Algebra and Logic인용 수 7

한 줄 요약

이 논문은 목표 함수와 제약 조건에 대한 부분 정보만을 이용하여 알려지지 않은 선형 프ogramming(LP) 문제의 해를 예측하는 새로운 프레임워크를 제안한다. 이는 최적화 문제로 일반화된 복귀 선호도(revealed preferences)의 개념을 포함한다. 본 논문은 두 가지 설정에 대해 오류 수가 제한된 학습 알고리즘을 제안한다: (1) 알려진 목표 함수와 알려지지 않은 제약 조건, (2) 알려지지 않은 변화하는 목표 함수와 알려진 제약 조건이며, 오류 수가 유한하고 유계인 조건에서 증명 가능한 일반화 성능을 달성한다.

ABSTRACT

We define and study the problem of predicting the solution to a linear program (LP) given only partial information about its objective and constraints. This generalizes the problem of learning to predict the purchasing behavior of a rational agent who has an unknown objective function, that has been studied under the name “Learning from Revealed Preferences. We give mistake bound learning algorithms in two settings: in the first, the objective of the LP is known to the learner but there is an arbitrary, fixed set of constraints which are unknown. Each example is defined by an additional known constraint and the goal of the learner is to predict the optimal solution of the LP given the union of the known and unknown constraints. This models the problem of predicting the behavior of a rational agent whose goals are known, but whose resources are unknown. In the second setting, the objective of the LP is unknown, and changing in a controlled way. The constraints of the LP may also change every day, but are known. An example is given by a set of constraints and partial information about the objective, and the task of the learner is again to predict the optimal solution of the partially known LP.

연구 동기 및 목표

• 목표 함수와 제약 조건에 대한 부분 정보만 제공될 때 그 선형 프로그래밍 문제의 최적 해를 모델링하고 예측하는 것.
• 소비자 선택에서의 복귀 선호도 프레임워크를 알려지지 않은 제약 조건이나 목표 함수를 포함하는 최적화 문제로 일반화하는 것.
• 부분 정보 하에 최적 해를 예측할 때 오류 수가 유한한 학습 알고리즘 개발.
• 목표 함수가 매일 변화하지만 제약 조건은 알려져 있고 고정되어 있는 동적 환경을 다루는 것.
• 모든 알려진 목표 함수 및 알려지지 않은 목표 함수 설정에서 오류 수 기반 학습을 통해 예측 정확도에 대한 이론적 보장을 제공하는 것.

제안 방법

• 첫 번째 설정에서는 학습자가 알려진 제약 조건의 시퀀스를 관찰하고, 이들와 함께 알려지지 않은 고정된 제약 조건 집합을 조합하여 형성된 선형 프로그래밍 문제의 최적 해를 예측해야 한다.
• 학습자는 각 제약 조건이 공개된 후 진짜 최적 해로부터 피드백을 받는 오류 수가 제한된 알고리즘을 사용하여 가설을 업데이트한다.
• 두 번째 설정에서는 목표 함수가 알려지지 않았지만 제어 가능한 방식으로 변화한다. 학습자는 각 예제마다 부분적인 목표 정보와 알려진 제약 조건을 관찰한다.
• 알고리즘은 가능한 목표 함수의 가설 공간을 유지하고, 이중성 이론과 최적성 조건을 활용해 일치하지 않는 후보를 제거한다.
• 이중성 이론과 최적성 조건을 활용하여 후보 해를 검증하거나 기각함으로써, 오류 수가 유한한 범위 내에서 정확한 예측로 수렴하도록 보장한다.
• 이 프레임워크는 가용 가능한 해의 집합을 일관되게 유지하고, 공개된 최적 결과를 반복적으로 활용하여 개선함으로써 일반화를 보장한다.

실험 결과

연구 질문

• RQ1 목표 함수와 제약 조건에 대한 부분 정보만 있을 때 선형 프로그래밍 문제의 최적 해를 예측할 수 있는가?
• RQ2 에이전트가 알려지지 않은 제약 조건이나 목표 함수를 가진 최적화 환경에서 합리적 행동을 어떻게 모델링할 수 있는가?
• RQ3 부분적으로 특정된 선형 프로그래밍 문제의 해를 예측할 때 오류 수가 유한한 학습 알고리즘은 무엇인가?
• RQ4 알려진 제약 조건의 구조가 선형 프로그래밍에서 알려지지 않은 목표 함수의 학습 가능성에 어떤 영향을 미치는가?
• RQ5 변하는 목표 함수를 가진 동적 환경에서 예측 정확도에 대해 어떤 이론적 보장을 제공할 수 있는가?

주요 결과

• 논문은 제약 조건이나 목표 함수가 부분적으로 알려지지 않은 상황에서도 유한하고 유계된 오류 수를 가진 오류 수 기반 학습 알고리즘을 확립하였다. 이는 선형 프로그래밍 문제의 최적 해를 예측할 수 있음을 의미한다.
• 알려진 목표 함수와 알려지지 않은 제약 조건이 존재하는 설정에서는, 알고리즘이 제약 조건 공간의 차원과 구조에 따라 오류 수가 제한됨을 보였다.
• 알려지지 않은 변화하는 목표 함수와 알려진 제약 조건이 존재하는 설정에서는, 알고리즘이 가능한 목표 함수의 가설 공간을 유지하고 최적성 피드백을 통해 이를 정제한다.
• 이 프레임워크는 복귀 선호도를 최적화 문제로 일반화하여 자원 제약 조건 하에서의 합리적 행동 예측을 가능하게 하였다.
• 이론적 분석을 통해 오류 수가 입력 크기의 다항식 함수로 제한됨을 입증하였으며, 강력한 일반화 보장을 제공한다.
• 목표 함수의 변화에 대해 이론적으로도 강인하며, 최적 해가 각 예제 이후에 공개된다면 부분 정보 하에서도 정확성을 유지한다.