[논문 리뷰] Risk Bounds and Calibration for a Smart Predict-then-Optimize Method

Heyuan Liu, Paul Grigas|arXiv (Cornell University)|2021. 08. 19.

Risk and Portfolio Optimization참고 문헌 21인용 수 5

한 줄 요약

이 논문은 예측-그리고-최적화 프레임워크에서 SPO+ 대체 손실에 대해 처음으로 위험 한계와 균일 캘리브레이션 결과를 확립하며, SPO+를 최소화할 경우 높은 확률로 낮은 초과 진짜 위험을 달성함을 보여준다. 다각형 타당 영역에 대해 $O(\theta^2)$ 위험 한계를 증명하고, 강凸 수준 집합에 대해서는 $O(\theta)$로 향상시켜 진짜 SPO 위험에 대한 SPO+의 최초의 표본 복잡도 한계를 가능하게 한다.

ABSTRACT

The predict-then-optimize framework is fundamental in practical stochastic decision-making problems: first predict unknown parameters of an optimization model, then solve the problem using the predicted values. A natural loss function in this setting is defined by measuring the decision error induced by the predicted parameters, which was named the Smart Predict-then-Optimize (SPO) loss by Elmachtoub and Grigas [arXiv:1710.08005]. Since the SPO loss is typically nonconvex and possibly discontinuous, Elmachtoub and Grigas [arXiv:1710.08005] introduced a convex surrogate, called the SPO+ loss, that importantly accounts for the underlying structure of the optimization model. In this paper, we greatly expand upon the consistency results for the SPO+ loss provided by Elmachtoub and Grigas [arXiv:1710.08005]. We develop risk bounds and uniform calibration results for the SPO+ loss relative to the SPO loss, which provide a quantitative way to transfer the excess surrogate risk to excess true risk. By combining our risk bounds with generalization bounds, we show that the empirical minimizer of the SPO+ loss achieves low excess true risk with high probability. We first demonstrate these results in the case when the feasible region of the underlying optimization problem is a polyhedron, and then we show that the results can be strengthened substantially when the feasible region is a level set of a strongly convex function. We perform experiments to empirically demonstrate the strength of the SPO+ surrogate, as compared to standard $\ell_1$ and squared $\ell_2$ prediction error losses, on portfolio allocation and cost-sensitive multi-class classification problems.

연구 동기 및 목표

• SPO+ 대체 손실에 대한 유한 표본 위험 한계의 부재를 해결하기 위해, 실용적 구현에 필수적이지만 피셔 일致성은 갖는다.
• 초과 대체 손실(SPO+)과 초과 진짜 위험(SPO) 간의 관계를 정량화하여 최적화 보장을 결정 품질로의 번역을 가능하게 한다.
• 위험 한계와 일반화 한계를 조합하여 SPO+에 대한 최초의 표본 복잡도 한계를 유도하여, 높은 확률로 낮은 결정 오류를 보장한다.
• 특히 강凸성과 같은 타당 영역의 구조적 성질을 활용하여 이론적 보장을 강화한다.
• 다양한 노이즈 수준에서 포트폴리오 할당 및 다중 클래스 분류 문제에서 표준 손실($\ell_1$, $\ell_2$)과의 경험적 검증을 수행한다.

제안 방법

• 유계 다각형 타당 영역에 대해 약한 분포 가정 하에 $O(\theta^2)$ 한계를 증명하는 위험 한계를 유도하며, 초과 SPO+ 위험과 초과 SPO 위험 간의 관계를 규명한다.
• 강凸 수준 집합의 새로운 연속성 및 최적성 성질을 도입하여 위험 한계를 $O(\theta)$로 향상시켜, 대체 손실과 진짜 위험 간의 관계를 크게 강화한다.
• 균일 캘리브레이션 이론을 적용하여, 대체 손실을 $\delta$ 이내로 통제할 경우 진짜 위험은 $\epsilon$ 이내로 보장되며, 명시적 기능적 의존성을 제공한다.
• 유도된 위험 한계와 일반화 한계를 조합하여 SPO 위험에 대해 SPO+에 대한 최초의 표본 복잡도 한계를 확립한다.
• 비용 감수성 다중 클래스 분류에서 단위 단체를 모델링하기 위해 로그 장벽 근사법을 사용하여 SPO+의 미분 가능 최적화를 가능하게 한다.
• 매끄럽고 강凸성 가정 하에 최적 해 매핑의 미분 가능성을 역함수 정리로 증명하여, 이론적 분석을 뒷받침한다.

실험 결과

연구 질문

• RQ1 예측-그리고-최적화 프레임워크에서 초과 진짜 SPO 위험은 초과 대체 SPO+ 위험으로 어떻게 한정할 수 있는가?
• RQ2 일반적인 다각형에 비해 타당 영역이 강凸 함수의 수준 집합일 경우 위험 한계는 어떻게 향상되는가?
• RQ3 유한한 학습 데이터를 사용하여 SPO+ 대체 손실이 높은 확률로 낮은 초과 진짜 위험을 달성할 수 있는가? 이는 어떤 표본 복잡도를 암시하는가?
• RQ4 실제 문제에 기반한 문제에서 SPO+ 손실은 표준 예측 손실($\ell_1$, $\ell_2$)과 비교해 결정 품질 측면에서 어떻게 성능을 내는가?
• RQ5 타당 영역의 어떤 구조적 성질이 SPO+ 대체 손실에 대해 더 강한 위험 한계를 가능하게 하는가?

주요 결과

• 유계 다각형 타당 영역에 대해 SPO+ 위험 한계는 $O(\theta^2)$이며, 이는 대체 초과 위험을 $\theta$ 배로 줄일 경우 진짜 초과 위험은 $\theta^2$ 배로 감소함을 의미한다.
• 타당 영역이 매끄럽고 강凸 함수의 수준 집합일 경우 위험 한계는 $O(\theta)$로 향상되며, 더 강한 연속성 및 최적성 성질 덕분에 상당한 강화가 이루어짐을 보여준다.
• 약한 분포 가정 하에 SPO+ 손실은 SPO 손실과 피셔 일치성을 유지하며, 이는 SPO+를 최소화할 경우 극한에서 최적의 결정을 도출함을 보장한다.
• 위험 한계와 일반화 한계를 조합하여 SPO 위험에 대해 SPO+에 대한 최초의 표본 복잡도 한계를 확립하였으며, SPO+의 경험적 최소화자가 높은 확률로 낮은 초과 진짜 위험을 달성함을 보여준다.
• 포트폴리오 할당 및 비용 감수성 분류에서의 경험적 결과는 SPO+가 단순한 초모수 조정으로도 표준 $\ell_1$ 및 $\ell_2$ 손실보다 결정 품질 측면에서 뛰어나다는 것을 보여준다.
• 역함수 정리를 통해 최적 해 매핑의 미분 가능성이 확립되었으며, 이는 강凸성 하에서 SPO+의 이론적 분석을 뒷받침한다.