[논문 리뷰] Inferring Parameters Through Inverse Multiobjective Optimization

Chaosheng Dong, Bo Zeng|arXiv (Cornell University)|2018. 08. 02.

Advanced Multi-Objective Optimization Algorithms참고 문헌 55인용 수 6

한 줄 요약

이 논문은 노이즈가 있는 실제 데이터에서 다기준 의사결정 문제의 매개변수를 추론하기 위해 새로운 역다기준 최적화 프레임워크를 제안하며, 여러 기준 간의 트레이드오프를 명시적으로 모델링한다. 통계적 추론, ADMM 기반 알고리즘, 클러스터링을 통합함으로써, 노이즈에서 해석 가능한 선호도를 분리하여 유틸리티 함수와 통계적 보장을 갖춘 노이즈 제거된 최적 의사결정을 정확하게 추정할 수 있다.

ABSTRACT

Given a set of human's decisions that are observed, inverse optimization has been developed and utilized to infer the underlying decision making problem. The majority of existing studies assumes that the decision making problem is with a single objective function, and attributes data divergence to noises, errors or bounded rationality, which, however, could lead to a corrupted inference when decisions are tradeoffs among multiple criteria. In this paper, we take a data-driven approach and design a more sophisticated inverse optimization formulation to explicitly infer parameters of a multiobjective decision making problem from noisy observations. This framework, together with our mathematical analyses and advanced algorithm developments, demonstrates a strong capacity in estimating critical parameters, decoupling "interpretable" components from noises or errors, deriving the denoised \emph{optimal} decisions, and ensuring statistical significance. In particular, for the whole decision maker population, if suitable conditions hold, we will be able to understand the overall diversity and the distribution of their preferences over multiple criteria, which is important when a precise inference on every single decision maker is practically unnecessary or infeasible. Numerical results on a large number of experiments are reported to confirm the effectiveness of our unique inverse optimization model and the computational efficacy of the developed algorithms.

연구 동기 및 목표

• 기존의 역최적화 기법이 단일 목적의 의사결정을 가정하고 데이터의 산산이 흩어진 원인을 노이즈로 간주하는 데서 비롯되는 한계를 해결하기 위해, 다기준 간의 트레이드오프를 반영하는 의사결정이 이루어질 경우 실패하는 문제를 해결한다.
• 의사결정 과정에서 다기준 선호도를 명시적으로 고려하는 통계적 역최적화 모델을 개발함으로써, 개별 의사결정자가 다양한 해석 가능한 트레이드오프를 가진 경우에도 유연하게 대응할 수 있도록 한다.
• 개별 수준의 추론이 불가능하거나 불필요한 경우에도, 의사결정자 집단 전반의 유틸리티 함수와 선호도 분포를 추정한다.
• 관측된 의사결정에서 '해석 가능한' 성분과 노이즈, 오류 또는 최적화되지 않은 행동을 분리함으로써 통계적 유의성과 강건성을 확보한다.
• 특히 ADMM 기반 솔버를 포함한 계산 효율적인 알고리즘 설계를 통해 대규모 역다기준 최적화 문제를 효과적으로 해결한다.

제안 방법

• 관측된 의사결정과 다기준 의사결정 문제(Multiobjective DMP)의 최적해 사이의 경험적 손실을 최소화하는 역최적화 문제를 수립하며, 이에 대해 이차 손실 함수를 사용해 편차를 측정한다.
• 비볼록성과 상보성 제약 조건을 다루기 위해 KKT 기반의 재구성 문제를 도입하여, 혼합정수프로그래밍을 통해 해를 구할 수 있도록 한다.
• 대규모 비스무스 최적화 문제를 효율적으로 해결하기 위해 ADMM 기반 알고리즘을 활용하며, 약한 가정 하에 수렴 보장을 제공한다.
• 해석된 선호도 벡터 기반으로 의사결정자를 클러스터링하여, 집단 수준의 선호도 분포 추론을 가능하게 한다.
• 일반화 성능과 추정 매개변수의 통계적 유의성을 확보하기 위해 라데마처 복잡도 한계를 적용한다.
• 다기준 프로그램에서 목적함수 및 우변항 매개변수 추정을 위한 단일계층 혼합정수선형계획(MILP) 재구성식을 개발한다.

실험 결과

연구 질문

• RQ1 다양한 기준 간 트레이드오프를 반영하는 노이즈가 있는 실제 의사결정 데이터로부터 기저의 다기준 유틸리티 함수를 정확히 추론할 수 있는가?
• RQ2 관측된 의사결정에서 해석 가능한 선호도 구조와 노이즈 또는 오류를 어떻게 구분할 수 있는가?
• RQ3 다양한 의사결정자 집단 전반에서 추정된 매개변수의 통계적 유의성과 일반화 성능는 어떠한가?
• RQ4 개별 수준의 추론이 비현실적인 경우에도, 여러 기준에 걸친 선호도 분포를 효과적으로 추정할 수 있는가?
• RQ5 대규모 역다기준 최적화 문제를 해결하기 위해 계산 효율적인 알고리즘을 어떻게 설계할 수 있는가?

주요 결과

• 제안된 역다기준 최적화 프레임워크는 해석 가능한 선호도 성분을 노이즈에서 효과적으로 분리하여, 단일 목적 역최적화보다 더 정확한 매개변수 추정이 가능함을 입증한다.
• ADMM 기반 알고리즘은 대규모 데이터셋에서 뛰어난 계산 효율성과 수렴 성능를 보이며, 실용적 구현이 가능하다.
• 라데마처 복잡도 한계를 통한 통계 분석은 추정된 매개변수의 일반화 성능와 강건성을 확인한다.
• 해석된 선호도 벡터의 클러스터링은 개별 의사결정이 노이즈나 최적화되지 않은 경우에도 다기준 트레이드오프에 대한 의미 있는 집단 수준의 패턴을 드러낸다.
• 포트폴리오 최적화에 대한 수치 실험 결과, 다양한 노이즈 수준에서도 진짜 기대 수익률과 공분산 행렬을 높은 정확도로 복원함을 확인하였다.
• 특히 의사결정에서 높은 수준의 트레이드오프가 존재하는 환경에서, 기준 단일 목적 역최적화 접근법에 비해 매개변수 추정 정확도에서 뚜렷한 향상을 달성한다.