[논문 리뷰] Large scale multi-objective optimization: Theoretical and practical challenges

Kinjal Basu, Ankan Saha외 1명|arXiv (Cornell University)|2016. 02. 09.

Advanced Multi-Objective Optimization Algorithms참고 문헌 9인용 수 4

한 줄 요약

이 논문은 라그랑주 이중성 기반의 제약 최적화를 사용하여 대규모 다목적 최적화를 위한 확장 가능하고 분산이 줄어든 접근법을 제안한다. 이는 사용자 및 아이템 수준의 제약 조건을 정확하게 처리할 수 있게 하며, 연산자 분할과 분산 감소 기법을 통해 100배의 확장성 향상과 이중 추정치 분산의 두 계층 감소를 달성한다. 이는 온라인 시스템에서 다목적 최적화(MOO)의 산업적 도입을 크게 진전시킨다.

ABSTRACT

Multi-objective optimization (MOO) is a well-studied problem for several important recommendation problems. While multiple approaches have been proposed, in this work, we focus on using constrained optimization formulations (e.g., quadratic and linear programs) to formulate and solve MOO problems. This approach can be used to pick desired operating points on the trade-off curve between multiple objectives. It also works well for internet applications which serve large volumes of online traffic, by working with Lagrangian duality formulation to connect dual solutions (computed offline) with the primal solutions (computed online). We identify some key limitations of this approach -- namely the inability to handle user and item level constraints, scalability considerations and variance of dual estimates introduced by sampling processes. We propose solutions for each of the problems and demonstrate how through these solutions we significantly advance the state-of-the-art in this realm. Our proposed methods can exactly handle user and item (and other such local) constraints, achieve a $100 imes$ scalability boost over existing packages in R and reduce variance of dual estimates by two orders of magnitude.

연구 동기 및 목표

• 기존의 제약 최적화 방법이 대규모 다목적 최적화에서 사용자 및 아이템 수준의 제약 조건과 이중 추정치의 높은 분산 문제를 해결하지 못하는 데에 대비하여 문제를 해결한다.
• 이중 해의 추정 효율성과 정확성을 향상시켜 온라인 시스템에서 확장 가능하고 실시간 최적화를 가능하게 한다.
• 지역 제약 조건을 정확히 처리하면서도 산업 규모에서 계산 가능성을 유지하는 실용적인 프레임워크를 제공한다.
• 샘플링 과정에서 발생하는 이중 추정치의 분산을 줄여, 온라인 추천 시스템에서의 신뢰성을 떨어뜨리는 요인을 제거한다.
• 뉴스피드 순위 매기기와 이메일 포트폴리오 최적화와 같은 실세계 LinkedIn 응용 프로그램에서의 방법의 효과성을 입증한다.

제안 방법

• 라그랑주 이중성을 사용해 오프라인 이중 해 계산과 온라인 원래 해 추론을 분리함으로써 효율적인 온라인 배포를 가능하게 한다.
• 오프라인 단계에서 대규모 이차계획문제를 해결하기 위해 ADMM(교차 방향 승수법)를 적용하여 표준 R 패키지 대비 100배의 확장성을 달성한다.
• 다중 샘플링 경로에서 유도된 제어 변수를 사용해 세 가지 분산 감소 기법을 도입하여 이중 추정 수렴을 안정화시킨다.
• 오프라인 이중 변수와 온라인 아이템 점수를 사용해 각 사용자별 최적 행동 벡터를 계산하는 이중에서 원래로의 변환 알고리즘을 구현한다.
• 사용자 및 아이템 수준의 제약 조건을 최적화 공식에 직접 통합하여 국소 경계의 정확한 만족을 보장한다.
• 단일 머신에서 최대 약 ~10^6개 변수의 이중 문제를 해결할 수 있으며, 이는 이전의 약 ~10,000개 변수의 제한을 크게 초월한다.

실험 결과

연구 질문

• RQ1 온라인 시스템에서 대규모 다목적 최적화에 있어 사용자 및 아이템 수준의 제약 조건을 정확히 강제할 수 있는 방법은 무엇인가?
• RQ2 계산 비용을 증가시키지 않고도 샘플링 기반의 대규모 최적화에서 이중 추정치의 분산을 줄일 수 있는 기법은 무엇인가?
• RQ3 연산자 분할 방법은 이전 산업 시스템보다 100배 더 많은 변수를 가진 문제에까지 확장 가능한가?
• RQ4 제어 변수를 통한 분산 감소는 온라인 추천 시스템에서 이중 해의 신뢰도를 어떻게 향상시키는가?
• RQ5 제안된 프레임워크는 뉴스피드 순위 매기기와 이메일 포트폴리오 최적화와 같은 실세계 산업 응용에 얼마나 널리 적용될 수 있는가?

주요 결과

• 제안된 방법은 단일 머신에서 최대 약 ~10^6개 변수의 이차계획문제를 해결할 수 있도록 하여 이전의 약 ~10,000개 변수의 제한을 초월해 100배의 확장성 향상을 달성한다.
• μ₀에 대한 이중 추정치의 분산은 이전 방법의 16,401.07에서 전체 분산 감소 기법을 적용한 후 11.73으로 감소하여 약 1,400배 감소하였다.
• 다중 샘플링 경로와 제어 변수의 사용은 샘플 크기 증가로만 달성 가능한 400배 감소 외에도 최대 4배의 추가 감소를 이끌어내었다.
• 이 방법은 광고를 하루에 최대 3개로 제한하는 등의 사용자 수준의 제약 조건을 정확히 이행할 수 있으며, 이는 이전 방법이 처리하지 못했던 사례이다.
• 프레임워크는 LinkedIn의 뉴스피드 및 이메일 포트폴리오 최적화에 성공적으로 적용되어 실세계 시스템에서의 실용성과 성능 향상을 입증하였다.
• 연산자 분할과 분산 감소 기법의 조합은 매우 안정적이고 정확한 이중 추정치를 만들어내어 대규모 MOO를 온라인 실시간 응용에 가능하게 하였다.