[논문 리뷰] A Generic First-Order Algorithmic Framework for Bi-Level Programming Beyond Lower-Level Singleton

Risheng Liu, Pan Mu외 3명|arXiv (Cornell University)|2020. 06. 07.

Sparse and Compressive Sensing Techniques참고 문헌 30인용 수 12

한 줄 요약

이 논문은 제약 조건이 없는 하위 수준 단일해(LLL) 조건을 제거하는 일반적인 일阶 알고리즘 프레임워크인 이중 수준 내림값 집합(Bi-level Descent Aggregation, BDA)을 제안한다. 이중 수준 문제를 낙관적 시각에서 재정의하고 계층적 목적 정보를 집계함으로써, LLS 조건 없이 수렴성을 확보하며 기존 방법을 초월하고, 하이퍼파라미터 최적화 및 메타학습 과제에서 뛰어난 성능을 보인다.

ABSTRACT

In recent years, a variety of gradient-based first-order methods have been developed to solve bi-level optimization problems for learning applications. However, theoretical guarantees of these existing approaches heavily rely on the simplification that for each fixed upper-level variable, the lower-level solution must be a singleton (a.k.a., Lower-Level Singleton, LLS). In this work, we first design a counter-example to illustrate the invalidation of such LLS condition. Then by formulating BLPs from the view point of optimistic bi-level and aggregating hierarchical objective information, we establish Bi-level Descent Aggregation (BDA), a flexible and modularized algorithmic framework for generic bi-level optimization. Theoretically, we derive a new methodology to prove the convergence of BDA without the LLS condition. Our investigations also demonstrate that BDA is indeed compatible to a verify of particular first-order computation modules. Additionally, as an interesting byproduct, we also improve these conventional first-order bi-level schemes (under the LLS simplification). Particularly, we establish their convergences with weaker assumptions. Extensive experiments justify our theoretical results and demonstrate the superiority of the proposed BDA for different tasks, including hyper-parameter optimization and meta learning.

연구 동기 및 목표

• 기존 일계 수준 이중 수준 최적화 방법이 제약 조건이 있는 하위 수준 단일해(LLS) 조건에 의존하는 한계를 해결하기 위해.
• LLS 조건을 초월하여 일반적이고 모듈형이며 유연한 이중 수준 프로그래밍 알고리즘 프레임워크를 개발하기 위해.
• LLS 조건을 요구하지 않는 이중 수준 일계 방법의 수렴성에 대한 새로운 이론적 증명 체계를 수립하기 위해.
• LLS 단순화 조건 하에서 기존 일계 수준 이중 수준 기법의 수렴 보장을 향상시키기 위해.
• 다양한 기계학습 응용 분야에서 제안된 프레임워크의 우수성을 경험적으로 검증하기 위해.

제안 방법

• 하위 수준 해가 단일해가 아닐 경우를 다룰 수 있도록 낙관적 시각에서 이중 수준 문제를 재정의한다.
• 이중 수준 내림값 집합(BDA)을 도입하여, 상위 수준 변수에 대한 단일 수준 하위문제와 하위 수준 변수에 대한 단순한 이중 수준 하위문제로 문제를 분해하는 모듈형 프레임워크를 구성한다.
• 상위 수준 및 하위 수준 문제로부터 유도된 계층적 목적 정보를 집계하여 최적화를 이끌어낸다.
• LLS 조건을 요구하지 않는 일반적인 수렴 증명 체계를 수립한다. 이는 균일한 유계성과 연속성 가정에 기반한다.
• 하위 수준 목적 함수의 수준 유계성과 국소 균일 연속성을 활용하여, 더 느슨한 조건 하에서도 수렴을 보장한다.
• 상위 수준을 검증 손실, 하위 수준을 학습 손실로 모델링하여 하이퍼파라미터 최적화 및 소수 샘플 메타학습에 프레임워크를 적용한다.

실험 결과

연구 질문

• RQ1 하위 수준 단일해(LLS) 조건을 요구하지 않는 일계 수준 이중 수준 최적화 프레임워크를 개발할 수 있는가?
• RQ2 하위 수준 해 집합이 단일해가 아닐 경우, 일계 수준 이중 수준 방법의 수렴을 보장하는 이론적 조건은 무엇인가?
• RQ3 계층적 목적 정보는 어떻게 집계하여 이중 수준 최적화의 수렴성과 안정성을 향상시킬 수 있는가?
• RQ4 제안된 프레임워크는 실질적인 기계학습 응용 분야에서 기존 일계 수준 이중 수준 방법을 능가할 수 있는가?
• RQ5 새로운 증명 체계는 기존 LLS 기반 방법의 수렴 보장을 향상시킬 수 있는가?

주요 결과

• BDA는 LLS 조건 없이도 상위 수준 변수가 최적 해로 부분 수렴함을 입증하였다.
• 제안된 보다 정교한 이론적 증명 체계를 통해, LLS 가정 하에서 기존 일계 수준 이중 수준 기법의 수렴 성질이 향상됨을 확인하였다.
• Omniglot 벤치마크에서 BDA는 5-way 1-shot 설정에서 99.04%의 정확도를 기록하여 MAML(98.70%) 및 기타 기준선을 능가하였다.
• MiniImageNet에서 BDA는 49.08%의 정확도를 기록하여 RHG(48.89%)와 T-RHG(47.67%)를 약간 앞서며, 약 44% 정확도에 도달하는 데 필요한 상위 수준 반복 횟수(2500회)가 가장 적었다.
• 검증 손실 곡선 분석 결과, BDA는 소수 샘플 분류 과제에서 Omniglot 및 MiniImageNet 양측 모두에서 RHG 및 T-RHG보다 더 빠르게 수렴하는 것으로 나타났다.
• 반례를 통해 LLS 조건 없이 기존 이중 수준 FOMs가 잘못된 해로 수렴할 수 있음을 입증하여, 제안된 프레임워크의 必要성 을 검증하였다.