[논문 리뷰] Information-constrained optimization: can adaptive processing of gradients help?

Jayadev Acharya, Clément L. Canonne외 2명|arXiv (Cornell University)|2021. 04. 02.

Sparse and Compressive Sensing Techniques인용 수 5

한 줄 요약

이 논문은 국소 정보 제약 조건—예를 들어 국소 기밀성, 통신 제약, 계산 제약—하에 1차 최적화에서 기울기의 적응적 처리가 수렴을 향상시키는지 조사한다. 이는 볼록 함수 및 강볼록 함수에 대해, 대부분의 영역에서 비적응적 방법에 비해 점근적 개선이 없다는 엄밀한 하한을 확립한다. 다만 블록 단위 평균 추정이라는 특정 문제에서는 적응적 처리가 오차율을 $\sqrt{d}$ 배 감소시켜 뚜렷하고 증명 가능한 이점을 제공함을 밝혀낸다.

ABSTRACT

We revisit first-order optimization under local information constraints such as local privacy, gradient quantization, and computational constraints limiting access to a few coordinates of the gradient. In this setting, the optimization algorithm is not allowed to directly access the complete output of the gradient oracle, but only gets limited information about it subject to the local information constraints. We study the role of adaptivity in processing the gradient output to obtain this limited information from it.We consider optimization for both convex and strongly convex functions and obtain tight or nearly tight lower bounds for the convergence rate, when adaptive gradient processing is allowed. Prior work was restricted to convex functions and allowed only nonadaptive processing of gradients. For both of these function classes and for the three information constraints mentioned above, our lower bound implies that adaptive processing of gradients cannot outperform nonadaptive processing in most regimes of interest. We complement these results by exhibiting a natural optimization problem under information constraints for which adaptive processing of gradient strictly outperforms nonadaptive processing.

연구 동기 및 목표

• 국소 정보 제약 조건 하에서 1차 최적화에서 기울기의 적응적 처리가 수렴 속도를 향상시킬 수 있는지 판단하기.
• 국소 기밀성, 통신, 계산 제약이라는 세 가지 핵심 제약 조건에서 기울기 처리의 적응성 역할을 분석하기.
• 볼록 함수 및 강볼록 함수에 대해 적응적 처리 하에서 수렴 속도에 대한 엄밀하거나 거의 엄밀한 하한을 확립하기.
• 적응적 전략이 비적응적 전략을 엄격히 능가하는 조건을 특정하기.

제안 방법

• 저자들은 평균 추정으로의 감소를 이용하고, Assouad의 방법을 적용하여 국소 제약 조건 하에서 최적화의 평균 정보 하한을 유도한다.
• 정보 제약 조건 하에서 최적성 갭을 분석하기 위해 블록 구조 신호를 사용하여 어려운 함수 인스턴스를 구성한다.
• 하한 분석을 위해, 노이즈가 있는 관측치 하에서 은폐된 비영 평균 블록을 추정할 때의 기대 제곱 오차를 분석한다.
• 과거 관측치에 대한 함수로 채널 선택을 모델링하여 비적응적 및 적응적 전략을 비교하고, 서브가우시안 농도 및 Hoeffding 유형의 경계를 사용한다.
• 적응적 전략 하에서 추정 오차의 상한을 유도하고, 비적응적 전략의 하한과 비교한다.
• 핵심 구성 요소는 기울기 공간을 블록으로 나누고, 적응적 채널 선택을 시뮬레이션하기 위해 노이즈가 있는 선택 메커니즘을 사용하는 것이다.

실험 결과

연구 질문

• RQ1 국소 기밀성 제약 조건 하에서 1차 최적화에서 기울기의 적응적 처리가 수렴을 향상시킬 수 있는가?
• RQ2 통신 제약 조건 하에서 기울기의 적응적 처리가 증명 가능한 이점을 제공하는가?
• RQ3 계산 제약 조건 하에서 비적응적 처리를 능가하는 적응적 처리가 작용하는 영역이 존재하는가?
• RQ4 정보 제약 조건 하에서 적응성을 允許할 때 수렴 속도의 근본적 한계는 무엇인가?
• RQ5 특정 최적화 문제에서 적응성이 비적응적 방법에 비해 뚜렷하고 정량화 가능한 개선을 이끌어내는가?

주요 결과

• 국소 기밀성, 통신, 계산 제약 조건 하에서 볼록 함수 및 강볼록 함수에 대해, 적응적 기울기 처리는 비적응적 방법이 달성 가능한 것 이상의 점근적 수렴 속도를 향상시키지 못한다.
• 논문은 블록 단위 평균 추정 문제에서 적응적 전략과 비적응적 전략 사이에 엄격한 분리를 확립한다: 적응적 방법은 오차 $\lesssim \frac{20d\ln d}{T}$ 를 달성하는 반면, 비적응적 방법은 $T = \Omega(d)$ 에 대해 $\gtrsim \frac{d^{3/2}}{T}$ 이하의 하한을 가진다.
• 블록 크기 $s \approx \sqrt{d}$ 일 때 적응성의 이득이 최대가 되며, 이는 수렴 속도에서 $\sqrt{d}$ 배 향상된다.
• Assouad의 방법을 통해 유도된 하한은 세 가지 정보 제약 조건 및 두 함수 클래스 모두에 대해 엄밀하거나 거의 엄밀하다.
• 블록 단위 평균 추정 문제에서 적응적 채널 선택은 알고리즘이 높은 확률로 정확한 블록에 집중할 수 있게 하고, 반면 비적응적 전략은 더 높은 오차 하한에 시달린다.
• 결과적으로 일반적으로 기울기 처리의 적응성 이점은 일반 최적화 작업이 아닌 특정 문제 구조에 국한되어 있음을 시사한다.