[논문 리뷰] Weighted Ensembles for Active Learning with Adaptivity

Konstantinos D. Polyzos, Qin Lu외 1명|arXiv (Cornell University)|2022. 06. 10.

Gaussian Processes and Bayesian Inference인용 수 7

한 줄 요약

이 논문은 활성 학습을 위한 적응형 가중치를 갖춘 가우시안 프로세스(EGP)의 앙상블을 제안하며, 커널 가중치가 레이블이 부여된 데이터에 따라 동적으로 조정되어 모델의 표현력을 향상시킵니다. 앙상블 추출 함수를 도입하여 강건성과 성능을 향상시켜, 합성 데이터, 의료 데이터, 로봇 데이터셋에서 모두 회귀 및 불확실성 정량화 측면에서 단일 GP 기반 모델보다 뛰어난 성능을 보입니다.

ABSTRACT

Labeled data can be expensive to acquire in several application domains, including medical imaging, robotics, and computer vision. To efficiently train machine learning models under such high labeling costs, active learning (AL) judiciously selects the most informative data instances to label on-the-fly. This active sampling process can benefit from a statistical function model, that is typically captured by a Gaussian process (GP). While most GP-based AL approaches rely on a single kernel function, the present contribution advocates an ensemble of GP models with weights adapted to the labeled data collected incrementally. Building on this novel EGP model, a suite of acquisition functions emerges based on the uncertainty and disagreement rules. An adaptively weighted ensemble of EGP-based acquisition functions is also introduced to further robustify performance. Extensive tests on synthetic and real datasets showcase the merits of the proposed EGP-based approaches with respect to the single GP-based AL alternatives.

연구 동기 및 목표

• 정적 커널 선택으로 인해 활성 학습에서 단일 커널 가우시안 프로세스의 표현력이 제한되는 문제를 해결한다.
• 의료 영상 및 로봇 공학과 같은 온라인, 데이터 부족 환경에서 레이블이 부여된 데이터에 따라 다수의 GP 모델을 동적으로 가중함으로써 모델의 적응성을 향상시킨다.
• EGP 프레임워크를 활용해 불확실성 기반 및 불일치 기반의 추출 함수 세트를 개발한다.
• 다양한 작업 간의 강건성을 향상시키기 위해 가중치 기반 앙상블을 통해 다수의 추출 함수를 적응적으로 조합한다.
• 실제 데이터 및 합성 데이터셋에서 단일 GP 기반 모델 대비 예측 오차와 불확실성 캘리브레이션 측면에서 뛰어난 성능을 입증한다.

제안 방법

• 각기 다른 커널을 갖는 가우시안 프로세스의 앙상블을 구성하고, 수집된 레이블 데이터에 따라 변화하는 적응형 가중치를 할당한다.
• 현재 레이블 집합에 대해 각 GP 구성 요소의 가능도를 기반으로 베이지안 모델 평균화를 사용해 EGP 가중치를 업데이트한다.
• 예측의 분산 등 불확실성 기반(예: 분산) 및 예측 간 불일치 기반(예: 앙상블 구성원 간 예측의 분산)의 다수의 추출 함수를 설계한다.
• 온라인 최적화를 통해 개별 추출 함수에 대한 동적 가중치를 학습하여 적응형 다중 추출 함수를 구성한다.
• EGP 모델과 적응형 추출 함수를 반복적인 활성 학습 루프에 적용하여 각 단계에서 가장 정보가 많은 샘플을 쿼리한다.
• 부정적 예측 로그가중도(NPLL)를 통해 불확실성 캘리브레이션을 수행하고, 정규화된 평균 제곱 오차(NMSE)를 사용해 성능을 평가한다.

실험 결과

연구 질문

• RQ1 데이터 부족 상황에서 적응형 가중치를 갖는 가우시안 프로세스 앙상블이 기능 근사에 어떻게 기여하는가?
• RQ2 EGP 기반 추출 함수의 성능은 단일 GP 기반 모델 대비 예측 정확도 및 불확실성 정량화 측면에서 어떻게 비교되는가?
• RQ3 다수의 추출 함수에 대한 적응형 가중치 조정이 다양한 데이터셋과 작업 간의 강건성에 얼마나 기여하는가?
• RQ4 EGP-다중AF 접근법은 제한된 레이블 데이터를 가진 실제 의료 및 로봇 공학 회귀 작업에서 뛰어난 성능을 유지하는가?
• RQ5 EGP 프레임워크는 전체 재학습이 필요 없이 점진적으로 레이블이 부여되는 데이터에서 복잡한 비선형 관계를 효과적으로 포착할 수 있는가?

주요 결과

• EGP-다중AF 접근법은 말라리아 및 당뇨병 데이터셋에서 GP-Var 기반 모델 대비 가장 낮은 정규화된 평균 제곱 오차(NMSE)를 기록했다.
• 캘리포니아 주택 데이터셋에서는 EGP-다중AF가 가장 우수한 부정적 예측 로그가중도(NPLL)를 기록하여 더 나은 불확실성 캘리브레이션을 보였다.
• 로봇 밀어내기 작업(3D 및 4D)에서는 EGP 기반 모든 방법이 단일 GP 기반 모델 대비 NMSE와 NPLL를 크게 감소시켰고, EGP-다중AF가 일관되게 가장 뛰어난 성능을 보였다.
• 말라리아 데이터셋에서는 단일 GP 방법이 상대적으로 양호한 성능을 보였지만, EGP 기반 모든 방법이 GP-Var 기반 모델보다 낮은 NPLL을 기록하여 더 나은 불확실성 정량화를 입증했다.
• 적응형 추출 함수 앙상블이 정적 또는 비적응형 조합보다 항상 뛰어난 성능을 보였으며, 온라인 가중치 적응의 가치를 입증했다.
• EGP 모델이 가중치 적응을 통해 가장 관련성이 높은 커널을 동적으로 선택할 수 있었고, 이는 모든 테스트 시나리오에서 기능 공간의 표현력과 강건성을 향상시켰다.