[논문 리뷰] Quality or Quantity? Error-Informed Selective Online Learning with Gaussian Processes in Multi-Agent Systems: Extended Version

Zewen Yang, Xiaobing Dai외 3명|arXiv (Cornell University)|2026. 01. 10.

Gaussian Processes and Bayesian Inference인용 수 0

한 줄 요약

다중 에이전트 시스템에서 선택적 온라인 학습을 위한 분산 오류 정보 기반 가우시안 프로세스(EIGP)를 도입하고, greedy 및 adaptive 변형, 데이터 삭제 전략 및 이론적 오류 경계를 제시합니다.

ABSTRACT

Effective cooperation is pivotal in distributed learning for multi-agent systems, where the interplay between the quantity and quality of the machine learning models is crucial. This paper reveals the irrationality of indiscriminate inclusion of all models on agents for joint prediction, highlighting the imperative to prioritize quality over quantity in cooperative learning. Specifically, we present the first selective online learning framework for distributed Gaussian process (GP) regression, namely distributed error-informed GP (EIGP), that enables each agent to assess its neighboring collaborators, using the proposed selection function to choose the higher quality GP models with less prediction errors. Moreover, algorithmic enhancements are embedded within the EIGP, including a greedy algorithm (gEIGP) for accelerating prediction and an adaptive algorithm (aEIGP) for improving prediction accuracy. In addition, approaches for fast prediction and model update are introduced in conjunction with the error-informed quantification term iteration and a data deletion strategy to achieve real-time learning operations. Numerical simulations are performed to demonstrate the effectiveness of the developed methodology, showcasing its superiority over the state-of-the-art distributed GP methods with different benchmarks.

연구 동기 및 목표

• 협력 MAS 학습에서 모든 로컬 GP 모델을 무차별적으로 집계하는 것의 비합리성을 강조하고 품질 정보에 기반한 협업을 주장한다.
• 이웃으로부터 고품질 GP 모델을 선택적으로 결합하기 위해 분산 오류 정보 기반 GP(EIGP) 프레임워크를 개발한다.
• 예측을 가속하고 정확도를 높이기 위한 greedy(gEIGP)와 adaptive(aEIGP) 알고리즘을 제공한다.
• 실시간 온라인 학습을 위한 데이터 삭제 전략과 효율적인 업데이트/예측 방법을 도입한다.
• 오류 경 bounds를 통한 협력 예측에 대한 이론적 보장을 수립한다.

제안 방법

• 예측 오차와 커널 기반 유사성을 통해 GP 모델 품질을 정량화하는 오류 정보 기반 예측 지표를 정의한다.
• 각 에이전트가 가중된 GP 예측으로 이웃의 하위 집합을 결합하는 선택적 집계 규칙을 형식화한다.
• 커널 기반 선택 I_i(x)를 사용하여 복잡도를 O(N^2)에서 O(|I_i(x)|^2)로 감소시키는 빠른 예측 형태를 개발한다.
• 예측을 위해 단일 신뢰하는 이웃을 선택하는 greedy EIGP(gEIGP)을 제안한다.
• 신뢰도 제어 메커니즘으로 이웃 선택을 허용하는 adaptive EIGP(aEIGP)을 제안한다.
• 데이터 삭제(축소) 전략을 도입하여 데이터 세트 크기를 한정하고 온라인 업데이트를 가능하게 한다(그람 행렬 재할당 포함).

실험 결과

연구 질문

• RQ1 MAS에서 GP 기반 협력 학습을 예측 오차를 기반으로 이웃 모델에 선택적으로 가중치를 부여함으로써 어떻게 개선할 수 있는가?
• RQ2 오류 정보 기반 지표와 선택적 집계가 통신/계산을 줄이면서 정확한 예측을 낼 수 있는가?
• RQ3 EIGP의 greedy 및 adaptive 변형이 온라인 설정에서 예측 속도와 정확도 간의 트레이드오프를 제공하는가?
• RQ4 스트리밍 데이터와 제한된 메모리로 온라인 GP 모델을 효율적으로 업데이트하는 방법은?
• RQ5 오류 정보 기반 협력 GP 예측에 대해 어떤 이론적 보장을 수립할 수 있는가?

주요 결과

• EIGP 프레임워크는 예측 오차 기반 지표와 커널 유사성을 통해 에이전트가 이웃 모델 품질을 평가할 수 있게 한다.
• Greedy 변형(gEIGP), adaptive 변형(aEIGP)은 고품질 이웃에 집계를 제한하여 계산량을 줄이면서도 정확도를 유지하거나 향상시킨다.
• 데이터 삭제 전략과 효율적인 업데이트/예측 루틴이 경계 메모리로 실시간 온라인 학습을 지원한다.
• 제안된 접근법은 시뮬레이션에서 최첨단 분산 GP 방법에 비해 우수한 성능을 보인다(구체 수치는 제공되지 않음).