[논문 리뷰] Collective Learning by Ensembles of Altruistic Diversifying Neural Networks

Benjamin Brazowski, Elad Schneidman|arXiv (Cornell University)|2020. 06. 20.

Neural dynamics and brain function참고 문헌 20인용 수 5

한 줄 요약

이 논문은 깊이 신경망 앙상블을 위한 공학적 학습 프레임워크를 제안하며, 네트워크 간 상호작용을 통해 이타적이고 다양화하는 결합(음수 β)을 통해 앙상블 성능을 향상시킵니다. 개별 손실 최적화와 함께 KL 발산 페널티를 통해 예측의 다양성을 촉진함으로써, 개별 네트워크의 뛰어난 성능가 아니라 구조적 전문화, 더 희박한 활성화, 더 넓은 가중치 분포를 통해 우수한 정확도를 달성합니다. 이는 개별 성능이 떨어지는 경우에도 독립적 또는 양의 결합 네트워크보다 뛰어난 성능을 발휘합니다.

ABSTRACT

Combining the predictions of collections of neural networks often outperforms the best single network. Such ensembles are typically trained independently, and their superior `wisdom of the crowd' originates from the differences between networks. Collective foraging and decision making in socially interacting animal groups is often improved or even optimal thanks to local information sharing between conspecifics. We therefore present a model for co-learning by ensembles of interacting neural networks that aim to maximize their own performance but also their functional relations to other networks. We show that ensembles of interacting networks outperform independent ones, and that optimal ensemble performance is reached when the coupling between networks increases diversity and degrades the performance of individual networks. Thus, even without a global goal for the ensemble, optimal collective behavior emerges from local interactions between networks. We show the scaling of optimal coupling strength with ensemble size, and that networks in these ensembles specialize functionally and become more `confident' in their assessments. Moreover, optimal co-learning networks differ structurally, relying on sparser activity, a wider range of synaptic weights, and higher firing rates - compared to independently trained networks. Finally, we explore interactions-based co-learning as a framework for expanding and boosting ensembles.

연구 동기 및 목표

• 학습 중 신경망 간 局소 상호작용이 전역 최적화 목표 없이도 집단 성능을 향상시킬 수 있는지 조사하기.
• 결합 강도와 방향(양의 vs. 음의 β)이 앙상블 정확도 및 개별 네트워크 행동에 미치는 영향을 탐구하기.
• 다양화 상호작용을 통한 공학적 학습이 개별 네트워크의 구조적 및 功能적 전문화를 이끌어내는지 이해하기.
• 새로운 공학적 학습 네트워크를 통해 앙상블을 확장하거나 강화함으로써 단순 평균화나 독립 학습을 초월한 성능 향상을 평가하기.
• 개별 성능을 떨어뜨리는 음의 결합이 예측 다양성을 향상시켜 최적의 앙상블 결과를 이끌어내는지 여부를 규명하기.

제안 방법

• 앙상블 내 각 네트워크는 예측과 진짜 레이블 간의 KL 발산에 더해, 다른 네트워크와의 KL 발산 기반 결합 항을 포함하는 복합 손실 함수를 최소화합니다.
• 다양화 상호작용을 위한 결합 계수 βij는 음수이며, 네트워크 예측 간 유사성을 방지함으로써 다양성을 촉진합니다.
• 학습 중 모든 네트워크가 동시에 순전파 및 역전파를 수행하여 실시간 상호작용과 공동 최적화를 가능하게 합니다.
• 프레임워크는 확률적 경사 하강법을 사용하는 다중 클래스 분류 작업을 기반으로 하며, 테스트 정확도 및 앙상블 다양성 지표를 통해 성능을 평가합니다.
• 앙상블 성능는 네트워크 간 예측 평균화를 통해 측정되며, 독립적으로 학습된 모델 및 양의 결합 앙상블과의 비교를 포함합니다.
• 기존 네트워크에 음의 결합을 가진 새로운 네트워크를 추가하여 앙상블 확장을 탐색하며, 다양한 부스팅 및 재학습 전략을 테스트합니다.

실험 결과

연구 질문

• RQ1 개별 네트워크 정확도가 감소하는 경우에도 상호작용하는 신경망 앙상블이 독립적으로 학습된 네트워크보다 성능이 뛰어나게 할 수 있는가?
• RQ2 앙상블 정확도를 극대화하기 위한 최적의 결합 강도와 부호(양 또는 음)는 무엇인가?
• RQ3 공학적 학습 네트워크의 구조적 및 활성화 특성은 독립적으로 학습된 네트워크 또는 양의 결합 네트워크와 어떻게 다릅니까?
• RQ4 새로운 공학적 학습 네트워크를 추가하여 앙상블을 확장하면 성능 향상이 이루어지며, 만약 그렇다면 어떤 조건에서 이루어지나요?
• RQ5 기능적 전문화와 더 높은 확신 있는 예측이 이타적이고 다양화하는 네트워크 간 상호작용에서 자연스럽게 유도될 수 있는가?

주요 결과

• 음의 결합(다양화) 네트워크로 구성된 앙상블은 독립적으로 학습된 네트워크 및 양의 결합 앙상블보다 뛰어난 성능을 보이며, 개별 네트워크 정확도가 고립 상태일 때보다 낮을 경우 최적의 성능을 달성합니다.
• 결합이 다양성을 증가시키고 개별 네트워크 성능를 떨어뜨릴 때 최적의 앙상블 성능가 나타나며, 이는 이타적 상호작용이 집단 지능을 향상시킨다는 것을 시사합니다.
• 음의 결합 네트워크는 독립적 또는 양의 결합 네트워크보다 더 희박한 활성화 패턴, 더 높은 평균 발화 빈도, 더 넓은 시냅스 가중치 분포를 보입니다.
• 최적의 공학적 학습 앙상블 내 네트워크는 기능적으로 전문화되며, 입력 공간의 서로 다른 영역에 집중함으로써 더 확신 있는 예측과 더 다양한 예측을 만들어냅니다.
• 15개의 모든 네트워크를 음의 결합으로 재학습함으로써 앙상블을 확장하면 성능 향상이 크게 이루어지지만, 재학습 없이 새로운 독립적 또는 결합된 네트워크를 추가하는 것은 성능 향상이 없습니다.
• 최적의 결합 강도는 앙상블 크기에 비례하여 증가하며, 이는 네트워크 수와 상호작용 강도 사이에 최적 성능을 위한 체계적인 관계가 있음을 시사합니다.