[論文レビュー] Collective Learning by Ensembles of Altruistic Diversifying Neural Networks

Benjamin Brazowski, Elad Schneidman|arXiv (Cornell University)|Jun 20, 2020

Neural dynamics and brain function参考文献 20被引用数 5

ひとこと要約

この論文は、個々のネットワークがアルトルイスティックで多様性を促進する結合（負のβ）を通じて相互作用する、ディープニューラルネットワークアンサンブルの共学習フレームワークを提案する。個々の損失を最適化しながら予測の多様性をKLダイバージェンスペナルティで促進することで、個々のネットワークの優れた性能に依存せず、構造的特化、より疎な活性化、広い重み分布を実現し、アンサンブル全体の性能を向上させる。独立型や正の結合型ネットワークよりも優れた性能を発揮し、個々のネットワーク性能が低下しても効果を発揮する。

ABSTRACT

Combining the predictions of collections of neural networks often outperforms the best single network. Such ensembles are typically trained independently, and their superior `wisdom of the crowd' originates from the differences between networks. Collective foraging and decision making in socially interacting animal groups is often improved or even optimal thanks to local information sharing between conspecifics. We therefore present a model for co-learning by ensembles of interacting neural networks that aim to maximize their own performance but also their functional relations to other networks. We show that ensembles of interacting networks outperform independent ones, and that optimal ensemble performance is reached when the coupling between networks increases diversity and degrades the performance of individual networks. Thus, even without a global goal for the ensemble, optimal collective behavior emerges from local interactions between networks. We show the scaling of optimal coupling strength with ensemble size, and that networks in these ensembles specialize functionally and become more `confident' in their assessments. Moreover, optimal co-learning networks differ structurally, relying on sparser activity, a wider range of synaptic weights, and higher firing rates - compared to independently trained networks. Finally, we explore interactions-based co-learning as a framework for expanding and boosting ensembles.

研究の動機と目的

• トレーニング中にニューラルネットワーク同士の局所的相互作用が、グローバル最適化の目的なしに集団的性能を向上させることができるかを調査すること。
• 結合強度および方向（正 vs. 負のβ）がアンサンブルの精度および個々のネットワークの挙動に与える影響を調査すること。
• 多様化する相互作用を通じた共学習が、個々のネットワークにおける構造的および機能的特化を引き起こすかどうかを理解すること。
• 新しい共学習ネットワークを用いてアンサンブルを拡張または強化することで、単純な平均化や独立学習を上回る性能向上が達成できるかを評価すること。
• 個々の性能を低下させるにもかかわらず、負の結合—多様性の向上により最適なアンサンブル結果をもたらすのかを特定すること。

提案手法

• アンサンブル内の各ネットワークは、予測と真のラベルとの間のKLダイバージェンスに加え、他のネットワークとのKLダイバージェンスに基づく結合項を含む合成損失関数を最小化する。
• 多様性を促進する相互作用には、結合係数βijが負となる。これは、ネットワークの予測の類似性をペナルティ化することで、多様性の向上を促進する。
• トレーニング中、すべてのネットワークが並列に前向きおよび逆伝播され、リアルタイムでの相互作用と共同最適化が可能になる。
• フレームワークは確率的勾配降下法を用いた多値分類タスクを想定し、テスト精度およびアンサンブルの多様性指標を用いて性能を評価する。
• アンサンブル性能は、ネットワーク間の予測を平均することで測定され、独立に学習されたモデルや正の結合型アンサンブルと比較される。
• モデルは、既存のネットワークに負の結合を持つ新しいネットワークを追加することでアンサンブルを拡張するのを試み、さまざまなブースティングおよび再学習戦略をテストする。

実験結果

リサーチクエスチョン

• RQ1 個々のネットワークの精度が低下しても、相互作用するニューラルネットワークのアンサンブルは、独立に学習されたネットワークよりも優れた性能を達成できるか？
• RQ2 アンサンブル精度を最大化するための最適な結合強度および符号（正または負）は何か？
• RQ3 共学習ネットワークの構造的および活性化特性は、独立に学習されたネットワークや正の結合型ネットワークとどのように異なるか？
• RQ4 新しい共学習ネットワークを追加することでアンサンブルを拡張すると性能が向上するか？もしそうなら、どのような条件下で向上するか？
• RQ5 機能的特化および予測の信頼性の向上は、ネットワーク間のアルトルイスティックで多様化する相互作用から自然に生じるか？

主な発見

• 負の結合（多様化）を持つネットワークのアンサンブルは、独立に学習されたネットワークや正の結合型アンサンブルを上回り、個々のネットワークの精度が孤立した場合より低い状態でも最適な性能を発揮する。
• 結合による多様性の向上と個々のネットワーク性能の低下が同時に起こる状況で最適なアンサンブル性能が得られ、これはアルトルイスティックな相互作用が集団知能を向上させることを示している。
• 負の結合を持つネットワークは、独立または正の結合型ネットワークと比較して、より疎な活性化パターン、より高い平均発火率、広いシナプス重み分布を示す。
• 最適な共学習アンサンブル内のネットワークは機能的に特化しており、入力空間の異なる領域に注目することで、より自信を持って多様な予測を生成する。
• 15個すべてのネットワークを負の結合で再学習することでアンサンブルを拡張すると性能が著しく向上するが、再学習なしに新しい独立または結合型ネットワークを追加しても性能向上は得られない。
• 最適な結合強度はアンサンブルサイズに比例する傾向を示しており、これはネットワーク数と相互作用強度との間に、ピーク性能を得るための体系的な関係があることを示唆している。