[論文レビュー] HERMES: A Hierarchical Broadcast-Based Silicon Photonic Interconnect for Scalable Many-Core Systems

Moustafa Mohamed, Zheng Li+2 more|arXiv (Cornell University)|Jan 19, 2014

Photonic and Optical Devices参考文献 47被引用数 3

ひとこと要約

HERMESは、千コアシステムにおける高スループット通信を実現するため、低遅延で電力スケーラブルなブロードキャストネットワークと回路スイッチドポイントツーポイントリンクを組み合わせた階層的シリコンフォトニクスインターコネクトを提案する。断熱的カップラーと2-ary折りたたみバタフライトポロジーを活用することで、線形な電力スケーリング（96％の効率）を達成し、ブロードキャストフィルタリングとグリーディワークロード移行によるグローバルトラフィックの低減を実現。スケーラビリティ、遅延、エネルギー効率の点で先行研究を上回る性能を発揮する。

ABSTRACT

Optical interconnection networks, as enabled by recent advances in silicon photonic device and fabrication technology, have the potential to address on-chip and off-chip communication bottlenecks in many-core systems. Although several designs have shown superior power efficiency and performance compared to electrical alternatives, these networks will not scale to the thousands of cores required in the future. In this paper, we introduce Hermes, a hybrid network composed of an optimized broadcast for power-efficient low-latency global-scale coordination and circuit-switch sub-networks for high-throughput data delivery. This network will scale for use in thousand core chip systems. At the physical level, SoI-based adiabatic coupler has been designed to provide low-loss and compact optical power splitting. Based on the adiabatic coupler, a topology based on 2-ary folded butterfly is designed to provide linear power division in a thousand core layout with minimal cross-overs. To address the network agility and provide for efficient use of optical bandwidth, a flow control and routing mechanism is introduced to dynamically allocate bandwidth and provide fairness usage of network resources. At the system level, bloom filter-based filtering for localization of communication are designed for reducing global traffic. In addition, a novel greedy-based data and workload migration are leveraged to increase the locality of communication in a NUCA (non-uniform cache access) architecture. First order analytic evaluation results have indicated that Hermes is scalable to at least 1024 cores and offers significant performance improvement and power savings over prior silicon photonic designs.

研究の動機と目的

• 大規模な多数コアシステムにおける既存のシリコンフォトニクスインターコネクトのスケーラビリティ制限を解消すること。
• 1,000コア以上のシステムにおいて、電気的および従来の光インターコネクトの電力非効率性と遅延ボトルネックを克服すること。
• グローバルブロードキャストにおいて線形な電力スケーリングと低遅延を達成するとともに、ローカルデータ転送の高帯域幅を維持すること。
• データおよびワークロード移行による通信局所性の向上を通じて、グローバル通信トラフィックを最小限に抑えること。
• 光ネットワークリソース across で効率的で、公平かつ動的帯域幅割り当てを可能にするシステムレベルアーキテクチャを設計すること。

提案手法

• ブロードキャストネットワークにおける低損失・コンactな光パワー分配を実現する新規SoIベースの断熱的カップラーの設計。
• 1,024コアレイアウトにおいて、最小限のクロストークとクロスオーバーを実現する2-ary折りたたみバタフライトポロジーの実装。
• 長距離メッセージの高スループット・低遅延ポイントツーポイント通信を実現するため、回路スイッチド光ネットワークの統合。
• 動的帯域幅割り当てとリソース使用の公平性を保証するためのフロー制御およびルーティングメカニズムの開発。
• グローバル-ローカルインターフェースでブルームフィルタベースのフィルタリングを適用し、通信を局所化してグローバルトラフィックを削減。
• NUCA（非一様キャッシュアクセス）アーキテクチャにおいて通信局所性を向上させるために、グリーディベースのデータおよびワークロード移行技術の導入。

実験結果

リサーチクエスチョン

• RQ1 ブロードキャストベースの光インターコネクトは、1,024コアに効率的にスケーリング可能であり、低電力と低遅延を維持できるか？
• RQ2 光インターコネクトは、指数的電力増加を伴わずに線形な電力スケーリングを達成できるか？
• RQ3 多数コアシステムにおけるデータおよびワークロード移行によって、通信局所性はどの程度向上できるか？
• RQ4 階層的設計は、グローバル通信オーバーヘッドを低減し、ネットワークのアジリティを向上させるか？
• RQ5 最新の設計と比較して、提案されたハイブリッド光電ネットワークの性能と電力効率のトレードオフはいかなるものか？

主な発見

• HERMESは96％の光パワー分配効率を達成し、コア数の増加に伴いスケーリングが著しく劣化するバス型およびクロスバーデザインを大きく上回る線形電力スケーリングを実現した。
• O(√N)の電力オーバーヘッドを伴いながら、少なくとも1,024コアにスケーリング可能であり、大規模システムにおける効率的運用を可能にした。
• 階層的設計と最適化ルーティングにより遅延がO(√N)に最小限に抑えられ、Irisのような理想の低遅延ネットワークに近い性能を発揮しながらも、スケーラビリティを維持した。
• 電力制約下でも帯域幅スケーリングがO(1)の傾向を示し、バス型やクロスバーネットワークと同等またはそれ以上の性能を達成した。
• ブルームフィルタベースのフィルタリングによりグローバルトラフィックが削減され、ネットワーク効率が向上し、競合状態が軽減された。
• グリーディベースのデータおよびワークロード移行により通信局所性が顕著に向上し、グローバルブロードキャストへの依存が低下し、全体的な遅延とエネルギー消費が削減された。